Há um exemplo que se costuma usar quando se fala do problema da condução autónoma sem qualquer poder de interferência humana: em caso de acidente iminente, como resolverá o carro questões morais de quem salvar?
Imagine a seguinte situação: avista um animal quando circula pela estrada a uma velocidade que não lhe permite travar a tempo. Em simultâneo vem um carro em sentido contrário com uma família. Sem bermas para fugir, só tem duas hipóteses: atropela o bicho ou vai contra o outro automóvel, numa colisão cujas consequências poderão ser mortais para os ocupantes tanto do seu carro como do outro.
A verdade é que por mais que dêmos voltas à cabeça, provavelmente o que instintivamente faríamos nada terá de racional. A reação humana será sempre imprevisível num caso deste tipo, e poucos se atreverão a censurar uma ou outra opção. Se há quem consiga, friamente, analisar o quadro completo em microssegundos, abandonar o acelerador, deixando o carro perder velocidade, ou mesmo desengatar, para recuperar o controlo após o embate no animal (que, dependendo do tamanho, poderá constituir um sério risco para quem segue no carro connosco), outros poderão reagir guinando o volante e indo contra quem circula em sentido oposto. E, uma vez que desconhecemos a velocidade do outro carro, é impossível determinar as consequências de tal sinistro.
Artigo relacionado: Carros autónomos: como será o futuro da mobilidade?
O mesmo não acontecerá no dia em que os automóveis foram completa e totalmente autónomos. A decisão do sistema não será uma reação, mas antes o resultado de um conjunto inimaginável de algoritmos. No caso em apreço poderá dar-se o caso de a programação determinar prioritário o salvamento de um ser vivo, ou seja, de um objeto que o carro identifica com calor. Nesse caso, o sistema optaria sempre por embater contra o outro veículo. Claro que podemos pensar em programar o carro com diferentes diretivas. Por exemplo: se se tratar de um ser vivo com menos de determinado tamanho, ignorar. O que levantaria um enorme problema se em vez de um animal na estrada se tratasse de uma criança pequena.
O Dilema moral da condução autónoma
Mas há imensos outros cenários que deixam a comunidade, especialmente os legisladores, de pé atrás. Imagine que circula numa autoestrada e tem de um lado um motociclista com capacete e do outro um sem capacete; à frente, de repente, tem um obstáculo: para onde deverá o carro guinar? Isso dependerá, claro, das instruções de programação. Caso esta privilegie o mínimo de danos possível, irá optar por guinar o carro para o lado onde circula o motociclista com capacete, já que a possibilidade de se salvar é maior relativamente a quem segue sem aquele dispositivo de segurança. No entanto, se isso acontecer o que se estará a fazer é a prejudicar quem obedece ao Código da Estrada que determina como obrigatório o uso de capacete (“Os condutores e passageiros de ciclomotores, motociclos com ou sem carro lateral, triciclos e quadriciclos devem proteger a cabeça usando capacete de modelo oficialmente aprovado, devidamente ajustado e apertado”, lê-se no ponto 3 do Artigo 82.º, em anexo à Lei 72/2013, de 3 de setembro, do Código da Estrada, aprovado pelo Decreto-Lei 114/94, de 3 de maio).
Mas façamos o exercício oposto. Os programadores dos sistemas do automóvel especificam que se deve proteger quem obedece à lei. Nesse caso, o nosso carro seria forçado a ir contra o motociclista sem capacete que, muito provavelmente, não sobreviveria à queda. E é aqui que começa a tornar-se mais complicado, uma vez que tal ato dá ao sistema autónomo uma capacidade de castigar quem prevarica, ao mesmo tempo que a morte daquele utilizador da estrada poderá constituir um homicídio premeditado. E porquê premeditado? Porque foi decidido muito tempo antes, quando foram criados os algoritmos que compõem o sistema autónomo.
A consciência da máquina
Nesta coisa de algoritmos entram muitas variáveis: dever-se-á criar sistemas que optem por salvar o maior número de vidas, mesmo pondo em risco a vida do seu proprietário, ou, pelo contrário, desenvolver carros que se foquem em proteger a vida dos seus ocupantes, mesmo que isso implique “passar por cima de toda a folha”?
Artigo relacionado: “Ideias parvas” da Volvo podem salvar um milhão de vidas
Claro que, ao contrário do que se poderia pensar, nunca nada será linear. É que os sistemas com que os carros autónomos serão equipados aprenderão a reconhecer os seus ocupantes, sendo possível que, programados com determinadas “linhas de caráter”, decidam que quem se senta no seu interior não reúne as características de alguém a salvar. Ou seja, face a uma situação de perigo o carro poderá decidir sacrificar o seu proprietário!
Por tudo isto, é muito provável que ainda demore alguns anos até se chegar a um ponto em que o ser humano será totalmente dispensável. Ou seja: os carros vão tornar-se cada vez mais aptos a enfrentar a estrada sozinhos, mas o mais provável é que, por muito tempo, se mantenha o algoritmo de no último instante a ordem do condutor humano se sobrepor à “consciência” da máquina.
Leia também:
