Moralidade ou o último dos níveis de condução autónoma

A condução autónoma é uma quimera automobilística que está mais próxima do que nunca. Vivemos anos fundamentais que marcarão o itinerário desta tecnologia nas décadas que aí vem. No entanto, tudo indica que, para já, ainda nos encontramos numa fase muito prematura.

Até mesmo os atuais sistemas de assistência à condução denotam que ainda há muito a resolver na indústria automotiva, nas instituições públicas, nas empresas tecnológicas e nos restantes implicados neste setor. Mas isto não é um impedimento para que os investigadores comecem a pensar em como irão resolver um dos principais problemas no uso da tecnologia. Falamos dos dilemas morais no âmbito da segurança rodoviária.

Uma experiência científica, chamada de «A Máquina moral», sondou a opinião pública para perceber como haveriam de atuar os veículos autónomos em situações moralmente comprometedoras. Para entender em pleno os resultados, é preciso refletir sobre como será o desenvolvimento da tecnologia, como tal, foram estabelecidos seis níveis oficiais de condução autónoma.

Os 6 níveis de condução autónoma

Os níveis são o resultado da projeção realizada pela Sociedade Internacional de Engenheiros Automotivos (SAE). O principal critério que define as diferentes fases é a interação entre o condutor e o veículo autónomo, que, segundo a sua atuação, vai ganhando independência.

• Nível 0. Veículo sem piloto automático.
• Nível 1. Assistência à condução.
• Nível 2. Automatização parcial.
• Nível 3. Automatização condicional.
• Nível 4. Escala de automatização elevada.
• Nível 5. Automatização total do veículo.

Do nível 1 ao 3, humano e carro conduzem de forma combinada. É a partir do nível 4 - em que a intervenção humana é cada vez menor - e do nível 5 - em que a condução autónoma é plena - que surgem os problemas. Na última fase, os veículos teriam de ter volante, pedais e outros dispositivos para que o humano pudesse tomar o controlo.

Moralidade: O nível 6 de condução autónoma

Estes níveis referem-se a um desenvolvimento funcional, baseado na capacidade do veículo. Contudo, conforme a maior responsabilidade vai recaindo nos sistemas autónomos, mais complexa se torna a tomada de decisões.

Neste ponto surgem os dilemas morais. Perante uma situação extrema em que o responsável pelo veículo (seja humano ou máquina) tenha de fazer sacrifícios, como deveria atuar? Esta é a pergunta da anteriormente mencionada experiência científica, que foi executada em forma de videojogo.

Neste jogo, os jogadores são desafiados a fazer as vezes do carro autónomo e são convidados a resolver até dez dilemas com consequências mortais. A chave da experiência reside no rol das vítimas: os ocupantes do veículo, peões idosos, grávidas que atravessam fora das passadeiras e até animais.

Quantos mais salvar, melhor

A simples experiência, tal e qual ficção científica, move-se nos limites entre o desenvolvimento de engenharia de ponta, inteligência artificial, moralidade e filosofia das ações humanas. Parece inevitável que, no seu comportamento, seja preferível desenhar para os veículos um sistemas de valores que imite, na medida do possível, o humano.

É assim que se explicam os resultados da experiência. Os jogadores tendem, de forma maioritária, a salvar o maior número de pessoas, favorecendo as crianças aos mais velhos e as pessoas aos animais.

A amostra indica o êxito desta investigação colaborativa, na qual participaram mais de dois milhões de pessoas em mais de 233 países. Claro que os resultados do estudo variam também em função da localização, sendo curioso que em certos países se castiguem mais as atitudes onde seja cometida uma infração legal.

Igualdade ou discriminação «positiva»?

Eis o que diz o principal responsável do projeto, Edmond Awad:

(…) implantar um único conjunto de normas em todos os países seria complicado. A mesma norma aplicada em diferentes lugares poderia ser distintamente recebida pelas populações.

É por isso que o último nível da condução autónoma, o que exige dotar os veículos de uma moralidade própria, tem uma solução tão complexa quanto longínqua. Um dilema que não está próximo de se resolver.

Devem os carros autónomos discriminar entre vítimas, tal como os humanos têm oportunidade de fazer? Ou devem aplicar-se princípios não discriminatórios e de igualdade para resolver essas situações? Certo é que não podemos embarcar na aventura do veículo autónomo em deixar estas questões todas encerradas. É uma problemática de peso que recairá em força sobre os legisladores na próxima década.

Imagens | iStock/Zapp2Photo, iStock/Scharfsinn86 e iStock/aaron007