Um carro autônomo deveria matar o bebê ou a avó? Depende de onde você é.

O infame “problema do carrinho” foi colocado em milhões de pessoas em um estudo global, revelando o quanto a ética diverge entre as culturas.

Em 2014, os pesquisadores do MIT Media Lab projetaram um experimento chamado Moral Machine. A idéia era criar uma plataforma semelhante a um jogo que agrupasse as decisões das pessoas sobre como os carros autônomos deveriam priorizar vidas em diferentes variações do “problema do carrinho”. No processo, os dados gerados forneceriam insights sobre as prioridades éticas coletivas de culturas diferentes.

Os pesquisadores nunca previram a recepção viral do experimento. Quatro anos após o lançamento da plataforma, milhões de pessoas em 233 países e territórios registraram 40 milhões de decisões, tornando-o um dos maiores estudos já realizados sobre preferências morais globais.

Um novo artigo publicado na Nature apresenta a análise desses dados e revela o quanto a ética transcultural diverge com base na cultura, economia e localização geográfica.

O problema clássico do carrinho é o seguinte: você vê um carrinho fugindo correndo pelos trilhos, prestes a atingir e matar cinco pessoas. Você tem acesso a uma alavanca que poderia mudar o carrinho para uma pista diferente, onde uma pessoa diferente encontraria uma morte prematura. Você deve puxar a alavanca e terminar uma vida para poupar cinco?

A Máquina Moral adotou essa idéia para testar nove comparações diferentes mostradas para polarizar as pessoas: um carro autônomo deveria priorizar os seres humanos em relação a animais de estimação, passageiros a pedestres, mais vidas a menos, mulheres a homens, jovens a mais velhos, se encaixam em doenças sociais mais elevadas? status mais baixo, cumpridores da lei do que legisladores? E, finalmente, o carro deve desviar (agir) ou permanecer no rumo (inação)?

Em vez de fazer comparações individuais, no entanto, o experimento apresentou aos participantes várias combinações, como se um carro autônomo deveria continuar em frente para matar três pedestres idosos ou se desviar de uma barricada para matar três passageiros jovens.

Os pesquisadores descobriram que as preferências dos países diferem amplamente, mas também se correlacionam muito com a cultura e a economia. Por exemplo, participantes de culturas coletivistas como China e Japão são menos propensos a poupar os jovens do que os velhos – talvez, sugeriram os pesquisadores, por causa de uma ênfase maior no respeito aos idosos.

Da mesma forma, participantes de países mais pobres com instituições mais fracas são mais tolerantes com os praticantes de caminhada do que com os pedestres que atravessam legalmente. E participantes de países com alto nível de desigualdade econômica mostram maiores lacunas entre o tratamento de indivíduos com alto e baixo status social.

E, no que se resume à questão essencial do problema do carrinho, os pesquisadores descobriram que o grande número de pessoas em perigo nem sempre era o fator dominante na escolha de qual grupo deveria ser poupado. Os resultados mostraram que os participantes de culturas individualistas, como o Reino Unido e os EUA, enfatizaram mais a economia de vidas dadas todas as outras opções – talvez, na opinião dos autores, devido à maior ênfase no valor de cada indivíduo.

Os países próximos um do outro também mostraram preferências morais mais próximas, com três grupos dominantes no Ocidente, Leste e Sul.

Os pesquisadores reconheceram que os resultados poderiam ser distorcidos, uma vez que os participantes do estudo foram auto-selecionados e, portanto, mais propensos a serem conectados à Internet, de alta posição social e conhecedores de tecnologia. Mas os interessados ​​em dirigir carros autônomos provavelmente também terão essas características.

O estudo tem implicações interessantes para os países que atualmente testam carros autônomos, uma vez que essas preferências podem desempenhar um papel na definição do design e na regulamentação desses veículos. As montadoras podem descobrir, por exemplo, que os consumidores chineses entrariam mais facilmente em um carro autônomo que se protegia dos pedestres.

Mas os autores do estudo enfatizaram que os resultados não pretendem ditar como os diferentes países devem agir. De fato, em alguns casos, os autores consideraram que tecnólogos e formuladores de políticas deveriam substituir a opinião pública coletiva. Edmond Awad, autor do artigo, trouxe a comparação do status social como exemplo. “Parece preocupante que as pessoas achem aceitável, em grau significativo, poupar status mais alto do que baixo”, disse ele. “É importante dizer: ‘Ei, nós poderíamos quantificar isso’ em vez de dizer ‘Ah, talvez devêssemos usar isso’.” Os resultados, ele disse, devem ser usados ​​pela indústria e pelo governo como base para entender como o público reagiria à ética de diferentes decisões políticas e de design.

Awad espera que os resultados também ajudem os tecnólogos a pensar mais profundamente sobre a ética da IA ​​além dos carros autônomos. “Usamos o problema do carrinho porque é uma maneira muito boa de coletar esses dados, mas esperamos que a discussão sobre ética não fique dentro desse tema”, disse ele. “A discussão deve passar para a análise de risco – sobre quem está mais ou menos em risco – em vez de dizer quem vai morrer ou não, e também sobre como está ocorrendo um viés.” Como esses resultados podem se traduzir em um projeto e regulamentação mais éticos da IA ​​é algo que ele espera estudar mais no futuro.

“Nos últimos dois, três anos mais pessoas começaram a falar sobre a ética da IA”, disse Awad. “Mais pessoas começaram a perceber que a IA poderia ter consequências éticas diferentes para diferentes grupos de pessoas. O fato de vermos pessoas envolvidas com isso – acho que isso é algo promissor. ”

Links úteis

https://www.technologyreview.com/s/612341/a-global-ethics-study-aims-to-help-ai-solve-the-self-driving-trolley-problem/