Em 2016 o MIT lançou um inquérito chamado Moral Machine, onde perguntava a pessoas de todo o mundo que tipo de decisões os automóveis autónomos deviam tomar em situações complicadas onde tenham que decidir “quem matar”. E agora, temos os resultados.
A questão deu bastante que falar na altura, recriando problemas hipotéticos do tipo: se um carro autónomo estiver na iminência de matar uma pessoa, deverá evitar matá-la, mesmo que para isso tenha que chocar com uma parede e potencialmente matar os ocupantes? E se em vez de uma pessoa for um grupo de crianças; ou um criminoso; ou um executivo?
As variantes são mais que muitas, e o MIT relembra o facto de que estes resultados visam apenas espelhar a opinião de milhões de pessoas espalhadas pelo mundo, e não deverão ser encarados como um “guia directo” que deva ser transposto para os sistemas de controlo dos automóveis.
Os resultados são curiosos, no sentido em que por um lado confirmam uma tendência moral global que se manteve constante entre todas as pessoas que responderam, como a de dar prioridade às vidas humanas face à vida de animais, dar maior valor a grupos de pessoas do que uma só, e também valorizar a vida de crianças face a adultos; mas por outro lado, revelam diferenças regionais. Países mais ricos têm maior probabilidade de dar preferência a salvar uma pessoa com estatuto elevado face a um “mendigo”; em países mais pobres essa tendência inverte-se.
São resultados que deverão ser analisados em detalhe, já que será inevitável que, por iniciativa própria dos fabricantes destes sistemas, ou por legislação, este tipo de questões tenha que ser considerada. Até ao momento, o único país que já legislou sobre isto foi a Alemanha, para especificar que todas as vidas devem ser consideradas como tendo valor igual, e que por isso não será admissível que um carro eventualmente desse prioridade a salvar uma pessoa rica face a uma pobre; mas de igual modo também não daria prioridade a salvar uma criança face a matar uma pessoa velha.
É um tema que seguramente irá dar bastante que falar…mas de preferência, esperemos que os automóveis autónomos atinjam um tal nível de segurança, que nunca chegue a ser necessário porem em acção estas regras morais.