MORALIDADE ARTIFICIAL?

Glauco Arbix
Lucas Carvalho

O que deve acontecer quando uma criança de bicicleta cruza o caminho de um carro sem motorista? Desviar da bicicleta, claro. Mas, e se a obediência do carro vier a provocar outro acidente, com outros adultos ou com mais crianças? Em palavras simples, uma tragédia maior? Com os humanos o resultado (para o bem ou para o mal) seria avaliado, processado, julgado na justiça ou seguiria qualquer outro caminho já aceito socialmente. Mas quando se trata de um carro autônomo a situação adquire contornos de uma tragédia.

Situações como essa são enfrentadas pelos pioneiros do “driverless car” e tornaram-se um dos maiores desafios para os carros autônomos. Como os algoritmos de Inteligência Artificial (IA) devem responder em situações críticas? Como preparar esse tipo de veículo para se comportar? Que decisão tomar diante do imprevisto?

O professor de Ciência da Computação da Universidade de Duke, Vincent Conitzer, aceitou esse desafio e pesquisa um sistema de IA que seja avançado o suficiente para fazer julgamentos e agir a partir deles. Julgamentos morais, seria isso? Se for, a tarefa não será nada fácil.

Conitzer aponta que “julgamentos morais são afetados por direitos (p.ex., privacidade), posição social (nas famílias), ações passadas (como promessas), motivos e intenções”. O problema é que esses componentes não estão incorporados aos sistemas de IA, o que se torna um enorme complicador. Seres humanos também estão sujeitos a esses dilemas. E não há regras ou códigos para solucioná-los. E, quando existem, os humanos podem desobedecê-los. Em entrevista ao blog “Futurism”, Conitzer afirmou que seu projeto procura assegurar que os sistemas de IA se tornem capazes de fazer escolhas morais, parecido com o que os seres humanos fazem diariamente.

O que incomoda indústria, governos e toda a comunidade acadêmica é que a moralidade não é objetiva, não é atemporal, nem sequer universal. Questões morais estão em constante transformação e variam de acordo com cada sociedade. Para tentar resolver esse impasse, Conitzer coordena uma equipe multidisciplinar, apta a combinar métodos de ciência da computação, da filosofia, sociologia, antropologia, direito e psicologia. Não há prazo para as conclusões. Embora os “driverless cars” já estejam em fase avançada de teste.

Assim caminha a humanidade e as tecnologias de ruptura. Esperamos que os riscos não sejam do tamanho que a nossa imaginação consegue desenhar.