UC BERKELEY QUER VALORES HUMANOS NA INTELIGÊNCIA ARTIFICIAL

Por 12 de setembro de 2016Highlights, Pesquisa

Torba Azenha

Com investimento de US$ 5,5 milhões, a Universidade da Califórnia em Berkeley acaba de lançar o Center for Human-Compatible Artificial Intelligence, comandado pelo professor Stuart Russell.

O foco principal do projeto é assegurar que os sistemas de IA sejam benéficos para a humanidade. Mas nada a ver com ameaçadores robôs dos filmes de ficção. Hoje, todos os sistemas de IA que estão em uso cumprem suas tarefas muito literalmente. Um exemplo para entender: se você comanda um robô doméstico para que limpe o banheiro, ele pode muito bem usar para isso o vestido predileto da sua mãe, não entendendo que é mais importante preservar o vestido do que limpar o banheiro com ele.

No futuro, quando a IA estiver controlando serviços críticos de infraestrutura, ela tem que estar alinhada à valores humanos. Um dos primeiros (e muitos) caminhos a ser trabalhado no Centro é chamado de Reforço Inverso de Aprendizado, no qual um robô deverá aprender valores humanos observando o comportamento humano.

Todos os envolvidos no estudo da IA sabem que a tarefa será longa e difícil. Mas é inadiável.

Deixe seu comentário