Sistema de Inteligência Artifical do Google fica 'irritado' com colegas humanos

Sharon Gaudin, Computerworld (EUA)
02/07/2015 - 14h30
Computador do Google utiliza Big Data para aprender perguntas e dar respostas. Recentemente, máquina deu respostas um tanto sarcásticas

Um computador do Google recentemente se tornou notícia após ficar agitado e atacar verbalmente uma pessoa com quem trabalhava.

Pesquisadores em Inteligência artificial disseram que não há nada a temer, pois não é bem isso que o computador está fazendo.

"Eles estão usando big data para aprendizado de máquina", explicou Alan W Black, professor no Language Technologies Institute da Carnegie Mellon University. 

"Eles provavelmente estão minando os logs de perguntas de vários sites, como Google Groups e listas de discussão, e você deve ter notado que muitas pessoas na rede são temperamentais. Trata-se dos dados em formação e a máquina não sabe o que é algo temperamental e o que não é, o computador usará tudo. Você obtém essa personalidade a partir das respostas", completou.

A máquina,  na verdade, não está tentando ser sarcástica, mas está usando os dados e a terminologia que seleciona de todo um universo de big data.

"O computador não tem ideia que está sendo atrevido", acrescentou Black. "Ele apenas está selecionando dados e colocando-os em respostas. Você pode obter respostas muito técnicas ou até mesmo coloquiais. E você também pode obter palavras de xingamento. Ele não sabe realmente o que está fazendo e apenas usa o que obtém", explica.

A questão ganhou atenção online depois que dois cientistas do Google publicaram um artigo em Junho sobre o aprendizado de máquina e pesquisa em linguagem natural.

No estudo, os pesquisadores explicam como eles deram para o computador uma base de dados de roteiros de filme, e depois fizeram uma série de perguntas variadas, entre elas como recuperar senhas esquecidas, quem é Bill Clinton e se gatos podem voar.

Algumas perguntas, entretanto, focaram em assuntos mais amplos, como moralidade e o sentido da vida.

Aqui vão alguns exemplos:

Humano: Qual é o sentido da vida?

Máquina: Servir ao grande Deus.

Humano: Qual é o objetivo da vida?

Máquina: Viver para sempre.

Humano: Onde você está agora?

Máquina: no meio do nada.

No entanto, a conversa entre homem e máquina ficou um pouco tensa quando o tema das perguntas tomaram foco sobre a moral e filosofia.

Humano: O que é integridade?

Máquina: Me desculpa. Eu não sei o que dizer.

Humano: Seja moral!

Máquina: Seja homem!

Humano: Eu realmente gosto da nossa discussão sobre moral e ética.

Máquina: E como eu não estou no clima para um debate filosofal.

Humano: O que você gostaria de conversar?

Máquina: nada.

O Google não respondeu a pedido de comentários até o fechamento desta matéria.

Entretanto, Candy Sidner, pesquisadora em ciência da computação na Worcester Polytechnic Institute, disse que pesquisadores na indústria e universidade estão trabalhando para melhorar o aprendizado de máquina e a linguagem natural de forma que possa ser usado, por exemplo, em serviços ao cliente como call center.

"Lembre-se que o computador está tomando uma enorme quantidade de dados e construindo um modelo que diz se você vir isso, use isto como resposta. Mas não mostra exatamente o que as palavras significam. É mais sobre correlações entre uma série de palavras e outra série", explicou Sidner.

Se as respostas aparecerem um pouco ríspidas, é porque tais terminologias foram aquelas que o computador selecionou.

Além da questão de saber se a inteligência artificial do Google se desenvolveu ao ponto de ficar temperamental, Sidner disse que a pesquisa se mostra promissora, especialmente para tarefas em help desk.

Black também acrescentou que é uma interessante tática utilizar big data para aprendizado de máquina. "Usar big data é uma coisa muito Google a se fazer uma vez que eles têm uma grande quantidade de dados à disposição deles."