Por que a nova Inteligência Artificial do Google levanta preocupações éticas

IDG News Service, com Redação
11/05/2018 - 16h15
Apresentada na Google I/O, Google Duplex parece imitar perfeitamente a voz humana; Para especialista, companhia precisa alertar que interlocutores falarão com um robô

No início desta semana, o CEO do Google, Sundar Pichai, demonstrou o Google Duplex, uma ferramenta de inteligência artificial na qual a gigante de tecnologia vem trabalhando há algum tempo. A assistente virtual liga para um salão de beleza e reserva um corte de cabelo e interage com um humano real no outro lado a linha. Na demonstração, a naturalidade do robô conquistou risos da audiência. Entretanto, a comunidade acadêmica e especialistas não tiveram a mesma recepção.

Para o especialista em inteligência artificial da Universidade de New South Wales, Hussein Abbass, há uma questão ética a se levar em conta aqui. Em um artigo publicado pela universidade, Abbass disse que a demonstração da inteligência artificial do Google, apesar de divertida, levantou uma questão importante: você tem o direito de saber que está falando com uma máquina?

Abbass apontou que, ao contrário de Siri, Alexa e outros assistentes de IA, o Duplex fala como um humano convincente. Durante a apresentação, Duplex foi feito para parecer mais humano usando “ums” e “mmm-hmms” durante a conversa, onde era altamente provável que a pessoa do outro lado da linha não soubesse que estava falando com um robô . Ele apontou que isso representa uma preocupação ética e o Duplex deveria se apresentar como um robô.

"O ponto chave aqui é que ele deve se identificar", disse Abbass no artigo. “No vídeo, a AI Duplex disse que está ligando em nome de um cliente. O humano do outro lado da linha nunca pediu para se identificar. Se o AI Duplex usa um nome humano para ganhar a confiança, então claramente há um elemento de decepção e a IA estaria agindo de forma antiética.

"Se o AI Duplex se identificar como um robô automatizado ou similar, então será o humano quem decide se deseja continuar a conversa", disse ele.

O Google Duplex coleta assinaturas de vozes humanas que continuam a treinar o robô e até mesmo sua própria voz parece ser uma síntese de uma ou mais vozes humanas.

"Esses seres humanos precisam ter mais consciência de como seus dados são usados ​​e precisam oferecer consentimento explícito para a coleta e para o uso pretendido dos mesmos", argumenta o especialista.

O artigo ainda pergunta: "Se pudermos confiar na Duplex para fazer nossos compromissos de cabeleireiro, também podemos confiar nela para fazer uma ligação de emergência?". Abbass disse que isso poderia ter seus prós e contras.

“Um assistente de carro poderia chamar a ambulância em caso de emergência, como um acidente, e neste caso, é uma tecnologia que salva vidas. Se for mal utilizada, então, como qualquer tecnologia, é um ato inadequado, que pode até ser ilegal. ”

Abbass acredita que a tecnologia tem um longo caminho a percorrer antes que seja capaz de sustentar longas discussões humanas.

Google reage

Em resposta às polêmicas, o Google informou que o Google Duplex terá uma espécie de alerta quando chegar ao consumidor final.

Em comunicado enviado ao The Verge, a empresa disse que o que foi apresentado durante a conferência era uma demonstração da tecnologia e que espera, ansiosamente, incorporar o feedback recebido a medida que desenvolve o novo produto. A companhia disse que a "transparência" na tecnologia é importante e reconhece o valor da discussão ao redor do Google Duplex.