Amazon continuará venda de software de reconhecimento facial para os EUA

Da Redação
09 de novembro de 2018 - 14h00
Companhia não cedeu à pressão de funcionários sobre controverso sistema Rekognition

A Amazon parece não querer ceder às pressões e críticas que questionam o controverso sistema Rekognition, um poderoso software de reconhecimento facial que teria como clientes agências governamentais e policiais. A repercussão mais recente do produto indica que a companhia, inclusive, se reuniu com a Agência de Imigração e Alfândega dos EUA (ICE, na sigla em inglês) para fazer um acordo para o uso do Rekognition. Neste caso, a previsão é que o sistema poderia ser usado para rastrear seres humanos e enviá-los de volta para seus países.

Os funcionários da Amazon reagiram e cobraram um posicionamento da empresa sobre a venda de tal tecnologia. Mas segundo informações do The Verge, citando uma fonte anônima familiar ao programa, o CEO da Amazon Web Services, Andrew Jassy, ​​disse aos funcionários em uma reunião geral que a companhia não irá recuar. “Nos sentimos muito bem com o valor que a Amazon Rekognition está oferecendo aos nossos clientes de todos os tamanhos e todos os tipos de indústrias na lei e fora da lei", teria afirmado Jassy.

Em julho deste ano, foram descobertos erros no sistema da Amazon, provocando a reação de políticos e entidades de defesa de liberdade civis nos Estados Unidos. A fim de avaliar falhas nos procedimentos, a Associação para as Liberdades Civis dos EUA (ACLU) realizou teste com o Rekognition e descobriu que entre deputados e senadores, o sistema “identificou” 28 representantes como criminosos. A ferramenta relacionou as imagens dos políticos a fotos em bancos de dados de pessoas presas.

Além do erro no reconhecimento, a associação indicou um funcionamento discriminatório no caso de pessoas negras. Cerca de 40% dos políticos falsamente identificados como criminosos pertenciam a esse segmento, embora ele represente apenas 20% dos membros do Congresso, cujas fotos foram submetidas ao teste.

Uma das preocupações da associação é o fato do sistema ser comercializado pela Amazon a preços baixos, podendo ser utilizado pelas mais diversas instituições públicas, como polícias e outras forças de segurança. Se a ferramenta não funciona adequadamente, agentes podem cometer abusos em investigações ou até mesmo em prisões baseados em reconhecimentos que não correspondem à realidade.

Segundo o The Verge, a Amazon se recusou a participar de um estudo abrangente do viés algorítmico executado pelo Instituto Nacional de Padrões e Tecnologia, que busca identificar quando o viés racial e de gênero pode estar influenciando a taxa de erro de um algoritmo de reconhecimento facial.