Facebook cria AI para identificar textos ofensivos em imagens e vídeos

Da Redação
12 de setembro de 2018 - 11h30
Chamado de Rosetta, sistema da rede social usa Machine Learning para analisar diaraiemente cerca de 1 bilhão de imagens e frames de vídeos no FB e no Instagram.

O Facebook revelou nesta semana que está utilizando um novo sistema de Inteligência Artificial (AI) próprio para ajudar os seus moderadores a identificar e analisar textos de imagens e vídeos publicados pelos seus usuários. 

Conforme um post da rede social em seu blog Code, a ferramenta em questão é chamada de Rosetta e utiliza Machine Learning (Aprendizado de Máquina) para analisar em tempo real a grande quantidade de conteúdos publicados na plataforma. 

“Para atender às nossas necessidades específicas, desenvolvemos e implementamos um sistema de Machine Learning em grande escala chamado Rosetta. Ele extrai textos de mais de um 1 bilhão de imagens e frames de vídeos no Facebook e no Instagram (em uma ampla variedade de idiomas), diariamente e em tempo real, e insere esses dados em modelo de reconhecimento de texto que foi treinado em classificadores para entender o contexto do texto e da imagem juntos”, afirma o Facebook. 

Entre outras coisas, aponta a empresa, o novo sistema está sendo usado de várias maneiras pelas equipes do Facebook e do Instagram, incluindo melhorar a relevância e a qualidade das buscas por imagens e a precisão da classificação de fotos no Feed de Notícias.

Em seu post, a rede social também destaca que a Rosetta também está sendo usada para identificar de forma automática “conteúdos que violem a política de discurso de ódio da plataforma, em vários idiomas” – ou seja, memes e vídeos ofensivos.