Instagram avança no uso de AI para detectar bullying em fotos e legendas

Da Redação
09 de outubro de 2018 - 12h00
Empresa anunciou que usará AI para detectar proativamente bullying antes de enviar conteúdo para revisão de moderadores humanos

O Instagram está concentrando esforços para barrar conteúdo ofensivo na rede social. Depois de introduzir no ano passado, um filtro de comentários que usa aprendizado de máquina para identificar palavras e frases de ódio em comentários, agora está expandindo cobertura semelhante para fotos e legendas. A empresa anunciou nesta terça-feira (09) que usará inteligência artificial para “detectar proativamente bullying” antes de enviar conteúdo para revisão de moderadores humanos.

O novo recurso chegará aos usuários nas próximas semanas. A mesma tecnologia também está sendo adicionada a vídeos ao vivo para filtrar comentários. O Instagram afirma que não está apenas analisando legendas de fotos para identificar bullying, mas também a própria foto. 

Novos filtros também chegarão ao Stories, incluindo um que a rede social chama de “efeito de câmera de bondade”. Ao usar a câmera traseira, os efeitos preenchem a tela com uma sobreposição de comentários gentis em vários idiomas. Ao mudar para a câmera frontal, você terá um brilho de corações e um incentivo educado para marcar um amigo que deseja apoio. A iniciativa parece uma forma de espalhar uma mensagem positiva como um método para aumentar o engajamento do usuário. 

Este é o primeiro anúncio de produto sob o novo chefe do Instagram, Adam Mosseri, que assumiu o cargo após a saída repentina dos cofundadores Kevin Systrom e Mike Krieger no mês passado. A saída dos dois executivos se deu, supostamente, em meio a desentendimentos entre Mark Zuckerberg, CEO do Facebook. 

Citando fontes anônimas familiarizadas com o assunto, a Bloomberg disse que Systrom e Krieger estavam frustrados com o aumento do envolvimento diário de Zuckerberg, que se tornou mais dependente do Instagram no planejamento do futuro do Facebook.