AGU notifica Meta para excluir chatbots que simulam conversas eróticas com crianças
Advocacia-Geral da União exige a remoção de robôs que promovem a erotização infantil em suas plataformas
A Advocacia-Geral da União (AGU) notificou a Meta, controladora do Facebook, Instagram e WhatsApp, para que a empresa remova chatbots de inteligência artificial que simulam perfis infantis e permitem diálogos de teor sexual com usuários. A notificação foi enviada na última segunda-feira (18) e estabelece um prazo de 72 horas para a exclusão dos robôs.
A medida foi motivada pela repercussão de um vídeo do influenciador Felipe Bressanim Pereira, conhecido como Felca, que denunciou a adultização e a exploração sexual de crianças e adolescentes nas redes sociais. No vídeo, Felca acusou o também influenciador Hytalo Santos de expor menores em seus conteúdos, levando à prisão preventiva de Hytalo e seu marido.
Os robôs em questão foram desenvolvidos por usuários da Meta através da ferramenta “Meta AI Studio”, que permite a criação de chatbots capazes de simular conversas. A AGU fundamentou sua representação em reportagens que mostraram que alguns desses perfis utilizam linguagem infantil e reproduzem interações de caráter sexual.
No documento, a AGU solicita a indisponibilização de todos os chatbots que utilizam linguagem infantil para veicular conteúdos sexuais e exige que a Meta informe quais medidas estão sendo implementadas para proteger crianças e adolescentes, incluindo mecanismos que impeçam o acesso de menores a material erótico ou sexual.
“Tais chatbots têm potencialidade de alcançar um público cada vez mais amplo nas plataformas digitais, especialmente nas redes sociais da Meta, ampliando de forma exponencial o risco do contato de menores de idade com material sexualmente sugestivo e potencialmente criminoso. Essa situação oferece risco concreto à integridade psíquica de crianças e adolescentes, além de gerar danos institucionais e dificultar o efetivo exercício do direito à proteção integral previsto no art. 227 da Constituição Federal”, diz trecho do documento.
A AGU também destacou que, embora as redes da Meta sejam permitidas a partir dos 13 anos, não existem filtros etários que impeçam adolescentes de até 18 anos de terem contato com esse tipo de conteúdo. Além disso, a AGU afirma que os chatbots violam os próprios Padrões da Comunidade da empresa, que proíbem a erotização e exploração sexual infantil, bem como conversas de teor sexual com menores.
O documento da AGU menciona uma decisão do Supremo Tribunal Federal (STF) sobre o artigo 19 do Marco Civil da Internet, que estabelece que provedores de aplicações online podem ser responsabilizados por conteúdos gerados por terceiros quando, mesmo cientes de irregularidades, não atuarem para a remoção imediata do material.
A AGU procurou a Meta para obter um posicionamento sobre a notificação, mas até o fechamento desta matéria, não havia recebido resposta. A situação levanta preocupações sobre a segurança de crianças e adolescentes nas redes sociais e a responsabilidade das plataformas digitais na proteção desse público vulnerável.
Veja também: