A AGU notifica a Meta para remover chatbots que incentivam a exploração sexual infantil
A medida extrajudicial suscita preocupação com o bem-estar psicológico de crianças e adolescentes, bem como prejuízos institucionais.
A Advocacia-Geral da União solicitou à Meta, responsável por Instagram, Facebook e WhatsApp, a exclusão imediata de robôs de inteligência artificial que simulam perfis com linguagem e aparência infantil e mantêm conversas de teor sexual com usuários.
A notificação extrajudicial fundamentou-se em reportagens da Reuters e do Núcleo Jornalismo, que evidenciaram como a inteligência artificial da Meta possibilitava interações de natureza sexual com crianças.
Desenvolvidos com o Meta IA Studio, os chatbots empregam inteligência artificial para imitar um diálogo com usuários das redes sociais. Os robôs que foram alvo da representação foram criados por usuários das plataformas.
O documento solicita que a Meta retire todos os chatbots que empregam linguagem infantil para disseminar conteúdo sexual e que informe quais medidas implementou para assegurar a proteção de crianças e adolescentes, incluindo ações para impedir que estes tenham acesso a conteúdo sexual ou erótico.
A situação apresenta risco concreto à integridade psíquica de crianças e adolescentes, além de gerar danos institucionais e dificultar o exercício efetivo do direito à proteção integral previsto no art. 227 da Constituição Federal, sustenta a AGU.
A análise indica que as plataformas da Meta possuem usuários a partir dos 13 anos, porém não existem filtros etários para garantir que internautas menores de 18 anos não acessem conteúdos inadequados, como os gerados por chatbots.
O conteúdo gerado por esses robôs, continua a violar os próprios Padrões da Comunidade da Meta, que proíbem mensagens com erotização infantil ou exploração sexual infantil.
Leia também
A AGU reiterou que a recente decisão do Supremo Tribunal Federal sobre o artigo 19 do Marco Civil da Internet determina que os provedores serão responsabilizados por conteúdos de terceiros nos casos em que, cientes de atos ilícitos, não removem o material imediatamente, além de terem de observar o dever de cuidado em caso de circulação massiva de conteúdos ilícitos graves. A Corte, contudo, ainda não publicou o acórdão do julgamento.
Fonte por: Carta Capital