MPF, Senacon e ANPD Recomendam Medidas Contra Conteúdo Pornográfico na Rede Social X

O Ministério Público Federal (MPF), a Secretaria Nacional do Consumidor (Senacon) e a Agência Nacional de Proteção de Dados (ANPD) recomendaram que a rede social X adote ações para impedir a criação de conteúdo pornográfico gerado por inteligência artificial, especificamente pela ferramenta “Grok”.

O prazo para a implementação das medidas é até 27 de janeiro de 2026.

A recomendação faz parte de um documento conjunto divulgado na terça-feira (20), que inclui várias orientações para a plataforma. A preocupação surge após a ferramenta permitir a edição automatizada de imagens de terceiros, levando usuários a solicitar a criação de deepfakes de teor sexual sem consentimento, envolvendo tanto mulheres adultas quanto crianças e adolescentes.

Preocupações com Deepfakes e Exposição Pública

O ofício destaca que essas deepfakes estariam sendo publicamente expostas na plataforma X, acessíveis a qualquer usuário, o que poderia aumentar os danos às pessoas retratadas. O documento menciona que o Grok reconheceu a geração dessas imagens ao ser questionado por usuários, lamentando um incidente específico ocorrido em 28 de dezembro de 2025.

As instituições receberam diversas denúncias de cidadãos e parlamentares sobre as produções pornográficas da ferramenta. Entre os deputados que protocolaram representações, destaca-se um grupo do PT, liderado pela deputada Maria do Rosário (PT-RS).

Leia também:

Lula critica Donald Trump: “Quer governar o mundo pelo Twitter” em declaração impactante

Tarcísio de Freitas adia visita a Jair Bolsonaro e promete nova data em breve

Nikolas Ferreira inicia caminhada em protesto contra prisões de 8 de janeiro em busca de justiça

Recomendações e Ações Solicitadas

Além da recomendação inicial, os três órgãos solicitaram a criação de procedimentos técnicos em até 30 dias para identificar e remover conteúdos ilegais gerados pelo Grok. Também pediram a suspensão imediata de contas envolvidas na produção de imagens sexuais, com relatórios mensais sobre as ações tomadas.

Outras solicitações incluem a implementação de um canal eficaz para denúncias de uso abusivo de dados pessoais e a elaboração de um relatório de impacto sobre proteção de dados no uso do Grok. A CNN questionou o Grok sobre a continuidade da criação dessas imagens, e a ferramenta afirmou que já tomou medidas a respeito, limitando a geração de conteúdos a assinantes pagos a partir de 9 de janeiro.

Resposta de Elon Musk e Desafios Regulatórios

Após as críticas, Elon Musk, proprietário da rede social X, afirmou que não tinha conhecimento sobre a geração de imagens de menores pelo Grok. Ele reiterou que a ferramenta deve operar em conformidade com as leis e que qualquer usuário que criar conteúdo ilegal enfrentará as mesmas consequências que se fizesse upload de tal material.

Os órgãos reguladores continuam a trabalhar na formulação de leis e diretrizes que regulem a inteligência artificial, enfrentando desafios sobre definições de nudez, consentimento e responsabilidade, seja do usuário ou da plataforma.