Governo e MP recomendam que X impeça conteúdos sexualizados gerados pelo Grok

A Autoridade Nacional de Proteção de Dados (ANPD), a Secretaria Nacional do Consumidor (Senacom) e o Ministério Público Federal (MPF) emitiram uma recomendação conjunta à plataforma X (antigo Twitter) para coibir o uso da inteligência artificial Grok na geração de conteúdos sexualizados sem consentimento. O documento, divulgado na terça-feira (20), estabelece um prazo de 30 dias para a implementação de filtros e mecanismos de controle.

A medida responde a denúncias de usuários e reportagens que revelaram a criação de deepfakes pornográficos envolvendo pessoas reais, incluindo crianças e adolescentes, a partir de comandos de usuários na ferramenta da plataforma.

As instituições determinaram que a empresa controladora do X adote providências imediatas para assegurar a proteção da dignidade humana e dos dados pessoais. Entre as principais exigências, a serem cumpridas em até 30 dias, estão: a remoção de conteúdo, por meio da criação de procedimentos técnicos e operacionais para identificar, revisar e excluir imagens e áudios sexualizados gerados pelo Grok; bloqueio imediato de perfis envolvidos na produção ou disseminação de conteúdos eróticos sintéticos; e a implementação de um mecanismo acessível e transparente para que as vítimas possam exercer seus direitos e solicitar a remoção de dados.

COAUTORIA

Um dos pontos centrais da recomendação é o entendimento de que a plataforma não atua meramente como intermediária nesses casos. Como o conteúdo é gerado por uma ferramenta de IA criada e disponibilizada pelo próprio X, os órgãos argumentam que a empresa é "coautora" das imagens sintéticas, o que afasta a proteção de irresponsabilidade prevista originalmente no artigo 19 do Marco Civil da Internet.

As instituições destacam ainda que a conduta viola a própria política de autorregulação do X, que já proíbe nudez não consensual, mas falha em aplicar filtros rigorosos no Grok para impedir tais abusos.

REGULAÇÃO DAS PLATAFORMAS

O alerta conjunto reforça que o Supremo Tribunal Federal (STF) já reconheceu o dever de cuidado das plataformas na circulação de crimes graves. Caso as recomendações não sejam acatadas ou as medidas sejam consideradas insuficientes, a ANPD, a Senacom e o MPF afirmam que adotarão sanções administrativas e judiciais para garantir a proteção de mulheres, crianças e adolescentes brasileiros.

Até o momento, a plataforma X não se manifestou publicamente sobre o recebimento das recomendações.