Governo e MPF recomendam que X impeça conteúdos sexualizados indevidos por meio do Grok

A Agência Nacional de Proteção de Dados (ANPD), a Secretaria Nacional do Consumidor (Senacom) e o Ministério Público Federal (MPF) apresentaram uma recomendação conjunta ao X (antigo Twitter). O documento exige medidas da plataforma diante de denúncias sobre o uso de seu assistente de inteligência artificial Grok para gerar conteúdos sintéticos de caráter sexualizado, os chamados deepfakes, a partir de imagens de pessoas reais sem o consentimento delas. As instituições deram prazo até 27 de janeiro para a empresa informar a adoção de medidas.

A imprensa nacional e internacional tem reportado o uso da ferramenta para a criação de deepfakes – imagens falsas a partir de pessoas reais – com caráter sexualizado, erótico e com conotação pornográfica. Estes conteúdos envolvem mulheres, crianças e adolescentes reais.

Riscos à dignidade e dados pessoais

“Dada a seriedade das ocorrências, elas podem impactar, de forma concomitante, a proteção de dados pessoais, as relações de consumo, a dignidade da pessoa humana e outros direitos difusos, coletivos e individuais indisponíveis, em especial de mulheres, crianças e adolescentes”, afirmaram as instituições em conjunto.

Medidas exigidas e possíveis sanções

A ANPD, a Senacom e o MPF estabeleceram até 27 de janeiro como prazo final para a empresa informar sobre a adoção de medidas técnicas, administrativas e de governança de dados. O objetivo é impedir que a ferramenta de inteligência artificial Grok produza conteúdos que representem crianças e adolescentes em contextos sexualizados ou erotizados, ou de maiores de idade sem sua autorização. Isso inclui a manipulação de fotografias, imagens reais, vídeos ou arquivos de voz.

Caso a recomendação não seja acatada dentro do prazo, as instituições afirmam que poderão adotar providências cabíveis. Estas incluem ações nas esferas administrativa e judicial, fundamentadas em leis como o Marco Civil da Internet, o Código de Defesa do Consumidor e a Lei Geral de Proteção de Dados.

Também foi solicitada a suspensão imediata de contas envolvidas nesse tipo de produção via Grok. Os órgãos defenderam que essa suspensão seja contínua, com comprovação por meio de relatórios mensais apresentados pelo X, como evidência de cumprimento do dever de evitar condutas graves no ambiente digital.

Outras exigências da recomendação

Além disso, as instituições fizeram outras recomendações importantes à empresa:

• Criar, no prazo máximo de 30 dias, procedimentos técnicos e operacionais claros e eficazes para identificar, revisar e remover conteúdo desse tipo que já tenha sido produzido e ainda esteja disponível na plataforma X, quando gerado pelo Grok a partir de comandos de usuários;
• Implementar mecanismo transparente, acessível e eficaz para que titulares de dados possam exercer seus direitos, incluindo o envio de denúncias sobre uso irregular, abusivo ou ilegal de dados pessoais, especialmente em casos de criação de conteúdos sintéticos sexualizados ou erotizados sem consentimento, assegurando resposta adequada e em prazo razoável;
• Elaborar relatório de impacto à proteção de dados pessoais específico para as atividades de geração de conteúdo sintético a partir da manipulação de fotos, imagens, vídeos ou áudios enviados por usuários ao Grok, sempre que esses dados permitam identificar direta ou indiretamente uma pessoa natural;
• Aplicar, com urgência e efetividade, as políticas relacionadas à nudez não consensual e à exploração sexual de menores, já anunciadas como vigentes perante os usuários do X.