O Governo do Brasil, por meio da Autoridade Nacional de Proteção de Dados (ANPD), da Secretaria Nacional do Consumidor (Senacon) e do Ministério Público Federal (MPF), expediu recomendações à empresa controladora da plataforma digital X diante de denúncias sobre o uso indevido do Grok, assistente de inteligência artificial integrado à rede social.
Segundo as instituições, usuários estariam utilizando a ferramenta para gerar conteúdos sintéticos de caráter sexualizado a partir de imagens de pessoas reais. As acusações se baseiam em reportagens da imprensa nacional e internacional, além de testes técnicos realizados pelos próprios órgãos públicos.
De acordo com os relatos, o Grok tem sido empregado ilegalmente para a produção de deepfakes — técnica de inteligência artificial que cria imagens falsas a partir de pessoas reais — com conteúdos sexualizados, eróticos ou de conotação pornográfica. Entre os casos apontados estão representações envolvendo mulheres, crianças e adolescentes reais, o que amplia os riscos de violação de direitos fundamentais.
Também foram identificadas situações em que imagens sexualizadas de mulheres e de crianças ficaram acessíveis a qualquer usuário da plataforma, aumentando a exposição indevida e o potencial de danos às pessoas retratadas.
Atuação coordenada
A gravidade das denúncias motivou a atuação conjunta da ANPD, do MPF e da Senacon, vinculada ao Ministério da Justiça e Segurança Pública. Segundo os órgãos, os fatos podem afetar simultaneamente a proteção de dados pessoais, as relações de consumo, a dignidade da pessoa humana e outros direitos difusos, coletivos e individuais indisponíveis, especialmente de mulheres, crianças e adolescentes.
Recomendações
Entre as principais recomendações, está a implementação imediata de medidas para impedir que o Grok gere novas imagens, vídeos ou áudios que representem crianças e adolescentes em contextos sexualizados ou erotizados. A orientação também inclui o bloqueio da geração de conteúdos desse tipo envolvendo pessoas adultas identificadas ou identificáveis, sem autorização expressa.
As medidas devem abranger todos os planos, versões e modalidades da ferramenta. Além disso, as instituições recomendaram que a empresa responsável pela plataforma X:
- Crie, em até 30 dias, procedimentos técnicos e operacionais claros para identificar, revisar e remover conteúdos indevidos já produzidos e ainda disponíveis na plataforma;
- Suspenda imediatamente as contas envolvidas na produção, via Grok, de conteúdos sexualizados ilegais, com comprovação periódica por meio de relatórios mensais;
- Implemente mecanismos transparentes e acessíveis para que titulares de dados possam denunciar usos irregulares, abusivos ou ilegais de seus dados pessoais;
- Elabore relatório de impacto à proteção de dados pessoais específico para as atividades de geração de conteúdos sintéticos a partir de imagens, vídeos ou áudios enviados por usuários.
Outras medidas
As instituições alertam que, caso as recomendações não sejam atendidas ou sejam consideradas insuficientes para reduzir os riscos identificados, outras providências poderão ser adotadas nas esferas administrativa e judicial. O objetivo é assegurar a proteção adequada da população, em especial de mulheres, crianças e adolescentes.
As recomendações foram emitidas dentro das atribuições legais de cada órgão, que seguirão acompanhando as respostas e eventuais medidas adotadas pela empresa controladora da plataforma X.
Compartilhe esta notícia do Giro Capixaba, o melhor site de notícias do Espírito Santo.
Siga o GIRO CAPIXABA no Instagram
