O governo emitiu nesta terça-feira (20) uma recomendação para que a plataforma X (antigo Twitter) suspenda imediatamente as contas de usuários que obtiveram o sistema de inteligência artificial, o Grok, para gerar imagens sexualizadas de mulheres, adolescentes e crianças.
Em uma nota técnica conjunta, a Agência Nacional de Proteção de Dados (ANPD), o Ministério Público Federal (MPF) e a Secretaria Nacional do Consumidor (Senacon), vinculada ao Ministério da Justiça, alertaram para o risco de multas severas e restrições às atividades da plataforma no país, caso as recomendações não sejam exigidas.
As medidas ocorrem após denúncias de que a ferramenta permite a criação de deepfakes sexualizados a partir de comandos simples dos usuários. As instituições definiram o prazo de 27 de janeiro de 2026 para que a empresa informe sobre a adoção das medidas urgentes.
VEJA TAMBÉM:
- Acuado por Trump e vencido no Mercosul, Lula tenta se vender como defensor do direito internacional
O descumprimento das recomendações poderá implicar avaliações administrativas e judiciais disposições no Marco Civil da Internet, no Código de Defesa do Consumidor e na própria LGPD. O artigo 12, do Marco Civil da Internet, prevê uma série de avaliações para plataformas que não cumprem a lei brasileira, como:
- Advertência, com indicação de prazo para adoção de medidas corretivas;
- Multa de até 10% do faturamento do grupo econômico no Brasil no seu último exercício, excluídos os tributos, considerados a condição econômica do infrator e o princípio da proporcionalidade entre a gravidade da falta e a intensidade da sanção;
- Suspensão temporária das atividades;
- Proibição de exercício das atividades no país.
Segundo a ANPD, testes realizados pela Coordenação de Fiscalização comprovaram que o Grok é capaz de manipular fotografias reais para inserir pessoas em contextos íntimos e erotizados, alterando roupas e cenários originais.
As entidades recomendam que a rede social de Elon Musk crie, no prazo máximo de 30 dias, procedimentos “claros e eficazes para identificar, revisar e remover conteúdo desse tipo que já foram produzidos e ainda estão disponíveis na plataforma X, quando gerados pelo Grok a partir de comandos feitos por usuários”.
As autoridades apontam que essa funcionalidade viola princípios fundamentais da Lei Geral de Proteção de Dados (LGPD), como a boa-fé, a propósito e o melhor interesse da criança e do adolescente.
Além disso, a ANP, o MPF e a Senacon apontam que a conduta da plataforma diante do uso do Grok é contraditória, pois o sistema permite práticas que as próprias políticas internas do X proíbem, como a nudez não consensual e a exploração sexual infantil. O documento estabelece que a X Brasil Internet Ltda. adote as seguintes medidas:
- Implementação de barreiras técnicas para evitar que o Grok gere imagens, vídeos ou áudios sexualizados de menores de idade ou de adultos sem autorização;
- identificar e excluir conteúdos de natureza que ainda circulam na plataforma no prazo de 30 dias;
- Suspensão imediata e permanente de contas que utilizem a IA para criar ou compartilhar exclusivamente deepfakes não consensuais;
- Elaboração de um Relatório de Impacto à Proteção de Dados Pessoais (RIPD) específico sobre o tratamento de dados pela IA e a criação de mecanismos acessíveis para denúncias de titulares afetados.
A nota técnica leva em conta as denúncias feitas pela deputada federal Erika Hilton (PSOL-SP), pelo Instituto Brasileiro de Defesa do Consumidor (Idec) e pela Secretaria de Políticas Digitais da Secretaria de Comunicação Social da Presidência da República.
“Essa é uma vitória gigante. Frente às empresas do homem mais rico do mundo, que estavam lucrando com pornografia infantil e pornografia sem consentimento, as instituições brasileiras foram firmas na defesa das mulheres e crianças do nosso país”, disse Erika após a divulgação da nota técnica.
O governo destacou que os órgãos reguladores do Reino Unido e da Itália já abriram investigações semelhantes, enquanto países como a Malásia e Indonésia conseguiram bloquear o acesso ao Grok devido à geração de conteúdo pornográfico de forma “sintética”.
PT e PSOL aprovaram ações contra uso do Grok
No último dia 5, a deputada federal Erika Hilton (PSOL-SP) acionou a ANPD e o MPF contra o Grok, apontando que a ferramenta está “ultrapassando todos os limites” ao distribuir “pornografia infantil” por meio da inteligência artificial integrada a uma rede social.
Já o PT pediu à Procuradoria da República no Distrito Federal e à Senacon, na semana passada, a abertura de investigação e medidas para bloquear ou até banir o uso do Grok no Brasil.
Após ser questionado pelos usuários, o perfil do Grok identificou “lapsos nas seguranças” que permitiram a criação de conteúdos “inadequados, incluindo de menores”.
Deixe o Seu Comentário