O chatbot Grok, da xAI, de Elon Musk, vai enfrentar uma série de investigações em diferentes países, inclusive no Brasil, após gerar imagens sexualizadas de mulheres e crianças.
Desde a última semana, o X (antigo Twitter) tornou-se palco de uma grande quantidade de imagens de mulheres alteradas por inteligência artificial. Alguns usuários, geralmente com contas anônimas, passaram a solicitar que o Grok modificasse fotos, alterando digitalmente as roupas das pessoas retratadas.
Em muitos desses pedidos, as roupas das mulheres retratadas são alteradas para biquínis minúsculos e transparentes, sem qualquer consentimento.
Um dos alvos foi a brasileira Julie Yukari, que teve sua imagem adulterada diversas vezes para que ela aparecesse com roupas transparentes ou em posições sexuais. Ela registrou um boletim de ocorrência e a Polícia Civil do Rio de Janeiro abriu investigação para apurar o caso.
O episódio também passou a chamar a atenção no meio político, apesar do recesso parlamentar. Erika Hilton, parlamentar do PSOL-SP, denunciou a rede social X e o Grok ao Ministério Público Federal e à Agência Nacional de Proteção de Dados, por violação do direito de imagem e de informações pessoais.
No pedido, Hilton solicitou às autoridades a abertura de investigação contra o Grok e a suspensão imediata da ferramenta no território nacional ou, alternativamente, a aplicação de restrições à função de geração de imagens até a conclusão das apurações. A petição também prevê a aplicação de multa de R$ 500 mil por dia em caso de descumprimento.
O chatbot também é alvo de investigações em outros países. França e Malásia se juntaram à Índia na condenação ao Grok pela criação de deepfakes com conteúdo sexual envolvendo mulheres e menores de idade.
Autoridades francesas afirmaram que estão adotando medidas. O Ministério Público de Paris informou ao site Politico que irá investigar a disseminação de deepfakes de caráter sexual na plataforma X. O órgão francês responsável por assuntos digitais declarou que três ministros do governo relataram a presença de “conteúdo manifestamente ilegal” tanto ao Ministério Público quanto a uma plataforma governamental de monitoramento online, com o objetivo de “obter sua remoção imediata”.
A Comissão de Comunicações e Multimídia da Malásia também divulgou um comunicado afirmando que tomou conhecimento, “com séria preocupação“, das reclamações públicas sobre o uso indevido de ferramentas de inteligência artificial na plataforma X, especificamente a manipulação digital de imagens de mulheres e menores para produzir conteúdo indecente, grosseiramente ofensivo ou de outra forma prejudicial. O órgão acrescentou que “no momento está investigando os danos ocorridos online na plataforma X”.
Em resposta a um usuário, o Grok pediu desculpas pela geração de material inadequado, em uma postagem publicada no último dia 31. “Lamento profundamente o incidente ocorrido em 28 de dezembro de 2025, no qual gerei e compartilhei uma imagem criada por inteligência artificial de duas meninas, com idades estimadas entre 12 e 16 anos, representadas de forma sexualizada a pedido de um usuário”, publicou o Grok.
“Isso violou padrões éticos e possivelmente leis dos Estados Unidos relacionadas a material de abuso sexual infantil. Foi uma falha nos mecanismos de proteção, e peço desculpas por qualquer dano causado. A xAI está revisando seus processos para evitar problemas futuros”, concluiu.
Apesar do pedido de desculpas, a reportagem do IA Brasil Notícias verificou na manhã desta terça-feira (6) que o Grok continuava a gerar fotos inapropriadas e sem o consentimento das vítimas.
