A xAI anunciou a adoção de novas medidas de segurança envolvendo o Grok, seu modelo de inteligência artificial integrado à plataforma X (antigo Twitter), após uma onda de uso indevido para geração de imagens abusivas de mulheres e crianças.
Entre as mudanças anunciadas, a xAI informou que implementou medidas tecnológicas para impedir que o Grok permita a edição de imagens de pessoas reais em trajes considerados reveladores, como biquínis. A restrição vale para todos os usuários, incluindo assinantes pagos.
Para lembrar, na semana passada, o Grok já havia limitado alguns de seus recursos de geração de imagens “Imagine” apenas para assinantes pagos do X. De acordo com a empresa, a medida adiciona uma camada extra de proteção, ao facilitar a responsabilização de usuários que tentem utilizar a ferramenta para violar leis ou políticas da plataforma.
A xAI reforçou que “segue com política rígida contra exploração sexual infantil, nudez não consensual e conteúdos sexuais indesejados”.
A empresa afirma que remove conteúdos considerados prioritários, como material de abuso sexual infantil (CSAM) e nudez não consensual, além de adotar medidas contra contas que violem as regras da plataforma. Casos que envolvam tentativa de obtenção de material de exploração sexual infantil também são reportados às autoridades competentes.
Outra atualização envolve o bloqueio geográfico da funcionalidade. A xAI informou que passou a restringir, em determinadas jurisdições, a geração de imagens de pessoas reais usando biquínis, roupas íntimas ou vestimentas semelhantes, nos locais onde esse tipo de conteúdo é considerado ilegal.
A empresa destacou que as mudanças não alteram o protocolo geral de segurança do X, segundo o qual todos os prompts e conteúdos gerados por inteligência artificial devem seguir estritamente as regras da plataforma.
“No entanto, independentemente de como o conteúdo é criado ou se os usuários são gratuitos ou pagos, nossa equipe de segurança trabalha continuamente para adicionar salvaguardas adicionais, remover conteúdos ilegais ou em violação às regras, suspender permanentemente contas quando apropriado e colaborar com governos locais e autoridades”, afirma o comunicado.
Casos diminuíram, mas ainda há “brechas”
A reportagem do IA Brasil Notícias fez uma varredura em postagens mais recentes do X para verificar se as novas salvaguardas estavam efetivamente bloqueando o uso abusivo do Grok. Nas abas de mídia e respostas do perfil da ferramenta, não há registros recentes de fotos manipuladas de mulheres com biquínis.
Apesar das medidas anunciadas, ainda há brechas pontuais. No próprio post em que a xAI comunicou as restrições, na conta @Safety, alguns usuários conseguiram gerar imagens de mulheres usando biquíni por meio de prompts indiretos. Nos casos observados, as imagens não representavam pessoas reais, mas personagens criados pela própria IA.
Exemplos de comandos usados incluem pedidos para retratar “servidores do Grok em biquíni” ou para criar uma representação abstrata do perfil “Safety” em trajes de banho. Os pedidos foram atendidos pela ferramenta, que gerou imagens de mulheres criadas artificialmente pela própria IA, e não de pessoas reais.
