O X (antigo Twitter) está sendo palco de uma série de abusos envolvendo o uso de inteligência artificial nesta semana. Usuários da plataforma estão solicitando ao chatbot Grok, da xAI, a edição de fotos para trocar as roupas de mulheres retratadas por biquínis, sem qualquer consentimento.
Em alguns casos, imagens de menores também foram sexualizadas de forma inaceitável. Por princípios éticos e editoriais, não utilizaremos nenhuma imagem abusiva gerada pela ferramenta para ilustrar esta reportagem.
O IA Brasil Notícias entrou em contato com a xAI para solicitar esclarecimentos sobre eventuais medidas adotadas para reforçar os filtros e coibir o uso indevido do Grok nesse tipo de solicitação. Até o fechamento desta reportagem, a empresa não respondeu aos questionamentos enviados. Como retorno, a redação recebeu apenas uma mensagem automática com o texto: “Legacy Media Lies” (A mídia tradicional mente).
Em resposta a uma usuária do X que denunciou o uso indevido do Grok, Parsa Tajik, integrante da equipe técnica da xAI, reconheceu o problema. “Olá! Obrigado por nos avisar. A equipe está trabalhando para reforçar ainda mais nossas medidas de segurança”, afirmou nesta publicação.
O próprio Grok está sendo questionado por usuários do X acerca da situação. Em uma dessas respostas, o chatbot declarou que foram identificados “casos isolados em que os usuários solicitaram e receberam imagens de IA retratando menores com roupas mínimas”.
O Grok disse ainda que o xAI possui mecanismos de segurança, mas melhorias estão em andamento para bloquear completamente essas solicitações. No entanto, até o fechamento desta reportagem, o IA Brasil Notícias verificou que usuários ainda conseguiam gerar imagens de mulheres com trajes de banho.
