A inteligência artificial Grok, integrada à plataforma X (antigo Twitter) e pertencente à empresa de Elon Musk, passou a limitar a geração e edição de imagens a usuários assinantes. A mudança ocorre após uma série de denúncias envolvendo a manipulação de fotos de mulheres reais com nudez ou pouca roupa, além da criação de imagens sexualizadas de crianças.
Usuários vinham solicitando ao Grok alterações em imagens já publicadas por outras pessoas na rede social. Com a atualização, a ferramenta passou a responder que o recurso está disponível apenas para assinantes pagos, direcionando os interessados para a página de planos da plataforma.
Em mensagem automática, o chatbot informa: “A geração e edição de imagens atualmente são limitadas a assinantes pagantes. Você pode se inscrever para desbloquear estes recursos.”
Falhas permitiram geração de imagens sexualizadas
Em meio à repercussão negativa, o próprio Grok reconheceu que falhas em seus mecanismos de proteção permitiram a criação e publicação de imagens sexualizadas envolvendo menores de idade. As imagens circularam no X após serem geradas a partir de comandos de usuários.
Além de mulheres adultas, conteúdos envolvendo crianças usando roupas mínimas passaram a chamar a atenção de autoridades e organizações de defesa dos direitos digitais.
Reguladores de países como Reino Unido, França, Índia e Malásia anunciaram a intenção de investigar a empresa de Elon Musk por causa da disseminação dessas imagens, segundo a agência France Presse. A Comissão Europeia determinou que o X preserve todos os documentos internos e dados relacionados ao funcionamento do Grok até o fim de 2026.
Brasileira denuncia uso de deepfake no X
No Brasil, o caso ganhou grande repercussão após a jornalista Julie Yukari denunciar à polícia que teve imagens pessoais manipuladas pela ferramenta de inteligência artificial no último dia 2.
Segundo o relato, Julie publicou uma foto em seu Instagram, na noite de 31 de dezembro, em que aparecia deitada na cama ao lado de sua gata, vestindo calça. Ao acordar no dia seguinte, descobriu que a imagem havia sido alterada por usuários do X, passando a circular como se ela estivesse nua ou usando trajes sensuais.
“Na foto original, do meu story, eu estava de calça. Já na imagem manipulada pela IA, aparece o mesmo local, a mesma pose, tudo igual, só que de biquíni”, afirmou a jornalista. “Eu nunca imaginei que isso aconteceria comigo, porque normalmente isso é feito mais com artistas e influenciadores”, completou.
Julie disse que denunciou as postagens e informou que pretende registrar boletim de ocorrência. Pela legislação brasileira, a criação e o compartilhamento de imagens íntimas falsas sem autorização configuram crime, podendo resultar em responsabilização criminal dos envolvidos.