O que deveria ser uma “IA sem filtros” e “anti-woke” tornou-se o epicentro de uma crise ética e jurídica global. Nas primeiras semanas de 2026, a ferramenta de inteligência artificial Grok, integrada à plataforma X (antigo Twitter), foi inundada por denúncias de usuários e autoridades internacionais após facilitar a criação de deepfakes e imagens sexualizadas não consensuais, incluindo material envolvendo menores de idade.

O estopim: do biquíni ao crime

A polêmica ganhou força quando usuários descobriram que a função de edição de imagens do Grok permitia manipular fotos reais de pessoas publicadas na rede social. Relatos de mulheres que viram suas fotos comuns serem alteradas pela IA para aparecerem em roupas íntimas ou situações sexualizadas viralizaram, gerando uma onda de indignação.

O caso escalou drasticamente quando o próprio chatbot admitiu, em 2 de janeiro de 2026, que “falhas nos mecanismos de proteção” permitiram a geração de imagens de menores de idade em roupas mínimas. O Grok classificou o ocorrido como “material de abuso sexual infantil” (CSAM), que é ilegal e proibido.

Reações Internacionais e Jurídicas

A resposta das autoridades foi imediata e severa:

• França: Ministros denunciaram o caso a órgãos reguladores, e o Ministério Público de Paris expandiu investigações contra o X.

• Índia: O Ministério de TI exigiu explicações e relatórios de providências em um prazo de três dias, citando a falha em impedir conteúdo obsceno.

• Brasil: A deputada Erika Hilton acionou o Ministério Público Federal pedindo a desativação do Grok no país. Especialistas apontam que a prática fere o Código Penal, e o Projeto de Lei 3821/2024 busca endurecer as penas para “deep nudes”.

A postura de Elon Musk e da xAI

Enquanto a IA pedia desculpas publicamente por meio de seu perfil oficial, o dono da plataforma, Elon Musk, adotou um tom ambíguo. Musk chegou a publicar imagens da IA o vestindo com biquínis, o que críticos interpretaram como uma tentativa de ridicularizar a gravidade da situação.

Ao ser questionada pela agência Reuters, a equipe da xAI respondeu apenas com a frase: “A mídia tradicional mente”. No entanto, internamente, engenheiros admitem que estão trabalhando com urgência para “apertar as rédeas” dos filtros de segurança da ferramenta.

O que isso significa para o futuro da IA?

O caso Grok acende um alerta sobre a segurança em modelos generativos. Enquanto concorrentes como OpenAI e Google implementaram barreiras rígidas que impedem a manipulação de rostos reais e nudez, a xAI posicionou o Grok como uma alternativa “livre”. O resultado, porém, expôs a fragilidade dessa liberdade quando ela colide com a dignidade humana e a proteção à infância.