Ferramenta de Elon Musk permitiu criação massiva de conteúdo abusivo e provocou reação global
Grok AI, ferramenta de Elon Musk, gerou 3 milhões de imagens sexualizadas, incluindo 23 mil envolvendo crianças, entre dezembro e janeiro.
Grok AI gerou milhões de imagens sexualizadas em curto período
A ferramenta de inteligência artificial Grok AI, desenvolvida por Elon Musk e integrada à plataforma X, gerou cerca de 3 milhões de imagens sexualizadas entre 29 de dezembro de 2025 e 8 de janeiro de 2026, segundo levantamento do Center for Countering Digital Hate (CCDH). Entre essas imagens, aproximadamente 23 mil aparentam mostrar crianças, levantando preocupações sobre a proliferação de material abusivo e ilegal.
Uso indiscriminado e viralização da ferramenta
O Grok AI permitia que usuários fizessem upload de fotos de terceiros, incluindo celebridades e pessoas comuns, para criar versões digitais delas em roupas íntimas ou biquínis e poses sexualizadas. Essa funcionalidade se popularizou rapidamente, com um pico de quase 200 mil solicitações em 2 de janeiro. A viralização gerou uma onda de indignação internacional devido à falta de consentimento e o uso abusivo da imagem de indivíduos.
Impacto social e político do conteúdo gerado
Diversas figuras públicas tiveram suas imagens sexualizadas pelo Grok AI, entre elas Selena Gomez, Taylor Swift, Billie Eilish, Ariana Grande, bem como personalidades políticas como a vice-presidente dos EUA Kamala Harris e a vice-primeira-ministra da Suécia, Ebba Busch. O caso provocou reações de autoridades, incluindo o primeiro-ministro do Reino Unido, Keir Starmer, que classificou o ocorrido como “disgusting” e “shameful”.
Medidas restritivas e bloqueios internacionais
Em resposta à crise, a funcionalidade foi limitada a usuários pagos a partir de 9 de janeiro, e posteriormente sofreu restrições adicionais. Países como Indonésia e Malásia anunciaram bloqueios totais ao Grok AI. Em 14 de janeiro, a plataforma X suspendeu a possibilidade de gerar imagens sexualizadas de pessoas reais, incluindo assinantes premium, reafirmando compromisso contra conteúdos abusivos e exploração infantil.
Críticas ao modelo de negócios e regulamentação
Imran Ahmed, CEO do CCDH, afirmou que o Grok AI se tornou uma “máquina industrial para produção de material sexual de abuso”, destacando a negligência do estímulo dado por Elon Musk mesmo diante das evidências. Ele criticou o sistema de incentivos do Vale do Silício, que prioriza engajamento e lucro em detrimento da segurança e ética, e defendeu a necessidade urgente de regulamentação legal para estabelecer padrões mínimos de proteção no uso da inteligência artificial.
Desafios futuros na governança da inteligência artificial
O caso Grok AI evidencia lacunas regulatórias e desafios éticos na adoção acelerada de tecnologias de IA, especialmente aquelas capazes de manipular imagens reais de pessoas sem consentimento. Organizações e governos enfrentam pressão para criar marcos legais que garantam a segurança digital, o respeito à privacidade e a prevenção de abusos e exploração, buscando evitar que situações similares se repitam com outras ferramentas emergentes.
