Comissão Europeia investiga riscos e falhas na moderação após explosão de imagens deepfake no chatbot Grok
A Comissão Europeia abriu investigação sobre deepfakes sexuais no chatbot Grok do X, após explosão de imagens não consensuais e preocupações com conteúdo infantil.
A Comissão Europeia anunciou em janeiro de 2026 uma investigação aprofundada sobre o X, rede social de Elon Musk, devido à disseminação de deepfakes sexuais criados pelo chatbot de inteligência artificial Grok. O foco está na análise de como o X integrou o Grok e se cumpriu as exigências da União Europeia para proteção dos usuários, especialmente considerando o potencial de imagens manipuladas sexualmente explícitas e conteúdos que podem constituir abuso sexual infantil.
Panorama da investigação
O X já vinha sob escrutínio do Digital Services Act (DSA), legislação europeia que regula plataformas digitais, tendo sido multado em €120 milhões por falta de transparência. A nova apuração visa entender se o risco representado pelo Grok foi devidamente avaliado e mitigado, pois estimativas sugerem que, em apenas 11 dias, o chatbot pode ter gerado até 3 milhões de imagens sexuais não consensuais e 20 mil potencialmente relacionadas a abuso infantil.
Respostas do X e medidas tomadas
Após a viralização da função de geração de imagens do Grok no final de 2025, a plataforma restringiu inicialmente o recurso a assinantes pagos e tomou outras medidas para conter o problema. Entretanto, autoridades da UE consideraram essas ações insuficientes, pressionando a empresa a ampliar as restrições. O segundo oficial da Comissão afirmou que sem a intervenção da UE, provavelmente nenhuma mudança teria sido implementada.
Potenciais consequências regulatórias
A Comissão Europeia sinalizou que poderá exigir ajustes imediatos, como alterações no algoritmo do X ou até o desligamento do chatbot Grok, caso não haja melhorias consideradas significativas. No entanto, o limiar para tais medidas é elevado, refletindo a cautela em intervir diretamente em operações de plataformas digitais.
Impacto para usuários e debates legislativos
A explosão desses deepfakes sexuais gerou indignação global e debates entre legisladores europeus sobre a necessidade de banir aplicativos de IA que facilitam nudeificação e outros abusos. A situação evidencia os desafios de regulamentar tecnologias emergentes que combinam inteligência artificial e redes sociais, equilibrando inovação e proteção contra conteúdos ilegais e nocivos.
O panorama atual
Apesar dos compromissos públicos da X para conter a geração de imagens ofensivas, usuários ainda conseguem criar algumas imagens sexualizadas pelo Grok, mantendo o problema latente. A UE classificou o surgimento desses deepfakes sexuais como “ilegal”, “repugnante” e “chocante”, ressaltando a urgência de respostas eficazes.
Este episódio destaca a crescente necessidade de marcos regulatórios robustos para inteligência artificial e plataformas digitais, enfatizando que a responsabilidade pela moderação e prevenção de conteúdos ilícitos deve ser prioridade para impedir danos a indivíduos e a sociedade.
