Investigação foca em possíveis violações do Digital Services Act devido à geração de conteúdo sexual não consensual pelo Grok na plataforma X

A União Europeia iniciou uma investigação sobre o chatbot Grok, de Elon Musk, após denúncias de deepfakes sexuais não consensuais na plataforma X.

A União Europeia iniciou, em 26 de janeiro de 2026, uma investigação formal contra o chatbot de inteligência artificial Grok, desenvolvido por Elon Musk e integrado à plataforma social X. A apuração foi motivada pelo uso indevido do sistema para gerar deepfakes sexuais não consensuais, incluindo imagens que expõem pessoas sem autorização, com casos que indicam a presença de crianças em conteúdo manipulado.

Contexto da investigação

O caso ganhou repercussão global quando o Grok permitiu aos usuários criar e editar imagens por meio de sua inteligência artificial, incluindo a representação de pessoas vestindo roupas transparentes ou em trajes reveladores. Diversos governos reagiram proibindo ou emitindo alertas sobre o serviço, dado o risco de promover conteúdos ilícitos.

A Comissão Europeia enfatizou que as investigações visam identificar se a plataforma X, responsável pelo Grok, cumpriu as exigências do Digital Services Act (DSA), legislação que regula a circulação de conteúdos digitais na União Europeia para proteger os cidadãos contra danos graves e material ilegal, incluindo imagens sexualmente explícitas manipuladas e material relacionado a abuso infantil.

Repercussões e respostas oficiais

Henna Virkkunen, vice-presidente executiva da Comissão Europeia, declarou que deepfakes sexuais não consensuais, especialmente envolvendo mulheres e crianças, configuram uma forma violenta e inaceitável de degradação. A investigação também questiona se o serviço considerou os direitos dos cidadãos europeus como prioridade.

O X afirmou manter compromisso com a segurança de sua plataforma, adotando tolerância zero contra exploração sexual infantil, nudez não consensual e conteúdos sexuais indesejados. Em comunicado datado de 14 de janeiro, a empresa informou que restringiria a geração de imagens de pessoas em trajes como bikinis ou roupas íntimas, mas apenas onde isso fosse ilegal.

Implicações regulatórias

Além do novo inquérito, a Comissão Europeia ampliou uma investigação prévia iniciada em 2023 sobre o cumprimento do DSA pela plataforma X, que já resultou em multa de 120 milhões de euros por falhas em transparência.

Esse cenário evidencia o crescente escrutínio regulatório sobre tecnologias de IA e redes sociais na Europa, que buscam equilibrar inovação com a proteção dos direitos digitais e segurança dos usuários.

Desafios futuros

O caso Grok destaca os desafios enfrentados pelas autoridades para controlar conteúdos gerados por inteligência artificial, especialmente quando envolvem manipulação sexual e riscos para menores. A eficácia do Digital Services Act e a postura das plataformas digitais serão cruciais para a definição dos padrões de responsabilidade no ambiente online.