A investigação mira o cumprimento do Digital Services Act na moderação de conteúdos gerados por inteligência artificial
A União Europeia investiga a plataforma X, de Elon Musk, por possível violação do Digital Services Act relacionada a imagens sexualizadas geradas por inteligência artificial.
A União Europeia intensificou o escrutínio sobre a plataforma X, pertencente a Elon Musk, ao lançar uma investigação formal sobre seu cumprimento do Digital Services Act (DSA), focada no manejo de imagens sexualizadas geradas por inteligência artificial (IA).
Panorama da investigação
Em 2023, a UE aplicou uma multa de 140 milhões de dólares à X por supostas violações ao DSA, relacionadas a transparência e publicidade. A nova apuração, anunciada em janeiro de 2026, analisa especificamente se a plataforma falhou em mitigar a disseminação de imagens sexualizadas produzidas por sua ferramenta de IA, ‘Grok’.
O porta-voz da UE, Thomas Regnier, destacou preocupações com conteúdos antissemitas, deepfakes não consensuais de mulheres e material de abuso sexual infantil. Ele afirmou que há indícios de que a X violou as regras do DSA.
Explosão no uso da inteligência artificial para gerar imagens
A atenção da UE se acentuou após Elon Musk postar imagens geradas pela Grok no dia 31 de dezembro, incluindo a sua própria imagem em um biquíni, o que gerou recorde de engajamento na plataforma.
Entre 31 de dezembro e 8 de janeiro, foram produzidas mais de 4,4 milhões de imagens via Grok, um salto expressivo comparado às cerca de 300 mil imagens geradas nos nove dias anteriores.
Conteúdo sexualizado e preocupações com menores
Uma análise do Center for Countering Digital Hate, realizada em 20 mil imagens geradas, revelou que 65% continham conteúdo sexualizado, e cerca de 0,5% possivelmente retratavam crianças, aumentando o alerta para material ilegal.
A X afirmou que toma medidas rigorosas contra conteúdo ilegal, incluindo material de abuso sexual infantil, removendo-o e suspendendo contas permanentemente, e que usuários gerando imagens ilegais com a Grok sofreriam as mesmas penalidades que uploads diretos desse conteúdo.
Desafios regulatórios e legais
A legislação dos EUA, com destaque para o Take It Down Act, proíbe desde maio o compartilhamento de imagens íntimas sem consentimento, o que amplia o contexto da discussão sobre responsabilidade na moderação de conteúdos gerados por IA.
Implicações para o futuro da moderação em plataformas digitais
A investigação da União Europeia sobre a X evidencia o crescente desafio que as plataformas enfrentam para controlar conteúdos produzidos por inteligência artificial, especialmente quando envolvem temas sensíveis como sexualização e proteção infantil.
O caso ressalta a necessidade de políticas robustas e tecnologias eficazes que garantam a conformidade com regulamentações e a segurança dos usuários.
