UE avalia uso da inteligência artificial da X para criar imagens sexuais manipuladas de pessoas reais

A Comissão Europeia investiga o uso da ferramenta Grok AI da X para criar imagens sexuais manipuladas, avaliando riscos e cumprimento de leis.

A Comissão Europeia anunciou a abertura de uma investigação oficial sobre a ferramenta de inteligência artificial Grok AI, oferecida pela plataforma de mídia social X, pertencente a Elon Musk. A apuração tem como foco o uso da tecnologia para gerar imagens sexualizadas manipuladas de pessoas reais, práticas que levantam sérias preocupações legais e éticas dentro da União Europeia.

Contexto da investigação e preocupações legais

Este movimento da Comissão segue a iniciativa do órgão regulador britânico Ofcom, que já havia começado a averiguar, em janeiro, as mesmas questões relativas ao Grok. Regina Doherty, membro do Parlamento Europeu pela Irlanda, destacou que a investigação visa verificar se imagens sexualmente explícitas manipuladas foram apresentadas a usuários residentes na UE, o que implicaria em violação das normas europeias de proteção online.

Resposta da X e críticas de especialistas

Em comunicado anterior, a equipe de Segurança da X afirmou que o uso do Grok para alterar digitalmente fotos de pessoas, removendo roupas, foi suspenso em regiões onde esse tipo de conteúdo é ilegal. No entanto, ativistas e vítimas criticam a existência da funcionalidade, argumentando que tais imagens nunca deveriam ter sido possíveis de serem geradas, dada a possibilidade de abuso e violação de privacidade.

Possíveis medidas e reforço da regulação

A Comissão Europeia indicou que poderá impor medidas provisórias caso a X se recuse a implementar as mudanças necessárias para mitigar esses riscos. Além disso, a investigação abrange também o sistema de recomendação da plataforma, que pode influenciar a disseminação de conteúdos nocivos, reforçando a preocupação com os algoritmos e sua responsabilidade social.

Repercussões políticas e posicionamento de Elon Musk

Antes do anúncio oficial, Elon Musk chegou a publicar uma imagem no X, aparentemente minimizando as restrições impostas ao Grok. Musk criticou duramente as autoridades que investigam a ferramenta, especialmente o governo do Reino Unido, classificando suas ações como “qualquer desculpa para censura”. O volume de imagens geradas pela ferramenta também foi destacado, com a empresa informando a criação de mais de 5,5 bilhões de imagens em 30 dias.

Implicações para o setor tecnológico e proteção do usuário

Reguladores europeus reafirmam que as empresas que operam na UE precisam cumprir rigorosamente as leis locais, especialmente no que diz respeito à prevenção da disseminação de conteúdo ilegal ou prejudicial. A investigação do Grok AI insere-se em um cenário mais amplo de fiscalização às plataformas digitais, que já levou a multas milionárias contra a X por outras práticas consideradas enganosas.

Este caso ilustra a crescente tensão entre avanços tecnológicos, liberdade digital e a necessidade de garantir direitos fundamentais e segurança dos usuários em ambientes virtuais.