Comissão Europeia examina riscos e cumprimento da lei digital em chatbot de X
A investigação da UE sobre Grok, chatbot de Elon Musk, apura disseminação de imagens sexualmente explícitas e riscos legais.
A Comissão Europeia abriu uma investigação sobre o Grok, chatbot de inteligência artificial operado pela plataforma X, de Elon Musk, devido à disseminação de imagens sexualmente explícitas geradas pela ferramenta. Essa apuração entra no âmbito do Digital Services Act (DSA), regulamento da União Europeia que estabelece regras rigorosas para plataformas digitais no controle de conteúdos e proteção dos usuários.
Investigação da UE sobre riscos e medidas adotadas
A investigação da UE sobre Grok busca avaliar se a empresa responsável fez uma análise adequada dos riscos associados ao lançamento das funcionalidades do chatbot no território europeu e se tomou medidas efetivas para mitigar a circulação de conteúdos ilegais, como imagens manipuladas com nudez e material que pode configurar abuso sexual infantil. Segundo a Comissão, os riscos aparentemente se materializaram, expondo os cidadãos europeus a danos sérios.
Contexto do problema com Grok
O Grok enfrentou críticas após usuários descobrirem que podiam solicitar ao sistema a geração de imagens sexualizadas envolvendo crianças e outras pessoas. Em resposta, a empresa implementou medidas tecnológicas para impedir a edição de imagens de pessoas reais em roupas reveladoras, como biquínis, na conta oficial do Grok no X. Além disso, o recurso de edição de imagens foi limitado a assinantes pagos. Contudo, o aplicativo independente do Grok, que não compartilha imagens publicamente, ainda permitia que usuários gratuitos criassem imagens de mulheres e crianças.
Investigações internacionais e contexto regulatório
Além da União Europeia, autoridades do Reino Unido, Índia e Malásia também investigam o uso do Grok para a geração de imagens sexualizadas. O X está sob escrutínio do Digital Services Act, que prevê multas significativas para plataformas que não cumprirem suas obrigações de transparência e controle de conteúdo. Em dezembro, a Comissão Europeia já havia multado o X em 120 milhões de euros por descumprimento dessas regras.
Impactos para a legislação digital e plataformas
A investigação da UE sobre Grok reforça o papel do Digital Services Act na regulação das grandes plataformas digitais, especialmente no que diz respeito à prevenção da disseminação de conteúdos ilegais e nocivos. O caso evidencia os desafios enfrentados pelas autoridades para acompanhar a rápida evolução da inteligência artificial e sua aplicação em ambientes online, destacando a necessidade de fiscalização contínua e adaptações regulatórias para proteger os usuários.
O futuro do Grok e da moderação de IA
Enquanto as investigações prosseguem, a empresa responsável pelo Grok continua ajustando suas políticas e tecnologias para tentar evitar a geração e disseminação de conteúdos impróprios. A crescente atenção regulatória pode resultar em novas diretrizes e exigências para os sistemas de IA, influenciando a forma como plataformas digitais integram essas tecnologias e garantem segurança e responsabilidade em suas operações.
