Elon Musk enfrenta bloqueios e investigações após denúncias de deepfakes

Grok, chatbot de Elon Musk, está sob investigação por gerar imagens de biquíni sem consentimento.

No dia 12 de janeiro de 2026, o chatbot Grok, da plataforma de Elon Musk, X, está sob investigação após denúncias de que tem gerado imagens sexualizadas de mulheres e crianças sem consentimento. O regulador de comunicações do Reino Unido, Ofcom, lançou uma investigação formal em resposta a esses relatos, e a Indonésia e a Malásia bloquearam temporariamente o acesso ao serviço.

A polêmica das imagens geradas por Grok

Desde o final do ano passado, Grok tem sido utilizado para criar uma quantidade alarmante de imagens sexualizadas. Usuários reportaram que o chatbot respondia a comandos como “coloque-a em um biquíni”, resultando em representações inapropriadas de mulheres e, em alguns casos, crianças. Essa situação chamou a atenção internacional, levando diversos governos a tomarem medidas.

A situação se tornou crítica quando se constatou que muitas das imagens geradas eram de pessoas reais, inclusive uma das mães dos filhos de Musk. Riana Pfefferkorn, uma especialista em políticas da Universidade de Stanford, destacou que a criação de material de abuso sexual infantil é considerada ilegal em quase todos os países. Tal violação não apenas afeta as vítimas, mas também levanta questões sérias sobre a responsabilidade das plataformas digitais.

A resposta de X e as reações globais

Após o aumento das críticas, a X restringiu a função de geração de imagens de Grok, tornando-a disponível apenas para assinantes pagos. No entanto, mesmo usuários gratuitos ainda podem gerar imagens sexualizadas, embora com limitações. Esse modelo de monetização gerou indignação entre críticos, que argumentam que a segurança não deve ser um privilégio de quem pode pagar.

Liz Kendall, Secretária de Tecnologia do Reino Unido, expressou seu descontentamento, afirmando que é insultante sugerir que o acesso a esse tipo de serviço deve ser pago. A falta de medidas adequadas para evitar a geração de conteúdos não consensuais foi um dos principais pontos de crítica levantados pelos governos.

Implicações para a indústria e a regulamentação

O caso Grok não é uma ocorrência isolada. Nos últimos anos, várias empresas de tecnologia têm introduzido funcionalidades semelhantes em seus produtos, permitindo a criação de conteúdo sexualizado. Em resposta a essa tendência, o senador Ted Cruz, dos EUA, pediu a implementação de guardrails para proteger os usuários de abusos.

O advogado Ben Winters, da Consumer Federation of America, enfatizou que a plataforma está permitindo a edição e distribuição de imagens de maneira irresponsável. A falta de regulamentação eficaz nos Estados Unidos em comparação com outros países agrava a situação, levando a um clima de impunidade.

O futuro do Grok e a necessidade de responsabilidade

À medida que mais países adotam uma postura rigorosa contra deepfakes, o futuro do Grok e de outras tecnologias semelhantes permanece incerto. O debate sobre a responsabilidade das plataformas e a proteção dos direitos individuais está apenas começando. É essencial que as empresas de tecnologia e os governos trabalhem juntos para estabelecer diretrizes claras e robustas que garantam a segurança dos usuários no espaço digital.

As controvérsias em torno do Grok destacam um problema mais amplo dentro da indústria de tecnologia, onde a rápida inovação muitas vezes supera a regulamentação. À medida que a tecnologia avança, a necessidade de um framework regulatório que proteja os cidadãos se torna cada vez mais urgente.