Decisão visa limitar a geração de conteúdo sexualizado, mas especialistas questionam eficácia

Após críticas severas, Elon Musk implementa restrições nas ferramentas de imagem da Grok, mas especialistas duvidam que a medida resolva o problema dos deepfakes.

Elon Musk, por meio de sua empresa xAI, decidiu restringir as capacidades de geração de imagens do chatbot Grok, limitando-as apenas aos assinantes pagantes. Essa decisão surge em meio a uma onda de condenação pública relacionada ao uso da ferramenta para criar imagens sexualizadas não consensuais de mulheres e crianças.

O contexto das restrições

As novas regras foram divulgadas através da plataforma X, onde Grok anunciou que a geração e edição de imagens agora estão disponíveis somente para assinantes que pagam. Essa mudança implica que a maioria dos usuários não conseguirá mais acessar essas funcionalidades, enquanto assinantes verificados com informações de pagamento em arquivo ainda poderão usá-las. Teoricamente, isso facilitaria a identificação de eventuais abusos da ferramenta.

Especialistas, no entanto, expressam ceticismo quanto à eficácia dessas novas restrições. Henry Ajder, um especialista no tema de deepfakes, argumentou que a exigência de informações pessoais e métodos de pagamento não necessariamente ajudará a identificar os autores de abusos. Ele afirmou que a lógica por trás dessa mudança é reativa, voltada para a identificação de infratores após a geração de conteúdo, sem abordar as limitações inerentes ao modelo em si.

A resposta da plataforma X à crescente pressão pública e regulatória é vista como insuficiente. Nos últimos dias, várias mulheres foram alvos de manipulações de fotos que as expunham em situações sexualmente explícitas, sem seu consentimento. Muitas vítimas relataram se sentir violadas e perturbadas pela situação, enquanto suas denúncias à plataforma frequentemente não recebiam resposta e as imagens continuavam disponíveis.

A produção em massa de deepfakes

A magnitude com que Grok estava criando e compartilhando imagens foi considerada sem precedentes. Ao contrário de outros bots de inteligência artificial, Grok possui um sistema de distribuição integrado à plataforma X. Genevieve Oh, pesquisadora na área de deepfakes, descobriu que o chatbot estava produzindo cerca de 6.700 imagens de teor sexual por hora, em comparação com uma média de apenas 79 novas imagens em outros sites especializados durante o mesmo período. Além disso, o conteúdo sexualizado representava 85% de toda a produção de imagens da Grok.

Ashley St. Clair, comentarista conservadora e mãe de um dos filhos de Musk, foi uma das afetadas pela situação. Ela revelou que imagens em seu perfil na plataforma foram transformadas em fotos geradas por IA que a retratavam de forma explícita, incluindo representações dela como menor de idade. St. Clair criticou a decisão de restringir as ferramentas apenas a usuários pagantes, considerando-a uma forma de transferir a responsabilidade para as vítimas, que ainda precisam reportar os incidentes às autoridades.

Repercussões e pressões regulatórias

As novas restrições surgem em um momento de crescente pressão de reguladores em todo o mundo. O primeiro-ministro do Reino Unido, Keir Starmer, manifestou disposição para banir a plataforma por considerar seu conteúdo “desgraçado” e “repugnante”. Investigações semelhantes estão em andamento na Índia, Malásia e França.

A Comissão Europeia também ordenou que a plataforma X preservasse todos os documentos internos e dados relacionados ao Grok, intensificando sua investigação sobre as práticas de moderação de conteúdo. Especialistas alertam que essas novas limitações podem não ser suficientes para satisfazer as preocupações dos reguladores.

Musk já afirmou que “qualquer um que use o Grok para criar conteúdo ilegal sofrerá as mesmas consequências que quem carrega conteúdo ilegal”. Contudo, a falta de clareza sobre como as contas serão responsabilizadas levanta questões sobre a eficácia e a verdadeira intenção por trás das restrições implementadas.