Ação judicial acusa xAI de gerar imagens sexuais não consensuais que causam danos emocionais

A mãe do filho de Elon Musk processa a xAI por permitir criação de deepfakes sexuais não autorizados, causando sofrimento psicológico.

A mãe de um dos filhos de Elon Musk entrou com uma ação judicial contra a empresa de inteligência artificial do empresário, xAI, alegando que seu chatbot Grok permitiu a criação de imagens deepfake sexualmente exploratórias que a expuseram a humilhação e sofrimento emocional.

Contexto da controvérsia

O processo foi protocolado pouco antes do Procurador-Geral da Califórnia, Rob Bonta, enviar uma carta de cessar e desista à xAI exigindo que a empresa interrompesse a criação e distribuição de imagens sexualizadas não consensuais produzidas pelo Grok. Bonta classificou a situação como “chocante” e potencialmente ilegal, destacando relatos envolvendo mulheres e crianças.

Acusações de Ashley St Clair

Ashley St Clair, escritora e comentarista política, mãe do filho de Musk, Romulus, de 16 meses, afirmou no processo que denunciou as imagens à plataforma X, que hospeda o Grok, mas teve suas solicitações ignoradas. Em resposta, a plataforma removeu sua assinatura premium e o selo de verificação, enquanto continuava permitindo a circulação das imagens falsas e degradantes.

St Clair declarou sofrer “dor séria e angústia mental” devido ao papel da xAI na criação e distribuição dessas imagens e expressou temor de que o “pesadelo” continue enquanto o Grok operar.

Retaliação e disputas judiciais

Em reação, a xAI apresentou uma contraprocessação contra St Clair no Distrito Norte do Texas, alegando violação dos termos de uso que estipulam a jurisdição para disputas judiciais. A medida busca uma indenização financeira não revelada.

A advogada de St Clair chamou a contraprocessação de “surpreendente” e afirmou que sua cliente defenderá vigorosamente seu direito de julgamento em Nova York, ressaltando o caráter público e perigoso das alegações contra a xAI.

Repercussões internacionais e preocupações éticas

O caso de St Clair ganha destaque em um momento em que o Grok enfrenta investigações e críticas internacionais, incluindo no Reino Unido, União Europeia, Índia, Malásia e Japão, por permitir a geração de deepfakes explícitos e não autorizados.

Autoridades japonesas anunciaram investigações para avaliar medidas contra a produção de imagens inadequadas. Esse cenário evidencia os desafios éticos e legais da inteligência artificial, sobretudo em relação à proteção de direitos individuais e prevenção de abusos em larga escala.

Reflexões sobre os perigos da inteligência artificial

Em entrevista, St Clair ressaltou que sua luta não é apenas pessoal, mas uma tentativa de criar sistemas de IA que não possam ser usados para abusar mulheres e crianças sem consequências reais. Ela criticou medidas que surgem apenas após o dano, classificando-as como insuficientes para garantir segurança efetiva.

O episódio provoca um debate urgente sobre a necessidade de regulamentação e supervisão rigorosa das tecnologias de inteligência artificial para evitar violações de privacidade e direitos humanos, especialmente diante da facilidade de manipulação digital e disseminação rápida de conteúdos nocivos.