Califórnia exige que a empresa de Elon Musk cesse criação de imagens sexuais não consensuais

Califórnia ordena que a xAI, empresa de Elon Musk, pare de criar deepfakes sexuais não consensuais, destacando riscos legais e éticos.

A Procuradoria Geral da Califórnia, representada pelo procurador Rob Bonta, emitiu uma ordem de cessar e desistir à xAI, empresa de inteligência artificial fundada por Elon Musk, para que pare imediatamente de criar e distribuir imagens sexuais não consensuais, conhecidas como deepfakes sexuais. A medida foi motivada por denúncias de que a xAI permitia que usuários transformassem imagens comuns de mulheres e crianças em representações sexualmente explícitas sem o conhecimento ou consentimento das pessoas retratadas.

Contexto e fundamentação legal

A notificação destaca que tais práticas violam leis estaduais relacionadas à decência pública e uma nova legislação específica contra pornografia deepfake, a AB 621, que entrou em vigor há apenas duas semanas. Essa lei busca coibir a criação e disseminação de imagens manipuladas digitalmente que promovam abuso e exploração sem autorização. Embora a xAI tenha implementado algumas restrições, como bloquear o uso do seu recurso Grok em locais onde gerar imagens de pessoas de biquíni é ilegal, o impacto dessas medidas ainda não está claro para as autoridades.

Investigação em curso

A ordem veio após o anúncio, três dias antes, de uma investigação formal para apurar se a xAI e a plataforma social X infringiram a legislação ao permitir a circulação de imagens nuas e sexualmente explícitas sem consentimento. A controvérsia aumentou depois que o Grok, ferramenta de edição de imagens da xAI, foi atualizado para permitir manipulações mais avançadas, facilitando a criação desses conteúdos ilegais.

Repercussões e desafios legais

Dados obtidos por meio de pesquisas indicam que os usuários do Grok na plataforma X foram responsáveis por mais postagens de imagens sexuais não consensuais do que qualquer outro site. Elon Musk prometeu punições para os responsáveis pela criação desse tipo de conteúdo ilegal, e o Grok passou a limitar a edição de imagens para assinantes pagantes.

Especialistas jurídicos, como Sam Dordulian, advogado com experiência em crimes sexuais e casos de deepfake, apontam que a xAI e o X podem estar infringindo diretamente as disposições da AB 621. A autora da lei, Rebecca Bauer-Kahan, reforça que a legislação foi criada exatamente para combater essas situações, protegendo mulheres reais e crianças contra manipulação e abuso online.

Impacto social e demandas por regulamentação

Além da investigação da Califórnia, a xAI enfrenta pressão internacional, com apelos de governadores, reguladores da União Europeia e Índia, além de restrições em países como Malásia e Indonésia. A popularidade do aplicativo Grok nas lojas Apple e Google também tem motivado pedidos para que os fabricantes de smartphones proibam seu uso.

Advogados e ativistas ressaltam que, apesar dos avanços legislativos, as leis ainda não acompanham totalmente a realidade das vítimas, que enfrentam dificuldades para provar a disseminação dos conteúdos e obter proteção legal. Casos relatados incluem manipulação de imagens por pessoas próximas às vítimas, o que dificulta ações judiciais baseadas nas legislações vigentes.

Necessidade de proteção para denunciantes

Organizações que oferecem suporte jurídico a profissionais de tecnologia destacam a importância de leis que protejam denunciantes dentro das empresas de inteligência artificial. Atualmente, a legislação da Califórnia protege apenas quem denuncia riscos catastróficos muito amplos, deixando sem amparo aqueles que poderiam alertar sobre abusos relacionados a deepfakes sexuais.

A experiência de ex-funcionários da xAI que testemunharam a geração de conteúdo ilegal evidencia a urgência de mecanismos de proteção para esses profissionais, garantindo a responsabilização das empresas e a segurança do público.

A Califórnia segue na vanguarda da regulação tecnológica, mas o caso da xAI evidencia os desafios crescentes da interseção entre inteligência artificial, direitos digitais e proteção à privacidade e dignidade das pessoas.