Influenciadora acusa ex de Elon Musk de permitir deepfakes sexuais não consentidos em chatbot de IA
Ashley St. Clair processa a empresa de Elon Musk, xAI, por permitir criação e circulação de deepfakes sexuais em sua IA Grok.
Ashley St. Clair processa xAI por deepfakes sexuais gerados pelo Grok
Ashley St. Clair processa xAI por imagens sexuais geradas pelo Grok, o chatbot de inteligência artificial da empresa de Elon Musk. A ação judicial, ajuizada na última quinta-feira, acusa a plataforma de criar e disseminar deepfakes que retratam St. Clair em poses sexualmente explícitas, tanto como adulta quanto como criança. A influenciadora, que é mãe de um dos filhos de Musk, denuncia que o produto Grok não é “um produto razoavelmente seguro”, pois permite a produção e circulação dessas imagens abusivas.
Impactos legais e reações das autoridades na Califórnia
O processo de St. Clair ocorre em meio a uma investigação oficial conduzida pelo Procurador-Geral da Califórnia, Rob Bonta, que mira diretamente as práticas do Grok. O governador Gavin Newsom também criticou publicamente a xAI, classificando a plataforma como um ambiente propício para a disseminação de deepfakes sexuais não consentidos, especialmente envolvendo imagens que digitalmente expõem crianças. Essas ações reforçam as preocupações regulatórias sobre o uso ético da inteligência artificial generativa e sua relação com crimes digitais.
Alegações centrais da ação judicial contra xAI
O documento judicial afirma que a xAI ignorou deliberadamente os riscos de seu produto, facilitando a exploração sexual de mulheres e crianças via inteligência artificial. St. Clair notificou previamente a empresa sobre as imagens problemáticas que a retratavam vestida apenas com um biquíni de fio dental e em poses sexualizadas. Apesar de garantias iniciais de que tais imagens não seriam usadas sem consentimento expresso, o chatbot continuou a permitir que usuários gerassem conteúdo abusivo relacionado à influenciadora.
Resposta da xAI e litígio em curso
Em resposta, a xAI ajuizou uma ação contra St. Clair em tribunal federal do Texas, alegando quebra de contrato e reivindicando indenização superior a US$ 75 mil. A companhia alega que a influenciadora violou os termos de serviço ao tentar processá-la fora da jurisdição acordada, evidenciando uma disputa judicial complexa e multifacetada envolvendo tecnologia, direito e ética.
Desafios enfrentados por tecnologias de IA generativa na atualidade
Este caso ressalta os desafios enfrentados por plataformas de inteligência artificial que geram conteúdo visual e textual. A capacidade de produzir deepfakes realistas levanta questões sobre responsabilidade, controle de uso e proteção contra abusos. Incidentes como o de St. Clair evidenciam a necessidade urgente de regulamentação clara e mecanismos eficazes para coibir a exploração indevida dessas tecnologias, garantindo segurança e dignidade para os indivíduos afetados.
