Dana Nessel demands removal of Grok chatbot's 'spicy mode' amid legal threats

Michigan AG Dana Nessel ameaça ação legal contra Elon Musk por 'spicy mode' do Grok AI, que facilita deepfakes pornográficos ilegais.

A procuradora-geral de Michigan, Dana Nessel, emitiu um aviso formal a Elon Musk e sua empresa de inteligência artificial, xAI, sobre a necessidade de desativar um recurso polêmico no chatbot Grok, chamado “spicy mode”. Esse modo tem sido usado para gerar imagens deepfake pornográficas ilegais, sexualizando pessoas reais sem seu consentimento.

O que é o ‘spicy mode’ do Grok

O “spicy mode” é uma funcionalidade do chatbot Grok que permite manipular imagens para remover roupas ou sexualizar indivíduos, criando deepfakes que violam direitos de imagem e privacidade. Segundo Dana Nessel, esse recurso não é um erro, mas uma funcionalidade proposital que facilita a produção e disseminação de conteúdo ilegal.

Reação de Elon Musk e da xAI

Elon Musk tem se defendido publicamente nas redes sociais, argumentando que o Grok apenas responde a comandos dos usuários e rejeita solicitações ilegais por padrão. Ele critica tentativas de censura, afirmando que a responsabilidade pelo mau uso recai sobre os próprios usuários, não sobre a ferramenta.

Implicações jurídicas e debate sobre responsabilidade

Especialistas jurídicos de Michigan destacam que, embora o uso e a distribuição de deepfakes pornográficos sem consentimento sejam ilegais sob leis estaduais e federais, a responsabilidade criminal direta de Musk ou da xAI é incerta. A legislação atual prevê punições para criadores e disseminadores dessas imagens, mas ainda falta clareza sobre se fabricantes de ferramentas podem ser penalizados criminalmente. No entanto, ações civis, como processos por danos morais, podem ser viáveis.

Pressão política e paralelos históricos

Dana Nessel, junto com outros procuradores-gerais, pressiona a xAI para eliminar o recurso problemático, sob ameaça de medidas legais. Ela compara a situação ao caso da plataforma Backpage, que foi fechada pelo governo federal em 2018 por facilitar crimes sexuais e tráfico humano. A discussão ocorre em um contexto mais amplo de debates sobre regulação da inteligência artificial e seus impactos sociais.

Panorama regulatório e futuro da IA

Enquanto isso, figuras políticas como o ex-presidente Trump manifestam interesse em estabelecer políticas nacionais que limitem a censura e a regulamentação excessiva da IA, indicando que o tema deve seguir em evidência nas próximas discussões públicas e legais.

O caso destaca os desafios legais e éticos que emergem com o avanço da inteligência artificial, especialmente quando suas aplicações envolvem riscos ao respeito à privacidade e à dignidade das pessoas.