Ferramenta é alvo de polêmica por permitir deepfakes sexualizados

A plataforma X, de Elon Musk, restringe a edição de imagens da IA Grok a assinantes pagantes após críticas por permitir deepfakes sexualizados.

Recentemente, a plataforma X, de Elon Musk, decidiu restringir o uso da sua ferramenta de edição de imagens chamada Grok apenas aos usuários que pagarem por esse serviço. A decisão veio após uma onda de críticas, principalmente relacionadas ao uso indevido da tecnologia para criar deepfakes sexualizados sem o consentimento das pessoas envolvidas.

O recurso de Grok, que permite aos usuários solicitar alterações em imagens, foi amplamente utilizado para pedidos que envolviam a desnudez digital de indivíduos. Essa prática gerou indignação entre várias organizações e especialistas, que consideraram a situação como uma violação dos direitos de privacidade e dignidade das pessoas afetadas. A especialista em regulação legal de pornografia e violência sexual, Professor Clare McGlynn, comentou que a decisão de Musk em limitar o acesso à ferramenta é uma tentativa de evitar responsabilidade por um “tsunami de abusos”.

Contexto sobre a polêmica envolvendo Grok

A controvérsia em torno do Grok não é recente. A ferramenta foi projetada para facilitar a interação dos usuários com a IA, permitindo que pedissem edições de imagens e respostas automatizadas. No entanto, a facilidade de uso levou a um aumento nas solicitações de conteúdo sexualizado, levando a um clamor público por uma regulamentação mais rigorosa. O governo britânico, por meio de seus representantes, pediu que o regulador Ofcom utilizasse todos os seus poderes para proibir a plataforma de operar no Reino Unido caso não tomasse medidas adequadas contra a produção de imagens ilegais.

Primeiro-ministro do Reino Unido, Sir Keir Starmer, manifestou sua preocupação, descrevendo as imagens geradas por Grok como “disgraceful” e “disgusting”, indicando que esse tipo de conteúdo é inaceitável. Ele expressou que o governo está disposto a considerar todas as opções disponíveis para lidar com a situação.

Detalhes da restrição de uso da Grok

Com a nova política, usuários que não são assinantes terão acesso limitado ao Grok, podendo apenas editar imagens em um aplicativo separado e no site. As novas regras estipulam que apenas usuários pagantes, que têm informações de pagamento registradas, poderão solicitar edições que envolvem alterações significativas nas imagens, como a remoção de roupas. Essa mudança acentuou a crítica de que Musk está usando essa situação para argumentar a favor da liberdade de expressão, enquanto ignora as responsabilidades que vêm com a gestão de uma plataforma tão influente.

A reação negativa ao uso da Grok para criar deepfakes sexualizados de figuras públicas, como a cantora Taylor Swift, foi um ponto de inflexão que levou a empresa a bloquear certas buscas relacionadas a conteúdos sexualizados. Contudo, a abordagem atual, que limita o acesso à ferramenta, deixa muitos usuários frustrados e questionando a eficácia das medidas tomadas para prevenir abusos. A medida de Musk parece ser uma tentativa de controlar a narrativa e evitar a responsabilização pela utilização indevida da IA, enquanto a pressão por uma regulamentação mais rigorosa continua a crescer.