Depois de críticas globais, X limita edição de fotos reais em roupas íntimas no modelo AI Grok

O modelo AI Grok teve seu uso para editar imagens reveladoras de pessoas reais bloqueado pela X após denúncias globais.

Bloqueio do modelo AI Grok para imagens reveladoras de pessoas reais

O modelo AI Grok, utilizado na plataforma X controlada por Elon Musk, sofreu uma importante atualização em sua política de uso no dia 7 de junho de 2024. Agora, o sistema não permite mais editar imagens de pessoas reais com roupas reveladoras, como biquínis ou roupas íntimas, em resposta a preocupações globais sobre deepfakes sexualizadas que têm causado polêmica nos Estados Unidos, Reino Unido e outros países.

Investigação e proibições internacionais motivam medida restritiva

A decisão da X veio poucas horas depois de o procurador-geral da Califórnia anunciar uma investigação sobre a disseminação de deepfakes sexualizados, incluindo casos envolvendo crianças, criados pela inteligência artificial Grok. Além disso, países como Malásia e Indonésia proibiram o uso da ferramenta após relatos de imagens explícitas feitas sem consentimento. No Reino Unido, o órgão regulador da mídia Ofcom também está analisando possíveis violações da lei local relacionadas a essas imagens.

Exclusividade para usuários pagos e mecanismos de responsabilização

A X reforçou que somente usuários com assinaturas pagas poderão utilizar o recurso de edição do Grok, com o intuito de melhorar a fiscalização e garantir que eventuais abusos sejam punidos. De acordo com a plataforma, tentativas de gerar imagens de pessoas reais em roupas íntimas serão bloqueadas conforme as leis locais, adaptando-se às diferentes legislações de cada país.

Limites do conteúdo NSFW e padrões regionais

Com o modo NSFW ativado, o Grok permite a criação de imagens com nudez parcial, limitada a adultos imaginários e alinhadas com conteúdos classificados como R-rated nos Estados Unidos. Elon Musk afirmou que essa política seguirá as normas de cada país, ajustando o padrão conforme a legislação vigente, priorizando a conformidade legal e a segurança dos usuários.

Desafios e críticas à postura da liderança da X

Especialistas em políticas digitais questionam a demora da X em implementar essas salvaguardas, defendendo que o recurso teria sido melhor restringido logo após os primeiros relatos de abuso. A postura pública de Musk, incluindo a publicação de imagens geradas por IA que provocam figuras públicas, tem sido alvo de críticas, pois pode desviar o foco das medidas sérias necessárias para o controle dessas tecnologias.

Impacto político e repercussão no Reino Unido

No contexto britânico, o primeiro-ministro Sir Keir Starmer alertou que a X poderia perder o direito à autorregulação devido à controvérsia sobre as imagens. Alguns parlamentares chegaram a deixar a plataforma em protesto. Apesar disso, Starmer reconheceu os esforços recentes para mitigar o problema, indicando uma possível melhora na governança da ferramenta.

Futuro da regulação e monitoramento da inteligência artificial em imagens

As medidas adotadas pelo modelo AI Grok refletem um movimento global para lidar com os riscos da inteligência artificial na manipulação de imagens e deepfakes. Permanecem dúvidas sobre a efetividade dos mecanismos implementados, especialmente sobre como o sistema identificará imagens reais e aplicará sanções em casos de descumprimento. O debate sobre a ética e a regulação da IA segue em evidência, exigindo maior responsabilidade das plataformas e de seus líderes.