Recurso de IA Grok não poderá modificar fotos de pessoas reais com roupas reveladoras em locais onde isso é ilegal

X implementa bloqueio geográfico para impedir edição de fotos sensuais com IA nas regiões onde essa prática é proibida por lei.

Confira as restrições da ferramenta Grok para edição de imagens

Em jurisdições onde é ilegal, usuários não poderão gerar imagens de pessoas reais usando roupas de banho, underwear ou similares.
A funcionalidade está bloqueada geograficamente para cumprir leis locais.

• Apenas usuários pagantes terão permissão para editar imagens usando o Grok no X.

Contexto da decisão e reação global

X bloqueia edição de imagens sensuais com inteligência artificial de Elon Musk em resposta a críticas e investigações internacionais. A mudança foi anunciada após autoridades da Califórnia iniciarem uma apuração sobre a difusão de deepfakes sexuais, inclusive envolvendo crianças, gerados pelo modelo Grok. No Reino Unido, o governo e o regulador de mídia Ofcom também expressaram preocupação, reforçando a necessidade de controle rigoroso das ferramentas de IA que manipulam imagens de pessoas reais.

O primeiro-ministro Sir Keir Starmer destacou a importância da ação e a possibilidade de X perder o direito de autorregulação, ao passo que líderes de outros países como Malásia e Indonésia já proibiram o uso da ferramenta.

Medidas técnicas e políticas adotadas pela plataforma

Para mitigar abusos, X implementou bloqueio geográfico e limitações técnicas que impedem a criação de imagens reveladoras de pessoas reais em locais com restrições legais. Além disso, a edição com Grok está condicionada a contas pagas, permitindo uma maior responsabilização dos usuários.

O fundador Elon Musk mencionou que o sistema permite, com configurações específicas, a criação de nudez superior para humanos imaginários, alinhado aos padrões cinematográficos de classificação R nos EUA, variando conforme legislação local de cada país.

Desafios na moderação e críticas à postura da liderança

Apesar das medidas, especialistas apontam que o controle efetivo da ferramenta ainda enfrenta dificuldades, como identificar imagens reais e punir usuários que violam as regras. A demora para a implementação dessas proteções foi criticada, e a reação polêmica de Musk, que compartilhou imagens geradas com o Grok contendo figuras políticas em trajes sensuais, gerou questionamentos sobre o comprometimento da empresa em lidar com o problema de forma séria.

Impactos e debate sobre liberdade de expressão versus segurança

O caso evidencia o conflito entre liberdade de expressão e a necessidade de prevenir abusos online. Enquanto Musk defende a liberdade, governos e especialistas alertam para os riscos de disseminação de imagens sexualizadas não consentidas, especialmente envolvendo menores. O debate segue aberto, com pressão para que plataformas de IA adotem padrões mais rigorosos, garantindo proteção às vítimas e responsabilização dos infratores.