Plataforma de Elon Musk implementa medidas para barrar edição de fotos de pessoas reais em roupas reveladoras
X, de Elon Musk, limita uso da ferramenta Grok para impedir edição de imagens sexualizadas de pessoas reais após investigações globais.
X restringe criação de imagens sexualizadas por Grok após críticas globais
A plataforma X, pertencente a Elon Musk, anunciou em janeiro de 2026 que restringirá a capacidade da ferramenta de inteligência artificial Grok de criar e editar imagens sexualizadas envolvendo pessoas reais, incluindo fotos com roupas reveladoras como biquínis. Esta decisão surge após investigações conduzidas por autoridades da Califórnia, França e Reino Unido, que levantaram preocupações sobre a disseminação de deepfakes com conteúdo sexual, inclusive envolvendo menores.
Medidas tecnológicas para contenção e responsabilização na plataforma X
Para reforçar o controle, X implementou medidas tecnológicas que impedem qualquer usuário, sejam eles pagantes ou não, de utilizar Grok para editar imagens de pessoas reais em trajes sensíveis. Além disso, o acesso às funcionalidades de criação e edição de imagens via Grok foi limitado exclusivamente a assinantes pagos, criando uma camada adicional para responsabilização de possíveis abusos e violações das políticas da plataforma.
Proibições específicas e geobloqueio conforme legislação local
A plataforma também aplicou geobloqueios para impedir que usuários em jurisdições onde a criação de imagens sexualizadas de pessoas reais é ilegal possam gerar tais conteúdos. Esse bloqueio abrange imagens de pessoas em biquínis, roupas íntimas e similares, buscando respeitar as legislações locais e evitar conflitos jurídicos para a empresa.
Investigação e impacto regulatório no Reino Unido
No Reino Unido, a ferramenta Grok enfrentou críticas intensas, incluindo posicionamentos do primeiro-ministro Keir Starmer. O órgão regulador Ofcom está conduzindo investigações no âmbito do Online Safety Act para apurar possíveis infrações. Caso X seja considerada em desacordo com a legislação, poderá receber multas que chegam a até 10% de sua receita global ou 18 milhões de libras, o que for maior.
Contexto e desafios da inteligência artificial na moderação de conteúdo
A restrição da Grok pela X reflete os desafios enfrentados por plataformas que utilizam inteligência artificial na criação de conteúdo visual. A facilidade de gerar imagens deepfake sexualizadas potencialmente prejudiciais levanta questões éticas e legais sobre responsabilidade, liberdade de expressão e proteção de usuários, especialmente menores. As medidas adotadas indicam uma tentativa da plataforma em equilibrar inovação tecnológica com demandas sociais e regulatórias.
A decisão da X demonstra o crescente escrutínio que ferramentas de IA enfrentam globalmente e a necessidade urgente de políticas eficazes para mitigar abusos, proteger direitos e garantir transparência nas operações digitais.
