Ministério Público Federal, ANPD e Senacon pedem medidas contra deepfakes sexuais na plataforma X

MPF, ANPD e Senacon recomendam que X impeça geração de imagens sexualizadas pelo Grok, protegendo crianças, adolescentes e adultos.

O Ministério Público Federal (MPF) de São Paulo, em conjunto com a Agência Nacional de Proteção de Dados (ANPD) e a Secretaria Nacional do Consumidor (Senacon), vinculada ao Ministério da Justiça, recomendou que a plataforma X impeça a geração de imagens sexualizadas por meio da ferramenta Grok.

Crescimento e riscos do Grok na geração de deepfakes

A ferramenta Grok, desenvolvida e disponibilizada pela própria X, permite a edição e criação de imagens por inteligência artificial. Recentemente, usuários passaram a produzir deepfakes contendo imagens de teor sexual, erótico e pornográfico de mulheres adultas, crianças e adolescentes sem consentimento, preocupando os órgãos reguladores.

Violação de direitos fundamentais e impacto social

Segundo o documento conjunto, essas práticas atentam contra direitos como dignidade humana, privacidade e proteção integral de crianças e adolescentes. A sexualização indevida de menores pode comprometer sua integridade física, psicológica e social, além de afetar sua imagem pública.

Responsabilidade da plataforma e marco legal

O MPF, ANPD e Senacon destacam que a X não pode ser considerada mera intermediária do conteúdo, uma vez que o Grok é uma ferramenta interna da plataforma. Isso a torna coautora dos conteúdos produzidos, aumentando seu dever de cuidado. A recomendação menciona decisões recentes do Supremo Tribunal Federal sobre a insuficiência do Marco Civil da Internet para proteger direitos fundamentais, reforçando a necessidade de medidas mais rigorosas.

Medidas exigidas e prazos

Os órgãos recomendam que a X implemente, de forma imediata, medidas técnicas, administrativas e de governança para evitar a geração de imagens, vídeos ou áudios que sexualizem crianças, adolescentes e adultos sem autorização. Além disso, a empresa deve, em até 30 dias, estabelecer procedimentos para identificar e remover conteúdos sexualizados já publicados envolvendo menores.

O prazo para a X informar se acatará a recomendação termina em 27 de janeiro de 2026. Caso contrário, poderá enfrentar sanções administrativas e judiciais previstas no Marco Civil da Internet, no Código de Defesa do Consumidor e na Lei Geral de Proteção de Dados.

Repercussão e posicionamento da plataforma

A polêmica envolvendo o Grok também gerou reações públicas, incluindo críticas ao modo como a ferramenta foi liberada e utilizada. Recentemente, a plataforma limitou a edição de imagens após denúncias de uso indevido, buscando reduzir os riscos de abuso.

_Foto: Jaap Arriens/NurPhoto via Getty Images_

Fonte: www.metropoles.com

Fonte: Jaap Arriens/NurPhoto via Getty Images