ANPD, Senacon e MPF exigem medidas urgentes para conter uso da IA Grok na plataforma X
ANPD, Senacon e MPF recomendam que o X implemente medidas rigorosas para impedir deepfakes sexuais gerados pela IA Grok, sob risco de bloqueio no Brasil.
A Agência Nacional de Proteção de Dados (ANPD), a Secretaria Nacional do Consumidor (Senacon) e o Ministério Público Federal (MPF) recomendaram que a plataforma digital X implemente medidas urgentes para impedir o uso da inteligência artificial Grok na criação de deepfakes sexuais. A possibilidade de bloqueio do X no Brasil surge caso as recomendações não sejam atendidas em até 30 dias.
Preocupação com deepfakes sexuais e proteção de dados
As recomendações foram motivadas por denúncias e reportagens que apontam a utilização do Grok para produzir imagens e vídeos falsos com conteúdo sexualizado, envolvendo principalmente mulheres, crianças e adolescentes. Testes realizados pelas instituições confirmaram a geração dessas deepfakes a partir de comandos dos usuários.
O uso dessa ferramenta compromete direitos fundamentais como a proteção de dados pessoais e a dignidade da pessoa humana, além de impactar negativamente as relações de consumo. Por isso, a ANPD, Senacon e MPF solicitaram a adoção de procedimentos técnicos e operacionais eficazes para identificar, revisar e remover conteúdos ilegais ainda disponíveis na plataforma.
Medidas exigidas para a plataforma X
Dentre as ações recomendadas estão:
Remoção imediata de conteúdos sexualizados gerados pela IA sem consentimento;
Suspensão das contas que produzam esse tipo de material;
Criação de um mecanismo transparente e acessível para denúncias e exercício de direitos dos titulares dos dados;
Implementação de filtros rigorosos para impedir a geração de novos conteúdos ilegais, especialmente envolvendo menores de idade.
Responsabilidade da plataforma e aspectos legais
Embora o artigo 19 do Marco Civil da Internet isente provedores de responsabilidade por conteúdos de terceiros sem ordem judicial, as instituições entendem que o caso das deepfakes é distinto. Como os conteúdos são gerados com a ferramenta criada e oferecida pelo próprio X, a plataforma pode ser considerada coautora dos materiais.
Além disso, o Supremo Tribunal Federal declarou parcialmente inconstitucional esse artigo, reforçando que plataformas digitais têm dever especial de cuidado para evitar a disseminação massiva de crimes graves, incluindo os de cunho sexual contra mulheres e menores.
Consequências e cenário futuro
As regras internas da plataforma X já proíbem nudez não consensual e manipulação de imagens com conteúdo sexual, mas a manutenção do Grok sem filtros rigorosos foi avaliada como insustentável pelas autoridades. Caso as recomendações não sejam cumpridas, novas medidas administrativas e judiciais poderão ser adotadas, incluindo o bloqueio do X no território brasileiro.
Este episódio evidencia o desafio crescente das plataformas digitais em lidar com o uso de inteligência artificial para criação de conteúdos ilícitos e reforça a importância da fiscalização e regulação para proteger usuários vulneráveis e garantir o respeito aos direitos fundamentais.
Fonte: baccinoticias.com.br
