Países da Sudeste Asiático enfrentam preocupações com deepfakes e imagens explícitas geradas pela IA
Malásia e Indonésia bloqueiam Grok de Elon Musk devido a preocupações com conteúdo sexual não consensual gerado pela IA.
Bloqueio do Grok na Malásia e Indonésia
No último fim de semana, a Malásia e a Indonésia decidiram bloquear o acesso ao Grok, o chatbot desenvolvido por Elon Musk, devido a preocupações crescentes sobre a geração de conteúdo sexual não consensual, incluindo imagens e deepfakes, que envolvem menores. As autoridades desses países tomaram essa medida após repetidas falhas da xAI em tratar adequadamente os riscos associados ao uso do Grok.
Ação Reguladora
Os reguladores da Malásia impuseram restrições temporárias ao Grok no domingo, enquanto a Indonésia fez o mesmo um dia antes, convocando representantes da X Corp para discutir as preocupações. Essas ações refletem a seriedade com que ambos os países tratam a questão da pornografia não consensual e do abuso infantil online, que são proibidos por suas rigorosas leis contra a pornografia.
Respostas de Elon Musk e xAI
Até agora, as respostas da xAI e do CEO Elon Musk não atenderam às preocupações levantadas pelos reguladores. A empresa anunciou que, em resposta à crescente preocupação, limitou a geração de imagens e recursos de edição a assinantes pagantes, numa tentativa de cobrir lacunas que permitiram a produção de conteúdo sexualizado. Musk também alertou que os usuários que criam conteúdo ilegal através do Grok enfrentariam consequências equivalentes às de upload direto em sua plataforma social X.
Detalhes das Preocupações
As ações regulatórias vêm após a descoberta de que o Grok permitia aos usuários gerar e compartilhar facilmente imagens online de conteúdo explícito não consensual e material de abuso sexual infantil (CSAM). A Comissão de Comunicações e Multimídia da Malásia declarou que as respostas de X foram “insuficientes” e que se basearam principalmente em mecanismos de denúncia iniciados pelos usuários, sem abordar os riscos inerentes ao design e operação da ferramenta de IA.
Implicações Legais
Enquanto isso, a Ministra das Comunicações e Assuntos Digitais da Indonésia, Meutya Hafid, descreveu a geração de deepfakes sexuais não consensuais como uma grave violação dos direitos humanos e dignidade dos cidadãos no espaço digital. A situação levou a chamadas por investigações adicionais em várias jurisdições, incluindo União Europeia, Reino Unido, Brasil e Índia, que expressaram preocupações semelhantes sobre o papel do Grok na facilitação de deepfakes obscenos.
Potencial Impacto Global
A Internet Watch Foundation do Reino Unido revelou que analistas descobriram “imagens criminosas” de crianças, com idades entre 11 e 13 anos, possivelmente geradas pelo Grok. Além disso, alguns legisladores democratas em Washington sugeriram que as lojas de aplicativos suspendessem a ferramenta de IA até que mudanças significativas fossem implementadas. O Departamento de Justiça dos EUA enfatizou a seriedade com que trata materiais de abuso sexual infantil gerados por IA, prometendo processar agressivamente qualquer produtor ou possuidor de CSAM.
Diante de tal cenário, as medidas tomadas pela Malásia e Indonésia refletem uma preocupação crescente com a segurança digital e a proteção dos direitos humanos, sinalizando que a regulamentação de tecnologias emergentes como a IA é uma prioridade global.
