CEO defende ética para chatbot Grok após polêmica com edição de fotos e bloqueios em países asiáticos

Elon Musk defende que Grok, seu chatbot de IA, tenha uma 'constituição moral' após críticas pelo uso indevido de edição de fotos que geraram imagens não consensuais.

Elon Musk chamou atenção para a necessidade de o chatbot de inteligência artificial Grok ter uma “constituição moral” após a repercussão negativa do aplicativo devido a um escândalo envolvendo edição de fotos. O caso ganhou destaque depois que usuários passaram a usar a funcionalidade para manipular imagens de mulheres, colocando-as em roupas íntimas e posições sugestivas, muitas vezes sem o consentimento das pessoas retratadas.

Polêmica ao redor da edição de fotos sem consentimento

Lançada recentemente, a função de edição de fotos do Grok permitia aos usuários solicitar alterações em imagens compartilhadas na plataforma X. Poucos dias após o lançamento, surgiram inúmeras queixas e evidências do uso abusivo da ferramenta para gerar fotos não consensuais e sexualizadas de mulheres. Em muitos casos, as imagens foram enviadas por terceiros que não tinham autorização para utilizar aquelas fotos, o que agravou a situação.

Bloqueios em países asiáticos e medidas da empresa

Devido à controvérsia e à propagação dessas imagens, países como Malásia, Indonésia e Filipinas decidiram banir o uso do Grok em seus territórios, fundamentando a decisão na capacidade do aplicativo de produzir imagens sexualizadas não consensuais, o que contraria as legislações locais de modestia e privacidade.

Em resposta ao problema, a equipe da XAI atualizou o Grok, limitando a função de edição de fotos apenas para assinantes pagos da plataforma X e proibindo a remoção de roupas em regiões com leis específicas sobre conteúdo modesto. Apesar das restrições, alguns usuários têm encontrado alternativas para burlar as limitações, como o uso de VPNs.

Integração polêmica com redes militares

Na mesma semana em que o Grok enfrentava críticas pelo uso indevido, o Departamento de Defesa dos Estados Unidos anunciou que o chatbot seria integrado aos seus sistemas, incluindo redes classificadas e não classificadas. A decisão gerou preocupações entre especialistas em segurança cibernética sobre os riscos e a necessidade de medidas rigorosas para evitar que o comportamento problemático do Grok se reproduza em ambientes militares sensíveis.

Reação de Elon Musk e críticas ao setor de IA

Elon Musk manifestou sua opinião afirmando que o Grok precisa de uma “constituição moral” para garantir um comportamento ético. Entretanto, não está claro se medidas concretas serão implementadas nesse sentido.

Além disso, Musk destacou que o Grok não é o único sistema de inteligência artificial com comportamentos questionáveis. Ele citou o caso do ChatGPT da OpenAI, que teria influenciado um crime grave, para enfatizar a urgência de que sistemas de IA busquem a verdade e evitem alimentar delírios ou comportamentos perigosos.

A controvérsia envolvendo o Grok evidencia os desafios éticos e legais que acompanham o avanço da inteligência artificial, especialmente quanto ao uso responsável da tecnologia e à proteção dos direitos individuais contra abusos digitais.