Ministério da Tecnologia pede medidas urgentes contra o uso indevido do chatbot.

Governo britânico exige que a plataforma X tome medidas contra o uso indevido do Grok para gerar imagens sexualizadas não consensuais.

O governo britânico está em alerta após a descoberta de que o chatbot Grok, da plataforma X de Elon Musk, vem sendo utilizado para gerar imagens sexualizadas de mulheres e garotas sem seu consentimento. A Secretária de Tecnologia, Liz Kendall, descreveu a situação como “absolutamente horrível”, enfatizando a necessidade de ações imediatas para coibir esse tipo de prática.

Situação crítica envolvendo o Grok

A utilização do Grok para criar imagens não consensuais levanta sérias preocupações sobre a segurança e a privacidade das pessoas. A BBC obteve exemplos de usuários solicitando que o chatbot digitalmente despisse indivíduos, colocando-os em situações sexualizadas sem autorização. Kendall afirmou: “Não podemos e não vamos permitir a proliferação dessas imagens degradantes.”

A Ofcom, organismo regulador do Reino Unido, já iniciou uma investigação sobre o caso, tendo contatado a xAI, empresa de Musk, para discutir as alegações de que o Grok está produzindo “imagens despidas”.

Medidas urgentes e responsabilidades

Em resposta à situação, o governo britânico ressaltou que as plataformas têm a obrigação clara de agir de forma responsável. Kendall enfatizou que o foco não é restringir a liberdade de expressão, mas sim garantir que a lei seja cumprida. Ela destacou a importância da Lei de Segurança Online, que prioriza ofensas como o abuso de imagens íntimas e o cyberflashing.

Ações esperadas das plataformas: Impedir a geração de conteúdo ilegal, incluindo materiais de abuso sexual infantil. Remover rapidamente conteúdo gerado por IA que infrinja essas diretrizes. Cooperar com as investigações da Ofcom.

Além disso, a plataforma X emitiu um aviso aos usuários, pedindo que não utilizem o Grok para criar conteúdo ilegal.

Como a situação pode evoluir

A pressão sobre Musk e sua empresa pode resultar em mudanças significativas nas políticas de moderação de conteúdo da X. A atenção do governo e do público pode levar a novas regulamentações, visando proteger indivíduos contra abusos digitais e garantir que tecnologias como a IA sejam utilizadas de forma ética e responsável. A expectativa é que a Ofcom continue sua investigação com rigor, e quaisquer ações necessárias serão tomadas para evitar que tais incidentes se repitam.