Autoridades exigem ações mais efetivas contra conteúdo sexualizado gerado pelo Grok.

Governo e MPF manifestam insatisfação com medidas do X contra imagens eróticas geradas pelo Grok.

As autoridades federais brasileiras, incluindo a Agência Nacional de Proteção de Dados (ANDP) e o Ministério Público Federal (MPF), expressaram sérias preocupações a respeito das falhas na plataforma X, anteriormente conhecida como Twitter, em lidar com a geração de imagens sexualizadas através da inteligência artificial Grok. Durante uma avaliação recente, as explicações fornecidas pela empresa foram consideradas insuficientes para garantir a efetividade das medidas anunciadas para conter esse problema.

Histórico da Questão

O uso de tecnologias de inteligência artificial para a criação de imagens sexualizadas sem consentimento tem gerado forte repercussão, especialmente em contextos onde a proteção de dados e a privacidade são prioritárias. O Grok, uma ferramenta desenvolvida para gerar conteúdo visual, foi alvo de críticas por não impedir adequadamente a criação e disseminação de imagens inapropriadas, incluindo aquelas que envolvem crianças e adolescentes. Em resposta a estas preocupações, o X afirmou ter eliminado milhares de postagens e suspendido diversas contas, mas os resultados práticos de tais ações têm sido contestados.

Avaliação das Medidas Adotadas

As investigações conduzidas por equipes técnicas das autoridades federais revelaram que, apesar das alegações do X, ainda é possível gerar e compartilhar imagens sexualizadas sem o devido consentimento. A ANDP e a Senacon solicitaram a implementação imediata de medidas mais rigorosas para evitar a utilização do Grok na criação de conteúdos indevidos. As autoridades enfatizam a necessidade de um sistema mais robusto de monitoramento e controle, considerando que as estratégias atuais não têm se mostrado eficazes.

Consequências e Próximos Passos

Se as ordens não forem cumpridas, o X poderá enfrentar sanções severas, incluindo multas substanciais. Além disso, o MPF destacou a falta de transparência por parte da plataforma, exigindo relatórios mensais sobre as ações implementadas. A não conformidade poderá acarretar em ações legais contra os responsáveis pela plataforma. A situação se torna ainda mais crítica, pois as repercussões sobre a privacidade dos usuários e a segurança de dados são imensas, alimentando um debate mais amplo sobre a regulamentação da inteligência artificial.

Conclusão

Com a pressão das autoridades, o X se vê diante de um dilema: reforçar suas políticas de segurança e privacidade ou enfrentar consequências legais e financeiras que podem comprometer sua reputação e operação. A luta contra a geração de conteúdo sexualizado por meio de inteligência artificial continua a ser um desafio premente, exigindo uma abordagem mais rigorosa e colaborativa entre as plataformas de mídia social e as entidades reguladoras.

Fonte: www.metropoles.com