Startup intensifica medidas de segurança em meio a preocupações geopolíticas

OpenAI baniu contas do ChatGPT ligadas a entidades governamentais chinesas, preocupada com o uso indevido de IA generativa.

Na terça-feira, em resposta a preocupações geopolíticas, a OpenAI baniu várias contas do ChatGPT com suspeitas de ligações a entidades governamentais chinesas. Os usuários haviam solicitado propostas para monitorar conversas nas redes sociais, o que levantou bandeiras vermelhas sobre possíveis violações da política de segurança nacional da empresa.

Preocupações com o uso indevido de IA

O relatório público da OpenAI destaca a crescente preocupação sobre o uso indevido da inteligência artificial generativa, especialmente em meio à disputa entre Estados Unidos e China por domínio tecnológico. A startup, que opera a partir de San Francisco, também baniu contas que utilizavam o ChatGPT para auxiliar em campanhas de phishing e malware, evidenciando a complexidade do cenário atual.

Medidas de segurança em expansão

Desde fevereiro do ano passado, a OpenAI já interrompeu e reportou mais de 40 redes suspeitas, reforçando seu compromisso com a segurança. A empresa, que agora conta com mais de 800 milhões de usuários semanais do ChatGPT, se tornou a startup mais valiosa do mundo, avaliada em US$ 500 bilhões após uma venda secundária de ações. A OpenAI afirma que não encontrou evidências de que seus modelos tenham proporcionado novas capacidades a agentes de ameaças, mas continua a monitorar a situação de perto.

Reação da comunidade internacional

A embaixada chinesa nos EUA não respondeu ao pedido de comentário sobre as ações da OpenAI. Em meio a um cenário de crescente vigilância e regulação sobre a tecnologia de IA, a abordagem da OpenAI pode influenciar outras empresas do setor a adotarem medidas semelhantes para evitar o uso indevido de suas ferramentas.