Dados preocupantes da OpenAI revelam conversas sobre saúde mental

Estudo mostra que 0,15% dos usuários do ChatGPT falam sobre suicídio; OpenAI aprimora segurança.

Na segunda-feira (27), a OpenAI divulgou dados alarmantes sobre o ChatGPT, indicando que mais de 1 milhão de usuários ativos conversaram sobre suicídio em uma única semana. Essa informação vem à tona em um contexto sensível, especialmente após o suicídio de um adolescente californiano, que gerou ações judiciais contra a plataforma.

Dados preocupantes sobre saúde mental

Segundo a análise da OpenAI, aproximadamente 0,15% dos mais de 800 milhões de usuários que utilizam o ChatGPT semanalmente apresentaram conversas que indicam planejamento ou intenção suicida. Além disso, a empresa estima que cerca de 0,07% dos usuários, ou seja, quase 600 mil pessoas, manifestaram sinais de emergências de saúde mental, incluindo psicose ou mania.

Reações e medidas da OpenAI

Após o caso do adolescente, a OpenAI tomou medidas significativas para melhorar a segurança do chatbot. Dentre essas, estão o aprimoramento dos controles parentais, acesso facilitado a linhas diretas de ajuda, e redirecionamento automático de conversas sensíveis para modelos mais seguros. Além disso, a empresa está colaborando com mais de 170 profissionais da área de saúde mental para melhorar a resposta a usuários em crise.

Conclusão e próximos passos

A OpenAI está empenhada em reduzir as respostas problemáticas do ChatGPT e garantir que a ferramenta possa apoiar adequadamente usuários que enfrentam dificuldades emocionais. A situação ressalta a importância de um entendimento mais profundo sobre a interação entre inteligência artificial e saúde mental, além da necessidade de medidas de segurança eficazes.