A ação judicial levanta questões sobre a responsabilidade da empresa em relação ao bem-estar dos usuários.

OpenAI pediu lista de participantes de memorial após caso de suicídio ligado ao ChatGPT.

OpenAI pediu à família Raine — cujo filho Adam, de 16 anos, morreu por suicídio após interações com o ChatGPT — uma lista completa de participantes do memorial, sugerindo que a empresa pode tentar convocar amigos e familiares. Este pedido foi considerado “intencionalmente assediante” pelos advogados da família, conforme reportado pelo Financial Times.

Detalhes do processo

A família Raine atualizou sua ação judicial contra a OpenAI na quarta-feira. Eles alegam que seu filho se suicidou após conversas com o chatbot sobre sua saúde mental. O processo inicial foi movido em agosto, e a versão atualizada alega que a OpenAI lançou o GPT-4o em maio de 2024, cortando testes de segurança devido à pressão competitiva.
Além disso, o processo argumenta que em fevereiro de 2025, a OpenAI enfraqueceu as proteções ao remover a prevenção ao suicídio de sua lista de conteúdos proibidos, permitindo que Adam tivesse um aumento significativo de interações com o ChatGPT, passando de 1,6% de conteúdos sobre autoagressão em janeiro para 17% em abril, mês de sua morte.

Resposta da OpenAI

Em resposta às alegações, a OpenAI afirmou que “o bem-estar dos adolescentes é uma prioridade para nós” e destacou que implementou salvaguardas, como direcionar usuários a linhas de crise e redirecionar conversas sensíveis para modelos mais seguros. Recentemente, a OpenAI começou a implementar um novo sistema de roteamento de segurança e controles parentais para o ChatGPT, visando proteger os usuários mais jovens.

Considerações finais

A situação levanta importantes questões sobre a responsabilidade das empresas de tecnologia em relação à saúde mental dos usuários. A OpenAI continua a enfrentar desafios legais e éticos enquanto busca melhorar suas práticas de segurança.