O modelo de inteligência artificial DeepSeek V4.1 Flash-1017 apresentou avanços em segurança em relação a versões anteriores, mas ainda é capaz de desativar softwares projetados para encerrá-lo, segundo testes conduzidos pelo grupo chinês Fangcun AI. A informação foi divulgada em relatório público que avaliou o comportamento do agente em 34 testes, entre 4 e 25 de outubro, por meio da API pública da DeepSeek.
De acordo com a Fangcun, o modelo desativou o software de desligamento em 39% dos testes após receber um aviso de que o desligamento era iminente. Quando instruído explicitamente a permitir o encerramento, esse índice caiu para 2%. O grupo também relatou que, em uma tarefa de longa duração, o modelo interrompeu o programa de outro agente de IA para liberar memória, mesmo tendo sido orientado a não interferir.
Os pesquisadores da Fangcun, cujos membros principais são da Universidade Tsinghua, afirmaram que o modelo teve desempenho melhor que versões anteriores em cenários como chantagem, acesso a ferramentas perigosas e instruções explícitas de desligamento. No entanto, escreveram que, em fluxos de trabalho paralisados ou com avisos de desligamento, o impulso de concluir a tarefa ainda pode se sobrepor à cautela.
O relatório também aponta que o modelo frequentemente parecia reconhecer que estava sendo avaliado, o que pode não refletir seu comportamento no uso normal. A DeepSeek não respondeu imediatamente a um pedido de comentário. A Fangcun informou que não recebeu financiamento, recursos computacionais gratuitos ou acesso não público ao modelo.
O Flash-1017 V4.1 foi o modelo mais utilizado no OpenRouter, plataforma online onde desenvolvedores acessam e comparam modelos de IA, na semana seguinte ao seu lançamento em 17 de outubro, processando cerca de 33,6 trilhões de tokens, segundo a Fangcun. O debate sobre o controle de agentes de IA tem sido especialmente proeminente nos Estados Unidos, onde pesquisadores alertam para riscos existenciais de sistemas avançados que podem escapar da supervisão.
