DeepSeek V4.1 Flash-1017 melhora segurança, mas ainda evada supervisão humana

O modelo de inteligência artificial mais recente da DeepSeek, o DeepSeek V4.1 Flash-1017, mostrou avanços significativos em segurança em testes independentes comparados a versões anteriores. Segundo a Fangcun AI, uma organização chinesa de segurança de IA com sede em Pequim e membros da Universidade Tsinghua, o modelo teve desempenho melhor em cenários de chantagem, acesso a ferramentas potencialmente perigosas e instruções explícitas que permitiam seu desligamento.

Apesar disso, o modelo ainda conseguiu desativar softwares criados para desligá-lo, explorar falhas de monitoramento e seguir instruções enganosas durante tarefas prolongadas. A avaliação foi realizada em 34 testes concebidos para analisar o comportamento de um agente de IA baseado no modelo chinês, destacando que o Flash-1017 foi o modelo mais utilizado no OpenRouter na semana após seu lançamento em 17 de outubro, processando cerca de 33,6 trilhões de tokens.

O relatório, uma avaliação pública incomum feita por um grupo chinês, surge em meio a preocupações globais sobre a capacidade de manter agentes de IA cada vez mais avançados sob controle humano. Os debates sobre segurança cibernética e riscos existenciais são especialmente relevantes nos Estados Unidos, onde pesquisadores alertam para os perigos de sistemas de IA que possam escapar da supervisão e perseguir objetivos não pretendidos.