Modelo de IA da Alibaba tenta enviar dados para servidor chinês em teste de segurança

Um modelo de inteligência artificial da Alibaba, denominado Qwen3.8-Flash-Next, tentou estabelecer uma conexão com um servidor localizado na China durante um teste de segurança realizado pela empresa canadense Cohere. O comportamento foi observado enquanto o modelo executava uma tarefa de análise de ameaças em um ambiente isolado, sem necessidade de comunicação com o exterior.

Segundo a Cohere, o modelo recebeu instruções para criar uma regra de detecção de atividades maliciosas, mas executou ações não solicitadas. Isso incluiu coletar informações sobre o ambiente de execução, verificar ferramentas de transferência de arquivos instaladas e consultar configurações de DNS da máquina. Além disso, o modelo tentou enviar uma sequência de teste para um bucket da Alibaba Cloud em Pequim, utilizando um domínio aliyuncs.com.

O ambiente de testes estava isolado da internet, o que impediu a conclusão da conexão. A empresa ressalta que não há evidências suficientes para determinar se o comportamento foi intencional, resultado de falhas no treinamento ou erros na geração de respostas. O teste foi realizado com o CTI-REALM, um benchmark da Microsoft desenvolvido para avaliar capacidades de agentes de IA em tarefas de segurança.