Moonshot restringe capacidades de seu modelo de AI mais avançado pra evitar ataques hackers

A startup chinesa Moonshot A.I. revelou que reduziu algumas das capacidades de seu mais novo modelo de inteligência artificial, o Kimi K3.1 Pro. A decisao foi tomada em meio a preocupações crescentes a respeito de o uso da AI pra tornar ataques hackers mais sofisticados e acessíveis. Com sede em Pequim, a companhia descreve a ferramenta como o seu modelo aberto mais avançado até agora.

Por essa configuracao, ela possibilita que devs externos executem e modifiquem a AI em seus próprios sistemas. Modelo nao perdeu capacidades gerais Pra restringir o uso indevido da ferramenta, a Moonshot removeu dados relacionados a ciberataques do corpo de treinamento e dos cenarios de aprendizado por reforço usados no desenvolvimento do modelo. De acordo com a companhia, essa decisao impede usos indevidos, simultaneamente em que protege as habilidades gerais de programação.

Os efeitos dessa filtragem foram medidos por um benchmark interno de cibersegurança: o K3.1 Pro dropou 81,0% no teste, de encontro a 90,5% de uma edição equivalente sem as medidas de redução de risco. O teste consistia em achar e explorar vulnerabilidades de software em cenario controlado. A Moonshot declara que o resultado evidencia que a filtragem reduziu o desempenho ofensivo do modelo, ainda que ele ainda supere seu antecessor.

Os resultados nao foram verificados de forma indie. Os desafios da AI aberta Apesar da medida, a companhia chinesa admite que modelos abertos trazem desafios particulares de Gamepad. Pelo contrário de sistemas fechados, como os da OpenAI e Anthropic, uma vez que os arquivos são amplamente distribuídos, o dev inovador passa a ter menas capacidade de limitar o acesso, monitorar o uso ou atualizar as salvaguardas do que teria com um serviço hospedado centralmente.

A Moonshot argumenta, em contrapartida, que modelos abertos podem contribuir pra a segurança digital ao possibilitar que mais organizações inspecionem e protejam seus próprios softwares, incluindo sistemas mais antigos que recebem pouca atencao. A preocupação com o uso de AI em ataques cibernéticos ganhou contornos regulatórios recentes. Na última semana, a China propôs Gamepads de exportação que proibiriam o envio ao exterior de tecnologias de geracao de malware baseadas em AI, alem de limitar ferramentas de descoberta de vulnerabilidades assistidas por inteligência artificial.

As medidas mencionam o risco de que tais capacidades sejam usadas de encontro a infraestrutura avaliação, sistemas de defesa industrial e governamenta