Anthropic alerta sobre riscos existenciais em documento de IPO

A Anthropic, desenvolvedora do modelo de inteligência artificial Claude, publicou um documento importante nesta semana. O S-1, protocolado na Comissão de Valores Mobiliários dos Estados Unidos (SEC) na segunda-feira (26), é o prospecto da abertura de capital da empresa na Nasdaq. Com 289 páginas, o documento contém 93 fatores de risco, dedicadas a possíveis entraves para o sucesso do negócio.

O especialista Kenneth Corrêa, professor da FGV e expert em IA, explicou que a seção de riscos funciona como uma "bula de remédio", listando até os efeitos colaterais mais raros. Segundo ele, 88 fatores de risco estão distribuídos em 93 páginas, com cerca de 12% relacionados diretamente à segurança dos modelos.

Para a Anthropic, alguns desses riscos são críticos. Entre eles, destacam-se o uso malicioso da tecnologia em armas químicas, perda de controle humano sobre o sistema e a possibilidade de chantagem. O documento, segundo Corrêa, já descreve situações em que os efeitos colaterais ocorreram, tornando a lista mais específica do que o comum em documentos de IPO.