OpenAI reforça restrições do ChatGPT para evitar discussões sobre armas e violência com jovens

A OpenAI divulgou mudanças no ChatGPT para restringir conversas sobre armas de fogo e violência, com foco especial em usuários menores de 18 anos. As novas restrições incluem limites adicionais para adolescentes, ajustes nas respostas sobre ataques em massa e mecanismos para detectar possíveis riscos reais de violência. As medidas foram apresentadas na sexta-feira (30) como parte de uma revisão de procedimentos de segurança.

O sistema passará a oferecer respostas menos detalhadas sobre eventos violentos passados e as pessoas envolvidas, evitando que informações públicas sejam utilizadas para reproduzir atos criminosos ou ampliar a notoriedade dos responsáveis. Além disso, a OpenAI criou um Relatório de Segurança da Comunidade para reunir dados sobre ameaças identificadas, procedimentos adotados e eficácia das ações de prevenção. A primeira edição do relatório está prevista para o início de 2027, com dados referentes ao segundo semestre de 2026.

A empresa também informou que realizou mais de 200 comunicações com autoridades policiais no terceiro trimestre de 2026, relacionadas a ameaças potencialmente graves. Para analisar situações complexas, a OpenAI conta com especialistas em saúde mental e comportamento, além de considerar a participação de familiares e órgãos públicos. As restrições aplicam-se a todos os usuários, mas incluem proteções específicas para menores de 18 anos, visando reduzir riscos de imitação e promoção de violência.