ONU alerta sobre riscos da IA na violência digital contra mulheres

O Comitê da ONU para a Eliminação da Discriminação contra as Mulheres (Cedaw) exigiu que os países adotem ações para combater estereótipos de gênero, alertando que tecnologias como a inteligência artificial (IA) podem ampliar a violência digital e reproduzir preconceitos que prejudicam as mulheres. A entidade destacou que ferramentas de IA generativa e agentes autônomos são utilizados para facilitar agressões online, incluindo criação de conteúdo sexualizado sem consentimento, fraudes de identidade e extorsão. Os deepfakes, imagens ou vídeos manipulados com IA, representam um risco específico para a segurança das mulheres.

Para mitigar esses problemas, o Cedaw recomenda estabelecer mecanismos de responsabilização por uso abusivo de IA, garantir supervisão independente sobre essas tecnologias e assegurar revisão humana de decisões automatizadas. Além disso, propõe criacao de canais diretos para remoção de conteúdos discriminatórios nas plataformas digitais. O grupo também enfatiza a necessidade de reformular leis e práticas que tratam a violência como assunto privado ou familiar, evitando responsabilizar as vítimas pelas agressões.

Os estereótipos de gênero influenciam ainda a Justiça e a saúde. Na área jurídica, preconceitos podem afetar a avaliação do testemunho feminino e as decisões dos tribunais, levando a erros judiciais. O Cedaw sugere revisar práticas que responsabilizam as vítimas ou justificam a violência masculina. Na saúde, os estereótipos podem interferir em diagnósticos e decisões sobre saúde reprodutiva. Para resolver, o comitê defende consentimento informado antes de procedimentos médicos, medidas contra a violência obstétrica e a descriminalização do aborto.