Normas ISO para a gestão de riscos na inteligência artificial
A Inteligência Artificial (IA) está a remodelar os fundamentos da economia, da governação e da vida quotidiana. Desde diagnósticos médicos automatizados até algoritmos que determinam o acesso ao crédito ou decisões judiciais, o potencial transformador da IA é imenso. Mas, com esse potencial, surgem riscos complexos: preconceitos algorítmicos, falta de transparência, impactos sociais imprevistos, falhas técnicas e dilemas éticos que desafiam os quadros tradicionais de responsabilidade.
Neste contexto, as normas internacionais ISO representam uma resposta coordenada, estruturada e orientada para a antecipação. Não se trata de meras orientações técnicas, mas sim de princípios de governação que permitem construir uma IA digna de confiança, com rastreabilidade, ética e uma abordagem centrada nos direitos humanos.
Principais fundamentos normativos
ISO/IEC 23894:2023. Gestão de riscos em sistemas de IA
É a norma mais específica do conjunto. Estabelece diretrizes para identificar, avaliar e gerir os riscos específicos dos sistemas de IA, desde a sua conceção até à sua desativação. Baseia-se numa abordagem de ciclo de vida, o que permite adaptar a gestão de riscos às diferentes fases: desenvolvimento, treino, implementação e retirada.
🔍 Valor diferencial: Tem em conta tanto os riscos técnicos como os éticos e sociais, e introduz o conceito de «risco emergente», fundamental nas tecnologias não determinísticas.
ISO 31000:2018. Gestão de riscos para todos os tipos de organizações
É a base sobre a qual se assentam outras normas mais específicas. Define princípios, estrutura e processos que permitem integrar a gestão de riscos na cultura organizacional. A norma salienta a importância da liderança, da comunicação eficaz e da melhoria contínua.
🔍 Valor diferencial: Permite estabelecer um sistema sólido de gestão de risco que pode ser adaptado à complexidade da IA sem perder a coerência institucional.
Guia ISO 73:2009. Vocabulário sobre gestão de riscos
Este guia funciona como um dicionário normativo. Unifica a terminologia utilizada em diferentes normas de gestão de risco, evitando mal-entendidos e melhorando a interoperabilidade entre setores, equipas técnicas e quadros regulamentares.
🔍 Valor diferencial: Garante que conceitos como «evento», «probabilidade», «impacto» ou «controlo» tenham o mesmo significado em todo o ecossistema de governação.
ISO/IEC 22989:2022. Terminologia fundamental em IA
É o ponto de partida para compreender o que é um sistema de IA. Define conceitos como aprendizagem supervisionada, não supervisionada, agentes autónomos, raciocínio simbólico, redes neurais, etc. Estabelece uma taxonomia que permite classificar as tecnologias e harmonizar a sua utilização.
🔍 Valor diferencial: Favorece a interoperabilidade normativa e técnica, evitando ambiguidades que afetam a gestão do risco.
ISO/IEC 42005:2025. Avaliação do impacto social e ético
Esta norma representa um passo em frente na governança algorítmica. Fornece orientações para avaliar de que forma um sistema de IA pode afetar indivíduos, grupos e sociedades. Introduz ferramentas para analisar os impactos nos direitos fundamentais, na inclusão, na equidade e na segurança.
🔍 Valor diferencial: Conecta tecnologia e dignidade humana. Incorpora mecanismos de transparência, rastreabilidade e documentação de decisões.
ISO/IEC 42001:2023. Sistema de Gestão da IA (SGIA)
Primeira norma internacional que estabelece requisitos para a implementação de um sistema de gestão de IA em qualquer organização. Aborda aspetos como responsabilidade, auditoria, prestação de contas, eficiência e melhoria contínua.
🔍 Valor diferencial: Equivale à «ISO 9001» da IA: cria um quadro auditável e replicável para organizações que desenvolvem ou utilizam IA.
Sinergia normativa: um sistema interligado
Estas normas não devem ser vistas isoladamente. Funcionam como um ecossistema normativo:
- ISO/IEC 23894 baseia-se na ISO 31000 para a sua abordagem aos riscos.
- Utilize a linguagem comum da Guia 73 e da ISO/IEC 22989.
- ISO/IEC 42005 alarga a análise ao impacto social e ético.
- ISO/IEC 42001 permite que todas as anteriores sejam integradas num sistema de gestão estruturado.
Esta interligação assegura a coerência, evita duplicações e garante que os princípios de equidade, transparência e governação responsável estejam presentes em toda a cadeia de valor da IA.
Aplicações práticas
A implementação destas normas não é um exercício burocrático, mas sim uma ferramenta estratégica para:
- Detetar e mitigar viéses algorítmicos
- Prevenir falhas de segurança ou ataques de adversários
- Promover a aceitação pública e confiança
- Prestar contas aos reguladores com provas documentais
- Reforçar a ética institucional
- Preparar as organizações para futuras regulamentações vinculativas, como a Lei sobre a Inteligência Artificial da UE
Conclusão: rumo a uma IA fiável e humana
As normas ISO não são receitas únicas, mas sim orientações flexíveis que permitem adaptar a governação da IA ao contexto setorial, cultural e regulamentar. A sua aplicação integral melhora não só a qualidade dos sistemas de IA, mas também a confiança das pessoas e das sociedades que os utilizam.
Investir em normas é investir na confiança, na segurança e no futuro.
Perguntas frequentes:
O que é a norma ISO/IEC 23894:2023 e para que serve na IA?
A norma ISO/IEC 23894:2023 fornece diretrizes para a gestão de riscos em sistemas de Inteligência Artificial. Abrange todo o ciclo de vida do sistema, desde a sua conceção até à sua retirada, e integra a gestão de riscos técnicos, éticos e sociais. É fundamental para garantir uma IA segura, fiável e responsável.
O que estabelece a norma ISO 31000:2018 no contexto da IA?
A norma ISO 31000:2018 define princípios e uma abordagem sistemática para gerir qualquer tipo de risco dentro de uma organização. Embora não se centre exclusivamente na IA, serve de base para estruturar sistemas robustos de governação de riscos tecnológicos, incluindo os decorrentes de algoritmos e automatização.
Qual é a função da Norma ISO 73:2009?
A Norma ISO 73:2009 padroniza a terminologia relativa à gestão de riscos. Define conceitos-chave como «risco», «impacto», «controlo» e «probabilidade», permitindo que as organizações utilizem uma linguagem comum nos seus processos de avaliação e mitigação de riscos.
O que a norma ISO/IEC 22989:2022 traz para o desenvolvimento da IA?
A norma ISO/IEC 22989:2022 estabelece os conceitos fundamentais da Inteligência Artificial, tais como a aprendizagem automática, o raciocínio simbólico, as redes neurais ou os agentes autónomos. É essencial para alcançar a interoperabilidade entre programadores, entidades reguladoras e setores industriais.
O que é a norma ISO/IEC 42005:2025 e o que a torna inovadora?
A ISO/IEC 42005:2025 é uma norma recente que orienta a avaliação dos impactos sociais, éticos e humanos dos sistemas de IA. Estabelece como identificar, documentar e mitigar efeitos como a discriminação algorítmica, a exclusão digital ou a opacidade decisional.
O que regula a norma ISO/IEC 42001:2023?
A ISO/IEC 42001:2023 é a primeira norma internacional para sistemas de gestão de IA. Proporciona um quadro estruturado para estabelecer, implementar, manter e melhorar um sistema de gestão de IA (SGIA), tendo em conta a ética, a rastreabilidade, a transparência e a melhoria contínua.
É possível aplicar as normas ISO relativas à IA em conjunto?
Sim, as normas ISO relativas à IA foram concebidas para serem complementares. Por exemplo, a ISO/IEC 23894 baseia-se nos princípios da ISO 31000, utiliza o vocabulário do Guia ISO 73, incorpora os conceitos técnicos da ISO 22989 e integra-se no quadro de gestão definido pela ISO/IEC 42001. A norma ISO/IEC 42005 acrescenta a dimensão ética e social a este ecossistema normativo.
Por que aplicar normas ISO em projetos de Inteligência Artificial?
A aplicação de normas ISO na IA permite antecipar riscos, aumentar a confiança do público, cumprir futuras regulamentações (como a Lei Europeia sobre IA), documentar processos éticos, mitigar preconceitos algorítmicos e estruturar decisões automatizadas com base em princípios de transparência e equidade.
De que forma as normas ISO contribuem para o desenvolvimento ético da IA?
As normas ISO incorporam princípios como a equidade, a segurança, a transparência, a responsabilidade e a inclusão. Orientam as organizações no sentido de alinhar o desenvolvimento tecnológico com os direitos humanos e os valores sociais, garantindo que a IA beneficie toda a sociedade.
Que organizações podem implementar a norma ISO/IEC 42001?
Qualquer organização pública ou privada que desenvolva, utilize ou gere sistemas de Inteligência Artificial pode implementar a norma ISO/IEC 42001. É aplicável a todos os setores, desde a saúde e o setor bancário até aos governos, universidades ou empresas tecnológicas.
🟔 Mais informações sobre a Norma ISO 31000
😎 Veja o nosso webinar sobre «Como utilizar a Inteligência Artificial na área da Conformidade»
BLOG: artigos práticos para líderes responsáveis
Conformidade «Para além das regras»: como transformar a integridade num ativo
A conformidade estratégica já não se limita ao cumprimento das normas. Em Angola, tornou-se um motor da governação, da cultura ética e da sustentabilidade organizacional.
A obra «Para além das regras» mostra como integrar o risco, a liderança e a integridade para fortalecer as decisões e criar valor a longo prazo.
Educar para a ética desde a infância: a proposta de «A aventura da ética»
«A Aventura da Ética» é um livro infantil de Andrea Moreno, CEO da PetroShore Compliance, que aproxima a ética das crianças dos 8 aos 10 anos através de uma história acessível e compreensível.
O projeto integra a educação em valores e o impacto social, com ilustrações realizadas por jovens da Associação Down Huesca e a doação integral dos lucros a esta entidade.
Implementação da legislação AML/CTF em Angola: Lei n.º 11/24 e o verdadeiro desafio operacional
A Lei n.º 11/24 reforça o quadro jurídico angolano contra o branqueamento de capitais e o financiamento do terrorismo, mas o verdadeiro desafio reside na sua aplicação prática.
O ponto crucial reside em transformar as obrigações em matéria de combate ao branqueamento de capitais e ao financiamento do terrorismo (AML/CTF) em controlos eficazes, em evidência organizada e na integração na gestão diária do risco.
Conformidade e transparência em Angola: desafios que exigem mais do que apenas normas
Angola está a avançar em matéria de transparência e governação, mas a implementação efetiva da conformidade continua a ser um desafio. Conheça os fatores-chave para a tornar eficaz.
