Por Francesco De Cicco Diretor Executivo do QSP *

A ISO/IEC 42001, publicada em dezembro de 2023, é a primeira norma internacional de sistema de gestão para o desenvolvimento e uso responsáveis da Inteligência Artificial (IA) nas organizações. Confira a seguir!

A Inteligência Artificial (IA) não é apenas um avanço tecnológico; ela está se tornando um elemento central da estratégia organizacional. Com o lançamento da ISO/IEC 42001:2023, entramos em uma nova era de gestão da IA...

A nova norma, a primeira em nível mundial, fornece diretrizes abrangentes para a gestão de sistemas de IA nas organizações. Ela é um passo revolucionário na padronização das práticas de gestão da IA, pois oferece uma abordagem sistemática para o desenvolvimento e uso responsáveis da Inteligência Artificial - além da possibilidade de certificação da organização interessada. A norma recém-publicada aborda especialmente os desafios únicos colocados pela IA, incluindo considerações éticas, transparência e a necessidade de aprendizagem contínua.

Para começar, vamos destacar o escopo declarado da ISO/IEC 42001:2023 (em tradução livre e grifos nossos):

"Este documento especifica os requisitos e fornece orientações para estabelecer, implementar, manter e melhorar continuamente um sistema de gestão da IA no âmbito do contexto de uma organização.

Este documento destina-se ao uso por uma organização que fornece ou usa produtos ou serviços que utilizam sistemas de IA. Este documento destina-se a ajudar a organização a desenvolver, fornecer ou usar sistemas de IA de forma responsável para alcançar seus objetivos e para o cumprimento dos requisitos e obrigações aplicáveis relacionados às partes interessadas e às expectativas das mesmas.

Este documento é aplicável a qualquer organização, independentemente do seu tamanho, tipo e natureza, que forneça ou usa produtos ou serviços que utilizem sistemas de IA".

Para que os leitores do nosso blog tenham uma visão mais detalhada da ISO/IEC 42001:2023, trazemos a seguir, em primeira mão, a pré-visualização da nova norma!

https://drive.google.com/file/d/1_h_JkE4_7sFRJOlpklRZSZqhS9v5gn3G/view

Muito além da certificação...

A ISO/IEC 42001:2023, Information technology - Artificial intelligence - Management system, ainda não disponível em Português, é uma norma certificável, comparável à ISO 9001 sobre gestão da qualidade e à ISO/IEC 27001 sobre segurança da informação, mas vai muito além dos requisitos específicos de um Sistema de Gestão da Inteligência Artificial (SGIA), pois fornece também melhores práticas, regras e orientações para gerenciar riscos e fatores operacionais dos sistemas de IA.

A Gestão de Riscos relacionados à IA torna-se assim uma disciplina crucial e fundamental no desenvolvimento, implementação, manutenção e melhoria de um SGIA (o termo 'risk' é mencionado 134 vezes ao longo de toda a norma ISO/IEC 42001...).

Daí não termos dúvida de que as diretrizes da ISO 31000:2018 poderão ser amplamente utilizadas também no contexto da nova 42001, bem como a expertise em Gestão de Riscos dos Profissionais Certificados C31000...!!

Igualmente, devemos enfatizar que a adoção da ISO/IEC 42001:2023 pode gerar benefícios potenciais significativos para as organizações como, por exemplo:

• Confiança e Credibilidade: A conformidade com a norma aumenta a confiança das partes interessadas em relação ao uso responsável da IA pela organização.

• Eficácia Operacional: A norma promove, além do uso responsável da IA, a eficácia no desenvolvimento da Inteligência Artificial, juntamente com o alinhamento aos objetivos organizacionais e padrões éticos estabelecidos.

• Vantagem Competitiva: As organizações que implementarem a ISO/IEC 42001 poderão obter uma vantagem competitiva no mercado, demonstrando seu comprometimento com práticas éticas e responsáveis de IA.

Quais são os principais papéis nos sistemas de IA?

Em linha com a ISO 31000 e a ISO/IEC 23894:2023, Information technology - Artificial intelligence - Guidance on risk management, a ISO/IEC 42001 estabelece que, ao implementar o Sistema de Gestão da IA, a organização deve inicialmente compreender o seu contexto interno e externo e determinar exatamente qual o seu papel (ou papéis) em relação aos sistemas de IA desenvolvidos, fornecidos ou usados por ela.

Esses papéis podem abranger, por exemplo:

• Fornecedores de IA, incluindo fornecedores de plataformas de IA, e fornecedores de produtos ou serviços de IA;

• Produtores de IA, incluindo desenvolvedores de IA, projetistas de IA, operadores de IA, testadores e avaliadores de IA, implantadores de IA, profissionais voltados aos fatores humanos da IA, e profissionais de governança e supervisão de IA;

• Clientes de IA, incluindo usuários de IA;

• Parceiros de IA, incluindo integradores de sistemas de IA e fornecedores de dados;

• Autoridades pertinentes, incluindo legisladores, reguladores e formuladores de políticas públicas.

Uma descrição detalhada desses papéis é fornecida na ISO/IEC 22989:2022, Information technology - Artificial intelligence - Artificial intelligence concepts and terminology... 

Além disso, os tipos de papéis e sua relação com o ciclo de vida dos sistemas de IA também estão descritos na Estrutura de Gestão de Riscos de IA do NIST - National Institute of Technology, dos Estados Unidos.

Os papéis da organização podem, afinal, determinar a aplicabilidade e a extensão da aplicabilidade dos requisitos e controles referenciados no Anexo A da ISO/IEC 42001.

Novos projetos do QSP relacionados à ISO/IEC 42001:2023

Além de já estarmos criando e treinando um novo 'bot especialista' na ISO/IEC 42001 (e em outras normas ISO/IEC voltadas à Inteligência Artificial) no âmbito do SuperChatGPT da ISO 31000.net (o lançamento está previsto para março/2024), planejamos reunir os principais 'atores' que deverão interagir com a nova norma, entre eles: 

• Os que listamos no item acima sobre os papéis relacionados aos sistemas de IA;

• Os que já estão se preparando para fornecer às organizações serviços de consultoria, auditoria e certificação na nova norma.

Aguardem!

---------------------------------------------------------------------------------------

RISKWORLD SAN DIEGO 2024 - Associados Mantenedores interessados em fazer parte da Delegação ABGR  enviar e-mail para: abgr@abgr.com.br.

Esse ano, o tradicional Congresso Brasileiro de Direito de Seguro e Previdência será realizado nos dias 14 e 15 de março no Rio de Janeiro.

Serão dois dias de produtiva e alegre convivência no hotel Prodigy Santos Dumont, com muito estudo, aprimoramento, atualização e troca de experiências. O hotel está estrategicamente conectado a um dos aeroportos de maior movimentação do país, o Aeroporto Santos Dumont.

Garanta sua reserva: Associados ABGR terão desconto, conforme política e categoria de participação da AIDA.

Interessados no Congresso: Enviar o nome, empresa, e-mail, profissão à abgr@abgr.com.br para posterior contato de representante da AIDA, visando a inscrição.

Vagas limitadas!!