L’ISO 42001, une norme clé en intelligence artificielle : définition

Introduction

L’intelligence artificielle (IA) a connu une évolution fulgurante ces dernières années. Dans un monde où elle représente une véritable avancée technologique, les défis associés à sa sécurité, son éthique et sa régulation deviennent de plus en plus complexes.

L’ISO 42001, norme internationale portant sur le système de management de l’IA est paru en décembre 2023, permettant de limiter les différentes dérives potentielles comme la discrimination algorithmique, l’invasion de la vie privée par la collecte excessive de données, ou l’impact négatif sur la transparence et la responsabilité des décisions automatisées.

‍

L’ISO 42001, c’est quoi ?

Quelle démarche explique-t-elle ?

La norme ISO/IEC 42001 implique, comme pour toute norme de système de management, la mise en place d’une organisation, de documents, d’audits internes et de revues de direction. Cependant, elle se concentre spécifiquement sur le système d’IA, intégrant l’évaluation des impacts & analyse de risques supplémentaires.

Cette analyse de risques peut être mise en place en suivant la méthode utilisée dans la directive NIST, qui propose un ensemble structuré de lignes directrices conçues pour gérer les risques potentiels associés à l’utilisation et au déploiement de l’intelligence artificielle.

‍

L’architecture de la norme

L’ISO 42001 est la première norme dans le cadre du système de management de l’IA. Elle apparaît comme une norme clé en offrant un cadre structuré pour la gestion et également  l’évaluation des systèmes d’IA. Elle est séquencée en 10 chapitres, dont :

3 premiers chapitres à titre informatif :

1 – Portée

2 – Références normatives

3 – Termes et définitions

7 chapitres pouvant être placés dans un modèle de PDCA :

De part ces différents chapitres, l’ISO 42001 établit des exigences pour implémenter, maintenir et améliorer un système de management de l’IA au sein d’une organisation. Cela lui permettant d’afficher un niveau de confiance dans son organisation et dans sa gestion des risques liés à son système d’IA, en se basant sur les exigences de cette norme.

‍

La place de l’ISO 42001 dans les normes & guides concernant l’intelligence artificielle

Pour mieux comprendre l’intégration des différentes normes ISO dans le cadre de la gestion de l’intelligence artificielle, le schéma ci-dessous illustre la structure et les interconnexions entre l’ISO 42001 et les autres normes pertinentes.

Source : Cyberzone FEELAGILE 49 : Décryptage de l’ISO 42001 avec le LNE

L’ISO 42001 forme la base de ce schéma en fournissant les exigences et les lignes directrices fondamentales pour les systèmes de gestion de l’IA. En définissant les politiques organisationnelles relatives à l’IA, l’ISO 42001 sert de fondation sur laquelle reposent la mise en œuvre des systèmes de gestion opérationnels et des processus.

Ces éléments permettent ensuite d’obtenir la certification et la conformité cruciales pour établir la confiance, la responsabilité et la transparence envers les clients. Les autres normes, telles que l’ISO 38507, 23894 et 42005, complètent l’ISO 42001. Elles apportent des directives spécifiques pour l’évaluation des risques et l’impact des systèmes. De plus, elles ont pour but d’assurer une gestion complète et harmonisée de l’IA au sein des organisations.

‍

Quels sont les types d’organisations concernés l’ISO 42001 ?

Voyons ensemble qui peut être concerné de près ou de loin par l’ISO 42001 :

Source : Cyberzone FEELAGILE 49 : Décryptage de l’ISO 42001 avec le LNE

• Les fournisseurs d’IA : Organismes qui fournissent des plateformes, produits ou services d’IA.
• Les producteurs d’IA : Développeurs, Concepteurs, Testeurs, installateurs et évaluateurs d’intelligence artificielle
• Les prestataires d’IA : Liés aux producteurs d’IA, qui vont fournir par exemple les jeux de données contribuant à la mise en place d’une plateforme, produits ou services d’IA.
• Les autorités compétentes : Elles vont agir en tant que régulateurs par rapport à la mise à jour ou à la délivrance de la certification.
• Les sujets de l’IA : Les Utilisateurs d’IA (entreprises) qui vont déployer ou utiliser des intelligences artificielles peuvent être également concernées par l’ISO 42001.

‍

Que permet la mise en place de cette certification ?

Une organisation peut obtenir la certification sur le 42001 afin de se conformer à une partie des exigences de l’IA Act. L’AFNOR propose la certification 42001 pour ceux qui souhaitent anticiper la mise en œuvre de la loi IA.

La certification 42001 permet :

• La mise en place d’une gouvernance de l’IA en suivant des règles éthiques. Cela permet également de renforcer la confiance des parties prenantes grâce à une utilisation responsable de l’IA.
• La traçabilité des décisions prises par les systèmes d’IA.
• L’anticipation et la gestion proactive des risques liés à l’IA.
• L’engagement pour une utilisation réfléchie, éthique et performante de l’IA.

Source : AFNOR

‍

Finalement, une certification permettant la préparation à l’entrée en vigueur de l’IA act  ?

Source : Cyberzone FEELAGILE 49 : Décryptage de l’ISO 42001 avec le LNE

L’importance de l’IA Act sur les acteurs du monde de l’intelligence artificielle

La norme ISO 42001 permet à une entreprise de se mettre en conformité avec une partie de l’IA Act. Ce règlement vise à encadrer et notamment favoriser le développement et la commercialisation des systèmes d’IA en Union européenne.

Ce règlement va donc être obligatoire pour toute organisation travaillant avec l’IA. Il est donc temps de s’y préparer !

Si vous aussi vous voulez vous préparer à une certification ISO 42001, nos équipes spécialisées sauront vous accompagner, vous former et également vous aider à passer cette certification. Contactez notre équipe !

‍