13. Annexe A : contrôles A.2 à A.5

Section 13 du cours « Pilotez un système d’IA | ISO/IEC 42001 ».

L’annexe A propose des mesures à examiner selon les risques de l’organisation. Les rubriques A.2 à A.5 couvrent les politiques, les responsabilités, les ressources et les impacts.

Repères de vocabulaire

• SMIA / AIMS : système de management de l’IA.

• GRC : gouvernance, gestion des risques et conformité.

• GPU : processeur utilisé notamment pour les calculs d’entraînement des modèles.

• MLOps : pratiques de déploiement, surveillance et maintenance des modèles.

• LIME / SHAP : méthodes d’explication des résultats d’un modèle.

Notions

• Annexe A : catalogue de mesures de maîtrise propres à l'IA (normatif)

• Annexe B : guide de mise en œuvre, une section B.x par objectif A.x

• Annexe C : objectifs organisationnels et sources de risque IA

• Annexe D : usage du système de management par domaine ou secteur

• Nombre de mesures : cours : « plus de 40 » ; norme 2023 : 38 mesures, 9 objectifs (A.2 à A.10)

• Applicabilité : chaque mesure examinée ; retenue ou exclue avec justification écrite

• Revue : applicabilité réexaminée : nouveau système IA, nouvelle réglementation, nouveau risque

Thèmes transverses de la vue d'ensemble (regroupement du cours, hors numérotation de la norme) :

• Transparence, explicabilité : journaliser les décisions, documenter le modèle, facteurs clés ; outils LIME, SHAP

• Robustesse, fiabilité : tests adverses, stress tests, redondance, cas extrêmes (maladies rares)

• Imputabilité, supervision : responsable des résultats, chaîne de décision, escalade, human-in-the-loop

• Gouvernance des données : qualité, traçabilité, base légale, représentativité et tests de biais. Recueillir le consentement seulement lorsqu’il constitue la base légale retenue.

• Intervention humaine : points de contrôle humains, contestation d'une décision

• Suivi, rétroaction : dérive, alertes, retours utilisateurs, plan d'incident, historique d'audit

• Conformité légale : veille, registres de conformité, contrats, AI Act

• Tiers : évaluation fournisseurs, documentation des modèles, audits d'intégration

A.2 Politiques liées à l'IA (cours, sans numéros de sous-mesures) :

• A.2.2 : politique IA documentée : principes (éthique, transparence, biais, sécurité, responsabilité)

• A.2.3 : alignement avec les autres politiques (sécurité de l'information, vie privée, dev, risques)

• A.2.4 : revue de la politique : changement de loi, nouveau projet, incident majeur ; au moins annuelle selon le cours

• contenu attendu : autorisé / interdit, responsables, escalade, gestion des exceptions et écarts

• direction : valide la politique, fournit les ressources (ex. outils de test de biais)

A.3 Organisation interne :

• A.3.2 : rôles et responsabilités IA sur tout le cycle de vie responsable politique IA, gestionnaire des risques IA, référent éthique IA, gestionnaire données IA

• A.3.3 : signalement des préoccupations : canal accessible, confidentiel, anonyme si besoin, sans représailles ouvert aux employés, sous-traitants, autres parties

• intégration : relier au dispositif lanceur d'alerte, aux analyses d'impact vie privée, au GRC existant

• indicateurs : % projets avec rôles définis, signalements traités, délai moyen de résolution

A.4 Ressources pour les systèmes IA (5 catégories citées par le cours) :

• composants, actifs : architectures, API, bibliothèques, pipelines ; versions suivies

• A.4.3 données : provenance, historique de mise à jour, qualité, biais, catégories d'usage

• A.4.4 outils : algorithmes, frameworks, environnements d'entraînement, hyperparamètres

• A.4.5 système, calcul : serveurs, GPU, stockage, réseau, cloud, sécurité

• A.4.6 humaines : qualifications, rôles, plan de formation

• norme : A.4.2 = documentation des ressources (le cours en fait « composants et actifs »)

• cycle de vie : ressource tracée de la conception au retrait ; MLOps, documentation automatisée

• recouvrement : ISO 27001 (sécurité), ISO 27701 (vie privée)

A.5 Évaluation des impacts des systèmes IA :

• processus : évaluation structurée, continue, fondée sur des preuves, du design à l'exploitation

• méthodes : analyse d'impact algorithmique, matrice risque-bénéfice, ateliers parties prenantes, scénarios

• portée : individus, groupes, communautés marginalisées, société, environnement, effets indirects

• documentation : méthode choisie, risques trouvés, participants, actions correctives

• déclencheurs : changement de sources de données, nouvel usage, nouveau pays, retours utilisateurs

• publication : résumé public pour les usages à haut risque (OCDE, AI Act)

• norme : A.5.2 processus, A.5.3 documentation, A.5.4 individus ou groupes, A.5.5 impacts sociétaux

À retenir

• Annexe A : mesures non obligatoires une à une, mais toutes examinées ; exclusion justifiée par écrit

• Annexe A de 42001 orientée éthique, société et technique ; annexe A de 27001 orientée cybersécurité

• Systèmes IA de tiers : même niveau d'examen que les systèmes internes

• A.2 : politique IA alignée sur la stratégie et les autres politiques, avec gestion des exceptions

• A.2 : revue planifiée et sur événement, validation et ressources par la direction

• A.3 : chaque décision IA attribuable à une personne ou un service identifié

• A.3 : canal de signalement confidentiel, protection contre les représailles, traitement visible

• Relier les responsabilités (A.3) aux ressources (A.4) et au cycle de vie (A.6). Pour chaque activité, savoir qui agit et avec quels moyens.

• A.4 : inventaire des ressources IA par catégorie, à jour, versionné

• Revoir l’évaluation d’impact lorsqu’un changement significatif intervient. Par exemple, lorsque le système traite une nouvelle population ou sert à un nouvel usage.

• A.5 : impacts positifs et négatifs, directs et indirects, sur individus et société

• Exemple crédit : un audit révèle qu’un groupe est sous-représenté dans les données. Des associations sont consultées pour revoir le modèle ; le cas du cours prévoit ensuite une revue annuelle.

Lien avec l'audit IA

• A.x (applicabilité) : « Chaque mesure de l'annexe A a-t-elle été examinée ? » -> déclaration d'applicabilité avec justifications d'exclusion, date de revue

• A.2 Politique : « Montrez la politique IA et sa dernière revue » -> politique signée, PV de revue, matrice de cohérence avec les autres politiques ; voir ai-governance-fundamentals docs/04-politique.md ; recouvrement ISO 27001 A.5.1 (politiques)

• A.3 Organisation : « Qui valide une mise en production IA ? » -> fiches de rôle, RACI, organigramme ; voir ai-governance-fundamentals docs/05-roles-raci.md ; ISO 27001 A.5.2 (rôles)

• A.3 Signalement : « Comment un sous-traitant signale-t-il un problème IA ? » -> procédure, registre des signalements, délais de traitement ; ISO 27001 A.6.8 (signalement d'événements)

• A.4 Ressources : « Listez les données, outils, calcul, personnes d'un système » -> inventaire versionné ; voir ai-governance-fundamentals docs/02-inventaire.md ; ISO 27001 A.5.9 (inventaire des actifs)

• A.5 Impact : « Montrez l'évaluation d'impact du système X » -> rapport daté, méthode, participants, actions, déclencheurs de réévaluation ; voir ai-governance-fundamentals docs/03-risques.md

Précisions et points à vérifier

Les points ci-dessous signalent les limites du cours et les vérifications à poursuivre. Les exemples et recommandations du formateur ne sont pas tous des exigences de la norme.

• Nombre de mesures : le cours annonce « plus de 40 » ; la norme ISO/IEC 42001:2023 en compte 38 (source : texte de la norme, annexe A)

• Vue d'ensemble : regroupement thématique propre au cours (transparence, robustesse...), sans correspondance avec les objectifs A.2 à A.10

• A.2, A.3, A.5 : le cours ne donne aucun numéro de sous-mesure ; numéros ci-dessus repris de la norme, à confirmer sur le texte

• A.2.4 : périodicité « au moins une fois par an » donnée par le cours ; la norme parle d'intervalles planifiés

• A.4.2 : intitulé norme « documentation des ressources », le cours parle de « composants et actifs du système »

• A.5 : la norme sépare impacts sur individus ou groupes (A.5.4) et impacts sociétaux (A.5.5) ; le cours les mélange

• Lien A.5 et clause 6.1.4 (évaluation d'impact) à relire dans la norme

• Le cours parle de « mesure de sécurité A5 » : simple formulation, A.5 n'est pas une mesure de sécurité

• Second cours (RigCert), voir croisement-cours-rigcert.md : A.2.2, annexe B, procédure de dérogation à la politique (demande motivée, appréciation du risque, approbation, mesures compensatoires, suivi, date de fin) ; A.3.3, ISO 37002 pour un dispositif d'alerte ; lecture du formateur : l'annexe A recoupe les clauses pour qu'une organisation puisse appliquer les mesures sans AIMS complet

Questions de révision

• Combien de mesures dans l'annexe A selon la norme 2023 ? Réponse : 38, réparties en 9 objectifs A.2 à A.10.

• Que faire d'une mesure jugée non pertinente ? Réponse : l'exclure avec une justification écrite, revue régulièrement.

• Avec quoi la politique IA doit-elle être alignée (A.2) ? Réponse : stratégie, valeurs, et politiques sécurité, vie privée, risques.

• Quelles garanties pour le canal de signalement A.3 ? Réponse : accessible, confidentiel, anonyme si besoin, sans représailles.

• Quand réévaluer un impact (A.5) ? Réponse : nouvelles données, nouvel usage, nouveau pays, retours utilisateurs, mise à jour du modèle.

Leçons couvertes

Vue d'ensemble des contrôles IA de l'Annexe A ; Contrôle A.2/B.2 Politiques liées à l'IA ; A.3/B.3 Organisation interne de l'IA ; A.4/B.4 Ressources pour les systèmes IA ; A.5/B.5 Évaluation des impacts des systèmes IA.