14. Annexe A : contrôles A.6 à A.10

Section 14 du cours « Pilotez un système d’IA | ISO/IEC 42001 ».

Les rubriques A.6 à A.10 couvrent le cycle de vie, les données, l’information, les usages et les relations avec les tiers. Elles traduisent la gouvernance en mesures concrètes.

Repères de vocabulaire

• API d’inférence : interface qui permet de demander un résultat à un modèle entraîné.

• SLA : engagement contractuel de niveau de service.

• Red team : équipe qui cherche à contourner les protections du système pour en tester les limites.

Notions

A.6 Cycle de vie des systèmes IA (numéros cités par le cours) :

• phases : développement -> déploiement -> exploitation -> surveillance -> mise hors service

• A.6.1.2 : objectifs de développement responsable, écrits (équité, transparence, privacy by design)

• A.6.1.3 : processus de conception et développement responsables : supervision humaine, tests, impacts

• A.6.2.3 : documentation de conception : architecture, gestion des données, algorithmes, interfaces

• A.6.2.4 : vérification et validation : simulation, tests de résistance, audit de biais

• A.6.2.5 : déploiement : circuit d'approbation, validation direction, évaluation de performance

• A.6.2.6 : exploitation et surveillance : tableaux de bord, suivi des erreurs, gestion des incidents

• A.6.2.7 : documentation technique par public : intégrateurs, utilisateurs, régulateurs

• A.6.2.8 : journalisation des événements : ingestion, inférence, interaction utilisateur (cours : « A.6.8.8 »)

• absent : A.6.2.2 exigences et spécification du système (norme), non cité par le cours

• retrait : archivage, retrait des modèles, aucun résidu de sécurité ou de conformité

A.7 Données pour les systèmes IA :

• A.7.2 : données pour le développement et l'amélioration : collecte, validation, anonymisation, lien modèle

• A.7.3 : acquisition : types, quantité, sources (achetées, publiques, internes) et droits d’utilisation. Pour les données personnelles, documenter la base légale et le consentement s’il est retenu.

• A.7.4 : qualité : précision, exhaustivité, cohérence, actualité, adéquation à l'objectif

• A.7.5 : provenance : origine, transformations, accès ; métadonnées, identifiant unique, versions

• A.7.6 : préparation : nettoyage, étiquetage, transformation ; critères documentés (seuil de valeurs manquantes)

• outils : validation à l'entrée, versionnage des jeux de données, détection d'anomalies et de dérive

• recouvrement : ISO 27001 (sécurité), ISO 9001 (qualité)

A.8 Informations pour les parties prenantes :

• A.8.2 : documentation utilisateur : but, capacités, limites, précision, interaction, durée de vie, supervision humaine

• A.8.3 : signalement externe : formulaire, hotline, adresse dédiée ; réception, analyse, réponse

• A.8.4 : communication d'incident : qui informer, quoi dire, canal, délai ; modèles de messages

• A.8.5 : information des parties intéressées : docs techniques, analyses de risque, audits, rapports d'impact

• forme : documentation vivante, versionnée, accessible (lecteur d'écran, langues, mobile)

• limite : équilibre transparence et confidentialité : classification de l'information

A.9 Utilisation des systèmes IA (6 piliers cités par le cours) :

• A.9.2 : processus d'utilisation responsable : validations, conformité, coûts, performance, garde-fous

• A.9.3 : objectifs d'utilisation responsable : équité, transparence, explicabilité, sécurité, accessibilité

• A.9.4 : usage prévu : documenté, communiqué ; tout autre usage -> signalé, consigné, analysé

• cours : gestion des risques dynamique (bouton d'arrêt, contrôle humain)

• cours : planification opérationnelle et allocation des ressources

• cours : surveillance et application : seuils, pause ou réajustement, pistes d'audit

A.10 Tiers et relations clients (cours sans numéros) :

• tiers : fournisseurs données, annotation, modèles, cloud, API d'inférence, open source

• A.10.2 : répartition des responsabilités : rôles écrits entre organisation, partenaires, clients

• A.10.3 : fournisseurs : sélection (diligence), contrats IA, suivi (SLA, audits, red team, dérive)

• A.10.4 : clients : information sur l'usage de l'IA, recours humain, contestation, retour d'expérience

• contrats : données, propriété intellectuelle, réutilisation, conservation, réidentification, incidents

• chaîne : failles des paquets, origine des modèles, licences, contamination, solution de repli

• registre : risques tiers IA : fuite, dégradation, documentation manquante, explicabilité absente

À retenir

• A.6 : cycle de vie complet, de l'objectif écrit jusqu'au retrait maîtrisé

• A.6.2.8 : journaux sécurisés, consultables, exploitables pour l'analyse de cause

• A.7 : données traitées comme un élément actif du comportement de l'IA

• A.7.5, provenance : conserver l’origine et les transformations des données pour pouvoir retracer leur utilisation, même plusieurs mois plus tard.

• A.7.6 : choix de préparation documentés et validés, sinon résultats non reproductibles

• A.8.2 : l'utilisateur sait qu'il parle à une IA et connaît ses limites

• A.8.4 : plan de communication d'incident prêt avant l'incident

• A.9.4, usage prévu : examiner tout changement d’usage avant de l’autoriser. Passer du contrôle d’accès à la détection d’émotions change les risques et peut relever d’une interdiction légale selon le contexte.

• A.10 : contrats adaptés à l'IA (dérive, biais, transparence), modèles d'achat informatique insuffisants

• A.10 : suivi continu des fournisseurs après signature

• Pour une IA générative fournie par un tiers, documenter l’évaluation et les limites connues. Prévoir une solution de repli.

Lien avec l'audit IA

• A.6 Cycle de vie : « Montrez le dossier de mise en production du modèle X » -> objectifs, spécification, rapport de tests, approbation signée, plan de surveillance, plan de retrait ; recouvrement ISO 27001 A.8.25 à A.8.29 (développement sécurisé, tests)

• A.6.2.8 Journaux : « Que journalisez-vous à l'inférence ? » -> extraits de journaux, durée de conservation ; ISO 27001 A.8.15 (journalisation), A.8.16 (surveillance)

• A.7 Données : « D'où vient ce jeu d'entraînement, avec quels droits ? » -> fiche de jeu de données, provenance, critères de qualité, versions ; voir ai-governance-fundamentals docs/02-inventaire.md

• A.8 Information : « Que voit l'utilisateur final ? » -> notice, mention IA, procédure d'incident, registre des signalements externes ; ISO 27001 A.5.24 à A.5.26 (incidents) ; délais légaux : ai-governance-fundamentals docs/08-cadre-europeen-et-france.md

• A.9 Utilisation : « Quel est l'usage prévu et comment détectez-vous un détournement ? » -> fiche d'usage, seuils, alertes, journal des écarts ; voir ai-governance-fundamentals docs/04-politique.md et docs/03-risques.md

• A.10 Tiers : « Montrez le contrat et le suivi du fournisseur de modèle » -> clauses IA, questionnaire de diligence, rapports SLA, registre des risques tiers ; voir ai-governance-fundamentals docs/05-roles-raci.md ; ISO 27001 A.5.19 à A.5.23 (fournisseurs, cloud)

• A.10 Clients : « Comment un client conteste-t-il un refus ? » -> procédure de recours humain, statistiques

Précisions et points à vérifier

Les points ci-dessous signalent les limites du cours et les vérifications à poursuivre. Les exemples et recommandations du formateur ne sont pas tous des exigences de la norme.

• A.6.2.8 : le cours dit « A.6.8.8 » ; intitulé exact « enregistrement des journaux d'événements » (source : texte de la norme)

• A.6.2.6 : le cours dit « A.6.26 », erreur de lecture probable

• A.6.2.2 (exigences et spécification du système IA) : absent du cours, présent dans la norme

• A.9 : la norme compte 3 mesures (A.9.2 à A.9.4) ; risques, planification et surveillance du cours relèvent plutôt des clauses 6 et 8 et de A.6.2.6

• A.10 : le cours ne numérote rien ; découpage A.10.2 à A.10.4 repris de la norme, à confirmer

• Réglementations citées (AIDA Canada, AI Bill of Rights US) : statut à vérifier, AIDA non adopté à ce jour selon les sources publiques

• « IPA » cité avec PCI DSS : sigle douteux, probablement HIPAA

• Second cours (RigCert), voir croisement-cours-rigcert.md : A.6.2.5, écarts entre environnements, critères de mise en production, tests utilisateurs, signatures ; A.6.2.6, critère chiffré type score F1 avec seuil, et comparaison au processus sans IA ; A.7.4, définition de la qualité des données reprise d'ISO/IEC 25024 ; A.7.5, provenance selon ISO 8000-2 ; A.8.4, tester le plan de communication des incidents

Questions de révision

• Quelles phases du cycle de vie couvre A.6 ? Réponse : développement, déploiement, exploitation, surveillance, mise hors service.

• Que doit permettre la provenance des données (A.7.5) ? Réponse : retracer origine, transformations et accès pour reconstituer une décision.

• Que contient un plan de communication d'incident (A.8.4) ? Réponse : types d'incident, destinataires, messages types, canaux, délais, responsables.

• Que faire si un système sert hors de son usage prévu (A.9.4) ? Réponse : signaler, consigner, enquêter, refaire analyse de risques et revue éthique.

• Que doit couvrir un contrat fournisseur IA (A.10) ? Réponse : données, propriété intellectuelle, réutilisation, incidents, responsabilités, suivi de performance.

Leçons couvertes

A.6/B.6 Cycle de vie des systèmes IA ; A.7/B.7 Données pour les systèmes IA ; A.8/B.8 Informations pour les parties prenantes ; A.9/B.9 Utilisation des systèmes IA ; A.10/B.10 Tiers et relations clients.