Modèle 11 : procédure de gestion d'incident IA
Couvre : A.3.3 (signalement interne), A.8.3 (signalement externe), A.8.4 (communication des incidents), A.6.2.6 (exploitation et surveillance), clause 10.2 (non-conformité, action corrective). La norme n'impose ni un document par exigence ni cet intitulé : une section de la procédure d'incident 27001 suffit si elle couvre les rubriques ci-dessous.
Incident IA : événement où un système IA, ou son usage, produit ou risque de produire un effet contraire à la politique, à la loi ou à l'usage prévu.
dérive performance qui baisse en production (données qui changent, fournisseur qui change de modèle)
biais constaté écart de traitement mesuré entre groupes, au-delà du seuil fixé
réponse dangereuse réponse fausse, inventée ou nuisible donnée à une personne
fuite donnée personnelle ou confidentielle exposée par le système ou par un prompt
usage détourné système utilisé hors de son usage prévu (A.9.4), par un salarié ou un tiers
IA fantôme outil IA utilisé sans figurer dans la liste des outils autorisés
Gravité (reprend l'échelle de gravité du registre des risques, modèle 3) :
G1 mineur gêne, corrigée sans suite traité par le propriétaire du système
G2 significatif préjudice réparable, une ou quelques personnes référent IA informé sous 24 h
G3 majeur atteinte à un droit, groupe touché, écho public référent IA sous 4 h, DG sous 24 h
G4 grave incident grave au sens de l'AI Act (art. 3 point 49) : décès ou atteinte grave
à la santé, perturbation grave et irréversible d'une infrastructure critique,
violation du droit de l'Union protégeant les droits fondamentaux, dommage grave
aux biens ou à l'environnement cellule de crise immédiate
Une violation de données personnelles peut toucher la confidentialité, l’intégrité ou la disponibilité. Elle suit aussi la procédure de sécurité et doit être documentée. Tous les incidents IA ne constituent pas une violation de données.
flowchart TD
A[Détection : surveillance, ia-signalement@, réclamation, audit] --> B[Qualification : type, gravité, système]
B --> C{G3 ou G4, ou données personnelles ?}
C -- non --> E[Confinement par le propriétaire]
C -- oui --> D[Alerte référent IA, DPO, RSSI ; cellule de crise si G4]
D --> E
E --> F{Le système peut-il continuer ?}
F -- non --> G[Arrêt ou retour à la version précédente]
F -- oui, dégradé --> H[Restriction : humain dans la boucle, périmètre réduit]
G --> I[Analyse : chronologie, cause racine]
H --> I
I --> J{Notification externe ?}
J -- oui --> K[AI Act art. 73, CNIL art. 33, personnes art. 34, ACPR]
J -- non --> L[Décision de non-notification écrite]
K --> M[Correction et action corrective, registre modèle 13]
L --> M
M --> N[Retour d'expérience : registre des risques, AIMS]
Modèle vide
Procédure n°, version, date, validée par, prochaine revue
Propriétaire référent IA ; suppléant
Canaux d'entrée interne (A.3.3), externe (A.8.3), surveillance (A.6.2.6), audits
Étapes
1 Détection qui peut signaler, par quel canal ; alertes de surveillance (seuils de dérive,
taux de réclamation) ; accusé de réception sous n h
2 Qualification type, système, version, gravité G1 à G4, données personnelles oui / non ;
ouverture de la fiche d'incident ; délai de qualification
3 Confinement options dans l'ordre : restreindre l'usage, remettre un humain dans la boucle,
retour à la version précédente, arrêt ; qui peut décider l'arrêt sans attendre
4 Analyse chronologie horodatée, preuves conservées (journaux A.6.2.8, prompts, sorties),
cause racine (5 pourquoi ou arbre des causes), autres systèmes exposés
5 Communication interne, personnes concernées, fournisseur, autorités (tableau ci-dessous)
6 Correction correction immédiate puis action corrective sur la cause (10.2), suivie au
registre des non-conformités (modèle 13)
7 Retour d'expérience sous n semaines : mise à jour du registre des risques, de l'évaluation
d'impact, des tests, de la formation ; synthèse en revue de direction (9.3)
Qui notifie qui, dans quel délai
AI Act art. 73 fournisseur d'un système à haut risque -> autorité de surveillance du marché
de l'État membre où l'incident a eu lieu ; dès le lien de causalité établi
ou raisonnablement probable, au plus tard :
15 jours cas général, après connaissance de l'incident grave
10 jours en cas de décès
2 jours infraction de grande ampleur ou perturbation grave et
irréversible d’une infrastructure critique
rapport initial incomplet admis, complété ensuite
AI Act art. 26 § 5 déployeur -> en cas d’incident grave, informe immédiatement d’abord
le fournisseur, puis l’importateur ou le distributeur et les autorités
de surveillance du marché concernées
Calendrier AI Act règlement (UE) 2024/1689 modifié par 2026/1744 (en vigueur le 27 juillet 2026) :
obligations haut risque au 2 décembre 2027 (annexe III), 2 août 2028 (annexe I)
RGPD art. 33 responsable de traitement -> autorité compétente (CNIL en France),
sans délai injustifié, si possible sous 72 h après connaissance,
sauf risque improbable pour les personnes (décision documentée) ;
sous-traitant -> responsable
sans délai excessif (délai chiffré au contrat)
RGPD art. 34 responsable -> personnes concernées, sans délai injustifié si risque élevé,
sous réserve des exceptions de l’art. 34 § 3
ACPR si applicable : incident TIC majeur au sens de DORA (règlement 2022/2554)
pour les mutuelles soumises à Solvabilité II ; délais à confirmer
sur les normes techniques en vigueur
Interne propriétaire, référent IA, DPO, RSSI, DG selon gravité
Fiche d'incident
ID, date d'ouverture, déclarant, canal
Système, version, fournisseur ; type, gravité, données personnelles
Chronologie date et heure, fait, qui
Confinement mesure, décidée par, date
Cause racine
Notifications destinataire, date, référence ; ou motif de non-notification
Actions correction, action corrective (renvoi modèle 13), responsable, échéance
Retour d'expérience risques mis à jour, tests ajoutés, clôture par, date
Test du plan (A.8.4)
Exercice scénario, date, participants
Résultat délais tenus ? bons destinataires ? message compris ?
Suite écarts, actions, mise à jour de la procédure
Fréquence choix de l'organisation, par exemple une fois par an
Exemple rempli : mutuelle fictive
Procédure PR-IA-03 v1.0, novembre 2026, validée par le DG, revue novembre 2027 ;
section ajoutée à la procédure d'incident PSSI (27001 A.5.24 à A.5.27)
Propriétaire référent IA (responsable de l'équipe data) ; suppléant : RSSI
Canaux d'entrée ia-signalement@ (lu par le référent IA et le DPO), réclamations qualifiées
par le service client, alertes de surveillance, dispositif d'alerte RH
Délais internes accusé de réception 1 jour ouvré ; qualification 24 h ; G3 et plus : DG sous 24 h
Droit d'arrêt propriétaire du système ou référent IA, sans attendre le comité IA
Fiche d'incident INC-IA-2026-004 :
Date, canal 3 décembre 2026, 10 h 12, réclamation téléphonique, puis ia-signalement@
Système chatbot adhérents v1.4, LLM du fournisseur via API entreprise
Type, gravité réponse dangereuse, G2 significatif ; aucune donnée personnelle exposée
Risque lié R2 (LLM invente une garantie), niveau 9 élevé, traitement en cours
Chronologie :
28 nov. 14 h 00 mise à jour de la base documentaire du chatbot : 140 documents ajoutés,
dont les conditions générales 2023 du contrat Sérénité, résilié en 2024
30 nov. 19 h 40 un adhérent demande si l'ostéopathie est remboursée ; réponse : « oui,
jusqu'à 4 séances par an à 60 € », garantie absente de son contrat
3 déc. 10 h 12 l'adhérent réclame le remboursement de 2 séances ; le gestionnaire signale
3 déc. 11 h 30 qualification G2 ; recherche dans les journaux : 37 réponses du même type
depuis le 28 novembre, 12 adhérents distincts
3 déc. 12 h 05 confinement : retour à la base du 27 novembre ; 200 questions sans écart
5 déc. courrier aux 12 adhérents ; remboursement des 2 séances à titre commercial
Cause racine :
immédiate documents périmés indexés sans contrôle de validité
pourquoi la mise à jour de la base n'était pas traitée comme un changement : pas de
passage en comité de mise en production (A.6.2.5)
pourquoi tests mensuels sur 200 questions prévus pour R2 mais pas encore lancés
pourquoi mention « réponse indicative » et lien vers la source pas encore en place
Notifications :
AI Act art. 73 non applicable : chatbot classé transparence (art. 50), pas haut risque
CNIL non : aucune violation de données personnelles
Fournisseur LLM informé le 4 décembre, cause interne
ACPR non : pas d'incident TIC majeur ; réclamations tracées au registre
des réclamations, consultable en contrôle
Interne référent IA, DPO, relation adhérents le 3 déc. ; comité IA le 10 déc.
Actions :
correction base restaurée ; 12 adhérents informés ; 2 séances remboursées
corrective NC-2026-02 (modèle 13) : toute mise à jour de la base documentaire passe en
comité de mise en production, avec contrôle de date de validité des documents
test jeu de 200 questions lancé avant chaque mise à jour et chaque mois, dès décembre
R2 lien vers la source et mention « réponse indicative » avancés au 15 décembre
REX R2 maintenu à P 3 jusqu'à 3 mois sans écart ; nouveau risque R7 (base
documentaire non maîtrisée) ; cas ajouté à la formation ; revue de direction
Clôture référent IA, 15 janvier 2027 ; efficacité suivie dans NC-2026-02
Sources officielles
- AI Act, article 73 : conditions et délais maximaux, sans attendre leur expiration.
- AI Act, article 26 : obligations du déployeur.
- CNIL, notification des violations : documentation, évaluation du risque et notification.