Modèle 3 : méthode et registre des risques IA

Couvre : clause 6.1.2 (appréciation), 6.1.3 (traitement), 8.2 et 8.3 (résultats). Documents obligatoires : la méthode (6.1.2, 6.1.3) et les résultats (8.2, 8.3). Méthode inspirée d'ISO/IEC 23894 (management du risque IA) et ISO 31000.

flowchart LR
    A[Identifier] --> B[Analyser : probabilité x gravité]
    B --> C{Niveau <= seuil ?}
    C -- oui --> D[Accepter, signé par le propriétaire]
    C -- non --> E[Traiter : mesures annexe A]
    E --> F[Risque résiduel]
    F --> C
    D --> G[Suivre, réévaluer]

Méthode (à valider par la direction)

Probabilité, sur la durée d'utilisation prévue :

1  rare           ne s'est jamais produit, conditions improbables
2  possible       déjà vu ailleurs dans le secteur
3  probable       déjà arrivé chez nous ou signaux faibles présents
4  quasi certain  se produit déjà

Gravité, la plus haute des colonnes l'emporte :

1    personnes      gêne, corrigée sans suite
     organisation   moins de 10 k€, aucun écho
     conformité     aucun manquement
2    personnes      préjudice réparable
     organisation   10 à 100 k€, écho local
     conformité     manquement sans suite
3    personnes      atteinte à un droit, discrimination
     organisation   100 k€ à 1 M€, presse régionale
     conformité     mise en demeure
4    personnes      atteinte grave, ou groupe vulnérable touché
     organisation   plus de 1 M€, presse nationale
     conformité     sanction, retrait d'autorisation

La colonne personnes est propre à l'IA : un risque peut coûter peu et rester grave (discrimination dans l'attribution d'une aide).

Niveau = probabilité x gravité :

1 à 3     faible      accepté par le propriétaire du risque
4 à 6     moyen       traité ou accepté par le comité IA, justification écrite
8 à 9     élevé       traité ; acceptation par la direction générale seulement
12 à 16   critique    traitement obligatoire avant mise en production

Options de traitement : réduire (mesure), éviter (renoncer à l'usage), transférer (contrat, assurance ; la responsabilité reste), accepter. Chaque mesure choisie est rapprochée de l'annexe A et reportée dans la déclaration d'applicabilité (6.1.3).

Réévaluation : une fois par an, et à chaque changement de données, de modèle, d'usage, de fournisseur ou de loi, et après un incident.

Registre vide

ID  système  risque (cause -> événement -> conséquence)  source  P  G  niveau
    traitement  mesures (annexe A)  propriétaire  échéance  P'  G'  résiduel  statut  revue

Rédiger le risque en trois temps évite les risques vagues : « biais » ne se traite pas, « données 2018-2022 sous-représentant les moins de 25 ans -> scores plus sévères -> refus injustifiés » se traite.

Sources de risque (annexe C de la norme, à confirmer) : données, complexité de l'environnement, manque de transparence, niveau d'automatisation, apprentissage continu, matériel, cycle de vie, maturité technologique, sécurité, tiers.

Exemple rempli : mutuelle fictive

R1  Tri des sinistres
    données d'entraînement 2019-2023 pauvres en dossiers d'agences rurales -> dossiers ruraux
    orientés plus souvent en gestion approfondie -> délais plus longs pour un groupe
    source : données ; P 3 ; G 3 ; niveau 9 élevé
    traitement : réduire ; A.7.4, A.5.4, A.6.2.4 ; test de biais par agence avant chaque version
    propriétaire : responsable data ; échéance mars 2027 ; résiduel P 2 G 3 = 6 moyen
    statut : en cours ; revue mars 2027

R2  Chatbot adhérents
    LLM invente une garantie -> adhérent croit être couvert -> réclamation, contentieux
    source : manque de transparence, tiers ; P 3 ; G 3 ; niveau 9 élevé
    traitement : réduire ; A.6.2.4, A.8.2, A.9.4 ; réponses limitées aux documents de garantie,
    lien vers la source, mention « réponse indicative », tests mensuels sur 200 questions
    propriétaire : directeur relation adhérents ; échéance janvier 2027 ; résiduel P 2 G 2 = 4 moyen

R3  Chatbot adhérents
    injection de prompt -> divulgation de données d'un autre adhérent -> violation RGPD
    source : sécurité ; P 2 ; G 4 ; niveau 8 élevé
    traitement : réduire ; A.6.2.4, A.6.2.8 ; aucun accès du chatbot aux dossiers nominatifs,
    tests d'intrusion avant ouverture ; propriétaire : RSSI ; résiduel P 1 G 4 = 4 moyen

R4  Fournisseur LLM
    changement unilatéral de modèle -> réponses dégradées sans préavis
    source : tiers ; P 3 ; G 2 ; niveau 6 moyen
    traitement : transférer et réduire ; A.10.3 ; clause de préavis, version figée, tests de
    non-régression ; propriétaire : achats ; résiduel P 2 G 2 = 4 moyen ; accepté par le comité IA

R5  Personnel
    gestionnaire colle un dossier médical dans un outil grand public -> fuite de données de santé
    source : utilisation ; P 3 ; G 4 ; niveau 12 critique
    traitement : réduire ; A.2.2, A.9.2, A.4.6 ; politique et liste d'outils, assistant
    entreprise autorisé, blocage des outils grand public au proxy, formation
    propriétaire : RSSI ; échéance décembre 2026 ; résiduel P 1 G 4 = 4 moyen

R6  Détection de fraude
    score suspect devient de fait bloquant par habitude -> refus sans examen réel
    source : niveau d'automatisation ; P 2 ; G 3 ; niveau 6 moyen
    traitement : réduire ; A.9.4, A.6.2.6 ; suivi du taux de validation sans modification
    (alerte si > 95 %) ; propriétaire : responsable fraude ; résiduel P 1 G 3 = 3 faible