Governance

La cartographie des risques IA consiste à représenter de façon visuelle les scénarios d’usage, les dangers associés et les garde-fous envisagés. L’objectif est de sortir d’une approche purement textuelle pour rendre tangibles les arbitrages : qui est exposé ? à quelle étape du cycle de vie ? quelles mesures existent déjà ?

Deux ressources structurent cette pratique :

1. Le NIST AI Risk Management Framework (sections Map & Measure) – propose de caractériser les risques par type de dommage (sécurité, droits fondamentaux, durabilité), par probabilité et par sévérité. La matrice « Likelihood × Impact » sert de base à une carte des priorités.
2. Le Responsible Tech Playbook de Thoughtworks – son “Risk Mapping Play” invite à distinguer “risques internes” (sur l’équipe, la donnée, le modèle) et “risques externes” (sur les utilisateurs, la société, l’environnement), à matérialiser les déclencheurs et à expliciter les obligations légales ou morales associées. Le livret (2021) propose même un canevas imprimable pour faciliter la session.

Méthode en quatre temps

1. Préparer le périmètre