🤖 IA Responsable: Éthique, Risques et Gouvernance

L’audit d’impact éthique vise à documenter les effets potentiels d’un système d’IA sur les personnes, les communautés et l’environnement, avant et pendant sa mise en service. Trois références structurantes guident cette démarche :

1. L’Algorithmic Impact Assessment (AIA) du gouvernement canadien – exigé pour tout service public utilisant l’automatisation décisionnelle. Il évalue les risques sur quatre axes (portée du système, autonomie, impacts sur les droits, conséquences financières) et associe un niveau d’exigence (1 à 4) aux mesures de mitigation attendues.
2. L’Ethics Canvas du Planet Centric Design Toolkit – publié sur planetcentricdesign.com et pensé comme un canevas collaboratif qui oblige l’équipe à décrire les parties prenantes, les bénéfices déclarés, les dommages possibles et les garde-fous.
3. Le “Impact Assessment Play” décrit dans le Responsible Tech Playbook de Thoughtworks (2021) – propose un pas-à-pas facilitateur : poser les cinq questions “Why/Who/What/How/When”, identifier les scénarios d’abus, scorer les impacts via une matrice, puis traduire les conclusions dans un registre d’actions responsables.

Processus recommandé

1. Cadrer le système

Une IA responsable ne se joue pas uniquement au niveau des modèles : elle se décide à chaque arbitrage produit, juridique ou technique. Utiliser un cadre de décision responsable permet de formaliser ces arbitrages, d’expliquer les compromis réalisés et de tracer qui a validé quoi. Quatre ressources peuvent être combinées :

1. Responsible AI Toolkit du World Economic Forum – propose un Decision Framework en quatre blocs (définir les objectifs, diagnostiquer la maturité, mettre en œuvre les contrôles, piloter la gouvernance). Il s’accompagne de questionnaires et d’un registre des décisions critiques.
2. Mozilla Trustworthy AI – fournit des principes et un guide « Builder’s Checklist » pour évaluer chaque fonctionnalité selon six exigences (opportunité, transparence, agency, équité, inclusivité, responsabilité).
3. Planet Centric Design Toolkit (Consequence Scanning / Decision Grid) – publié sur planetcentricdesign.com et proposant des ateliers collaboratifs pour anticiper les conséquences inattendues et décider des actions à entreprendre avant la mise en production.
4. Thoughtworks – Responsible Tech Playbook (Decision Log & Consequence Scanning plays) – propose un rituel d’une demi-journée pour cadrer les choix essentiels, formuler les “decision statements”, décrire les hypothèses et noter ce qui déclencherait une révision. C’est un bon complément pour rendre vos décisions auditable.

Structurer vos décisions

1. Clarifier l’intention

La cartographie des risques IA consiste à représenter de façon visuelle les scénarios d’usage, les dangers associés et les garde-fous envisagés. L’objectif est de sortir d’une approche purement textuelle pour rendre tangibles les arbitrages : qui est exposé ? à quelle étape du cycle de vie ? quelles mesures existent déjà ?

Deux ressources structurent cette pratique :

1. Le NIST AI Risk Management Framework (sections Map & Measure) – propose de caractériser les risques par type de dommage (sécurité, droits fondamentaux, durabilité), par probabilité et par sévérité. La matrice « Likelihood × Impact » sert de base à une carte des priorités.
2. Le Responsible Tech Playbook de Thoughtworks – son “Risk Mapping Play” invite à distinguer “risques internes” (sur l’équipe, la donnée, le modèle) et “risques externes” (sur les utilisateurs, la société, l’environnement), à matérialiser les déclencheurs et à expliciter les obligations légales ou morales associées. Le livret (2021) propose même un canevas imprimable pour faciliter la session.

Méthode en quatre temps

1. Préparer le périmètre