De quoi s'agit-il :
Avant de pouvoir évaluer le risque de biais, vous devez savoir qui votre IA affecte réellement. Et ce ne sont rarement que vos utilisateurs évidents. Vos parties prenantes se répartissent généralement en quatre groupes :
Utilisateurs directs : les personnes qui utilisent activement votre système d’IA
Utilisateurs indirects : personnes affectées par les décisions de l'IA sans interagir directement avec le système
Équipes internes : chefs de produit, décideurs clés, testeurs QA, auditeurs, juristes et conformité
Parties externes : régulateurs, groupes de défense, organisations communautaires, médias
Certains de ces groupes sont vulnérables. Certains sont des cas limites que vos données de formation représentent à peine. Ce tableau vous aide à les cartographier systématiquement, afin que personne ne soit négligé.
Ce que cela vous aide à accomplir :
Une carte des parties prenantes exhaustive qui identifie chaque groupe qui interagit avec ou est affecté par votre IA.
Vous identifierez les populations vulnérables, décelerez les lacunes dans la représentation de vos données d'apprentissage et classerez les parties prenantes selon leur rôle : utilisateurs, décideurs, parties affectées et surveillance.
Cette carte devient le socle pour évaluer où le risque de biais est le plus élevé.
Qui en bénéficie le plus :
Les chefs de produit, les data scientists, les chercheurs UX, et les équipes transversales développant des systèmes d'IA. Particulièrement précieuse pour les équipes travaillant dans des domaines où les décisions influencent les opportunités, les finances ou le bien-être des personnes.
Comment l'utiliser :
Prévoyez 60 minutes pour votre première session.
Faites un brainstorming pour les groupes de parties prenantes dans les quatre catégories
Identifiez qui est vulnérable ou
Identifiez les groupes sous-représentés - comparez leur taille dans le paysage des parties prenantes et documentez le niveau de représentation de chaque groupe dans vos données d'apprentissage.
Bonne nouvelle : À l'instar du Tableau 1, cela devient réutilisable ; les futurs projets ne nécessiteront que 20 minutes pour réviser et ajouter de nouveaux groupes.
Fait partie de la série d'ateliers sur l'atténuation des biais dans l'IA (Tableaux 1 à 4).
