De quoi s'agit-il :
Avant de pouvoir évaluer le risque de biais, vous devez savoir qui est réellement affecté par votre IA. Et ce ne sont rarement que vos utilisateurs évidents. Vos parties prenantes se répartissent généralement en quatre groupes :
Utilisateurs directs : les personnes utilisant activement votre système d’IA
Utilisateurs indirects : personnes affectées par les décisions de l’IA sans interagir directement avec le système
Équipes internes : chefs de produit, décideurs clés, testeurs QA, auditeurs, juridiques et conformité
Parties externes : régulateurs, groupes de défense, organisations communautaires, médias
Certaines de ces groupes sont vulnérables. D'autres sont des cas marginaux que vos données de formation représentent à peine. Ce tableau vous aide à les cartographier tous de manière systématique, afin que personne ne soit négligé.
Ce que cela vous permet d'accomplir :
Une carte complète des parties prenantes identifiant chaque groupe qui interagit avec ou est affecté par votre IA.
Vous identifierez les populations vulnérables, repérerez les lacunes de représentation dans vos données d'entraînement et catégoriserez les parties prenantes selon leur rôle : utilisateurs, décideurs, parties affectées et supervision.
Cette carte devient la base pour évaluer où le risque de biais est le plus élevé.
Qui en bénéficie le plus :
Les chefs de produit, les data scientists, les chercheurs UX et les équipes multifonctionnelles développant des systèmes d'IA. Particulièrement utile pour les équipes travaillant dans des domaines où les décisions impactent les opportunités, les finances ou le bien-être des personnes.
Comment l'utiliser :
Prévoyez 60 minutes pour votre première session.
Réfléchissez aux groupes de parties prenantes dans les quatre catégories
Identifiez qui est vulnérable ou
Identifiez les groupes sous-représentés - comparez leur taille dans le paysage des parties prenantes et comparez et documentez comment chaque groupe est représenté dans vos données d'entraînement.
Bonne nouvelle : Comme le tableau 1, ceci devient réutilisable ; les futurs projets nécessitent seulement 20 minutes pour réviser et ajouter de nouveaux groupes.
Partie de la série d'ateliers sur l'atténuation des biais IA (tableaux 1 à 4).
