De quoi s'agit-il :
Avant de pouvoir évaluer le risque de biais, vous devez savoir qui est réellement affecté par votre IA. Et ce ne sont rarement que vos utilisateurs évidents. Vos parties prenantes se répartissent généralement en quatre groupes :
Utilisateurs directs : les personnes utilisant activement votre système d'IA
Utilisateurs indirects : les personnes affectées par les décisions d'IA sans interagir directement avec le système
Équipes internes : chefs de produit, décideurs clés, testeurs QA, auditeurs, juristes et responsables de la conformité
Parties externes : régulateurs, groupes de défense, organisations communautaires, médias
Certains de ces groupes sont vulnérables. Certains sont des cas limites que vos données d'entraînement représentent à peine. Ce tableau vous aide à les cartographier systématiquement, afin que personne ne soit oublié.
Ce que cela vous permet de réaliser :
Une carte complète des parties prenantes qui identifie chaque groupe qui interagit avec ou est affecté par votre IA.
Vous mettrez en évidence les populations vulnérables, repérerez les lacunes dans la représentation de vos données d’entraînement et catégoriserez les parties prenantes selon leur rôle : utilisateurs, décideurs, parties affectées et surveillance.
Cette carte devient la base pour évaluer où le risque de biais est le plus élevé.
Qui en bénéficie le plus :
Chefs de produit, data scientists, chercheurs UX, et équipes interfonctionnelles construisant des systèmes IA. Particulièrement précieux pour les équipes travaillant dans des domaines où les décisions affectent les opportunités, les finances ou le bien-être des personnes.
Comment l'utiliser :
Prévoyez 60 minutes pour votre première session.
Brainstormez les groupes de parties prenantes dans les quatre catégories
Identifiez qui est vulnérable ou
Identifiez les groupes sous-représentés - comparez leur taille dans le paysage des parties prenantes et comparez & documentez la manière dont chaque groupe apparaît dans vos données d’entraînement.
Bonne nouvelle : Comme le tableau 1, cela devient réutilisable ; les futurs projets nécessiteront seulement 20 minutes pour réviser et ajouter tout nouveau groupe.
Fait partie de la série de workshops sur la réduction des biais IA (tableaux 1 à 4).
