De quoi s'agit-il :
Tous les risques de biais ne sont pas égaux. Certaines parties prenantes font face à une probabilité plus élevée de biais car elles sont sous-représentées dans vos données ou appartiennent à des cas limites. D'autres subissent des conséquences plus sévères en cas de biais, peut-être parce que les enjeux sont élevés, les dommages difficiles à inverser, ou elles sont déjà vulnérables.
Ce tableau vous aide à évaluer les deux dimensions pour chaque groupe de parties prenantes, afin de savoir où concentrer vos efforts de réduction des biais.
Vous évaluerez chaque groupe selon :
Probabilité de biais : Sont-ils bien représentés dans vos données d'entraînement ? Tombent-ils dans des cas particuliers ? Existe-t-il un biais historique intégré dans vos sources de données ?
Sévérité des dommages : Qu'est-ce qui est en jeu pour eux ? Peuvent-ils se rétablir si quelque chose tourne mal ? Sont-ils déjà dans une position vulnérable ?
Ce que cela vous permet d'accomplir :
Une carte des risques qui représente chaque groupe de parties prenantes à travers quatre zones : Critique, Élevée, Moyenne, et Faible.
Vous repartirez avec une liste priorisée clairement indiquant quels groupes nécessitent une intervention en premier, plutôt que d'essayer de tout régler à la fois.
Qui en bénéficie le plus :
Les chefs de produit, les data scientists, les équipes de gestion des risques et de conformité, et toute personne responsable de s'assurer que les systèmes d'IA ne causent pas de préjudice disproportionné. Essentiel pour les équipes opérant dans des domaines réglementés ou à enjeux élevés.
Comment l'utiliser:
Prévoyez 60 minutes. Analysez chaque groupe de parties prenantes du tableau 2, évaluez leurs scores de probabilité et de gravité, et placez-les sur la carte de chaleur.
Ce tableau est spécifique au projet, vous le répéterez donc pour chaque nouvelle initiative d'IA, mais le cadre reste le même.
Fait partie de la série d'ateliers de réduction des biais d'IA (tableaux 3 à 4).
