De qué se trata:
No todos los riesgos de sesgo son iguales. Algunos grupos de stakeholders enfrentan una mayor probabilidad de sesgo porque están subrepresentados en tus datos o se encuentran en casos atípicos. Otros enfrentan consecuencias más graves si ocurre un sesgo, tal vez porque las apuestas son altas, el daño es difícil de revertir o ya están en una posición vulnerable.
Este tablero te ayuda a evaluar ambas dimensiones para cada grupo de stakeholders, de modo que sepas dónde concentrar tus esfuerzos de mitigación.
Evaluarás cada grupo frente a:
Probabilidad de sesgo: ¿Qué tan bien están representados en tus datos de entrenamiento? ¿Caen en patrones de casos límite? ¿Existen sesgos históricos en tus fuentes de datos?
Gravedad del daño: ¿Qué está en juego para ellos? ¿Pueden recuperarse si algo sale mal? ¿Ya se encuentran en una posición vulnerable?
Lo que te ayuda a lograr:
Un mapa de riesgo que grafica cada grupo de stakeholders en cuatro zonas: Crítica, Alta, Media y Baja.
Te irás con una lista priorizada que muestra exactamente qué grupos necesitan intervención primero, en lugar de intentar arreglarlo todo de una vez.
Quién se beneficia más:
Gerentes de producto, científicos de datos, equipos de riesgo y cumplimiento, y cualquier persona responsable de asegurar que los sistemas de IA no causen daño desproporcionado. Esencial para equipos que operan en dominios regulados o de alto riesgo.
Cómo usarlo:
Dedica 60 minutos. Revisa cada grupo de partes interesadas desde el Tablero 2, evalúa sus puntajes de probabilidad y severidad, y colócalos en el mapa de calor.
Este tablero es específico para cada proyecto, así que lo repetirás para cada nueva iniciativa de IA, pero el marco se mantiene igual.
Parte de la serie de talleres de Mitigación de Sesgos de IA (Tableros 3 al 4).
