Co to oznacza:
Nie wszystkie ryzyka związane ze stronniczością są równe. Niektóre grupy interesariuszy są bardziej narażone na stronniczość, ponieważ są niedoreprezentowane w danych lub są przypadkami brzegowymi. Inne mogą ponieść surowsze konsekwencje, jeśli wystąpi stronniczość, być może dlatego, że stawka jest wysoka, szkody są trudne do odwrócenia lub grupy te są już podatne na zagrożenia.
Ten diagram pomoże Ci ocenić oba wymiary dla każdej grupy interesariuszy, abyś wiedział(a), gdzie skupić działania łagodzące.
Będziesz oceniał(a) każdą grupę pod kątem:
Prawdopodobieństwa wystąpienia uprzedzeń: Jak dobrze są reprezentowani w Twoich danych szkoleniowych? Czy wpasowują się w wzorce edge case? Czy w Twoich źródłach danych zakorzeniły się historyczne uprzedzenia?
Poważności szkód: Co jest dla nich zagrożone? Czy mogą się zregenerować, jeśli coś pójdzie nie tak? Czy znajdują się już w trudnej sytuacji?
Co to umożliwia:
Mapa ryzyka, która lokuje każdą grupę interesariuszy w jednej z czterech stref: Krytyczne, Wysokie, Średnie i Niskie ryzyko.
Otrzymasz jasną, priorytetową listę, pokazującą, które grupy wymagają interwencji w pierwszej kolejności, zamiast próbować naprawić wszystko naraz.
Kto najbardziej zyska:
Menadżerowie produktów, naukowcy danych, zespoły ds. ryzyka i zgodności oraz wszyscy odpowiedzialni za zapewnienie, że systemy AI nie wyrządzają nieproporcjonalnych szkód. Nieocenione dla zespołów działających w regulowanych lub wysokiego ryzyka dziedzinach.
Jak z tego korzystać:
Przeznacz na to 60 minut. Przeanalizuj każdą grupę interesariuszy z Tablicy 2, oceń ich wskaźniki prawdopodobieństwa i powagi szkody, a następnie zaznacz na mapie cieplnej.
Ta tablica jest specyficzna dla projektu, więc powtórzysz ją przy każdej nowej inicjatywie AI, lecz ramy pozostaną niezmienne.
Część serii Warsztatu Redukcji Stronniczości AI (Tablice od 3 do 4).
