O co chodzi:
Zanim będziesz mógł ocenić ryzyko związane z uprzedzeniami, musisz wiedzieć, kto jest faktycznie dotknięty przez twoje AI. I to rzadko są tylko twoi oczywiści użytkownicy. Twoi interesariusze zazwyczaj mieszczą się w czterech grupach:
Bezpośredni użytkownicy: osoby aktywnie korzystające z Twojego systemu AI
Pośredni użytkownicy: osoby dotknięte decyzjami AI, które nie mają bezpośredniego kontaktu z systemem
Zespoły wewnętrzne: menedżerowie produktu, kluczowe osoby decyzyjne, testerzy QA, audytorzy, dział prawny i zgodność
Strony zewnętrzne: regulatorzy, grupy rzecznicze, organizacje społeczne, media
Niektóre z tych grup są narażone na ryzyko. Niektóre to przypadki brzegowe, które są słabo reprezentowane w Twoich danych treningowych. Ta plansza pomaga ci systematycznie zmapować wszystkie te grupy, aby żadna z nich nie została pominięta.
Co nam to daje:
Kompleksową mapę interesariuszy, która identyfikuje każdą grupę, która wchodzi w interakcję z Twoim AI lub jest nim dotknięta.
Zidentyfikujesz wrażliwe populacje, dostrzeżesz luki w reprezentacji danych treningowych i skategoryzujesz interesariuszy według ich roli: użytkownicy, decydenci, strony dotknięte decyzjami oraz podmioty nadzorujące.
Ta mapa staje się podstawą do oceny, gdzie ryzyko uprzedzeń jest największe.
Kto odniesie największe korzyści:
Menedżerowie produktów, data scientists, badacze UX oraz zespoły międzyfunkcyjne budujące systemy AI. Szczególnie wartościowe dla zespołów pracujących w obszarach, gdzie decyzje wpływają na możliwości, finanse lub dobrostan ludzi.
Jak z tego korzystać:
Przeznacz 60 minut na pierwsze spotkanie.
Przeprowadź burzę mózgów na temat grup interesariuszy we wszystkich czterech kategoriach
Zidentyfikuj, kto jest wrażliwy,
Zidentyfikuj grupy niedostatecznie reprezentowane - porównaj ich liczebność w krajobrazie interesariuszy i porównaj oraz udokumentuj, jak dobrze każda grupa jest reprezentowana w Twoich danych treningowych.
Dobra wiadomość: Tak jak Tablica 1, staje się to ponownie używalne; przyszłe projekty będą wymagały tylko 20 minut na przegląd i dodanie nowych grup.
Część serii Warsztatów Łagodzenia Uprzedzeń w AI (Tablice 1 do 4).
