O co chodzi:
Zanim ocenisz ryzyko uprzedzeń, musisz wiedzieć, kogo faktycznie dotyczy Twój system AI. I to rzadko są oczywiści użytkownicy. Twoi interesariusze zazwyczaj dzielą się na cztery grupy:
Bezpośredni użytkownicy: osoby aktywnie korzystające z Twojego systemu AI
Pośredni użytkownicy: osoby, na które mają wpływ decyzje AI, mimo że nie wchodzą w bezpośrednią interakcję z systemem
Zespoły wewnętrzne: menedżerowie produktu, kluczowi decydenci, testerzy QA, audytorzy, specjaliści ds. prawnych i zgodności
Podmioty zewnętrzne: regulatorzy, grupy rzecznicze, organizacje społecznościowe, media
Niektóre z tych grup są wrażliwe. Niektóre to przypadki brzegowe, które Twoje dane treningowe ledwo reprezentują. Ta plansza pomaga Ci systematycznie mapować wszystkie z nich, aby nikt nie został pominięty.
Co to pozwala osiągnąć:
Kompleksowa mapa interesariuszy, która identyfikuje każdą grupę, która wchodzi w interakcję z Twoim AI lub jest przez nie dotknięta.
Zidentyfikujesz zagrożone populacje, zauważysz luki w reprezentacji danych treningowych i skategoryzujesz interesariuszy według ich roli: użytkowników, decydentów, osoby dotknięte i nadzór.
Ta mapa staje się podstawą do oceny, gdzie ryzyko uprzedzeń jest najwyższe.
Kto skorzysta najbardziej:
Kierownicy produktu, specjaliści ds. danych, badacze UX oraz zespoły międzyfunkcyjne budujące systemy AI. Szczególnie wartościowa dla zespołów pracujących w obszarach, gdzie decyzje wpływają na możliwości, finanse lub dobrostan ludzi.
Jak z niej korzystać:
Poświęć 60 minut na pierwszą sesję.
Burz mózg na temat grup interesariuszy we wszystkich czterech kategoriach.
Określ, kto jest zagrożony lub
Zidentyfikuj niedoreprezentowane grupy – porównaj ich wielkość w krajobrazie interesariuszy i porównaj oraz udokumentuj, jak dobrze każda grupa jest reprezentowana w danych treningowych.
Dobre wieści: Podobnie jak Tablica 1, to narzędzie staje się wielokrotnego użytku; przyszłe projekty będą potrzebować jedynie 20 minut na przegląd i dodanie nowych grup.
Część serii warsztatów dotyczących łagodzenia uprzedzeń w AI (Tablice 1 do 4).
