내용 요약:
바이어스 위험을 평가하기 전에, AI가 실제로 어떤 사람들에게 영향을 미치는지를 알아야 합니다. 그리고 이는 명백한 사용자들에만 국한되지 않습니다. 이해관계자는 보통 네 가지 그룹으로 나뉩니다:
직접 사용자: AI 시스템을 적극적으로 사용하는 사람들
간접 사용자: 시스템과 직접 상호작용하지 않고 AI 결정에 영향을 받는 사람들
내부 팀: 제품 관리자, 주요 의사결정자, 품질 검사원, 감사인, 법률 및 규정 준수 담당자
외부 기관: 규제기관, 옹호 단체, 지역 사회 조직, 미디어
이 중 일부 그룹은 취약성이 있거나, 훈련 데이터에 거의 대표되지 않는 예외적인 경우일 수 있습니다. 이 보드는 모든 그룹을 체계적으로 맵핑하여 아무도 간과되지 않도록 도와줍니다.
달성할 수 있는 것:
AI와 상호작용하거나 영향을 받는 모든 그룹을 식별하는 포괄적인 이해관계자 맵을 구축합니다.
취약 계층을 식별하고, 훈련 데이터에 나타난 격차를 파악하며, 이해관계자를 그 역할에 따라 사용자, 의사 결정자, 영향받는 집단, 감시자로 분류합니다.
이 맵은 어디에서 편향 위험이 가장 높은지를 평가하는 기본 자료가 됩니다.
가장 큰 혜택을 받는 대상:
제품 관리자, 데이터 과학자, UX 리서처, AI 시스템을 구축하는 크로스 펑셔널 팀. 특히 사람들의 기회, 재정, 복지에 영향을 미치는 분야에서 일하는 팀에게 유용합니다.
사용 방법:
첫 세션에 60분을 허용하세요.
모든 네 가지 범주에 걸친 이해관계자 그룹을 브레인스토밍합니다.
누가 취약한지 확인합니다.
대표성이 부족한 집단을 식별하고, 이해관계자 그룹 내의 크기와 훈련 데이터에서의 표현을 비교하고 문서화합니다.
좋은 소식 : 보드 1처럼, 이 보드도 재사용 가능합니다. 향후 프로젝트에서는 새로운 그룹만 추가하여 20분 내로 검토하면 됩니다.
AI 편향 완화 워크숍 시리즈의 일부 (보드 1에서 4까지).
