Multi-Agent System (MAS) 설계 워크숍

사용 이유

디자인 싱킹 워크숍에서 학제간 팀과 함께 Multi-Agent System (MAS)을 설계해 AI로 복잡한 프로세스를 자동화합니다.

누가 사용하나요?

멀티 에이전트 시스템(MAS)은 다음 분야의 다양한 전문가들이 협업해야 합니다:

• 비즈니스 도메인 및 프로세스

• 빅데이터 및 Agentic AI

• IT, 보안 및 개인정보 보호

또한 모든 이해관계자가 함께 협력해야 합니다. 즉:

• 사용자: 직원 및/또는 고객

• 개발자: 소프트웨어, 데이터 및 AI 엔지니어

• 의사 결정자: 비즈니스 프로세스 소유자

• 컨설턴트: 개인정보 담당자, 보안 자문 등

마지막으로 다양한 구성원을 모아 효과적인 팀을 구성하려면 퍼실리테이터가 필요합니다.

언제 사용하나요?

팀이 모여 기존 또는 신규 비즈니스 프로세스를 결정했습니다. 팀은 효율성, 효과성 및/또는 강건성을 높이기 위해 이 프로세스를 Agentic AI로 자동화하고 최적화하려고 합니다.

아직 프로세스가 식별되지 않았다면 잠재적인 Agentic AI 사용 사례를 식별하고 우선순위를 정하기 위해 Lean Data & AI Strategy Workshop를 권장합니다.

하루짜리 MAS 디자인 워크숍에서 참가자들은 목표와 핵심 결과를 명시하고, 인간 에이전트와 AI 에이전트를 식별하며 에이전트 간의 워크플로와 정보 흐름을 설계합니다. 또한 기술적·분석적 기반을 정의하고 보안, 개인정보 보호, 공정성 등을 보장하기 위한 필요한 가드레일을 명시합니다.

무엇을 사용할까요?

이 워크숍 템플릿은 전 세계 여러 유명 기업과 컨설팅사가 사용해 검증된 Data & AI Business Design Method를 기반으로 합니다. 이 템플릿은 Creative Commons 라이선스로 무료 제공되는 Data & AI Business Design Kit의 캔버스를 사용합니다.

사용 방법

이 템플릿은 하루 일정으로 설계되었으며, 반나절씩 나눠 두 번에 걸쳐 진행할 수도 있습니다. 하루 동안 참가자들은 다음 여섯 단계로 진행하며 각 단계마다 여섯 개의 서로 다른 캔버스에서 여러 작업을 수행합니다. 캔버스에는 각 단계의 순서를 나타내는 동그라미 숫자(①, ②, ...)가 표시되어 있습니다.

I. 소개

소개 단계에서는 모든 참가자가 동일한 목표를 추구하며 제시된 경로를 함께 따를 의지가 있는지 확인합니다. 이 경로, 즉 워크숍 아젠다를 정리하고 제시하기 위해 Data & AI 디자인 싱킹 워크숍 캔버스를 사용하고 다음 단계를 진행합니다:

① 캔버스 헤더를 맞춤 설정해 회사명과 해당되는 경우 컨설팅 회사명을 기입하고 날짜를 입력합니다. 이 단계는 모든 이후 캔버스에서도 동일하게 수행해야 합니다.

② 워크숍의 구체적인 Objective를 설정하고 원하는 Key Results 즉 산출물을 정의합니다.

③-⑦ 필요에 따라 안건, 세션 시간 등을 조정하세요.

안건을 작업할 때는 해당 스티커 메모 색을 노란색으로 변경하세요. 완료되면 초록색으로 표시하세요. 이렇게 하면 팀이 항상 현재 상태를 한눈에 파악할 수 있습니다.

II. 비즈니스 프로세스 분석

다음으로 Agentic AI로 자동화하고 최적화하려는 비즈니스 프로세스를 시각화하고 분석해야 합니다. 이를 위해 Value Chain Canvas를 사용하며, 기존 요소는 초록색 스티커 메모, 계획된 요소는 노란색 스티커 메모, 누락된 요소는 빨간색 스티커 메모를 사용합니다.

① Focused on 필드에 비즈니스 프로세스 이름을 적으세요.

② Value Chain Canvas의 왼쪽에 있는 프로세스 시작 지점부터 시작하세요:

a) 비즈니스 프로세스를 시작하는 초기 상태, 기본 산출물 또는 트리거는 무엇인가요?

b) 초기 상태를 정의하고 기본 산출물을 전달하거나 이벤트를 발생시키는 사람, 역할 또는 조직 단위는 누구인가요 (생산자)?

③ 그런 다음 Value Chain 캔버스의 오른쪽에 있는 비즈니스 프로세스의 끝으로 진행합니다:

a) 비즈니스 프로세스의 최종 상태, 최종 산출물 또는 핵심 결과는 무엇인가요?

b) 최종 상태의 수혜자, 최종 산출물의 소비자 또는 핵심 결과의 수령자는 누구인가요 (고객)?

④ 이제 주요 활동, 즉 프로세스의 워크플로를 개략적으로 작성합니다: 어떤 작업이 필요하고 어떤 순서로 진행되나요? 대체 흐름이나 병렬 흐름은 무엇인가요?

⑤ 주요 활동 외에도 지원 활동이 종종 필요합니다: 어떤 일반적인 조치나 내부 조직 단위가 비즈니스 프로세스를 지원하나요?

⑥ 지원 활동이 내부에서 제공되지 않고 외부 업체가 전체 프로세스에 걸쳐 관여하는 경우, 이를 General Suppliers에 기록하세요.

⑦ 개별 프로세스 단계만 수행하거나 지원하는 특수 공급업체는 Special Suppliers에 배치하세요.

⑧ 프로세스의 효율성, 효과성, 품질, 안정성 등을 측정하는 핵심 성과 지표(KPI)를 파란색 스티커 메모에 적고, 해당 목표 값을 명시하세요.

마지막으로 Value Chain Canvas에서 Agentic AI와 관련된 모든 목표, 핵심 결과 및 KPI를 추출해 녹색 상자 Business Objectives & Key Results에 에이전트의 출력으로 기입하세요.

III. 사용자 역할 식별

비즈니스 프로세스를 이해했으니, 이 프로세스 맥락에서 이해관계자는 누군지 답할 수 있습니다. 이 질문에 답하기 위해 이해관계자 분석 캔버스와 파란색 스티커 메모를 사용해 사람이나 역할을 식별합니다. 한 사람이나 역할이 여러 기능을 맡을 수 있음을 고려하여 다음 기능들을 검토하세요:

① Focused on 필드에 비즈니스 프로세스 이름을 적습니다.

② 의사 결정자: 프로세스 흐름에 영향을 주는 결정을 내리는 사람은 누구입니까?

③ 경제적 구매자: 프로세스 중 구매, 예산 또는 기타(재무) 자원 관련 의사결정이 이루어질 때 자금을 제공하거나 스폰서를 맡는 사람은 누구입니까?

④ 최종 사용자: 프로세스 결과물을 사용하는 사람은 누구입니까(참조: Value Chain 캔버스의 고객)?

⑤ 방해자: 의사 결정자, 경제적 구매자 또는 최종 사용자에게 부정적 영향을 미쳐 프로세스를 방해하려 할 수 있는 사람은 누구입니까?

⑥ 영향력자: 의사결정자, 경제적 구매자 또는 최종 사용자에게 긍정적으로 영향을 미쳐 프로세스를 지원할 수 있는 사람은 누구인가요?

⑦ 조언자: 조언 역할로 프로세스에 적극적으로 참여하거나 정보로 지원을 제공하는 사람은 누구인가요?

⑧ 실행자: 실제로 프로세스를 실행하는, 즉 작업을 수행하는 사람은 누구인가요?

나중의 Multi-Agent System(MAS) 설계에서는 에이전트가 일부 사람/역할의 기능을 대신합니다. 하지만 높은 자동화 수준에서도 일부 기능은 사람이 계속 담당해야 합니다. 예를 들어 AI 에이전트의 결과를 검토하고 승인을 내리거나 자동화된 프로세스의 사용자 또는 수혜자가 되는 역할이 그렇습니다.

스티커 메모의 색을 변경해 특정 이해관계자를 표시합니다:

• 녹색은 Agentic AI 프로세스에서 역할을 수행하는 인간 에이전트입니다.

• 빨간색은 더 이상 역할을 수행하지 않는 이해관계자(즉, 인간 에이전트가 아님)입니다.

• 노란색은 아직 확실하지 않은 이해관계자(즉, 인간 에이전트일 수 있음)입니다.

마지막으로 다음 단계에서 Agentic AI 워크플로와 AI 에이전트를 설계하기 위해 모든 인간 에이전트를 노란 상자 인간 에이전트로 옮깁니다.

IV. Agentic 워크플로 설계

Agentic 워크플로 설계를 위해 Miro의 다이어그램형식과 Agentic Workflows 도형을 사용합니다. II. 비즈니스 프로세스 분석에서 에이전트에게 기대하는 출력물을 이미 파악했습니다. III. 사용자 역할 식별에서 에이전트에 입력을 제공하는 이해관계자를 파악했습니다. 즉, 프로세스를 트리거하고 프롬프트를 작성하며 정보와 문서를 제공하고 에이전트의 질의에 답변하거나 의사 결정을 내리거나 중간 결과를 확인·승인합니다.

AI로 기존 프로세스를 자동화하는 방법은 두 가지입니다:

1. 기존 프로세스 흐름을 대체로 유지하고, 작업을 수행하고 의사결정을 하는 인간 에이전트를 해당 역할을 수행하는 AI 에이전트로 교체합니다.

2. Agentic AI의 장점을 활용하기 위해 프로세스 흐름을 완전히 재설계합니다. 예: 여러 대안 솔루션을 병렬로 처리하는 것.

어느 방식이 더 나은지 확신이 서지 않으면 두 가지(또는 그 이상) 버전을 설계한 뒤 결정하거나 방식을 혼합하세요.

AI 에이전트 후보를 식별하려면 워크숍 참가자들에게 다음 질문을 하세요:

• 인간 에이전트가 맡아온 액티비티나 책임은 무엇인가요?

➡️ 인간 에이전트는 AI 에이전트가 됩니다.

• 특정 도메인 지식이 필요한 전문 작업은 무엇인가요?

➡️ AI 에이전트는 이 도메인 지식으로 학습합니다.

• 어떤 IT 시스템이나 데이터 소스와 연결해야 하나요?

➡️ AI 에이전트가 데이터 소스나 IT 시스템의 인터페이스 역할을 합니다.

• 어떤 사용자 역할과 상호작용해야 하나요?

➡️ AI 에이전트가 사용자와의 소통을 담당합니다.

• 병렬화할 수 있는 활동은 무엇인가요?

➡️ 해당 활동들은 여러 AI 에이전트에 분배됩니다.

• 다른 에이전트가 여러 번 필요로 하는 활동은 무엇인가요?

➡️ AI 에이전트가 이 활동을 서비스로 제공해 다른 에이전트가 이용할 수 있게 합니다.

• 어떤 활동에 특별한 보안 및 데이터 보호 조치가 필요한가요?

➡️ 보안이 강화된 AI 에이전트가 이러한 활동을 수행합니다.

• 이미 사용 중인 내부 AI 에이전트는 무엇인가요?

➡️ 기존 AI 에이전트를 재사용합니다.

• 이미 사용 중인 외부 AI 에이전트는 무엇인가요?

➡️ 외부 AI 에이전트는 통합되고, 필요 시 내부 AI 에이전트로 캡슐화됩니다.

• 어떤 AI 에이전트가 다른 AI 에이전트의 조정을 지원할 수 있나요?

➡️ 특수 AI 에이전트가 정보와 워크플로우의 위임, 집계, 동기화 등을 담당합니다.

MAS 설계를 완성하려면 AI 에이전트와 인간 에이전트 간의 정보 흐름과 워크플로우를 모델링해야 합니다. 이를 위해 다이어그램 요소인 인간 에이전트, AI 에이전트, 산출물을 화살표로 연결합니다. 원칙적으로 정보 흐름과 워크플로우는 동일합니다. 서로 다를 경우 순수 정보 흐름은 점선으로 표시할 수 있습니다.

V. 데이터 및 AI 평가와 로드맵

일부 AI 에이전트는 기존 데이터 소스에 대한 읽기 권한이나 데이터 레코드를 변경·생성하거나 특정 하위 프로세스를 트리거하기 위해 IT 시스템에 대한 쓰기 권한이 필요합니다. 다른 AI 에이전트는 사람 에이전트와 소통하기 위한 대형 언어 모델(LLM)이나 사건과 추세를 예측하는 예측 모델과 같은 특정 기능과 역량을 필요로 합니다.

MAS 설계 다이어그램의 파란 영역을 사용해 필요한 IT/BI/AI 시스템을 명시하고 화살표로 AI 에이전트와 연결합니다. 여기에서 Agent2Agent(A2A)나 Model Context Protocol(MCP) 같은 인터페이스도 정의할 수 있습니다.

다음으로 기존에 필요한 시스템이 이미 사용 중인지, 아직 계획 단계인지, 개발·작업 중인지, 아니면 먼저 설계·개발해야 하는지를 평가합니다. 이를 위해 녹색, 노란색, 빨간색 스티커 메모와 Analytics & AI Maturity 캔버스를 사용합니다. 이 캔버스는 복잡성·성숙도 수준에 따라 일반 도구와 특정 애플리케이션을 구분합니다.

② 녹색 상자는 다음 애플리케이션을 설명합니다:

a) 비즈니스 운영: 분석이나 AI 기능이 없는 순수 데이터 처리 애플리케이션입니다.

b) 비즈니스 리포팅: 일반적으로 설명적 분석을 기반으로 리포트 생성이나 대시보드를 자동화하는 애플리케이션입니다.

c) 비즈니스 디스커버리: 진단 분석을 기반으로 추세, 상관관계, 이상치 등을 탐색해 인사이트를 얻는 애플리케이션입니다.

d) 비즈니스 포캐스팅: 예측 분석을 기반으로 예측, 나우캐스팅(nowcasting) 또는 백캐스팅(backcasting)을 수행하는 애플리케이션입니다.

e) 비즈니스 최적화: 처방적 분석에 기반해 비즈니스 프로세스를 최적화하는 애플리케이션.

f) 비즈니스 자동화: 자율적 분석에 기반해 비즈니스 프로세스를 자동화하는 애플리케이션.

AI 에이전트는 종종 기존 애플리케이션과 애플리케이션 프로그래밍 인터페이스(API)를 통해 상호작용합니다.

③ 노란 상자는 AI 에이전트를 구현하는 데 사용할 수 있는 데이터 및 분석 도구입니다:

a) 데이터 관리: 예를 들어 데이터베이스 시스템 등이 포함됩니다.

b) 서술적 분석: 예를 들어 리포팅 또는 대시보드 도구.

c) 진단적 분석: 통계 분석 도구나 A/B 실험 플랫폼 등.

d) 예측 분석: 머신러닝 및 딥러닝 소프트웨어뿐만 아니라 베이지안 네트워크, 선형 회귀 등과 같은 라이브러리도 포함됩니다..

e) 처방적 분석: 시뮬레이션 및 최적화 방법뿐만 아니라 생성형 AI 솔루션도 사용됩니다.

f) 자율 분석: 여기서는 강화 학습 알고리즘 등이 사용되며, Agentic AI를 위한 특수 솔루션도 적용됩니다.

필요한 모든 데이터와 기능에 대해 기존 또는 계획 중인 IT / BI / AI 시스템이 있는지 확인하세요.

VI. AI 가드레일 요구사항

우리는 비즈니스 프로세스, 이해관계자, 데이터 소스, 그리고 IT / BI / AI 역량을 검토해 우리 Multi-Agent System (MAS)이 실행 가능하고 바람직하며 실현 가능한지 확인했습니다. 그러나 아직 중요한 기준 하나가 남아 있습니다: AI 시스템은 책임을 져야 합니다.

결국 큰 힘에는 큰 책임이 따릅니다. 이 원칙은 예를 들어 EU AI Act와 같은 법에도 규정되어 있습니다.

우리의 AI 에이전트가 책임 있는 AI(rAI) 원칙을 준수하도록 하려면, 이른바 AI 가드레일이 필요합니다. 멀티 에이전트 시스템(MAS)에서는 이러한 가드레일을 다른 에이전트를 모니터링하고 제어하는 에이전트가 구현할 수 있습니다.

먼저 가드레일, 즉 MAS에 적용하려는 규칙과 제한사항을 정의합니다. 3 Boxes 캔버스를 사용해 규칙을 세 가지 범주로 나눕니다:

1. 보안 & 안전: MAS나 사용자에게 피해가 발생해서는 안 됩니다.

2. 설명 가능성 & 투명성: 사용자가 MAS의 결정과 행동을 이해할 수 있어야 합니다.

3. 개인정보 보호 & 공정성: MAS로 인해 사용자가 불이익을 받지 않아야 합니다.

또한 입력, 내부 모델, AI 에이전트의 출력과 관련된 가드레일도 구분합니다:

• Input Rail: 예를 들어 프롬프트 인젝션으로부터 회사 데이터를 보호하기 위해 사용자 입력을 검사할 수 있습니다.

• Model Rail: 공정성을 확보하는 한 방법으로 모델 품질 지표를 모니터링해 특정 집단에 대한 차별 가능성을 배제할 수 있습니다.

• Output Rail: LLM은 허위 답변을 생성하는 경향이 있으므로 출력의 타당성 검사를 하는 것이 유용합니다.

마지막 단계에서 Guardrail Agents(다이어그램의 회색 상자)는 이러한 규칙을 어떻게 구현할지 정의하고 화살표로 AI Agents와 어떻게 연결되는지를 규정합니다.

워크숍을 마무리할 때는 수행할 구체적인 작업을 정하고 워크숍 참가자에게 할당하세요. 그런 다음 작업을 수행하세요.

추가 자료

Datentreiber는 이 Miroverse 템플릿 외에도 다음을 제공합니다:

• 이 Data & AI Business Design Kit은 Data & AI Business Design Method를 적용하기 위한 다양한 오픈 소스 캔버스를 제공합니다.

• 또한 무료인 Data & AI Business Design Community에서는 교류, 이벤트 및 전문가 콘텐츠를 이용할 수 있습니다.

• 인증이 포함된 유료 온라인 및 현장 교육 과정은 Data & AI Business Design Academy에서 제공됩니다.

• 추가적인 관리 도구, 워크숍 템플릿 및 프로젝트 청사진은 당사의 상업용 Data & AI Business Design Bench에서 확인할 수 있습니다.

• 당사의 데이터 및 AI 비즈니스 컨설팅은 데이터 및 AI 전략, 혁신 및 전환 프로젝트에 대한 지원을 제공합니다.

관심 있으시거나 질문이나 피드백이 있으면 다음 주소로 문의하세요: info@datentreiber.de.

저작권: 모든 권리는 Datentreiber GmbH에 있습니다.