ServiceNow의 AI 에이전트 오케스트레이터: 복잡한 기업 워크플로우 자동화의 혁신
기업 워크플로우를 혁신적으로 자동화하는 ServiceNow의 새로운 AI 에이전트 오케스트레이터와 AI 에이전트 스튜디오에 대해 알아보세요. 복잡한 작업을 효율적으로 처리하고 생산성을 향상시키는 방법을 자세히 소개합니다.
ServiceNow는 AI 기반의 기업 워크플로우 솔루션으로, 전 세계 8,000개 이상의 고객에게 인적 자원부터 IT 서비스 관리(ITSM)까지 다양한 프로세스를 지원합니다. 최근 ServiceNow는 Agentic AI에 대한 투자를 확대하며, 기업의 AI 활용으로부터 더 높은 투자 수익률(ROI)을 달성하도록 돕고 있습니다. 이번 발표에서는 새로운 AI 에이전트 오케스트레이터와 AI 에이전트 스튜디오를 통해 기본적인 생성형 AI 지원을 넘어 종합적인 엔드투엔드 작업 자동화를 제공하는 ServiceNow의 전략을 살펴보겠습니다.
ServiceNow AI 오케스트레이터: 복잡한 작업의 효율적인 관리
AI 에이전트 오케스트레이터는 다양한 AI 에이전트 간의 상호 작용을 조정하고 관리하여 복잡한 작업을 수행하는 “두뇌” 역할을 합니다. AI 에이전트 스튜디오는 사용자 정의 AI 에이전트를 생성, 배포 및 유지 관리하는 데 필요한 도구를 제공하는 개발 및 관리 플랫폼입니다.
ServiceNow는 IT, HR, 고객 서비스 기능 전반에 걸쳐 복잡한 기업 워크플로우를 처리하도록 설계된 수천 개의 특수 AI 에이전트를 출시할 계획입니다. 초기 도입자들은 상당한 효율성 향상을 보고하고 있으며, 어떤 경우에는 티켓 해결 시간이 70% 단축(평균 처리 시간 30분에서 7~8분으로 감소)되는 결과를 얻기도 했습니다. Agentic AI의 약속을 완전히 실현하는 핵심은 단일 에이전트를 사용하는 것이 아니라, 비즈니스 목표 달성을 위해 여러 에이전트를 연계하는 것입니다.
ServiceNow의 AI 경험 및 혁신 부사장인 Dorit Zilbershot은 "다양한 AI 에이전트가 특정 작업에 특화될 수 있지만, AI 에이전트 오케스트레이터는 이러한 혼란 속에서 질서를 부여합니다. 모든 AI 에이전트에 대한 감독을 제공하고, 해결하려는 최종 목표 또는 비즈니스 문제에 대한 이해를 확보합니다."라고 설명했습니다.
단순한 에이전트를 넘어: AI 오케스트레이션의 필요성
2025년 현재 Agentic AI에 대한 관심은 뜨겁습니다. Salesforce의 Agentforce 플랫폼이나 Microsoft와 같은 대기업들도 이 기술을 강조하고 있습니다. ServiceNow는 Agentic AI의 가치를 인식하는 점에서는 다른 기업들과 다르지 않지만, 그 적용 방식에 차별점이 있습니다. ServiceNow는 여러 단계를 거치는 기업 프로세스를 위한 워크플로우에 중점을 두고 있습니다. 에이전트는 특정 영역 내에서 구성 요소를 자동화하는 데 도움이 되는 반면, AI 에이전트 오케스트레이션은 복잡한 워크플로우에서 여러 영역에 걸쳐 여러 에이전트를 조정할 수 있습니다.
예를 들어, AI 에이전트 오케스트레이터는 신규 직원 온보딩 과정에서 효과적으로 활용될 수 있습니다. 이 과정에는 IT 계정 및 장비 설정, HR 시스템 및 혜택 등록, 교육 및 오리엔테이션 세션 예약, 필요한 비즈니스 시스템에 대한 액세스 권한 부여 등 여러 단계와 작업이 포함됩니다. AI 에이전트 오케스트레이터를 사용하면 각 작업을 처리하는 특수 AI 에이전트 팀을 만들 수 있습니다. 예를 들어, IT 에이전트는 노트북을 준비하고, HR 에이전트는 직원을 HR 시스템에 등록하고, 교육 에이전트는 온보딩 세션을 예약합니다. AI 에이전트 오케스트레이터는 에이전트 간의 이관 및 통신을 조정하고, 전체 온보딩 워크플로우를 이해하고, 진행 상황을 모니터링하며, 필요한 모든 단계가 성공적으로 완료되도록 합니다. 문제가 발생하면 오케스트레이터는 문제 해결, 작업 재할당 또는 필요에 따라 인적 개입을 에스컬레이션할 수 있습니다. 또한 시스템은 온보딩 프로세스에 대한 엔드투엔드 가시성과 관리 기능을 제공합니다.
AI 에이전트 오케스트레이션의 작동 방식
다른 AI 프로세스 또는 LLM을 연결하는 아이디어는 새로운 것이 아닙니다. LangChain과 같은 기술은 여러 LLM을 "연결"할 수 있게 해줍니다. 또한 LLM 라우터 기술은 서로 다른 쿼리를 라우팅할 수 있게 해줍니다. Zilbershot은 ServiceNow의 오케스트레이터가 전적으로 자체 플랫폼을 기반으로 구축되었으며 외부 프레임워크에 의존하지 않는다고 설명했습니다.
그녀는 시스템에 단기 및 장기 메모리 기능이 모두 통합되어 있다고 설명했습니다. 메모리는 AI 에이전트에 대한 컨텍스트를 제공하는 데 도움이 됩니다.
오케스트레이터 플랫폼 내에는 여러 유형의 모델도 있습니다. 오케스트레이터는 의사 결정 및 계획에 대규모 언어 모델을 사용합니다. 그런 다음 요약 또는 이메일 생성과 같은 특정 작업에는 소규모 LLM을 사용합니다.
Agentic AI 워크플로우에 필요한 데이터: ServiceNow Workflow Data Fabric
AI와 기업 자동화의 교차점에서 ServiceNow의 전략적 위치는 데이터, 특히 회사의 Workflow Data Fabric에 달려 있습니다.
Workflow Data Fabric은 ServiceNow의 기반 기술입니다. 이는 시스템 간 데이터 액세스, 일관된 컨텍스트 유지, 워크플로우 전반의 안전한 데이터 처리 및 기존 기업 시스템과의 통합을 가능하게 합니다.
Zilbershot은 “우리는 모든 영역에서 Agentic AI와 대화형 경험을 주도하고 있으며, Workflow Data Fabric을 중심으로 모든 것을 추진하고 있습니다. 모든 데이터 시스템과 작업 시스템에 액세스하여 고객이 ServiceNow 플랫폼을 사용하여 모든 기업 프로세스와 워크플로우를 관리하고 조정할 수 있는 단일 장소를 실제로 만들 수 있습니다.”라고 말했습니다.
ServiceNow의 AI 에이전트 오케스트레이터는 단순한 AI 에이전트를 넘어, 복잡한 기업 워크플로우의 효율적인 자동화를 가능하게 하는 혁신적인 기술입니다. 이를 통해 기업은 생산성 향상과 비용 절감을 동시에 달성할 수 있을 것으로 기대됩니다.
