AI 에이전트 도입: 과제와 성공 전략

93%의 IT 리더가 인공지능 에이전트의 가치를 인지하지만, 구현에 어려움을 겪는 이유

Salesforce의 새로운 설문 조사에 따르면, 기업 IT 리더의 93%가 향후 2년 안에 AI 에이전트를 구현하거나 구현 계획을 가지고 있지만, 데이터 통합 문제와 같은 과제로 인해 실제 구현에 어려움을 겪고 있습니다. 이 글에서는 AI 에이전트 도입 과정에서 발생하는 어려움과 해결 방안, 그리고 성공적인 사례를 소개합니다.

2025년, AI 에이전트의 현실과 과제

모든 사람이 AI 에이전트에 대해 이야기하고 있지만, 아직까지는 대부분 이론에 머물러 있습니다. 하지만 Salesforce는 2025년이 AI 에이전트가 실제로 구현되는 해가 될 것이라고 예측합니다. Salesforce의 통합 및 자동화 소프트웨어 회사인 Mulesoft의 새로운 설문 조사에 따르면, 기업 IT 리더의 93%가 향후 2년 안에 AI 에이전트를 구현하거나 구현 계획을 가지고 있습니다.

하지만 기업들은 여전히 구현에 어려움을 겪고 있습니다. 2024년에 목표 달성에 실패한 기업이 29%에 달하며, 80%의 기업이 데이터 통합을 가장 큰 과제로 꼽았습니다. Mulesoft의 Andrew Comstock SVP는 “통합 문제는 기업들이 무한한 디지털 인력을 창출할 수 있는 기술의 잠재력을 완전히 실현하는 것을 방해합니다. AI 에이전트는 사용자 질의의 맥락과 뉘앙스를 포괄적으로 이해할 수 있도록 연결된 데이터에 의존하기 때문에 통합은 AI 에이전트 작동에 매우 중요한 기반입니다.”라고 말했습니다.

통합의 중요성과 AI 에이전트의 성능

Salesforce의 제10회 연례 MuleSoft Connectivity Benchmark Report는 1,050명의 기업 IT 리더를 대상으로 설문 조사를 실시했습니다. 주요 결과 중 하나는 기업들이 평균 897개의 애플리케이션을 사용한다는 것입니다. 또한 기업이 사용하는 AI 모델의 수는 (2024년 9개에서 올해 18개로) 두 배가 되었으며, AI 에이전트를 사용하는 기업은 AI 에이전트를 사용하지 않는 기업(15개)보다 훨씬 많은 약 22개의 AI 모델을 배포하고 있습니다.

하지만 연결된 애플리케이션은 약 29%에 불과하며, 대다수의 응답자(95%)는 시스템 간의 데이터 통합에 어려움을 겪고 있다고 밝혔습니다. Comstock은 이러한 통합 문제가 AI 에이전트의 정확성과 유용성에 영향을 미친다고 설명했습니다. AI 에이전트는 의사 결정을 내리고 조치를 취하기 위해 ERP, CRM, HCM 플랫폼뿐만 아니라 이메일, PDF, Slack 및 기타 시스템을 포함한 다양한 소스의 구조화된 데이터와 비구조화된 데이터를 수집해야 합니다.

IT 리더들은 서로 다른 애플리케이션이 통신할 수 있도록 하는 API(Application Programming Interfaces)의 가치를 높이 평가하고 있으며, IT 인프라 개선, 팀 간 데이터 공유, 이기종 시스템 통합에 유익하다고 말했습니다.

올바른 통합과 API를 통해 AI 에이전트는 “기존 시스템, 자동화 및 기업 전체의 다른 AI 에이전트와 직접 상호 작용할 수 있으므로 AI 세계를 위해 모든 것을 다시 맞출 필요가 없습니다.”라고 Comstock은 말했습니다.

AI 에이전트의 실제 활용 사례: PenFed Credit Union과 Adecco

Salesforce의 고객인 PenFed Credit Union은 이미 AI 에이전트의 이점을 보고 있습니다. 미국에서 세 번째로 큰 연방 신용조합인 PenFed는 단 8주 만에 단 한 명의 엔지니어만으로 라이브 에이전트 채팅과 Agentforce 기반 챗봇이라는 두 가지 새로운 지원 채널을 구축했습니다.

PenFed는 Mulesoft를 사용하여 데이터를 하나의 통합 플랫폼으로 수집합니다. Comstock은 이를 통해 서비스 에이전트가 회원 데이터를 360도로 볼 수 있게 되어 라이브 채팅과 셀프 서비스 지원 옵션을 통해 더 나은 지원을 더 빠르게 제공할 수 있다고 설명했습니다. 지점 직원은 단일 창에서 여러 유형의 고객 요청을 처리할 수도 있습니다.

그 결과 PenFed는 현재 AI 기반 챗봇으로 첫 번째 연락에서 20%의 사례를 해결하고 있으며, 지난 1년 동안 채팅과 챗봇 활동이 223% 증가했습니다. 우연의 일치인지는 모르겠지만, 신용조합의 회원 수도 31% 증가했습니다.

“회원들은 도움이 필요할 때 선택할 수 있는 채널을 얻습니다. 정보가 더 효과적으로 연결되기 때문에 서비스 담당자와 이야기할 때 동일한 정보를 반복하지 않아도 되므로 짧은 대기 시간을 즐기고 있습니다.”라고 Comstock은 설명했습니다.

한편, 선도적인 인재 회사인 Adecco는 Agentforce, MuleSoft, Salesforce Data Cloud를 사용하여 40개 이상의 이기종 시스템을 중앙 집중화하고 있습니다. Adecco는 연간 3억 건의 지원서를 처리하고 매일 100만 명을 배치합니다. 하지만 기존 도구를 사용하면 채용 담당자는 수신하는 지원서의 일부만 응답할 수 있고, 상당수의 지원자에게 의도치 않게 답변을 하지 않게 됩니다.

이 문제를 해결하기 위해 Agentforce는 이력서를 자율적으로 자동으로 분류하고 기술, 경험 또는 위치와 같은 사전 설정된 기준에 따라 후보자의 짧은 목록을 구성합니다. 이 목록을 채용 담당자에게 전달한 후 모델은 적합하지 않은 후보자에게 알리고 대체 역할을 제안합니다. 목표는 결국 모든 지원자에게 응답하는 것입니다.

마찬가지로 Agentforce는 과거 성공률과 지역별 요구 사항에 따라 가장 효과적인 구인 게시판과 플랫폼을 식별하여 구인 게시에 도움이 될 것입니다. 이를 통해 채용 담당자가 수동으로 게시물을 게시할 필요가 없습니다.

“이는 ‘직원을 얼마나 효과적으로 만들고, 가장 중요한 업무, 실제로 차별화되고 가치를 제공하는 부분을 수행하도록 자유롭게 할 수 있습니까?’에 관한 것입니다.”라고 Comstock은 지적했습니다.

그는 AI 에이전트가 특정일에 아픈 직원을 대신하여 연락하거나, 제품 AI 에이전트가 질문에 답하고 문서를 제공하고, 관할 밖의 질문을 받으면 다른 AI 에이전트와 소통하여 답변을 얻는 등의 다른 예를 제시했습니다.

“고객 서비스, 직원 성공, 다양한 벡터에 접근할 수 있습니다.”라고 Comstock은 말했습니다.