by Wizard

기업의 생산성 향상을 위한 에이전트 AI 도입, 신중한 접근이 필요한 이유

최근 몇 달 동안 생산성 애플리케이션 내 워크플로우를 자동화할 수 있는 에이전트형 AI 도구가 폭발적으로 증가하고 있습니다. 하지만 전문가들은 기업이 이러한 도구를 도입하기 전에 배포 위험을 신중하게 평가해야 한다고 권고합니다. 마치 새로운 게임이 출시될 때, 무턱대고 뛰어들기 전에 게임 규칙과 주의사항을 꼼꼼히 살펴보는 것과 같습니다.

에이전트 AI, ‘진짜’와 ‘가짜’를 구분해야

포레스터의 미래 업무 팀 부사장 겸 수석 분석가인 JP Gownder는 "기업 리더는 에이전트 AI의 진정한 의미와 이러한 솔루션에 대한 거버넌스 전략을 수립해야 한다"고 강조합니다. Gownder는 현재 출시되는 도구들이 진정한 에이전트 AI가 아닌, 포레스터가 명명한 "에이전트-ish" 도구라고 지적합니다. 마치 '진짜' 히어로가 아닌 '히어로 코스프레' 같은 느낌인 것이죠.

그는 "에이전트-ish 솔루션은 특정 문제를 해결할 수 있지만, 벤더들이 말하는 '디지털 동료'는 아니며, 적어도 아직까지는 그렇다"고 덧붙였습니다. 즉, 부분적인 자동화는 가능하지만, 사람처럼 능동적으로 업무를 처리하는 수준은 아니라는 것입니다.

구글, 마이크로소프트, 어도비… AI 플러그인 경쟁 시대

구글과 마이크로소프트는 이미 생산성 스위트에 AI 플러그인을 개발하고 있으며, 제3자 역시 애플리케이션을 위한 AI 플러그인을 제공하고 있습니다. 구글은 최근 Google Cloud Next에서 Workspace 스위트를 위한 새로운 AI 도구를 선보였습니다. Workspace Flows는 문서 검토, 고객 지원 요청, 제품 분석과 관련된 업무 흐름을 자동화할 수 있습니다. 또한 Google Sheets의 "help me analyze" 기능은 테이블의 정보를 가져와 즉각적인 데이터 분석 및 인사이트를 제공합니다.

마이크로소프트는 창립 50주년을 기념하며 365 생산성 스위트와 독립적으로 작동하는 다양한 Copilot 자동화 기능을 발표했습니다. Microsoft 365 로드맵에는 Word 문서 작성 자동화 도구, 학습 요구 사항에 기반한 학습 도우미, 자동화된 HR 도구 등 Copilot 자동화 기능 목록이 빼곡하게 담겨 있습니다.

한편, Anthropic은 Claude AI 모델을 Gmail 및 Calendar와 통합하여 Google Docs를 지원합니다. 이를 통해 이메일 검색, 문서 검토, 일정 스캔을 통해 "업무 맥락에 대한 더 깊은 통찰력"을 얻을 수 있다고 밝혔습니다. 어도비 역시 Microsoft 365용 Adobe Express AI 에이전트를 개발하여 Copilot을 통해 멀티미디어 및 프레젠테이션을 제작할 수 있도록 할 예정입니다.

안전한 도입을 위한 기업의 준비 자세

생산성 애플리케이션에 이러한 AI 플러그인을 안전하게 배포하려면 수년간의 미세 조정과 구현이 필요할 수 있습니다. 우선, 기업은 도구의 기능, 잠재적인 보안 문제점을 파악하고 안전 장치를 마련해야 합니다. 마치 자동차를 운전하기 전에 운전 기술을 익히고 안전벨트를 착용하는 것과 같습니다.

AI 시스템 및 에이전트의 기술적 롤아웃이 기업이 올바른 방향으로 나아가고 있음을 의미하지는 않습니다. 너무 성급하게 움직일 수도 있습니다. Gownder는 "우리는 에이전트 AI로 향하는 여정의 아주 초입에 있지만, 벤더들은 아직 자율성과 실행 가능성이 부족함에도 불구하고 '에이전트'라는 용어를 사용하는 것을 좋아한다"고 지적했습니다.

데이터 활용과 사용자 교육의 중요성

Microsoft Copilot Agents는 특정 데이터 소스(예: SharePoint 사이트)를 활용하여 올바른 데이터 소스가 쿼리되도록 하는 데 유용합니다. Gownder는 "일종의 RAG(검색 증강 생성) 컴퓨팅 모델에 도움이 되지만, 복잡한 에이전트는 아니다"라고 말했습니다. J. Gold Associates의 수석 분석가인 Jack Gold는 에이전트를 쌓아서 하나의 에이전트가 다른 에이전트를 호출하여 특수 작업을 수행하도록 할 수 있으며, 최종 사용자에게 결과가 표시되기 전에 여러 에이전트가 포함될 수 있다고 설명했습니다.

새로운 기술과 마찬가지로 기업은 에이전트 자체의 생산성을 높이기 위해 올바른 질문을 올바른 순서로 묻는 것을 포함하여 기술을 가장 잘 사용하는 방법을 배워야 합니다. Gold는 "질문이 간결해야 합니다. 에이전트는 특정 기준을 제시하지 않으면 '방황'하는 경향이 있기 때문입니다."라고 덧붙였습니다.

"사용자 교육" 프로세스에는 시행착오가 포함될 가능성이 높으며, 역할과 복잡성에 따라 빠르거나 느릴 수 있습니다. Gold는 "가장 큰 과제는 에이전트가 제공한 결과를 신뢰할 수 있는지 여부"라고 말했습니다.

CISO, HR, 법무팀의 협업 필수

모든 엔터프라이즈급 시스템과 마찬가지로 CISO(최고정보보안책임자)는 위험 지점을 결정하기 위해 참여해야 하며, HR 및 법무팀 역시 회사 데이터와 관련된 롤아웃에 참여해야 할 수 있습니다. Gold는 "AI의 경우 이러한 시스템이 이전 데이터에서 새로운 데이터를 추론하여 검색할 수 있는 정보 유형을 실제로 향상시킬 수 있는 능력에 의해 증폭됩니다. 이는 완전히 다른 수준의 요구 사항입니다."라고 강조했습니다.

맺음말

에이전트 AI는 기업의 생산성을 획기적으로 향상시킬 수 있는 잠재력을 가지고 있습니다. 하지만 장밋빛 미래만을 쫓아 무분별하게 도입하기보다는, 잠재적인 위험을 꼼꼼히 평가하고 안전 장치를 마련하는 신중한 접근 방식이 필요합니다. 마치 맛있는 음식을 먹기 전에 알레르기 유발 물질을 확인하는 것처럼 말이죠.