2024년, 생성형 AI 투자 폭발적 증가: CIO는 무엇을 준비해야 할까?

가트너의 최신 보고서에 따르면 2024년 전 세계 생성형 AI(GenAI) 관련 지출이 76.4% 급증할 것으로 예상됩니다. 향상된 기반 모델과 증가하는 수요가 이러한 성장을 이끌고 있으며, 초기 프로젝트의 높은 실패율에도 불구하고 조직들은 GenAI 프로젝트에 6,440억 달러를 투자할 것으로 보입니다. CIO들은 이러한 변화에 발맞춰 무엇을 준비해야 할까요?

GenAI 서비스 및 장치 시장의 급성장

GenAI 서비스는 작년 177% 성장에 이어 올해에도 162% 성장할 것으로 예상됩니다. 반면 GenAI 소프트웨어는 2024년 255% 성장했지만 올해는 93%로 성장세가 둔화될 것으로 보입니다. 주목할 점은 GenAI 장치 시장의 성장세입니다. GenAI 장치는 작년 845% 급증한 데 이어 올해에도 99.5%의 높은 성장률을 기록할 것으로 예상됩니다.

GenAI 투자, 하드웨어 중심으로 이동

GenAI 지출은 IT 서비스, 소프트웨어, 장치, 서버 등 모든 핵심 시장 및 하위 시장에서 증가할 것으로 예상됩니다. 특히 서버, 스마트폰, PC와 같은 하드웨어에 AI 기능이 통합되면서 GenAI 지출의 80%가 하드웨어에 집중될 것으로 보입니다. 가트너는 AI 기능이 소비자 장치 시장의 거의 전부를 차지할 것으로 예상되는 2028년까지 이러한 추세가 지속될 것으로 전망합니다.

AI PC의 부상과 조직의 과제 해결

AI PC는 클라우드 및 데이터 센터 AI 인스턴스 사용 시 발생하는 비용, 보안, 개인 정보 보호 문제를 해결할 수 있는 대안으로 떠오르고 있습니다. IDC의 연구에 따르면 응답자의 97%가 향후 더 많은 직원에게 AI를 배포할 계획이라고 밝혔습니다. AI PC는 CPU, GPU, NPU(Neural Processing Unit)를 통해 AI 워크로드를 개선하도록 설계된 임베디드 AI 프로세서와 알고리즘을 갖춘 PC를 의미합니다.

소비자들은 AI 기능을 원하지 않는다?

가트너의 분석가 미카 키타가와는 "소비자들이 AI 기능을 원해서 PC를 교체하지는 않을 것"이라며 "OS 업그레이드, 노후화된 PC, 새로운 학교 또는 직장 등 특정 이유로 PC를 교체할 경우 AI PC를 선택하게 될 것"이라고 말했습니다. 즉, AI 기능이 기본으로 탑재된 장치를 제조업체들이 출시함에 따라 소비자들은 어쩔 수 없이 AI 장치를 구매하게 될 것이라는 의미입니다.

CIO의 전략적 선택: 상용 솔루션 vs. 자체 개발

가트너는 CIO들이 맞춤형 개발보다는 상용 GenAI 솔루션을 우선시할 것으로 예상합니다. 초기 테스트의 높은 실패율과 결과에 대한 불만족으로 인해 CIO들은 기존 소프트웨어 제공업체의 GenAI 기능에 집중하고, 입증된 상용 제품을 통해 더 안정적인 결과와 비즈니스 가치를 창출하고자 할 것입니다. 모델 제공업체들은 성능과 신뢰성을 개선하기 위해 수십억 달러를 투자하고 있지만, 이러한 역설적인 상황은 2025년과 2026년까지 지속될 것으로 예상됩니다.

주요 AI PC 관련 기업 동향

Nvidia는 GPU를 통해 AI PC 시장에서 강력한 입지를 구축하고 있습니다. 삼성전자는 AI PC를 위한 고성능 SSD를 양산하기 시작했으며, Intel은 GenAI PC 운영을 위한 "Ultra" 칩을 발표했습니다. Lenovo는 다양한 장치에서 에이전트 및 AI 어시스턴트를 포함하는 "Smarter AI" 도구 라인을 선보였으며, AMD는 AI 운영에 최적화된 CPU를 출시했습니다.

맺음말

생성형 AI는 IT 지출 시장의 모든 측면에 혁신적인 영향을 미칠 것입니다. CIO들은 GenAI 기술의 급격한 성장에 대비하고, 전략적 투자를 통해 비즈니스 가치를 창출해야 합니다. 상용 솔루션과 AI PC의 잠재력을 활용하여 경쟁력을 강화하고, 미래를 준비해야 할 것입니다.