구글, 7세대 TPU 아이언우드(Ironwood) 공개: AI 추론 능력의 혁신

구글이 최신 AI 훈련 하드웨어인 7세대 텐서 처리 장치(TPU), 아이언우드(Ironwood)를 공개하며 인공지능 추론 분야에서 또 한 번의 도약을 예고했습니다. 이번 발표는 라스베이거스에서 열린 Google Cloud Next ’25 행사에서 이루어졌으며, 구글은 아이언우드의 효율성 향상과 그로 인한 비용 절감 효과를 강조했습니다.

아이언우드 TPU: AI 추론 시대의 개막

구글은 아이언우드가 AI 개발에 있어 "중대한 변화"를 가져올 것이라고 밝혔습니다. 이는 단순히 실시간 정보를 제공하는 반응형 AI 모델에서 벗어나, 스스로 해석하고 추론할 수 있는 능동형 모델로의 전환을 의미합니다. 구글 클라우드는 이를 통해 고객들이 더욱 방대한 워크로드를 구축하고 실행할 수 있을 것으로 기대하고 있습니다.

아이언우드의 압도적인 성능

아이언우드는 최대 9,216개의 칩으로 구성된 포드(Pod)를 통해 총 42.5 엑사플롭스(Exaflops)의 연산 능력을 제공합니다. 이는 세계 최대 슈퍼컴퓨터인 엘 캐피탄(El Capitan)보다 24배 이상 뛰어넘는 성능입니다. 각 칩은 4,614 테라플롭스(TFLOPs)의 연산 능력을 제공하며, 이는 이전 세대 대비 엄청난 발전입니다. 256개의 칩으로 구성된 소규모 구성에서도 뛰어난 성능을 자랑합니다.

딥마인드 Pathways 소프트웨어 스택과의 결합

아이언우드는 개발자들이 구글 딥마인드가 설계한 Pathways 소프트웨어 스택을 활용하여 수만 개의 아이언우드 TPU의 연산 능력을 결합할 수 있도록 지원합니다. 이를 통해 더욱 복잡하고 대규모의 AI 모델을 훈련하고 실행할 수 있습니다.

향상된 메모리 용량과 대역폭

아이언우드는 칩당 192GB의 고대역폭 메모리(HBM)를 제공하며, 이는 이전 세대인 Trillium TPU보다 최대 6배 더 많은 용량입니다. 또한, 대역폭은 7.2TBps로 Trillium 대비 4.5배 향상되었습니다. 이러한 개선은 대규모 데이터 처리 및 복잡한 AI 모델 실행에 필수적인 요소입니다.

구글의 AI 여정

구글 ML 시스템 및 클라우드 AI 부문 부사장인 아민 바닷(Amin Vahdat)은 "지난 10년 이상, TPU는 구글의 가장 까다로운 AI 훈련 및 서비스 워크로드를 지원해 왔으며, 클라우드 고객들도 동일한 작업을 수행할 수 있도록 지원했습니다."라고 말했습니다. 또한, "아이언우드는 우리가 만든 가장 강력하고, 뛰어난 성능과 에너지 효율을 자랑하는 TPU입니다. 이는 대규모 추론 AI 모델을 구동하기 위해 특별히 제작되었습니다."라고 덧붙였습니다.

결론

구글의 아이언우드 TPU는 AI 추론 분야에서 획기적인 발전을 가져올 것으로 기대됩니다. 향상된 성능, 효율성, 확장성을 통해 기업들은 더욱 강력하고 지능적인 AI 솔루션을 구축하고 활용할 수 있게 될 것입니다. 구글은 아이언우드를 통해 AI 기술의 미래를 선도해 나갈 것입니다.