M3 울트라, 거대 AI 모델을 품다: 맥 스튜디오, AI 워크스테이션의 새로운 가능성을 열다
애플의 M3 울트라 칩을 탑재한 맥 스튜디오가 6710억 개의 파라미터를 가진 거대 AI 모델 DeepSeek R1을 메모리 내에서 완벽하게 실행하며 놀라운 성능을 입증했습니다. 기존 AI 워크로드가 고가의 전력 소비가 큰 GPU 클러스터에 의존했던 것과는 대조적인 결과입니다. 이는 맥 스튜디오가 AI 작업에 있어서도 강력한 경쟁력을 갖추고 있음을 시사합니다.
M3 울트라, DeepSeek R1을 메모리에 담다
유튜브 리뷰어 Dave2D의 테스트에 따르면, 4비트 양자화 버전을 사용했음에도 불구하고 모델은 전체 파라미터 수를 유지하며 원활하게 작동했습니다. 일반적으로 DeepSeek R1 모델은 404GB의 저장 공간과 GPU VRAM에서 발견되는 고대역폭 메모리를 요구하며, 여러 개의 고성능 그래픽 카드를 통해 처리를 분산하는 멀티 GPU 설정에서 실행됩니다. 하지만 M3 울트라의 통합 메모리 시스템은 외부 GPU에 의존하는 대신, 512GB의 통합 메모리를 사용하여 AI 모델을 저장하고 처리합니다. 이는 다른 개인용 컴퓨터에서는 불가능한 방식입니다.
VRAM 제한 극복, 통합 메모리의 힘
MacOS는 기본적으로 VRAM 제한을 두고 있지만, Dave Lee는 터미널을 통해 이를 수동으로 늘려 AI 처리를 위해 최대 448GB까지 할당했습니다. 이는 메모리 병목 현상을 제거하고 여러 구성 요소의 필요성을 줄여 단일 시스템에서 AI 성능을 간소화합니다. 이러한 방식으로 M3 울트라는 통합 메모리의 장점을 극대화하여 AI 작업에 필요한 자원을 효율적으로 활용합니다.
200W 미만의 전력 소비, 효율적인 AI 워크스테이션
이번 테스트에서 가장 놀라운 점 중 하나는 M3 울트라가 DeepSeek R1을 실행하면서 200W 미만의 전력만 소비했다는 것입니다. 이처럼 까다로운 AI 모델을 멀티 GPU 설정 없이 실행할 수 있다는 것은, 고성능 Nvidia 및 AMD 그래픽 카드에 의존하는 업계 표준에 도전하는 것입니다. 일반적으로 최고의 워크스테이션과 서버 팜은 막대한 전력을 소비하는 GPU 클러스터를 사용합니다.
전력 효율성의 비결, 통합 메모리 아키텍처
애플의 통합 메모리 아키텍처는 CPU와 GPU 워크로드 전반에 걸쳐 M3 울트라의 메모리 풀을 공유함으로써 상당한 전력 절감을 가능하게 합니다. 기존 PC 설정에서는 VRAM이 시스템 메모리와 분리되어 있는 것과는 대조적입니다. M3 울트라는 대역폭을 최대화하면서 에너지 사용을 최소화하여 효율적인 AI 작업 환경을 제공합니다.
맥 스튜디오, 최고의 LLM 워크스테이션을 향하여
M3 울트라 칩과 함께 출시된 애플의 맥 스튜디오는 최대 32코어 CPU와 80코어 GPU를 탑재하여 최고의 LLM 워크스테이션이자 최고의 비디오 편집 컴퓨터 중 하나로 자리매김하고 있습니다. 이는 맥 스튜디오가 AI 연구, 개발, 그리고 창작 작업 모두에 적합한 강력한 도구임을 의미합니다.
결론
M3 울트라를 탑재한 맥 스튜디오는 통합 메모리 아키텍처를 통해 거대 AI 모델을 효율적으로 실행하며 AI 워크스테이션의 새로운 가능성을 제시했습니다. 낮은 전력 소비와 높은 성능은 AI 연구자와 개발자에게 매력적인 선택지가 될 것입니다. 앞으로 맥 스튜디오가 AI 분야에서 어떤 활약을 보여줄지 기대됩니다.
