엔비디아 독주에 균열? NATO 지원받는 프랙타일, 차세대 AI 하드웨어로 도전장

인공지능(AI) 시대, 엔비디아가 막강한 GPU 성능과 CUDA 소프트웨어 생태계를 기반으로 AI 하드웨어 시장을 장악하고 있습니다. 하지만 높은 성능만큼이나 전력 소비가 크고, 메모리 병목 현상이라는 약점을 가지고 있어, 아마존, 구글, 마이크로소프트, 메타 등 하이퍼스케일 기업들은 엔비디아 의존도를 줄이고 비용을 절감하기 위해 자체 AI 칩 개발에 뛰어들고 있습니다. 이와 동시에, 효율성과 가격 경쟁력을 무기로 엔비디아에 도전하는 AI 하드웨어 스타트업들이 속속 등장하고 있습니다.

프랙타일, NATO의 지원을 받으며 AI 하드웨어 혁신을 꿈꾸다

영국 스타트업 프랙타일(Fractile)은 기존 시스템보다 100배 빠른 속도와 1/10 수준의 비용으로 대규모 언어 모델(LLM)을 실행할 수 있는 혁신적인 컴퓨팅 방식을 개발했다고 주장합니다. NATO와 인텔의 전 CEO 팻 겔싱어 등 쟁쟁한 투자자들의 지원을 받고 있으며, AI 하드웨어 시장에 새로운 바람을 일으킬 잠재력을 보여주고 있습니다.

메모리 병목 현상 해결과 전력 효율성 극대화

프랙타일은 "가장 큰 트랜스포머 네트워크의 가장 빠른 추론을 가로막는 모든 병목 현상을 제거하는 하드웨어를 구축하고 있다"고 밝혔습니다. 이를 통해 인간의 지능을 능가하는 모델의 즉각적인 추론이 가능해져 업무 방식에 혁신적인 변화를 가져올 것으로 기대하고 있습니다. 프랙타일은 특히 메모리 내 연산(In-Memory Computing) 방식을 통해 엔비디아 GPU의 가장 큰 약점인 메모리 병목 현상을 해결하고, 전력 소비를 획기적으로 줄이는 데 집중하고 있습니다.

겔싱어, "AI 시대, 더 빠르고 저렴하며 전력 효율적인 추론 필요"

팻 겔싱어는 링크드인 게시글에서 "최첨단 AI 모델의 추론은 하드웨어에 의해 병목 현상이 발생한다"며 "AI에 대한 우리의 열망을 달성하려면 훨씬 더 빠르고 저렴하며 훨씬 더 낮은 전력의 추론이 필요하다"고 강조했습니다. 그는 프랙타일에 투자한 이유에 대해 "그들의 메모리 내 연산 방식은 추론 확장이라는 두 가지 병목 현상을 동시에 해결하고, 오늘날 GPU를 억제하는 메모리 병목 현상을 극복하는 동시에 데이터 센터 용량을 확장하는 데 있어 향후 10년간 가장 큰 물리적 제약인 전력 소비를 줄인다"고 설명했습니다.

아직은 넘어야 할 산이 많다

물론, 프랙타일의 주장이 현실화되기 위해서는 더 많은 검증이 필요합니다. 현재까지 공개된 성능 수치는 엔비디아의 최신 H200 칩이 아닌, H100 GPU 클러스터와 비교한 결과이며, 8비트 양자화 및 TensorRT-LLM을 사용한 Llama 2 70B 모델을 기준으로 측정되었습니다. 그럼에도 불구하고, 프랙타일의 기술은 AI 하드웨어 시장에 새로운 가능성을 제시하고 있으며, 엔비디아의 독주 체제를 견제할 수 있는 잠재력을 보여주고 있습니다.

맺음말

프랙타일과 같은 혁신적인 AI 하드웨어 스타트업의 등장은 엔비디아에게 강력한 경쟁자가 될 수 있습니다. 더욱 빠르고, 저렴하며, 전력 효율적인 AI 하드웨어에 대한 수요가 증가함에 따라, 프랙타일을 비롯한 다양한 기업들이 엔비디아의 아성에 도전하며 AI 하드웨어 시장의 경쟁은 더욱 치열해질 것으로 예상됩니다. 앞으로 이들의 기술 발전과 시장 경쟁을 주목해야 할 것입니다.