핵심 요약:
구글과 메타 출신의 3인조 베테랑이 가장 강력한 칩조차 유휴 상태로 만드는 AI 컴퓨팅의 핵심 병목 현상을 해결하기 위해 1억 달러의 자금을 확보했습니다. 스타트업 마제스틱 랩스 AI(Majestic Labs AI)는 데이터 센터를 괴롭히고 엔비디아(Nvidia)와 같은 칩 제조사의 고성능 하드웨어에서 수십억 달러의 손실을 초래하는 '메모리 벽(memory wall)'을 허물기 위한 새로운 서버 아키텍처를 개발 중입니다.
이 회사의 미션은 현대 AI 모델의 엄청난 데이터를 처리할 수 있도록 서버 내 데이터 흐름을 재설계하는 것입니다. 설립자들은 알파벳 산하 구글과 메타 플랫폼에서 맞춤형 실리콘을 개발하며 직접 목격한 문제를 언급하며 "거대 AI 모델이 서버를 압도하고 고성능 칩을 놀리고 있다"고 밝혔습니다.
마제스틱 랩스 AI는 구글의 데이터 센터 칩 분야에서 근무하고 이후 메타 리얼리티 랩스(Meta Reality Labs)에서 맞춤형 실리콘 팀을 구축했던 오퍼 샤참, 마스미 레인더스, 샤 라비가 공동 설립했습니다. 11월에 발표된 이들의 1억 달러 규모 펀딩 라운드에는 Bow Wave Capital, Lux Capital, Grove 등이 참여했습니다.
이번 투자는 AI 산업 전체의 중대한 과제를 부각합니다. AI 모델의 크기와 복잡성이 커짐에 따라 운영 비용은 전력 소비뿐만 아니라 낭비되는 잠재력 측면에서도 급증하고 있습니다. 메모리 병목 현상을 해결하면 AI 컴퓨팅 효율성을 크게 개선하여 칩 설계자와 클라우드 서비스 제공업체 모두의 경쟁 지형을 바꿀 수 있습니다.
'메모리 벽'은 컴퓨팅 분야의 고질적인 문제이지만 오늘날 AI의 규모로 인해 더욱 악화되었습니다. 문제는 엔비디아의 H100 GPU와 같은 칩의 처리 능력이 아니라 데이터가 공급되는 속도입니다. 이는 프로세서가 데이터를 기다리며 사이클과 에너지를 낭비하는 교통 체증을 유발합니다. 이 문제는 물리학자와 수학자들이 시스템에 변수가 추가됨에 따라 계산 비용이 기하급수적으로 증가하는 현상을 설명할 때 사용하는 '차원의 저주(curse of dimensionality)'가 실체화된 것입니다.
AI 인프라에 수십억 달러를 지출하는 기업들에게 이러한 비효율성은 수익성에 직접적인 타격을 줍니다. 강력하지만 제대로 활용되지 않는 프로세서로 가득 찬 서버는 수익률이 떨어지는 막대한 자본 지출을 의미합니다. 플랫아이언 연구소(Flatiron Institute)의 연구에 따르면, 이러한 차원의 저주를 극복하는 것은 특수 하드웨어를 포함한 새로운 데이터 중심 컴퓨팅 방식의 주요 동인 중 하나입니다.
텐서 프로세싱 유닛(TPU)을 보유한 구글이나 트레이니엄(Trainium) 칩을 보유한 아마존과 같은 경쟁사들이 더 나은 프로세서 설계에 집중해 온 반면, 마제스틱 랩스는 서버 설계 수준에서 문제를 해결하고 있습니다. 이 회사의 접근 방식은 상세히 공개되지는 않았으나, 칩 사이의 병목 현상을 제거하기 위해 서버 랙 내에서 메모리와 프로세싱이 통합되는 방식을 총체적으로 재설계할 것임을 시사합니다.
이러한 전략은 엔비디아나 AMD와 같은 기성 칩 제조사뿐만 아니라 설립자들의 전 직장인 구글과 메타의 내부 하드웨어 개발 노력과도 경쟁하게 만듭니다. 이들 거대 테크 기업들은 AI 워크로드를 최적화하고 타사 벤더에 대한 의존도를 낮추기 위해 자체 맞춤형 실리콘 제작에 막대한 투자를 해왔습니다. 마제스틱 랩스의 성공 여부는 더 효율적일 뿐만 아니라 업계 전반에서 사용되는 다양한 하드웨어 및 소프트웨어와 광범위하게 호환되는 솔루션을 제공할 수 있는지에 달려 있습니다.
이 기사는 정보 제공 목적으로만 작성되었으며 투자 조언을 구성하지 않습니다.
