엔비디아, AI 추론 시장 진출 신호탄…Groq 칩 세부 정보 확인

엔비디아, Groq 검증 및 삼성과의 하반기 출시 확인

엔비디아(NVIDIA) CEO 젠슨 황은 3월 17일 AI 칩 혁신 기업 Groq가 삼성전자를 제조 파트너로 이용하고 있음을 확인했습니다. 황 CEO는 Groq의 전문 칩을 기반으로 한 시스템이 하반기에 출시될 예정이라고 공개적으로 밝혔습니다. 이 발표는 Groq의 생산 능력과 제품 출시 일정을 확인하며, 경쟁이 치열한 반도체 시장에서 Groq를 신뢰할 수 있는 플레이어로 자리매김하게 하는 중요한 검증 역할을 합니다.

시장 선두 주자의 인정은 새로운 아키텍처가 전통적인 GPU의 지배력에 도전하는 AI 칩 부문에 대한 관심을 증폭시킵니다. 투자자들에게 황 CEO의 성명은 Groq가 단순한 이론적인 경쟁자가 아니라, 구체적인 제품 로드맵과 1등급 제조 공급망을 갖춘 회사임을 확인시켜 주며, Groq가 높은 수요를 충족하기 위해 삼성에 웨이퍼 생산량 증대를 요청했다는 보도를 뒷받침합니다.

새로운 전략, 2024년 매출의 40%를 차지하는 추론 시장 겨냥

엔비디아의 성명은 AI 추론 시장에서의 입지를 방어하고 확장하기 위한 광범위한 전략의 일환입니다. 이 부문은 2024년 데이터센터 매출의 약 40%를 차지할 것으로 예상됩니다. 엔비디아의 GPU가 AI 모델 훈련이라는 계산 집약적인 과정의 업계 표준인 반면, 훈련된 모델이 실제 사용을 위해 배포되는 추론 시장은 더욱 세분화되고 경쟁이 치열합니다. AMD, 구글의 TPU, 그리고 다른 맞춤형 실리콘 설계 회사들은 모두 저비용, 고속 성능을 우선시하는 솔루션으로 시장 점유율을 놓고 경쟁하고 있습니다.

Groq는 이러한 목적을 위해 자체 언어 처리 장치(LPU)를 특별히 설계했습니다. 칩 옆에 위치한 고대역폭 메모리(HBM)를 사용하는 GPU와 달리, Groq의 LPU는 칩에 직접 통합된 SRAM을 사용합니다. 이 설계는 챗봇을 위한 텍스트 생성과 같은 AI 추론 작업 부하의 특징인 순차적 작업을 더 빠르고 전력 효율적으로 처리할 수 있게 합니다. Groq의 발전을 인정함으로써 엔비디아는 이러한 아키텍처적 이점을 인식하고 있으며, 이 중요한 시장 부문에서 더욱 공격적으로 경쟁할 준비가 되어 있음을 시사합니다.

Groq 파트너십, 110억 달러 멜라녹스 성공 사례 반복 가능성

시장 분석가들은 엔비디아의 Groq에 대한 관심이 단순한 인정 그 이상이며, 성공적인 멜라녹스(Mellanox) 인수 뒤에 숨겨진 전략을 반영할 수 있다고 제안합니다. 황 CEO 자신도 Groq의 기술이 엔비디아 아키텍처 내에서 가속기로 통합될 수 있음을 시사했습니다. 이 전략은 멜라녹스 인수를 통해 엄청난 성공을 거두었으며, 멜라녹스는 엔비디아의 데이터센터 네트워킹 역량을 변화시켰고 현재 해당 부문에서 약 110억 달러의 분기별 수익을 창출하고 있습니다.

이러한 비교는 Groq와의 더 깊은 협력이 가져올 잠재적인 재정적 영향을 강조합니다. 잠재적인 주요 라이선스 계약 및 인재 인수를 통해 엔비디아가 설립자 조나단 로스를 포함한 Groq의 핵심 지적 재산과 엔지니어링 인재에 접근할 수 있게 될 것이라는 보도가 있었습니다. 이러한 움직임은 엔비디아가 추론을 위한 보다 전문적이고 동급 최고의 솔루션을 제공하여 훈련 분야에서의 GPU 지배력을 보완하고, AI 컴퓨팅 인프라를 위한 원스톱 솔루션을 창출할 수 있게 할 것입니다。