엔비디아, AI 병목 현상 해소 위해 5배 빠른 스토리지 기술 공개

주요 요점

엔비디아는 GTC 컨퍼런스에서 복잡하고 긴 컨텍스트 AI 에이전트의 성능을 가속화하도록 설계된 AI 스토리지의 새로운 표준인 BlueField-4 STX 참조 아키텍처를 발표했습니다. 이 아키텍처는 속도와 효율성 면에서 상당한 향상을 약속하며, AI 추론 속도를 늦추고 GPU 활용도를 감소시키는 데이터 접근 병목 현상을 제거하는 것을 목표로 합니다.

1. 5배 빠른 성능: 새로운 STX 아키텍처는 기존 스토리지 솔루션에 비해 AI 모델의 토큰 처리량을 최대 5배 향상시킵니다.
2. 4배 높은 효율성: 기존 CPU 기반 스토리지 아키텍처보다 최대 4배 높은 에너지 효율성을 제공하며, 데이터 수집 속도를 두 배로 높입니다.
3. 광범위한 산업 채택: 오라클 클라우드와 같은 주요 클라우드 제공업체와 Mistral AI와 같은 AI 연구소는 초기 채택자이며, Dell, HPE, NetApp을 포함한 스토리지 거대 기업들은 호환 인프라를 구축하고 있습니다.