NVIDIA báo hiệu đẩy mạnh suy luận AI, xác nhận chi tiết chip Groq

NVIDIA xác nhận Groq, chuẩn bị ra mắt vào nửa cuối năm với Samsung

CEO NVIDIA Jensen Huang đã xác nhận vào ngày 17 tháng 3 rằng nhà đổi mới chip AI Groq đang sử dụng Samsung làm đối tác sản xuất. Phát biểu công khai, Huang cho biết các hệ thống được xây dựng trên chip chuyên dụng của Groq dự kiến sẽ ra mắt vào nửa cuối năm nay. Thông báo này đóng vai trò là một sự xác thực quan trọng đối với Groq, xác nhận khả năng sản xuất và lộ trình sản phẩm của họ, đồng thời định vị họ là một đối thủ đáng tin cậy trong bối cảnh bán dẫn cạnh tranh.

Sự thừa nhận từ nhà lãnh đạo thị trường này làm tăng cường sự tập trung vào lĩnh vực chip AI, nơi các kiến trúc mới đang thách thức sự thống trị của GPU truyền thống. Đối với các nhà đầu tư, tuyên bố của Huang xác nhận rằng Groq không chỉ là một đối thủ lý thuyết mà là một công ty có lộ trình sản phẩm hữu hình và chuỗi cung ứng sản xuất hàng đầu, củng cố các báo cáo rằng Groq đã thúc giục Samsung tăng sản lượng wafer để đáp ứng nhu cầu cao.

Chiến lược mới nhắm vào Suy luận, chiếm 40% doanh thu năm 2024

Tuyên bố của NVIDIA là một phần của chiến lược rộng lớn hơn nhằm bảo vệ và mở rộng vị thế của mình trong thị trường suy luận AI, một phân khúc dự kiến chiếm khoảng 40% doanh thu trung tâm dữ liệu của họ vào năm 2024. Trong khi GPU của NVIDIA là tiêu chuẩn công nghiệp cho quá trình đào tạo mô hình AI đòi hỏi nhiều tính toán, thì thị trường suy luận — nơi các mô hình đã được đào tạo được triển khai để sử dụng trong thế giới thực — lại phân mảnh và cạnh tranh hơn. Các công ty như AMD, Google với TPU của họ và các nhà thiết kế silicon tùy chỉnh khác đều đang tranh giành thị phần với các giải pháp ưu tiên hiệu suất chi phí thấp, tốc độ cao.

Groq đã đặc biệt thiết kế Đơn vị xử lý ngôn ngữ (LPU) của mình cho mục đích này. Không giống như GPU sử dụng Bộ nhớ băng thông cao (HBM) nằm liền kề với chip, LPU của Groq sử dụng SRAM được tích hợp trực tiếp vào chip. Thiết kế này cho phép xử lý các tác vụ tuần tự nhanh hơn, hiệu quả hơn về năng lượng, đây là đặc điểm của các khối lượng công việc suy luận AI như tạo văn bản cho chatbot. Bằng cách thừa nhận sự tiến bộ của Groq, NVIDIA đang báo hiệu nhận thức của mình về những lợi thế kiến trúc này và chuẩn bị cạnh tranh mạnh mẽ hơn trong phân khúc thị trường quan trọng này.

Quan hệ đối tác Groq có thể phản ánh thành công 11 tỷ USD của Mellanox

Các nhà phân tích thị trường cho rằng sự quan tâm của NVIDIA đối với Groq vượt ra ngoài sự thừa nhận đơn thuần, có khả năng phản ánh chiến lược đằng sau việc mua lại Mellanox thành công của họ. Bản thân Huang đã gợi ý rằng công nghệ của Groq có thể được tích hợp như một bộ tăng tốc trong kiến trúc của NVIDIA. Kế hoạch này đã được chứng minh là cực kỳ thành công với Mellanox, vốn đã thay đổi khả năng của NVIDIA trong mạng trung tâm dữ liệu và hiện tạo ra khoảng 11 tỷ USD doanh thu hàng quý cho bộ phận đó.

So sánh này nhấn mạnh tác động tài chính tiềm năng của sự hợp tác sâu rộng hơn với Groq. Các báo cáo đã lưu hành về một thỏa thuận cấp phép lớn tiềm năng và việc mua lại nhân tài sẽ cung cấp cho NVIDIA quyền truy cập vào sở hữu trí tuệ cốt lõi và tài năng kỹ thuật của Groq, bao gồm cả người sáng lập Jonathan Ross. Động thái như vậy sẽ cho phép NVIDIA cung cấp một giải pháp chuyên biệt, tốt nhất trong phân khúc cho suy luận, bổ sung cho sự thống trị của GPU trong đào tạo và tạo ra một giải pháp toàn diện, một cửa cho cơ sở hạ tầng điện toán AI.