Sự chuyển dịch sang suy luận AI mở ra 70% thị trường tính toán cho GPU phi tập trung

Tóm tắt chính

Thị trường tính toán trí tuệ nhân tạo đang trải qua một sự thay đổi cơ bản. Nhu cầu đang chuyển từ quá trình huấn luyện mô hình tập trung, thâm dụng vốn sang chi phí suy luận mô hình liên tục, khối lượng lớn. Xu hướng này mở ra một thị trường đáng kể cho các mạng lưới GPU phi tập trung để cung cấp khả năng xử lý hiệu quả về chi phí.

1. Thị trường chuyển sang suy luận: Thị trường AI đã đạt đến “điểm bùng phát suy luận”, với dự kiến lên đến 70% nhu cầu GPU sẽ đến từ việc chạy mô hình vào năm 2026, biến tính toán từ một chi phí nghiên cứu thành một chi phí tiện ích.
2. Ngách của phi tập trung: Mặc dù không phù hợp cho việc huấn luyện quy mô lớn, các mạng phi tập trung lý tưởng cho các tác vụ suy luận có thể được chia nhỏ và chạy song song, ưu tiên hiệu quả chi phí và phân phối địa lý hơn là các kết nối có độ trễ thấp của các trung tâm dữ liệu.
3. Một lớp bổ sung: Các mạng phi tập trung đang nổi lên như một lớp bổ sung cho các nhà cung cấp siêu quy mô, chứ không phải là sự thay thế. Chúng tận dụng các GPU tiêu dùng ngày càng mạnh mẽ để xử lý các khối lượng công việc nhạy cảm về chi phí như xử lý dữ liệu, khám phá thuốc AI và tạo hình ảnh.