Tóm tắt nhanh
- Wccftech đưa tin NVIDIA đang phát triển NVHBM, một giải pháp bộ nhớ HBM tùy biến cho các GPU trong tương lai.
- Giải pháp này được mô tả là thiết kế hợp tác giữa NVIDIA và Annapurna Labs, bộ phận của Amazon.
- Theo thông tin được bài báo dẫn lại, NVIDIA tuyên bố NVHBM có băng thông cao hơn 30% và tiêu thụ ít điện hơn 15% so với HBM4E.
Vì sao bộ nhớ trở thành nút thắt của AI
Wccftech cho biết NVIDIA đang hướng NVHBM tới những hệ thống xử lý AI thế hệ mới, trong bối cảnh quy mô mô hình ngày càng lớn. Khi mô hình tiến tới hàng nghìn tỷ tham số, năng lực tính toán của GPU không phải yếu tố duy nhất quyết định tốc độ. Bộ xử lý còn phải nhận và trao đổi một lượng dữ liệu rất lớn với bộ nhớ trong thời gian ngắn. Nếu băng thông bộ nhớ không theo kịp, các đơn vị tính toán có thể phải chờ dữ liệu, khiến hiệu suất tổng thể của hệ thống bị giới hạn.
Đó là lý do các giải pháp HBM, tức bộ nhớ băng thông cao, giữ vai trò quan trọng trong hạ tầng AI. Khác với bộ nhớ của máy tính cá nhân, HBM thường được triển khai trong các bộ tăng tốc và hệ thống máy chủ chuyên dụng, nơi chi phí, nhiệt lượng, điện năng và khả năng mở rộng đều được tính toán ở quy mô trung tâm dữ liệu.
NVHBM có điểm gì đáng chú ý
Theo bài viết của Wccftech, NVHBM là giải pháp HBM tùy biến do NVIDIA phát triển cùng Annapurna Labs của Amazon. Bài báo mô tả công nghệ này như một phần mở rộng của NVLink Fusion, hướng tới việc cải thiện năng lực DRAM cho các XPU. Cách tiếp cận này cho thấy NVIDIA đang quan tâm không chỉ đến lõi xử lý mà còn đến toàn bộ đường đi của dữ liệu giữa bộ nhớ và bộ tăng tốc.
Con số được nhắc đến nhiều nhất là băng thông cao hơn 30% so với HBM4E, trong khi mức tiêu thụ điện được cho là thấp hơn 15%. Nếu các tuyên bố này được duy trì trong triển khai thực tế, hệ thống có thể đưa dữ liệu tới bộ xử lý nhanh hơn mà không tăng mức tiêu thụ năng lượng tương ứng. Với các trung tâm dữ liệu chạy liên tục, sự khác biệt về điện năng có thể ảnh hưởng đến chi phí vận hành, mật độ máy chủ và yêu cầu làm mát.
Tuy nhiên, các tỷ lệ trên mới là thông tin được bài báo dẫn lại từ NVIDIA, không nên hiểu là kết quả độc lập đã được xác nhận trong mọi điều kiện. Hiệu quả thực tế còn phụ thuộc vào thiết kế GPU, dung lượng bộ nhớ, phần mềm, kiểu mô hình và cách hệ thống được kết nối. Bài viết hiện cũng chưa cung cấp đầy đủ thông tin về thời điểm thương mại hóa, sản phẩm cụ thể hay cấu hình triển khai của NVHBM.
Ai sẽ hưởng lợi nếu công nghệ được triển khai
NVHBM không phải linh kiện mà người dùng phổ thông có thể mua riêng để nâng cấp máy tính. Đối tượng hướng tới là các nhà cung cấp hạ tầng AI, đơn vị vận hành trung tâm dữ liệu và những tổ chức xây dựng mô hình lớn. Nhóm này cần tăng tốc xử lý nhưng đồng thời phải kiểm soát điện năng, nhiệt độ và chi phí mở rộng hệ thống.
Agentic AI và physical AI cũng được Wccftech nêu là những nhóm khối lượng công việc mà NVHBM hướng tới. Đây là các bài toán có thể phải xử lý nhiều lượt suy luận, dữ liệu cảm biến hoặc trạng thái mô hình trong thời gian ngắn. Với người dùng Việt Nam, tác động nếu có sẽ đến gián tiếp thông qua các dịch vụ AI nhanh hơn, khả năng mở rộng tốt hơn hoặc chi phí hạ tầng được kiểm soát tốt hơn, thay vì xuất hiện dưới dạng một tính năng nhìn thấy ngay trên laptop.
Tổng kết
Wccftech đưa tin NVIDIA đang phát triển NVHBM cùng Annapurna Labs của Amazon để giải quyết bài toán băng thông và hiệu quả năng lượng cho các GPU, XPU tương lai. Theo các con số được dẫn lại, giải pháp này có thể đạt băng thông cao hơn 30% và tiêu thụ ít điện hơn 15% so với HBM4E. Đây là hướng tối ưu ở tầng hạ tầng, phù hợp với xu hướng mô hình AI ngày càng lớn và yêu cầu xử lý dữ liệu ngày càng nặng.
Dù vậy, NVHBM hiện vẫn nên được xem là thông tin về một công nghệ đang phát triển. Các chi tiết quan trọng như sản phẩm áp dụng, dung lượng, thời điểm phát hành và hiệu năng trong điều kiện thực tế cần được theo dõi qua những công bố tiếp theo. Cho đến khi có dữ liệu đầy đủ hơn, chưa thể kết luận công nghệ này sẽ thay đổi thị trường GPU AI ở mức nào.
THEO DÕI CÁC KÊNH CỦA TEKCAFE
- Website: TekCafe.vn
- Fanpage Facebook: facebook.com/tekcafeteam
- YouTube: youtube.com/c/TekCafeTeam
BÀI VIẾT MỚI NHẤT
- NVIDIA phát triển NVHBM để tăng băng thông và giảm điện năng cho GPU AI
- Gemini Notebook có thể tương tác với sách đã mua trên Google Play Books
- Cách xử lý khi Siri gặp trục trặc trên CarPlay
- Sự kiện iPhone tháng 9 của Apple: Cách xem và những thông tin đang được nhắc tới
- Cách kiểm tra ưu đãi giáo dục khi mua Mac hoặc iPad từ Apple
