Tóm tắt nhanh
- GIGABYTE vừa công bố máy trạm để bàn AI TOP 100 B850, hướng đến các nhà phát triển và doanh nghiệp có nhu cầu chạy mô hình ngôn ngữ lớn ngay tại văn phòng thay vì phụ thuộc hoàn toàn vào dịch vụ đám mây.
- Hệ thống vận hành trên bộ xử lý AMD Ryzen 9 9950X 16 nhân/32 luồng, đi kèm 128 GB bộ nhớ RAM DDR5, ổ cứng SSD PCIe Gen4 dung lượng 2 TB và bộ nguồn 1600W đạt chuẩn 80 PLUS Platinum.
- Người dùng có hai tùy chọn cấu hình đồ họa riêng biệt: một card NVIDIA GeForce RTX 5090 phục vụ hệ sinh thái CUDA hoặc hai card AMD Radeon AI PRO R9700 nâng tổng VRAM lên 64 GB để mở rộng dung lượng bộ nhớ.
- Máy hỗ trợ kết nối mạng tốc độ cao với cổng mạng LAN kép 10GbE và Wi-Fi 7, hiện chưa có mức giá công bố chính thức cũng như thông tin phân phối tại thị trường Việt Nam.
Phần cứng nền tảng và bài toán giải nhiệt cho tải AI liên tục
Các tác vụ huấn luyện tinh chỉnh (fine-tuning) hay xử lý suy luận (inference) mô hình ngôn ngữ lớn luôn đẩy phần cứng vào trạng thái tải nặng kéo dài nhiều giờ liền. Để duy trì sự ổn định, GIGABYTE AI TOP 100 B850 sử dụng nền tảng bo mạch chủ chipset B850 kết hợp cùng vi xử lý AMD Ryzen 9 9950X (16 nhân, 32 luồng). Cấu hình xuất xưởng được trang bị sẵn 128 GB RAM DDR5 và ổ lưu trữ SSD PCIe Gen4 dung lượng 2 TB, đáp ứng tốt không gian nạp dữ liệu cục bộ trước khi chuyển vào bộ nhớ đồ họa.
Hệ thống sử dụng bộ tản nhiệt chất lỏng chuyên dụng cho CPU kết hợp luồng gió đối lưu xuyên suốt qua mặt lưới kim loại phía trước thùng máy. Khả năng cung cấp năng lượng được đảm bảo bởi bộ nguồn công suất 1600W đạt chuẩn 80 PLUS Platinum, chuẩn bị sẵn dư địa điện năng cho các cấu hình ngốn điện cùng hai khe cắm mở rộng chuẩn PCIe 5.0.
Hai hướng cấu hình GPU: Chọn tốc độ CUDA hay mở rộng dung lượng VRAM?
Điểm đáng chú ý nhất trên AI TOP 100 B850 là sự phân hóa rõ rệt giữa hai tùy chọn xử lý đồ họa, phục vụ hai bài toán ứng dụng khác nhau của giới kỹ sư dữ liệu:
- Tùy chọn NVIDIA GeForce RTX 5090: Sở hữu 32 GB bộ nhớ GDDR7, cấu hình này tận dụng tối đa hệ sinh thái CUDA phổ biến và các thư viện tăng tốc sẵn có. Theo số liệu thử nghiệm nội bộ từ nhà sản xuất, cấu hình đạt tốc độ suy luận khoảng 64,9 đến 65 token/giây khi chạy mô hình Qwen3-32B ở định dạng lượng tử hóa FP4. Đây là giải pháp phù hợp cho các mô hình kích thước vừa cần độ trễ phản hồi thấp và tính tương thích cao.
- Tùy chọn hai card AMD Radeon AI PRO R9700 chạy song song: Cấu hình này gộp hai card đồ họa chuyên dụng để đạt tổng dung lượng bộ nhớ VRAM lên tới 64 GB. GIGABYTE công bố hệ thống có thể chạy suy luận mô hình lên tới 235 tỷ tham số (thử nghiệm nội bộ với Qwen3-235B-A22B FP4) và hỗ trợ tinh chỉnh mô hình tối đa 110 tỷ tham số. Điểm mấu chốt ở đây là giải quyết bài toán tràn bộ nhớ khi chạy mô hình tham số lớn mà không cần đầu tư các cụm máy chủ đắt đỏ.
Cần lưu ý rằng các chỉ số về số lượng tham số hay tốc độ token nói trên đều dựa trên kịch bản lượng tử hóa thấp (FP4) trong phòng thử nghiệm của hãng. Khi áp dụng vào thực tế với độ chính xác cao hơn (như FP8, FP16) hoặc các kiến trúc mô hình khác, hiệu năng thực tế sẽ có sự chênh lệch tùy thuộc vào tối ưu hóa phần mềm và nền tảng điều khiển.
| Thông số kỹ thuật | Bản NVIDIA GeForce RTX 5090 | Bản 2x AMD Radeon AI PRO R9700 |
|---|---|---|
| Bộ xử lý (CPU) | AMD Ryzen 9 9950X (16 nhân / 32 luồng) | |
| Bộ nhớ RAM | 128 GB DDR5 | |
| Ổ cứng lưu trữ | SSD 2 TB PCIe Gen4 | |
| Tổng bộ nhớ VRAM | 32 GB GDDR7 | 64 GB (2 x 32 GB) |
| Mô hình suy luận tối đa (hãng công bố) | Mô hình 32 tỷ tham số (~65 token/s, FP4) | Mô hình 235 tỷ tham số (FP4) |
| Khả năng tinh chỉnh (fine-tuning) | Giới hạn trong phạm vi 32 GB VRAM | Lên đến 110 tỷ tham số |
| Nguồn & Kết nối mạng | Nguồn 1600W 80 PLUS Platinum | Mạng LAN kép 10GbE + Wi-Fi 7 | |
Khả năng chạy AI tại chỗ và bài toán chi phí doanh nghiệp cần tính
Việc triển khai mô hình AI trực tiếp trên máy trạm để bàn (on-premises) đem lại lợi thế rõ rệt về bảo mật dữ liệu nội bộ và loại bỏ độ trễ truyền tải qua mạng Internet. Bộ phần mềm AI TOP Utility đi kèm hỗ trợ giám sát tài nguyên, phân bổ bộ nhớ linh hoạt và thiết lập luồng xử lý dữ liệu ngay trong máy. Ngoài ra, kết nối mạng LAN kép 10GbE hỗ trợ chia sẻ tài nguyên tính toán nhanh chóng trong mạng nội bộ công ty.
Tuy vậy, bài toán đầu tư máy trạm để bàn không chỉ dừng ở chi phí mua máy. Với mức tiêu thụ điện năng từ bộ nguồn 1600W, lượng nhiệt tỏa ra liên tục trong phòng làm việc đòi hỏi hệ thống điều hòa hoạt động tốt. Doanh nghiệp cần tính toán kỹ giữa chi phí thuê máy chủ đám mây tính theo giờ và chi phí đầu tư thiết bị vật lý, tiền điện vận hành cũng như nhân sự quản trị hệ thống.
Ở thời điểm hiện tại, nhà sản xuất vẫn chưa công bố mức giá bán lẻ cụ thể cũng như thời điểm giao hàng cho AI TOP 100 B850. Tại các chuỗi bán lẻ máy tính lớn ở Việt Nam, mẫu máy trạm hoàn chỉnh này chưa xuất hiện trong danh mục phân phối. Các đơn vị hoặc cá nhân có nhu cầu xây dựng hệ thống tương đương có thể cân nhắc phương án tự dựng cấu hình rời hoặc liên hệ đặt hàng thông qua các kênh phân phối giải pháp doanh nghiệp chính thức khi sản phẩm mở bán.
Nguồn tham khảo: GIGABYTE Newsroom, Wccftech
