Tóm tắt nhanh
- Maia 300 là accelerator thế hệ thứ ba của Microsoft, thiết kế cho suy luận AI quy mô lớn. Hãng nói nút thắt hiện nay là di chuyển dữ liệu, không phải thiếu phép tính thô.
- Mỗi chip có tám stack HBM4, tổng 288 GB và băng thông 18 TB/s. Theo Microsoft, băng thông bộ nhớ cao gấp 2,5 lần Maia 200.
- Con số 40% tokens mỗi megawatt so với “các hệ GPU hàng đầu” là tuyên bố của Microsoft. Hãng không nêu GPU đối chứng, và hiện chưa có đơn vị độc lập nào thử nghiệm.
- Sản xuất dự kiến bắt đầu năm 2027. Một rack 96 chip ở mức 167 kW, nên điện và làm mát sẽ quyết định tốc độ triển khai nhiều hơn thông số của riêng từng chip.
Microsoft muốn Maia trở thành hạ tầng suy luận chính cho các sản phẩm và dịch vụ của mình, từ Copilot đến nền tảng Foundry. Maia 300 là bước tiếp theo của chương trình này. Điểm đáng chú ý không nằm ở việc thay thế GPU, mà ở cách Microsoft gom bộ nhớ, mạng và điện năng thành một hệ thống để giảm chi phí chạy AI.
Maia 300 đổi cách bố trí bộ nhớ để phục vụ suy luận dài
Trên Maia 200, bộ nhớ trong SoC được tổ chức đồng nhất (UMA). Maia 300 chuyển sang tổ chức không đồng nhất theo vùng (NUMA) giữa các chiplet, để phần mềm đặt được dữ liệu gần khối tính toán sẽ dùng. Với suy luận dài, thay đổi này quan trọng vì trọng số và KV cache phải được đưa qua bộ nhớ liên tục, và mỗi lần chuyển dữ liệu đều tốn điện.
Microsoft nêu tám stack HBM4 với 288 GB và 18 TB/s mỗi accelerator. Compute chiplet dùng tiến trình TSMC N2P, còn bộ điều khiển bộ nhớ và I/O nằm trên die riêng. Hãng cho rằng cách tách này giúp mỗi phần dùng công nghệ hợp với vai trò và chi phí của nó, thay vì ép cả khối lên cùng một quy trình đắt đỏ.
| Chỉ số (Maia 300 so với Maia 200) | Tuyên bố của Microsoft |
|---|---|
| Băng thông bộ nhớ (cao hơn tốt hơn) | 2,5 lần |
| Dung lượng HBM (cao hơn tốt hơn) | Cao hơn 33% |
| Băng thông HBM trên mỗi watt (cao hơn tốt hơn) | Khoảng 2 lần |
| Số phép tính cấp chip (cao hơn tốt hơn) | Cao hơn 36% |
| Băng thông scale-up (cao hơn tốt hơn) | Cao hơn 14% |
| Hiệu năng trên mỗi watt cấp rack (cao hơn tốt hơn) | Tối đa 2,5 lần |
| Thông lượng token cấp rack, cấu hình 96 accelerator (cao hơn tốt hơn) | Tối đa 7 lần |
Số liệu: Microsoft Azure Blog và Official Microsoft Blog, 12/10/2026. Đây đều là số do hãng công bố.
Cần đọc đúng hai con số trong bảng. 2,5 lần là băng thông bộ nhớ của từng chip. 7 lần là thông lượng token của cả rack 96 chip so với Maia 200, không phải tốc độ từng chip. Gộp hai con số này lại sẽ dễ tưởng rằng mỗi chip Maia 300 nhanh hơn Maia 200 bảy lần, và đó không phải điều Microsoft nói.
Microsoft cũng nêu các định dạng độ chính xác thấp như MXFP4 và lưu trữ dưới 3 bit. Các định dạng này giảm dung lượng bộ nhớ và lượng dữ liệu cần chuyển, nhưng chỉ phát huy khi kernel phần mềm được tối ưu đúng cách. Dung lượng bộ nhớ lớn không tự động biến thành tốc độ.
Con số 40% tokens mỗi megawatt đang thiếu gì
Microsoft kỳ vọng Maia 300 cho ra nhiều hơn 40% tokens trên mỗi megawatt so với hệ thống dựa trên GPU hàng đầu. Đây là con số được nhắc đến nhiều nhất, và cũng là con số khó kiểm chứng nhất. Hãng không nói GPU nào, mô hình nào, độ dài ngữ cảnh ra sao hay phần mềm nào được dùng để so sánh.
Tokens trên mỗi megawatt là chỉ số cấp hệ thống: nó đo sản lượng suy luận trên điện năng tiêu thụ. Nó không có nghĩa là mỗi chip nhanh hơn 40%, và cũng không cho biết độ trễ hay chất lượng đầu ra. Một hệ thống có thể tiết kiệm điện mà vẫn chậm trong hội thoại thời gian thực. Microsoft nói Maia 300 nhắm tới cả trò chuyện nhạy cảm với độ trễ lẫn tác vụ agent nhiều bước, nhưng chưa công bố số đo riêng cho từng loại.
Nhà phân tích Patrick Moorhead nhận định rằng chưa ai ngoài Microsoft thử nghiệm các chip này. Vì vậy, các con số hiệu năng hiện nên được đọc như cam kết của hãng, còn bài kiểm tra độc lập vẫn chưa có.
Nếu đặt rack Maia 300 cạnh rack GB300 của Nvidia, khác biệt nằm ở mật độ và điện năng hơn là ở từng con chip. Reuters ghi rack Maia 300 gồm 96 chip ở khoảng 167 kW, còn GB300 là 72 GPU ở khoảng 142 kW.
| Chỉ số (theo số công bố) | Rack Maia 300 | Rack Nvidia GB300 |
|---|---|---|
| Số accelerator/GPU mỗi rack | 96 | 72 |
| Công suất rack | 167 kW | 142 kW |
Số liệu: Microsoft (Maia 300) và Reuters (GB300), 12/10/2026. Đây là công suất của cả rack, không phải của riêng từng chip, nên không nói lên hiệu năng mỗi chip.
Điều này cho thấy vì sao Microsoft nhấn mạnh làm mát và nguồn điện. Theo bài kỹ thuật của Microsoft, làm mát bằng chất lỏng lấy đi hơn 80% tải nhiệt của accelerator, bộ điều áp và chip chuyển mạch. Rack cũng có 27,6 TB HBM và băng thông tổng hợp 1,7 PB/s. Mật độ cao hơn chỉ có giá trị khi hạ tầng điện và làm mát theo kịp.
Maia là hạ tầng suy luận, không phải lời chia tay với GPU
Đọc kỹ các thông cáo sẽ thấy Microsoft không định bỏ Nvidia. Maia sẽ là kiến trúc chính để chạy mô hình, nhưng huấn luyện vẫn có Nvidia và AMD tham gia. Microsoft cũng không cho thuê chip Maia theo giờ như TPU của Google hay Trainium của Amazon. Lợi ích chính vì thế nằm bên trong: giảm phụ thuộc vào một nhà cung cấp và giảm chi phí cho các dịch vụ đang chạy hằng ngày.
Hãng có thể triển khai hơn một triệu chip trong năm sau cho dịch vụ AI nội bộ, còn giám đốc Alistair Speirs không đưa ra mốc thời gian cụ thể, chỉ nói hãng muốn giữ một chút lựa chọn.
Điều đáng theo dõi là tỷ lệ sử dụng. Một rack 167 kW chỉ tạo ra giá trị khi đủ tải để lấp đầy chip. Microsoft cũng mô tả việc đặt tải linh hoạt giữa các rack và dùng chip dự phòng trong superpod 12.288 accelerator. Những cơ chế này cho thấy hãng đang nhắm vào chính phần tài nguyên không được dùng hết.
Với người dùng Việt Nam, Maia 300 chưa liên quan trực tiếp. Đây là chip đặt trong trung tâm dữ liệu của Microsoft, chưa có kênh bán lẻ công khai và chưa có giá tại Việt Nam để so sánh. Câu hỏi đáng theo dõi là sau năm 2027, lợi ích về bộ nhớ và điện năng có chuyển thành dịch vụ nhanh hơn hoặc rẻ hơn cho người dùng hay không. Chỉ khi hệ thống vận hành và có số đo minh bạch, câu hỏi này mới có câu trả lời.
Nguồn tham khảo: Microsoft Azure Blog; The Official Microsoft Blog; CNBC; Reuters
