Tóm tắt nhanh
- Một người dùng Reddit mua dàn máy đào tiền số cũ với giá 3.000 rúp, khoảng 35 USD, và cho biết cả chín GPU P106-100 đều hoạt động.
- Tổng bộ nhớ là 54GB, nhưng nằm trên chín card riêng biệt, không phải một GPU có vùng nhớ liền mạch.
- Tốc độ hơn 30 token/giây với Qwen3.6-35B-A3B qua Ollama là kết quả người dùng báo cáo, chưa đủ để so ngang với máy AI khác.
- Đây là món đồ đáng thử nghiệm nếu mua được rất rẻ; người cần máy làm việc hằng ngày phải tính cả điện và rủi ro linh kiện cũ.
Điểm hấp dẫn nhất của dàn trâu cày này là nó mở được một cánh cửa vốn thường tốn nhiều tiền: có đủ bộ nhớ để thử mô hình AI ngay trên máy. Nhưng lấy tổng VRAM chia cho giá mua chỉ trả lời được câu hỏi bộ nhớ rẻ đến đâu. Nó chưa trả lời máy phản hồi nhanh thế nào, chạy ổn định bao lâu hay phải bỏ thêm bao nhiêu công sức để dùng được.
Tom’s Hardware ghi nhận giao dịch khoảng 35 USD cho dàn chín NVIDIA P106-100, mỗi card 6GB VRAM. Người mua tìm thấy máy trên Avito tại Nga; mức giá thương lượng giảm từ 5.000 xuống 3.000 rúp theo Wccftech. Đây là giá của một giao dịch đồ cũ cụ thể, không phải giá bán lẻ hay cấu hình mà người dùng tại Việt Nam có thể đặt mua với cùng số tiền.
54GB chia trên chín card khác một GPU có bộ nhớ lớn
Dung lượng lớn giúp chứa mô hình, còn đường dữ liệu quyết định việc sử dụng dung lượng ấy thuận lợi đến mức nào. Với dàn nhiều GPU, phần mềm cần phân bố công việc và bộ nhớ giữa các card. Cộng dung lượng vật lý không tự biến chúng thành một GPU duy nhất; nếu cách chia mô hình làm dữ liệu phải di chuyển nhiều giữa các thiết bị, tốc độ kết nối trở thành yếu tố phải tính đến.
Dàn máy được báo cáo chạy Qwen3.6-35B-A3B qua Ollama với tốc độ trên 30 token/giây. Đây là kết quả người mua công bố, được hai trang công nghệ dẫn lại, chứ không phải hai lần đo độc lập. Con số này nên được đọc như một kết quả thử nghiệm của người dùng, thay vì cam kết hiệu năng cho mọi dàn P106-100.
| Hạng mục | Dàn chín NVIDIA P106-100 trong giao dịch |
|---|---|
| Giá mua được báo cáo | 3.000 rúp, khoảng 35 USD |
| Số GPU | 9 |
| VRAM mỗi GPU | 6GB |
| Tổng VRAM vật lý | 54GB |
| Mô hình thử nghiệm | Qwen3.6-35B-A3B |
| Phần mềm | Ollama |
| Tốc độ sinh token được báo cáo (cao hơn tốt hơn) | Trên 30 token/giây |
| Tốc độ xử lý đầu vào và thời gian đến token đầu tiên | — |
| Công suất toàn hệ thống đo tại ổ điện | — |
Số liệu 9 GPU và kết quả trên 30 token/giây do Tom’s Hardware cùng Wccftech dẫn lại từ báo cáo của người mua. Các ô trống là những chỉ số chưa được nêu trong các bài này.
Điều quan trọng nhất trong bảng là khoảng cách giữa việc máy chạy được mô hình và việc máy đáp ứng tốt một công việc. Token là đơn vị văn bản mà mô hình xử lý, không tương đương cố định với một từ tiếng Việt. Tốc độ sinh token cũng khác thời gian đọc xong một tài liệu dài trước khi bắt đầu trả lời. Vì thế, một con số về tốc độ sinh văn bản không thể đại diện cho toàn bộ trải nghiệm hỏi đáp.
Cấu trúc mô hình cũng ảnh hưởng đến cách sử dụng phần cứng. Với Mixture-of-Experts, hay MoE, mỗi token chỉ sử dụng một phần các khối chuyên gia, thay vì huy động toàn bộ tham số như một mô hình đặc. Điều này giúp phân biệt lượng bộ nhớ cần để chứa trọng số với lượng tính toán trong từng bước sinh token. Tuy nhiên, không thể từ tên mô hình suy ra rằng kết nối giữa các GPU đã hết hạn chế; cách phần mềm phân bố trọng số và thực thi vẫn quan trọng.
Đặc biệt, không nên dùng kết quả này để khẳng định dàn máy chạy một mô hình đặc có quy mô tương tự cũng nhanh như vậy. Những thông tin như mức lượng tử hóa, độ dài ngữ cảnh và cách chia mô hình giữa các card cần được giữ đồng nhất khi so sánh. Lượng tử hóa giảm độ chính xác biểu diễn của trọng số nhằm tiết kiệm bộ nhớ; cùng một tên mô hình nhưng khác cách lượng tử hóa có thể tạo ra nhu cầu bộ nhớ và tốc độ khác nhau.
Phần cứng P106-100 cũng cần được nhìn đúng bản chất. Đây là dòng card chuyên đào tiền số, thay vì một lựa chọn nâng cấp máy chơi game thông thường. Trang thông số GIGABYTE cho mẫu GV-NP106D5-6G Rev. 1.0 ghi các thông số sau; chúng mô tả phiên bản của hãng, không xác định thương hiệu của từng card trong dàn thanh lý.
| Thông số | GIGABYTE P106-100 6G Rev. 1.0 |
|---|---|
| GPU | NVIDIA P106-100 |
| Bộ nhớ | 6GB GDDR5 |
| Bus bộ nhớ | 192-bit |
| Xung bộ nhớ công bố | 8.008MHz |
| Xung GPU cơ bản / Boost | 1.506 / 1.708MHz |
| Tiến trình | 16nm |
| Giao tiếp card | PCI-E 1.1 |
| Đầu cấp nguồn phụ | Một đầu 6-pin |
| Nguồn máy được hãng khuyến nghị | 400W |
Số liệu: GIGABYTE.
Con số nguồn khuyến nghị ở đây không phải công suất tiêu thụ của một card, càng không phải số đo của dàn chín card. Không thể nhân nó với số GPU để tính tiền điện. Tương tự, bus bộ nhớ trên từng GPU và liên kết giữa GPU với máy chủ là hai thứ khác nhau. Một bộ nhớ cục bộ đủ nhanh không giúp dữ liệu tự di chuyển nhanh giữa các card.
Người mua ở Việt Nam cần tính chi phí dùng, không lấy giá thanh lý làm chuẩn
Một món đồ rẻ lúc trả tiền có thể trở thành một hệ thống tốn kém khi dùng thường xuyên. Điểm phải kiểm tra trước là tình trạng linh kiện và chi phí vận hành, thay vì tìm cách tái hiện đúng mức giá gây chú ý. Giá mua may mắn không phải lợi thế mà một người mua khác có thể chủ động bảo đảm.
Người mua dàn máy này không được thử trước khi trả tiền; máy có dấu rỉ sét nhưng các card vẫn hoạt động khi cấp nguồn. Việc khởi động thành công là tin tốt, song chưa chứng minh khả năng chạy tải lâu dài. Với thiết bị đã qua sử dụng, một phép kiểm tra bộ nhớ và chạy tải kéo dài có giá trị hơn việc chỉ nhìn phần mềm nhận đủ GPU.
Khi xem một dàn tương tự, người mua nên yêu cầu người bán chạy đúng mô hình dự định sử dụng, quan sát lỗi trong suốt quá trình và kiểm tra tình trạng dây cấp nguồn. Nếu giao dịch không cho thử, hãy coi khả năng phải sửa hoặc thay linh kiện là một phần của quyết định mua. Kết quả tốt của một người dùng khác không làm giảm rủi ro của bộ máy đang được rao bán trước mắt.
Điện cũng làm thay đổi phép tính. Chủ máy trong giao dịch này được dùng điện miễn phí. Người phải trả tiền điện tại Việt Nam không có điều kiện giống vậy, nên tỷ lệ chi phí trên mỗi GB VRAM chỉ có ý nghĩa rất hạn chế. Cần đo công suất tại ổ điện trong đúng tác vụ, tính thời gian chạy thực tế rồi áp giá điện đang trả; không lấy mức công suất tối đa của linh kiện làm số đo tiêu thụ thường ngày.
Ngoài điện năng, dàn khung mở nhiều card còn đòi hỏi chỗ đặt và khả năng tản nhiệt phù hợp. Các kết nối phục vụ đào tiền số chưa chắc phù hợp với cách một ứng dụng AI chia tải. Riser PCIe x1 phổ biến ở dàn đào là một điểm cần kiểm tra, nhưng không nên kết luận băng thông thực tế của bộ máy này chỉ từ đặc điểm chung của các dàn đào khác.
Với người mới bắt đầu chạy AI cục bộ, ưu tiên hợp lý là một cấu hình tương thích với phần mềm mình định dùng, có thể kiểm tra trước khi mua và dễ khắc phục khi lỗi. Dàn nhiều GPU cũ hợp hơn với người đã quen thiết lập máy, muốn thử mô hình lớn và chấp nhận thời gian xử lý sự cố. Đó là hai nhu cầu khác nhau; tổng VRAM lớn không tự khiến cấu hình thứ hai trở thành lựa chọn tốt hơn cho người thứ nhất.
Ở Việt Nam, mức giá của giao dịch tại Nga không nên được dùng làm mốc mặc cả cho một bộ máy khác. Người bán, tình trạng từng card và phụ kiện đi kèm đều thay đổi. Trước khi so với một GPU ít bộ nhớ hơn nhưng dễ sử dụng, hãy tính toàn bộ chi phí để có máy hoạt động đúng nhu cầu, kể cả linh kiện phải bổ sung và công sức thiết lập.
Tổng kết
Dàn P106-100 này cho thấy phần cứng đào tiền số cũ vẫn có thể hữu ích cho việc thử AI cục bộ. Giá trị đáng học là cách tận dụng bộ nhớ sẵn có, không phải lời hứa rằng cứ mua nhiều GPU rẻ sẽ có máy AI tốt. Nếu cần một máy để làm việc đều đặn, hãy đặt phép thử đúng tác vụ và chi phí vận hành lên trước tổng dung lượng VRAM.
Nguồn tham khảo: Tom’s Hardware, Wccftech, GIGABYTE
