Tóm tắt nhanh
- GPU Unlock là mô-đun nhân Linux mã nguồn mở, nhắm tới GPU Ampere GA102, GA103, GA104 và GA106.
- Thử nghiệm trên RTX 3090 Ti ghi nhận BF16 tăng từ 87,50 lên 157,41 TFLOPS; TF32 từ 42,58 lên 82,61 TFLOPS.
- Một số tác vụ ComfyUI được báo cáo tăng thông lượng từ 56,1% đến 58,6%, nhưng đây không phải mức tăng cho mọi ứng dụng.
- Công cụ không tăng FPS chơi game, không tăng băng thông VRAM và không làm tốc độ sinh token của mô hình ngôn ngữ nhanh hơn.
Một mô-đun nhân Linux mới có thể đẩy nhanh một số phép tính AI trên GeForce RTX 30: GPU Unlock mở giới hạn tốc độ phát lệnh FP16/BF16 tích lũy FP32, với mức tăng gần gấp đôi trong một số bài thử ma trận. Đây là thay đổi nhắm vào tính toán chuyên biệt, không phải bản nâng cấp hiệu năng chung cho card đồ họa.
GPU Unlock gỡ một giới hạn phân khúc trên chip Ampere
GPU Unlock do lập trình viên Zagitta công bố dưới dạng dự án mã nguồn mở. Công cụ hỗ trợ các GPU GA102, GA103, GA104 và GA106, gồm nhiều mẫu thuộc dòng GeForce RTX 30. Những chip này vốn có khả năng thực hiện phép toán Tensor Core, nhưng tốc độ phát lệnh với một số kiểu dữ liệu FP16/BF16 tích lũy FP32 bị giới hạn trên card tiêu dùng so với sản phẩm chuyên nghiệp dùng kiến trúc liên quan.
Đó là cách phân biệt phân khúc bằng khả năng tính toán được mở khóa, thay vì chỉ dựa vào phần cứng vật lý. Với người dùng chủ yếu chơi game, giới hạn này ít liên quan; với máy chạy mô hình AI cục bộ, nó có thể làm giảm thông lượng ở những công đoạn dùng phép toán ma trận phù hợp.
GPU Unlock không flash VBIOS và cũng không vá driver NVIDIA. Mô-đun được đưa vào initramfs để chạy trước khi driver NVIDIA gắn vào GPU; nó ghi các bộ chọn tốc độ rồi thực hiện Function Level Reset. Người cài đặt phải chủ động bật mục tiêu qua tham số kernel. Nếu card đã được driver khác khởi tạo hoặc không thuộc các mã chip được hỗ trợ, công cụ sẽ bỏ qua.
Phép tính ma trận tăng rõ, nhưng mức tăng tùy kiểu dữ liệu
Trong phép thử GEMM ma trận dày kích thước 8192³ trên RTX 3090 Ti giới hạn 450 W, dự án ghi nhận các kết quả dưới đây. Đây là trung vị của năm lượt đo, với FP32 accumulation.
| Phép thử trên RTX 3090 Ti | Trước mở khóa | Sau mở khóa | Mức thay đổi |
|---|---|---|---|
| FP16 (TFLOPS) | 87,46 | 118,39 | +35% |
| BF16 (TFLOPS) | 87,50 | 157,41 | +80% |
| TF32 (TFLOPS) | 42,58 | 82,61 | +94% |
Số liệu: dự án GPU Unlock trên GitHub. Phép thử GEMM 8192³, RTX 3090 Ti ở 450 W, trung vị năm lượt.
Con số không đồng đều giữa các định dạng: FP16 tăng 35%, còn BF16 và TF32 tăng lần lượt 80% và 94% trong cấu hình thử này. Vì vậy, câu “nhanh gấp đôi” chỉ mô tả trần của một số phép tính, không phải cam kết mọi tác vụ AI sẽ chạy nhanh gấp đôi.
Lợi ích thực tế tập trung ở một số quy trình AI
Các kết quả ComfyUI được công bố cho RTX 3090 Ti cho thấy thông lượng tăng 58,6% với MOSS-Image SFT BF16, 57,2% với Qwen-Image 2.1 Turbo BF16 và 56,1% với Z-Image Turbo BF16. Một báo cáo tương thích trên RTX 3090 nêu mức tăng 33% ở thông lượng xử lý prompt bằng vLLM.
Những cải thiện này hữu ích nhất khi quy trình bị giới hạn bởi phép tính Tensor Core mà GPU Unlock tác động tới. Trong vLLM, xử lý prompt (prefill) thực hiện nhiều phép toán song song trên cả chuỗi đầu vào; giai đoạn sinh từng token lại chịu ảnh hưởng lớn hơn từ việc đọc trọng số qua bộ nhớ. Các kết quả này không cho biết tốc độ sinh token, vốn là phép đo riêng và không được báo cáo trong những thử nghiệm trên.
Tương tự, kết quả ComfyUI phụ thuộc mô hình, thiết lập và kiểu dữ liệu. Người dùng chạy đúng workload BF16/FP16 có thể thấy khác biệt đáng kể; tác vụ không đi qua đường tính toán này có thể gần như không đổi. Các phép thử được công bố chưa đủ để kết luận mức cải thiện chung cho mọi cấu hình RTX 30.
Đây không phải bản nâng cấp cho game hay DLSS
GPU Unlock không bổ sung nhân CUDA, không tăng băng thông bộ nhớ và không thay đổi xung đồ họa. Vì thế, không có cơ sở để kỳ vọng FPS game tăng hoặc DLSS xử lý nhanh hơn. RTX 30 vẫn có thể hữu ích cho máy AI tại nhà, nhưng lợi ích của dự án nằm ở một số phép tính chuyên dụng chứ không làm chiếc card trở nên mạnh hơn trên mọi mặt.
Đổi lại, đây là thay đổi ở mức khởi động Linux và phần cứng: cần cài mô-đun phù hợp, đưa tham số vào cấu hình kernel và khởi động lại. Dự án nêu cách tắt bằng cách bỏ tham số `gpu_unlock.targets=` khỏi dòng lệnh kernel hoặc gỡ gói. Người dùng nên đọc hướng dẫn và ghi nhận khả năng tương thích của chính card, bản phân phối Linux và quy trình khởi động trước khi thử; kết quả benchmark không thay thế việc sao lưu cấu hình.
GPU Unlock được phát hành theo GPL-2.0-only. Dự án hiện nhắm tới một số GPU Ampere cụ thể, nên RTX 30 không nằm trong danh sách GA102/GA103/GA104/GA106 sẽ không được mở khóa theo cách này.
Nguồn tham khảo: Dự án GPU Unlock trên GitHub; Wccftech
