Hai thiết lập giúp chạy mô hình AI lớn trên GPU ít VRAM
Offload chuyên gia MoE và speculative decoding có thể cải thiện tốc độ chạy AI cục bộ, nhưng chỉ khi chọn đúng loại mô hình và cấu hình phù hợp.
Offload chuyên gia MoE và speculative decoding có thể cải thiện tốc độ chạy AI cục bộ, nhưng chỉ khi chọn đúng loại mô hình và cấu hình phù hợp.
Google Maps chuyển nền tối giữa ban ngày có thể liên quan đến tín hiệu đèn xe. Chỉnh chế độ Ngày/Đêm trong Android Auto trước, rồi mới kiểm tra các thiết lập kh…
LSW chạy Windows trong máy ảo nhưng đưa từng cửa sổ ứng dụng lên desktop Linux, đồng thời chia sẻ GPU máy chủ. Bản alpha đáng thử trên Arch/KDE, chưa phù hợp để…
Exit Node đưa lưu lượng Internet qua một máy khác; Subnet Router mở đường tới thiết bị trong mạng LAN. Chọn đúng cách gi…
Máy tính cũ có thể giảm tiền thuê lưu trữ, nhưng ổ cứng, điện chạy liên tục và bản sao ngoài nhà mới quyết định máy chủ…
Ưu tiên kiểm tra phụ kiện và buộc khởi động lại khi màn hình không nhận chạm. Với Android hỗ trợ USB OTG, chuột có dây c…
Từ cảm biến hiện diện đến camera cục bộ, ESP32 có thể thay một số thiết bị nhà thông minh có phí thuê bao. Nhưng hiệu quả phụ thuộc vào cảm biến, phần cứng và c…
Một số gateway của ISP ở Mỹ phát thêm hotspot bên cạnh Wi-Fi gia đình. VLAN tách lưu lượng, nhưng không tách radio; người dùng Việt có thể áp dụng cách quét BSS…
Chạy LLM cục bộ cần chừa bộ nhớ cho cả model lẫn ngữ cảnh. Chọn model vừa sức, giới hạn context và thử Min-p có kiểm soát hữu ích hơn việc đẩy mọi thiết lập lên…
Card mạng 10GbE gỡ nghẽn đường truyền, còn HBA mở rộng số ổ cho NAS tự dựng. Nhưng nâng cấp đáng tiền phải bắt đầu từ kh…
Chưa có bài nào. Bấm “Lưu” ở trang bài để đọc sau.
Tek chạy bằng cà phê. Mỗi ly giúp Tek viết thêm bài cho bạn.
Nội dung chuyển khoản
Số tiền
Quầy chưa có hướng dẫn chuyển tiền, bạn quay lại sau nha.
Cảm ơn bạn! Tek nhận ly rồi nha ☕ Hôm nay bạn cứ nhắn Tek thoải mái.
Hỏi Tek về bài đang đọc hoặc chuyện công nghệ nha. Tek trả lời ngắn thôi.
Tek đang gõ…