Chia sẻ đam mê công nghệ
Ra mắt

Kora muốn đưa AI chạy xuyên CPU, GPU và NPU trên Linux

Kora là hệ điều hành Linux mới của cựu đồng sáng lập Cyanogen, tập trung điều phối mô hình AI giữa CPU, GPU, NPU và máy tính trong cùng mạng nội bộ. Điểm cần theo dõi không chỉ là tốc độ trên Snapdragon X2 Elite, mà còn là giới hạn hỗ trợ NPU ngoài Qualcomm và yêu cầu RAM cho mô hình lớn.

Tóm tắt nhanh

  • Kora là hệ điều hành desktop dựa trên Linux do Kora Systems phát triển, dự kiến phát hành miễn phí vào năm 2027.
  • Cortex được thiết kế để phân phối tác vụ AI qua CPU, GPU, NPU và máy khác trong mạng nội bộ; hiện Hexagon trên Snapdragon X2 Elite là NPU được hỗ trợ đầy đủ.
  • Kirt McMaster công bố kết quả Gemma 4 26B đạt 25 token/giây khi giải mã và 550 token/giây khi nạp trước, nhưng đó là phép đo trên một cấu hình cụ thể chưa được nêu đầy đủ.
  • Kora khuyến nghị 64GB RAM để có thể dùng các mô hình lớn hơn; hỗ trợ NPU Intel và AMD vẫn còn trong kế hoạch.

Kora Systems, công ty do cựu đồng sáng lập Cyanogen Kirt McMaster dẫn dắt, vừa giới thiệu Kora, một hệ điều hành desktop Linux đặt việc chạy AI làm trọng tâm. Hệ thống Cortex của hãng có thể chia tác vụ giữa CPU, GPU, NPU và các máy tính khác trên cùng mạng nội bộ; hiện phần trình diễn cụ thể nhất dựa trên NPU Hexagon của Snapdragon X2 Elite.

Tham vọng của Kora không nằm ở việc thêm một ứng dụng chatbot vào desktop. Hãng muốn hệ điều hành trở thành lớp điều phối để mô hình và tác nhân AI truy cập ứng dụng, tệp tin và ngữ cảnh làm việc. Kora dự kiến phát hành miễn phí cho PC trong năm 2027, nhưng các tuyên bố về hiệu năng hiện mới tập trung vào một nền tảng phần cứng.

Kora chọn Linux nhưng phần điều phối AI vẫn là công nghệ riêng

Nhà phát triển ngồi trước nhiều màn hình trong không gian làm việc mang nhận diện Kora.
Minh họa không gian làm việc desktop mà Kora hướng tới. Ảnh: KORA Systems / Tom’s Hardware.

Kora được xây dựng trên Linux và sử dụng Nix; nền tảng này thay cho Fedora Silverblue của GameOS, hệ điều hành chơi game mà đội ngũ phát triển trước đây xây dựng khi còn mang tên Playtron. Phần lõi Cortex và giao diện desktop của Kora là công nghệ độc quyền; Linux và Nix vẫn là các thành phần mã nguồn mở.

Minh họa người dùng tương tác với hệ điều hành Kora trong không gian làm việc.
Minh họa Kora trong một không gian làm việc với trợ lý AI. Ảnh: KORA Systems / TechCrunch.

Sự phân chia đó quan trọng: dùng Linux không đồng nghĩa toàn bộ Kora có thể được kiểm tra, sửa đổi hay phân phối lại như một dự án mở. Hệ điều hành dựa vào các thành phần mở ở tầng nền, trong khi cơ chế điều phối AI và trải nghiệm chính vẫn do Kora kiểm soát. Người dùng vì thế cần chờ thêm thông tin về cách hãng xử lý quyền truy cập tệp, dữ liệu hội thoại và các tác vụ tự động trước khi xem đây là một lựa chọn thay Windows.

Giao diện Chord chat client trong Kora, cạnh vùng hiển thị tệp và ảnh.
Giao diện Chord cho thấy Kora đưa tương tác với AI vào desktop cùng tệp và workspace. Ảnh: KORA Systems / TechCrunch.

Kora mô tả các workspace AI là môi trường cách ly, nơi tác nhân hoạt động với quyền truy cập giới hạn tới tệp và tài nguyên. Ý tưởng này có thể giúp tách công việc của AI khỏi phần còn lại của máy, nhưng mức độ an toàn phụ thuộc vào cách triển khai sandbox, quyền ứng dụng và cơ chế xác nhận hành động — những chi tiết chưa được công bố đầy đủ.

Hexagon là NPU duy nhất được xác nhận hỗ trợ đầy đủ lúc này

Hộp Inference hiển thị ba tác vụ chạy trên CPU, GPU và NPU trong giao diện GameFrame.
Giao diện GameFrame minh họa cách Kora trình bày các tác vụ suy luận trên CPU, GPU và NPU. Ảnh: KORA Systems / TechCrunch.

Trên Snapdragon X2 Elite, Kora cho biết Cortex điều phối tác vụ qua CPU, GPU và NPU Hexagon, đồng thời có thể tận dụng máy khác trong mạng nội bộ. Cách tiếp cận này có thể giúp phần mềm chọn phần cứng phù hợp cho từng công việc thay vì buộc mọi phép suy luận chạy trên một bộ xử lý duy nhất.

Kora cho biết họ dùng backend Hexagon của llama.cpp cùng driver FastRPC upstream, thay vì dựa vào runtime QAIRT/QNN của Qualcomm. Đây là lựa chọn đáng chú ý với người dùng Linux vì nó cho thấy hướng kết hợp các thành phần gần với hệ sinh thái mã nguồn mở hiện có. Tuy vậy, hỗ trợ ở một chip không tự động đảm bảo khả năng chuyển sang NPU của hãng khác: mỗi nền tảng có runtime, driver và đường đi phần mềm riêng.

Kirt McMaster nói với Tom’s Hardware rằng Snapdragon X2 Elite chạy Gemma 4 26B đạt 25 token/giây ở giai đoạn giải mã và 550 token/giây ở giai đoạn nạp trước, với ngữ cảnh 32K và toàn bộ tác vụ chạy trên NPU Hexagon. Kết quả này được nêu cho mô hình Gemma 4 26B A4B lượng tử hóa Q4_K_M; bài thử không nêu cấu hình RAM hay chính xác phiên bản X2 Elite, nên chưa thể dùng con số đó để so sánh trực tiếp với một laptop bán lẻ cụ thể.

Hỗ trợ Intel vẫn đang được phát triển. Với NPU AMD Ryzen AI, McMaster dự đoán Kora có thể dùng ONNX cho các tác vụ như nhận diện giọng nói và embedding, còn chạy mô hình ngôn ngữ trên NPU có thể chưa khả thi. Vì vậy, câu “hỗ trợ PC Intel và AMD” trong lộ trình không nên được hiểu là mọi bộ tăng tốc AI trên những máy đó đã sẵn sàng chạy cùng loại mô hình.

Mốc 64GB RAM cho thấy AI cục bộ vẫn đòi hỏi máy cấu hình cao

Khuyến nghị 64GB RAM của Kora không phải yêu cầu bắt buộc để cài hệ điều hành, nhưng nó phản ánh mức tài nguyên cần thiết khi mục tiêu là chạy mô hình lớn tại chỗ. Bản Gemma 4 26B ở lượng tử hóa 4-bit cần khoảng 14,4GB chỉ để nạp trọng số theo ước tính của Google; tệp Q4_K_M mà Kora sử dụng được các danh mục bên thứ ba ghi nhận ở mức khoảng 16–17GB. Phần bộ nhớ dành cho ngữ cảnh, hệ điều hành và ứng dụng còn phải tính thêm.

Đây là lý do không nên đọc tốc độ suy luận như lời hứa rằng mọi laptop AI hiện nay đều chạy được mô hình 26 tỷ tham số. NPU đảm nhiệm phép tính, nhưng mô hình vẫn phải được nạp vào bộ nhớ. Máy 16GB gần như không có nhiều khoảng trống cho kịch bản này; 32GB dễ dùng hơn nhưng vẫn phải đánh đổi giữa kích thước mô hình, ngữ cảnh và ứng dụng đang mở. Kora chưa công bố bộ cấu hình khuyến nghị cụ thể.

Hãng dự kiến hệ điều hành sẽ chạy mô hình cục bộ khi phù hợp và chuyển sang dịch vụ đám mây khi cần năng lực lớn hơn. Cách phối hợp đó có thể giảm phụ thuộc vào cloud trong tác vụ thường ngày, nhưng người dùng sẽ cần biết dữ liệu nào rời máy, mô hình nào được gọi và chi phí dịch vụ ra sao. Mô hình kinh doanh cuối cùng chưa được công bố chi tiết, nên người dùng chưa thể biết các dịch vụ AI sẽ phát sinh chi phí thế nào.

Giá trị của Kora sẽ phụ thuộc vào phần cứng tương thích và quyền kiểm soát

Kora dự kiến phát hành cho PC vào năm 2027 và cho biết phần mềm có thể cài trên phần lớn máy tính hiện đại, kèm danh sách cấu hình đề xuất khi gần ra mắt. Phiên bản doanh nghiệp Humain OS dự kiến xuất hiện trước trên laptop OEM dùng Snapdragon X2 Elite. Giá của hệ điều hành và mô hình kinh doanh tổng thể vẫn chưa được công bố cụ thể; Kora được giới thiệu là miễn phí cho bản desktop cá nhân.

Với người dùng Linux, dấu hỏi lớn không chỉ là Kora có chạy được trên máy hiện tại hay không, mà là mức hỗ trợ thực tế giữa các kiến trúc NPU và khả năng kiểm soát dữ liệu của các tác nhân. Cho tới khi có bản cài đặt, ma trận tương thích và thử nghiệm độc lập trên nhiều cấu hình, kết quả Snapdragon X2 Elite nên được xem là minh họa ban đầu cho Cortex, chưa phải bằng chứng Kora đã giải quyết bài toán AI cục bộ trên toàn bộ PC.

Nguồn tham khảo: Tom’s Hardware; TechCrunch; KORA Systems.

Bài này thế nào?

Hoá đơn của bài này

Tek viết bài này bằng cà phê. Mời Tek một ly nha?

Theo dõi TekCafe: Facebook · YouTube

Bài viết mới nhất