GitHub Copilot hỗ trợ AI cục bộ: mã nguồn vẫn cần được bảo vệ riêng

Đưa AI về máy cá nhân giải quyết được nơi xử lý một phần yêu cầu, nhưng chưa đủ để gọi cả quy trình lập trình là kín. GitHub đang bổ sung khả năng chọn mô hình cục bộ cho Copilot CLI, đồng thời phát hành hộp cát cho công cụ của agent. Hai thay đổi phục vụ những mục tiêu khác nhau: một bên quyết định nơi suy luận, bên còn lại giới hạn những gì agent được phép thực hiện.

Điểm cần quan tâm vì thế không nằm ở chữ “local” trên tên tính năng. Một cấu hình dùng mô hình tại máy vẫn có thể để công cụ truy cập mạng hoặc gửi nội dung tới nhà cung cấp từ xa. Nếu mục tiêu là bảo vệ repository của khách hàng, phải kiểm soát toàn bộ đường đi của dữ liệu thay vì chỉ đổi mô hình.

Mô hình cục bộ không phải công tắc ngắt mọi kết nối

Đổi mô hình dễ hơn, nhưng máy vẫn phải có Ollama sẵn

Khả năng phát hiện mô hình giúp giảm thao tác cấu hình, chứ không thay thế việc chuẩn bị môi trường AI cục bộ. GitHub công bố Copilot CLI từ phiên bản 1.0.94-0 có thể dùng lệnh /model để tìm mô hình được hỗ trợ từ một phiên Ollama đang chạy. Danh sách này xuất hiện cùng các mô hình đã cấu hình và mô hình đám mây của Copilot.

Người dùng phải chọn mô hình, kiểm tra nhà cung cấp và endpoint rồi xác nhận thêm. Có thể chuyển sang dùng ngay trong phiên hiện tại hoặc chỉ thêm vào cấu hình mà chưa chuyển. Việc phát hiện không tự động thêm mô hình, cũng không cài Ollama hay tải trọng số xuống máy. Mô hình được chọn cần hỗ trợ gọi công cụ và phản hồi dạng streaming.

Với công việc lập trình, yêu cầu gọi công cụ có ý nghĩa hơn việc mô hình chỉ trả lời được câu hỏi về code. Agent cần đưa ra yêu cầu thao tác có cấu trúc để môi trường thực thi tiếp nhận. Vì vậy, một mô hình chạy được trong cửa sổ chat chưa chắc đáp ứng được quy trình agent của Copilot.

Chuyển mô hình trong cùng phiên giảm việc phải rời công cụ đang dùng, nhưng không phải bằng chứng rằng kết quả giữa các mô hình sẽ tương đương. Nhóm phát triển vẫn nên đánh giá trên tác vụ của mình: bản sửa có qua kiểm thử không, agent có gọi đúng công cụ không và người dùng mất bao nhiêu thời gian kiểm tra đầu ra. Không nên lấy khả năng kết nối thành công làm tiêu chí duy nhất để thay mô hình đang dùng.

Kiểm tra endpoint trước khi đưa mã nguồn vào prompt

Quyền riêng tư phụ thuộc vào cấu hình thực tế, không phụ thuộc riêng vị trí chạy mô hình. GitHub nêu rõ việc chọn mô hình local không tự bật offline mode hoặc tắt telemetry. Trong CLI, chế độ offline vẫn là một lựa chọn riêng qua COPILOT_OFFLINE=true.

Giới hạn quan trọng hơn nằm ở nhà cung cấp: một provider từ xa vẫn có thể nhận prompt và ngữ cảnh mã nguồn qua mạng, ngay cả khi CLI đang ở chế độ offline. Do đó, không thể diễn giải biến môi trường này thành cam kết “không dữ liệu nào rời khỏi máy”. Endpoint mà người dùng xác nhận khi thêm mô hình cần được xem như một phần của cấu hình bảo mật.

Cũng cần tách việc đưa dữ liệu vào mô hình khỏi hoạt động của công cụ. Nếu agent được phép gọi một dịch vụ ngoài máy, dữ liệu có thể đi qua dịch vụ đó dù bước suy luận diễn ra cục bộ. Đổi mô hình không tự thu hồi quyền mạng của terminal hay dịch vụ tích hợp.

Định tuyến kết hợp mô hình local và cloud còn làm ranh giới này đáng chú ý hơn. GitHub đã thông báo hướng phát triển định tuyến thông minh với mô hình cục bộ, nhưng khả năng phát hiện Ollama trong CLI không nên bị đánh đồng với việc mọi tác vụ đã tự động được phân chia giữa máy và đám mây. Khi áp dụng cho mã nguồn nhạy cảm, quy tắc chuyển việc ra ngoài phải rõ ràng trước khi tối ưu tốc độ hay chi phí.

Hộp cát bảo vệ máy khỏi thao tác của agent

Giữ yêu cầu suy luận ở máy không ngăn được một agent chạy lệnh sai. Hộp cát xử lý rủi ro này bằng cách đặt giới hạn cho môi trường thực thi. GitHub công bố local sandboxing đã phát hành rộng rãi trong Copilot CLI, ứng dụng GitHub Copilot và các phiên VS Code sử dụng Agent Host.

Cơ chế dựa trên Microsoft eXecution Container, viết tắt MXC, chuyển chính sách hộp cát chung thành các kiểm soát của hệ điều hành trên Windows, macOS và Linux. Chính sách có thể giới hạn vùng file mà lệnh do agent khởi chạy được đọc hoặc sửa; kiểm soát truy cập internet, mạng nội bộ và thông tin xác thực Git hay GitHub CLI.

GitHub cũng nêu khả năng áp dụng giới hạn cho công cụ và dịch vụ cục bộ, gồm MCP và language server tại những nơi được hỗ trợ. Với doanh nghiệp, thiết lập do tổ chức quản lý có thể bắt buộc dùng hộp cát và ngăn lập trình viên tự nới chính sách. GitHub cho biết local sandboxing được bao gồm trong Copilot, không tính thêm phí riêng cho tính năng này.

Điều đáng giá là chính sách thực thi không phải thay đổi theo từng mô hình. Một agent dùng mô hình cloud vẫn cần quyền đọc file và chạy lệnh được giới hạn; agent dùng Ollama cũng vậy. Chọn mô hình tốt hơn không thay thế nguyên tắc cấp ít quyền nhất cần thiết. Hộp cát cũng cần được cấu hình đúng: cho phép đọc toàn bộ ổ đĩa hay truy cập mạng không hạn chế sẽ làm giảm ý nghĩa của ranh giới bảo vệ.

Nhóm làm dự án khách hàng nên kiểm tra đường đi của mã nguồn trước

Với một nhóm phát triển tại Việt Nam có hợp đồng hạn chế đưa mã nguồn lên dịch vụ ngoài tổ chức, hỗ trợ local model là lựa chọn đáng xem xét, nhưng chưa phải chứng nhận tuân thủ. Điều kiện trong hợp đồng phải được chuyển thành cấu hình cụ thể: mô hình nào được dùng, endpoint nào được phép nhận nội dung và thư mục nào agent được truy cập.

Cách thử phù hợp là bắt đầu trên repository thử nghiệm không chứa dữ liệu khách hàng. Sau khi thêm provider, nhóm cần kiểm tra đích kết nối thực tế và những công cụ agent có thể gọi, thay vì chỉ nhìn tên mô hình trong danh sách. Với môi trường bị giới hạn mạng, cần xác nhận tác vụ vẫn hoạt động trong chính sách dự kiến và không tự chuyển sang provider từ xa.

Việc kiểm thử đầu ra cũng phải giữ nguyên. Mã do mô hình cục bộ sinh ra vẫn cần review, chạy test và kiểm tra thay đổi ngoài phạm vi yêu cầu. Lợi ích của chạy local nằm ở quyền lựa chọn nơi xử lý và khả năng kiểm soát hạ tầng; nó không làm bản sửa tự động đúng hay biến terminal thành môi trường an toàn.

Đối với đội đã có quy trình bảo mật rõ, thay đổi này giúp thử AI cục bộ mà không phải bỏ giao diện làm việc quen thuộc. Còn nếu quyền mạng và quyền truy cập file vẫn đang để mở, việc đổi sang Ollama nên đi cùng chỉnh chính sách thực thi. Ưu tiên kiểm soát được dữ liệu và thao tác trước; tối ưu mô hình có thể làm sau.

Nguồn tham khảo: GitHub Blog — mô hình cục bộ trong Copilot CLI, GitHub Blog — local sandboxing.