Tóm tắt nhanh
- AI trọng số mở cho phép tải các trọng số đã huấn luyện để chạy bản sao bằng phần mềm tương thích; không cần tự huấn luyện mô hình từ đầu.
- Mở trọng số chưa đủ để được coi là AI mã nguồn mở theo định nghĩa của Open Source Initiative; mã huấn luyện, thông tin dữ liệu và quyền sử dụng cũng quan trọng.
- Chỉ khi toàn bộ quá trình xử lý diễn ra cục bộ, câu hỏi và tài liệu mới không phải gửi lên máy chủ của nhà cung cấp AI.
- Trước khi dùng cho công việc, cần kiểm tra khả năng của máy, chất lượng câu trả lời tiếng Việt và giấy phép đúng phiên bản mô hình.
AI trọng số mở cho người dùng giữ một bản mô hình đã huấn luyện, thay vì chỉ truy cập nó qua dịch vụ của một công ty. Điểm đáng giá nằm ở quyền tự vận hành: một bản tải về có thể tiếp tục phục vụ công việc ngay cả khi dịch vụ trực tuyến đổi cách trả lời hoặc ngừng cung cấp mô hình đó. Nhưng tải được tệp không đồng nghĩa với việc hiểu đầy đủ cách mô hình được tạo ra, càng không mặc nhiên cho phép đưa nó vào mọi sản phẩm kinh doanh.
Với người dùng Việt Nam, nên tách quyết định này thành hai việc khác nhau: có cần đưa khâu xử lý về máy của mình hay không, và giấy phép có cho phép cách sử dụng dự định hay không. Một mô hình trả lời tốt vẫn có thể không phù hợp để tích hợp vào ứng dụng bán cho khách hàng; ngược lại, giấy phép rộng rãi không bảo đảm nó xử lý tốt tài liệu tiếng Việt.
Mở trọng số cho quyền giữ bản sao, còn giấy phép quyết định quyền sử dụng
Trọng số là những giá trị số được điều chỉnh trong quá trình huấn luyện, giúp mạng nơ-ron học các mẫu từ dữ liệu. Khi nhận câu hỏi, mô hình ngôn ngữ dùng những giá trị đã học cùng nội dung đầu vào để dự đoán phần văn bản tiếp theo. Tải trọng số về là nhận phần đã được huấn luyện này, không phải bắt đầu dạy một AI mới từ con số không.
Tệp trọng số cũng chưa phải một chatbot hoàn chỉnh. Người dùng cần phần mềm tương thích để nạp mô hình, nhận câu hỏi và thực hiện suy luận. Các ứng dụng như LM Studio, Ollama và Jan giúp đưa việc đó lên máy cá nhân với giao diện dễ tiếp cận hơn. Việc có thể tải một mô hình, tuy vậy, không bảo đảm máy đang dùng đủ bộ nhớ hay khả năng tính toán để chạy nó ở tốc độ chấp nhận được.
Sự khác biệt với dịch vụ đóng nằm ở chỗ ai giữ bản mô hình và ai quyết định khả năng truy cập. Khi chỉ dùng một chatbot trực tuyến có trọng số không được công bố, người dùng phụ thuộc vào phiên bản mà nhà cung cấp đang phục vụ. Với trọng số tải về, họ có thể giữ bản đang dùng, tự thử thay đổi khi giấy phép cho phép và không buộc phải chuyển ngay sang bản thay thế do hãng phát hành.
Quyền giữ bản sao có ích, nhưng chưa đủ để gọi mô hình là mã nguồn mở. Theo Open Source AI Definition 1.0 của Open Source Initiative, yêu cầu còn bao gồm mã dùng để huấn luyện và vận hành, cùng thông tin đủ chi tiết về dữ liệu để người có chuyên môn có thể xây dựng một hệ thống tương đương về cơ bản. Các quyền sử dụng, nghiên cứu, sửa đổi và chia sẻ cũng phải được bảo đảm. Chỉ công bố tệp trọng số không đáp ứng toàn bộ những điều kiện đó.
Cần phân biệt thông tin về dữ liệu huấn luyện với toàn bộ dữ liệu gốc. Định nghĩa của OSI không bắt buộc nhà phát triển công khai toàn bộ tập dữ liệu đã dùng. Vì vậy, nhận định rằng cứ giấu một phần dữ liệu là chắc chắn không thể đáp ứng định nghĩa này cũng không chính xác. Khả năng nghiên cứu cách xây dựng mô hình phải được xét trên các thành phần và thông tin thực sự được công bố.
Đây là điểm lập trình viên và nhóm làm sản phẩm cần đọc kỹ hơn người chỉ dùng chatbot cá nhân. Một mô hình có thể được tải miễn phí nhưng giấy phép vẫn hạn chế hoạt động thương mại hoặc đặt điều kiện cho việc phân phối. Không nên suy quyền sử dụng từ tên hãng, từ chữ “open” trên trang giới thiệu hay từ giấy phép của một mô hình khác cùng dòng.
Cách làm thận trọng là lưu tên chính xác của mô hình, phiên bản và giấy phép đi kèm ngay khi chọn nó cho dự án. Sau đó đối chiếu từng việc dự định làm: dùng nội bộ, cung cấp dịch vụ cho khách hàng, tinh chỉnh hay phân phối lại bản đã sửa. Nếu giấy phép có giới hạn liên quan đến quy mô hoặc mục đích sử dụng, cần giải quyết giới hạn ấy trước khi triển khai, thay vì chờ đến khi sản phẩm đã có người dùng.
Với một nhóm phát triển nhỏ tại Việt Nam, khả năng tự chạy mô hình giúp có thêm lựa chọn ngoài API thương mại. Nhưng tiết kiệm phí gọi dịch vụ không đáng để đánh đổi bằng một giấy phép chưa đọc rõ. Quyền tải trọng số và quyền khai thác trọng số trong kinh doanh là hai câu hỏi phải trả lời riêng.
Muốn giữ tài liệu trên máy, phải chọn cách chạy cục bộ chứ không chỉ chọn mô hình mở
Quyền riêng tư đến từ nơi diễn ra xử lý, không đến từ nhãn trọng số mở. Cùng một họ mô hình có thể được tải về để chạy tại chỗ hoặc được cung cấp trên một website. Trong trường hợp thứ hai, câu hỏi vẫn đi tới nhà cung cấp dịch vụ, dù trọng số của mô hình có thể tải công khai ở nơi khác. Sử dụng chatbot trên web không tự biến thành xử lý cục bộ chỉ vì hãng có phát hành mô hình mở.
DeepSeek là ví dụ dễ nhầm giữa tên dịch vụ và cách triển khai. Truy cập chatbot do nhà phát triển vận hành giúp tránh việc tự cài đặt, nhưng không mang lại cùng luồng dữ liệu với việc tải một mô hình phù hợp rồi tự chạy trên thiết bị. Với tài liệu khách hàng hay nội dung công việc chưa công khai, điều cần xác định là câu hỏi và tệp được xử lý ở đâu, thay vì chỉ nhìn tên AI trên màn hình.
Một thiết lập hoàn toàn cục bộ có thể giữ câu hỏi và tài liệu khỏi máy chủ của nhà cung cấp AI, đồng thời tiếp tục hoạt động khi mất mạng sau khi đã cài đủ phần mềm và mô hình. Đây là lợi ích cụ thể cho người cần làm việc với tệp riêng tư hoặc muốn giữ một công cụ ổn định trên máy. Tuy nhiên, nó không phải lời bảo đảm rằng mọi ứng dụng mang nhãn AI cục bộ đều có cấu hình giống nhau.
Trước khi đưa tài liệu thật vào, nên kiểm tra ứng dụng đang dùng mô hình được tải trên máy hay kết nối dịch vụ từ xa. Có thể bắt đầu với một tệp không nhạy cảm, ngắt mạng rồi thử lại thao tác cần dùng. Phép thử này giúp kiểm tra khả năng làm việc ngoại tuyến của thao tác đó; nó không thay cho việc đọc thiết lập kết nối và chính sách dữ liệu của ứng dụng.
Phần cứng là giới hạn tiếp theo. CNET nêu rằng các mô hình nhỏ có thể chạy trên một số máy Mac có RAM 8GB, còn những mô hình lớn hơn thường thuận lợi hơn khi có nhiều bộ nhớ hoặc GPU đủ khả năng xử lý. Nhưng không thể biến nhận xét đó thành cam kết rằng một máy có mức RAM nhất định sẽ chạy mượt mọi mô hình. Tốc độ còn phụ thuộc mô hình được chọn, phần mềm vận hành và lượng nội dung cần xử lý.
Đối với người đã có laptop, nên thử một mô hình phù hợp với máy trước khi cân nhắc mua phần cứng mới. Hãy dùng chính dạng công việc cần giải quyết: viết thư tiếng Việt, tóm tắt tài liệu hoặc hỗ trợ lập trình. Một lần trả lời câu hỏi ngắn không đủ để kết luận mô hình sẽ làm tốt với tài liệu dài; cũng cần xem thời gian chờ có chấp nhận được trong công việc hằng ngày hay không.
Chạy tại chỗ không xóa được ảo giác và thiên kiến có sẵn trong mô hình. Câu trả lời vẫn có thể sai dù không có dữ liệu nào rời thiết bị. Vì vậy, một hệ thống giữ tài liệu kín vẫn cần bước kiểm chứng nội dung đầu ra, nhất là khi dùng bản tóm tắt để ra quyết định hoặc đưa mã do AI viết vào sản phẩm. Bảo mật đường đi của tài liệu và độ đúng của câu trả lời là hai vấn đề khác nhau.
Chi phí cũng cần tính theo công việc thực tế, thay vì coi tải miễn phí là không tốn gì. Nếu máy hiện có chạy được và chất lượng đáp ứng nhu cầu, tự vận hành có thể giảm sự phụ thuộc vào dịch vụ bên ngoài. Nếu phải mua máy mới chỉ để thi thoảng viết một email, cần so khoản đầu tư ấy với lựa chọn chatbot trực tuyến, kể cả các gói miễn phí. Người không cần giữ tài liệu trên thiết bị có thể không nhận đủ lợi ích để bù công cài đặt và quản lý.
Lựa chọn hợp lý nhất là thử trên máy đang có, bằng tài liệu không nhạy cảm và những tác vụ tiếng Việt thật sự cần làm. Chỉ chuyển công việc quan trọng sang khi đã xác định được nơi xử lý dữ liệu, kiểm tra chất lượng đầu ra và đọc xong giấy phép của đúng mô hình. Trọng số mở cho thêm quyền kiểm soát; có sử dụng được quyền đó một cách hữu ích hay không vẫn phụ thuộc cách triển khai.
Nguồn tham khảo: CNET; TechCrunch.
