Google đưa AI ghi chú cuộc họp lên Mac, xử lý âm thanh hoàn toàn offline

Ghi chú cuộc họp đang chuyển từ dịch vụ đám mây về máy cá nhân

Google AI Edge Foresight đặt một trợ lý họp ngay trên Mac thay vì gửi âm thanh lên máy chủ để xử lý. Ứng dụng thử nghiệm này có thể nghe âm thanh hệ thống và micro, hoạt động với các nền tảng họp khác nhau, đồng thời không cần kết nối mạng để chạy các chức năng cốt lõi.

Đây là khác biệt thực dụng hơn một lời hứa chung về AI riêng tư. Với biên bản họp nội bộ, phỏng vấn khách hàng hay trao đổi có thông tin nhạy cảm, việc âm thanh không rời thiết bị giúp giảm một điểm phải tin cậy: dịch vụ trung gian có lưu hoặc xử lý dữ liệu ra sao. Google nói tệp, âm thanh cuộc họp và ghi chú không rời máy tính. Người dùng vẫn cần tự đánh giá quyền truy cập micro, quyền lưu trữ và chính sách nội bộ của tổ chức; xử lý cục bộ không tự động giải quyết các vấn đề đó.

EmbeddingGemma 2 giúp tìm ngữ cảnh, Gemma 4 hỗ trợ câu trả lời

Foresight dùng EmbeddingGemma 2 để ánh xạ văn bản, âm thanh và hình ảnh vào cùng một không gian biểu diễn, nhờ đó ứng dụng có thể tìm đoạn liên quan trong bản ghi và tệp cá nhân bằng truy vấn ngôn ngữ tự nhiên. Google công bố mô hình có 740 triệu tham số, được thiết kế theo dạng mô-đun cho các tác vụ văn bản, hình ảnh và âm thanh. Hãng nêu mức RAM hoạt động khoảng 191 MB cho trọng số chỉ văn bản và khoảng 567 MB cho mô hình đa phương thức đầy đủ trên Pixel 11 Pro; đây là số đo trong bối cảnh thiết bị và cấu hình Google công bố, không phải cam kết mức dùng bộ nhớ của Foresight trên mọi máy Mac.

Hai thành phần làm hai việc khác nhau. EmbeddingGemma 2 tạo biểu diễn để truy xuất nội dung liên quan; Gemma 4 được dùng cho trợ lý hỏi đáp và diễn đạt câu trả lời. Cách tách này quan trọng vì một mô hình embedding không đồng nghĩa với một mô hình tự tạo biên bản hoàn chỉnh. Trong Foresight, người dùng có thể ghi vài ý dạng gạch đầu dòng, sau đó ứng dụng đối chiếu chúng với nội dung cuộc họp để bổ sung thành ghi chú có ngữ cảnh.

Google cho biết EmbeddingGemma 2 có cửa sổ ngữ cảnh 8.000 token, xử lý tối đa khoảng 5,5 phút âm thanh, 29 ảnh hoặc 58 khung hình video trong cấu hình được mô tả. Đây là giới hạn đầu vào của mô hình, không nên hiểu thành thời lượng tối đa của một cuộc họp trong Foresight. Ứng dụng cần lập chỉ mục và truy xuất nhiều đoạn để làm việc với nội dung dài hơn.

Giá trị của Foresight nằm ở kho tri thức cá nhân, không riêng bản chép lời

Nếu chỉ cần chuyển giọng nói thành chữ, Foresight không phải ý tưởng mới. Điểm có tiềm năng hơn là nối bản ghi cuộc họp với ghi chú và tài liệu cá nhân. Người dùng có thể đưa tệp cục bộ vào kho tham chiếu, rồi hỏi trợ lý về nội dung vừa trao đổi hoặc thông tin liên quan trong tài liệu. Điều đó biến ứng dụng từ máy ghi âm có tóm tắt thành công cụ tra cứu ngữ cảnh.

So với cách làm của các dịch vụ ghi chú AI chạy qua đám mây, xử lý tại máy có lợi thế rõ ở quyền kiểm soát dữ liệu và không phát sinh thuê bao dịch vụ đám mây theo mô tả của Google. Đổi lại, chất lượng và tốc độ phụ thuộc vào phần cứng, khả năng nhận dạng giọng nói và cách ứng dụng xử lý các cuộc họp dài. Chưa có dữ liệu độc lập trong các nguồn đã mở để kết luận Foresight chính xác hơn Granola, Otter.ai hay Fathom; vì vậy, so sánh hợp lý lúc này nằm ở kiến trúc và mô hình phân phối, không phải chất lượng chép lời.

Mac Apple Silicon là lựa chọn có chủ đích nhưng cũng là giới hạn

Google tối ưu Foresight cho Apple Silicon thay vì phát hành rộng trên mọi máy tính. Lựa chọn này giúp hãng tập trung vào một nhóm phần cứng có khả năng chạy mô hình cục bộ, nhưng loại người dùng Mac Intel và Windows khỏi phạm vi hiện tại. Người dùng Việt Nam có thể tải ứng dụng từ trang Google for Developers; đây là phần mềm thử nghiệm miễn phí, không có giá bán lẻ tại Việt Nam.

Foresight cũng tạo một đối chiếu đáng chú ý với các tính năng AI tích hợp của hệ điều hành: Google đang thử nghiệm một trợ lý họp chuyên biệt, hoạt động xuyên ứng dụng và gắn tài liệu cục bộ vào cuộc trò chuyện. Tuy nhiên, một ứng dụng thử nghiệm chưa chứng minh được độ ổn định trong môi trường doanh nghiệp, mức tiêu hao pin khi họp dài hay khả năng xử lý tiếng Việt. Đây mới là những điều sẽ quyết định công cụ có hữu ích hàng ngày hay chỉ phù hợp để thử.

Phần mềm cục bộ đáng thử, nhưng chưa đủ dữ liệu để thay công cụ họp hiện có

Foresight đáng chú ý vì gộp ghi âm, truy xuất tài liệu và hỏi đáp vào một luồng xử lý ngay trên Mac. Cách tiếp cận này có thể phù hợp với người cần giữ dữ liệu cuộc họp tại thiết bị và đang dùng máy Apple Silicon. Trước khi chuyển cả nhóm sang ứng dụng, nên kiểm tra độ chính xác với giọng nói, ngôn ngữ và thời lượng họp thực tế của mình; Google hiện chưa cung cấp dữ liệu độc lập đủ để khẳng định hiệu quả ở các tình huống đó.

Nguồn tham khảo: Google for Developers; Google DeepMind / The Keyword; TechCrunch; The Verge.