Tóm tắt nhanh
- Theo thử nghiệm do Microsoft công bố, tính năng tối ưu hóa lớp dữ liệu trên SharePoint giúp các tác tử AI phản hồi nhanh hơn tới 4 lần và giảm khoảng 30% lượng token tiêu thụ.
- Mức cải thiện hiệu năng đạt được trực tiếp từ quy trình truy xuất và siêu dữ liệu trong SharePoint, hoàn toàn không đòi hỏi doanh nghiệp phải nâng cấp lên mô hình ngôn ngữ lớn hơn.
- Việc cắt giảm token giúp hạ đáng kể chi phí điện toán đám mây cho các hệ thống AI nhiều bước (multi-step agents), vốn tiêu tốn ngân sách lớn qua từng lượt truy vấn lặp.
- Tính năng gắn liền với bản quyền Microsoft 365 Copilot và tài nguyên SharePoint của tổ chức doanh nghiệp, không áp dụng cho tài khoản người dùng cá nhân.
Tăng tốc 4 lần và giảm 30% token nhờ tối ưu tầng dữ liệu
Microsoft vừa giới thiệu nâng cấp hạ tầng tri thức cho SharePoint, tập trung cải thiện cách các tác tử trí tuệ nhân tạo (AI agents) truy xuất và tổng hợp tài liệu nội bộ. Theo thử nghiệm do Microsoft công bố, giải pháp này giúp thời gian phản hồi của tác tử AI nhanh hơn tới 4 lần, đồng thời giảm khoảng 30% lượng token tiêu thụ trong các tác vụ văn phòng.
Điểm đáng chú ý nhất nằm ở chỗ hiệu quả này không đến từ việc đổi mô hình. Thay vì buộc doanh nghiệp nâng cấp lên một mô hình ngôn ngữ lớn (LLM) đắt đỏ hơn, Microsoft tinh chỉnh trực tiếp tầng dữ liệu (data layer) và siêu dữ liệu (metadata) trên SharePoint. Bằng cách tái cấu trúc đường dẫn truy vấn, hệ thống chủ động lọc trước các tài liệu dư thừa. Nhờ đó, ngữ cảnh gửi vào mô hình trở nên cô đọng và chính xác hơn.
Giải bài toán chi phí token mà không cần đổi mô hình LLM lớn hơn
Trong vận hành thực tế, các tác tử AI thường phải thực hiện chuỗi tác vụ nhiều bước như duyệt hợp đồng, trích xuất số liệu và tổng hợp báo cáo. Mỗi bước trung gian đều yêu cầu một hoặc nhiều lượt gọi API đến mô hình ngôn ngữ. Điều này khiến lượng token đầu vào tăng nhanh, kéo theo độ trễ tích lũy sau từng vòng trao đổi.
Token là yếu tố quyết định trực tiếp hóa đơn đám mây lẫn thời gian chờ đợi. Khi mức tiêu thụ token giảm 30%, doanh nghiệp vừa tiết kiệm ngân sách, vừa hạn chế tình trạng nghẽn hàng đợi suy luận vào giờ cao điểm. Việc giữ nguyên mô hình AI cốt lõi cũng giúp đội ngũ kỹ thuật tránh được rủi ro phải viết lại prompt hay kiểm thử lại toàn bộ kịch bản tự động hóa.
Điều kiện sử dụng và tác động thực tế tới doanh nghiệp
Các chỉ số cải thiện 4 lần tốc độ và giảm 30% token là kết quả thử nghiệm do Microsoft công bố trên môi trường chuẩn hóa. Hiệu quả thực tế sẽ dao động tùy thuộc cấu trúc tài liệu và khối lượng công việc của từng tổ chức. Những doanh nghiệp sở hữu kho SharePoint được phân loại rõ ràng và gán nhãn siêu dữ liệu chuẩn xác sẽ ghi nhận mức cải thiện tốt hơn.
Về lộ trình triển khai, năng lực Knowledge Agent bắt đầu phát hành bản xem trước (preview) trên quy mô toàn cầu cho các tổ chức sử dụng gói Microsoft 365 Copilot. Quản trị viên hệ thống có thể kích hoạt qua bảng điều khiển quản trị hoặc giao diện lệnh SharePoint Online Management Shell. Tính năng này phục vụ hạ tầng đám mây doanh nghiệp, không hỗ trợ tài khoản người dùng cá nhân.
Nguồn tham khảo: 9to5Windows, Microsoft 365 Admin Center, Microsoft Learn
