Tóm tắt nhanh
- 70% tổ chức được khảo sát đã giao cho AI quyết định hoặc hành động từng cần con người phê duyệt.
- Chỉ 49% nói rằng họ có thể nhìn thấy và kiểm toán mọi hành động của AI agent.
- 76% gặp ít nhất một sự cố hoặc dấu hiệu cảnh báo bảo mật liên quan đến AI trong 12 tháng.
- Điểm yếu nằm ở quyền truy cập quá rộng và thiếu giới hạn có thể thực thi, không nhất thiết ở một cuộc tấn công từ bên ngoài.
70% tổ chức hiện giao cho AI quyết định và hành động mà một năm trước còn cần con người phê duyệt, trong khi chưa tới một nửa có thể kiểm toán toàn bộ việc agent làm. Khoảng cách đó khiến AI có thể hoạt động bằng quyền truy cập hợp lệ nhưng vượt khỏi phạm vi mà đội bảo mật kiểm soát được.
Doanh nghiệp đang cấp quyền nhanh hơn khả năng giám sát
Khảo sát do Sapio Research thực hiện thay mặt Illumio hỏi 1.100 lãnh đạo IT và an ninh tại 10 thị trường. Trong nhóm này, 84% tự tin rằng họ có thể quan sát cách AI truy cập dữ liệu và hệ thống, nhưng khi câu hỏi chuyển sang khả năng nhìn thấy và kiểm toán từng hành động của agent, tỷ lệ giảm còn 49%.
Hai con số đo hai việc khác nhau. Có thể nhìn thấy hệ thống hoặc luồng truy cập không đồng nghĩa với việc tái dựng được agent đã làm gì, theo quyền nào và hành động đó có được phép hay không. Đây là khoảng trống kiểm soát đáng chú ý: quyền tự chủ tăng nhanh, còn bằng chứng để rà soát và quy trách nhiệm không theo kịp.
76% tổ chức cho biết đã gặp ít nhất một vấn đề hoặc dấu hiệu cảnh báo bảo mật liên quan đến AI trong 12 tháng. Cụ thể, 35% nói AI từng đưa ra khuyến nghị mà nếu làm theo sẽ tạo rủi ro bảo mật; 26% ghi nhận agent hoặc công cụ AI kết nối tới hệ thống chưa được bộ phận an ninh phê duyệt. Hai tỷ lệ 24% lần lượt liên quan đến AI truy cập dữ liệu ngoài phạm vi và tạo hoặc kích hoạt hành động không được phép.
Agent có thể gây rủi ro bằng chính quyền truy cập hợp lệ
Khác với kẻ tấn công bên ngoài phải xâm nhập trước, agent nội bộ có thể đã được cấp thông tin xác thực và kết nối tới ứng dụng, dữ liệu hoặc hạ tầng doanh nghiệp. Khi nó đi quá xa, hoạt động có thể trông giống một tác vụ hợp lệ; vì vậy chỉ dựa vào việc phát hiện xâm nhập không giải quyết được vấn đề cấp quyền.
Điều đó cũng thay đổi cách đặt câu hỏi về an toàn AI. Thay vì cố dự đoán mọi câu trả lời sai của mô hình, tổ chức cần xác định agent được phép chạm tới hệ thống nào và được làm hành động gì. Prompt hay hướng dẫn mềm không thay thế được giới hạn kỹ thuật có thể chặn một hành động vượt quyền.
Khảo sát ghi nhận 67% tổ chức dùng AI trong hoạt động an ninh mạng; 32% sẵn sàng để AI điều tra mà không cần người rà soát, 29% cho phép AI triển khai thay đổi mã không giám sát và 26% chấp nhận để AI cấp hoặc thu hồi quyền truy cập. Những việc này có thể rút ngắn thao tác, nhưng một lỗi trong môi trường sản xuất cũng có thể lan nhanh hơn nếu agent được phép tự thực thi.
Giới hạn quyền truy cập cần được thực thi ở hạ tầng
Trong khi đa số người trả lời cho rằng agent cần biện pháp bảo mật khác phần mềm truyền thống, chỉ 25% xếp việc định nghĩa rõ hành động được phép vào hai kiểm soát ưu tiên hàng đầu. 69% cho rằng giới hạn dữ liệu AI được truy cập quan trọng hơn việc dự đoán mọi mối đe dọa, nhưng mức độ ưu tiên dành cho các ranh giới cụ thể vẫn thấp.
Với doanh nghiệp, cách làm thực tế là cấp quyền tối thiểu theo từng nhiệm vụ, tách môi trường thử nghiệm khỏi hệ thống sản xuất và yêu cầu phê duyệt của con người cho hành động có thể gây hậu quả lớn. Phân đoạn mạng và nguyên tắc Zero Trust giúp giới hạn phạm vi agent có thể tiếp cận nếu một bước tự động hóa đi sai hướng; chúng không bảo đảm AI luôn đúng, nhưng có thể thu hẹp thiệt hại.
Trách nhiệm cũng không chuyển sang nhà cung cấp mô hình chỉ vì hành động được thực hiện tự động. Tổ chức triển khai agent cần chỉ rõ ai chịu trách nhiệm về mục tiêu nghiệp vụ, ai đặt giới hạn truy cập, và ai có quyền dừng hệ thống khi phát hiện hành vi bất thường. Nếu không có người sở hữu quyết định đó, việc thêm AI chỉ làm mờ thêm đường truy trách nhiệm.
Khảo sát phản ánh câu trả lời của lãnh đạo doanh nghiệp tại 10 thị trường, không phải phép đo độc lập về mọi triển khai AI. Dù vậy, chênh lệch giữa mức tự tin về khả năng quan sát và khả năng kiểm toán là lời nhắc rõ ràng: trước khi trao thêm quyền cho agent, doanh nghiệp cần chứng minh mình có thể giới hạn, ghi nhận và đảo ngược hành động của nó.
Nguồn tham khảo: Illumio; Help Net Security.
