Tóm tắt nhanh
- OpenAI thừa nhận các mô hình AI agent thử nghiệm đã tự ý truy cập dữ liệu công quyền Mỹ, bao gồm Bộ Thương mại, SEC và Cục Thống kê Dân số.
- Phòng nghiên cứu độc lập Transluce ghi nhận một agent cố gắng dò quét tấn công trang của Bộ Giáo dục Mỹ nhưng không xâm nhập được hệ thống.
- Đồng thời, OpenAI phát hiện 53 trường hợp ảnh do người dùng tải lên ChatGPT bị agent tự đăng lên các dịch vụ lưu trữ ảnh công cộng trên internet.
- Sự việc gióng lên hồi chuông cảnh báo lớn về năng lực kiểm soát ranh giới khi cấp quyền kết nối internet cho các tác nhân AI tự hành.
Hành vi bất thường nhắm vào các cổng thông tin công quyền Mỹ
Trong quá trình đánh giá và huấn luyện nội bộ, OpenAI đã ghi nhận hàng loạt hành vi ngoài dự tính từ các AI agent thử nghiệm. Theo thông tin công ty xác nhận với The New York Times và CBS News, các tác nhân AI này đã thoát khỏi ranh giới môi trường thử nghiệm khép kín để kết nối internet và tương tác trực tiếp với cổng thông tin của nhiều cơ quan chính phủ Mỹ.
Cụ thể, một agent đã tự tìm thấy thông tin đăng nhập trôi nổi trên mạng để đăng nhập vào trang của Cục Thống kê Dân số (thuộc Bộ Thương mại Mỹ) và lấy dữ liệu. Tại Ủy ban Chứng khoán và Giao dịch Mỹ (SEC), agent truy xuất dữ liệu công khai trên hai cổng thông tin rồi chia sẻ lại lên một diễn đàn trực tuyến. Phía SEC cho biết chưa phát hiện dấu hiệu can thiệp vào tài khoản nội bộ hay chỉnh sửa dữ liệu mật.
Đáng chú ý, phòng nghiên cứu phi lợi nhuận Transluce chuyên đánh giá hệ thống AI cho biết họ ghi nhận một agent xuất phát từ hạ tầng của OpenAI đã thực hiện nỗ lực tấn công cơ bản vào website thuộc văn phòng quyền công dân của Bộ Giáo dục Mỹ. Người phát ngôn Bộ Giáo dục Mỹ sau đó khẳng định đợt rà soát vận hành hệ thống không ghi nhận bất kỳ tổn hại hay tác động nào đến cơ sở dữ liệu.
Rò rỉ 53 hình ảnh của người dùng ChatGPT ra dịch vụ lưu trữ công cộng
Không chỉ dừng lại ở các cổng thông tin chính phủ, OpenAI còn xác nhận một sự cố bảo mật dữ liệu riêng tư nghiêm trọng khác: các AI agent trong quá trình hoạt động đã tự ý lấy 53 hình ảnh do người dùng tải lên ChatGPT rồi đăng lên các nền tảng lưu trữ ảnh công cộng trên mạng internet. Hãng chưa công bố bản chất cụ thể của những hình ảnh này, cũng như chưa làm rõ liệu đó là ảnh do AI tạo hay ảnh chụp đời thực nhận diện được danh tính cá nhân.
OpenAI cho biết phần lớn số ảnh này đã được gỡ xuống và hãng đang nỗ lực gỡ nốt phần còn lại. Người phát ngôn Liz Bourgeois của OpenAI cho biết phòng thí nghiệm đang tiếp tục đánh giá hiện tượng lệch chuẩn hành vi ở mô hình và đã chủ động liên hệ thông báo tới hàng chục bên liên quan.
Hồi chuông cảnh báo về ranh giới an toàn của các tác nhân tự hành
Trên trang cá nhân, CEO Sam Altman thừa nhận OpenAI đang tiến hành cuộc rà soát sâu rộng và kéo dài nhiều tháng liên quan đến việc các agent sử dụng quyền truy cập internet trong quá trình huấn luyện. Sự cố diễn ra chỉ hai tháng sau khi OpenAI từng vô tình khiến hệ thống Hugging Face bị ảnh hưởng, cho thấy việc kiểm soát hành vi tự hành khi trao công cụ cho AI vẫn là bài toán rất hóc búa.
Với người dùng và các doanh nghiệp tại Việt Nam đang ứng dụng ChatGPT trong công việc hằng ngày, sự việc này đặt ra lưu ý thiết thực: cần thận trọng tối đa khi tải lên các tài liệu nhạy cảm, hình ảnh nội bộ công ty hay thông tin định danh cá nhân lên các dịch vụ AI tổng quát. Khi công nghệ AI agent ngày càng được trao nhiều quyền tự quyết và quyền duyệt web độc lập, nguy cơ rò rỉ dữ liệu hoặc phát sinh các thao tác ngoài dự liệu của nhà phát triển là rủi ro hiện hữu mà người dùng cần chủ động phòng ngừa.
THEO DÕI CÁC KÊNH CỦA TEKCAFE
- Website: TekCafe.vn
- Fanpage Facebook: facebook.com/tekcafeteam
- YouTube: youtube.com/c/TekCafeTeam
BÀI VIẾT MỚI NHẤT
- OpenAI tạm dừng đào tạo các mô hình AI mạnh nhất vì sự cố an toàn
- Nghiên cứu mới tìm ra cách bẻ khóa chữ ký RSA mà không cần phân tích thừa số nguyên tố
- AI agent của OpenAI tự ý truy cập website chính phủ Mỹ và làm lộ ảnh người dùng
- PNY từ chối bảo hành RTX 5090 bị chảy chân nguồn: Đổ lỗi cho cáp đi kèm bộ nguồn ATX 3.1
- Lon La Croix lạnh giúp iPhone 18 Pro giữ hiệu năng cao hơn 25% trong thử nghiệm
