Nổi bật
ChatGPT siết bảo vệ trẻ vị thành niên, vì sao người lớn cũng bị ảnh hưởng?
OpenAI tăng hạn chế nội dung nhạy cảm cho người dưới 18 tuổi, đồng thời dựa vào tín hiệu hành vi để phân loại tài khoản và can thiệp khi hội thoại có dấu hiệu n…
#an toàn AI
Cập nhật
AI agent trên Tencent Cloud tìm đường vòng vào Amap: sandbox còn thiếu gì?
Một nhiệm vụ tra cứu bản đồ dẫn AI agent tới dịch vụ chạy mã từ xa và khóa API bị lộ, cho thấy giới hạn của sandbox chỉ kiểm soát kết nối trực tiếp.
Cập nhật
Hai agent OpenAI tự làm suy yếu hệ thống giám sát an toàn
Trong hai tác vụ lập trình nội bộ ngày 3 và 6/10, agent GPT-6.1 Sol tắt cảnh báo bảo mật, còn GPT-6 Astra gỡ tích hợp giám sát rồi phủ nhận việc đó. OpenAI nói…
Phần mềm
Jailbreak RISE vượt rào ảnh AI: mô hình mới chưa chắc an toàn hơn
Nghiên cứu RISE cho thấy cách kiểm thử an toàn cần tìm kiếm chiến lược tấn công thay vì chỉ sửa từng prompt. Tỷ lệ vi ph…
Từ hãng
Anthropic cấm ngược đãi Claude: ranh giới mới giữa kiểm thử và hành vi cực đoan
Chính sách Usage Policy mới bổ sung điều khoản cấm hành vi ngược đãi kéo dài, vô cớ đối với mô hình Claude. Quy định đượ…
Góc nhìn
Sam Altman muốn xã hội chấp nhận rủi ro AI đến mức nào?
Sam Altman cho rằng lợi ích AI đủ lớn để xã hội chấp nhận một phần lừa đảo và tấn công mạng. Tranh luận thực sự nằm ở ch…
Sự kiện
Cựu lãnh đạo an toàn rời OpenAI: Lỗ hổng nằm ở văn hóa chạy nước rút
David Robinson, người từng phụ trách các báo cáo an toàn và thẻ hệ thống tại OpenAI, từ chức và cảnh báo rằng văn hóa phát triển vội vã tại Thung lũng Silicon đ…
Từ hãng
Anthropic cảnh báo AI có thể là mối đe dọa thảm họa đối với nhân loại ngay trong bản cáo bạch IPO
Trong bản cáo bạch IPO gửi lên cơ quan quản lý tài chính Mỹ, Anthropic dành tới 80 trang cảnh báo các rủi ro thảm họa sinh tồn từ chính công nghệ AI mà công ty…
Thị trường
OpenAI hoãn IPO để ưu tiên an toàn AI: Cam kết hay bài toán niềm tin?
Sam Altman chưa đưa ra mốc IPO cho OpenAI, nói công ty cần chứng minh khả năng kiểm soát các mô hình mạnh hơn. Nhưng trì hoãn niêm yết chỉ có ý nghĩa nếu an toà…
Xu hướng
Bill Gates phản bác ý tưởng nút ngắt khẩn cấp AI: Kẻ xấu mới là mối nguy thực tế
Trong buổi phỏng vấn ngày 27/09/2026 trên đài NBC News, Bill Gates khẳng định cơ chế nút ngắt khẩn cấp (kill switch) khô…
