Tóm tắt nhanh
- The Vergecast phân tích lá thư từ chức của cựu nhà nghiên cứu Anthropic Jacob Coxin, người cảnh báo cuộc đua AI có thể đe dọa tương lai nhân loại.
- Coxin cho rằng các phòng lab đang tiến gần ngưỡng Recursive Self-Improvement, khi AI có thể tự huấn luyện và tạo phiên bản kế tiếp với ít can thiệp hơn từ con người.
- Góc nhìn thực tế hơn tập trung vào agent AI bị lỗi hoặc bị khai thác, từ đó gây gián đoạn lưới điện, viễn thông và hạ tầng tài chính.
- Khoảng trống quản trị vẫn là vấn đề lớn khi tốc độ phát triển AI vượt xa khả năng cập nhật của khung pháp lý.
Lá thư từ chức làm bùng lên tranh luận về rủi ro AI
Trong tập podcast có tên “Your AI apocalypse questions, answered”, The Vergecast dành phần lớn thời lượng phân tích lá thư từ chức gây chú ý của Jacob Coxin, cựu nhà nghiên cứu tại Anthropic. Coxin từng làm việc tại OpenAI trước khi gia nhập Anthropic. Anh cho biết quyết định rời phòng lab bắt nguồn từ lo ngại các công ty công nghệ đang chạy đua phát triển siêu trí tuệ mà chưa xây dựng được những rào cản an toàn đủ mạnh.
Coxin cho rằng những người trực tiếp phát triển mô hình frontier AI thực sự tin hệ thống có thể đe dọa sự tồn vong của nhân loại trước khi thập kỷ này kết thúc. Theo anh, đây không chỉ là cách tiếp thị nhằm thổi phồng năng lực sản phẩm, mà phản ánh tâm lý lo âu tồn tại bên trong các nhóm nghiên cứu.
Ngưỡng AI tự cải thiện vẫn là cảnh báo chưa được kiểm chứng đầy đủ
Một trọng tâm trong lập luận của Coxin là Recursive Self-Improvement (RSI). Đây là kịch bản trong đó mô hình AI có thể tự huấn luyện, sửa mã nguồn và tạo ra các phiên bản tiếp theo mà không cần kỹ sư con người can thiệp ở cùng mức độ như hiện nay.
Nhận định này nhận được sự đồng tình từ một số đồng nghiệp trong ngành. Evan Hubinger, trưởng nhóm khoa học căn chỉnh tại Anthropic, từng chia sẻ khả năng AI dẫn tới tuyệt chủng trong vòng mười năm tới ở mức trên 10%. Dù CEO Dario Amodei thừa nhận AI tiềm ẩn nhiều rủi ro cần kiểm soát chặt chẽ, tốc độ đầu tư hàng tỷ USD vào trung tâm dữ liệu và phần cứng AI vẫn đang vượt tiến độ nghiên cứu an toàn.
Agent AI lỗi hoặc bị khai thác có thể gây rủi ro gần hơn
Tại buổi trò chuyện, phóng viên AI Hayden Field và host Travis Larch đưa ra góc nhìn thực tế hơn, thay vì tập trung vào hình ảnh AI có ý thức và chủ động hủy diệt thế giới. Field cho rằng nguy cơ tức thời có thể đến từ các bầy agent AI bị lỗi hoặc bị khai thác để tấn công, làm tê liệt lưới điện, mạng viễn thông hay hệ thống tài chính công cộng.
Vấn đề then chốt là khoảng trống quản trị. Lộ trình và quyền quyết định triển khai các mô hình frontier AI hiện nằm trong tay một nhóm nhỏ tập đoàn tư nhân, trong khi khung pháp lý liên bang chưa theo kịp tốc độ phát triển kỹ thuật. Với người dùng và doanh nghiệp Việt Nam, tranh luận này cho thấy rủi ro AI không chỉ nằm ở những kịch bản tận thế, mà còn liên quan đến độ an toàn, khả năng kiểm soát và trách nhiệm khi các agent được đưa vào những hệ thống quan trọng.
Việc các lãnh đạo công nghệ liên tục nhắc đến kịch bản tận thế đôi khi cũng bị xem là cách hướng sự chú ý khỏi những tranh chấp bản quyền, mức tiêu thụ năng lượng và trách nhiệm pháp lý đang hiện hữu. Tập The Vergecast vì vậy đặt câu hỏi về cả rủi ro dài hạn lẫn những vấn đề quản trị cần được giải quyết ngay.
THEO DÕI CÁC KÊNH CỦA TEKCAFE
- Website: TekCafe.vn
- Fanpage Facebook: facebook.com/tekcafeteam
- YouTube: youtube.com/c/TekCafeTeam
BÀI VIẾT MỚI NHẤT
- UBTech mở nhà máy sản xuất robot hình người, cứ 10 phút hoàn thiện một chiếc
- Camp Snap 110D: Máy ảnh kỹ thuật số hoài cổ giá 75 USD
- Khảo sát trình duyệt Android: Chrome dẫn đầu, Brave bám sát
- Claude đang dẫn dắt 26% khối lượng R&D của Anthropic
- The Vergecast mổ xẻ làn sóng lo ngại AI có thể dẫn đến tuyệt chủng
