Tóm tắt nhanh
- Lãnh đạo Anthropic, OpenAI và xAI cùng bày tỏ sự ủng hộ với việc kiểm soát tốc độ phát triển AI biên giới.
- Tranh luận bùng lên sau cảnh báo của cựu nhà nghiên cứu Anthropic Jacob Coxon về rủi ro AI trong thập kỷ tới.
- Anthropic đề xuất đưa giám sát độc lập vào sâu trong quá trình huấn luyện và đánh giá mô hình.
- Việc phối hợp vẫn gặp trở ngại về cạnh tranh, chống độc quyền và khác biệt địa chính trị.
Cảnh báo về rủi ro AI làm nóng tranh luận an toàn
Jacob Coxon, người từng làm việc tại OpenAI và Anthropic, đã công khai lý do rời ngành cùng cảnh báo rằng cuộc đua phát triển siêu trí tuệ nhân tạo đang thiếu các biện pháp kiểm soát cần thiết. Bài đăng của ông thu hút hơn 150 triệu lượt tiếp cận và cho rằng kịch bản AI gây thảm họa cho con người có thể xuất hiện trước năm 2030.
Evan Hubinger, phụ trách khoa học căn chỉnh tại Anthropic, nói mối lo ngại này có cơ sở. Theo đánh giá cá nhân của ông, xác suất AI gây ra thảm họa tuyệt chủng trong thập kỷ tới vượt 10%, trong khi ngành vẫn chưa có lời giải rõ ràng cho bài toán căn chỉnh siêu trí tuệ.
Những lo ngại này gắn với sự phát triển của các AI agent tự hành. Dario Amodei cảnh báo các bầy agent có thể tạo ra mạng botnet dai dẳng trong 6 đến 12 tháng tới nếu thiếu chốt chặn, gây tổn thất tài chính và an ninh rất lớn.
Giám sát độc lập được xem là chốt chặn cần thiết
CEO Anthropic Dario Amodei đề xuất kế hoạch ba điểm để kiểm soát nhịp độ phát triển AI biên giới. Trọng tâm là đưa các bên giám sát độc lập vào quy trình nghiên cứu, với quyền tiếp cận hệ thống tương đương nhân viên nội bộ để đánh giá an toàn và mức độ căn chỉnh ngay trong quá trình huấn luyện.
Sam Altman công khai tán thành quan điểm này và cho biết OpenAI cũng sẽ áp dụng cơ chế giám sát độc lập tương tự. Elon Musk đồng thuận với lời kêu gọi thận trọng, còn Demis Hassabis của Google DeepMind đánh giá đây là hướng đi phù hợp trước thời điểm then chốt của ngành.
Hợp tác an toàn vẫn vướng cạnh tranh và địa chính trị
Dù cùng nói về nhu cầu giảm tốc, các công ty AI lớn vẫn phải đối mặt với bài toán phối hợp phức tạp. Việc điều chỉnh tốc độ giữa các đối thủ có thể liên quan đến quy định chống độc quyền, cơ chế giám sát của chính phủ và nguy cơ mất lợi thế trong cuộc đua chiến lược toàn cầu.
Vì vậy, sự đồng thuận hiện nay mới dừng ở lời kêu gọi và các đề xuất giám sát, chưa phải một thỏa thuận chung có tính ràng buộc. Với người dùng, tranh luận này cho thấy các tính năng AI mới không chỉ phụ thuộc vào tốc độ phát triển sản phẩm mà còn vào cách các hãng kiểm soát rủi ro trước khi đưa chúng ra thực tế.
THEO DÕI CÁC KÊNH CỦA TEKCAFE
- Website: TekCafe.vn
- Fanpage Facebook: facebook.com/tekcafeteam
- YouTube: youtube.com/c/TekCafeTeam
BÀI VIẾT MỚI NHẤT
- Google Drive mở chương trình beta trên Android, cho dùng thử tính năng mới sớm hơn
- Ba hãng AI lớn cùng ủng hộ việc giảm tốc cuộc đua phát triển mô hình mới
- Galaxy S27 Ultra có thể giữ camera zoom 5x thay vì nâng cấp lên 4x
- Tin đồn màn hình Galaxy S27
- Đánh giá Acer Vero 16: Thiết kế module dễ sửa chữa và nâng cấp
