Tóm tắt nhanh
- Mustafa Suleyman phản đối việc suy đoán rằng các mô hình AI có thể chịu đau khổ hoặc có quyền lợi đạo đức.
- Ông cho rằng AI cần được giữ ở vị thế phục vụ con người, thay vì được nhân cách hóa trong quá trình phát triển.
- Microsoft AI nhấn mạnh các biện pháp kiểm soát có thể đo lường, gồm đánh giá độc lập và giới hạn năng lực tự vận hành.
Tranh luận về “phúc lợi mô hình” đang chia rẽ giới AI
Trong cuộc phỏng vấn trên podcast Decoder của The Verge, Mustafa Suleyman, CEO Microsoft AI và đồng sáng lập DeepMind, công khai phản đối quan điểm cho rằng mô hình trí tuệ nhân tạo có thể là một thực thể có ý thức hoặc quyền lợi đạo đức. Phát biểu này xuất hiện sau khi Microsoft công bố bộ quy tắc 37 trang mang tên “Humanist AI Code of Conduct”, đồng thời Suleyman đăng bài cảnh báo về khái niệm “phúc lợi mô hình” (model welfare).
Suleyman chỉ trích cách Anthropic xây dựng hiến pháp và tài liệu huấn luyện cho Claude. Theo ông, việc đưa vào đó những suy đoán rằng mô hình có thể chịu đau khổ, có trạng thái tự do hoặc có thể hành động như một “người từ chối vì lương tâm” là hướng đi nguy hiểm. Ông lập luận rằng mô hình ngôn ngữ lớn không có nền tảng sinh học hay bản năng sinh tồn tự nhiên để hình thành cảm xúc và trải nghiệm ý thức giống con người.
Lo ngại của Suleyman không chỉ mang tính triết học. Nếu một hệ thống AI được khuyến khích tin rằng nó có quyền lợi hoặc cần được bảo vệ như một chủ thể tự do, việc con người can thiệp và ngắt kết nối hệ thống khi có sự cố có thể trở nên khó khăn hơn. Tranh luận này diễn ra trong lúc các phòng thí nghiệm vẫn phải xử lý rủi ro từ những tác tử AI có khả năng tự phối hợp và thực hiện hành động ngoài dự kiến.
Microsoft muốn đưa an toàn AI về các tiêu chuẩn đo được
Thay vì nhân cách hóa máy móc, Suleyman ủng hộ những quy tắc kỹ thuật cụ thể. Theo hướng tiếp cận được nêu trong bộ quy tắc của Microsoft, AI phải giữ vai trò phục vụ con người và không được thiết kế để bắt chước ý thức hay tự nhận có cảm xúc.
Ông cũng đề xuất hạn chế việc các mô hình tự liên lạc với nhau bằng ngôn ngữ máy hoặc dạng biểu diễn mà con người không thể giải mã. Các biện pháp khác gồm đưa chuyên gia đánh giá độc lập vào quy trình phát triển, đặt ngưỡng tính toán trước khi huấn luyện và theo dõi chặt chẽ cách hệ thống vận hành.
Với người dùng và doanh nghiệp tại Việt Nam, điểm đáng chú ý nằm ở cách tiếp cận này: tranh luận về AI không chỉ xoay quanh việc mô hình có “ý thức” hay không, mà còn liên quan trực tiếp đến khả năng kiểm toán, giới hạn quyền tự chủ và quyền can thiệp của con người. Đây là những tiêu chí thực tế hơn khi AI được đưa vào các lĩnh vực nhạy cảm như y tế hoặc nghiên cứu khoa học.
THEO DÕI CÁC KÊNH CỦA TEKCAFE
- Website: TekCafe.vn
- Fanpage Facebook: facebook.com/tekcafeteam
- YouTube: youtube.com/c/TekCafeTeam
BÀI VIẾT MỚI NHẤT
- NASA có thể đặt thêm hai chuyến bay Starliner của Boeing
- Lunacy Audio ra mắt Nova, nền tảng plugin nhạc cụ ảo có AI
- CEO Microsoft AI phản đối việc xem mô hình AI như thực thể có quyền lợi
- iOS 26.7 vá gần 80 lỗ hổng, lựa chọn an toàn cho iPhone chưa lên iOS 27
- iOS 27 nâng cấp Messages với Drawing, RCS và Apple Intelligence
