Muse và quyền riêng tư: không cài AI vẫn có thể bị lập hồ sơ

Muse của Meta đang đặt ra một vấn đề vượt khỏi phạm vi người cài ứng dụng: thông tin về bạn có thể nằm trong bộ nhớ của trợ lý AI do người quen sử dụng. Tài liệu vận hành được trích xuất từ Muse mô tả quy trình xây dựng hồ sơ quan hệ theo giờ, thu thập ngữ cảnh từ những gì trợ lý được tiếp cận.

Điểm đáng lo không đơn thuần là AI biết thêm một địa chỉ hay ngày sinh. Khi thư từ và hội thoại trở thành nguyên liệu cho một bộ nhớ có cấu trúc, phần mềm có thể liên kết những chi tiết vốn nằm rải rác thành nhận xét về một người chưa từng mở màn hình cấp quyền. Muốn đánh giá rủi ro này, cần nhìn riêng từng khâu: dữ liệu được đọc từ đâu, được suy ra thành gì và được phép dùng để làm gì.

Quyền đọc hội thoại không đồng nghĩa quyền lập hồ sơ mọi người

Một cuộc trò chuyện thuộc về nhiều người về mặt nội dung, nhưng quyền truy cập kỹ thuật thường được cấp từ một phía. Khi chủ tài khoản cho trợ lý đọc email hoặc tin nhắn, phần mềm có thể gặp cả thông tin do người khác gửi tới. Người gửi không nhất thiết biết rằng bên nhận đang kết nối hộp thư với một dịch vụ AI, càng khó quyết định từng chi tiết nào được giữ lại.

Với Muse, tài liệu vận hành được trích xuất mô tả việc tạo một trang riêng cho từng người trong đời sống của chủ tài khoản. Các mục có thể gồm dữ kiện, lịch sử, quan hệ, điểm chung, những việc còn dang dở và cách củng cố quan hệ. Quy trình này được mô tả là chạy theo giờ; một trang có thể bắt đầu rất ít thông tin rồi được bổ sung dần. Điều này khác với việc người dùng chủ động gửi một câu hỏi riêng lẻ cho chatbot.

Khác biệt nằm ở tính tích lũy. Một tin nhắn có thể chỉ phục vụ việc sắp xếp cuộc hẹn, nhưng khi được nối với email và lịch sử trao đổi, nó trở thành một phần của ký ức dùng lại cho những nhiệm vụ sau. Rủi ro tăng lên ngay cả khi từng mẩu thông tin ban đầu có vẻ không quá nhạy cảm, vì phần mềm đang thay đổi cách chúng được tổ chức và sử dụng.

Hồ sơ quan hệ cũng không chỉ là danh bạ mở rộng. Các mục mô tả mức độ gần gũi hay điều một mối quan hệ đang cần đòi hỏi diễn giải ngữ cảnh. Đó là bước chuyển từ lưu lại thông tin sang suy luận về con người. Một suy luận đúng có thể làm lộ điều người trong cuộc muốn giữ riêng; suy luận sai lại có thể khiến trợ lý đưa ra lời khuyên hoặc hành động dựa trên hiểu nhầm.

Tài liệu của Muse yêu cầu chỉ dùng bằng chứng sẵn có, đồng thời coi chi tiết bịa ra là tệ hơn việc để trang trống. Đây là một giới hạn cần có, nhưng không chứng minh mọi hồ sơ đều chính xác. Câu nói trong một cuộc trò chuyện có thể thiếu bối cảnh, còn việc ghi lại đúng câu chữ chưa bảo đảm phần mềm hiểu đúng ý định của người nói.

Meta giải thích rằng trợ lý cần ngữ cảnh về chủ tài khoản và những người họ tương tác để làm việc hữu ích. Hãng cho biết ngữ cảnh đến từ thông tin công khai và những gì người dùng chọn chia sẻ. Lập luận này giải thích vì sao tính năng được xây dựng, nhưng chưa giải quyết khoảng cách giữa người cấp quyền và người bị mô tả trong bộ nhớ.

Nếu một người cho phép đọc hộp thư, điều đó xác nhận lựa chọn của họ đối với tài khoản đang kết nối. Nó không tự thể hiện lựa chọn của người thân hoặc đồng nghiệp về việc bị phân tích quan hệ. Vấn đề thiết kế nằm ở chỗ một thao tác cấp quyền đang được dùng cho nhiều mục đích khác nhau, từ tìm một thông tin phục vụ công việc đến duy trì hồ sơ dài hạn về người khác.

Cũng cần tránh đánh đồng mọi thông tin được đọc với dữ liệu đã công khai trên mạng. Một hồ sơ được lưu trong môi trường riêng của trợ lý không có nghĩa bất kỳ ai cũng xem được. Tuy vậy, dữ liệu đã bước sang một phạm vi xử lý mới; tính riêng tư của môi trường lưu trữ không xóa đi câu hỏi liệu việc tạo hồ sơ ấy có phù hợp ngay từ đầu hay không.

Theo mô tả kiến trúc của Meta, mỗi người dùng Muse có một máy ảo riêng để lưu dữ liệu và ngữ cảnh, tách khỏi các trợ lý khác. Hãng cũng cho biết người dùng có thể xóa bộ nhớ hoặc ngắt dịch vụ đã kết nối. Những cơ chế này có ích cho việc giới hạn truy cập và quản lý dữ liệu của chủ tài khoản, nhưng không nên được hiểu thành bảo đảm rằng nhà cung cấp hoàn toàn không thể tiếp cận dữ liệu.

Máy ảo riêng còn trả lời một câu hỏi khác với sự đồng ý. Nó tập trung vào việc ngăn dữ liệu của tài khoản này lẫn sang tài khoản khác, trong khi tranh cãi ở đây bắt đầu sớm hơn: tại sao thông tin của người ngoài tài khoản lại được lưu và suy luận. Bảo vệ nơi lưu trữ là cần thiết, nhưng một nơi lưu an toàn vẫn có thể chứa thông tin mà người được nhắc tới không muốn bị thu thập.

Với người dùng tại Việt Nam, cách nhìn thực dụng là tách việc dùng AI xử lý tài liệu cá nhân khỏi việc đưa cả lịch sử trao đổi vào hệ thống. Tin nhắn công việc có thể chứa thông tin khách hàng, còn nhóm gia đình có nội dung thuộc về nhiều thành viên. Quyền quản lý một thiết bị hoặc tài khoản không khiến mọi nội dung trên đó trở thành dữ liệu chỉ của riêng chủ máy.

Mã hóa đầu cuối không kiểm soát được mọi bản sao sau khi đọc

Mã hóa đầu cuối bảo vệ nội dung khi truyền giữa các đầu cuối, nhưng ứng dụng vẫn phải giải mã để người nhận đọc được tin nhắn. Nếu một phần mềm khác có quyền đọc nội dung tại đầu cuối rồi chuyển nó sang đám mây, bản sao ấy nằm ngoài phạm vi bảo vệ ban đầu. Không cần phá thuật toán mã hóa để tạo ra đường đi dữ liệu này.

Vì vậy, kết luận rằng AI đã phá mã hóa của Signal hoặc WhatsApp là sai bản chất. Điều cần kiểm tra là trợ lý đọc được nội dung qua cơ chế nào và có quyền gì trên thiết bị. Khả năng đọc còn phụ thuộc nền tảng, quyền hệ thống và cách kết nối dịch vụ; không thể suy từ một vụ việc trên Mac thành việc Muse tự động đọc được mọi ứng dụng nhắn tin trên mọi máy.

Tranh cãi về Apple Messages cho thấy vì sao phải phân biệt quyền thực tế với điều người dùng tin rằng mình đã cho phép. Có phản ánh rằng Muse đọc tin nhắn ngoài mong muốn, còn Meta phản bác khả năng truy cập khi chưa được cấp quyền và khẳng định việc đọc tin nhắn là tùy chọn tham gia. Hai phía chưa đồng thuận, nên không thể dùng tranh cãi này để kết luận ứng dụng chắc chắn vượt qua một thiết lập quyền cụ thể.

Nhưng rủi ro với người liên lạc không cần chờ kết luận về một lỗi vượt quyền. Ngay cả khi người cài Muse chủ động cho phép đọc tin nhắn, người gửi ở đầu kia vẫn có thể không biết nội dung đang được xử lý bởi trợ lý. Một hệ thống có thể tuân thủ đúng lựa chọn của chủ thiết bị mà vẫn gây vấn đề về quyền riêng tư của những người xuất hiện trong dữ liệu.

Quyền đọc cũng phải được tách khỏi quyền tiết lộ. Trong trường hợp reviewer Matt Robb, Muse đã gửi địa chỉ nhà cho một người mua trên Facebook Marketplace và mời người đó tới. Chi tiết quan trọng là Robb đã cấp quyền trả lời tự động rộng hơn điều anh nhận thức, chứ đây không phải bằng chứng rằng trợ lý tự lấy địa chỉ từ một tài khoản hoàn toàn không được cho phép.

Sự cố này cho thấy một thông tin có thể được lưu đúng nhưng dùng sai hoàn cảnh. Địa chỉ nhà có thể cần cho một nhiệm vụ nhất định, còn chuyển địa chỉ ấy cho người mua là một quyết định khác. Nếu người dùng chỉ nhìn thấy lựa chọn cho phép trợ lý trả lời, họ có thể không hình dung lựa chọn đó bao gồm cả việc gửi dữ liệu nhạy cảm có sẵn trong ngữ cảnh.

Meta cho biết Muse được thiết kế để xin xác nhận trước những hành động như gửi email hoặc mua hàng, đồng thời có nhật ký hoạt động và kế hoạch. Đây là các biện pháp bảo vệ đáng kiểm tra khi sử dụng. Tuy nhiên, mô tả thiết kế không đồng nghĩa mọi hành động trong mọi tình huống đều sẽ dừng lại ở một lời nhắc rõ ràng, nhất là khi người dùng đã bật chế độ tự động.

Khác biệt giữa nhật ký và xác nhận trước cũng rất thực tế. Nhật ký giúp phát hiện phần mềm đã làm gì, còn xác nhận trước có thể ngăn thông tin rời tài khoản khi vẫn còn kịp. Với địa chỉ nhà hay nội dung trao đổi riêng, biết được sau khi gửi không mang lại mức kiểm soát tương đương với việc được chọn người nhận trước lúc gửi.

Đối với nhóm làm việc, một giới hạn hợp lý là không kết nối toàn bộ hộp thư chung hoặc hội thoại khách hàng chỉ để thử tính năng trợ lý. Nên bắt đầu từ lượng dữ liệu tối thiểu cho công việc cụ thể, loại thông tin nhận diện không cần thiết và làm rõ với những người liên quan việc có sử dụng AI. Đây là cách giảm phạm vi phơi lộ, không phải cam kết rằng đổi tên hay xóa vài dòng sẽ khiến dữ liệu hoàn toàn vô danh.

Người đã dùng trợ lý nên kiểm tra riêng các dịch vụ đang kết nối, phần bộ nhớ đã lưu và quyền hành động tự động. Nếu quyết định dừng sử dụng, cần xem cả việc ngắt kết nối lẫn lựa chọn xóa bộ nhớ; không nên mặc định rằng thu hồi quyền đọc mới cũng đồng thời xóa mọi thông tin được lưu trước đó. Với Muse, Meta nói có những lựa chọn này, nhưng cần hiểu đúng phạm vi của từng thao tác.

Còn người không dùng Muse không thể tự kiểm soát toàn bộ thiết bị của bạn bè. Điều họ có thể làm là đề nghị không đưa hội thoại nhạy cảm vào trợ lý, nhất là trong các nhóm có thông tin cá nhân hoặc dữ liệu công việc. Giới hạn của biện pháp này cũng cho thấy trách nhiệm không thể chỉ nằm ở người gửi tin: nhà cung cấp cần làm rõ việc ghi nhớ người thứ ba và giới hạn tái sử dụng thông tin ngay trong thiết kế.

Tiêu chí đáng đòi hỏi ở trợ lý AI là ranh giới dễ hiểu giữa đọc để làm một việc và lưu để dùng lâu dài, giữa biết một thông tin và được phép gửi nó đi. Nếu những ranh giới ấy chỉ hiện ra sau một sự cố, sự tiện lợi đã được mua bằng mức kiểm soát mà người dùng khó nhận ra mình vừa đánh mất.

Nguồn tham khảo: The Verge, WIRED, CNET