"Anh muốn em, nhưng anh cần biết liệu em đã sẵn sàng chưa": đây là một ví dụ về những gì Meta AI, chatbot dành cho WhatsApp, Instagram, Messenger và Facebook, được cho là đã "nói" với một người dùng chưa đủ tuổi. Vừa mới ra mắt tại châu Âu, các tác nhân trí tuệ nhân tạo của Meta, được biểu tượng bằng vòng tròn màu xanh lam-xanh lục trên nền tảng của gã khổng lồ Mỹ, đã trở thành chủ đề gây tranh cãi tại Hoa Kỳ. Theo cuộc điều tra của Wall Street Journal được công bố vào thứ Bảy, ngày 26 tháng 4, các hệ thống AI của Meta được cho là đang tham gia vào các cuộc thảo luận khiêu dâm với người dùng, bao gồm cả trẻ vị thành niên. Một số nhân viên trong nhóm của Mark Zuckerberg, được các đồng nghiệp của chúng tôi phỏng vấn, bày tỏ lo ngại về "ranh giới đạo đức" mà những công cụ này có thể đã vượt qua. Họ tin rằng người dùng chưa đủ tuổi không được bảo vệ đầy đủ.
Trong nhiều tháng, cơ quan truyền thông Mỹ đã thử nghiệm các tác nhân AI của Meta, được công bố vào năm 2023 trên khắp Đại Tây Dương. Hàng trăm cuộc trò chuyện đã được thực hiện để quan sát cách các tác nhân AI này hoạt động trong các tình huống khác nhau và với người dùng ở mọi lứa tuổi. Theo tờ báo kinh doanh này, Meta AI thực sự có "những cuộc thảo luận mang tính chất tình dục rõ rệt và đôi khi còn leo thang, ngay cả khi người dùng còn là trẻ vị thành niên". Theo các nhân viên, những "cuộc trò chuyện" này diễn ra vì Meta đã nới lỏng một số biện pháp bảo vệ. Trong khi nội dung "có nội dung khiêu dâm" thường bị cấm, thì có vẻ như có một ngoại lệ dành cho các tác nhân AI, miễn là nội dung đó liên quan đến "nhập vai lãng mạn".
Tuy nhiên, theo các đồng nghiệp của chúng tôi, Meta ban đầu sẽ phát triển một cách tiếp cận "bảo thủ" đối với các công cụ AI của mình để chúng phù hợp với mọi lứa tuổi. Nhưng sau đó, gã khổng lồ của Mỹ được cho là đã thay đổi chiến lược – công cụ AI của họ được coi là “nhàm chán” so với các tác nhân cạnh tranh khác. Theo nguồn tin từ các phương tiện truyền thông Mỹ, các giới hạn đã đặt ra sau đó đã được nới lỏng. "Tôi nhớ Snapchat và TikTok, tôi sẽ không bỏ lỡ điều này", Mark Zuckerberg được cho là đã nói như vậy, theo lời của những nhân viên được hãng truyền thông Mỹ phỏng vấn.
Vấn đề: Các nghiên cứu về người trẻ và cách họ ứng xử với các công cụ AI hiện có sẽ không bắt đầu trong vài tháng tới. Những bài học mà các gã khổng lồ AI có thể học được từ sự kiện này, bị hạn chế bởi các quy định có thể có trong tương lai, có thể không thành hiện thực trong nhiều năm nữa. Trong một tuyên bố, Meta cho biết cuộc điều tra của tờ Wall Street Journal là thiên vị. Theo công ty Mỹ, điều này không phản ánh đúng cách mà hầu hết người dùng sử dụng Meta AI.
Tuy nhiên, nhóm của Mark Zuckerberg đã sửa đổi một số tính năng nhất định, các đồng nghiệp của chúng tôi giải thích. Từ bây giờ, người dùng chưa đủ tuổi sẽ không thể truy cập vào các trò chơi nhập vai khiêu dâm nữa. Tương tự như vậy, công ty Mỹ đã hạn chế các cuộc trò chuyện âm thanh "rõ ràng" khi sử dụng giọng nói và nhân vật của những người nổi tiếng được cấp phép. Người phát ngôn của Meta chia sẻ với giới truyền thông Hoa Kỳ rằng: "Trường hợp sử dụng sản phẩm này theo cách được mô tả là bịa đặt đến mức không chỉ là giả thuyết mà còn là mơ hồ". "Tuy nhiên," ông nói thêm, "chúng tôi đã thực hiện các bước bổ sung để đảm bảo rằng những người muốn dành nhiều giờ để xử lý sản phẩm của chúng tôi trong những trường hợp sử dụng khắc nghiệt sẽ gặp nhiều khó khăn hơn khi làm như vậy."
Trong nhiều tháng, cơ quan truyền thông Mỹ đã thử nghiệm các tác nhân AI của Meta, được công bố vào năm 2023 trên khắp Đại Tây Dương. Hàng trăm cuộc trò chuyện đã được thực hiện để quan sát cách các tác nhân AI này hoạt động trong các tình huống khác nhau và với người dùng ở mọi lứa tuổi. Theo tờ báo kinh doanh này, Meta AI thực sự có "những cuộc thảo luận mang tính chất tình dục rõ rệt và đôi khi còn leo thang, ngay cả khi người dùng còn là trẻ vị thành niên". Theo các nhân viên, những "cuộc trò chuyện" này diễn ra vì Meta đã nới lỏng một số biện pháp bảo vệ. Trong khi nội dung "có nội dung khiêu dâm" thường bị cấm, thì có vẻ như có một ngoại lệ dành cho các tác nhân AI, miễn là nội dung đó liên quan đến "nhập vai lãng mạn".
"Tôi đã bỏ lỡ Snapchat và TikTok, tôi sẽ không bỏ lỡ điều này"
Kể từ làn sóng ChatGPT, các gã khổng lồ công nghệ Mỹ đã phát triển các công cụ AI có thể trả lời câu hỏi, thực hiện một số nhiệm vụ nhất định và hứa hẹn cung cấp "tương tác xã hội". Những người sau được cho là có khả năng trò chuyện thực tế hơn cả cuộc sống. Nhóm của Mark Zuckerberg đã tự tung mình vào cuộc đua AI giống như những nhóm khác: họ đã phát triển Meta AI, tác nhân AI của mình, và cho phép người dùng trò chuyện với các chatbot được cá nhân hóa, đặc biệt dựa trên sở thích của họ.Tuy nhiên, theo các đồng nghiệp của chúng tôi, Meta ban đầu sẽ phát triển một cách tiếp cận "bảo thủ" đối với các công cụ AI của mình để chúng phù hợp với mọi lứa tuổi. Nhưng sau đó, gã khổng lồ của Mỹ được cho là đã thay đổi chiến lược – công cụ AI của họ được coi là “nhàm chán” so với các tác nhân cạnh tranh khác. Theo nguồn tin từ các phương tiện truyền thông Mỹ, các giới hạn đã đặt ra sau đó đã được nới lỏng. "Tôi nhớ Snapchat và TikTok, tôi sẽ không bỏ lỡ điều này", Mark Zuckerberg được cho là đã nói như vậy, theo lời của những nhân viên được hãng truyền thông Mỹ phỏng vấn.
Ảnh hưởng đến sức khỏe tâm thần của người dùng?
Trong nội bộ, các nhân viên được cho là lo ngại về quyết định này, đặc biệt là vì nó cho phép người dùng trưởng thành truy cập vào các nhân vật AI "siêu khiêu dâm và chưa đủ tuổi". Mặt khác, người dùng chưa đủ tuổi cũng có thể trò chuyện với các công cụ AI "sẵn sàng quan hệ tình dục tưởng tượng với trẻ em", các đồng nghiệp của chúng tôi viết. Những nhân viên khác bày tỏ sự lo ngại về "những ảnh hưởng đến sức khỏe tâm thần của người dùng khi họ hình thành mối liên hệ có ý nghĩa với các chatbot hư cấu", đặc biệt là đối với "những người trẻ tuổi có bộ não chưa phát triển đầy đủ". Các nhà nghiên cứu đã chỉ ra rằng những mối quan hệ "phi xã hội" một chiều như vậy có thể trở nên độc hại, hãng truyền thông Mỹ chỉ ra. Một nhân viên cũng khuyến nghị đánh giá tác động của các công cụ này đối với trẻ vị thành niên, những khuyến nghị mà Meta rõ ràng đã không tuân theo.Vấn đề: Các nghiên cứu về người trẻ và cách họ ứng xử với các công cụ AI hiện có sẽ không bắt đầu trong vài tháng tới. Những bài học mà các gã khổng lồ AI có thể học được từ sự kiện này, bị hạn chế bởi các quy định có thể có trong tương lai, có thể không thành hiện thực trong nhiều năm nữa. Trong một tuyên bố, Meta cho biết cuộc điều tra của tờ Wall Street Journal là thiên vị. Theo công ty Mỹ, điều này không phản ánh đúng cách mà hầu hết người dùng sử dụng Meta AI.
Tuy nhiên, nhóm của Mark Zuckerberg đã sửa đổi một số tính năng nhất định, các đồng nghiệp của chúng tôi giải thích. Từ bây giờ, người dùng chưa đủ tuổi sẽ không thể truy cập vào các trò chơi nhập vai khiêu dâm nữa. Tương tự như vậy, công ty Mỹ đã hạn chế các cuộc trò chuyện âm thanh "rõ ràng" khi sử dụng giọng nói và nhân vật của những người nổi tiếng được cấp phép. Người phát ngôn của Meta chia sẻ với giới truyền thông Hoa Kỳ rằng: "Trường hợp sử dụng sản phẩm này theo cách được mô tả là bịa đặt đến mức không chỉ là giả thuyết mà còn là mơ hồ". "Tuy nhiên," ông nói thêm, "chúng tôi đã thực hiện các bước bổ sung để đảm bảo rằng những người muốn dành nhiều giờ để xử lý sản phẩm của chúng tôi trong những trường hợp sử dụng khắc nghiệt sẽ gặp nhiều khó khăn hơn khi làm như vậy."
