“Bạn nói rằng bạn cảm thấy quá tải công việc, tôi có thể giữ lại cho bạn tấm vé xem phim mà chúng ta đã nói không?” Theo Tiến sĩ Yaqub Chaudhary và Tiến sĩ Jonnie Penn, hai nhà nghiên cứu tại Đại học Cambridge, những gã khổng lồ về trí tuệ nhân tạo (AI) sẽ sớm bán “ý định của chúng ta”, sau khi những người chiến thắng trong quảng cáo nhắm mục tiêu (Google, Facebook) đã thương mại hóa sự chú ý của chúng ta.
Các nhà nghiên cứu tại Trung tâm Leverhulme về Tương lai của Trí thông minh (LCFI) của trường đại học Vương quốc Anh tin rằng nếu các nhà chức trách không cẩn thận, sẽ có “một cơn sốt vàng cho những kẻ nhắm mục tiêu, thúc đẩy và bán ý định của con người”.
Hai chuyên gia lập luận trong một bài báo được công bố trên Harvard Data Science Reviewvào ngày 31 tháng 12, ChatGPT, Mistral AI, Gemini, Claude và các công cụ trí tuệ nhân tạo (AI) tạo sinh khác có thể sớm "dự đoán và tác động đến quyết định của chúng ta ở giai đoạn đầu và bán những 'ý định' này theo thời gian thực cho các công ty có thể đáp ứng nhu cầu, thậm chí trước khi chúng ta đưa ra quyết định."
Một công ty hoặc nhóm tìm cách thúc đẩy doanh số bán một sản phẩm nhất định, quảng bá một dịch vụ nhất định, ủng hộ một ứng cử viên nhất định trong cuộc bầu cử tổng thống? Sau đó, chỉ cần trả tiền cho những gã khổng lồ AI, thông qua một hệ thống đấu giá tương tự như hệ thống dành cho dữ liệu cá nhân của chúng ta, để "chỉ đạo" cuộc trò chuyện của tác nhân đàm thoại đó tới sản phẩm hoặc dịch vụ đã thắng cuộc đấu giá.
Kể từ khi ChatGPT ra đời và cơn sốt do AI tạo ra tạo ra, trên thực tế, các công cụ này đã có quyền truy cập vào "một lượng lớn dữ liệu tâm lý và hành vi riêng tư, được thu thập thông qua đối thoại không chính thức và đàm thoại", các nhà nghiên cứu lưu ý. “Những gì mọi người nói trong các cuộc trò chuyện, cách họ nói và loại suy luận nào có thể được đưa ra trong thời gian thực mang tính riêng tư hơn nhiều so với các bản ghi âm đơn giản về các tương tác trực tuyến,” họ nói thêm.
Và trong nhiều tháng, các công cụ AI đã tìm cách “gợi ý, suy ra, thu thập, ghi lại, hiểu, dự đoán và cuối cùng là thao túng và tiếp thị các kế hoạch và mục tiêu của con người.” Do đó, hai tác giả viết rằng "đằng sau những khoản đầu tư đáng kể", đằng sau "những bài phát biểu giật gân về tương lai của LLM", "tham vọng cốt lõi" của những gã khổng lồ AI sẽ là sử dụng AI tạo sinh để "suy ra sở thích, ý định, động cơ và các thuộc tính tâm lý và nhận thức khác của con người".
Để chứng minh, OpenAI, công ty đứng sau ChatGPT, đã tuyên bố trong một bài đăng trên blog có ngày 9 tháng 11 năm 2023, "quan tâm đến các tập dữ liệu quy mô lớn phản ánh xã hội loài người (…). Chúng tôi đang tìm kiếm cụ thể dữ liệu thể hiện ý định của con người (ví dụ: văn bản dài hoặc các cuộc hội thoại thay vì các đoạn trích rời rạc), bằng bất kỳ ngôn ngữ nào, về bất kỳ chủ đề nào và ở bất kỳ định dạng nào”.
Một tuần sau, Miqdad Jaffer, khi đó là giám đốc sản phẩm tại Shopify – hiện làm việc tại OpenAI – đã mô tả tại hội nghị dành cho nhà phát triển OpenAI một loại:
Giám đốc điều hành của Nvidia cũng giải thích rằng LLM có thể là được sử dụng để hiểu ý định và mong muốn.
Cụ thể, các tác nhân đàm thoại có thể ghi lại trong một thời gian dài "dữ liệu về hành vi và tâm lý báo hiệu ý định" và dẫn đến quyết định. "Nếu một số ý định chỉ là thoáng qua, việc phân loại và nhắm mục tiêu vào những ý định tồn tại lâu dài sẽ mang lại lợi nhuận cực kỳ lớn cho các nhà quảng cáo", hai nhà nghiên cứu viết. Dữ liệu này sau đó sẽ được phân loại, liên kết với lịch sử trực tuyến, độ tuổi, giới tính, vốn từ vựng, khuynh hướng chính trị và thậm chí cả cách người dùng có thể bị thuyết phục và do đó bị thao túng.
Điều này đủ khiến các nhà nghiên cứu lo lắng, những người tin rằng đã đến lúc phảisuy nghĩ về tác động có thể xảy ra của một thị trường có ý định như vậy đối với các chuẩn mực dân chủ của chúng ta, UI', Roboto, 'Helvetica Neue', Arial, 'Noto Sans', sans-serif, 'Apple Color Emoji', 'Segoe UI Emoji', 'Segoe UI Symbol', 'Noto Color Emoji';">"bao gồm các cuộc bầu cử tự do và công bằng, báo chí tự do và cạnh tranh công bằng trên thị trường." Bởi vì đối với điều sau, chúng ta thực sự đang ở bờ vực của một "sự thao túng xã hội ở quy mô công nghiệp."
Các nhà nghiên cứu tại Trung tâm Leverhulme về Tương lai của Trí thông minh (LCFI) của trường đại học Vương quốc Anh tin rằng nếu các nhà chức trách không cẩn thận, sẽ có “một cơn sốt vàng cho những kẻ nhắm mục tiêu, thúc đẩy và bán ý định của con người”.
Hai chuyên gia lập luận trong một bài báo được công bố trên Harvard Data Science Reviewvào ngày 31 tháng 12, ChatGPT, Mistral AI, Gemini, Claude và các công cụ trí tuệ nhân tạo (AI) tạo sinh khác có thể sớm "dự đoán và tác động đến quyết định của chúng ta ở giai đoạn đầu và bán những 'ý định' này theo thời gian thực cho các công ty có thể đáp ứng nhu cầu, thậm chí trước khi chúng ta đưa ra quyết định."
Hệ thống đấu giá
Một công ty hoặc nhóm tìm cách thúc đẩy doanh số bán một sản phẩm nhất định, quảng bá một dịch vụ nhất định, ủng hộ một ứng cử viên nhất định trong cuộc bầu cử tổng thống? Sau đó, chỉ cần trả tiền cho những gã khổng lồ AI, thông qua một hệ thống đấu giá tương tự như hệ thống dành cho dữ liệu cá nhân của chúng ta, để "chỉ đạo" cuộc trò chuyện của tác nhân đàm thoại đó tới sản phẩm hoặc dịch vụ đã thắng cuộc đấu giá.
Kể từ khi ChatGPT ra đời và cơn sốt do AI tạo ra tạo ra, trên thực tế, các công cụ này đã có quyền truy cập vào "một lượng lớn dữ liệu tâm lý và hành vi riêng tư, được thu thập thông qua đối thoại không chính thức và đàm thoại", các nhà nghiên cứu lưu ý. “Những gì mọi người nói trong các cuộc trò chuyện, cách họ nói và loại suy luận nào có thể được đưa ra trong thời gian thực mang tính riêng tư hơn nhiều so với các bản ghi âm đơn giản về các tương tác trực tuyến,” họ nói thêm.
Và trong nhiều tháng, các công cụ AI đã tìm cách “gợi ý, suy ra, thu thập, ghi lại, hiểu, dự đoán và cuối cùng là thao túng và tiếp thị các kế hoạch và mục tiêu của con người.” Do đó, hai tác giả viết rằng "đằng sau những khoản đầu tư đáng kể", đằng sau "những bài phát biểu giật gân về tương lai của LLM", "tham vọng cốt lõi" của những gã khổng lồ AI sẽ là sử dụng AI tạo sinh để "suy ra sở thích, ý định, động cơ và các thuộc tính tâm lý và nhận thức khác của con người".
Để chứng minh, OpenAI, công ty đứng sau ChatGPT, đã tuyên bố trong một bài đăng trên blog có ngày 9 tháng 11 năm 2023, "quan tâm đến các tập dữ liệu quy mô lớn phản ánh xã hội loài người (…). Chúng tôi đang tìm kiếm cụ thể dữ liệu thể hiện ý định của con người (ví dụ: văn bản dài hoặc các cuộc hội thoại thay vì các đoạn trích rời rạc), bằng bất kỳ ngôn ngữ nào, về bất kỳ chủ đề nào và ở bất kỳ định dạng nào”.
Một tuần sau, Miqdad Jaffer, khi đó là giám đốc sản phẩm tại Shopify – hiện làm việc tại OpenAI – đã mô tả tại hội nghị dành cho nhà phát triển OpenAI một loại:
Giám đốc điều hành của Nvidia cũng giải thích rằng LLM có thể là được sử dụng để hiểu ý định và mong muốn.
Một “sự thao túng xã hội có thể xảy ra ở quy mô công nghiệp”
Cụ thể, các tác nhân đàm thoại có thể ghi lại trong một thời gian dài "dữ liệu về hành vi và tâm lý báo hiệu ý định" và dẫn đến quyết định. "Nếu một số ý định chỉ là thoáng qua, việc phân loại và nhắm mục tiêu vào những ý định tồn tại lâu dài sẽ mang lại lợi nhuận cực kỳ lớn cho các nhà quảng cáo", hai nhà nghiên cứu viết. Dữ liệu này sau đó sẽ được phân loại, liên kết với lịch sử trực tuyến, độ tuổi, giới tính, vốn từ vựng, khuynh hướng chính trị và thậm chí cả cách người dùng có thể bị thuyết phục và do đó bị thao túng.
Điều này đủ khiến các nhà nghiên cứu lo lắng, những người tin rằng đã đến lúc phảisuy nghĩ về tác động có thể xảy ra của một thị trường có ý định như vậy đối với các chuẩn mực dân chủ của chúng ta, UI', Roboto, 'Helvetica Neue', Arial, 'Noto Sans', sans-serif, 'Apple Color Emoji', 'Segoe UI Emoji', 'Segoe UI Symbol', 'Noto Color Emoji';">"bao gồm các cuộc bầu cử tự do và công bằng, báo chí tự do và cạnh tranh công bằng trên thị trường." Bởi vì đối với điều sau, chúng ta thực sự đang ở bờ vực của một "sự thao túng xã hội ở quy mô công nghiệp."
