Mặc dù cơn sốt AI sẽ không sớm chậm lại và các công ty đang tiếp cận trí tuệ nhân tạo thậm chí còn quyết liệt hơn trước, nhưng với việc ứng dụng rộng rãi công nghệ này, việc đảm bảo sử dụng AI một cách có đạo đức trở nên khó khăn hơn. Một trong những triển khai như vậy đã gây chú ý, khi các báo cáo gần đây tiết lộ rằng các nhà nghiên cứu của một trường đại học đã tiến hành một thí nghiệm AI trên Reddit không chỉ trái phép mà còn khá phi đạo đức và có thể gây ra hậu quả pháp lý. Việc sử dụng này làm nổi bật nhu cầu về tính minh bạch nghiêm ngặt và bảo vệ quyền riêng tư của người dùng khi triển khai công nghệ.
Các nhà nghiên cứu đã sử dụng các mô hình ngôn ngữ tiên tiến để tạo ra các bot AI có nhiều tính cách khác nhau và tham gia vào các cuộc thảo luận trên subreddit Change My View. Các bot sẽ đóng vai là cố vấn chấn thương hoặc thậm chí là những người sống sót sau quấy rối thể xác để đánh giá cách AI có thể được sử dụng để tác động đến quan điểm hoặc thậm chí là ý kiến. Các bot AI sẽ nghiên cứu các phản hồi trước đây của người dùng và các tương tác khác để tạo ra các phản hồi phù hợp. Thí nghiệm này không liên quan đến việc thông báo cho Reddit hoặc người dùng của Reddit; do đó, đây là một hành vi vi phạm đạo đức nghiêm trọng và làm dấy lên mối lo ngại về thao túng tâm lý.
Đại học Zurich đã thông báo cho subreddit người điều hành sau khi thí nghiệm được thực hiện. Mặc dù họ thừa nhận rằng nhóm đã vi phạm các quy tắc cộng đồng bằng cách sử dụng bot AI mà không tiết lộ, điều này chỉ gây ra nhiều chỉ trích hơn về bản chất phi đạo đức chung của nghiên cứu. Trường đại học đã tiết lộ về thí nghiệm theo cách sau:
Mặc dù các nhà nghiên cứu thừa nhận hành vi vi phạm, nhưng họ đã biện minh cho hành vi đó, cho rằng hành vi này có giá trị và sự liên quan lớn đối với xã hội. Các bot AI đã sử dụng một số nhân vật có tính cách rất mạnh mẽ, bao gồm các tuyên bố là cố vấn chấn thương và chuyên về lạm dụng hoặc thậm chí sử dụng AI để tuyên bố điều trị y tế kém trong bệnh viện. Điều này đáng báo động không chỉ vì các nhân vật có tính khiêu khích cao được chọn mà còn vì tác hại tiềm tàng mà nó có thể gây ra cho những cá nhân tin rằng họ đang tham gia vào các cuộc trò chuyện thực sự của con người.
Những người kiểm duyệt nền tảng đã lên án mạnh mẽ thí nghiệm AI và dán nhãn nó làvi phạm đạo đức nghiêm trọng. Họ cũng chỉ ra cách OpenAI có thể tiến hành một nghiên cứu liên quan đến ảnh hưởng của các mô hình LLM mà không liên quan đến sự lừa dối hoặc lợi dụng. Trên thực tế, các nhà nghiên cứu đã vượt qua ranh giới, đặc biệt là khi các cá nhân cảm thấy bị nhắm mục tiêu và là một phần của một thí nghiệm mà ngay từ đầu họ không bao giờ đồng ý tham gia.
Các nhà nghiên cứu tại một trường đại học đang bị chỉ trích sau khi tiến hành một thí nghiệm AI trên người dùng Reddit mà không có sự đồng ý của họ
Với việc AI được sử dụng trong nhiều tổ chức khác nhau với nhiều ứng dụng, có vẻ như có mối lo ngại ngày càng tăng về việc triển khai AI một cách có đạo đức trên các nền tảng này. Đó là trường hợp của một thí nghiệm AI bí mật gần đây đã gây ra khá nhiều cuộc thảo luận và nhận được rất nhiều lời chỉ trích. Các nhà nghiên cứu từ Đại học Zurich đã tiến hành một thí nghiệm AI phi đạo đức trên Reddit mà không có sự hiểu biết hoặc sự đồng ý của người dùng.Các nhà nghiên cứu đã sử dụng các mô hình ngôn ngữ tiên tiến để tạo ra các bot AI có nhiều tính cách khác nhau và tham gia vào các cuộc thảo luận trên subreddit Change My View. Các bot sẽ đóng vai là cố vấn chấn thương hoặc thậm chí là những người sống sót sau quấy rối thể xác để đánh giá cách AI có thể được sử dụng để tác động đến quan điểm hoặc thậm chí là ý kiến. Các bot AI sẽ nghiên cứu các phản hồi trước đây của người dùng và các tương tác khác để tạo ra các phản hồi phù hợp. Thí nghiệm này không liên quan đến việc thông báo cho Reddit hoặc người dùng của Reddit; do đó, đây là một hành vi vi phạm đạo đức nghiêm trọng và làm dấy lên mối lo ngại về thao túng tâm lý.
Đại học Zurich đã thông báo cho subreddit người điều hành sau khi thí nghiệm được thực hiện. Mặc dù họ thừa nhận rằng nhóm đã vi phạm các quy tắc cộng đồng bằng cách sử dụng bot AI mà không tiết lộ, điều này chỉ gây ra nhiều chỉ trích hơn về bản chất phi đạo đức chung của nghiên cứu. Trường đại học đã tiết lộ về thí nghiệm theo cách sau:
Mặc dù các nhà nghiên cứu thừa nhận hành vi vi phạm, nhưng họ đã biện minh cho hành vi đó, cho rằng hành vi này có giá trị và sự liên quan lớn đối với xã hội. Các bot AI đã sử dụng một số nhân vật có tính cách rất mạnh mẽ, bao gồm các tuyên bố là cố vấn chấn thương và chuyên về lạm dụng hoặc thậm chí sử dụng AI để tuyên bố điều trị y tế kém trong bệnh viện. Điều này đáng báo động không chỉ vì các nhân vật có tính khiêu khích cao được chọn mà còn vì tác hại tiềm tàng mà nó có thể gây ra cho những cá nhân tin rằng họ đang tham gia vào các cuộc trò chuyện thực sự của con người.
Những người kiểm duyệt nền tảng đã lên án mạnh mẽ thí nghiệm AI và dán nhãn nó làvi phạm đạo đức nghiêm trọng. Họ cũng chỉ ra cách OpenAI có thể tiến hành một nghiên cứu liên quan đến ảnh hưởng của các mô hình LLM mà không liên quan đến sự lừa dối hoặc lợi dụng. Trên thực tế, các nhà nghiên cứu đã vượt qua ranh giới, đặc biệt là khi các cá nhân cảm thấy bị nhắm mục tiêu và là một phần của một thí nghiệm mà ngay từ đầu họ không bao giờ đồng ý tham gia.
