MIT cảnh báo về rủi ro phụ thuộc cảm xúc của ChatGPT

theanh

Administrator
Nhân viên
Mối quan hệ giữa con người và trí tuệ nhân tạo (AI) giao tiếp đang đặt ra ngày càng nhiều câu hỏi. Nếu tiểu thuyết đã đề cập rộng rãi đến chủ đề này - đáng chú ý là với loạt phim Westworld, trong đó việc phân biệt người ngoài hành tinh với con người khiến người xem phải trải qua thử thách, hoặc bộ phim Her, dành riêng cho tình yêu giữa con người và AI - thì chủ đề này cũng đặt ra câu hỏi cho các nhà nghiên cứu.

Viện Công nghệ Massachusetts (MIT) đã quan tâm đến chủ đề này trong nghiên cứu mới nhất của mình, được công bố vào ngày 21 tháng 3. Các nhà nghiên cứu tại viện danh tiếng này đã tập trung vào các tác động tâm lý xã hội của AI đàm thoại như Chat GPT. Phân tích của họ phân biệt các chế độ tương tác – giọng nói trung lập, giọng nói và văn bản hấp dẫn -, cũng như các loại trao đổi – câu hỏi cá nhân, câu hỏi mở, v.v.

Dựa trên mức sử dụng hàng tháng của gần một nghìn người dùng ChatGPT và hơn 3 triệu truy vấn, nghiên cứu này cũng dựa vào phân tích tự động do OpenAI thực hiện trên gần 40 triệu tin nhắn. « Nhìn chung, việc sử dụng hàng ngày nhiều hơn, bất kể chế độ và loại tương tác nào, đều có liên quan đến sự cô đơn và phụ thuộc nhiều hơn, nhưng cũng có liên quan đến sự gia tăng việc sử dụng có vấn đề và ít giao lưu hơn", nghiên cứu chỉ ra.

Cần nghiên cứu thêm​

Những người dùng có sự tham gia về mặt cảm xúc nhiều nhất và những người đặt nhiều câu hỏi cá nhân nhất sẽ phải đối mặt với sự cô đơn nhiều hơn. Về phần mình, những người đặt mức độ tin tưởng cao vào AI dễ bị phụ thuộc về mặt cảm xúc hơn. Đối với Những người sử dụng rất nhiều có nhiều khả năng coi chatbot là bạn bè và gán ghép cảm xúc của con người cho nó.

ChatGPT có khoảng 400 triệu người dùng hàng tuần và ngày càng có nhiều người sử dụng nó để đặt câu hỏi cá nhân và làm bạn. Theo khảo sát của YouGov, một nửa số người bị nhiễm HIV/AIDS bị nhiễm HIV. của người Mỹ trong độ tuổi từ 18 đến 29 cảm thấy thoải mái khi thảo luận về các vấn đề sức khỏe tâm thần của mình với ChatGPT. Do đó, việc sử dụng nó vẫn tiếp tục đặt ra nhiều câu hỏi.

Các nhà nghiên cứu MIT kết luận: « Chúng tôi nhấn mạnh nhu cầu nghiên cứu sâu hơn để xác định xem khả năng quản lý nội dung cảm xúc của chatbot, mà không khuyến khích sự phụ thuộc hoặc thay thế các mối quan hệ của con người, có còn mang lại lợi ích cho sức khỏe nói chung hay không. »
 
Back
Bên trên