Bảo vệ người tiêu dùng: AI DeepSeek của Trung Quốc bị điều tra tại Ý

[theanh]

Liệu người tiêu dùng có được cảnh báo đầy đủ về rủi ro "ảo giác" và kết quả bịa đặt khi sử dụng DeepSeek, đối thủ Trung Quốc của ChatGPT không? Đây là câu hỏi do cơ quan bảo vệ người tiêu dùng và cạnh tranh, AGCM, đặt ra vào thứ Hai, ngày 16 tháng 6. Cơ quan chống độc quyền của Ý giải thích trên trang web của mình rằng họ đã mở một cuộc điều tra về công ty khởi nghiệp trí tuệ nhân tạo (AI) của Trung Quốc, bị nghi ngờ có "hành vi thương mại không lành mạnh". Bà tin rằng người dùng đã không được cảnh báo đầy đủ rằng công cụ AI tạo ra thông tin sai lệch.

Đây không phải là lần đầu tiên DeepSeek, chatbot của Trung Quốc đang làm rung chuyển các gã khổng lồ AI của Mỹ, lọt vào tầm ngắm của một cơ quan chức năng của Ý. Tháng 1 năm ngoái, đối thủ cạnh tranh của Gemini và Le Chat đã trở thành chủ đề của một số câu hỏi từ cơ quan phụ trách dữ liệu cá nhân, tương đương với CNIL tại quốc gia này.

Người dùng không được cảnh báo đầy đủ về rủi ro ảo giác từ chatbot?​

Nhưng lần này, chính cơ quan chịu trách nhiệm bảo vệ người tiêu dùng và cạnh tranh đang đập tay xuống bàn. Trong thư, AGCM viết rằng "DeepSeek (bị nghi ngờ đã) áp dụng hành vi không thông báo theo cách đủ rõ ràng, ngay lập tức và dễ hiểu rằng người dùng các mô hình AI của công ty có thể là nạn nhân của cái mà thuật ngữ kỹ thuật gọi là "ảo giác", một thuật ngữ mà cơ quan này sau đó định nghĩa. Đây là "những tình huống mà khi phản hồi lệnh của người dùng (lời nhắc, ghi chú của biên tập viên), mô hình AI tạo ra một hoặc nhiều kết quả có chứa thông tin không chính xác, gây hiểu lầm hoặc bịa đặt".

Mặc dù các điều kiện sử dụng chung (CGU) nêu rõ rằng những rủi ro này tồn tại, AGCM tin rằng thông tin này không đủ khả năng truy cập đối với người dùng phải vào trang CGU để tìm hiểu. Do đó, họ có thể tin rằng thông tin do tác nhân đàm thoại Trung Quốc cung cấp là đáng tin cậy. DeepSeek có ba mươi ngày để trả lời các câu hỏi của cơ quan chống độc quyền.

Hành động đầu tiên được khởi xướng vào tháng 1 năm ngoái đối với chatbot của Trung Quốc​

Đây là hành động thứ hai tại quốc gia này được khởi xướng đối với DeepSeek. Vào tháng 1 năm ngoái, cơ quan tương đương với CNIL tại Ý đã điều tra chatbot của Trung Quốc, lần này là trong lĩnh vực dữ liệu cá nhân. Vào thời điểm đó, cơ quan này ước tính rằng ứng dụng AI tạo ra này có khả năng gây ra rủi ro cho dữ liệu của hàng triệu người dân Ý. Cơ quan chức năng của Ý muốn biết "dữ liệu cá nhân nào đã được thu thập" khi người dùng Ý sử dụng DeepSeek, cho dù trên trang web hay ứng dụng.

CNIL của Ý cũng yêu cầu thông tin về các nguồn đào tạo, mục đích thu thập dữ liệu, cơ sở pháp lý được chọn để xử lý (dữ liệu cá nhân) và vị trí của các máy chủ nơi dữ liệu do chatbot thu thập được lưu trữ. Hai mươi ngày sau, CNIL của Ý đã ra lệnh cho DeepSeek chặn quyền truy cập vào chatbot của mình vì công ty Trung Quốc này đã không giải quyết các mối quan ngại của mình liên quan đến việc bảo vệ dữ liệu cá nhân. Khi được liên hệ, DeepSeek đã không trả lời yêu cầu bình luận của chúng tôi tại thời điểm xuất bản. Xin nhắc lại, vào năm 2023, ChatGPT đã bị đình chỉ trong một tháng tại Ý sau khi không đáp ứng được kỳ vọng của Bên bảo lãnh, CNIL của Ý.