Khả năng của ChatGPT không phải là thứ bị bỏ qua. Tin tặc và các quốc gia lưu manh đang sử dụng nó để dàn dựng các hoạt động gây ảnh hưởng, thông tin sai lệch và thậm chí là các cuộc tấn công mạng—Nga, Trung Quốc, Iran và Triều Tiên đặc biệt thích bot của OpenAI.
Trung Quốc cũng được cho là đứng sau hoạt động "Uncle Spam", nhằm mục đích làm trầm trọng thêm căng thẳng chính trị ở Hoa Kỳ bằng cách phát tán các thông điệp mâu thuẫn để tạo ra sự nhầm lẫn. Cũng đáng chú ý là chiến dịch "Helgoland Bite", trong đó Nga đã cố gắng tác động đến dư luận Đức theo hướng có lợi cho đảng cực hữu AfD và chỉ trích NATO và Hoa Kỳ trên X (trước đây là Twitter) và Telegram.
ChatGPT cũng có thể được sử dụng để thực hiện các vụ lừa đảo theo kiểu cũ, chẳng hạn như ở Campuchia. Bot đã tạo ra các tin nhắn bằng nhiều ngôn ngữ, cung cấp tiền cho các công việc lặt vặt giả mạo như thích bài đăng. Một vụ lừa đảo kim tự tháp mà người dùng phải trả tiền.
Sau khi xác định các chiến dịch gây ảnh hưởng và lừa đảo này, OpenAI đã có hệ thống cấm các tài khoản có liên quan đến các hoạt động này. Công ty đang tận dụng cơ hội này để tăng cường hệ thống phát hiện và tinh chỉnh các mô hình của mình để hạn chế các hành vi lạm dụng trong tương lai chắc chắn sẽ xảy ra.
Nguồn: OpenAI
Các hoạt động độc hại sử dụng ChatGPT
OpenAI đã công bố một báo cáo mới về việc sử dụng ChatGPT một cách độc hại. Kể từ đầu năm, công ty đã xác định và phá hủy 10 chiến dịch, bao gồm cả hoạt động "Sneer Review", có khả năng do Trung Quốc tổ chức, nhằm tạo ra các bình luận chính trị ủng hộ Trung Quốc trên phương tiện truyền thông xã hội.Trung Quốc cũng được cho là đứng sau hoạt động "Uncle Spam", nhằm mục đích làm trầm trọng thêm căng thẳng chính trị ở Hoa Kỳ bằng cách phát tán các thông điệp mâu thuẫn để tạo ra sự nhầm lẫn. Cũng đáng chú ý là chiến dịch "Helgoland Bite", trong đó Nga đã cố gắng tác động đến dư luận Đức theo hướng có lợi cho đảng cực hữu AfD và chỉ trích NATO và Hoa Kỳ trên X (trước đây là Twitter) và Telegram.
ChatGPT cũng có thể được sử dụng để thực hiện các vụ lừa đảo theo kiểu cũ, chẳng hạn như ở Campuchia. Bot đã tạo ra các tin nhắn bằng nhiều ngôn ngữ, cung cấp tiền cho các công việc lặt vặt giả mạo như thích bài đăng. Một vụ lừa đảo kim tự tháp mà người dùng phải trả tiền.
Sau khi xác định các chiến dịch gây ảnh hưởng và lừa đảo này, OpenAI đã có hệ thống cấm các tài khoản có liên quan đến các hoạt động này. Công ty đang tận dụng cơ hội này để tăng cường hệ thống phát hiện và tinh chỉnh các mô hình của mình để hạn chế các hành vi lạm dụng trong tương lai chắc chắn sẽ xảy ra.
Nguồn: OpenAI
