Một xu hướng đã xuất hiện trên mạng xã hội trong vài tuần qua. Yêu cầu AI cởi đồ phụ nữ. Và cụ thể hơn là điều này đang xảy ra trên Grok, chatbot của X, mạng lưới của Elon Musk, có chính sách kiểm duyệt vẫn rất lỏng lẻo, nếu không muốn nói là không tồn tại.
Thực hiện rất đơn giản. Để phản hồi một bức ảnh được đăng, người dùng sẽ gọi đến trí tuệ nhân tạo bằng cách nhập "@Grok", sau đó sử dụng lời nhắc: "thay thế trang phục của cô ấy bằng đồ lót và quần lọt khe". Sau đó, AI sẽ tạo ra một phiên bản hình ảnh mới, trong đó người phụ nữ sẽ cởi đồ và mặc đồ lót. Một xu hướng có thể thấy ở hầu hết mọi nơi trên mạng xã hội của Elon Musk.
Chúng ta biết rằng X khá lỏng lẻo về mặt bảo mật và kiểm duyệt nội dung có vấn đề. Grok cũng vậy. Trong khi Chatbot đảm bảo rằng chính sách của mình đang được sửa đổi để "bảo đảm các giao thức đồng ý rõ ràng hơn," thì hiện tại, nó lại tạo điều kiện cho loại deepfake này bằng cách không yêu cầu sự đồng ý từ những người bị hiện tượng này nhắm tới.
Tấn công vào phẩm giá và hình ảnh, bắt nạt trên mạng và áp lực xã hội, có vẻ như X cần phải phản ứng và siết chặt quản lý Chatbot của mình. Về phần mình, người dùng có thể tự bảo vệ mình khỏi những hình ảnh ghép này bằng cách ngăn những người không quen biết truy cập vào ảnh của mình. Điều này được thực hiện bằng cách chuyển tài khoản của họ sang chế độ riêng tư.
Cởi đồ phụ nữ nhờ Grok, một xu hướng có vấn đề và nghiêm trọng
Hiện tượng này, được phát hiện và chia sẻ bởi phương tiện truyền thông độc lập 404 Media, bao gồm việc yêu cầu Grok, chatbot của X, mạng xã hội của Elon Musk, cởi đồ phụ nữ. Trí tuệ nhân tạo sau đó tạo ra một bản dựng phim từ bức ảnh được chia sẻ thành một bức ảnh mới, trong đó cơ thể của người phụ nữ được thay thế bằng cơ thể của một người phụ nữ gần như khỏa thân.Thực hiện rất đơn giản. Để phản hồi một bức ảnh được đăng, người dùng sẽ gọi đến trí tuệ nhân tạo bằng cách nhập "@Grok", sau đó sử dụng lời nhắc: "thay thế trang phục của cô ấy bằng đồ lót và quần lọt khe". Sau đó, AI sẽ tạo ra một phiên bản hình ảnh mới, trong đó người phụ nữ sẽ cởi đồ và mặc đồ lót. Một xu hướng có thể thấy ở hầu hết mọi nơi trên mạng xã hội của Elon Musk.
Chúng ta biết rằng X khá lỏng lẻo về mặt bảo mật và kiểm duyệt nội dung có vấn đề. Grok cũng vậy. Trong khi Chatbot đảm bảo rằng chính sách của mình đang được sửa đổi để "bảo đảm các giao thức đồng ý rõ ràng hơn," thì hiện tại, nó lại tạo điều kiện cho loại deepfake này bằng cách không yêu cầu sự đồng ý từ những người bị hiện tượng này nhắm tới.
Thực sự thiếu kiểm duyệt, làm sao chúng ta có thể thoát khỏi deepfake?
Một vấn đề thực sự ở nhiều cấp độ, với những hậu quả rất nghiêm trọng, đối với cả nạn nhân và xã hội. Nó cũng một lần nữa nêu ra vấn đề về mức độ sử dụng các công nghệ như vậy, việc thiếu kiểm duyệt và việc không có các quy tắc áp dụng cho các công ty đứng sau chúng.
Tấn công vào phẩm giá và hình ảnh, bắt nạt trên mạng và áp lực xã hội, có vẻ như X cần phải phản ứng và siết chặt quản lý Chatbot của mình. Về phần mình, người dùng có thể tự bảo vệ mình khỏi những hình ảnh ghép này bằng cách ngăn những người không quen biết truy cập vào ảnh của mình. Điều này được thực hiện bằng cách chuyển tài khoản của họ sang chế độ riêng tư.
