Grok, bot được Elon Musk ra mắt thông qua xAI và tích hợp vào nền tảng X (trước đây là Twitter), đang là tâm điểm của một cuộc tranh cãi mới. Theo cuộc điều tra do 404 Media tiến hành, người dùng đang sử dụng bot để yêu cầu nó "cởi quần áo" những người phụ nữ xuất hiện trong ảnh công khai. Phản hồi được tạo trực tiếp trong các luồng hoặc thông qua các liên kết đến các cuộc trò chuyện riêng biệt, hiển thị người đó mặc đồ bơi hoặc đồ lót.
Hoạt động này lần đầu tiên được phát hiện ở Kenya, theo như trang web địa phương Citizen Digital ghi nhận, trước khi lan rộng ra quốc tế. Để đáp lại, nhà hoạt động vì quyền kỹ thuật số người Nam Phi Phumzile Van Damme đã công khai thách thức Grok on X, yêu cầu ông giải thích về việc thiếu các biện pháp bảo vệ kỹ thuật. Bot thừa nhận "lỗi trong [các] biện pháp bảo vệ" và hứa sẽ cập nhật các chính sách đồng ý, nhưng hiện tại vẫn chưa có thêm thông tin chi tiết nào.
Kể từ khi ra mắt vào tháng 11 năm 2023, Grok đã đặt mục tiêu trở thành một giải pháp thay thế "miễn phí" cho OpenAI hoặc trợ lý Google, thường bị chỉ trích vì các biện pháp bảo vệ được cho là quá nghiêm ngặt. Elon Musk thậm chí còn giới thiệu nó như một AI có khả năng trả lời "những câu hỏi hóc búa" mà người khác từ chối tương tác. Khi ra mắt, ông không ngần ngại minh họa lời hứa này bằng hướng dẫn pha chế cocaine hoặc những câu chuyện cười về người của công chúng.
Nhưng mong muốn nổi bật bằng mọi giá này lại có mặt trái. Trong khi các hệ thống cạnh tranh chủ động lọc nội dung nhạy cảm thì Grok lại có vẻ quá dễ dãi. Phản hồi của bot cho người dùng nói rằng yêu cầu khỏa thân "gây ra lo ngại về mặt đạo đức" là không đủ để ngăn hình ảnh đã chỉnh sửa xuất hiện trong cùng một chủ đề.
Trường hợp này xảy ra khi Hoa Kỳ vừa thực hiện một bước đi lập pháp quan trọng: Hạ viện nhất trí thông qua Đạo luật Gỡ bỏ, một dự luật hình sự hóa việc phát tán hình ảnh khiêu dâm không được đồng ý, bao gồm cả hình ảnh do AI tạo ra. Thời điểm đáng xấu hổ cho X…
Một chatbot không có bộ lọc nhưng có hậu quả
Mặc dù chatbot từ chối các yêu cầu khỏa thân hoàn toàn, nhưng vẫn sẵn sàng tuân thủ trong giới hạn nội dung gợi ý. Sự thay đổi này càng trở nên có vấn đề hơn vì nó có thể xảy ra ngay bên dưới bài đăng của nạn nhân, khiến mọi người đều có thể nhìn thấy hình ảnh đã thay đổi. Tính năng này dễ dàng truy cập, bản chất không cần sự đồng thuận và việc công khai tính năng này đã khuếch đại phạm vi của cuộc tấn công.Hoạt động này lần đầu tiên được phát hiện ở Kenya, theo như trang web địa phương Citizen Digital ghi nhận, trước khi lan rộng ra quốc tế. Để đáp lại, nhà hoạt động vì quyền kỹ thuật số người Nam Phi Phumzile Van Damme đã công khai thách thức Grok on X, yêu cầu ông giải thích về việc thiếu các biện pháp bảo vệ kỹ thuật. Bot thừa nhận "lỗi trong [các] biện pháp bảo vệ" và hứa sẽ cập nhật các chính sách đồng ý, nhưng hiện tại vẫn chưa có thêm thông tin chi tiết nào.
Kể từ khi ra mắt vào tháng 11 năm 2023, Grok đã đặt mục tiêu trở thành một giải pháp thay thế "miễn phí" cho OpenAI hoặc trợ lý Google, thường bị chỉ trích vì các biện pháp bảo vệ được cho là quá nghiêm ngặt. Elon Musk thậm chí còn giới thiệu nó như một AI có khả năng trả lời "những câu hỏi hóc búa" mà người khác từ chối tương tác. Khi ra mắt, ông không ngần ngại minh họa lời hứa này bằng hướng dẫn pha chế cocaine hoặc những câu chuyện cười về người của công chúng.
Nhưng mong muốn nổi bật bằng mọi giá này lại có mặt trái. Trong khi các hệ thống cạnh tranh chủ động lọc nội dung nhạy cảm thì Grok lại có vẻ quá dễ dãi. Phản hồi của bot cho người dùng nói rằng yêu cầu khỏa thân "gây ra lo ngại về mặt đạo đức" là không đủ để ngăn hình ảnh đã chỉnh sửa xuất hiện trong cùng một chủ đề.
Trường hợp này xảy ra khi Hoa Kỳ vừa thực hiện một bước đi lập pháp quan trọng: Hạ viện nhất trí thông qua Đạo luật Gỡ bỏ, một dự luật hình sự hóa việc phát tán hình ảnh khiêu dâm không được đồng ý, bao gồm cả hình ảnh do AI tạo ra. Thời điểm đáng xấu hổ cho X…
