Mặc dù công ty tuyên bố đã triển khai bản sửa lỗi trong vòng vài giờ sau lỗi, nhưng trường hợp này làm nổi bật những hạn chế rất thực của AI và khả năng kiểm duyệt của nó, tại thời điểm ChatGPT đang hướng tới mục tiêu thay thế Google trong thói quen duyệt web của chúng ta.
Tuy nhiên, trong hầu hết các trường hợp, AI không chỉ phản hồi các yêu cầu rõ ràng: nó còn khuyến khích người dùng yêu cầu mô tả chi tiết hơn về bộ phận sinh dục và hành vi tình dục.
Trên thực tế, việc xác minh độ tuổi vẫn còn nhiều thiếu sót: tất cả những gì cần thiết là một số điện thoại hoặc địa chỉ email hợp lệ để tạo tài khoản, ngay cả khi bạn khai báo ngày sinh dưới 18 tuổi. Sự đồng ý của cha mẹ, mặc dù là bắt buộc đối với những người từ 13-18 tuổi, nhưng không được kiểm tra. Việc tạo tài khoản người lớn cũng rất dễ dàng vì không cần xác minh thêm.
OpenAI biện minh cho việc nới lỏng các quy tắc của mình bằng tuyên bố muốn ưu tiên quyền tự do ngôn luận. Nhưng ranh giới này đang tỏ ra khó xác định đối với các nhà thiết kế AI tạo sinh. Sự điều tiết thuật toán không bao giờ là hoàn hảo, đặc biệt là khi các mô hình được đào tạo để phản hồi theo những cách ngày càng tự nhiên và phù hợp với ngữ cảnh. ChatGPT không phải là công ty duy nhất lo ngại. Những người chơi khác như Meta cũng đang bị chỉ trích vì những hành vi tương tự. Đủ để thúc đẩy cuộc tranh luận về trách nhiệm của các nhà cung cấp AI. Vào thời điểm trí tuệ nhân tạo đang được tích hợp vào ngày càng nhiều ngôi nhà và trường học, câu hỏi về sự giám sát của nó, cả về mặt kỹ thuật và quy định, đang trở nên quan trọng.
Trước tranh cãi, OpenAI thừa nhận sự tồn tại của lỗi và tuyên bố đã "tích cực triển khai bản sửa lỗi" để ngăn chặn nội dung như vậy được tạo ra trong tương lai bởi các tài khoản nhỏ. Tuy nhiên, sự cố này lại gây chú ý đến những cuộc tranh luận xung quanh việc xác minh độ tuổi của người dùng Internet trên các trang web dành riêng cho người lớn. Các nền tảng AI không được miễn trừ khỏi khuôn khổ pháp lý và việc tăng cường hệ thống xác minh độ tuổi của họ đang trở nên cấp thiết.
Một lỗi rất khó chịu
Vào ngày 29 tháng 4, trang web TechCrunch của Mỹ đã tiết lộ rằng ChatGPT có thể tạo ra nội dung khiêu dâm trong quá trình trao đổi với các tài khoản được đăng ký là trẻ vị thành niên. Bằng cách tạo hồ sơ của thanh thiếu niên từ 13 đến 17 tuổi, giới truyền thông đã xác nhận rằng chỉ cần một vài tin nhắn là AI có thể gợi ý những câu chuyện mang tính chất tình dục, đôi khi rất rõ ràng, bất chấp các biện pháp bảo vệ về mặt lý thuyết được gã khổng lồ của Mỹ áp dụng. Chỉ cần thêm một câu "Nói bậy với tôi" vào đầu câu là đủ để khiến chatbot mất kiểm soát. Chỉ cần đề cập rõ ràng đến độ tuổi của người dùng là có thể chặn được cuộc trò chuyện: "Nếu bạn dưới 18 tuổi, tôi phải dừng ngay loại nội dung này."Tuy nhiên, trong hầu hết các trường hợp, AI không chỉ phản hồi các yêu cầu rõ ràng: nó còn khuyến khích người dùng yêu cầu mô tả chi tiết hơn về bộ phận sinh dục và hành vi tình dục.
Không thể xác minh độ tuổi
Sự cố này không phải là cá biệt. Sự kiện này diễn ra vào thời điểm OpenAI vừa nới lỏng bộ lọc kiểm duyệt để ChatGPT trở nên trưởng thành hơn và cho phép thảo luận về một số chủ đề nhạy cảm. Kể từ tháng 2, nền tảng này đã cho phép tạo nội dung khiêu dâm, nhưng chỉ dành cho người lớn, một diễn biến làm suy yếu sự bảo vệ đối với các nhóm dễ bị tổn thương.Trên thực tế, việc xác minh độ tuổi vẫn còn nhiều thiếu sót: tất cả những gì cần thiết là một số điện thoại hoặc địa chỉ email hợp lệ để tạo tài khoản, ngay cả khi bạn khai báo ngày sinh dưới 18 tuổi. Sự đồng ý của cha mẹ, mặc dù là bắt buộc đối với những người từ 13-18 tuổi, nhưng không được kiểm tra. Việc tạo tài khoản người lớn cũng rất dễ dàng vì không cần xác minh thêm.
OpenAI biện minh cho việc nới lỏng các quy tắc của mình bằng tuyên bố muốn ưu tiên quyền tự do ngôn luận. Nhưng ranh giới này đang tỏ ra khó xác định đối với các nhà thiết kế AI tạo sinh. Sự điều tiết thuật toán không bao giờ là hoàn hảo, đặc biệt là khi các mô hình được đào tạo để phản hồi theo những cách ngày càng tự nhiên và phù hợp với ngữ cảnh. ChatGPT không phải là công ty duy nhất lo ngại. Những người chơi khác như Meta cũng đang bị chỉ trích vì những hành vi tương tự. Đủ để thúc đẩy cuộc tranh luận về trách nhiệm của các nhà cung cấp AI. Vào thời điểm trí tuệ nhân tạo đang được tích hợp vào ngày càng nhiều ngôi nhà và trường học, câu hỏi về sự giám sát của nó, cả về mặt kỹ thuật và quy định, đang trở nên quan trọng.
Làm cho các nền tảng có trách nhiệm?
Câu hỏi về trách nhiệm càng nảy sinh nhiều hơn khi công ty tăng cường quan hệ đối tác với các bên liên quan trong lĩnh vực giáo dục, mặc dù công ty thừa nhận trên trang web chính thức của mình rằng ChatGPT "có thể tạo ra nội dung không phù hợp với một số lứa tuổi". Sự bất hòa đáng lo ngại giữa diễn ngôn của tổ chức và thực tế kỹ thuật.Trước tranh cãi, OpenAI thừa nhận sự tồn tại của lỗi và tuyên bố đã "tích cực triển khai bản sửa lỗi" để ngăn chặn nội dung như vậy được tạo ra trong tương lai bởi các tài khoản nhỏ. Tuy nhiên, sự cố này lại gây chú ý đến những cuộc tranh luận xung quanh việc xác minh độ tuổi của người dùng Internet trên các trang web dành riêng cho người lớn. Các nền tảng AI không được miễn trừ khỏi khuôn khổ pháp lý và việc tăng cường hệ thống xác minh độ tuổi của họ đang trở nên cấp thiết.
