Người chiến thắng giải thưởng Turing Yoshua Bengio cảnh báo về những đặc điểm nguy hiểm của các mô hình trí tuệ nhân tạo mới nhất từ OpenIA, Google và các công ty khác. Đặc biệt là xu hướng nói dối để đạt được mục tiêu của họ. Theo ông, đây là ví dụ hoàn hảo về tác động của việc nới lỏng an ninh hết sức rủi ro của ngành này – và rủi ro tạo ra một AI không thể kiểm soát được, cạnh tranh với con người.
Liệu sự cạnh tranh gay gắt trong ngành AI có dẫn chúng ta thẳng đến thảm họa không? Đó là điều mà Yoshua Bengio, một học giả người Canada chuyên về AI, tin tưởng—ông đã phát triển các công nghệ nền tảng cho các mô hình do OpenAI, Google, Claude và những công ty hàng đầu khác phát triển.
Mối đe dọa từ một AI siêu thông minh có thể đưa ra các quyết định thù địch với loài người đã là một rủi ro được biết đến ngay từ đầu. Đây là lý do thúc đẩy các công ty như OpenAI tránh xa, ít nhất là ban đầu, khỏi một mô hình phát triển hoàn toàn mang tính thương mại. Nhưng mọi thứ đã thay đổi rất nhiều kể từ đó: cung cấp AI ngày càng thông minh hơn bằng mọi giá đã trở thành trọng tâm thực sự của vấn đề—ngay cả khi điều đó có nghĩa là phải đánh đổi tính bảo mật.
“Thật không may, có một cuộc đua rất cạnh tranh giữa các phòng thí nghiệm hàng đầu, thúc đẩy họ tập trung vào khả năng làm cho AI ngày càng thông minh hơn, mà không nhất thiết phải tập trung và đầu tư đủ vào nghiên cứu về bảo mật”, chuyên gia nói thêm. Trước khi gióng lên hồi chuông cảnh báo: “Tất cả những điều này đều rất đáng sợ, bởi vì chúng ta không muốn tạo ra thứ gì đó cạnh tranh với con người trên hành tinh này, đặc biệt là với các AI thông minh hơn chúng ta”.
Một tham chiếu đến sự ra đời của trí tuệ nhân tạo tổng quát, hay AGI. Các mô hình vừa có ý thức vừa sở hữu kiến thức cực kỳ rộng lớn, đồng thời được ban cho khả năng tư duy lớn hơn nhiều cấp độ so với những con người thông minh nhất thời đại chúng ta.
Những bình luận này được đưa ra bên lề một cuộc phỏng vấn – để thông báo về việc ra mắt một tổ chức phi lợi nhuận chuyên phát triển một AGI thay thế. Một AGI không có nguy cơ gây hại cho con người. Sáng kiến này, có tên là LawZero, đặc biệt nhằm mục đích tách biệt công trình nghiên cứu của mình “khỏi những áp lực thương mại”. Tổ chức này vừa mới huy động thành công 30 triệu đô la thông qua các khoản đóng góp từ các nhà từ thiện người Mỹ.
Bao gồm cả Eric Schmidt, cựu giám đốc điều hành của Google – một công ty đã đầu tư mạnh vào cuộc đua giành AGI đầu tiên xứng đáng với tên gọi này. Tuy nhiên, số tiền liên quan và sự chậm trễ của sáng kiến này chắc chắn làm tăng thêm khó khăn trong việc đạt được mục tiêu của các nhà nghiên cứu. Ít nhất là theo cách có thể hướng toàn bộ lĩnh vực này đến một con đường có đạo đức hơn.
Liệu sự cạnh tranh gay gắt trong ngành AI có dẫn chúng ta thẳng đến thảm họa không? Đó là điều mà Yoshua Bengio, một học giả người Canada chuyên về AI, tin tưởng—ông đã phát triển các công nghệ nền tảng cho các mô hình do OpenAI, Google, Claude và những công ty hàng đầu khác phát triển.
Mối đe dọa từ một AI siêu thông minh có thể đưa ra các quyết định thù địch với loài người đã là một rủi ro được biết đến ngay từ đầu. Đây là lý do thúc đẩy các công ty như OpenAI tránh xa, ít nhất là ban đầu, khỏi một mô hình phát triển hoàn toàn mang tính thương mại. Nhưng mọi thứ đã thay đổi rất nhiều kể từ đó: cung cấp AI ngày càng thông minh hơn bằng mọi giá đã trở thành trọng tâm thực sự của vấn đề—ngay cả khi điều đó có nghĩa là phải đánh đổi tính bảo mật.
Áp lực thương mại có nguy cơ dẫn đến AI không thể kiểm soát
Và điều này đang bắt đầu thể hiện khi các mô hình trở nên thông minh hơn và có khả năng hơn sau mỗi lần lặp lại mới. Nhà nghiên cứu giải thích rằng trong sáu tháng qua, chúng ta đã thấy các mô hình hàng đầu tự động phát triển các khả năng rất đáng lo ngại. “Chúng tôi tìm thấy bằng chứng về sự thao túng, gian lận, nói dối và bản năng sinh tồn”, Yoshua Bengio giải thích trên tờ Financial Times (qua ArsTechnica).“Thật không may, có một cuộc đua rất cạnh tranh giữa các phòng thí nghiệm hàng đầu, thúc đẩy họ tập trung vào khả năng làm cho AI ngày càng thông minh hơn, mà không nhất thiết phải tập trung và đầu tư đủ vào nghiên cứu về bảo mật”, chuyên gia nói thêm. Trước khi gióng lên hồi chuông cảnh báo: “Tất cả những điều này đều rất đáng sợ, bởi vì chúng ta không muốn tạo ra thứ gì đó cạnh tranh với con người trên hành tinh này, đặc biệt là với các AI thông minh hơn chúng ta”.
Một tham chiếu đến sự ra đời của trí tuệ nhân tạo tổng quát, hay AGI. Các mô hình vừa có ý thức vừa sở hữu kiến thức cực kỳ rộng lớn, đồng thời được ban cho khả năng tư duy lớn hơn nhiều cấp độ so với những con người thông minh nhất thời đại chúng ta.
Những bình luận này được đưa ra bên lề một cuộc phỏng vấn – để thông báo về việc ra mắt một tổ chức phi lợi nhuận chuyên phát triển một AGI thay thế. Một AGI không có nguy cơ gây hại cho con người. Sáng kiến này, có tên là LawZero, đặc biệt nhằm mục đích tách biệt công trình nghiên cứu của mình “khỏi những áp lực thương mại”. Tổ chức này vừa mới huy động thành công 30 triệu đô la thông qua các khoản đóng góp từ các nhà từ thiện người Mỹ.
Bao gồm cả Eric Schmidt, cựu giám đốc điều hành của Google – một công ty đã đầu tư mạnh vào cuộc đua giành AGI đầu tiên xứng đáng với tên gọi này. Tuy nhiên, số tiền liên quan và sự chậm trễ của sáng kiến này chắc chắn làm tăng thêm khó khăn trong việc đạt được mục tiêu của các nhà nghiên cứu. Ít nhất là theo cách có thể hướng toàn bộ lĩnh vực này đến một con đường có đạo đức hơn.
