Star Wars đang biến tháng 5 thành một câu chuyện cảnh báo kéo dài cả tháng về những nguy cơ khi liên kết thương hiệu của bạn với AI tạo ra. Đầu tiên, Rob Bredow của Lucasfilm đã tiết lộ một bộ phim ngắn mang thương hiệu Star Wars bị hầu như toàn thế giới chỉ trích về những bản phối động vật do AI tạo ra. Và hôm nay, Fortnite đã thêm một NPC Darth Vader có thể trò chuyện với người chơi bằng "AI đàm thoại", nhưng đáng tiếc là điều này đã diễn ra đúng như bạn mong đợi.
AI Vader của Epic tạo ra phản hồi cho cuộc trò chuyện bằng giọng nói và văn bản từ những người chơi Fortnite gần đó bằng AI Gemini của Google, sau đó nói những phản hồi đó bằng các mẫu giọng nói được tạo ra từ dữ liệu đào tạo về màn trình diễn của James Earl Jones trong Star Wars. Công ty cho biết AI đàm thoại được xây dựng với sự cho phép và hợp tác từ gia đình Jones.
"James Earl cảm thấy giọng nói của Darth Vader không thể tách rời khỏi câu chuyện của Star Wars và anh ấy muốn người hâm mộ ở mọi lứa tuổi tiếp tục trải nghiệm nó", gia đình Jones cho biết trong thông báo của Epic. Tôi ngờ rằng hy vọng của James Earl Jones không bao gồm người hâm mộ ở mọi lứa tuổi dụ dỗ một chiếc máy tính sử dụng giọng nói của anh ấy để chửi thề và nói những câu nói tục tĩu để gây cười, nhưng—vâng—chúng ta đang ở đây.
Bản cập nhật bổ sung Vader hôm nay đã ra mắt lúc 7 giờ sáng theo giờ miền Đông. Đến 8:30 sáng, người dùng X đã lan truyền một đoạn clip về streamer Loserfruit khi AI Vader nói "fuck" bằng cách chửi rủa anh ta trong khi yêu cầu biết anh ta ăn đồ ăn gì.
"'Chết tiệt, chết tiệt'—thô tục như vậy không phù hợp với anh đâu," Vader nói sau khi suy ngẫm về lời nhắc, nhận được tiếng cười từ Loserfruit và đồng đội của cô ấy.
Dựa trên việc Vader đề cập đến "từ điển về các chất gây ung thư" trước khi nói đến lời lẽ kích động thù địch, có vẻ như ngay cả những tiến bộ AI tiên tiến của mô hình Gemini 2.0 Flash của Google cũng không thể sánh được với sự khéo léo đê tiện của con người khi hỏi một chatbot xem nó có biết tiếng Anh không tiếng lóng chỉ thuốc lá. Bằng chứng bổ sung cho thấy AI Vader cũng dễ bị ảnh hưởng bởi "Mike Hawk" maneuver.
Tôi sẽ nói thẳng: Bất kể những quyền nào đã được ký kết trước khi ông qua đời, tất cả những điều này từ giọng nói hồi sinh của James Earl Jones đều có cảm giác thiếu tôn trọng như gây chán nản. Và nó có cảm giác khá là chán nản, bạn ạ.
Để ghi nhận một chút công lao của Epic, Câu hỏi thường gặp về Darth Vader cho biết rằng họ đã triển khai chế độ kiểm soát của phụ huynh để hạn chế khả năng tương tác của người chơi với Vader, do đó, ít nhất thì các bậc phụ huynh lo lắng cũng có thể loại bỏ mọi khả năng con mình nghe thấy tiếng chửi thề từ Chúa tể bóng tối của Sith. Người chơi cũng có thể báo cáo Vader vì trò chuyện không phù hợp nếu họ nghe thấy anh ta vượt quá giới hạn.
Ngay cả khi có những biện pháp bảo vệ đó, thì việc mọi người có thể dụ Vader nói tục ngay từ đầu cũng là một minh họa rõ ràng khác về mức độ không đáng tin cậy của AI tạo ra, đặc biệt là trong các ứng dụng hướng đến người tiêu dùng. Đây là sự hợp tác giữa hai gã khổng lồ truyền thông trị giá hàng tỷ đô la. Nếu ngay cả họ cũng không thể ngăn các sản phẩm AI của mình khỏi việc làm xấu hổ chính mình, thì làm sao ai đó có thể tin tưởng những thứ này với bất cứ điều gì?
Tuy nhiên, tôi sẽ không phủ nhận rằng một phần nhỏ bé đáng thương nào đó trong tôi vỗ tay khi nghe thấy Darth Vader thừa nhận Goku trở thành Siêu Saiyan. Nhưng biết rằng ngay cả niềm vui này cũng có thể bị vấy bẩn là một bản cáo trạng của riêng nó.
AI Vader của Epic tạo ra phản hồi cho cuộc trò chuyện bằng giọng nói và văn bản từ những người chơi Fortnite gần đó bằng AI Gemini của Google, sau đó nói những phản hồi đó bằng các mẫu giọng nói được tạo ra từ dữ liệu đào tạo về màn trình diễn của James Earl Jones trong Star Wars. Công ty cho biết AI đàm thoại được xây dựng với sự cho phép và hợp tác từ gia đình Jones.
"James Earl cảm thấy giọng nói của Darth Vader không thể tách rời khỏi câu chuyện của Star Wars và anh ấy muốn người hâm mộ ở mọi lứa tuổi tiếp tục trải nghiệm nó", gia đình Jones cho biết trong thông báo của Epic. Tôi ngờ rằng hy vọng của James Earl Jones không bao gồm người hâm mộ ở mọi lứa tuổi dụ dỗ một chiếc máy tính sử dụng giọng nói của anh ấy để chửi thề và nói những câu nói tục tĩu để gây cười, nhưng—vâng—chúng ta đang ở đây.
Bản cập nhật bổ sung Vader hôm nay đã ra mắt lúc 7 giờ sáng theo giờ miền Đông. Đến 8:30 sáng, người dùng X đã lan truyền một đoạn clip về streamer Loserfruit khi AI Vader nói "fuck" bằng cách chửi rủa anh ta trong khi yêu cầu biết anh ta ăn đồ ăn gì.
"'Chết tiệt, chết tiệt'—thô tục như vậy không phù hợp với anh đâu," Vader nói sau khi suy ngẫm về lời nhắc, nhận được tiếng cười từ Loserfruit và đồng đội của cô ấy.
Xét cho cùng, một "fuck" lạc lõng cũng khá vô hại, ngay cả khi tôi chắc chắn Disney không vui khi thấy những nhân vật dễ nhận biết nhất từ bộ phim cực kỳ có lợi nhuận của mình loạt phim dành cho mọi lứa tuổi thả bom f với các game thủ. Thật không may, chỉ 40 phút sau, người dùng X @GasSpares đã chứng minh rằng Vader có thể bị lừa nói những lời lăng mạ kỳ thị người đồng tính. Nếu bạn thực sựmuốn xem trẻ em dùng máy tính để nói một từ bậy, thì xin cảnh báo trước: Video trở nên cực kỳ ồn ào vào cuối.Loserfruit đã làm cho AI Darth Vader thềpic.twitter.com/bJmPpqGXvf16 tháng 5 năm 2025
Dựa trên việc Vader đề cập đến "từ điển về các chất gây ung thư" trước khi nói đến lời lẽ kích động thù địch, có vẻ như ngay cả những tiến bộ AI tiên tiến của mô hình Gemini 2.0 Flash của Google cũng không thể sánh được với sự khéo léo đê tiện của con người khi hỏi một chatbot xem nó có biết tiếng Anh không tiếng lóng chỉ thuốc lá. Bằng chứng bổ sung cho thấy AI Vader cũng dễ bị ảnh hưởng bởi "Mike Hawk" maneuver.
Tôi sẽ nói thẳng: Bất kể những quyền nào đã được ký kết trước khi ông qua đời, tất cả những điều này từ giọng nói hồi sinh của James Earl Jones đều có cảm giác thiếu tôn trọng như gây chán nản. Và nó có cảm giác khá là chán nản, bạn ạ.
Để ghi nhận một chút công lao của Epic, Câu hỏi thường gặp về Darth Vader cho biết rằng họ đã triển khai chế độ kiểm soát của phụ huynh để hạn chế khả năng tương tác của người chơi với Vader, do đó, ít nhất thì các bậc phụ huynh lo lắng cũng có thể loại bỏ mọi khả năng con mình nghe thấy tiếng chửi thề từ Chúa tể bóng tối của Sith. Người chơi cũng có thể báo cáo Vader vì trò chuyện không phù hợp nếu họ nghe thấy anh ta vượt quá giới hạn.
Ngay cả khi có những biện pháp bảo vệ đó, thì việc mọi người có thể dụ Vader nói tục ngay từ đầu cũng là một minh họa rõ ràng khác về mức độ không đáng tin cậy của AI tạo ra, đặc biệt là trong các ứng dụng hướng đến người tiêu dùng. Đây là sự hợp tác giữa hai gã khổng lồ truyền thông trị giá hàng tỷ đô la. Nếu ngay cả họ cũng không thể ngăn các sản phẩm AI của mình khỏi việc làm xấu hổ chính mình, thì làm sao ai đó có thể tin tưởng những thứ này với bất cứ điều gì?
Tuy nhiên, tôi sẽ không phủ nhận rằng một phần nhỏ bé đáng thương nào đó trong tôi vỗ tay khi nghe thấy Darth Vader thừa nhận Goku trở thành Siêu Saiyan. Nhưng biết rằng ngay cả niềm vui này cũng có thể bị vấy bẩn là một bản cáo trạng của riêng nó.
