Apple vừa thông báo về việc trì hoãn ra mắt Siri mới, được hỗ trợ bởi AI tạo ra. Phiên bản mới của trợ lý giọng nói, được mô tả là "Siri được cá nhân hóa hơn, có khả năng nhận biết tốt hơn về bối cảnh cá nhân của bạn, cũng như khả năng thực hiện hành động thay bạn trong và trên các ứng dụng của bạn", sẽ không được triển khai cho đến năm sau. Gã khổng lồ Cupertino cho biết họ cần "nhiều thời gian hơn dự kiến để cung cấp các tính năng này".
Trong khi đó, Apple Intelligence vẫn thiếu một trong những tài sản chính của mình. Nhóm này thậm chí còn buộc phải hoãn lại một sản phẩm rất được mong đợi, HomePod với màn hình được thiết kế dành cho ngôi nhà kết nối. Thiết bị này thực sự phần lớn dựa trên sự phát triển của Siri.
Trong trường hợp của Siri, các truy vấn độc hại có thể gây ra hậu quả thảm khốc cho bảo mật của iPhone. Như Simon Willison giải thích, trợ lý giọng nói trong tương lai có thể truy cập thông tin trong ứng dụng của người dùng theo yêu cầu. Tuy nhiên, "bất cứ khi nào một hệ thống dựa trên mô hình ngôn ngữ có quyền truy cập vào dữ liệu riêng tư, các công cụ mà nó có thể khai thác hoặc tiếp xúc với các hướng dẫn có khả năng gây hại (như email hoặc tin nhắn văn bản từ những người lạ không đáng tin cậy), thì có nguy cơ đáng kể là kẻ tấn công có thể sử dụng sai các công cụ này để làm hỏng hoặc đánh cắp dữ liệu của người dùng"..
Như một biện pháp phòng ngừa, Apple đã muốn hoãn việc ra mắt trợ lý, có lẽ là để có thời gian đóng tất cả các hướng khai thác có thể. Xin nhắc lại, Apple đã đưa tính bảo mật lên hàng đầu. Do đó, công ty muốn tránh làm hỏng danh tiếng của mình bằng cách triển khai một Siri có thể gây rủi ro cho dữ liệu của người dùng iPhone. Như thường lệ, công ty của Tim Cook đang chơi an toàn.
Nguồn: Simon Willison
Trong khi đó, Apple Intelligence vẫn thiếu một trong những tài sản chính của mình. Nhóm này thậm chí còn buộc phải hoãn lại một sản phẩm rất được mong đợi, HomePod với màn hình được thiết kế dành cho ngôi nhà kết nối. Thiết bị này thực sự phần lớn dựa trên sự phát triển của Siri.
Siri và "tiêm nhắc"
Đối với Simon Willison, nhà phát triển người Anh đứng sau Datasette, một nền tảng nguồn mở để khám phá và công bố dữ liệu, Apple đã quyết định hoãn Siri 2.0 vì lý do bảo mật. Trên trang web của mình, lập trình viên này tin rằng gã khổng lồ California lo ngại Siri dễ bị tấn công "tiêm ngay". Loại tấn công này bao gồm việc điều khiển mô hình trí tuệ nhân tạo bằng cách chèn các lệnh độc hại vào truy vấn để vượt qua các hạn chế bảo mật. Nói tóm lại, người dùng thuyết phục AI bỏ qua chương trình của mình để tạo nội dung hoặc thực hiện các hành động bị nhà phát triển cấm. Tất cả AI đều có thể bị tấn công theo kiểu này. Đó là lý do tại sao OpenAI, Google và các công ty khác đã triển khai một loạt các cơ chế bảo mật để chặn "tiêm nhanh".Trong trường hợp của Siri, các truy vấn độc hại có thể gây ra hậu quả thảm khốc cho bảo mật của iPhone. Như Simon Willison giải thích, trợ lý giọng nói trong tương lai có thể truy cập thông tin trong ứng dụng của người dùng theo yêu cầu. Tuy nhiên, "bất cứ khi nào một hệ thống dựa trên mô hình ngôn ngữ có quyền truy cập vào dữ liệu riêng tư, các công cụ mà nó có thể khai thác hoặc tiếp xúc với các hướng dẫn có khả năng gây hại (như email hoặc tin nhắn văn bản từ những người lạ không đáng tin cậy), thì có nguy cơ đáng kể là kẻ tấn công có thể sử dụng sai các công cụ này để làm hỏng hoặc đánh cắp dữ liệu của người dùng"..
Theo báo cáo, Apple lo ngại dữ liệu bị đánh cắp
Theo báo cáo, Apple lo ngại Siri có thể bị khai thác để chỉ đạo đánh cắp dữ liệu. Ví dụ, kẻ tấn công có thể chèn các hướng dẫn độc hại vào email hoặc tin nhắn. Nếu Siri truy cập vào những dữ liệu này, nó có thể tiết lộ thông tin riêng tư và gửi dữ liệu cho bên thứ ba. Ngoài ra, các cuộc tấn công có thể thao túng cách hoạt động của Siri. Rủi ro là trợ lý giọng nói có thể bắt đầu tạo ra nội dung thù địch hoặc bất hợp pháp. Đối với blogger John Gruber, người chuyên viết về các chủ đề liên quan đến Apple, thì lý thuyết của Simon Willison đặc biệt đáng tin cậy.Như một biện pháp phòng ngừa, Apple đã muốn hoãn việc ra mắt trợ lý, có lẽ là để có thời gian đóng tất cả các hướng khai thác có thể. Xin nhắc lại, Apple đã đưa tính bảo mật lên hàng đầu. Do đó, công ty muốn tránh làm hỏng danh tiếng của mình bằng cách triển khai một Siri có thể gây rủi ro cho dữ liệu của người dùng iPhone. Như thường lệ, công ty của Tim Cook đang chơi an toàn.
Vẫn còn quá nhiều lỗi
Đối với Mark Gurman, một nhà báo tại Bloomberg, Siri mới cũng bị ảnh hưởng, và trên hết là do nhiều lỗi. Theo thông tin của ông, "nhiều nhân viên thử nghiệm Siri mới đã phát hiện ra rằng các tính năng này vẫn chưa hoạt động ổn định". Apple dường như đang gặp khó khăn trong việc tích hợp liền mạch các tính năng cơ bản của Siri, chẳng hạn như quản lý bộ đếm thời gian, lời nhắc và các lệnh đơn giản, với các khả năng nâng cao của Siri mới được hỗ trợ bởi Apple Intelligence. Trong mọi trường hợp, chúng ta sẽ phải đợi đến năm 2026 và bản cập nhật iOS 19 để khám phá Siri mới kết hợp với AI tạo sinh.Nguồn: Simon Willison
