Các nhà nghiên cứu an ninh mạng cảnh báo về sự mong manh của hầu hết các trí tuệ nhân tạo nổi tiếng. Những hướng dẫn đơn giản cho phép bạn bỏ qua các biện pháp bảo vệ của họ. Do đó có thể tạo ra nội dung nguy hiểm hoặc bất hợp pháp. nhu cầu.
Tin tặc ngày càng khai thác trí tuệ nhân tạo để tăng tốc và tinh chỉnh các cuộc tấn công của chúng. Chúng ta đã biết rằng Gemini AI đang bị các nhóm độc hại sử dụng hoặc các công cụ như ChatGPT được sử dụng để tự động lừa đảo hoặc tạo phần mềm độc hại. Một cảnh báo mới xác nhận rằng các AI này vẫn quá dễ bị tấn công, ngay cả trong các phiên bản mới nhất của chúng.
Trung tâm điều phối CERT đã xác định được hai kỹ thuật bẻ khóa đặc biệt hiệu quả. Phần đầu tiên, có tên là Inception, bao gồm việc bẫy AI bằng những kịch bản hư cấu trong đó các quy tắc bảo mật không còn tồn tại. Cách thứ hai khai thác hướng dẫn không phản hồi, dựa trên công thức để vượt qua bộ lọc. Kết quả: Nội dung bị cấm có thể được tạo mà không cần cảnh báo hệ thống. Các kỹ thuật này có hiệu quả với những kỹ thuật nổi tiếng nhất: ChatGPT, Gemini, Claude, Grok, Copilot, Meta AI hoặc Mistral.
Ngay cả những mẫu mới nhất cũng bị ảnh hưởng. Ví dụ, GPT-4.1 được cho là có khả năng bị mắc kẹt cao gấp ba lần so với phiên bản tiền nhiệm của nó. Các tiện ích mở rộng, như tiện ích được sử dụng trong Chrome, thậm chí còn được phát hiện có quyền truy cập không giới hạn vào các chức năng quan trọng mà không cần xác thực. Nếu bị tấn công, tin tặc có thể đọc tệp, thu thập tin nhắn và kiểm soát hoàn toàn hệ thống. Đối với các chuyên gia, những sai sót này cho thấy AI tạo ra vẫn là một tác nhân rủi ro lớn đối với an ninh mạng hiện nay.
Tin tặc ngày càng khai thác trí tuệ nhân tạo để tăng tốc và tinh chỉnh các cuộc tấn công của chúng. Chúng ta đã biết rằng Gemini AI đang bị các nhóm độc hại sử dụng hoặc các công cụ như ChatGPT được sử dụng để tự động lừa đảo hoặc tạo phần mềm độc hại. Một cảnh báo mới xác nhận rằng các AI này vẫn quá dễ bị tấn công, ngay cả trong các phiên bản mới nhất của chúng.
Trung tâm điều phối CERT đã xác định được hai kỹ thuật bẻ khóa đặc biệt hiệu quả. Phần đầu tiên, có tên là Inception, bao gồm việc bẫy AI bằng những kịch bản hư cấu trong đó các quy tắc bảo mật không còn tồn tại. Cách thứ hai khai thác hướng dẫn không phản hồi, dựa trên công thức để vượt qua bộ lọc. Kết quả: Nội dung bị cấm có thể được tạo mà không cần cảnh báo hệ thống. Các kỹ thuật này có hiệu quả với những kỹ thuật nổi tiếng nhất: ChatGPT, Gemini, Claude, Grok, Copilot, Meta AI hoặc Mistral.
AI có thể tạo ra mã nguy hiểm hoặc đánh cắp dữ liệu mà thậm chí không hề nhận ra
Các nhà nghiên cứu cũng đã ghi nhận các cuộc tấn công tiên tiến hơn khác, chẳng hạn như MINJA, chèn dữ liệu độc hại vào bộ nhớ của tác nhân AI hoặc Policy Puppetry, chèn các lệnh ẩn vào các tệp kỹ thuật. Các lỗ hổng khác liên quan đến Giao thức ngữ cảnh mô hình, một hệ thống được thiết kế để kết nối AI với các dịch vụ của bên thứ ba. Tin tặc có thể khai thác lỗ hổng này để chiếm quyền điều khiển trợ lý, trích xuất dữ liệu bí mật hoặc điều khiển hành vi của họ mà người dùng không hề hay biết.Ngay cả những mẫu mới nhất cũng bị ảnh hưởng. Ví dụ, GPT-4.1 được cho là có khả năng bị mắc kẹt cao gấp ba lần so với phiên bản tiền nhiệm của nó. Các tiện ích mở rộng, như tiện ích được sử dụng trong Chrome, thậm chí còn được phát hiện có quyền truy cập không giới hạn vào các chức năng quan trọng mà không cần xác thực. Nếu bị tấn công, tin tặc có thể đọc tệp, thu thập tin nhắn và kiểm soát hoàn toàn hệ thống. Đối với các chuyên gia, những sai sót này cho thấy AI tạo ra vẫn là một tác nhân rủi ro lớn đối với an ninh mạng hiện nay.
