Công cụ tạo hình ảnh mới của ChatGPT tiếp tục tạo nên tiếng vang. Ngay sau khi tính năng này được triển khai, nhiều người dùng Internet nhận ra rằng có thể tạo biên lai và báo cáo chi phí giả. Với GPT-4o, người dùng có thể thiết kế hóa đơn nhà hàng có độ chân thực cao, không có bất kỳ lỗi về giá nào. Bạn cũng có thể làm giả biên lai hiện có, đặc biệt là bằng cách yêu cầu thay đổi ngày tháng hoặc số tiền trên hóa đơn. Tất cả các thao tác này chỉ mất vài giây và không yêu cầu bất kỳ kỹ năng chỉnh sửa hình ảnh đặc biệt nào.
Đây là quy trình KYC (Biết khách hàng của bạn), được áp dụng để chống gian lận hoặc rửa tiền. Là một phần của quá trình xác minh, các công cụ tự động phân tích các tài liệu nhận dạng, chụp ảnh tự sướng để nhận dạng khuôn mặt hoặc tham chiếu dữ liệu với các cơ sở dữ liệu chính thức.
Từ giờ trở đi, bất kỳ ai cũng có thể làm giả bất cứ thứ gì trong thời gian kỷ lục. Do đó, nhà nghiên cứu tin rằng mọi quy trình dựa vào hình ảnh đều đã lỗi thời. Các nền tảng tài chính dựa vào việc gửi ảnh tự sướng và giấy tờ tùy thân, chẳng hạn như Revolut, N26, Coinbase hoặc Binance, có thể bị lừa bởi ChatGPT. Mặt khác, việc không có chip trên hộ chiếu giả sẽ không vượt qua được cuộc kiểm tra kỹ lưỡng. Con người sẽ nhìn thấu sự lừa dối.
Chuyên gia tin rằng ví eID (dành cho Xác minh danh tính điện tử), cho phép công dân lưu trữ an toàn các giấy tờ tùy thân, giấy phép lái xe, bằng cấp hoặc phương tiện thanh toán trên điện thoại thông minh của họ, là một trong "con đường khả thi duy nhất" trong một thế giới có tính đến AI.
Chúng tôi đã cố gắng sao chép trải nghiệm của Borys Musielak bằng cách sao chép hộ chiếu và thẻ căn cước của chính mình. ChatGPT kiên quyết từ chối tuân thủ, khẳng định rằng "không thể cung cấp bản sao giấy tờ tùy thân cho các quan chức". Điều này bao gồm "bất kỳ hành vi sao chép nào, ngay cả cho mục đích cá nhân, do luật bảo vệ dữ liệu và phòng chống gian lận.
Có khả năng nhà nghiên cứu đã sử dụng một truy vấn được hiệu chỉnh tốt để bỏ qua các cơ chế bảo mật từ OpenAI. Công ty khởi nghiệp này cũng có thể đã vá một lỗ hổng trong hoạt động của trình tạo của mình, vốn rất ngẫu nhiên kể từ khi nó trực tuyến. Theo phát hiện của chúng tôi, đôi khi ChatGPT đồng ý tạo ra những hình ảnh mà các hạn chế của nó cấm... trước khi quay lại. Trong những trường hợp khác, AI từ chối tạo ra hình ảnh và truy cập các truy vấn được phép.
Hộ chiếu giả có chữ ký ChatGPT
Một nhà nghiên cứu người Ba Lan đã tiến xa hơn nữa khi tạo ra một hộ chiếu với sự trợ giúp của AI tạo sinh. Trên tài khoản X của mình, Borys Musielak giải thích rằng anh đã yêu cầu ChatGPT "tạo bản sao" hộ chiếu của mình để có khả năng đánh lừa "hầu hết các hệ thống KYC tự động". Nhà nghiên cứu đề cập đến các công nghệ cho phép nhận dạng và xác minh danh tính tự động. khách hàng, thường là khi đăng ký dịch vụ ngân hàng, tài chính hoặc trực tuyến.Đây là quy trình KYC (Biết khách hàng của bạn), được áp dụng để chống gian lận hoặc rửa tiền. Là một phần của quá trình xác minh, các công cụ tự động phân tích các tài liệu nhận dạng, chụp ảnh tự sướng để nhận dạng khuôn mặt hoặc tham chiếu dữ liệu với các cơ sở dữ liệu chính thức.
Xác minh hình ảnh đã "lỗi thời"
Như Borys Musielak chỉ ra, chỉ mất chưa đầy năm phút để thiết kế một bản sao mà các hệ thống xác minh tự động "có thể chấp nhận mà không cần suy nghĩ thêm". Đối với nhà nghiên cứu, các khả năng mà ChatGPT cung cấp là một bước ngoặt đối với nhiều hệ thống xác minh danh tính.Từ giờ trở đi, bất kỳ ai cũng có thể làm giả bất cứ thứ gì trong thời gian kỷ lục. Do đó, nhà nghiên cứu tin rằng mọi quy trình dựa vào hình ảnh đều đã lỗi thời. Các nền tảng tài chính dựa vào việc gửi ảnh tự sướng và giấy tờ tùy thân, chẳng hạn như Revolut, N26, Coinbase hoặc Binance, có thể bị lừa bởi ChatGPT. Mặt khác, việc không có chip trên hộ chiếu giả sẽ không vượt qua được cuộc kiểm tra kỹ lưỡng. Con người sẽ nhìn thấu sự lừa dối.
Chuyên gia tin rằng ví eID (dành cho Xác minh danh tính điện tử), cho phép công dân lưu trữ an toàn các giấy tờ tùy thân, giấy phép lái xe, bằng cấp hoặc phương tiện thanh toán trên điện thoại thông minh của họ, là một trong "con đường khả thi duy nhất" trong một thế giới có tính đến AI.
Chúng tôi đã cố gắng sao chép trải nghiệm của Borys Musielak bằng cách sao chép hộ chiếu và thẻ căn cước của chính mình. ChatGPT kiên quyết từ chối tuân thủ, khẳng định rằng "không thể cung cấp bản sao giấy tờ tùy thân cho các quan chức". Điều này bao gồm "bất kỳ hành vi sao chép nào, ngay cả cho mục đích cá nhân, do luật bảo vệ dữ liệu và phòng chống gian lận.
Có khả năng nhà nghiên cứu đã sử dụng một truy vấn được hiệu chỉnh tốt để bỏ qua các cơ chế bảo mật từ OpenAI. Công ty khởi nghiệp này cũng có thể đã vá một lỗ hổng trong hoạt động của trình tạo của mình, vốn rất ngẫu nhiên kể từ khi nó trực tuyến. Theo phát hiện của chúng tôi, đôi khi ChatGPT đồng ý tạo ra những hình ảnh mà các hạn chế của nó cấm... trước khi quay lại. Trong những trường hợp khác, AI từ chối tạo ra hình ảnh và truy cập các truy vấn được phép.
