Năm ngoái, Google đã chặn hoặc xóa 5,1 tỷ quảng cáo và hạn chế 9,1 tỷ quảng cáo có nội dung nhạy cảm (hoặc phân phối hạn chế). Công cụ tìm kiếm này, đồng thời là mạng lưới quảng cáo lớn nhất thế giới, đã đình chỉ 39,2 triệu tài khoản nhà quảng cáo, phần lớn trong số đó thậm chí còn trước khi quảng cáo được phát sóng. Cuối cùng, 220.000 trang web đã bị nhắm mục tiêu bởi biện pháp đình chỉ.
Những ngôi sao này quảng bá, trái với ý muốn của họ, những vụ lừa đảo tài chính cho cơ sở tiền điện tử và các vụ lừa đảo khác. Để ứng phó, Google đã đình chỉ hơn 700.000 tài khoản vì hành vi mạo danh, giúp giảm 90% các báo cáo về loại gian lận này.
Mặc dù số lượng các vụ sử dụng AI có mục đích xấu ngày càng tăng, Google cho biết những công nghệ này cũng được sử dụng để phát hiện lừa đảo, đôi khi thậm chí còn trước khi người dùng báo cáo. Năm ngoái, công ty đã mang đến hàng chục cải tiến cho các mô hình học máy của mình để tăng cường khả năng phát hiện và kiểm duyệt trên quy mô lớn.
Nhưng AI không thể làm được mọi thứ: một nhóm gồm 100 chuyên gia đã được huy động để triển khai các biện pháp đối phó, bao gồm cả bản cập nhật Cập nhật về chính sách của Google về thông tin sai lệch.
Nguồn: Google (PDF)
Khi AI xác định các mối đe dọa AI
Một đánh giá tổng thể ấn tượng, được đưa ra trong báo cáo An toàn quảng cáo năm 2024. Google ghi nhận sự gia tăng các quảng cáo lừa đảo liên quan đến AI. Một trong những mối đe dọa đáng lo ngại nhất là lừa đảo dựa trên hình ảnh deepfake của người nổi tiếng được tạo ra bởi các công cụ AI. Những ngôi sao như Tom Hanks thường xuyên lên án việc sử dụng sai hình ảnh của họ cho những quảng cáo giả mạo này.Những ngôi sao này quảng bá, trái với ý muốn của họ, những vụ lừa đảo tài chính cho cơ sở tiền điện tử và các vụ lừa đảo khác. Để ứng phó, Google đã đình chỉ hơn 700.000 tài khoản vì hành vi mạo danh, giúp giảm 90% các báo cáo về loại gian lận này.
Mặc dù số lượng các vụ sử dụng AI có mục đích xấu ngày càng tăng, Google cho biết những công nghệ này cũng được sử dụng để phát hiện lừa đảo, đôi khi thậm chí còn trước khi người dùng báo cáo. Năm ngoái, công ty đã mang đến hàng chục cải tiến cho các mô hình học máy của mình để tăng cường khả năng phát hiện và kiểm duyệt trên quy mô lớn.
Nhưng AI không thể làm được mọi thứ: một nhóm gồm 100 chuyên gia đã được huy động để triển khai các biện pháp đối phó, bao gồm cả bản cập nhật Cập nhật về chính sách của Google về thông tin sai lệch.
Nguồn: Google (PDF)