Microsoft vừa có động thái mạnh mẽ trong cuộc chiến chống lại việc sử dụng sai mục đích trí tuệ nhân tạo. Công ty đã tiết lộ danh tính của bốn cá nhân bị cáo buộc đã lợi dụng dịch vụ Azure OpenAI của mình để tạo ra các video deepfake có nội dung khiêu dâm, đặc biệt là của những người nổi tiếng.
Microsoft đã tiết lộ rằng những cá nhân từ Iran, Vương quốc Anh, Hồng Kông và Việt Nam là thành viên chủ chốt của một mạng lưới tội phạm quốc tế có tên là Storm-2139 do Microsoft tạo ra. Theo công ty, nhóm này đã sử dụng các khóa API đánh cắp từ một số khách hàng của Microsoft để truy cập dịch vụ Azure OpenAI và lách luật các biện pháp bảo vệ được đưa ra để ngăn chặn việc tạo ra nội dung có hại.
Đơn vị điều tra tội phạm kỹ thuật số của Microsoft ban đầu đã đệ đơn khiếu nại lên mười "John Does" (cá nhân không xác định) vì vi phạm luật pháp Hoa Kỳ và Điều khoản dịch vụ của Dịch vụ AI tạo sinh. Đơn khiếu nại này vừa được sửa đổi để nêu tên và xác định cụ thể bốn cá nhân: Arian Yadegarnia (hay còn gọi là "Fiz"), Alan Krysiak (hay còn gọi là "Drago"), Ricky Yuen (hay còn gọi là "cg-dot") và Phát Phùng Tấn (hay còn gọi là "Asakuri").
Cũng nên đọc – Copilot phản bội Microsoft, AI tiết lộ cách hack Windows 11
Các bị cáo bị cáo buộc không chỉ khai thác thông tin nhận dạng khách hàng thu được một cách bất hợp pháp mà còn sửa đổi khả năng của các dịch vụ AI để bán lại cho những tác nhân độc hại khác. Họ bị cáo buộc đã cung cấp hướng dẫn chi tiết về cách tạo ra nội dung có hại, bao gồm hình ảnh thân mật không được sự đồng ý của người nổi tiếng và các nội dung khiêu dâm khác.
Xin nhắc lại, Microsoft đã có được lệnh của tòa án cho phép họ tịch thu một trang web quan trọng đối với hoạt động của nhóm tội phạm, do đó làm gián đoạn khả năng tiếp thị các dịch vụ bất hợp pháp của nhóm này. Steven Masada, phó cố vấn pháp lý của đơn vị Đơn vị tội phạm kỹ thuật số của Microsoft, nhấn mạnh tầm quan trọng của việc vạch trần những cá nhân này và đưa các hoạt động độc hại của họ ra ánh sáng để tạo tiền lệ trong cuộc chiến chống lại việc sử dụng sai mục đích các công nghệ AI.
Microsoft đã tiết lộ rằng những cá nhân từ Iran, Vương quốc Anh, Hồng Kông và Việt Nam là thành viên chủ chốt của một mạng lưới tội phạm quốc tế có tên là Storm-2139 do Microsoft tạo ra. Theo công ty, nhóm này đã sử dụng các khóa API đánh cắp từ một số khách hàng của Microsoft để truy cập dịch vụ Azure OpenAI và lách luật các biện pháp bảo vệ được đưa ra để ngăn chặn việc tạo ra nội dung có hại.
Đơn vị điều tra tội phạm kỹ thuật số của Microsoft ban đầu đã đệ đơn khiếu nại lên mười "John Does" (cá nhân không xác định) vì vi phạm luật pháp Hoa Kỳ và Điều khoản dịch vụ của Dịch vụ AI tạo sinh. Đơn khiếu nại này vừa được sửa đổi để nêu tên và xác định cụ thể bốn cá nhân: Arian Yadegarnia (hay còn gọi là "Fiz"), Alan Krysiak (hay còn gọi là "Drago"), Ricky Yuen (hay còn gọi là "cg-dot") và Phát Phùng Tấn (hay còn gọi là "Asakuri").
Cũng nên đọc – Copilot phản bội Microsoft, AI tiết lộ cách hack Windows 11
Một mạng lưới tội phạm tinh vi
Cuộc điều tra của Microsoft đã tiết lộ một tổ chức phức tạp trong Storm-2139. Nhóm này bao gồm những người sáng tạo, những người phát triển các công cụ độc hại để lách luật bảo vệ của các dịch vụ AI, các nhà cung cấp sửa đổi và bán lại các công cụ này với nhiều mức giá khác nhau và người dùng cuối sử dụng chúng để tạo ra nội dung tổng hợp bất hợp pháp.Các bị cáo bị cáo buộc không chỉ khai thác thông tin nhận dạng khách hàng thu được một cách bất hợp pháp mà còn sửa đổi khả năng của các dịch vụ AI để bán lại cho những tác nhân độc hại khác. Họ bị cáo buộc đã cung cấp hướng dẫn chi tiết về cách tạo ra nội dung có hại, bao gồm hình ảnh thân mật không được sự đồng ý của người nổi tiếng và các nội dung khiêu dâm khác.
Xin nhắc lại, Microsoft đã có được lệnh của tòa án cho phép họ tịch thu một trang web quan trọng đối với hoạt động của nhóm tội phạm, do đó làm gián đoạn khả năng tiếp thị các dịch vụ bất hợp pháp của nhóm này. Steven Masada, phó cố vấn pháp lý của đơn vị Đơn vị tội phạm kỹ thuật số của Microsoft, nhấn mạnh tầm quan trọng của việc vạch trần những cá nhân này và đưa các hoạt động độc hại của họ ra ánh sáng để tạo tiền lệ trong cuộc chiến chống lại việc sử dụng sai mục đích các công nghệ AI.
