Các cuộc tranh luận phân cực, deepfake, các chủ đề được đẩy một cách giả tạo trên mạng xã hội... Thứ Ba tuần này, ngày 7 tháng 1, các nhóm của Viginum, cơ quan đấu tranh chống lại sự can thiệp của nước ngoài và việc thao túng thông tin, đã được Clara Chappaz, Bộ trưởng Bộ Trí tuệ nhân tạo (AI) và Các vấn đề số đến thăm.
"Vì lý do an ninh", không có nhà báo nào có thể tham dự chuyến đi. Cơ quan này, trực thuộc Tổng cục Quốc phòng và An ninh Quốc gia (SGDSN), có nhiệm vụ phát hiện và phân tích trên các nền tảng trực tuyến các chiến dịch thao túng thông tin rất cụ thể: "những chiến dịch có sự tham gia của các tác nhân nước ngoài và nhằm mục đích làm mất ổn định các lợi ích cơ bản của quốc gia".
Một ngày trước đó, một cuộc họp báo đã được tổ chức trước cho báo chí. Cơ hội để biết rằng Bộ trưởng dự định đảm bảo, trong chuyến thăm của mình, "mức độ và tính mạnh mẽ của các nguồn lực của Viginium", đặc biệt là thông qua việc trao đổi với các nhà khoa học dữ liệu và "phòng thí nghiệm dữ liệu" của dịch vụ. Đối với các nhóm, đó cũng là vấn đề làm nổi bật các nhiệm vụ phòng thủ của dịch vụ của họ, điều mà công chúng thường không biết đến.
Viginum, được mô tả là "cánh vũ trang của chính quyền công", hoặc "lá chắn của Pháp chống lại sự can thiệp của nước ngoài", không phải là "một cơ quan tình báo", cũng không phải là "một cơ quan cảnh sát tư pháp có thể đưa ra yêu cầu", Marc Antoine Brillant, người đứng đầu cơ quan này, nhớ lại. Người đứng đầu cơ quan này nhấn mạnh rằng cơ quan này muốn "nhận thức được các đối thủ nước ngoài đang làm gì", đồng thời luôn có ý định "áp dụng biện pháp đối phó". Do đó, vai trò của nó không phải là tuyên bố về sự thật mà là xác định "các phương thức hoạt động, kỹ thuật phát tán (thông tin sai lệch trên các nền tảng) được các tác nhân nước ngoài sử dụng, dù là nhà nước hay không", giám đốc Viginum nói thêm.
Công tác điều tra trực tuyến được thực hiện vì lợi ích của Arcom và thay mặt cho Ủy ban Châu Âu. Kể từ DSA, quy định của Châu Âu về các dịch vụ kỹ thuật số, các nền tảng như X, YouTube, Instagram và TikTok thực tế phải tôn trọng "các nghĩa vụ tăng cường về kiểm duyệt và xóa thông tin bị thao túng". Họ cũng phải "hạn chế tính lan truyền của các chiến dịch thông tin sai lệch, làm suy yếu nền dân chủ của chúng ta", nhóm tùy tùng của bộ trưởng nhớ lại. Và vai trò của Viginum chính xác là "ghi lại và khách quan hóa những điểm không đầy đủ hoặc hạn chế của các nền tảng này", điều này sẽ cung cấp tài liệu cho các cuộc điều tra đang diễn ra do Ủy ban Châu Âu tiến hành.
Dịch vụ này đã thiết lập "kênh truyền thông" với các nền tảng chính như YouTube, X, Instagram. "Chúng tôi chia sẻ các yếu tố phát hiện với họ và họ sẽ trả lời dựa trên những gì họ muốn cho chúng tôi biết", Marc Antoine Brillant giải thích.
Một trong những thách thức của chuyến thăm này là đánh giá mức độ hợp tác hiện tại giữa các nền tảng và cách họ có thể cải thiện mức độ hợp tác này. "Có những câu hỏi nảy sinh liên quan đến quyền truy cập dữ liệu, đặc biệt là API và mặc dù không nêu tên, vẫn có một dạng tính không đồng nhất (giữa các nền tảng khác nhau)", đoàn tùy tùng của bộ trưởng giải thích. "Chúng tôi mong đợi các nền tảng sẽ hợp tác toàn diện với các cơ quan có thẩm quyền. "Đây là trách nhiệm của họ theo DSA và bảo vệ nền dân chủ của chúng ta", Bộ trưởng Clara Chappaz tuyên bố trong một thông cáo báo chí được công bố vào thứ Ba.
Cụ thể, Viginum phát hiện "từ 230 đến 300 hiện tượng mỗi năm", dẫn đến việc quan sát thấy "vài chục trường hợp can thiệp kỹ thuật số từ nước ngoài". Những cái nào? "Trong 16 tháng qua, chúng tôi đã cùng với các đồng chí từ Bộ Châu Âu và Bộ Ngoại giao lên án trong nhiều báo cáo khác nhau tám chiến dịch nhắm vào cuộc tranh luận công khai của người Pháp. Hai diễn viên hung hăng nhất (…) (là) những diễn viên ủng hộ Nga và những diễn viên ủng hộ Azerbaijan».
Giám đốc Viginum cũng nhắc lại ba hành vi sử dụng AI có mục đích xấu được quan sát gần đây. Các công cụ AI tạo sinh nguồn mở đang được sử dụng để tạo ra "nội dung giả mạo đáng tin cậy, có độ chân thực cao", được gọi là deepfake. AI cũng có thể "tạo ra các tài khoản không xác thực nhưng rất thực tế", hoặc thậm chí "phân phối nội dung ồ ạt trên nhiều nền tảng", ông nhấn mạnh.
Để phát hiện ra chúng, kể từ khi thành lập vào tháng 7 năm 2021, Viginum đã tự trang bị cho mình một "trung tâm xuất sắc về khoa học dữ liệu và do đó trong trí tuệ nhân tạo”. Dịch vụ này đã phát triển các công cụ dựa trên các chương trình máy tính và tính toán thống kê. Những điều sau này "cho phép tranh luận xung quanh, ví dụ, một từ khóa, một hashtag, để có thể phát hiện số lượng bot hoặc troll." Các công cụ nội bộ khác được sử dụng để "quay lại với những nhà phân phối nội dung đầu tiên." Các hệ thống "cũng có thể phát hiện nội dung trùng lặp có thể dựa trên trí tuệ nhân tạo", Marc Antoine Brillant giải thích.
Nhưng ngày nay, dịch vụ này phải đối mặt với một thách thức lớn: đó là "phân biệt được đâu là cuộc tranh luận tổng hợp (do AI tạo ra với mục đích thao túng, Ghi chú của biên tập viên) với cuộc tranh luận đích thực hoặc tự nhiên", người quản lý nói thêm. Trưởng phòng lưu ý rằng "một số đối thủ của chúng ta có mong muốn làm loãng thông tin bị thao túng trong dư luận". Và một trong những cách để làm loãng thông tin bị thao túng này trong dư luận (…) có lẽ là, về lâu dài, sử dụng nhiều hơn AI, tức là nội dung tổng hợp».
"Vì lý do an ninh", không có nhà báo nào có thể tham dự chuyến đi. Cơ quan này, trực thuộc Tổng cục Quốc phòng và An ninh Quốc gia (SGDSN), có nhiệm vụ phát hiện và phân tích trên các nền tảng trực tuyến các chiến dịch thao túng thông tin rất cụ thể: "những chiến dịch có sự tham gia của các tác nhân nước ngoài và nhằm mục đích làm mất ổn định các lợi ích cơ bản của quốc gia".
Một ngày trước đó, một cuộc họp báo đã được tổ chức trước cho báo chí. Cơ hội để biết rằng Bộ trưởng dự định đảm bảo, trong chuyến thăm của mình, "mức độ và tính mạnh mẽ của các nguồn lực của Viginium", đặc biệt là thông qua việc trao đổi với các nhà khoa học dữ liệu và "phòng thí nghiệm dữ liệu" của dịch vụ. Đối với các nhóm, đó cũng là vấn đề làm nổi bật các nhiệm vụ phòng thủ của dịch vụ của họ, điều mà công chúng thường không biết đến.
Không phải là một cơ quan tình báo cũng không phải là một cơ quan cảnh sát tư pháp
Viginum, được mô tả là "cánh vũ trang của chính quyền công", hoặc "lá chắn của Pháp chống lại sự can thiệp của nước ngoài", không phải là "một cơ quan tình báo", cũng không phải là "một cơ quan cảnh sát tư pháp có thể đưa ra yêu cầu", Marc Antoine Brillant, người đứng đầu cơ quan này, nhớ lại. Người đứng đầu cơ quan này nhấn mạnh rằng cơ quan này muốn "nhận thức được các đối thủ nước ngoài đang làm gì", đồng thời luôn có ý định "áp dụng biện pháp đối phó". Do đó, vai trò của nó không phải là tuyên bố về sự thật mà là xác định "các phương thức hoạt động, kỹ thuật phát tán (thông tin sai lệch trên các nền tảng) được các tác nhân nước ngoài sử dụng, dù là nhà nước hay không", giám đốc Viginum nói thêm.
Công tác điều tra trực tuyến được thực hiện vì lợi ích của Arcom và thay mặt cho Ủy ban Châu Âu. Kể từ DSA, quy định của Châu Âu về các dịch vụ kỹ thuật số, các nền tảng như X, YouTube, Instagram và TikTok thực tế phải tôn trọng "các nghĩa vụ tăng cường về kiểm duyệt và xóa thông tin bị thao túng". Họ cũng phải "hạn chế tính lan truyền của các chiến dịch thông tin sai lệch, làm suy yếu nền dân chủ của chúng ta", nhóm tùy tùng của bộ trưởng nhớ lại. Và vai trò của Viginum chính xác là "ghi lại và khách quan hóa những điểm không đầy đủ hoặc hạn chế của các nền tảng này", điều này sẽ cung cấp tài liệu cho các cuộc điều tra đang diễn ra do Ủy ban Châu Âu tiến hành.
Đánh giá sự hợp tác của các nền tảng
Dịch vụ này đã thiết lập "kênh truyền thông" với các nền tảng chính như YouTube, X, Instagram. "Chúng tôi chia sẻ các yếu tố phát hiện với họ và họ sẽ trả lời dựa trên những gì họ muốn cho chúng tôi biết", Marc Antoine Brillant giải thích.
Một trong những thách thức của chuyến thăm này là đánh giá mức độ hợp tác hiện tại giữa các nền tảng và cách họ có thể cải thiện mức độ hợp tác này. "Có những câu hỏi nảy sinh liên quan đến quyền truy cập dữ liệu, đặc biệt là API và mặc dù không nêu tên, vẫn có một dạng tính không đồng nhất (giữa các nền tảng khác nhau)", đoàn tùy tùng của bộ trưởng giải thích. "Chúng tôi mong đợi các nền tảng sẽ hợp tác toàn diện với các cơ quan có thẩm quyền. "Đây là trách nhiệm của họ theo DSA và bảo vệ nền dân chủ của chúng ta", Bộ trưởng Clara Chappaz tuyên bố trong một thông cáo báo chí được công bố vào thứ Ba.
Trong 16 tháng qua, tám chiến dịch đã được xác định
Cụ thể, Viginum phát hiện "từ 230 đến 300 hiện tượng mỗi năm", dẫn đến việc quan sát thấy "vài chục trường hợp can thiệp kỹ thuật số từ nước ngoài". Những cái nào? "Trong 16 tháng qua, chúng tôi đã cùng với các đồng chí từ Bộ Châu Âu và Bộ Ngoại giao lên án trong nhiều báo cáo khác nhau tám chiến dịch nhắm vào cuộc tranh luận công khai của người Pháp. Hai diễn viên hung hăng nhất (…) (là) những diễn viên ủng hộ Nga và những diễn viên ủng hộ Azerbaijan».
Giám đốc Viginum cũng nhắc lại ba hành vi sử dụng AI có mục đích xấu được quan sát gần đây. Các công cụ AI tạo sinh nguồn mở đang được sử dụng để tạo ra "nội dung giả mạo đáng tin cậy, có độ chân thực cao", được gọi là deepfake. AI cũng có thể "tạo ra các tài khoản không xác thực nhưng rất thực tế", hoặc thậm chí "phân phối nội dung ồ ạt trên nhiều nền tảng", ông nhấn mạnh.
Một mong muốn nhất định "của đối thủ của chúng tôi là làm loãng thông tin bị thao túng trong ý kiến"
Để phát hiện ra chúng, kể từ khi thành lập vào tháng 7 năm 2021, Viginum đã tự trang bị cho mình một "trung tâm xuất sắc về khoa học dữ liệu và do đó trong trí tuệ nhân tạo”. Dịch vụ này đã phát triển các công cụ dựa trên các chương trình máy tính và tính toán thống kê. Những điều sau này "cho phép tranh luận xung quanh, ví dụ, một từ khóa, một hashtag, để có thể phát hiện số lượng bot hoặc troll." Các công cụ nội bộ khác được sử dụng để "quay lại với những nhà phân phối nội dung đầu tiên." Các hệ thống "cũng có thể phát hiện nội dung trùng lặp có thể dựa trên trí tuệ nhân tạo", Marc Antoine Brillant giải thích.
Nhưng ngày nay, dịch vụ này phải đối mặt với một thách thức lớn: đó là "phân biệt được đâu là cuộc tranh luận tổng hợp (do AI tạo ra với mục đích thao túng, Ghi chú của biên tập viên) với cuộc tranh luận đích thực hoặc tự nhiên", người quản lý nói thêm. Trưởng phòng lưu ý rằng "một số đối thủ của chúng ta có mong muốn làm loãng thông tin bị thao túng trong dư luận". Và một trong những cách để làm loãng thông tin bị thao túng này trong dư luận (…) có lẽ là, về lâu dài, sử dụng nhiều hơn AI, tức là nội dung tổng hợp».
