Thí nghiệm giám sát video thuật toán (VSA), vốn được cho là sẽ bị giới hạn cho đến ngày 31 tháng 3 năm 2025, sắp được gia hạn đến tháng 12 năm 2027. Trong khi chính phủ Barnier không hề che giấu ý định gia hạn thí nghiệm trước khi rút lại vào năm ngoái, thì chính phủ Bayrou đã tiến xa hơn vào tuần này.
Trên thực tế, cơ quan hành pháp đã bổ sung một sửa đổi vào luật được đề xuất về an ninh giao thông. Văn bản được Quốc hội thông qua vào tối thứ Ba, ngày 11 tháng 2, vẫn phải nhận được đèn xanh từ ủy ban chung - một ủy ban gồm bảy đại biểu và bảy thượng nghị sĩ. Hãy cùng nhìn lại vụ việc gây tranh cãi này, vụ việc đã gây ra sự phẫn nộ từ các nhà hoạt động nhân quyền, nhưng lại được Bộ trưởng Giao thông vận tải hoan nghênh, cũng như tất cả những người tin rằng công nghệ là yếu tố thiết yếu đối với sự an toàn của người dân Pháp.
Giám sát video hỗ trợ AI đã được cho phép lần đầu tiên tại Pháp – lần đầu tiên ở châu Âu – theo luật liên quan đến Thế vận hội Olympic ngày 19 tháng 5 năm 2023, bất chấp sự lo ngại của nhiều hiệp hội dân quyền và chính trị gia.
Hệ thống không cho phép nhận dạng khuôn mặt, nhưng dựa vào việc phát hiện "các sự kiện bất thường": nói một cách cụ thể, các thuật toán sẽ tự động phân tích hình ảnh do hệ thống giám sát video chụp. Camera kết hợp với các công cụ phát hiện thuật toán sẽ quét đám đông, thu thập và phân tích hình ảnh trước khi cảnh báo cho cơ quan thực thi pháp luật nếu phát hiện "hành vi bất thường" - cảnh sát có quyền hành động hay không.
Những "hành vi bất thường" này đã được định nghĩa trong một sắc lệnh. Trong hệ thống VSA hiện tại, các thuật toán có thể phát hiện các sự kiện sau:
Ban đầu, hệ thống này được cho là đặc biệt, chỉ giới hạn ở an ninh của Thế vận hội Olympic, sau thảm họa chung kết Champions League tại Stade de France vào tháng 5 năm 2023. Nhưng cuối cùng nó đã được gia hạn sau cuộc thi thế giới, cho đến tháng 3 năm 2025. Văn bản được thông qua quy định rằng việc sử dụng camera sẽ khả thi đối với các sự kiện khác như "sự kiện thể thao, giải trí hoặc văn hóa" mà "theo quy mô hoặc hoàn cảnh của chúng, đặc biệt dễ bị đe dọa bởi các hành vi khủng bố hoặc các cuộc tấn công nghiêm trọng đến sự an toàn của mọi người".
Thí nghiệm đã được lên kế hoạch với nhiều biện pháp bảo vệ. Có giới hạn về thời gian, nên đưa ra báo cáo đánh giá về việc sử dụng này trước khi tranh luận về khả năng mở rộng của nó.
Vào năm 2023, Hội đồng Hiến pháp đã cân nhắc rằng bất kỳ kế hoạch nào nhằm duy trì hệ thống đều phải được Hội đồng xem xét lại, kết quả đánh giá dự kiến sẽ làm thay đổi cán cân theo hướng này hay hướng khác.
Nhưng trên thực tế, những người bảo vệ công nghệ này không đợi đến khi đánh giá mới đưa ra quyết định ủng hộ thiết bị. Mùa hè năm ngoái, Laurent Nunez, cảnh sát trưởng Paris, đã kêu gọi tiếp tục chiến dịch này. Giống như Michel Barnier, khi đó là Thủ tướng, và gần đây hơn là Philippe Tabarot (LR), Bộ trưởng Giao thông vận tải và là tác giả của dự luật. Vào tháng 1 năm ngoái, trước khi báo cáo đánh giá được nộp, phía sau đã giải thích rằng công nghệ này "hoạt động khá tốt" và "tiết kiệm rất nhiều thời gian". Ông ước tính trong các trang của Parisien rằng ông dự định "duy trì cái gọi là camera "thông minh" và thuật toán phân tích có thể phát hiện những chuyển động bất thường trong đám đông."
Trên thực tế, thí nghiệm VSA đã bị hạn chế trong những tháng gần đây. Chỉ có phần mềm phát hiện Cityvision của Wintics được bốn tổ chức sử dụng: Sở cảnh sát (PP), Cơ quan quản lý giao thông tự động Paris (RATP), Công ty vận tải quốc gia (SNCF) và thành phố Cannes.
Mặc dù các tổ chức sau không công khai bình luận về cách tiến hành thí nghiệm, nhưng một báo cáo do một ủy ban đánh giá biên soạn đã cho phép chúng tôi tìm hiểu thêm một chút.
Ủy ban này được quy định theo luật về Thế vận hội Paris: ủy ban phải nộp đánh giá của mình cho chính phủ trước ngày 31 tháng 12 năm 2024. Mặc dù ủy ban đã nộp báo cáo vào giữa tháng 1 – tài liệu cuối cùng chỉ được công khai vào ngày 7 tháng 2 – nhưng nó còn lâu mới là một carte blanche. Tài liệu đưa ra đánh giá trái chiều. Đầu tiên, vì một nửa số tình huống được cho là phải phát hiện đã bị gạt sang một bên.
Ba tình huống mà các công cụ này được cho là phải phát hiện, cụ thể là hỏa hoạn, người ngã hoặc phát hiện vũ khí, đều không được RATP hoặc SNCF thử nghiệm. Việc phát hiện vũ khí thực sự đã được thử nghiệm tại Cannes, nhưng không thành công khi các tác giả ghi nhận một số lượng lớn các kết quả dương tính giả.
Về phía hỏa hoạn hoặc ngã, báo cáo cũng ghi nhận "trình độ công nghệ thấp" - nghĩa là các công cụ không phát hiện ra chúng tốt - ví dụ, đèn pha ô tô bị nhầm với đám cháy. Tương tự với các vật thể bị bỏ rơi: trong số 270 cảnh báo được phần mềm gửi đến SNCF, chỉ có 21 cảnh báo được coi là có liên quan. Một số có thể phát hiện nhầm băng ghế, thùng rác và thậm chí cả người vô gia cư.
Việc di chuyển một chiều, tụ tập và xâm nhập vào các khu vực bị cấm (ví dụ như để phát hiện bất kỳ ai trên đường) đã được phát hiện chính xác. Liên quan đến các hoạt động di chuyển của đám đông, ủy ban đang né tránh vấn đề này, đặc biệt là vì "RATP đã lập trình tốc độ di chuyển của đám đông cao, do đó không có cảnh báo nào được ghi lại", báo cáo nhấn mạnh.
Trong khi một số người dùng (lực lượng thực thi pháp luật và các nhân viên SNCF và RATP) được phỏng vấn trong báo cáo tỏ ra nhiệt tình, thì các tác giả của báo cáo lại chọn cách thận trọng. Đối với trường hợp sau, thử nghiệm hiện tại, chỉ liên quan đến một chương trình phần mềm duy nhất và chỉ đánh giá những mục đích sử dụng hạn chế, không cho phép đưa ra quyết định về tính phù hợp của VSA. Cũng không quyết định có nên mở rộng thí nghiệm hay không.
5. Chính phủ muốn gì?Nhưng đối với chính phủ, câu trả lời "không có cũng không có" này tạo cho họ cơ hội kéo dài thử nghiệm mà không biến nó thành vĩnh viễn - ít nhất là ở thời điểm hiện tại. Vì "RATP và SNCF" sẽ không có đủ thời gian để thử nghiệm các hệ thống và "phát triển tổ chức của họ", họ viết trong phần lý do sửa đổi, hãy kéo dài thử nghiệm này thêm 21 tháng nữa, cho đến ngày 31 tháng 12 năm 2027.
Thời gian ban đầu của thử nghiệm, kéo dài đến tháng 3 năm 2025, đã bị chỉ trích nặng nề bởi những người chỉ trích văn bản. Nhiều người lo ngại rằng biện pháp này, vốn được coi là ngoại lệ, cuối cùng sẽ trở thành một phần của luật chung – rằng nó sẽ trở thành chuẩn mực, như đã từng xảy ra trong quá khứ với các biện pháp chống khủng bố. "Rất hiếm khi những biện pháp được gọi là "ngoại lệ" này được dỡ bỏ nhanh chóng. Thay vào đó, các biện pháp giám sát và kiểm soát đang trở thành chuẩn mực", một nhóm các tổ chức quốc tế đã viết trong bài báo tháng 3 năm 2023 trên tờ Le Monde, khá lâu trước khi luật được thông qua.
Cùng với nỗi sợ hãi này, VSA bị những người bảo vệ quyền chỉ trích nặng nề, chủ yếu là vì chưa có nghiên cứu nào chứng minh được tính hiệu quả của nó. Đây chính là nội dung mà báo cáo của Thượng viện công bố vào tháng 4 năm 2024 chỉ ra. “Chúng tôi hiểu rằng, trong buổi hòa nhạc Depeche Mode đóng vai trò là một thử nghiệm (của VSA, chú thích của Biên tập viên), công cụ (giám sát video theo thuật toán, chú thích của Biên tập viên) không hoạt động. Thế vận hội Olympic sẽ cung cấp một địa điểm thử nghiệm bổ sung, nhưng trong mọi trường hợp, đây không phải là phương tiện để bảo vệ nó", Thượng nghị sĩ và báo cáo viên của văn bản Agnès Canayer (Les Républicains) nhấn mạnh trong quá trình trình bày báo cáo trước Thượng viện.
Mặt khác, công nghệ này sẽ là một cuộc tấn công vào các quyền tự do, như tập thể các tổ chức quốc tế này đã giải thích vào năm ngoái: "các biện pháp giám sát được đưa ra (...) liên quan đến những rủi ro không thể chấp nhận được đối với một số quyền cơ bản như quyền riêng tư, quyền tự do hội họp và lập hội và quyền không bị phân biệt đối xử."
Đối với La Quadrature du Net, tờ báo đã công bố một thông cáo báo chí cay độc vào ngày 7 tháng 2, chính phủ chỉ có một mục tiêu: "áp đặt VSA bằng mọi giá", bất kể công nghệ này có hiệu quả hay không. Đối với hiệp hội quyền, "VSA không được gia hạn. Nó phải bị cấm." Đặc biệt là vì nó "góp phần hoàn thiện cấu trúc giám sát biến không gian công cộng thành không gian kiểm soát xã hội lâu dài, phân loại "công dân tốt" khỏi "kẻ tình nghi"."
Tháng 7 năm ngoái, Ủy ban Tư vấn Quốc gia về Nhân quyền (CNCDH), một cơ quan tư vấn cho chính phủ Pháp về nhân quyền, đã chỉ trích gay gắt hệ thống VSA hiện tại. Trong ý kiến tư vấn, cơ quan độc lập đã yêu cầu "các cơ quan công quyền xem xét lại mong muốn đẩy nhanh việc triển khai các hệ thống giám sát video", giải thích rằng cơ quan này "yêu cầu tổ chức một cuộc tranh luận dân chủ về việc sử dụng giám sát video theo thuật toán" kết hợp với CNIL, cơ quan giám sát quyền riêng tư của Pháp. Về phần mình, CNIL đã nhiều lần kêu gọi cảnh giác trước tình trạng giám sát video bằng thuật toán đang được sử dụng rộng rãi. Khi được Contexte đặt câu hỏi vào tháng 10, người bảo vệ quyền riêng tư của chúng tôi "đã nhấn mạnhvề tầm quan trọng của việc đánh giá để đo lường [sự đóng góp của họ] theo cách nghiêm ngặt, mâu thuẫn và đa ngành trong bối cảnh của thí nghiệm này, điều này không thể phán đoán trước được tính bền vững có thể có của các hệ thống này".
Trên thực tế, cơ quan hành pháp đã bổ sung một sửa đổi vào luật được đề xuất về an ninh giao thông. Văn bản được Quốc hội thông qua vào tối thứ Ba, ngày 11 tháng 2, vẫn phải nhận được đèn xanh từ ủy ban chung - một ủy ban gồm bảy đại biểu và bảy thượng nghị sĩ. Hãy cùng nhìn lại vụ việc gây tranh cãi này, vụ việc đã gây ra sự phẫn nộ từ các nhà hoạt động nhân quyền, nhưng lại được Bộ trưởng Giao thông vận tải hoan nghênh, cũng như tất cả những người tin rằng công nghệ là yếu tố thiết yếu đối với sự an toàn của người dân Pháp.
1. VSA này là gì?
Giám sát video hỗ trợ AI đã được cho phép lần đầu tiên tại Pháp – lần đầu tiên ở châu Âu – theo luật liên quan đến Thế vận hội Olympic ngày 19 tháng 5 năm 2023, bất chấp sự lo ngại của nhiều hiệp hội dân quyền và chính trị gia.
Hệ thống không cho phép nhận dạng khuôn mặt, nhưng dựa vào việc phát hiện "các sự kiện bất thường": nói một cách cụ thể, các thuật toán sẽ tự động phân tích hình ảnh do hệ thống giám sát video chụp. Camera kết hợp với các công cụ phát hiện thuật toán sẽ quét đám đông, thu thập và phân tích hình ảnh trước khi cảnh báo cho cơ quan thực thi pháp luật nếu phát hiện "hành vi bất thường" - cảnh sát có quyền hành động hay không.
Những "hành vi bất thường" này đã được định nghĩa trong một sắc lệnh. Trong hệ thống VSA hiện tại, các thuật toán có thể phát hiện các sự kiện sau:
- cháy;
- súng;
- việc băng qua hoặc có mặt của một người ở khu vực cấm hoặc nhạy cảm;
- mật độ người quá đông;
- di chuyển của đám đông;
- sự xuất hiện của các vật thể bị bỏ rơi.
2. Ban đầu người ta đã lên kế hoạch như thế nào?
Ban đầu, hệ thống này được cho là đặc biệt, chỉ giới hạn ở an ninh của Thế vận hội Olympic, sau thảm họa chung kết Champions League tại Stade de France vào tháng 5 năm 2023. Nhưng cuối cùng nó đã được gia hạn sau cuộc thi thế giới, cho đến tháng 3 năm 2025. Văn bản được thông qua quy định rằng việc sử dụng camera sẽ khả thi đối với các sự kiện khác như "sự kiện thể thao, giải trí hoặc văn hóa" mà "theo quy mô hoặc hoàn cảnh của chúng, đặc biệt dễ bị đe dọa bởi các hành vi khủng bố hoặc các cuộc tấn công nghiêm trọng đến sự an toàn của mọi người".
Thí nghiệm đã được lên kế hoạch với nhiều biện pháp bảo vệ. Có giới hạn về thời gian, nên đưa ra báo cáo đánh giá về việc sử dụng này trước khi tranh luận về khả năng mở rộng của nó.
Vào năm 2023, Hội đồng Hiến pháp đã cân nhắc rằng bất kỳ kế hoạch nào nhằm duy trì hệ thống đều phải được Hội đồng xem xét lại, kết quả đánh giá dự kiến sẽ làm thay đổi cán cân theo hướng này hay hướng khác.
Nhưng trên thực tế, những người bảo vệ công nghệ này không đợi đến khi đánh giá mới đưa ra quyết định ủng hộ thiết bị. Mùa hè năm ngoái, Laurent Nunez, cảnh sát trưởng Paris, đã kêu gọi tiếp tục chiến dịch này. Giống như Michel Barnier, khi đó là Thủ tướng, và gần đây hơn là Philippe Tabarot (LR), Bộ trưởng Giao thông vận tải và là tác giả của dự luật. Vào tháng 1 năm ngoái, trước khi báo cáo đánh giá được nộp, phía sau đã giải thích rằng công nghệ này "hoạt động khá tốt" và "tiết kiệm rất nhiều thời gian". Ông ước tính trong các trang của Parisien rằng ông dự định "duy trì cái gọi là camera "thông minh" và thuật toán phân tích có thể phát hiện những chuyển động bất thường trong đám đông."
3. Thí nghiệm này diễn ra như thế nào trong thực tế?
Trên thực tế, thí nghiệm VSA đã bị hạn chế trong những tháng gần đây. Chỉ có phần mềm phát hiện Cityvision của Wintics được bốn tổ chức sử dụng: Sở cảnh sát (PP), Cơ quan quản lý giao thông tự động Paris (RATP), Công ty vận tải quốc gia (SNCF) và thành phố Cannes.
Mặc dù các tổ chức sau không công khai bình luận về cách tiến hành thí nghiệm, nhưng một báo cáo do một ủy ban đánh giá biên soạn đã cho phép chúng tôi tìm hiểu thêm một chút.
4. Ủy ban đánh giá đã kết luận gì?
Ủy ban này được quy định theo luật về Thế vận hội Paris: ủy ban phải nộp đánh giá của mình cho chính phủ trước ngày 31 tháng 12 năm 2024. Mặc dù ủy ban đã nộp báo cáo vào giữa tháng 1 – tài liệu cuối cùng chỉ được công khai vào ngày 7 tháng 2 – nhưng nó còn lâu mới là một carte blanche. Tài liệu đưa ra đánh giá trái chiều. Đầu tiên, vì một nửa số tình huống được cho là phải phát hiện đã bị gạt sang một bên.
Ba tình huống mà các công cụ này được cho là phải phát hiện, cụ thể là hỏa hoạn, người ngã hoặc phát hiện vũ khí, đều không được RATP hoặc SNCF thử nghiệm. Việc phát hiện vũ khí thực sự đã được thử nghiệm tại Cannes, nhưng không thành công khi các tác giả ghi nhận một số lượng lớn các kết quả dương tính giả.
Về phía hỏa hoạn hoặc ngã, báo cáo cũng ghi nhận "trình độ công nghệ thấp" - nghĩa là các công cụ không phát hiện ra chúng tốt - ví dụ, đèn pha ô tô bị nhầm với đám cháy. Tương tự với các vật thể bị bỏ rơi: trong số 270 cảnh báo được phần mềm gửi đến SNCF, chỉ có 21 cảnh báo được coi là có liên quan. Một số có thể phát hiện nhầm băng ghế, thùng rác và thậm chí cả người vô gia cư.
Việc di chuyển một chiều, tụ tập và xâm nhập vào các khu vực bị cấm (ví dụ như để phát hiện bất kỳ ai trên đường) đã được phát hiện chính xác. Liên quan đến các hoạt động di chuyển của đám đông, ủy ban đang né tránh vấn đề này, đặc biệt là vì "RATP đã lập trình tốc độ di chuyển của đám đông cao, do đó không có cảnh báo nào được ghi lại", báo cáo nhấn mạnh.
Trong khi một số người dùng (lực lượng thực thi pháp luật và các nhân viên SNCF và RATP) được phỏng vấn trong báo cáo tỏ ra nhiệt tình, thì các tác giả của báo cáo lại chọn cách thận trọng. Đối với trường hợp sau, thử nghiệm hiện tại, chỉ liên quan đến một chương trình phần mềm duy nhất và chỉ đánh giá những mục đích sử dụng hạn chế, không cho phép đưa ra quyết định về tính phù hợp của VSA. Cũng không quyết định có nên mở rộng thí nghiệm hay không.
5. Chính phủ muốn gì?Nhưng đối với chính phủ, câu trả lời "không có cũng không có" này tạo cho họ cơ hội kéo dài thử nghiệm mà không biến nó thành vĩnh viễn - ít nhất là ở thời điểm hiện tại. Vì "RATP và SNCF" sẽ không có đủ thời gian để thử nghiệm các hệ thống và "phát triển tổ chức của họ", họ viết trong phần lý do sửa đổi, hãy kéo dài thử nghiệm này thêm 21 tháng nữa, cho đến ngày 31 tháng 12 năm 2027.
Một thay đổi khác đã được lên kế hoạch: chính phủ, đơn vị được cho là sẽ đệ trình lên Quốc hội, "muộn nhất là ngày 31 tháng 12 năm 2024, một báo cáo đánh giá về việc triển khai thử nghiệm," hiện sẽ có thời hạn đến ngày 30 tháng 9 năm 2027 để thực hiện, ba tháng trước khi hệ thống kết thúc, nếu văn bản được thông qua như hiện trạng vào cuối quá trình lập pháp.
6. Các hiệp hội và người bảo vệ quyền lo sợ điều gì?
Thời gian ban đầu của thử nghiệm, kéo dài đến tháng 3 năm 2025, đã bị chỉ trích nặng nề bởi những người chỉ trích văn bản. Nhiều người lo ngại rằng biện pháp này, vốn được coi là ngoại lệ, cuối cùng sẽ trở thành một phần của luật chung – rằng nó sẽ trở thành chuẩn mực, như đã từng xảy ra trong quá khứ với các biện pháp chống khủng bố. "Rất hiếm khi những biện pháp được gọi là "ngoại lệ" này được dỡ bỏ nhanh chóng. Thay vào đó, các biện pháp giám sát và kiểm soát đang trở thành chuẩn mực", một nhóm các tổ chức quốc tế đã viết trong bài báo tháng 3 năm 2023 trên tờ Le Monde, khá lâu trước khi luật được thông qua.
Cùng với nỗi sợ hãi này, VSA bị những người bảo vệ quyền chỉ trích nặng nề, chủ yếu là vì chưa có nghiên cứu nào chứng minh được tính hiệu quả của nó. Đây chính là nội dung mà báo cáo của Thượng viện công bố vào tháng 4 năm 2024 chỉ ra. “Chúng tôi hiểu rằng, trong buổi hòa nhạc Depeche Mode đóng vai trò là một thử nghiệm (của VSA, chú thích của Biên tập viên), công cụ (giám sát video theo thuật toán, chú thích của Biên tập viên) không hoạt động. Thế vận hội Olympic sẽ cung cấp một địa điểm thử nghiệm bổ sung, nhưng trong mọi trường hợp, đây không phải là phương tiện để bảo vệ nó", Thượng nghị sĩ và báo cáo viên của văn bản Agnès Canayer (Les Républicains) nhấn mạnh trong quá trình trình bày báo cáo trước Thượng viện.
Mặt khác, công nghệ này sẽ là một cuộc tấn công vào các quyền tự do, như tập thể các tổ chức quốc tế này đã giải thích vào năm ngoái: "các biện pháp giám sát được đưa ra (...) liên quan đến những rủi ro không thể chấp nhận được đối với một số quyền cơ bản như quyền riêng tư, quyền tự do hội họp và lập hội và quyền không bị phân biệt đối xử."
Đối với La Quadrature du Net, tờ báo đã công bố một thông cáo báo chí cay độc vào ngày 7 tháng 2, chính phủ chỉ có một mục tiêu: "áp đặt VSA bằng mọi giá", bất kể công nghệ này có hiệu quả hay không. Đối với hiệp hội quyền, "VSA không được gia hạn. Nó phải bị cấm." Đặc biệt là vì nó "góp phần hoàn thiện cấu trúc giám sát biến không gian công cộng thành không gian kiểm soát xã hội lâu dài, phân loại "công dân tốt" khỏi "kẻ tình nghi"."
Tháng 7 năm ngoái, Ủy ban Tư vấn Quốc gia về Nhân quyền (CNCDH), một cơ quan tư vấn cho chính phủ Pháp về nhân quyền, đã chỉ trích gay gắt hệ thống VSA hiện tại. Trong ý kiến tư vấn, cơ quan độc lập đã yêu cầu "các cơ quan công quyền xem xét lại mong muốn đẩy nhanh việc triển khai các hệ thống giám sát video", giải thích rằng cơ quan này "yêu cầu tổ chức một cuộc tranh luận dân chủ về việc sử dụng giám sát video theo thuật toán" kết hợp với CNIL, cơ quan giám sát quyền riêng tư của Pháp. Về phần mình, CNIL đã nhiều lần kêu gọi cảnh giác trước tình trạng giám sát video bằng thuật toán đang được sử dụng rộng rãi. Khi được Contexte đặt câu hỏi vào tháng 10, người bảo vệ quyền riêng tư của chúng tôi "đã nhấn mạnhvề tầm quan trọng của việc đánh giá để đo lường [sự đóng góp của họ] theo cách nghiêm ngặt, mâu thuẫn và đa ngành trong bối cảnh của thí nghiệm này, điều này không thể phán đoán trước được tính bền vững có thể có của các hệ thống này".