Gérald Darmanin muốn cho phép sử dụng công nghệ nhận dạng khuôn mặt ở Pháp, đặc biệt là để hỗ trợ cảnh sát. Một hệ thống giám sát hàng loạt có thể gây ra sự thay đổi đáng lo ngại về quyền của công dân. Sau đây là những gì chúng ta biết cho đến nay.
Gérald Darmanin có thể phá bỏ một trong những rào cản bảo vệ quyền công dân. Bộ trưởng Bộ Tư pháp hiện tuyên bố rằng AI và công nghệ nhận dạng khuôn mặt phải được cung cấp cho cảnh sát. Ông giải thích (qua Pix-Geeks): “Sử dụng công nghệ và nhận dạng khuôn mặt là giải pháp để chống lại tình trạng mất an ninh một cách triệt để.”
Một bài phát biểu khá bất ngờ, không chỉ vì bản chất chưa từng có của việc sử dụng các công nghệ này – mà còn để thực hiện giám sát hàng loạt siêu an toàn. Trên thực tế, Bộ trưởng Bộ Tư pháp đã có ý kiến ngược lại chỉ hai năm trước. Vì ông đã từ chối bất kỳ việc triển khai nào của các thuật toán như vậy vào thời điểm đó.
Để hạn chế nguy cơ lạm dụng khá đáng kể, ông dự định sẽ đi kèm với sự ra đời của các công nghệ giám sát trực tiếp này một khuôn khổ chính xác. Trong một số trường hợp nhất định, lực lượng thực thi pháp luật có thể sử dụng biện pháp do thám nhưng ở mức độ rất hạn chế. Do đó, AI có thể sàng lọc nhiều giờ video được tìm kiếm như một phần của cuộc điều tra.
Điều này liên quan đến việc thu thập hình ảnh hoặc dữ liệu sinh trắc học của nghi phạm hoặc người bị truy nã. Điều này ngay lập tức gây ra vấn đề pháp lý. Về nguyên tắc, GDPR và CNIL không cho phép làm như vậy, nhưng vẫn có một số trường hợp ngoại lệ (có sự đồng ý rõ ràng, người có nguy cơ tử vong, v.v.). Để ghi nhận trực tiếp, còn có sự kiện xen kẽ của Thế vận hội Paris. Một giai đoạn đặc biệt trong đó nhiều cách tiếp cận đã được thử nghiệm.
Như một dấu hiệu cho thấy ý tưởng này đang trên đà trở thành một phần của bối cảnh, bộ trưởng vừa thành lập một nhóm làm việc. Một bước có kết luận sẽ là cơ sở cho dự thảo luật trong tương lai. Vai trò của nó sẽ là xác định các trường hợp được ủy quyền, các đảm bảo cho công dân và rộng hơn là phác thảo các mục tiêu của công cụ này.
Vẫn chưa biết liệu luật này có đủ sức răn đe trong trường hợp một cuộc bầu cử đưa những ý tưởng trái với pháp quyền vào Điện Élysée hay không. Xét cho cùng, với một công cụ như vậy, một nhà độc tài có thể dễ dàng tự mình đàn áp những đối thủ chính trị của mình. Một “trò chơi điện tử” chắc chắn sẽ làm hài lòng những giám đốc điều hành như thế này.
Gérald Darmanin có thể phá bỏ một trong những rào cản bảo vệ quyền công dân. Bộ trưởng Bộ Tư pháp hiện tuyên bố rằng AI và công nghệ nhận dạng khuôn mặt phải được cung cấp cho cảnh sát. Ông giải thích (qua Pix-Geeks): “Sử dụng công nghệ và nhận dạng khuôn mặt là giải pháp để chống lại tình trạng mất an ninh một cách triệt để.”
Một bài phát biểu khá bất ngờ, không chỉ vì bản chất chưa từng có của việc sử dụng các công nghệ này – mà còn để thực hiện giám sát hàng loạt siêu an toàn. Trên thực tế, Bộ trưởng Bộ Tư pháp đã có ý kiến ngược lại chỉ hai năm trước. Vì ông đã từ chối bất kỳ việc triển khai nào của các thuật toán như vậy vào thời điểm đó.
Liệu có thực sự hợp lý khi cho phép giám sát hàng loạt trực tiếp thông qua AI không?
Rõ ràng là có thể hiểu được rằng chủ đề về sự bất an, ngày càng trở nên quan trọng trong diễn ngôn của giới chính trị và sự dịch chuyển của cửa sổ Overton ngày càng sang bên phải, đang có phần gượng ép hơn vào thời điểm hiện tại. Nhưng những mối nguy hiểm là rất lớn, đặc biệt là trong bối cảnh các nhà lãnh đạo độc tài chưa bao giờ gần đến ngày được bầu như vậy.Để hạn chế nguy cơ lạm dụng khá đáng kể, ông dự định sẽ đi kèm với sự ra đời của các công nghệ giám sát trực tiếp này một khuôn khổ chính xác. Trong một số trường hợp nhất định, lực lượng thực thi pháp luật có thể sử dụng biện pháp do thám nhưng ở mức độ rất hạn chế. Do đó, AI có thể sàng lọc nhiều giờ video được tìm kiếm như một phần của cuộc điều tra.
Điều này liên quan đến việc thu thập hình ảnh hoặc dữ liệu sinh trắc học của nghi phạm hoặc người bị truy nã. Điều này ngay lập tức gây ra vấn đề pháp lý. Về nguyên tắc, GDPR và CNIL không cho phép làm như vậy, nhưng vẫn có một số trường hợp ngoại lệ (có sự đồng ý rõ ràng, người có nguy cơ tử vong, v.v.). Để ghi nhận trực tiếp, còn có sự kiện xen kẽ của Thế vận hội Paris. Một giai đoạn đặc biệt trong đó nhiều cách tiếp cận đã được thử nghiệm.
Như một dấu hiệu cho thấy ý tưởng này đang trên đà trở thành một phần của bối cảnh, bộ trưởng vừa thành lập một nhóm làm việc. Một bước có kết luận sẽ là cơ sở cho dự thảo luật trong tương lai. Vai trò của nó sẽ là xác định các trường hợp được ủy quyền, các đảm bảo cho công dân và rộng hơn là phác thảo các mục tiêu của công cụ này.
Vẫn chưa biết liệu luật này có đủ sức răn đe trong trường hợp một cuộc bầu cử đưa những ý tưởng trái với pháp quyền vào Điện Élysée hay không. Xét cho cùng, với một công cụ như vậy, một nhà độc tài có thể dễ dàng tự mình đàn áp những đối thủ chính trị của mình. Một “trò chơi điện tử” chắc chắn sẽ làm hài lòng những giám đốc điều hành như thế này.
