Khuôn mặt của bạn có thể bị đưa vào diện tình nghi mà bạn không hề hay biết

Sự thay đổi này rất đáng quan tâm vì luật pháp chưa theo kịp công nghệ. Tại Hoa Kỳ, các cơ quan cảnh sát đã sử dụng dịch vụ liên kết với cơ sở dữ liệu bằng lái xe, bộ sưu tập ảnh hồ sơ tội phạm và các nguồn ảnh tư nhân trong nhiều năm. Ngay từ năm 2016, các nhà nghiên cứu tại Georgetown Law đã cảnh báo rằng các cơ quan thực thi pháp luật có thể tìm kiếm khuôn mặt trong các cơ sở dữ liệu chứa thông tin của hơn một nửa người trưởng thành ở Mỹ. Kể từ đó, các công cụ này đã trở nên rẻ hơn, nhanh hơn và dễ sử dụng hơn. Tại Vương quốc Anh, cảnh sát đã thử nghiệm nhận diện khuôn mặt trực tiếp trên các đường phố công cộng, và các nhóm dân quyền đã phản đối hoạt động này tại tòa. Ở Ấn Độ, các nhà vận động nhân quyền đã gióng lên hồi chuông cảnh báo về việc sử dụng nhận diện khuôn mặt sau các cuộc biểu tình quy mô lớn và sự kiện công cộng. Mô hình ở nhiều nơi đều giống nhau: hệ thống ra đời trước, còn các quy định thì có sau, hoặc thậm chí không bao giờ có.

Những người ủng hộ cho rằng công nghệ này có thể giúp giải quyết tội phạm và tìm người mất tích. Điều đó đúng trong một số trường hợp. Các cơ quan thực thi pháp luật ở một số quốc gia đã chỉ ra những vụ nhận diện thành công sau các cuộc bạo loạn, tấn công hoặc điều tra bóc lột trẻ em. Nhưng mối quan tâm lớn nhất của công chúng không phải là liệu nhận diện khuôn mặt có hiệu quả hay không. Vấn đề là liệu hệ thống pháp luật có thể tin cậy vào một công cụ đưa ra những phán đoán ẩn, dựa trên xác suất về danh tính hay không. Mối lo ngại đó không chỉ là lý thuyết. Tại Hoa Kỳ, một số vụ bắt giữ oan sai được báo cáo rộng rãi có liên quan đến kết quả nhận diện khuôn mặt mà sau đó được chứng minh là sai. Những người đàn ông ở Detroit và Louisiana đã bị bắt hoặc tạm giữ sau khi phần mềm xác định họ từ hình ảnh giám sát, để rồi các nhà điều tra phát hiện ra những sai sót lớn. Các trường hợp này trở nên quan trọng vì chúng cho thấy cùng một điểm yếu lặp đi lặp lại: một manh mối do máy tạo ra có thể nhanh chóng trở thành sự chắc chắn của cảnh sát.

Nghiên cứu từ lâu đã cho thấy các hệ thống nhận diện khuôn mặt không hoạt động hiệu quả như nhau trên mọi khuôn mặt và trong mọi điều kiện. Một đánh giá năm 2019 của Viện Tiêu chuẩn và Công nghệ Quốc gia Hoa Kỳ cho thấy nhiều thuật toán tạo ra tỷ lệ dương tính giả cao hơn đối với khuôn mặt người châu Á và người Mỹ gốc Phi, cũng như đối với phụ nữ, trẻ em và người lớn tuổi, tùy thuộc vào hệ thống và loại ảnh. Các thử nghiệm sau đó cho thấy sự cải thiện ở một số mô hình, nhưng vấn đề vẫn chưa được giải quyết triệt để. Ngay cả khi tỷ lệ chính xác tăng lên trong điều kiện được kiểm soát, công việc của cảnh sát hiếm khi diễn ra trong điều kiện như vậy. Hình ảnh tại hiện trường vụ án thường có chất lượng thấp. Ánh sáng kém. Khuôn mặt bị che một phần. Góc quay của camera không tốt. Người trong ảnh có thể đang di chuyển. Về mặt pháp lý, điều này quan trọng vì một công cụ có thể trông có vẻ chính xác nhưng vẫn không đáng tin cậy trong chính những điều kiện mà nó được sử dụng nhiều nhất.

Nguyên nhân sâu xa hơn không chỉ là lỗi phần mềm. Đó là cách công nghệ này được tích hợp vào hoạt động của cảnh sát. Nhận diện khuôn mặt thường được xem là một manh mối điều tra, không phải là bằng chứng cuối cùng. Điều này nghe có vẻ hạn chế và cẩn trọng. Nhưng trên thực tế, một khi hệ thống đề xuất một cái tên, các nhà điều tra có thể bắt đầu nhìn nhận vụ án qua lăng kính của người đó. Đây là một vấn đề đã được biết đến của con người, không phải là chuyện khoa học viễn tưởng. Các nghiên cứu về tư pháp hình sự và tâm lý học đã nhiều lần cho thấy sức mạnh của thiên kiến xác nhận. Một manh mối yếu có thể định hình các cuộc phỏng vấn nhân chứng, việc sắp xếp ảnh nhận dạng và quyết định bắt giữ sau này. Tòa án có các quy tắc cho việc nhận dạng của nhân chứng vì trí nhớ có thể bị định hướng. Tuy nhiên, ở nhiều nơi, các biện pháp bảo vệ pháp lý rõ ràng cho hệ thống đối chiếu khuôn mặt vẫn còn ít hơn so với cho nhân chứng là con người.

Một vấn đề khác là tính bí mật. Người dân thường không biết khi nào nhận diện khuôn mặt được sử dụng trong vụ án của họ, hoặc trong khu phố của họ. Hồ sơ mua sắm, chính sách nội bộ và nhật ký kiểm tra thường rất khó để có được. Một số sở cảnh sát đã ký các hợp đồng hạn chế việc tiết lộ công khai về các công cụ họ đang sử dụng. Tại Hoa Kỳ, báo cáo của các nhà báo và các nhóm dân quyền đã phơi bày các cơ quan đã thực hiện tìm kiếm mà không có sự chấp thuận rõ ràng của địa phương. Ở châu Âu, các cơ quan bảo vệ dữ liệu đã có lập trường nghiêm ngặt hơn trong một số trường hợp, nhưng bức tranh chung vẫn không đồng đều. Đạo luật AI của Liên minh châu Âu đã đặt ra các biện pháp kiểm soát chặt chẽ hơn đối với một số hoạt động nhận dạng sinh trắc học, đặc biệt là nhận dạng từ xa theo thời gian thực ở những nơi công cộng. Tuy nhiên, luật này vẫn có những ngoại lệ cho việc thực thi pháp luật và để ngỏ cho các quốc gia tự diễn giải. Điều đó có nghĩa là người dân bình thường có thể sống dưới các mức độ bảo vệ rất khác nhau tùy thuộc vào nơi họ ở.

Hậu quả không chỉ dừng lại ở một vụ chặn xe hay bắt giữ nhầm lẫn. Khi mọi người tin rằng họ có thể bị nhận dạng tại một cuộc biểu tình, một buổi tụ tập tôn giáo, hoặc bên ngoài một phòng khám, họ có thể thay đổi hành vi của mình ngay cả khi không làm gì sai. Các nhóm nhân quyền đã cảnh báo trong nhiều năm rằng việc giám sát có thể làm nguội lạnh quyền tự do ngôn luận và hội họp. Đây là một lý do tại sao vấn đề này đã gây ra sự quan ngại sâu sắc sau các cuộc biểu tình ở những nơi từ London đến New Delhi và các thành phố của Mỹ. Rủi ro không chỉ là nhận dạng sai. Đó còn là sự phân loại xã hội trên diện rộng. Một khi khuôn mặt trở thành một chìa khóa theo dõi thông thường, ranh giới giữa việc trị an các tội phạm nghiêm trọng và việc giám sát đời sống dân sự bình thường bắt đầu yếu đi.

Bên trong cuộc tranh luận này còn có một vấn đề giai cấp tiềm ẩn. Những người giàu có hơn đôi khi có thể tránh các khu vực bị giám sát dày đặc, trả tiền cho trợ giúp pháp lý, hoặc thách thức các hành động sai trái nhanh hơn. Các cộng đồng nghèo hơn có nhiều khả năng bị kiểm soát chặt chẽ hơn, tiếp xúc nhiều hơn với camera công cộng, và ít có khả năng phản đối dữ liệu sai. Điều đó nên khiến các tòa án và nhà lập pháp quan tâm. Một hệ thống tư pháp không chỉ được đánh giá qua việc nó có bắt được kẻ có tội hay không. Nó được đánh giá qua việc nó có bảo vệ người vô tội hay không, đặc biệt là khi công nghệ làm cho quyền lực nhà nước trở nên rẻ hơn và vô hình hơn.

Có những biện pháp bảo vệ khả thi, nhưng chúng đòi hỏi nhiều hơn là những lời hứa mơ hồ về việc sử dụng có trách nhiệm. Thứ nhất, cảnh sát không nên được phép thực hiện các tìm kiếm nhận diện khuôn mặt một cách bí mật. Lệnh khám xét hoặc lệnh của tòa án có thể không phù hợp với mọi trường hợp sử dụng, nhưng cần phải có sự chấp thuận độc lập và các ngưỡng pháp lý rõ ràng cho bất kỳ cuộc tìm kiếm nào không khẩn cấp. Thứ hai, bị cáo phải được thông báo khi nhận diện khuôn mặt đã góp phần vào một cuộc điều tra. Nếu không được tiết lộ, họ không thể thách thức phương pháp, chất lượng hình ảnh, hoặc chuỗi ra quyết định. Thứ ba, chính phủ nên yêu cầu báo cáo công khai về tần suất sử dụng hệ thống, cơ sở dữ liệu nào được tìm kiếm, và tần suất các kết quả đối chiếu bị sai. Thứ tư, các nhà lập pháp nên cấm nhận diện khuôn mặt trực tiếp trong hầu hết các không gian công cộng cho đến khi có các biện pháp bảo vệ quyền và các quy định về sự cần thiết nghiêm ngặt. Một số thành phố, bao gồm San Francisco, đã sớm hành động để hạn chế việc sử dụng của cảnh sát, cho thấy rằng các giới hạn pháp lý là khả thi ngay cả ở những nơi công nghệ phát triển.

Biện pháp bảo vệ cuối cùng mang tính văn hóa cũng như pháp lý. Các thẩm phán, công tố viên và lãnh đạo cảnh sát cần xem nhận diện khuôn mặt là bằng chứng có thể sai sót, không phải là sự thật kỹ thuật số. Điều đó có nghĩa là cần có đào tạo, kiểm toán từ bên ngoài, và sẵn sàng loại bỏ các manh mối yếu do máy tạo ra khỏi tòa án. Nó cũng có nghĩa là phải ghi nhớ một nguyên tắc pháp lý cơ bản không nên thay đổi chỉ vì có sự tham gia của phần mềm: sự nghi ngờ không phải là bằng chứng.

Công nghệ nhận diện khuôn mặt thường được quảng cáo là một công cụ trung lập chỉ giúp pháp luật nhìn rõ hơn. Nhưng pháp luật không chỉ là về việc nhìn thấy. Nó là về việc quyết định, một cách cẩn trọng, những gì nhà nước có thể làm đối với một người nhân danh sự chắc chắn. Nếu một khuôn mặt có thể đặt ai đó vào hàng ngũ nhận diện của cảnh sát mà không có sự đồng ý, thông báo, hoặc giới hạn pháp lý rõ ràng, thì câu hỏi thực sự không còn là liệu công nghệ có ấn tượng hay không. Câu hỏi là liệu các xã hội dân chủ có sẵn sàng ngăn chặn sự tiện lợi âm thầm viết lại công lý hay không.