Wajah Anda Bisa Membuat Anda Jadi Target Polisi, Tanpa Anda Sadari

Pergeseran ini penting karena hukum belum bisa mengejar perkembangan teknologi. Di Amerika Serikat, lembaga kepolisian telah bertahun-tahun menggunakan layanan yang terhubung ke database surat izin mengemudi, koleksi foto tahanan, dan sumber gambar swasta. Peneliti dari Georgetown Law sudah memperingatkan sejak 2016 bahwa penegak hukum bisa mencari wajah di database yang mencakup lebih dari separuh orang dewasa di Amerika. Sejak itu, teknologinya menjadi lebih murah, lebih cepat, dan lebih mudah digunakan. Di Inggris Raya, polisi telah menguji coba pengenalan wajah secara langsung (live) di jalanan umum, dan kelompok hak-hak sipil telah menentang praktik ini di pengadilan. Di India, para aktivis HAM menyuarakan kekhawatiran tentang penggunaan pengenalan wajah setelah protes besar dan acara publik. Polanya sama di banyak tempat: sistemnya datang lebih dulu, baru aturannya menyusul kemudian, itu pun jika ada.

Para pendukungnya mengatakan teknologi ini bisa membantu memecahkan kejahatan dan menemukan orang hilang. Itu memang benar dalam beberapa kasus. Lembaga penegak hukum di beberapa negara telah menunjukkan keberhasilan identifikasi setelah kerusuhan, penyerangan, atau investigasi eksploitasi anak. Namun, kekhawatiran terbesar publik bukanlah apakah teknologi ini berfungsi atau tidak. Pertanyaannya adalah, bisakah sistem hukum mengandalkan alat yang membuat penilaian tersembunyi dan berbasis kemungkinan tentang identitas seseorang? Kekhawatiran itu bukan teori. Di Amerika Serikat, beberapa kasus salah tangkap yang diberitakan secara luas melibatkan pencocokan wajah yang kemudian terbukti salah. Pria di Detroit dan Louisiana ditangkap atau ditahan setelah software menandai mereka dari gambar pengawasan. Namun, penyelidik kemudian menemukan kesalahan besar. Kasus-kasus ini menjadi penting karena menunjukkan kelemahan yang sama berulang kali: petunjuk yang dihasilkan mesin bisa dengan cepat berubah menjadi keyakinan polisi.

Penelitian telah lama menunjukkan bahwa sistem pengenalan wajah tidak bekerja sama baiknya untuk semua wajah dan kondisi. Sebuah evaluasi tahun 2019 oleh U.S. National Institute of Standards and Technology menemukan banyak algoritma menghasilkan tingkat positif palsu (false positive) yang lebih tinggi untuk wajah orang Asia dan Afrika-Amerika. Hal yang sama juga terjadi pada perempuan, anak-anak, dan lansia, tergantung pada sistem dan jenis gambar. Tes-tes berikutnya menemukan perbaikan pada beberapa model, tetapi masalahnya tidak sepenuhnya hilang. Bahkan ketika tingkat akurasi meningkat dalam pengaturan terkontrol, pekerjaan polisi di dunia nyata jarang terjadi dalam kondisi terkontrol. Gambar dari tempat kejadian perkara seringkali berkualitas rendah. Pencahayaannya buruk. Wajah sebagian tertutup. Sudut kamera tidak bagus. Orang dalam gambar mungkin sedang bergerak. Dalam istilah hukum, ini penting. Sebuah alat bisa terlihat presisi, tetapi tetap tidak bisa diandalkan dalam kondisi di mana alat itu paling sering digunakan.

Penyebab yang lebih dalam bukan hanya kesalahan software. Ini adalah tentang cara teknologi ini menyatu dengan cara kerja polisi. Pengenalan wajah sering dianggap hanya sebagai petunjuk awal dalam penyelidikan, bukan bukti akhir. Itu terdengar terbatas dan hati-hati. Namun dalam praktiknya, begitu sistem menyarankan sebuah nama, penyelidik mungkin mulai melihat kasus itu hanya dari sudut pandang orang tersebut. Ini adalah masalah manusia yang sudah dikenal, bukan masalah fiksi ilmiah. Studi dalam peradilan pidana dan psikologi telah berulang kali menunjukkan kekuatan bias konfirmasi. Petunjuk yang lemah bisa memengaruhi wawancara saksi, susunan foto identifikasi, dan keputusan penangkapan di kemudian hari. Pengadilan punya aturan untuk identifikasi oleh saksi mata karena ingatan bisa diarahkan. Namun di banyak tempat, perlindungan hukum yang jelas untuk sistem pencocokan wajah masih lebih sedikit daripada untuk saksi manusia.

Masalah lainnya adalah kerahasiaan. Orang biasanya tidak tahu kapan pengenalan wajah digunakan dalam kasus mereka, atau di lingkungan mereka. Catatan pengadaan, kebijakan internal, dan catatan audit seringkali sulit didapat. Beberapa departemen kepolisian telah menandatangani kontrak yang membatasi pengungkapan informasi publik tentang alat yang mereka gunakan. Di Amerika Serikat, laporan dari jurnalis dan kelompok hak-hak sipil mengungkap lembaga yang melakukan pencarian tanpa persetujuan lokal yang jelas. Di Eropa, otoritas perlindungan data telah mengambil sikap yang lebih tegas dalam beberapa kasus, tetapi situasinya masih tidak merata. Undang-undang AI (AI Act) Uni Eropa memberlakukan kontrol yang lebih ketat pada penggunaan identifikasi biometrik tertentu, terutama identifikasi jarak jauh secara real-time di ruang publik. Namun, undang-undang tersebut masih berisi pengecualian untuk penegakan hukum dan memberikan ruang untuk interpretasi nasional. Artinya, orang biasa mungkin hidup di bawah tingkat perlindungan yang sangat berbeda tergantung di mana mereka berada.

Konsekuensinya lebih dari sekadar salah henti atau salah tangkap. Ketika orang percaya bahwa mereka dapat diidentifikasi saat protes, di acara keagamaan, atau di luar klinik, mereka mungkin mengubah perilaku mereka meskipun tidak melakukan kesalahan apa pun. Kelompok-kelompok HAM telah bertahun-tahun memperingatkan bahwa pengawasan dapat membungkam kebebasan berbicara dan berkumpul. Inilah salah satu alasan mengapa isu ini menarik perhatian tajam setelah demonstrasi di berbagai tempat, dari London hingga New Delhi dan kota-kota di AS. Risikonya bukan hanya identifikasi yang salah. Risikonya juga adalah pemilahan sosial yang luas. Begitu wajah menjadi kunci pelacakan rutin, batasan antara memberantas kejahatan serius dan memantau kehidupan sipil biasa mulai melemah.

Ada juga isu kelas yang tersembunyi di dalam perdebatan ini. Orang yang lebih kaya terkadang bisa menghindari zona pengawasan yang padat, membayar bantuan hukum, atau menentang tindakan yang salah dengan lebih cepat. Komunitas yang lebih miskin lebih mungkin diawasi polisi secara ketat, lebih sering terekspos kamera publik, dan lebih sulit untuk menyanggah data yang salah. Hal itu seharusnya menjadi perhatian pengadilan dan pembuat undang-undang. Sistem peradilan tidak dinilai hanya dari apakah ia menangkap yang bersalah. Sistem itu dinilai dari apakah ia melindungi yang tidak bersalah, terutama ketika teknologi membuat kekuasaan negara menjadi lebih murah dan tidak terlihat.

Ada perlindungan yang bisa diterapkan, tetapi ini membutuhkan lebih dari sekadar janji-janji samar tentang penggunaan yang bertanggung jawab. Pertama, polisi tidak boleh diizinkan melakukan pencarian dengan pengenalan wajah secara diam-diam. Surat perintah atau putusan pengadilan mungkin tidak cocok untuk setiap penggunaan, tetapi persetujuan independen dan ambang batas hukum yang jelas harus diwajibkan untuk setiap pencarian non-darurat. Kedua, terdakwa harus diberi tahu ketika pengenalan wajah berkontribusi pada suatu penyelidikan. Tanpa pengungkapan informasi, mereka tidak dapat menentang metode, kualitas gambar, atau rantai pengambilan keputusan. Ketiga, pemerintah harus mewajibkan pelaporan publik tentang seberapa sering sistem ini digunakan, database apa yang dicari, dan seberapa sering hasil pencocokan terbukti salah. Keempat, pembuat undang-undang harus melarang pengenalan wajah secara langsung (live) di sebagian besar ruang publik sampai ada aturan soal kebutuhan mendesak dan perlindungan hak yang ketat. Beberapa kota, termasuk San Francisco, telah lebih dulu membatasi penggunaan oleh polisi. Ini menunjukkan bahwa batasan hukum mungkin diterapkan bahkan di tempat-tempat yang padat teknologi.

Perlindungan terakhir bersifat budaya sekaligus hukum. Hakim, jaksa, dan pimpinan polisi perlu memperlakukan pengenalan wajah sebagai bukti yang bisa salah, bukan sebagai kebenaran digital. Ini berarti perlu ada pelatihan, audit eksternal, dan kemauan untuk menolak petunjuk lemah yang dihasilkan mesin dari pengadilan. Ini juga berarti mengingat prinsip hukum dasar yang seharusnya tidak berubah hanya karena ada software yang terlibat: kecurigaan bukanlah bukti.

Teknologi pengenalan wajah sering dipasarkan sebagai alat netral yang hanya membantu hukum melihat lebih baik. Tetapi hukum bukan hanya tentang melihat. Hukum adalah tentang memutuskan, dengan hati-hati, apa yang boleh negara lakukan terhadap seseorang atas nama kepastian. Jika sebuah wajah bisa menempatkan seseorang dalam daftar identifikasi polisi tanpa persetujuan, pemberitahuan, atau batasan hukum yang jelas, maka pertanyaan sebenarnya bukan lagi apakah teknologinya mengesankan. Pertanyaannya adalah, apakah masyarakat demokratis siap untuk mencegah kemudahan diam-diam menulis ulang keadilan.