Yüzünüz, Siz Farkında Olmadan Sizi Polis Soruşturmasına Dahil Edebilir

Bu değişim önemli, çünkü yasalar teknolojinin hızına yetişemedi. ABD'de polis teşkilatları yıllardır ehliyet veritabanlarına, sabıka fotoğrafı koleksiyonlarına ve özel görüntü kaynaklarına bağlı servisleri kullanıyor. Georgetown Hukuk Fakültesi araştırmacıları daha 2016'da, emniyet güçlerinin Amerikalı yetişkinlerin yarısından fazlasını içeren veritabanlarında yüz taraması yapabildiği konusunda uyarmıştı. O zamandan beri bu araçlar daha ucuz, daha hızlı ve kullanımı daha kolay hale geldi. Birleşik Krallık'ta polis, halka açık caddelerde canlı yüz tanıma teknolojisini test etti ve sivil özgürlükler grupları bu uygulamaya mahkemede itiraz etti. Hindistan'da hak savunucuları, büyük protestolar ve halka açık etkinliklerden sonra yüz tanıma kullanımına karşı alarm verdi. Durum birçok yerde aynı: sistemler önce geliyor, kurallar ise sonradan, o da eğer gelirse.

Destekçileri, teknolojinin suçları çözmeye ve kayıp insanları bulmaya yardımcı olabileceğini söylüyor. Bu, bazı durumlarda doğru. Birçok ülkedeki emniyet teşkilatları isyanlar, saldırılar veya çocuk istismarı soruşturmalarından sonra başarılı kimlik tespitlerine işaret etti. Ancak en büyük kamuoyu endişesi, yüz tanımanın işe yarayıp yaramadığı değil. Asıl endişe, hukuk sisteminin kimlik hakkında gizli ve olasılığa dayalı kararlar veren bir araca güvenip güvenemeyeceği. Bu endişe teorik değil. ABD'de kamuoyuna yansıyan birçok haksız tutuklama vakasında, yüz tanıma eşleşmelerinin sonradan yanlış olduğu ortaya çıktı. Detroit ve Louisiana'daki kişiler, bir yazılımın onları güvenlik kamerası görüntülerinden işaretlemesi üzerine tutuklandı veya gözaltına alındı. Ancak daha sonra müfettişler büyük hatalar olduğunu keşfetti. Bu vakalar önemli hale geldi çünkü aynı zayıflığı tekrar tekrar gösterdiler: makine tarafından üretilen bir ipucu, hızla polisin kesin bir kanısına dönüşebiliyor.

Araştırmalar uzun zamandır yüz tanıma sistemlerinin tüm yüzlerde ve koşullarda eşit performans göstermediğini ortaya koyuyor. ABD Ulusal Standartlar ve Teknoloji Enstitüsü'nün 2019'da yaptığı bir değerlendirme, birçok algoritmanın Asyalı ve Afro-Amerikalı yüzler için daha yüksek yanlış pozitif oranları ürettiğini buldu. Ayrıca sisteme ve görüntü türüne bağlı olarak kadınlar, çocuklar ve yaşlılar için de benzer sorunlar tespit edildi. Daha sonraki testlerde bazı modellerde iyileşme görüldü, ancak sorun tamamen ortadan kalkmadı. Kontrollü ortamlarda doğruluk oranları yükselse bile, gerçek polis işleri nadiren kontrollü koşullarda gerçekleşir. Suç mahalli görüntüleri genellikle düşük kalitelidir. Işıklandırma kötüdür. Yüzler kısmen kapalıdır. Kameraların açısı bozuktur. Görüntüdeki kişi hareket ediyor olabilir. Hukuki açıdan bu önemlidir, çünkü bir araç hassas görünse de, en çok kullanıldığı koşullarda güvenilmez olabilir.

Daha derinlerde yatan neden sadece yazılım hatası değil. Sorun, teknolojinin polislik faaliyetlerine entegre olma şeklinde yatıyor. Yüz tanıma genellikle nihai bir kanıt değil, sadece bir soruşturma ipucu olarak sunulur. Bu, sınırlı ve dikkatli bir yaklaşım gibi görünüyor. Ancak pratikte, bir sistem bir isim önerdiğinde, müfettişler davaya o kişinin gözünden bakmaya başlayabilir. Bu bir bilim kurgu sorunu değil, bilinen bir insan sorunudur. Ceza adaleti ve psikoloji alanındaki çalışmalar, "doğrulama yanlılığı"nın (confirmation bias) gücünü defalarca göstermiştir. Zayıf bir ipucu, daha sonraki tanık mülakatlarını, fotoğraf teşhislerini ve tutuklama kararlarını şekillendirebilir. Mahkemelerin görgü tanığı teşhisi için kuralları vardır, çünkü hafıza yönlendirilebilir. Yine de birçok yerde, yüz eşleştirme sistemleri için insan tanıklara kıyasla daha az net yasal güvence bulunuyor.

Bir diğer sorun da gizlilik. İnsanlar genellikle kendi davalarında veya mahallelerinde yüz tanıma teknolojisinin ne zaman kullanıldığını bilmezler. Satın alma kayıtlarına, kurum içi politikalara ve denetim günlüklerine ulaşmak genellikle zordur. Bazı polis departmanları, kullandıkları araçlar hakkında kamuoyuna bilgi vermeyi sınırlayan sözleşmeler imzaladı. ABD'de gazeteciler ve sivil özgürlükler gruplarının haberleri, yerel onay olmadan arama yapan teşkilatları ortaya çıkardı. Avrupa'da veri koruma otoriteleri bazı durumlarda daha katı bir tutum sergiledi, ancak tablo hala istikrarsız. Avrupa Birliği'nin Yapay Zeka Yasası, biyometrik kimlik tespitinin belirli kullanımlarına, özellikle kamusal alanlarda gerçek zamanlı uzaktan kimlik tespitine daha sıkı kontroller getirdi. Ancak yasa hala emniyet güçleri için istisnalar içeriyor ve ulusal yorumlara yer bırakıyor. Bu, sıradan insanların nerede olduklarına bağlı olarak çok farklı koruma seviyeleri altında yaşayabilecekleri anlamına geliyor.

Sonuçları, tek bir hatalı durdurma veya tutuklamanın ötesine geçiyor. İnsanlar bir protestoda, dini bir toplanmada veya bir kliniğin önünde kimliklerinin tespit edilebileceğine inandıklarında, yanlış bir şey yapmamış olsalar bile davranışlarını değiştirebilirler. Hak grupları yıllardır gözetlemenin ifade ve toplanma özgürlüğünü kısıtlayabileceği konusunda uyarıyor. Bu, Londra'dan Yeni Delhi'ye ve ABD şehirlerine kadar birçok yerdeki gösterilerden sonra konunun neden bu kadar keskin bir endişe yarattığının bir nedenidir. Risk sadece kötü kimlik tespiti değil. Aynı zamanda geniş çaplı bir sosyal sınıflandırmadır. Bir yüz, rutin bir takip anahtarı haline geldiğinde, ciddi suçları soruşturmak ile sıradan sivil hayatı izlemek arasındaki engel zayıflamaya başlar.

Tartışmanın içinde gizli bir sınıf meselesi de var. Daha varlıklı insanlar bazen yoğun gözetim bölgelerinden kaçınabilir, hukuki yardım için ödeme yapabilir veya haksız eylemlere daha hızlı itiraz edebilirler. Daha yoksul toplulukların ise yoğun polis denetimine maruz kalma, kamusal kameralara daha fazla yakalanma ve hatalı verilere itiraz etme olasılıkları daha düşüktür. Bu durum, mahkemeleri ve yasa yapıcıları endişelendirmelidir. Bir adalet sistemi sadece suçluları yakalayıp yakalamadığıyla yargılanmaz. Aynı zamanda masumları koruyup korumadığıyla yargılanır; özellikle de teknoloji devletin gücünü daha ucuz ve daha görünmez hale getirdiğinde.

Uygulanabilir güvenceler var, ancak bunlar "sorumlu kullanım" gibi belirsiz vaatlerden daha fazlasını gerektiriyor. Birincisi, polisin gizlice yüz tanıma aramaları yapmasına izin verilmemelidir. Arama emirleri veya mahkeme kararları her kullanıma uymayabilir, ancak acil durumlar dışındaki her arama için bağımsız bir onay ve net yasal eşikler zorunlu olmalıdır. İkincisi, sanıklara bir soruşturmaya yüz tanımanın katkıda bulunduğu söylenmelidir. Bu bilgi olmadan, yönteme, görüntü kalitesine veya karar alma zincirine itiraz edemezler. Üçüncüsü, hükümetler sistemlerin ne sıklıkla kullanıldığı, hangi veritabanlarının arandığı ve eşleşmelerin ne sıklıkla yanlış çıktığı konusunda kamuya raporlama yapılmasını zorunlu kılmalıdır. Dördüncüsü, yasa yapıcılar, katı gereklilik ve hak korumaları getirilene kadar çoğu kamusal alanda canlı yüz tanımayı yasaklamalıdır. San Francisco da dahil olmak üzere birçok şehir, polis kullanımını kısıtlamak için erken davrandı. Bu, teknoloji ağırlıklı yerlerde bile yasal sınırların mümkün olduğunu gösteriyor.

Son güvence, yasal olduğu kadar kültüreldir de. Hakimler, savcılar ve polis liderleri yüz tanımayı dijital bir gerçeklik olarak değil, yanılabilir bir kanıt olarak görmelidir. Bu, eğitim, dış denetimler ve zayıf makine kaynaklı ipuçlarını mahkemeden hariç tutma isteği anlamına gelir. Aynı zamanda temel bir hukuk ilkesini hatırlamak demektir ki bu ilke yazılım işin içine girdi diye değişmemelidir: şüphe, kanıt değildir.

Yüz tanıma genellikle hukukun daha iyi görmesine yardımcı olan tarafsız bir araç olarak pazarlanır. Ama hukuk sadece görmekle ilgili değildir. Hukuk, kesinlik adına devletin bir kişiye ne yapabileceğine dikkatle karar vermekle ilgilidir. Eğer bir yüz, birini rızası, bilgisi veya net yasal sınırlar olmadan bir polis soruşturmasına dahil edebiliyorsa, o zaman asıl soru artık teknolojinin etkileyici olup olmadığı değildir. Asıl soru, demokratik toplumların, kolaylığın adaleti sessizce yeniden yazmasını durdurmaya hazır olup olmadığıdır.