आपका चेहरा आपको पुलिस लाइनअप में डाल सकता है, और आपको पता भी नहीं चलेगा

यह बदलाव इसलिए अहम है क्योंकि कानून इस तकनीक के साथ कदम नहीं मिला पाया है। अमेरिका में, पुलिस एजेंसियां सालों से ड्राइवर लाइसेंस डेटाबेस, मगशॉट कलेक्शन और निजी तस्वीरों के स्रोतों से जुड़ी सेवाओं का इस्तेमाल कर रही हैं। जॉर्जटाउन लॉ के शोधकर्ताओं ने 2016 में ही चेतावनी दी थी कि कानून लागू करने वाली एजेंसियां आधे से ज़्यादा अमेरिकी वयस्कों वाले डेटाबेस में चेहरों की तलाशी ले सकती हैं। तब से ये टूल सस्ते, तेज़ और इस्तेमाल में आसान हो गए हैं। यूनाइटेड किंगडम में पुलिस ने सार्वजनिक सड़कों पर लाइव फेशियल रिकग्निशन का परीक्षण किया है, और नागरिक स्वतंत्रता समूहों ने इस प्रथा को अदालत में चुनौती दी है। भारत में, बड़े पैमाने पर विरोध प्रदर्शनों और सार्वजनिक कार्यक्रमों के बाद अधिकार समूहों ने फेशियल रिकग्निशन के इस्तेमाल पर चिंता जताई है। कई जगहों पर पैटर्न एक जैसा है: सिस्टम पहले आते हैं, और नियम बाद में, अगर वे आते भी हैं तो।

समर्थक कहते हैं कि यह तकनीक अपराधों को सुलझाने और लापता लोगों को खोजने में मदद कर सकती है। कुछ मामलों में यह सच भी है। कई देशों में कानून प्रवर्तन एजेंसियों ने दंगों, हमलों या बच्चों के शोषण से जुड़ी जांचों में सफल पहचान के उदाहरण दिए हैं। लेकिन सबसे बड़ी सार्वजनिक चिंता यह नहीं है कि फेशियल रिकग्निशन कभी काम करता है या नहीं। चिंता यह है कि क्या कानूनी व्यवस्था एक ऐसे टूल पर सुरक्षित रूप से भरोसा कर सकती है जो पहचान के बारे में छिपे हुए और संभावना पर आधारित फैसले लेता है। यह चिंता सिर्फ़ सैद्धांतिक नहीं है। अमेरिका में, गलत गिरफ़्तारी के कई चर्चित मामले सामने आए हैं जिनमें फेशियल रिकग्निशन मैच शामिल थे, जो बाद में गलत साबित हुए। डेट्रॉइट और लुइसियाना में पुरुषों को सॉफ्टवेयर द्वारा निगरानी तस्वीरों से पहचाने जाने के बाद गिरफ्तार या हिरासत में लिया गया, लेकिन बाद में जांचकर्ताओं को बड़ी गलतियां मिलीं। ये मामले इसलिए महत्वपूर्ण हो गए क्योंकि उन्होंने बार-बार एक ही कमज़ोरी दिखाई: मशीन से मिली एक लीड बहुत जल्दी पुलिस के लिए पक्का सबूत बन सकती है।

शोध ने लंबे समय से दिखाया है कि फेशियल रिकग्निशन सिस्टम सभी चेहरों और स्थितियों में एक जैसा प्रदर्शन नहीं करते। 2019 में अमेरिकी नेशनल इंस्टीट्यूट ऑफ स्टैंडर्ड्स एंड टेक्नोलॉजी के एक मूल्यांकन में पाया गया कि कई एल्गोरिदम एशियाई और अफ्रीकी अमेरिकी चेहरों के लिए और महिलाओं, बच्चों और बुज़ुर्गों के लिए ज़्यादा गलत पॉज़िटिव नतीजे देते हैं। यह सिस्टम और तस्वीर के प्रकार पर निर्भर करता है। बाद के परीक्षणों में कुछ मॉडलों में सुधार पाया गया, लेकिन समस्या पूरी तरह खत्म नहीं हुई। भले ही नियंत्रित स्थितियों में सटीकता की दरें बढ़ जाएं, लेकिन वास्तविक पुलिस का काम शायद ही कभी नियंत्रित परिस्थितियों में होता है। अपराध स्थल की तस्वीरें अक्सर खराब क्वालिटी की होती हैं। रोशनी खराब होती है। चेहरे आंशिक रूप से ढके होते हैं। कैमरे गलत एंगल पर होते हैं। फ्रेम में मौजूद व्यक्ति हिल रहा हो सकता है। कानूनी नज़रिए से यह मायने रखता है क्योंकि एक टूल सटीक दिख सकता है, लेकिन जिन स्थितियों में इसका सबसे ज़्यादा इस्तेमाल होता है, उन्हीं में यह अविश्वसनीय हो सकता है।

इसकी गहरी वजह सिर्फ़ सॉफ्टवेयर की गलती नहीं है। यह इस बात पर निर्भर करता है कि यह तकनीक पुलिसिंग के काम में कैसे फिट होती है। फेशियल रिकग्निशन को अक्सर केवल एक जांच की लीड के रूप में पेश किया जाता है, अंतिम सबूत के रूप में नहीं। यह सुनने में सीमित और सतर्क लगता है। लेकिन व्यवहार में, एक बार जब कोई सिस्टम किसी नाम का सुझाव देता है, तो जांचकर्ता उस व्यक्ति के नज़रिए से मामले को देखना शुरू कर सकते हैं। यह एक जानी-मानी मानवीय समस्या है, कोई साइंस-फिक्शन नहीं। आपराधिक न्याय और मनोविज्ञान के अध्ययनों ने बार-बार कन्फर्मेशन बायस (किसी बात को सच मान लेने की प्रवृत्ति) की ताकत को दिखाया है। एक कमज़ोर लीड बाद में गवाहों के इंटरव्यू, तस्वीरों की पहचान और गिरफ्तारी के फैसलों को प्रभावित कर सकती है। अदालतों में चश्मदीद गवाहों की पहचान के लिए नियम हैं क्योंकि याददाश्त को भटकाया जा सकता है। फिर भी कई जगहों पर इंसानी गवाहों की तुलना में फेस-मैचिंग सिस्टम के लिए कम स्पष्ट कानूनी सुरक्षा उपाय हैं।

एक और समस्या गोपनीयता है। लोगों को आमतौर पर यह पता नहीं होता कि उनके मामले में या उनके पड़ोस में फेशियल रिकग्निशन का इस्तेमाल कब किया गया है। खरीद के रिकॉर्ड, आंतरिक नीतियां और ऑडिट लॉग अक्सर हासिल करना मुश्किल होता है। कुछ पुलिस विभागों ने ऐसे अनुबंधों पर हस्ताक्षर किए हैं, जो उनके द्वारा इस्तेमाल किए जा रहे टूल के बारे में सार्वजनिक जानकारी को सीमित करते हैं। अमेरिका में, पत्रकारों और नागरिक स्वतंत्रता समूहों की रिपोर्टिंग ने उन एजेंसियों का पर्दाफाश किया, जिन्होंने बिना किसी ठोस स्थानीय मंजूरी के तलाशी ली थी। यूरोप में, डेटा सुरक्षा अधिकारियों ने कुछ मामलों में सख्त रुख अपनाया है, लेकिन तस्वीर अभी भी असमान है। यूरोपीय संघ के एआई एक्ट ने बायोमेट्रिक पहचान के कुछ उपयोगों पर कड़े नियंत्रण लगाए, खासकर सार्वजनिक स्थानों पर रीयल-टाइम रिमोट पहचान पर। फिर भी, कानून में अभी भी कानून-प्रवर्तन के लिए अपवाद हैं और यह राष्ट्रीय व्याख्या के लिए जगह छोड़ता है। इसका मतलब है कि आम लोग इस आधार पर बहुत अलग-अलग स्तर की सुरक्षा में रह सकते हैं कि वे कहां हैं।

इसके परिणाम किसी एक गलत रोक या गिरफ्तारी से कहीं ज़्यादा हैं। जब लोगों को यह विश्वास हो जाता है कि किसी विरोध प्रदर्शन, धार्मिक सभा या किसी क्लिनिक के बाहर उनकी पहचान की जा सकती है, तो वे कुछ भी गलत न करने पर भी अपना व्यवहार बदल सकते हैं। अधिकार समूहों ने सालों से चेतावनी दी है कि निगरानी स्वतंत्र भाषण और सभा करने की आज़ादी को दबा सकती है। यही एक कारण है कि लंदन से लेकर नई दिल्ली और अमेरिकी शहरों तक के प्रदर्शनों के बाद इस मुद्दे ने इतनी तीखी चिंता पैदा की है। जोखिम सिर्फ़ गलत पहचान का नहीं है। यह व्यापक सामाजिक वर्गीकरण का भी है। एक बार जब कोई चेहरा एक नियमित ट्रैकिंग की बन जाता है, तो गंभीर अपराध की पुलिसिंग और सामान्य नागरिक जीवन की निगरानी के बीच की रेखा कमजोर होने लगती है।

इस बहस के अंदर एक वर्गीय मुद्दा भी छिपा है। अमीर लोग कभी-कभी घनी निगरानी वाले क्षेत्रों से बच सकते हैं, कानूनी मदद के लिए भुगतान कर सकते हैं, या गलत कार्रवाई को तेज़ी से चुनौती दे सकते हैं। गरीब समुदायों में भारी पुलिसिंग होने, सार्वजनिक कैमरों के संपर्क में आने और गलत डेटा का विरोध करने में कम सक्षम होने की अधिक संभावना होती है। यह अदालतों और सांसदों के लिए चिंता का विषय होना चाहिए। एक न्याय प्रणाली का मूल्यांकन केवल इस बात से नहीं होता कि वह दोषियों को पकड़ती है या नहीं। इसका मूल्यांकन इस बात से होता है कि क्या वह निर्दोषों की रक्षा करती है, खासकर जब तकनीक राज्य की शक्ति को सस्ता और ज़्यादा अदृश्य बना देती है।

व्यावहारिक सुरक्षा उपाय मौजूद हैं, लेकिन उनके लिए ज़िम्मेदार उपयोग के अस्पष्ट वादों से कहीं ज़्यादा की ज़रूरत है। पहला, पुलिस को गुप्त रूप से फेशियल रिकग्निशन सर्च करने की अनुमति नहीं दी जानी चाहिए। हो सकता है कि वारंट या अदालती आदेश हर उपयोग के लिए उपयुक्त न हों, लेकिन किसी भी गैर-आपातकालीन तलाशी के लिए स्वतंत्र मंजूरी और स्पष्ट कानूनी सीमाएं ज़रूरी होनी चाहिए। दूसरा, प्रतिवादियों को बताया जाना चाहिए कि जांच में फेशियल रिकग्निशन का योगदान था। इस जानकारी के बिना, वे तरीके, तस्वीर की क्वालिटी या निर्णय लेने की श्रृंखला को चुनौती नहीं दे सकते। तीसरा, सरकारों को इस बारे में सार्वजनिक रिपोर्टिंग की मांग करनी चाहिए कि सिस्टम का कितनी बार उपयोग किया जाता है, कौन से डेटाबेस खोजे जाते हैं, और कितनी बार मैच गलत साबित होते हैं। चौथा, जब तक कि सख्त ज़रूरत और अधिकारों की सुरक्षा सुनिश्चित न हो, सांसदों को ज़्यादातर सार्वजनिक स्थानों पर लाइव फेशियल रिकग्निशन पर प्रतिबंध लगा देना चाहिए। सैन फ्रांसिस्को सहित कई शहरों ने पुलिस के उपयोग को प्रतिबंधित करने के लिए शुरुआती कदम उठाए, जिससे पता चलता है कि तकनीक-प्रधान स्थानों में भी कानूनी सीमाएं संभव हैं।

अंतिम सुरक्षा उपाय जितना कानूनी है, उतना ही सांस्कृतिक भी है। जजों, अभियोजकों और पुलिस प्रमुखों को फेशियल रिकग्निशन को एक गलती करने वाले सबूत के रूप में देखने की ज़रूरत है, न कि डिजिटल सच के रूप में। इसका मतलब है प्रशिक्षण, बाहरी ऑडिट, और अदालत से मशीन-जनित कमज़ोर लीड को बाहर करने की इच्छा। इसका यह भी मतलब है कि एक बुनियादी कानूनी सिद्धांत को याद रखा जाए जो सॉफ्टवेयर के शामिल होने से नहीं बदलना चाहिए: संदेह सबूत नहीं होता।

फेशियल रिकग्निशन को अक्सर एक निष्पक्ष टूल के रूप में बेचा जाता है जो बस कानून को बेहतर देखने में मदद करता है। लेकिन कानून सिर्फ देखने के बारे में नहीं है। यह सावधानी से यह तय करने के बारे में है कि राज्य निश्चितता के नाम पर किसी व्यक्ति के साथ क्या कर सकता है। अगर कोई चेहरा किसी को बिना सहमति, सूचना या स्पष्ट कानूनी सीमाओं के पुलिस लाइनअप में डाल सकता है, तो असली सवाल अब यह नहीं है कि तकनीक कितनी प्रभावशाली है। सवाल यह है कि क्या लोकतांत्रिक समाज सुविधा को चुपचाप न्याय को फिर से लिखने से रोकने के लिए तैयार हैं।