ब्लैक बॉक्स के अंदर: आर्टिफिशियल इंटेलिजेंस की वो बढ़ती समस्या, जिसे हम समझा नहीं सकते

असल में, यह समस्या कोई खराबी नहीं, बल्कि उन्नत एआई के सीखने के तरीके की एक विशेषता है। पारंपरिक सॉफ्टवेयर को स्पष्ट 'अगर-तो' (if-then) निर्देशों के साथ प्रोग्राम किया जाता है। लेकिन डीप लर्निंग मॉडल, जो आज के जेनरेटिव एआई और जटिल ऑटोमेशन के पीछे की ताकत हैं, इंसानी दिमाग से प्रेरित होते हैं। इनमें आर्टिफिशियल 'न्यूरॉन्स' के विशाल, स्तरित नेटवर्क होते हैं। ये नेटवर्क बहुत बड़े डेटासेट का विश्लेषण करके सीखते हैं। वे अपने बीच के कनेक्शन को तब तक बदलते रहते हैं, जब तक कि वे पैटर्न को पहचानना नहीं सीख जाते। किसी सिस्टम को ट्यूमर की पहचान के लिए लाखों मेडिकल स्कैन पर प्रशिक्षित किया जा सकता है। या फिर क्रेडिट जोखिम का आकलन करने के लिए दशकों के वित्तीय डेटा पर। इसका नतीजा एक ऐसी मशीन होती है जो अपना काम अविश्वसनीय सटीकता से कर सकती है। लेकिन उसके अंदर का तर्क अरबों गणितीय भारों और झुकावों का एक जाल होता है—यह सांख्यिकीय सहसंबंधों का एक ऐसा परिदृश्य है जिसे इंसानी दिमाग के लिए समझना बहुत मुश्किल है।

इस अपारदर्शिता के असल दुनिया में गंभीर परिणाम होते हैं। वित्तीय क्षेत्र को ही लीजिए, जहां लोन और क्रेडिट कार्ड को मंज़ूरी या नामंज़ूरी देने के लिए एआई मॉडल का इस्तेमाल बढ़ रहा है। जिस व्यक्ति का लोन नामंज़ूर हुआ है, उसे वजह जानने का अधिकार है। लेकिन एक 'ब्लैक बॉक्स' मॉडल का उपयोग करने वाला बैंक शायद कोई विशेष, इंसानों को समझ आने वाली वजह न बता पाए। वे बस इतना कह सकते हैं कि 'एल्गोरिदम ने पाया कि आप एक ज़्यादा जोखिम वाले ग्राहक हैं।' स्टैनफोर्ड के 'इंस्टीट्यूट फॉर ह्यूमन-सेंटर्ड एआई' जैसे संस्थानों के शोध ने बार-बार यह दिखाया है कि इन मॉडलों की जटिलता के कारण बाहरी ऑडिटरों के लिए छिपे हुए पूर्वाग्रहों का पता लगाना लगभग असंभव हो जाता है। अगर किसी मॉडल को ऐतिहासिक रूप से पक्षपातपूर्ण डेटा पर प्रशिक्षित किया गया है, तो वह बिना किसी स्पष्ट निर्देश के कुछ खास इलाकों या समुदायों के आवेदकों को गलत तरीके से दंडित करना सीख सकता है। इस तरह, वह निष्पक्ष तकनीक की आड़ में असमानता को बढ़ावा देता है।

जब बात जीवन और मृत्यु की हो, तो यह मामला और भी गंभीर हो जाता है। जब एक स्वचालित गाड़ी (autonomous vehicle) पलक झपकते ही मुड़ने या ब्रेक लगाने का फ़ैसला करती है, तो उसके तर्क को समझना सुरक्षा और जवाबदेही के लिए बहुत ज़रूरी है। अगर कोई दुर्घटना होती है, तो यह तय करना बेहद मुश्किल हो जाता है कि गलती किसकी थी। क्या यह सेंसर की विफलता थी, कोड में कोई खामी थी, या मॉडल द्वारा ट्रेनिंग के दौरान सीखे गए पैटर्न के आधार पर लिया गया एक तार्किक लेकिन नैतिक रूप से संदिग्ध विकल्प था? एक स्पष्टीकरण के बिना, सिस्टम को बेहतर बनाना और भविष्य की विफलताओं को रोकना सिर्फ़ अंदाज़े का खेल बन जाता है। यही चुनौती चिकित्सा में भी मौजूद है, जहां एक एआई किसी मरीज़ के स्कैन को कैंसरयुक्त बता सकता है। हालांकि यह एक जीवन बचाने वाला उपकरण हो सकता है, लेकिन डॉक्टरों को इस पर भरोसा करने और एक अंतिम, ज़िम्मेदार निदान करने के लिए सिफ़ारिश के आधार को समझने की ज़रूरत होती है।

इस बढ़ती दुविधा के जवाब में, 'एक्सप्लेनेबल एआई' (Explainable AI) या XAI नामक एक समर्पित क्षेत्र उभरा है। शोधकर्ता 'ब्लैक बॉक्स' के अंदर झांकने के लिए नई तकनीकें विकसित कर रहे हैं। कुछ तरीके जटिल एआई के व्यवहार की नकल करने वाले सरल, अनुमानित मॉडल बनाकर काम करते हैं। ये किसी विशेष परिणाम के लिए ज़्यादा आसानी से समझ आने वाला स्पष्टीकरण देते हैं। अन्य तरीके 'हीट मैप' बनाने की कोशिश करते हैं जो यह दिखाते हैं कि इनपुट के कौन से हिस्से—जैसे किसी टेक्स्ट में विशेष शब्द या किसी इमेज में पिक्सल—एआई के अंतिम फ़ैसले में सबसे ज़्यादा प्रभावशाली थे। ये उपकरण एक महत्त्वपूर्ण पहला कदम हैं, लेकिन वे अक्सर सहसंबंध (correlations) बताते हैं, एआई के कारण-कार्य तर्क (causal reasoning) की सच्ची समझ नहीं देते।

नीति निर्माता भी अब इस पर ध्यान देने लगे हैं। उदाहरण के लिए, यूरोपीय संघ का ऐतिहासिक 'एआई एक्ट' (AI Act) उन सिस्टमों के लिए सख़्त पारदर्शिता आवश्यकताओं का प्रस्ताव करता है जिन्हें 'उच्च-जोखिम' माना जाता है। यह सुझाव देता है कि रोज़गार, क़ानून प्रवर्तन और महत्त्वपूर्ण बुनियादी ढांचे जैसे क्षेत्रों में इस्तेमाल होने वाले एआई के प्रदाताओं को यह स्पष्ट दस्तावेज़ देना पड़ सकता है कि उनके सिस्टम कैसे काम करते हैं और उनके फ़ैसलों के पीछे का तर्क क्या है। इसका लक्ष्य एक हद तक जवाबदेही लागू करना है, जिससे डेवलपर्स को प्रदर्शन के साथ-साथ व्याख्या करने की क्षमता को भी प्राथमिकता देने के लिए मजबूर किया जा सके। हालांकि, एक ऐसी तकनीक के लिए पारदर्शिता का क़ानून बनाना जो स्वाभाविक रूप से अपारदर्शी है, एक बहुत बड़ी चुनौती है।

अंततः, 'ब्लैक बॉक्स' की समस्या हमें एक बुनियादी समझौते का सामना करने के लिए मजबूर करती है। ज़्यादा से ज़्यादा शक्तिशाली और सटीक एआई बनाने की हमारी कोशिश में, हमने ऐसे उपकरण बना लिए हैं जो हमारी अपनी समझने की क्षमता से परे हैं। इसके लिए हमें इन सिस्टमों को तैनात करने के तरीके में बदलाव की ज़रूरत है। लोगों के अधिकारों, वित्त और सुरक्षा को प्रभावित करने वाले उच्च-जोखिम वाले फ़ैसलों के लिए 'ह्यूमन-इन-द-लूप' (human-in-the-loop) दृष्टिकोण आवश्यक हो सकता है। इस मॉडल में, एआई एक शक्तिशाली सलाहकार के रूप में काम करता है, जो पैटर्न को सामने लाता है और सिफ़ारिशें करता है, लेकिन अंतिम, जवाबदेह फ़ैसला एक मानव विशेषज्ञ के हाथ में रहता है जो संदर्भ, नैतिकता और सामान्य ज्ञान का उपयोग कर सकता है।

इस समस्या को हल करना सिर्फ़ कंप्यूटर वैज्ञानिकों के लिए एक तकनीकी अभ्यास नहीं है; यह एक सामाजिक ज़रूरत है। जैसे-जैसे एआई हमारे जीवन के ताने-बाने में और गहराई से एकीकृत होता जाएगा, उस पर भरोसा करने की हमारी क्षमता उसे समझने की हमारी क्षमता पर निर्भर करेगी। 'ब्लैक बॉक्स' को खोलने की यह खोज सिर्फ़ एक एल्गोरिदम को ठीक करने से कहीं ज़्यादा है। यह सुनिश्चित करने के बारे में है कि हम जो स्वचालित दुनिया बना रहे हैं, वह मानवीय मूल्यों के अनुरूप बनी रहे, और उसके फ़ैसले, चाहे कितने भी बुद्धिमान क्यों न हों, हमारे प्रति जवाबदेह बने रहें।