उत्तर :

हल करने का दृष्टिकोण:  उत्तर की शुरुआत शासन में समकालीन तकनीकों की भूमिका को रेखांकित करते हुए कीजिये। मुख्य भाग में, डेटा, एल्गोरिद्म और कृत्रिम बुद्धिमत्ता (AI) से उत्पन्न नैतिक शासन की चुनौतियों को स्पष्ट कीजिये। इसके बाद, यह बताइये कि मानव गरिमा, जवाबदेही और निष्पक्षता की सुरक्षा के लिये किस प्रकार का ढाँचा आवश्यक है। तद्नुसार उचित निष्कर्ष दीजिये।

परिचय: 

शासन और निर्णय-निर्माण में डेटा, एल्गोरिद्म तथा कृत्रिम बुद्धिमत्ता (AI) के तीव्र एकीकरण ने लोक प्रशासन एवं आर्थिक प्रणालियों को रूपांतरित कर दिया है।

• यद्यपि ये तकनीकें दक्षता और पूर्वानुमान क्षमता को बढ़ाती हैं, फिर भी ये गोपनीयता, पक्षपात, जवाबदेही तथा मानव गरिमा से जुड़े नैतिक प्रश्न उत्पन्न करती हैं, जिसके कारण डिजिटल युग के अनुरूप नैतिक ढाँचे के विकास की आवश्यकता अनिवार्य हो जाती है।

मुख्य भाग: 

एल्गोरिद्म के युग में नैतिक चुनौतियाँ

• ‘ब्लैक बॉक्स’ और पारदर्शिता का अभाव: जटिल न्यूरल नेटवर्क प्राय: ऐसे अपारदर्शी (अस्पष्ट) तर्क के आधार पर परिणाम देते हैं, जिन्हें समझना कठिन होता है। इससे नागरिकों के लिये यह जानना लगभग असंभव हो जाता है कि उनका ऋण क्यों अस्वीकृत हुआ या कोई चिकित्सीय निदान किस आधार पर किया गया।
  • हाल के समय में बीमा और कानून-प्रवर्तन जैसे क्षेत्रों में ‘ब्लैक बॉक्स’ निर्णयों के कारण व्यापक अविश्वास उत्पन्न हुआ, जिससे एक्स्प्लेनेबल AI (XAI) की मांग में तेज़ी आई है।
• एल्गोरिद्मिक पक्षपात और डिजिटल भेदभाव: AI मॉडल प्राय: प्रशिक्षण डेटा से ऐतिहासिक पूर्वाग्रह ‘विरासत’ में प्राप्त कर लेते हैं, जिसके कारण परिणाम पक्षपातपूर्ण हो जाते हैं।
  • उदाहरण के लिये, हाल ही में भर्ती से संबंधित AI प्रणालियों के ऑडिट में हाशिये पर रहने वाले समुदायों के प्रति निरंतर पक्षपात पाया गया, जो तकनीकी ‘वस्तुनिष्ठता’ के नाम पर संरचनात्मक असमानताओं को संस्थागत रूप दे रहा है।
• मानव स्वायत्तता और गरिमा का क्षरण: लगातार डेटा संग्रहण और पूर्वानुमानात्मक प्रोफाइलिंग व्यक्तियों को केवल डेटा बिंदुओं तक सीमित कर सकती है, जिससे उनका ‘भूल जाने का अधिकार’ प्रभावित होता है।
  • कार्यस्थलों में भावनाओं की पहचान या सामाजिक स्कोरिंग प्रणालियों का उपयोग व्यक्ति की मनोवैज्ञानिक स्वायत्तता और अंतर्निहित गरिमा पर सीधे अतिक्रमण करता है।
• स्वायत्त प्रणालियों में जवाबदेही का अंतर: जब AI-आधारित स्वायत्त वाहन या निदान उपकरण किसी प्रकार की हानि पहुँचाते हैं तो ‘ज़िम्मेदारी का अंतर’ कानूनी उत्तरदायित्व तय करना कठिन बना देता है।
  • स्पष्ट ढाँचों के अभाव में दोष प्राय: डेवलपर्स, उपयोगकर्त्ताओं और संचालकों के बीच बँट जाता है, जिससे पीड़ितों को उचित न्याय नहीं मिल पाता।
• भ्रामक सूचना और सत्य की अखंडता पर खतरा: अत्यधिक यथार्थवादी डीपफेक और AI-जनित दुष्प्रचार का बढ़ता प्रसार ‘विचारों के मंच’ के लिये गंभीर खतरा बन गया है।

मानव मूल्यों की रक्षा के लिये, नैतिक ढाँचों को ‘आकांक्षात्मक दिशानिर्देशों’ से आगे बढ़कर ‘प्रवर्तनीय तकनीकी-कानूनी मानकों’ में परिवर्तित करना आवश्यक है, जैसे कि EU AI अधिनियम और भारत के AI शासन दिशानिर्देश (2025–26), जिनका उद्देश्य है:

मानव गरिमा की सुरक्षा

• ह्यूमन-इन-द-लूप (HITL) अनिवार्यता: जीवन, स्वतंत्रता या आजीविका को प्रभावित करने वाले महत्त्वपूर्ण निर्णयों में अंतिम स्तर पर मानव निगरानी सुनिश्चित की जाए, ताकि संवेदनशीलता और संदर्भ बना रहे।
• ‘असंगत’ उपयोगों पर प्रतिबंध: AI के लिये ‘नो-गो ज़ोन’ निर्धारित किये जाएँ, जैसे सार्वजनिक स्थानों पर रियल-टाइम बायोमेट्रिक निगरानी और सामाजिक स्कोरिंग पर प्रतिबंध, जो व्यक्तिगत स्वतंत्रता के मूल सिद्धांतों के विपरीत हैं।
• डेटा न्यूनता और संज्ञानात्मक गोपनीयता: केवल सहमति से आगे बढ़ते हुए ‘प्राइवेसी बाय डिज़ाइन’ अपनाया जाए, जिसमें AI प्रणालियाँ न्यूनतम व्यक्तिगत डेटा के साथ कार्य करें, जिससे उपयोगकर्त्ता की मानसिक और डिजिटल पवित्रता सुरक्षित रहे।
• डिजिटल साक्षरता और सशक्तीकरण: राष्ट्रीय स्तर पर ‘AI साक्षरता’ कार्यक्रम शुरू किये जाएँ, ताकि नागरिक समझ सकें कि वे कब किसी एल्गोरिद्म के साथ संवाद कर रहे हैं और इस प्रकार सूचित निर्णय लेने की उनकी क्षमता सुरक्षित रह सके।

जवाबदेही सुनिश्चित करना

• एल्गोरिद्मिक प्रभाव आकलन (AIA): ‘उच्च-जोखिम’ AI प्रणालियों के लिये तैनाती से पूर्व अनिवार्य ऑडिट किये जाएँ, ताकि मौलिक अधिकारों पर संभावित प्रभावों की पहचान की जा सके, जैसे पर्यावरण प्रभाव आकलन (EIA) में किया जाता है।
• ‘ट्रेसेबिलिटी’ का सिद्धांत: ब्लॉकचेन-आधारित लॉग या ‘मॉडल कार्ड्स’ लागू किये जाएँ, जो डेटा के स्रोत और एल्गोरिद्म के संस्करणों का रिकॉर्ड रखें, जिससे प्रणाली की विफलता की स्थिति में विस्तृत जाँच संभव हो सके।
• स्तरीकृत दायित्व ढाँचा: AI मूल्य-शृंखला में भूमिका के आधार पर स्पष्ट कानूनी ज़िम्मेदारी निर्धारित की जाए, जिसमें ‘डेवलपर’ (जो मॉडल बनाता है) और ‘डिप्लॉयर’ (जो इसे विशिष्ट कार्य में उपयोग करता है) के बीच अंतर किया जाए।
• शिकायत निवारण और AI लोकपाल: विशेष नियामक संस्थाओं की स्थापना की जाए, जहाँ नागरिक एल्गोरिद्मिक निर्णयों के विरुद्ध अपील कर सकें और ‘मानवीय स्पष्टीकरण के अधिकार’ को कानूनी रूप से लागू किया जा सके।

निष्पक्षता को बढ़ावा देना

• विविध और प्रतिनिधिक डेटा सेट: ‘डेटा स्वच्छता’ के मानक निर्धारित किये जाएँ, ताकि प्रशिक्षण डेटा सभी भाषाई, सामाजिक-आर्थिक एवं जातीय समूहों को समाहित करे और अल्पसंख्यकों के ‘डिजिटल बहिष्करण’ को रोका जा सके।
• निरंतर निष्पक्षता निगरानी: AI कोई ‘सेट-एंड-फॉरगेट’ उपकरण नहीं है; नैतिक ढाँचों में वास्तविक समय पर निगरानी अनिवार्य होनी चाहिये, ताकि ‘मॉडल ड्रिफ्ट’ (समय के साथ पक्षपात बढ़ना) को पहचाना जा सके।
• ओपन-सोर्स मूल्यांकन उपकरण: विकेंद्रीकृत ओपन-सोर्स टूल्स (जैसे IBM AI फेयरनेस 360) के उपयोग को बढ़ावा दिया जाए, जिससे तृतीय-पक्ष शोधकर्त्ता व्यावसायिक एल्गोरिद्म में छिपे पक्षपात का परीक्षण कर सकें।
• समान लाभ वितरण: यह सुनिश्चित किया जाए कि AI नवाचार केवल ‘बिग टेक’ कंपनियों तक सीमित न रहे, बल्कि डिजिटल सार्वजनिक अवसंरचना (DPI) के माध्यम से स्वास्थ्य और शिक्षा जैसे क्षेत्रों में डिजिटल अंतराल को कम करने के लिये उपयोग किया जाए।

निष्कर्ष:

AI नैतिकता का विकास ‘क्या हम कर सकते हैं?’ से ‘क्या हमें करना चाहिये?’ की यात्रा है। इस एल्गोरिद्मिक युग में आगे बढ़ते हुए, हमारे ढाँचे ऐसे मार्गदर्शक बनने चाहिये जो मशीन की दक्षता से अधिक व्यक्ति की गरिमा और मूल भावना को प्राथमिकता दें। केवल इन मूल्यों को तकनीक के मूल ढाँचे (कोड) में समाहित करके ही हम सुनिश्चित कर सकते हैं कि तकनीक मानव उन्नति का माध्यम बने, न कि डिजिटल दासता का उपकरण।