विभिन्न मुद्दों पर अलग-अलग टिप्पणियाँ और दिशा-निर्देश आए हैं।
हाल में draft AI regulations जारी हाल में मसौदा एआई नियम जारी
AI को strictly assistive रखते हैं।
एआई को सख्ती से सहायक रखते हैं।
कानपुर: 2 जुलाई 2026
सुप्रीम कोर्ट ने AI को न्यायिक प्रक्रिया में सहायक उपकरण के रूप में सकारात्मक रूप से अपनाया है, लेकिन इसे मानव न्यायाधीशों का विकल्प नहीं माना। भारत में AI पर कोई एकल, व्यापक फैसला नहीं है — विभिन्न मुद्दों पर अलग-अलग टिप्पणियाँ और दिशा-निर्देश आए हैं।SUVAS और न्यायिक प्रक्रिया में AI SUVAS (Supreme Court Vidhik Anuvaad Software): यह AI-आधारित अनुवाद उपकरण है, जो सुप्रीम कोर्ट के निर्णयों को अंग्रेजी से 10+ भारतीय भाषाओं (हिंदी, पंजाबी, गुजराती, कन्नड़ आदि) में अनुवाद करता है। इसे 2019 में लॉन्च किया गया था और अब SUVAS 2.0 जैसी अपग्रेड वर्जन भी आई है। इससे लाखों निर्णय अनुवादित हो चुके हैं। drishtijudiciary.com SUPACE (Supreme Court Portal for Assistance in Court’s Efficiency): AI से लीगल रिसर्च, केस स्टेटस आदि में मदद के लिए। कोर्ट का रुख: AI को assistive tool के रूप में इस्तेमाल करें, लेकिन judicial decision-making (फैसला सुनाना, sentencing, bail आदि) में AI को अंतिम अधिकार नहीं। हाल के ड्राफ्ट रेगुलेशन्स (2026) में साफ कहा गया है कि AI human judgment के अधीन रहेगा। thehindu.comAI, Deepfake और Misinformation सुप्रीम कोर्ट ने deepfake और AI-generated fake citations/judgments पर गंभीर चिंता जताई है। कई मामलों में (जैसे 2026 के insolvency cases) कोर्ट ने fake AI citations पर आदेश रद्द किए और lawyers/judges को verification की चेतावनी दी। केंद्र सरकार को AI/deepfake से फैलने वाली गलत सूचनाओं पर कार्रवाई के निर्देश/टिप्पणियाँ दी गई हैं। PILs में draft AI rules का जिक्र आया है। lawbeat.inगोपनीयता का अधिकार (Puttaswamy Case, 2017) Justice K.S. Puttaswamy v. Union of India में सुप्रीम कोर्ट ने privacy को मौलिक अधिकार माना (Article 21)। यह AI-based data collection, surveillance, facial recognition आदि पर सीधा लागू होता है। कोर्ट ने proportionality test (legitimate aim, necessity, balancing) दिया, जो AI tools पर नियंत्रण का आधार बनता है। cgfoetestsite.mystagingwebsite.comFacial Recognition Technology (FRT) कोर्ट ने FRT पर privacy concerns उठाए हैं। कई petitions में unregulated use पर सवाल किए गए। Puttaswamy judgment के आधार पर FRT को mass surveillance के रूप में चुनौती दी जा रही है। अभी तक कोई final comprehensive ruling नहीं, लेकिन regulatory framework की जरूरत पर बल दिया गया है। समग्र स्थिति: भारत का सुप्रीम कोर्ट AI को justice delivery को तेज और accessible बनाने का उपकरण मानता है (translation, research, transcription), लेकिन hallucination, bias, lack of transparency जैसे जोखिमों से सतर्क है। हाल में draft AI regulations जारी हुए हैं, जो AI को strictly assistive रखते हैं।सुप्रीम कोर्ट ने AI को न्यायिक प्रक्रिया में सहायक उपकरण के रूप में सकारात्मक रूप से अपनाया है, लेकिन इसे मानव न्यायाधीशों का विकल्प नहीं माना। भारत में AI पर कोई एकल, व्यापक फैसला नहीं है — विभिन्न मुद्दों पर अलग-अलग टिप्पणियाँ और दिशा-निर्देश आए हैं। SUVAS और न्यायिक प्रक्रिया में AI SUVAS (Supreme Court Vidhik Anuvaad Software): यह AI-आधारित अनुवाद उपकरण है, जो सुप्रीम कोर्ट के निर्णयों को अंग्रेजी से 10+ भारतीय भाषाओं (हिंदी, पंजाबी, गुजराती, कन्नड़ आदि) में अनुवाद करता है। इसे 2019 में लॉन्च किया गया था और अब SUVAS 2.0 जैसी अपग्रेड वर्जन भी आई है। इससे लाखों निर्णय अनुवादित हो चुके हैं। drishtijudiciary.com SUPACE (Supreme Court Portal for Assistance in Court’s Efficiency): AI से लीगल रिसर्च, केस स्टेटस आदि में मदद के लिए। कोर्ट का रुख: AI को assistive tool के रूप में इस्तेमाल करें, लेकिन judicial decision-making (फैसला सुनाना, sentencing, bail आदि) में AI को अंतिम अधिकार नहीं। हाल के ड्राफ्ट रेगुलेशन्स (2026) में साफ कहा गया है कि AI human judgment के अधीन रहेगा। thehindu.comAI, Deepfake और Misinformation सुप्रीम कोर्ट ने deepfake और AI-generated fake citations/judgments पर गंभीर चिंता जताई है। कई मामलों में (जैसे 2026 के insolvency cases) कोर्ट ने fake AI citations पर आदेश रद्द किए और lawyers/judges को verification की चेतावनी दी। केंद्र सरकार को AI/deepfake से फैलने वाली गलत सूचनाओं पर कार्रवाई के निर्देश/टिप्पणियाँ दी गई हैं। PILs में draft AI rules का जिक्र आया है। lawbeat.inगोपनीयता का अधिकार (Puttaswamy Case, 2017) Justice K.S. Puttaswamy v. Union of India में सुप्रीम कोर्ट ने privacy को मौलिक अधिकार माना (Article 21)। यह AI-based data collection, surveillance, facial recognition आदि पर सीधा लागू होता है। कोर्ट ने proportionality test (legitimate aim, necessity, balancing) दिया, जो AI tools पर नियंत्रण का आधार बनता है। cgfoetestsite.mystagingwebsite.comFacial Recognition Technology (FRT) कोर्ट ने FRT पर privacy concerns उठाए हैं। कई petitions में unregulated use पर सवाल किए गए। Puttaswamy judgment के आधार पर FRT को mass surveillance के रूप में चुनौती दी जा रही है। अभी तक कोई final comprehensive ruling नहीं, लेकिन regulatory framework की जरूरत पर बल दिया गया है। समग्र स्थिति: भारत का सुप्रीम कोर्ट AI को justice delivery को तेज और accessible बनाने का उपकरण मानता है (translation, research, transcription), लेकिन hallucination, bias, lack of transparency जैसे जोखिमों से सतर्क है। हाल में draft AI regulations जारी हुए हैं, जो AI को strictly assistive रखते हैं।
भारत अनियंत्रित कृत्रिम बुद्धिमत्ता के अस्तित्वगत खतरों का सामना करने के लिये एक सशक्त, बहुक्षेत्रीय विधायी और नीतिगत ढाँचा लागू कर रहा है। सूचना प्रौद्योगिकी संशोधन नियम, 2026 जैसे प्रगतिशील उपायों के बावजूद, तेज़ी से बदलते डिजिटल जोखिमों और पारंपरिक विधायी तंत्रों के बीच संरचनात्मक गति का अंतर बना हुआ है। लोकतांत्रिक संस्थाओं का समुचित संरक्षण सुनिश्चित करने के लिये शासन को केवल सीमित वैधानिक संशोधनों तक सीमित न रखते हुए एक स्पष्ट एवं सुव्यवस्थित संवैधानिक अनिवार्यता के स्तर तक उन्नत किया जाना आवश्यक है।
भारत में कृत्रिम बुद्धिमत्ता को नियंत्रित करने वाले वर्तमान कानून और नियम सूचना प्रौद्योगिकी (मध्यस्थ दिशानिर्देश और डिजिटल मीडिया नैतिकता संहिता) संशोधन नियम, 2026: इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) द्वारा अधिसूचित, यह कृत्रिम बुद्धिमत्ता के दुरुपयोग के खिलाफ सबसे प्रत्यक्ष वैधानिक हस्तक्षेप है, जो विशेष रूप से कृत्रिम कंटेंट को लक्षित करता है। यह कानून कृत्रिम रूप से उत्पन्न सूचना (SGI) को ऐसी गणनात्मक रूप से निर्मित या परिवर्तित ऑडियो, दृश्य या ऑडियो-दृश्य कंटेंट के रूप में परिभाषित करता है जो प्रामाणिक प्रतीत होती है और विशेष रूप से डीपफेक एवं AI प्रतिरूपण को लक्षित करती है।
इसमें इंटरनेट मध्यस्थों और सोशल मीडिया प्लेटफॉर्म के लिये गैरकानूनी SGI को नोटिस मिलने पर अवैध कृत्रिम रूप से सृजित सूचना को हटाने के लिये 3 घंटे का टेकडाउन नियम अनिवार्य किया गया है, जो गैर-सहमति वाले डीपफेक या यौन रूप से स्पष्ट कंटेंट के लिये घटकर 2 घंटे हो जाता है।
इसके अलावा, प्लेटफॉर्मों को तकनीकी उत्पत्ति चिह्नों के माध्यम से अनिवार्य लेबलिंग और पता लगाने की क्षमता को लागू करना चाहिये, अन्यथा उन्हें सेफ हार्बर प्रतिरक्षा का तत्काल नुकसान और प्रत्यक्ष नागरिक एवं आपराधिक दायित्व का सामना करना पड़ेगा।
IndiaAI मिशन और इंडिया AI गवर्नेंस गाइडलाइंस: इलेक्ट्रॉनिक्स एवं सूचना प्रौद्योगिकी मंत्रालय (MeitY) द्वारा प्रस्तुत यह रूपरेखा देश में उत्तरदायी कृत्रिम बुद्धिमत्ता अंगीकरण के लिये व्यापक संस्थागत ढाँचा प्रदान करती है, जो ‘प्रतिबंध की अपेक्षा नवाचार’ के सिद्धांत पर आधारित है। इसमें यह अनिवार्य किया गया है कि AI सिस्टम को 7 सिद्धांतों का पालन करने की आवश्यकता है अर्थात् विश्वास, लोगों को प्राथमिकता, प्रतिबंध की अपेक्षा नवाचार, निष्पक्षता एवं समानता, उत्तरदायित्व, अभिकल्प द्वारा सुबोधता तथा सुरक्षा, लचीलापन और स्थिरता।
इन दिशा-निर्देशों में AI गवर्नेंस ग्रुप (AIGG), टेक्नोलॉजी एंड पॉलिसी एक्सपर्ट कमेटी (TPEC) और AI सेफ्टी इंस्टीट्यूट (AISI) सहित AI इकोसिस्टम की देख-रेख के लिये विशेष राष्ट्रीय निकायों की स्थापना की गई है।
डिजिटल व्यक्तिगत डेटा संरक्षण (DPDP) अधिनियम, 2023: यद्यपि यह अधिनियम केवल कृत्रिम बुद्धिमत्ता (AI) तक सीमित नहीं है, फिर भी यह भारत में AI मॉडल के प्रशिक्षण को विनियमित करता है। यह अधिनियम स्पष्ट और असंदिग्ध सहमति के बिना लार्ज लैंग्वेज मॉडल (LLM) या न्यूरल नेटवर्क को प्रशिक्षित करने के लिये व्यक्तिगत डेटा के संग्रहण या उपयोग को प्रतिबंधित करता है। इसका उल्लंघन करने पर कठोर वित्तीय दंड का प्रावधान है।
भारतीय न्याय संहिता (BNS), 2023: भारत की प्राथमिक आपराधिक संहिता के रूप में, BNS में ऐसे प्रावधान शामिल हैं जो आपराधिक AI अपराधों पर सक्रिय रूप से लागू होते हैं। डिजिटल प्रतिरूपण, वित्तीय धोखाधड़ी, जालसाजी और मानहानि से संबंधित प्रावधानों का उपयोग कानून प्रवर्तन एजेंसियों द्वारा उन व्यक्तियों पर मुकदमा चलाने के लिये किया जाता है, जो दुर्भावनापूर्ण डीपफेक बनाते हैं या भ्रामक स्वचालित बॉट तैनात करते हैं।
न्यायालयों में कृत्रिम बुद्धिमत्ता के उपयोग हेतु प्रारूप विनियम, 2026: न्यायिक AI तैनाती को नियंत्रित करने के लिये सर्वोच्च न्यायालय द्वारा जारी किया गया, यह आदेश प्रशासनिक स्वचालन (जैसे शेड्यूलिंग या केस प्रबंधन) की अनुमति देता है, लेकिन AI को निर्णय तैयार करने जैसे मुख्य न्यायिक कार्यों को करने से सख्ती से प्रतिबंधित करता है। न्यायिक उत्तरदायित्व सुनिश्चित करने के लिये इसमें स्पष्ट किया गया है कि 'ब्लैक बॉक्स' एल्गोरिद्म अथवा कृत्रिम बुद्धिमत्ता द्वारा उत्पन्न भ्रामक अथवा तथ्यहीन परिणाम (Hallucinations) के कारण होने वाली किसी भी त्रुटि अथवा न्याय-विफलता के लिये संबंधित न्यायिक अधिकारी उत्तरदायी होंगे।
कृत्रिम बुद्धिमत्ता के जिम्मेदार और नैतिक सशक्तीकरण के लिये ढाँचा (FREE-AI): भारतीय रिज़र्व बैंक (RBI) द्वारा जारी किया गया यह ढाँचा क्रेडिट स्कोरिंग, एल्गोरिदम ट्रेडिंग, धोखाधड़ी का पता लगाने तथा स्वचालित ग्राहक सेवा में उपयोग किये जाने वाले AI सिस्टम के लिये सख्त एल्गोरिदम ऑडिट और जोखिम न्यूनीकरण प्रोटोकॉल को अनिवार्य बनाता है।
कृत्रिम बुद्धिमत्ता के अनियंत्रित उपयोग से क्या संभावित परिणाम उत्पन्न हो सकते हैं?डीपफेक तकनीक से होने वाली वित्तीय धोखाधड़ी और आवाज़ की नकल करने वाले घोटालों का प्रसार: जनरेटिव AI (कृत्रिम बुद्धिमत्ता) दुर्भावनापूर्ण तत्त्वों को उच्च-स्तरीय सामाजिक इंजीनियरिंग हमले करने में सक्षम बनाती है। ऑडियो और वीडियो को संश्लेषित करके, धोखेबाज मल्टी-फैक्टर या वॉयस ऑथेंटिकेशन जैसे पारंपरिक सुरक्षा प्रोटोकॉल को दरकिनार कर देते हैं। भारत में डीपफेक वित्तीय साइबर अपराध पर एक रिपोर्ट के अनुसार, 47% भारतीय वयस्क या तो AI वॉयस-क्लोनिंग या डीपफेक घोटाले के शिकार हुए हैं, या किसी ऐसे व्यक्ति को जानते हैं जो इसका शिकार हुआ है— यह वैश्विक औसत 25% से लगभग दोगुना है।
इसके अलावा, 83% भारतीय पीड़ितों को प्रत्यक्ष रूप से आर्थिक नुकसान हुआ, जिनमें से लगभग आधे लोगों को ₹50,000 से अधिक का नुकसान हुआ।
शत्रुतापूर्ण कंटेंट के कम लागत वाले प्रसार के माध्यम से सामाजिक-सांस्कृतिक ध्रुवीकरण: अनियंत्रित अनुशंसा तंत्र (Recommender Systems) जब जनरेटिव कंटेंट टूल के साथ संयोजित होते हैं, तब वे अत्यधिक लक्षित दुष्प्रचार तंत्र का निर्माण करते हैं। ये प्रणालियाँ पारंपरिक विज्ञापन की तुलना में अत्यंत कम लागत पर ध्रुवीकरणकारी आख्यानों का प्रसार करके जनमत को प्रभावित करती हैं। अनुभवजन्य साक्ष्य दर्शाते हैं कि कृत्रिम बुद्धिमत्ता द्वारा संचालित दुर्भावनापूर्ण कंटेंट मात्र 0.07 डॉलर प्रति दृश्य की लागत पर लक्षित दर्शकों तक पहुँच सकती है। यह कृत्रिम गलत सूचना के दुरुपयोग को भारत जैसे बहुधार्मिक, बहुलवादी सामाजिक संरचना के लिये एक अत्यधिक व्यापक खतरा बनाता है।
मानव गरिमा और स्वायत्तता के लिये खतरा: कृत्रिम बुद्धिमत्ता व्यक्तिगत डेटा के स्वामित्व को डिजिटल अधीनता के एक नए रूप में परिवर्तित करने का जोखिम उत्पन्न करती है, जिससे व्यक्तियों की निजता और स्वायत्तता छीन ली जाती है। उदाहरण के लिये, कैम्ब्रिज एनालिटिका प्रकरण में फेसबुक के करोड़ों उपयोगकर्त्ताओं के डेटा का संग्रह करके उनके मनोवैज्ञानिक प्रोफाइल तैयार किये गये, जिनका उपयोग लक्षित मनोवैज्ञानिक प्रभाव डालने हेतु किया गया। स्वचालित प्रणालियाँ अनिवार्य मानवीय निगरानी या उत्तरदायित्व के बिना ही जीवन को प्रभावित करने वाले महत्त्वपूर्ण निर्णय ले रही हैं— जैसे कि किसे नौकरी मिलेगी, किसे ऋण मिलेगा, किसे चिकित्सा सुविधा मिलेगी या किसे शिक्षा मिलेगी। उदाहरण के लिये, ऑस्ट्रेलिया की स्वचालित रोबोडेब्ट योजना ने एक दोषपूर्ण 'आय औसत' एल्गोरिदम का उपयोग करके आधे मिलियन से अधिक कल्याणकारी लाभार्थियों पर गलत तरीके से ऋण बकाया होने का आरोप लगाया।
कॉर्पोरेट एकाधिकार शक्ति: कुछ गिनी-चुनी निजी प्रौद्योगिकी कंपनियों के पास इतनी व्यापक पहुँच एवं संसाधन उपलब्ध हैं कि वे अनेक संप्रभु सरकारों से भी अधिक प्रभावशाली हो गयी हैं तथा प्रभावी सार्वजनिक उत्तरदायित्व के अभाव में डिजिटल परिदृश्य पर नियंत्रण स्थापित किये हुए हैं। उदाहरण के लिये, गूगल सर्च मार्केट के 90% हिस्से को नियंत्रित करता है, जबकि मेटा फेसबुक, इंस्टाग्राम और व्हाट्सएप के माध्यम से प्रतिदिन अरबों लोगों तक पहुँचता है तथा अमेज़ॅन ई-कॉमर्स पर हावी है।
नियामकीय अंतर में हो रहे परिवर्तन: AI स्टार्टअप संस्कृति और गणितीय नवाचार की तीव्र गति से विकसित हो रहा है, जबकि लोकतांत्रिक कानून निर्माण धीमी गति से आगे बढ़ रहा है। जब तक यूरोपीय संघ का कृत्रिम बुद्धिमत्ता अधिनियम, 2024 अथवा यूनाइटेड किंगडम का ऑनलाइन सुरक्षा अधिनियम, 2023 जैसे महत्त्वपूर्ण कानून लागू होते हैं, तब तक जिन तकनीकी जोखिमों को नियंत्रित करने के उद्देश्य से वे बनाये गये थे, वे पहले ही नये स्वरूप धारण कर चुके होते हैं और अनेक पीढ़ियाँ असुरक्षित रह जाती हैं।
यह तीव्र गति न केवल कॉर्पोरेट प्रतिस्पर्द्धा से प्रेरित है, बल्कि निरंतर गणितीय आविष्कारों से भी प्रेरित है। यह वैश्विक कानून निर्माताओं के लिये एक गंभीर चुनौती प्रस्तुत करता है: सरकारें मानव व्यवहार को विनियमित कर सकती हैं, लेकिन वे किसी गणितीय प्रमेय या समीकरण की खोज़ को गैरकानूनी घोषित नहीं कर सकतीं।
लोकतंत्र के लिये अस्तित्वगत खतरे: राजनीतिक नेताओं के अत्यधिक विश्वसनीय कृत्रिम आवाज़ एवं वीडियो चुनावी अवधियों में मतदाता सहभागिता को कम करने, कृत्रिम विवाद उत्पन्न करने तथा वैध राज्य संस्थाओं के प्रति जनविश्वास को ध्वस्त करने के उद्देश्य से सुनियोजित ढंग से प्रसारित किये जाते हैं। उदाहरण के लिये, सहभागिता बढ़ाने के लिये आक्रोश को प्राथमिकता देकर, प्लेटफॉर्म एल्गोरिदम पक्षपातपूर्ण इको-चैम्बर्स और भ्रामक या अत्यधिक मनोरंजक स्थितियाँ (रैबिट होल) निर्मित करते हैं, जो चरम राजनीतिक ध्रुवीकरण को प्रोत्साहित करती हैं तथा अत्यधिक पक्षपातपूर्ण विचारों को असंगत रूप से अधिक महत्त्व प्रदान करती हैं। यह वृद्धि एक बढ़ते संकट को उजागर करता है, अर्थात 75% से अधिक भारतीयों ने डीपफेक का सामना किया है, फिर भी केवल 30% लोगों को ही यह विश्वास है कि वे इसकी पहचान कर सकते हैं।
क्योंकि भय, आक्रोश और सनसनीखेज़ खबरें सबसे अधिक क्लिक्स को आकर्षित करती हैं, इसलिये प्लेटफॉर्म एल्गोरिदम व्यवस्थित रूप से अति-पक्षपातपूर्ण कंटेंट को बढ़ावा देते हैं, जिससे नागरिक अनुकूलित इको-चैम्बर्सों में फँस जाते हैं और सामाजिक विखंडन को बढ़ावा मिलता है। उदाहरण के लिये, भारत में वर्ष 2024 के आम चुनावों के दौरान, राजनेताओं के डीपफेक वीडियो वायरल हुए— जिनमें भारतीय प्रधानमंत्री जैसे नेताओं को नाचते हुए, विपक्षी नेताओं को गीत गाते हुए, या यहाँ तक कि दिवंगत हस्तियों को उम्मीदवारों का समर्थन करते हुए दिखाया गया था।
प्रवेश-स्तरीय क्षेत्रों में व्यापक संरचनात्मक रोज़गार व्यवधान तथा कौशल असंगति: संज्ञानात्मक कार्यों के तीव्र स्वचालन से प्रवेश स्तर की वाइट-कॉलर भूमिकाओं का वस्तुकरण श्रम बाज़ार की परिवर्तन या कौशल उन्नयन की गति से कहीं अधिक तेज़ी से होने का खतरा है, जिससे संरचनात्मक बेरोज़गारी उत्पन्न हो रही है। कॉग्निजेंट-पियर्सन की एक रिपोर्ट से पता चलता है कि भारत में एंट्री-लेवल की 37% नौकरियाँ अब AI द्वारा संभाली जा रही हैं, जबकि वैश्विक औसत 33% है।
प्रभावी कृत्रिम बुद्धिमत्ता विनियमन स्थापित करने के लिये किस ढाँचे की आवश्यकता है? AI गवर्नेंस को संवैधानिक अनिवार्यता के रूप में स्थापित करना: सत्य के साथ होने वाले हेरफेर को केवल सॉफ्टवेयर संबंधी त्रुटियों की एक शृंखला मानना पर्याप्त नहीं है। AI गवर्नेंस को संवैधानिक संरक्षण के स्तर तक उन्नत किया जाना चाहिये। ऐसी स्वच्छ एवं अप्रभावित सूचना-परिस्थिति, जिसमें वास्तविकता और मनगढ़ंत कंटेंट के बीच स्पष्ट अंतर किया जा सके, के अधिकार को जीवन, स्वतंत्रता तथा अभिव्यक्ति की स्वतंत्रता के मूल अधिकार के अनिवार्य विस्तार के रूप में विधिक मान्यता प्रदान की जानी चाहिये।
समवर्ती संचालन नीति के पाँच स्तंभों को लागू करना: एक स्थायी ढाँचा तैयार करने के लिये (विशेष रूप से भारत जैसे अत्यधिक डिजिटलीकृत, बहुलवादी समाजों के लिये) नीति निर्माताओं को निम्नलिखित पाँच संरचनात्मक उपायों को एक साथ लागू करना चाहिये— डिजिटल स्वायत्तता तथा व्यक्तिगत डेटा के संरक्षण को सर्वोच्च प्राथमिकता देने वाला कठोर अधिकार-आधारित ढाँचा।
प्रौद्योगिकी मंचों के लिये संरचनात्मक पारदर्शिता एवं उत्तरदायित्व सुनिश्चित करना, जिसमें एल्गोरिद्मिक प्रवर्द्धन के लिये पूर्ण सुरक्षित आश्रय (सेफ हार्बर) संरक्षण को समाप्त करना भी सम्मिलित हो।
अभिव्यक्ति की स्वतंत्रता का कठोर संरक्षण, ताकि विनियमन राज्य-प्रायोजित सेंसरशिप का माध्यम न बन जाये।
मीडिया साक्षरता तथा डिजिटल नागरिकता पर केंद्रित राष्ट्रव्यापी राज्य-समर्थित शैक्षणिक पहल।
विदेशी मनोवैज्ञानिक अभियानों का वास्तविक समय में पता लगाने तथा उन्हें निष्प्रभावी करने हेतु उन्नत, बहु-क्षेत्रीय प्रारंभिक चेतावनी तंत्र।
जोखिम-आधारित वर्गीकरण स्तर: विनियमों को एक गतिशील जोखिम वर्गीकरण इंजन स्थापित करना चाहिये जो संभावित नुकसान के आधार पर AI अनुप्रयोगों को वर्गीकृत करे, कम जोखिम वाले सिस्टम के लिये अनावश्यक बाधाओं से बचते हुए उच्च जोखिम वाले क्षेत्रों को सख्ती से प्रतिबंधित करे। ऐसे अनुप्रयोग जो 'अस्वीकार्य जोखिम' की श्रेणी में आते हैं (मूल अधिकारों का उल्लंघन करते हैं) जैसे कि रियल-टाइम में सार्वजनिक बायोमेट्रिक पहचान, चेहरे की पहचान संबंधी डेटा का अंधाधुंध संकलन तथा एल्गोरिदम आधारित सामाजिक स्कोरिंग— उन्हें पूर्णतः प्रतिबंधित किया जाना चाहिये।
स्वास्थ्य सेवा, अवसंरचना, ऋण अंडर-राइटिंग और न्यायिक निर्णय लेने जैसे महत्त्वपूर्ण क्षेत्रों में 'उच्च जोखिम' वाली प्रणालियों के लिये अनिवार्य पूर्व-बाज़ार प्रमाणीकरण की आवश्यकता होती है, जबकि 'न्यूनतम जोखिम' वाले सामान्य-उद्देश्य उपकरण बुनियादी पारदर्शिता दायित्वों के तहत संचालित होते हैं।
अनिवार्य ह्यूमन-इन-द-लूप (HITL) प्रोटोकॉल: स्वायत्त प्रणालीगत विफलताओं को रोकने और संस्थागत उत्तरदायित्व को बनाए रखने के लिये, ढाँचे को महत्त्वपूर्ण कार्यप्रवाहों के भीतर ह्यूमन-इन-द-लूप (HITL) आर्किटेक्चर को विधिक रूप से लागू करने की आवश्यकता है।यदि कोई असामान्य व्यवहार पाया जाता है, तो मानव संचालकों के पास रियल-टाइम में स्वायत्त प्रणाली के निर्णयों को रद्द करने, रोकने या समाप्त करने की स्पष्ट तकनीकी क्षमता एवं कानूनी सुरक्षा होनी चाहिये।
तकनीकी उत्पत्ति चिह्न: जनरेटिव AI इंजनों के लिये यह कानूनी रूप से अनिवार्य होना चाहिये कि वे स्थायी, छेड़छाड़-प्रतिरोधी मेटाडेटा और क्रिप्टोग्राफिक उत्पत्ति हस्ताक्षर (जैसे: C2PA मानक) को सीधे सिंथेटिक मीडिया की बाइनरी संरचना में डालें। सोशल मीडिया प्लेटफॉर्म और सर्च इंजन को इन स्रोत चिह्नों को पढ़ने में सक्षम स्वचालित सत्यापन स्तर तैनात करनी चाहिये, जिससे कृत्रिम कंटेंट की अनिवार्य लेबलिंग सक्षम हो सके तथा दुर्भावनापूर्ण, गैर-सहमति वाली डीपफेक कंटेंट को हटाने में तेज़ी आ सके।
संपूर्ण जीवनचक्र डेटा स्वच्छता और ऑडिटिंग: चूँकि एक AI मॉडल का आउटपुट पूरी तरह से उसके इनपुट पर निर्भर करता है, इसलिये इनपुट चरण में सख्त नियामक सुरक्षा उपाय स्थापित किये जाने चाहिये, जो NIST AI रिस्क मैनेजमेंट फ्रेमवर्क जैसे वैश्विक ढाँचे के अनुरूप हों (जो संगठनों को AI सिस्टम को जिम्मेदारी से डिज़ाइन, विकसित, तैनात और उपयोग करने में सहायता करते हैं)। मूलभूत मॉडलों में भार निर्धारित करने से पहले, डेवलपर्स को जनांकिकीय, नस्लीय या लिंग-आधारित पूर्वाग्रहों की पहचान करने तथा उन्हें दूर करने के लिये डेटा विविधता और प्रतिनिधि नमूनाकरण का दस्तावेजी प्रमाण प्रदान करने की आवश्यकता है।
प्रभावी कृत्रिम बुद्धिमत्ता (AI) विनियमन के लिये डिजिटल सुरक्षा को एक संवैधानिक संरक्षण के रूप में स्थापित करना आवश्यक है। भारत गतिशील तथा तीव्र गति से परिवर्तित होने वाले एल्गोरिदम से निपटने के लिये स्थिर कानूनों पर निर्भर नहीं रह सकता। इसके स्थान पर उसे मानव स्वायत्तता, सामाजिक सामंजस्य तथा डिजिटल युग में राष्ट्रीय संप्रभुता के संरक्षण हेतु कठोर प्लेटफॉर्म दायित्व, तकनीकी 'प्रोवेनेंस मार्कर्स' (Provenance Markers) तथा अधिकार-आधारित संरक्षणों का समन्वित ढाँचा अपनाने की आवश्यकता है।
सुप्रीम कोर्ट ने AI को न्यायिक प्रक्रिया में सहायक उपकरण के रूप में सकारात्मक रूप से अपनाया है, लेकिन इसे मानव न्यायाधीशों का विकल्प नहीं माना। भारत में AI पर कोई एकल, व्यापक फैसला नहीं है — विभिन्न मुद्दों पर अलग-अलग टिप्पणियाँ और दिशा-निर्देश आए हैं।SUVAS और न्यायिक प्रक्रिया में AI SUVAS (Supreme Court Vidhik Anuvaad Software): यह AI-आधारित अनुवाद उपकरण है, जो सुप्रीम कोर्ट के निर्णयों को अंग्रेजी से 10+ भारतीय भाषाओं (हिंदी, पंजाबी, गुजराती, कन्नड़ आदि) में अनुवाद करता है। इसे 2019 में लॉन्च किया गया था और अब SUVAS 2.0 जैसी अपग्रेड वर्जन भी आई है। इससे लाखों निर्णय अनुवादित हो चुके हैं। drishtijudiciary.com SUPACE (Supreme Court Portal for Assistance in Court’s Efficiency): AI से लीगल रिसर्च, केस स्टेटस आदि में मदद के लिए। कोर्ट का रुख: AI को assistive tool के रूप में इस्तेमाल करें, लेकिन judicial decision-making (फैसला सुनाना, sentencing, bail आदि) में AI को अंतिम अधिकार नहीं। हाल के ड्राफ्ट रेगुलेशन्स (2026) में साफ कहा गया है कि AI human judgment के अधीन रहेगा। thehindu.comAI, Deepfake और Misinformation सुप्रीम कोर्ट ने deepfake और AI-generated fake citations/judgments पर गंभीर चिंता जताई है। कई मामलों में (जैसे 2026 के insolvency cases) कोर्ट ने fake AI citations पर आदेश रद्द किए और lawyers/judges को verification की चेतावनी दी। केंद्र सरकार को AI/deepfake से फैलने वाली गलत सूचनाओं पर कार्रवाई के निर्देश/टिप्पणियाँ दी गई हैं। PILs में draft AI rules का जिक्र आया है। lawbeat.inगोपनीयता का अधिकार (Puttaswamy Case, 2017) Justice K.S. Puttaswamy v. Union of India में सुप्रीम कोर्ट ने privacy को मौलिक अधिकार माना (Article 21)। यह AI-based data collection, surveillance, facial recognition आदि पर सीधा लागू होता है। कोर्ट ने proportionality test (legitimate aim, necessity, balancing) दिया, जो AI tools पर नियंत्रण का आधार बनता है। cgfoetestsite.mystagingwebsite.comFacial Recognition Technology (FRT) कोर्ट ने FRT पर privacy concerns उठाए हैं। कई petitions में unregulated use पर सवाल किए गए। Puttaswamy judgment के आधार पर FRT को mass surveillance के रूप में चुनौती दी जा रही है। अभी तक कोई final comprehensive ruling नहीं, लेकिन regulatory framework की जरूरत पर बल दिया गया है। समग्र स्थिति: भारत का सुप्रीम कोर्ट AI को justice delivery को तेज और accessible बनाने का उपकरण मानता है (translation, research, transcription), लेकिन hallucination, bias, lack of transparency जैसे जोखिमों से सतर्क है। हाल में draft AI regulations जारी हुए हैं, जो AI को strictly assistive रखते हैं।सुप्रीम कोर्ट ने AI को न्यायिक प्रक्रिया में सहायक उपकरण के रूप में सकारात्मक रूप से अपनाया है, लेकिन इसे मानव न्यायाधीशों का विकल्प नहीं माना। भारत में AI पर कोई एकल, व्यापक फैसला नहीं है — विभिन्न मुद्दों पर अलग-अलग टिप्पणियाँ और दिशा-निर्देश आए हैं। SUVAS और न्यायिक प्रक्रिया में AI SUVAS (Supreme Court Vidhik Anuvaad Software): यह AI-आधारित अनुवाद उपकरण है, जो सुप्रीम कोर्ट के निर्णयों को अंग्रेजी से 10+ भारतीय भाषाओं (हिंदी, पंजाबी, गुजराती, कन्नड़ आदि) में अनुवाद करता है। इसे 2019 में लॉन्च किया गया था और अब SUVAS 2.0 जैसी अपग्रेड वर्जन भी आई है। इससे लाखों निर्णय अनुवादित हो चुके हैं। drishtijudiciary.com SUPACE (Supreme Court Portal for Assistance in Court’s Efficiency): AI से लीगल रिसर्च, केस स्टेटस आदि में मदद के लिए। कोर्ट का रुख: AI को assistive tool के रूप में इस्तेमाल करें, लेकिन judicial decision-making (फैसला सुनाना, sentencing, bail आदि) में AI को अंतिम अधिकार नहीं। हाल के ड्राफ्ट रेगुलेशन्स (2026) में साफ कहा गया है कि AI human judgment के अधीन रहेगा। thehindu.comAI, Deepfake और Misinformation सुप्रीम कोर्ट ने deepfake और AI-generated fake citations/judgments पर गंभीर चिंता जताई है। कई मामलों में (जैसे 2026 के insolvency cases) कोर्ट ने fake AI citations पर आदेश रद्द किए और lawyers/judges को verification की चेतावनी दी। केंद्र सरकार को AI/deepfake से फैलने वाली गलत सूचनाओं पर कार्रवाई के निर्देश/टिप्पणियाँ दी गई हैं। PILs में draft AI rules का जिक्र आया है। lawbeat.inगोपनीयता का अधिकार (Puttaswamy Case, 2017) Justice K.S. Puttaswamy v. Union of India में सुप्रीम कोर्ट ने privacy को मौलिक अधिकार माना (Article 21)। यह AI-based data collection, surveillance, facial recognition आदि पर सीधा लागू होता है। कोर्ट ने proportionality test (legitimate aim, necessity, balancing) दिया, जो AI tools पर नियंत्रण का आधार बनता है। cgfoetestsite.mystagingwebsite.comFacial Recognition Technology (FRT) कोर्ट ने FRT पर privacy concerns उठाए हैं। कई petitions में unregulated use पर सवाल किए गए। Puttaswamy judgment के आधार पर FRT को mass surveillance के रूप में चुनौती दी जा रही है। अभी तक कोई final comprehensive ruling नहीं, लेकिन regulatory framework की जरूरत पर बल दिया गया है। समग्र स्थिति: भारत का सुप्रीम कोर्ट AI को justice delivery को तेज और accessible बनाने का उपकरण मानता है (translation, research, transcription), लेकिन hallucination, bias, lack of transparency जैसे जोखिमों से सतर्क है। हाल में draft AI regulations जारी हुए हैं, जो AI को strictly assistive रखते हैं।
भारत अनियंत्रित कृत्रिम बुद्धिमत्ता के अस्तित्वगत खतरों का सामना करने के लिये एक सशक्त, बहुक्षेत्रीय विधायी और नीतिगत ढाँचा लागू कर रहा है। सूचना प्रौद्योगिकी संशोधन नियम, 2026 जैसे प्रगतिशील उपायों के बावजूद, तेज़ी से बदलते डिजिटल जोखिमों और पारंपरिक विधायी तंत्रों के बीच संरचनात्मक गति का अंतर बना हुआ है। लोकतांत्रिक संस्थाओं का समुचित संरक्षण सुनिश्चित करने के लिये शासन को केवल सीमित वैधानिक संशोधनों तक सीमित न रखते हुए एक स्पष्ट एवं सुव्यवस्थित संवैधानिक अनिवार्यता के स्तर तक उन्नत किया जाना आवश्यक है।
भारत में कृत्रिम बुद्धिमत्ता को नियंत्रित करने वाले वर्तमान कानून और नियम सूचना प्रौद्योगिकी (मध्यस्थ दिशानिर्देश और डिजिटल मीडिया नैतिकता संहिता) संशोधन नियम, 2026: इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) द्वारा अधिसूचित, यह कृत्रिम बुद्धिमत्ता के दुरुपयोग के खिलाफ सबसे प्रत्यक्ष वैधानिक हस्तक्षेप है, जो विशेष रूप से कृत्रिम कंटेंट को लक्षित करता है। यह कानून कृत्रिम रूप से उत्पन्न सूचना (SGI) को ऐसी गणनात्मक रूप से निर्मित या परिवर्तित ऑडियो, दृश्य या ऑडियो-दृश्य कंटेंट के रूप में परिभाषित करता है जो प्रामाणिक प्रतीत होती है और विशेष रूप से डीपफेक एवं AI प्रतिरूपण को लक्षित करती है।
इसमें इंटरनेट मध्यस्थों और सोशल मीडिया प्लेटफॉर्म के लिये गैरकानूनी SGI को नोटिस मिलने पर अवैध कृत्रिम रूप से सृजित सूचना को हटाने के लिये 3 घंटे का टेकडाउन नियम अनिवार्य किया गया है, जो गैर-सहमति वाले डीपफेक या यौन रूप से स्पष्ट कंटेंट के लिये घटकर 2 घंटे हो जाता है।
इसके अलावा, प्लेटफॉर्मों को तकनीकी उत्पत्ति चिह्नों के माध्यम से अनिवार्य लेबलिंग और पता लगाने की क्षमता को लागू करना चाहिये, अन्यथा उन्हें सेफ हार्बर प्रतिरक्षा का तत्काल नुकसान और प्रत्यक्ष नागरिक एवं आपराधिक दायित्व का सामना करना पड़ेगा।
IndiaAI मिशन और इंडिया AI गवर्नेंस गाइडलाइंस: इलेक्ट्रॉनिक्स एवं सूचना प्रौद्योगिकी मंत्रालय (MeitY) द्वारा प्रस्तुत यह रूपरेखा देश में उत्तरदायी कृत्रिम बुद्धिमत्ता अंगीकरण के लिये व्यापक संस्थागत ढाँचा प्रदान करती है, जो ‘प्रतिबंध की अपेक्षा नवाचार’ के सिद्धांत पर आधारित है। इसमें यह अनिवार्य किया गया है कि AI सिस्टम को 7 सिद्धांतों का पालन करने की आवश्यकता है अर्थात् विश्वास, लोगों को प्राथमिकता, प्रतिबंध की अपेक्षा नवाचार, निष्पक्षता एवं समानता, उत्तरदायित्व, अभिकल्प द्वारा सुबोधता तथा सुरक्षा, लचीलापन और स्थिरता।
इन दिशा-निर्देशों में AI गवर्नेंस ग्रुप (AIGG), टेक्नोलॉजी एंड पॉलिसी एक्सपर्ट कमेटी (TPEC) और AI सेफ्टी इंस्टीट्यूट (AISI) सहित AI इकोसिस्टम की देख-रेख के लिये विशेष राष्ट्रीय निकायों की स्थापना की गई है।
डिजिटल व्यक्तिगत डेटा संरक्षण (DPDP) अधिनियम, 2023: यद्यपि यह अधिनियम केवल कृत्रिम बुद्धिमत्ता (AI) तक सीमित नहीं है, फिर भी यह भारत में AI मॉडल के प्रशिक्षण को विनियमित करता है। यह अधिनियम स्पष्ट और असंदिग्ध सहमति के बिना लार्ज लैंग्वेज मॉडल (LLM) या न्यूरल नेटवर्क को प्रशिक्षित करने के लिये व्यक्तिगत डेटा के संग्रहण या उपयोग को प्रतिबंधित करता है। इसका उल्लंघन करने पर कठोर वित्तीय दंड का प्रावधान है।
भारतीय न्याय संहिता (BNS), 2023: भारत की प्राथमिक आपराधिक संहिता के रूप में, BNS में ऐसे प्रावधान शामिल हैं जो आपराधिक AI अपराधों पर सक्रिय रूप से लागू होते हैं। डिजिटल प्रतिरूपण, वित्तीय धोखाधड़ी, जालसाजी और मानहानि से संबंधित प्रावधानों का उपयोग कानून प्रवर्तन एजेंसियों द्वारा उन व्यक्तियों पर मुकदमा चलाने के लिये किया जाता है, जो दुर्भावनापूर्ण डीपफेक बनाते हैं या भ्रामक स्वचालित बॉट तैनात करते हैं।
न्यायालयों में कृत्रिम बुद्धिमत्ता के उपयोग हेतु प्रारूप विनियम, 2026: न्यायिक AI तैनाती को नियंत्रित करने के लिये सर्वोच्च न्यायालय द्वारा जारी किया गया, यह आदेश प्रशासनिक स्वचालन (जैसे शेड्यूलिंग या केस प्रबंधन) की अनुमति देता है, लेकिन AI को निर्णय तैयार करने जैसे मुख्य न्यायिक कार्यों को करने से सख्ती से प्रतिबंधित करता है। न्यायिक उत्तरदायित्व सुनिश्चित करने के लिये इसमें स्पष्ट किया गया है कि 'ब्लैक बॉक्स' एल्गोरिद्म अथवा कृत्रिम बुद्धिमत्ता द्वारा उत्पन्न भ्रामक अथवा तथ्यहीन परिणाम (Hallucinations) के कारण होने वाली किसी भी त्रुटि अथवा न्याय-विफलता के लिये संबंधित न्यायिक अधिकारी उत्तरदायी होंगे।
कृत्रिम बुद्धिमत्ता के जिम्मेदार और नैतिक सशक्तीकरण के लिये ढाँचा (FREE-AI): भारतीय रिज़र्व बैंक (RBI) द्वारा जारी किया गया यह ढाँचा क्रेडिट स्कोरिंग, एल्गोरिदम ट्रेडिंग, धोखाधड़ी का पता लगाने तथा स्वचालित ग्राहक सेवा में उपयोग किये जाने वाले AI सिस्टम के लिये सख्त एल्गोरिदम ऑडिट और जोखिम न्यूनीकरण प्रोटोकॉल को अनिवार्य बनाता है।
कृत्रिम बुद्धिमत्ता के अनियंत्रित उपयोग से क्या संभावित परिणाम उत्पन्न हो सकते हैं?डीपफेक तकनीक से होने वाली वित्तीय धोखाधड़ी और आवाज़ की नकल करने वाले घोटालों का प्रसार: जनरेटिव AI (कृत्रिम बुद्धिमत्ता) दुर्भावनापूर्ण तत्त्वों को उच्च-स्तरीय सामाजिक इंजीनियरिंग हमले करने में सक्षम बनाती है। ऑडियो और वीडियो को संश्लेषित करके, धोखेबाज मल्टी-फैक्टर या वॉयस ऑथेंटिकेशन जैसे पारंपरिक सुरक्षा प्रोटोकॉल को दरकिनार कर देते हैं। भारत में डीपफेक वित्तीय साइबर अपराध पर एक रिपोर्ट के अनुसार, 47% भारतीय वयस्क या तो AI वॉयस-क्लोनिंग या डीपफेक घोटाले के शिकार हुए हैं, या किसी ऐसे व्यक्ति को जानते हैं जो इसका शिकार हुआ है— यह वैश्विक औसत 25% से लगभग दोगुना है।
इसके अलावा, 83% भारतीय पीड़ितों को प्रत्यक्ष रूप से आर्थिक नुकसान हुआ, जिनमें से लगभग आधे लोगों को ₹50,000 से अधिक का नुकसान हुआ।
शत्रुतापूर्ण कंटेंट के कम लागत वाले प्रसार के माध्यम से सामाजिक-सांस्कृतिक ध्रुवीकरण: अनियंत्रित अनुशंसा तंत्र (Recommender Systems) जब जनरेटिव कंटेंट टूल के साथ संयोजित होते हैं, तब वे अत्यधिक लक्षित दुष्प्रचार तंत्र का निर्माण करते हैं। ये प्रणालियाँ पारंपरिक विज्ञापन की तुलना में अत्यंत कम लागत पर ध्रुवीकरणकारी आख्यानों का प्रसार करके जनमत को प्रभावित करती हैं। अनुभवजन्य साक्ष्य दर्शाते हैं कि कृत्रिम बुद्धिमत्ता द्वारा संचालित दुर्भावनापूर्ण कंटेंट मात्र 0.07 डॉलर प्रति दृश्य की लागत पर लक्षित दर्शकों तक पहुँच सकती है। यह कृत्रिम गलत सूचना के दुरुपयोग को भारत जैसे बहुधार्मिक, बहुलवादी सामाजिक संरचना के लिये एक अत्यधिक व्यापक खतरा बनाता है।
मानव गरिमा और स्वायत्तता के लिये खतरा: कृत्रिम बुद्धिमत्ता व्यक्तिगत डेटा के स्वामित्व को डिजिटल अधीनता के एक नए रूप में परिवर्तित करने का जोखिम उत्पन्न करती है, जिससे व्यक्तियों की निजता और स्वायत्तता छीन ली जाती है। उदाहरण के लिये, कैम्ब्रिज एनालिटिका प्रकरण में फेसबुक के करोड़ों उपयोगकर्त्ताओं के डेटा का संग्रह करके उनके मनोवैज्ञानिक प्रोफाइल तैयार किये गये, जिनका उपयोग लक्षित मनोवैज्ञानिक प्रभाव डालने हेतु किया गया। स्वचालित प्रणालियाँ अनिवार्य मानवीय निगरानी या उत्तरदायित्व के बिना ही जीवन को प्रभावित करने वाले महत्त्वपूर्ण निर्णय ले रही हैं— जैसे कि किसे नौकरी मिलेगी, किसे ऋण मिलेगा, किसे चिकित्सा सुविधा मिलेगी या किसे शिक्षा मिलेगी। उदाहरण के लिये, ऑस्ट्रेलिया की स्वचालित रोबोडेब्ट योजना ने एक दोषपूर्ण 'आय औसत' एल्गोरिदम का उपयोग करके आधे मिलियन से अधिक कल्याणकारी लाभार्थियों पर गलत तरीके से ऋण बकाया होने का आरोप लगाया।
कॉर्पोरेट एकाधिकार शक्ति: कुछ गिनी-चुनी निजी प्रौद्योगिकी कंपनियों के पास इतनी व्यापक पहुँच एवं संसाधन उपलब्ध हैं कि वे अनेक संप्रभु सरकारों से भी अधिक प्रभावशाली हो गयी हैं तथा प्रभावी सार्वजनिक उत्तरदायित्व के अभाव में डिजिटल परिदृश्य पर नियंत्रण स्थापित किये हुए हैं। उदाहरण के लिये, गूगल सर्च मार्केट के 90% हिस्से को नियंत्रित करता है, जबकि मेटा फेसबुक, इंस्टाग्राम और व्हाट्सएप के माध्यम से प्रतिदिन अरबों लोगों तक पहुँचता है तथा अमेज़ॅन ई-कॉमर्स पर हावी है।
नियामकीय अंतर में हो रहे परिवर्तन: AI स्टार्टअप संस्कृति और गणितीय नवाचार की तीव्र गति से विकसित हो रहा है, जबकि लोकतांत्रिक कानून निर्माण धीमी गति से आगे बढ़ रहा है। जब तक यूरोपीय संघ का कृत्रिम बुद्धिमत्ता अधिनियम, 2024 अथवा यूनाइटेड किंगडम का ऑनलाइन सुरक्षा अधिनियम, 2023 जैसे महत्त्वपूर्ण कानून लागू होते हैं, तब तक जिन तकनीकी जोखिमों को नियंत्रित करने के उद्देश्य से वे बनाये गये थे, वे पहले ही नये स्वरूप धारण कर चुके होते हैं और अनेक पीढ़ियाँ असुरक्षित रह जाती हैं।
यह तीव्र गति न केवल कॉर्पोरेट प्रतिस्पर्द्धा से प्रेरित है, बल्कि निरंतर गणितीय आविष्कारों से भी प्रेरित है। यह वैश्विक कानून निर्माताओं के लिये एक गंभीर चुनौती प्रस्तुत करता है: सरकारें मानव व्यवहार को विनियमित कर सकती हैं, लेकिन वे किसी गणितीय प्रमेय या समीकरण की खोज़ को गैरकानूनी घोषित नहीं कर सकतीं।
लोकतंत्र के लिये अस्तित्वगत खतरे: राजनीतिक नेताओं के अत्यधिक विश्वसनीय कृत्रिम आवाज़ एवं वीडियो चुनावी अवधियों में मतदाता सहभागिता को कम करने, कृत्रिम विवाद उत्पन्न करने तथा वैध राज्य संस्थाओं के प्रति जनविश्वास को ध्वस्त करने के उद्देश्य से सुनियोजित ढंग से प्रसारित किये जाते हैं। उदाहरण के लिये, सहभागिता बढ़ाने के लिये आक्रोश को प्राथमिकता देकर, प्लेटफॉर्म एल्गोरिदम पक्षपातपूर्ण इको-चैम्बर्स और भ्रामक या अत्यधिक मनोरंजक स्थितियाँ (रैबिट होल) निर्मित करते हैं, जो चरम राजनीतिक ध्रुवीकरण को प्रोत्साहित करती हैं तथा अत्यधिक पक्षपातपूर्ण विचारों को असंगत रूप से अधिक महत्त्व प्रदान करती हैं। यह वृद्धि एक बढ़ते संकट को उजागर करता है, अर्थात 75% से अधिक भारतीयों ने डीपफेक का सामना किया है, फिर भी केवल 30% लोगों को ही यह विश्वास है कि वे इसकी पहचान कर सकते हैं।
क्योंकि भय, आक्रोश और सनसनीखेज़ खबरें सबसे अधिक क्लिक्स को आकर्षित करती हैं, इसलिये प्लेटफॉर्म एल्गोरिदम व्यवस्थित रूप से अति-पक्षपातपूर्ण कंटेंट को बढ़ावा देते हैं, जिससे नागरिक अनुकूलित इको-चैम्बर्सों में फँस जाते हैं और सामाजिक विखंडन को बढ़ावा मिलता है। उदाहरण के लिये, भारत में वर्ष 2024 के आम चुनावों के दौरान, राजनेताओं के डीपफेक वीडियो वायरल हुए— जिनमें भारतीय प्रधानमंत्री जैसे नेताओं को नाचते हुए, विपक्षी नेताओं को गीत गाते हुए, या यहाँ तक कि दिवंगत हस्तियों को उम्मीदवारों का समर्थन करते हुए दिखाया गया था।
प्रवेश-स्तरीय क्षेत्रों में व्यापक संरचनात्मक रोज़गार व्यवधान तथा कौशल असंगति: संज्ञानात्मक कार्यों के तीव्र स्वचालन से प्रवेश स्तर की वाइट-कॉलर भूमिकाओं का वस्तुकरण श्रम बाज़ार की परिवर्तन या कौशल उन्नयन की गति से कहीं अधिक तेज़ी से होने का खतरा है, जिससे संरचनात्मक बेरोज़गारी उत्पन्न हो रही है। कॉग्निजेंट-पियर्सन की एक रिपोर्ट से पता चलता है कि भारत में एंट्री-लेवल की 37% नौकरियाँ अब AI द्वारा संभाली जा रही हैं, जबकि वैश्विक औसत 33% है।
प्रभावी कृत्रिम बुद्धिमत्ता विनियमन स्थापित करने के लिये किस ढाँचे की आवश्यकता है? AI गवर्नेंस को संवैधानिक अनिवार्यता के रूप में स्थापित करना: सत्य के साथ होने वाले हेरफेर को केवल सॉफ्टवेयर संबंधी त्रुटियों की एक शृंखला मानना पर्याप्त नहीं है। AI गवर्नेंस को संवैधानिक संरक्षण के स्तर तक उन्नत किया जाना चाहिये। ऐसी स्वच्छ एवं अप्रभावित सूचना-परिस्थिति, जिसमें वास्तविकता और मनगढ़ंत कंटेंट के बीच स्पष्ट अंतर किया जा सके, के अधिकार को जीवन, स्वतंत्रता तथा अभिव्यक्ति की स्वतंत्रता के मूल अधिकार के अनिवार्य विस्तार के रूप में विधिक मान्यता प्रदान की जानी चाहिये।
समवर्ती संचालन नीति के पाँच स्तंभों को लागू करना: एक स्थायी ढाँचा तैयार करने के लिये (विशेष रूप से भारत जैसे अत्यधिक डिजिटलीकृत, बहुलवादी समाजों के लिये) नीति निर्माताओं को निम्नलिखित पाँच संरचनात्मक उपायों को एक साथ लागू करना चाहिये— डिजिटल स्वायत्तता तथा व्यक्तिगत डेटा के संरक्षण को सर्वोच्च प्राथमिकता देने वाला कठोर अधिकार-आधारित ढाँचा।
प्रौद्योगिकी मंचों के लिये संरचनात्मक पारदर्शिता एवं उत्तरदायित्व सुनिश्चित करना, जिसमें एल्गोरिद्मिक प्रवर्द्धन के लिये पूर्ण सुरक्षित आश्रय (सेफ हार्बर) संरक्षण को समाप्त करना भी सम्मिलित हो।
अभिव्यक्ति की स्वतंत्रता का कठोर संरक्षण, ताकि विनियमन राज्य-प्रायोजित सेंसरशिप का माध्यम न बन जाये।
मीडिया साक्षरता तथा डिजिटल नागरिकता पर केंद्रित राष्ट्रव्यापी राज्य-समर्थित शैक्षणिक पहल।
विदेशी मनोवैज्ञानिक अभियानों का वास्तविक समय में पता लगाने तथा उन्हें निष्प्रभावी करने हेतु उन्नत, बहु-क्षेत्रीय प्रारंभिक चेतावनी तंत्र।
जोखिम-आधारित वर्गीकरण स्तर: विनियमों को एक गतिशील जोखिम वर्गीकरण इंजन स्थापित करना चाहिये जो संभावित नुकसान के आधार पर AI अनुप्रयोगों को वर्गीकृत करे, कम जोखिम वाले सिस्टम के लिये अनावश्यक बाधाओं से बचते हुए उच्च जोखिम वाले क्षेत्रों को सख्ती से प्रतिबंधित करे। ऐसे अनुप्रयोग जो 'अस्वीकार्य जोखिम' की श्रेणी में आते हैं (मूल अधिकारों का उल्लंघन करते हैं) जैसे कि रियल-टाइम में सार्वजनिक बायोमेट्रिक पहचान, चेहरे की पहचान संबंधी डेटा का अंधाधुंध संकलन तथा एल्गोरिदम आधारित सामाजिक स्कोरिंग— उन्हें पूर्णतः प्रतिबंधित किया जाना चाहिये।
स्वास्थ्य सेवा, अवसंरचना, ऋण अंडर-राइटिंग और न्यायिक निर्णय लेने जैसे महत्त्वपूर्ण क्षेत्रों में 'उच्च जोखिम' वाली प्रणालियों के लिये अनिवार्य पूर्व-बाज़ार प्रमाणीकरण की आवश्यकता होती है, जबकि 'न्यूनतम जोखिम' वाले सामान्य-उद्देश्य उपकरण बुनियादी पारदर्शिता दायित्वों के तहत संचालित होते हैं।
अनिवार्य ह्यूमन-इन-द-लूप (HITL) प्रोटोकॉल: स्वायत्त प्रणालीगत विफलताओं को रोकने और संस्थागत उत्तरदायित्व को बनाए रखने के लिये, ढाँचे को महत्त्वपूर्ण कार्यप्रवाहों के भीतर ह्यूमन-इन-द-लूप (HITL) आर्किटेक्चर को विधिक रूप से लागू करने की आवश्यकता है।यदि कोई असामान्य व्यवहार पाया जाता है, तो मानव संचालकों के पास रियल-टाइम में स्वायत्त प्रणाली के निर्णयों को रद्द करने, रोकने या समाप्त करने की स्पष्ट तकनीकी क्षमता एवं कानूनी सुरक्षा होनी चाहिये।
तकनीकी उत्पत्ति चिह्न: जनरेटिव AI इंजनों के लिये यह कानूनी रूप से अनिवार्य होना चाहिये कि वे स्थायी, छेड़छाड़-प्रतिरोधी मेटाडेटा और क्रिप्टोग्राफिक उत्पत्ति हस्ताक्षर (जैसे: C2PA मानक) को सीधे सिंथेटिक मीडिया की बाइनरी संरचना में डालें। सोशल मीडिया प्लेटफॉर्म और सर्च इंजन को इन स्रोत चिह्नों को पढ़ने में सक्षम स्वचालित सत्यापन स्तर तैनात करनी चाहिये, जिससे कृत्रिम कंटेंट की अनिवार्य लेबलिंग सक्षम हो सके तथा दुर्भावनापूर्ण, गैर-सहमति वाली डीपफेक कंटेंट को हटाने में तेज़ी आ सके।
संपूर्ण जीवनचक्र डेटा स्वच्छता और ऑडिटिंग: चूँकि एक AI मॉडल का आउटपुट पूरी तरह से उसके इनपुट पर निर्भर करता है, इसलिये इनपुट चरण में सख्त नियामक सुरक्षा उपाय स्थापित किये जाने चाहिये, जो NIST AI रिस्क मैनेजमेंट फ्रेमवर्क जैसे वैश्विक ढाँचे के अनुरूप हों (जो संगठनों को AI सिस्टम को जिम्मेदारी से डिज़ाइन, विकसित, तैनात और उपयोग करने में सहायता करते हैं)। मूलभूत मॉडलों में भार निर्धारित करने से पहले, डेवलपर्स को जनांकिकीय, नस्लीय या लिंग-आधारित पूर्वाग्रहों की पहचान करने तथा उन्हें दूर करने के लिये डेटा विविधता और प्रतिनिधि नमूनाकरण का दस्तावेजी प्रमाण प्रदान करने की आवश्यकता है।
प्रभावी कृत्रिम बुद्धिमत्ता (AI) विनियमन के लिये डिजिटल सुरक्षा को एक संवैधानिक संरक्षण के रूप में स्थापित करना आवश्यक है। भारत गतिशील तथा तीव्र गति से परिवर्तित होने वाले एल्गोरिदम से निपटने के लिये स्थिर कानूनों पर निर्भर नहीं रह सकता। इसके स्थान पर उसे मानव स्वायत्तता, सामाजिक सामंजस्य तथा डिजिटल युग में राष्ट्रीय संप्रभुता के संरक्षण हेतु कठोर प्लेटफॉर्म दायित्व, तकनीकी 'प्रोवेनेंस मार्कर्स' (Provenance Markers) तथा अधिकार-आधारित संरक्षणों का समन्वित ढाँचा अपनाने की आवश्यकता है।
0 Comments