बुधवार को संसद ने आर्टिफिशियल इंटेलिजेंस अधिनियम को मंजूरी दे दी जो नवाचार को बढ़ावा देने के साथ-साथ सुरक्षा और मौलिक अधिकारों का अनुपालन सुनिश्चित करता है।
विनियमन, दिसंबर में सदस्य देशों के साथ बातचीत में सहमति बनी 2023 को एमईपी द्वारा समर्थन दिया गया, जिसके पक्ष में 523 वोट पड़े, विरोध में 46 वोट पड़े और 49 अनुपस्थित रहे।
इसका उद्देश्य मौलिक अधिकारों, लोकतंत्र, कानून के शासन और पर्यावरणीय स्थिरता को उच्च जोखिम वाले एआई से बचाना है, साथ ही नवाचार को बढ़ावा देना और यूरोप को इस क्षेत्र में अग्रणी के रूप में स्थापित करना है। विनियमन इसके संभावित जोखिमों और प्रभाव के स्तर के आधार पर एआई के लिए दायित्व स्थापित करता है।
प्रतिबंधित अनुप्रयोग
नए नियम कुछ एआई अनुप्रयोगों पर प्रतिबंध लगाते हैं जो नागरिकों के अधिकारों को खतरे में डालते हैं, जिसमें संवेदनशील विशेषताओं के आधार पर बायोमेट्रिक वर्गीकरण प्रणाली और चेहरे की पहचान डेटाबेस बनाने के लिए इंटरनेट या सीसीटीवी फुटेज से चेहरे की छवियों की अलक्षित स्क्रैपिंग शामिल है। कार्यस्थल और स्कूलों में भावनाओं की पहचान, सामाजिक स्कोरिंग, भविष्य कहनेवाला पुलिसिंग (जब यह पूरी तरह से किसी व्यक्ति की प्रोफाइलिंग या उनकी विशेषताओं का आकलन करने पर आधारित हो), और एआई जो मानव व्यवहार में हेरफेर करता है या लोगों की कमजोरियों का फायदा उठाता है, को भी प्रतिबंधित किया जाएगा।
कानून प्रवर्तन छूट
विस्तृत रूप से सूचीबद्ध और संकीर्ण रूप से परिभाषित स्थितियों को छोड़कर, कानून प्रवर्तन द्वारा बायोमेट्रिक पहचान प्रणाली (आरबीआई) का उपयोग सैद्धांतिक रूप से निषिद्ध है। "वास्तविक समय" आरबीआई को केवल तभी तैनात किया जा सकता है जब सख्त सुरक्षा उपायों को पूरा किया जाता है, उदाहरण के लिए इसका उपयोग समय और भौगोलिक दायरे में सीमित है और विशिष्ट पूर्व न्यायिक या प्रशासनिक प्राधिकरण के अधीन है। ऐसे उपयोगों में, उदाहरण के लिए, किसी लापता व्यक्ति की लक्षित खोज या आतंकवादी हमले को रोकना शामिल हो सकता है। ऐसी प्रणालियों का पोस्ट-फैक्टो ("पोस्ट-रिमोट आरबीआई") का उपयोग करना एक उच्च जोखिम वाला उपयोग मामला माना जाता है, जिसके लिए आपराधिक अपराध से जुड़े होने के लिए न्यायिक प्राधिकरण की आवश्यकता होती है।
उच्च जोखिम प्रणालियों के लिए दायित्व
अन्य उच्च जोखिम वाली एआई प्रणालियों के लिए भी स्पष्ट दायित्व अपेक्षित हैं (स्वास्थ्य, सुरक्षा, मौलिक अधिकारों, पर्यावरण, लोकतंत्र और कानून के शासन को उनके महत्वपूर्ण संभावित नुकसान के कारण)। उच्च जोखिम वाले एआई उपयोग के उदाहरणों में महत्वपूर्ण बुनियादी ढाँचा, शिक्षा और व्यावसायिक प्रशिक्षण, रोजगार, आवश्यक निजी और सार्वजनिक सेवाएँ (जैसे स्वास्थ्य सेवा, बैंकिंग), कानून प्रवर्तन में कुछ प्रणालियाँ, प्रवासन और सीमा प्रबंधन, न्याय और लोकतांत्रिक प्रक्रियाएँ (जैसे चुनावों को प्रभावित करना) शामिल हैं। . ऐसी प्रणालियों को जोखिमों का आकलन करना और उन्हें कम करना चाहिए, उपयोग लॉग बनाए रखना चाहिए, पारदर्शी और सटीक होना चाहिए और मानवीय निरीक्षण सुनिश्चित करना चाहिए। नागरिकों को एआई सिस्टम के बारे में शिकायत दर्ज करने और उच्च जोखिम वाले एआई सिस्टम पर आधारित निर्णयों के बारे में स्पष्टीकरण प्राप्त करने का अधिकार होगा जो उनके अधिकारों को प्रभावित करते हैं।
पारदर्शिता आवश्यकताएँ
सामान्य प्रयोजन एआई (जीपीएआई) सिस्टम, और वे जिस जीपीएआई मॉडल पर आधारित हैं, उन्हें कुछ पारदर्शिता आवश्यकताओं को पूरा करना होगा, जिसमें ईयू कॉपीराइट कानून का अनुपालन और प्रशिक्षण के लिए उपयोग की जाने वाली सामग्री के विस्तृत सारांश प्रकाशित करना शामिल है। अधिक शक्तिशाली जीपीएआई मॉडल जो प्रणालीगत जोखिम पैदा कर सकते हैं, उन्हें अतिरिक्त आवश्यकताओं का सामना करना पड़ेगा, जिसमें मॉडल मूल्यांकन करना, प्रणालीगत जोखिमों का आकलन करना और उन्हें कम करना और घटनाओं पर रिपोर्टिंग शामिल है।
इसके अतिरिक्त, कृत्रिम या हेरफेर की गई छवियों, ऑडियो या वीडियो सामग्री ("डीपफेक") को स्पष्ट रूप से लेबल करने की आवश्यकता है।
नवाचार और एसएमई को समर्थन देने के उपाय
बाज़ार में उतारने से पहले नवोन्मेषी एआई को विकसित करने और प्रशिक्षित करने के लिए नियामक सैंडबॉक्स और वास्तविक दुनिया परीक्षण को राष्ट्रीय स्तर पर स्थापित करना होगा, और एसएमई और स्टार्ट-अप के लिए सुलभ बनाना होगा।
उद्धरण
मंगलवार को पूर्ण बहस के दौरान, आंतरिक बाजार समिति के सह-संवाददाता ब्रैंडो बेनिफ़ेई (एस एंड डी, इटली) कहा: “अंततः हमारे पास जोखिमों को कम करने, अवसर पैदा करने, भेदभाव से निपटने और पारदर्शिता लाने के लिए कृत्रिम बुद्धिमत्ता पर दुनिया का पहला बाध्यकारी कानून है। संसद को धन्यवाद, यूरोप में अस्वीकार्य एआई प्रथाओं पर प्रतिबंध लगा दिया जाएगा और श्रमिकों और नागरिकों के अधिकारों की रक्षा की जाएगी। कंपनियों को नियमों के लागू होने से पहले उनका अनुपालन शुरू करने में सहायता करने के लिए अब एआई कार्यालय स्थापित किया जाएगा। हमने सुनिश्चित किया कि मनुष्य और यूरोपीय मूल्य एआई के विकास के केंद्र में हैं।''
सिविल लिबर्टीज़ कमेटी के सह-संवेदक ड्रैगोस टुडोराचे (नवीनीकरण, रोमानिया) कहा: “यूरोपीय संघ ने काम पूरा कर दिया है। हमने कृत्रिम बुद्धिमत्ता की अवधारणा को उन मूलभूत मूल्यों से जोड़ा है जो हमारे समाज का आधार बनते हैं। हालाँकि, अभी बहुत काम बाकी है जो एआई अधिनियम से परे है। एआई हमें हमारे लोकतंत्रों के केंद्र में सामाजिक अनुबंध, हमारे शिक्षा मॉडल, श्रम बाजार और जिस तरह से हम युद्ध करते हैं उस पर पुनर्विचार करने के लिए प्रेरित करेगा। एआई अधिनियम प्रौद्योगिकी के इर्द-गिर्द निर्मित शासन के एक नए मॉडल के लिए एक प्रारंभिक बिंदु है। हमें अब इस कानून को अमल में लाने पर ध्यान देना चाहिए।”
अगले चरण
विनियमन अभी भी अंतिम वकील-भाषाविद् जांच के अधीन है और विधायिका के अंत से पहले (तथाकथित के माध्यम से) अंततः अपनाए जाने की उम्मीद है शुद्धिपत्र प्रक्रिया)। कानून को परिषद द्वारा औपचारिक रूप से समर्थन देने की भी आवश्यकता है।
यह आधिकारिक जर्नल में प्रकाशित होने के बीस दिन बाद लागू होगा, और इसके लागू होने के 24 महीने बाद पूरी तरह से लागू होगा, सिवाय इसके: निषिद्ध प्रथाओं पर प्रतिबंध, जो लागू होने की तारीख के छह महीने बाद लागू होगा; अभ्यास संहिता (लागू होने के नौ महीने बाद); शासन सहित सामान्य प्रयोजन एआई नियम (लागू होने के 12 महीने बाद); और उच्च जोखिम वाली प्रणालियों के लिए दायित्व (36 महीने)।
पृष्ठभूमि
आर्टिफिशियल इंटेलिजेंस अधिनियम यूरोप के भविष्य पर सम्मेलन (सीओएफई) के नागरिकों के प्रस्तावों पर सीधे प्रतिक्रिया देता है, सबसे ठोस रूप से प्रस्ताव 12(10) रणनीतिक क्षेत्रों में यूरोपीय संघ की प्रतिस्पर्धात्मकता बढ़ाने पर, प्रस्ताव 33(5) एक सुरक्षित और भरोसेमंद समाज पर, जिसमें दुष्प्रचार का मुकाबला करना और यह सुनिश्चित करना शामिल है कि अंततः मनुष्य का नियंत्रण हो, प्रस्ताव 35 डिजिटल नवाचार को बढ़ावा देने पर, (3) मानवीय निरीक्षण सुनिश्चित करते हुए और (8) एआई का भरोसेमंद और जिम्मेदार उपयोग, सुरक्षा उपाय स्थापित करना और पारदर्शिता सुनिश्चित करना, और प्रस्ताव 37(3) विकलांग व्यक्तियों सहित नागरिकों की सूचना तक पहुंच में सुधार के लिए एआई और डिजिटल टूल का उपयोग करने पर।
