AI गवर्नेंस, जोखिम और अनुपालन
AI गवर्नेंस किसी संगठन को नामित स्वामी, डेटा और निर्णयों पर स्पष्ट नियम, हानि के अनुपात में जोखिम आकलन, परीक्षण, और उसके उपयोग की हर AI प्रणाली के रिकॉर्ड देता है; ISO/IEC 42001, NIST AI जोखिम प्रबंधन फ्रेमवर्क और EU AI अधिनियम जैसे फ्रेमवर्क शब्दावली और ढाँचा देते हैं, क़ानूनी सलाह नहीं।
यह क्यों मायने रखता है
AI किसी संगठन में एक साथ कई दरवाज़ों से आती है। विक्रेता उन उपकरणों में AI सुविधाएँ जोड़ते हैं जिनके लिए आप पहले से भुगतान करते हैं। टीमें सहायक बनाती हैं। व्यक्ति अपने काम के लिए सार्वजनिक चैट उपकरण उपयोग करते हैं। हर उपयोग ऐसे प्रश्न लाता है जो संगठन ने शायद पूछे नहीं: कौन-सा डेटा जाता है, उसे कौन देखता है, वह कितना सटीक है, उसके निर्णयों से कौन प्रभावित होता है, और ग़लत होने पर उत्तर कौन देता है।
गवर्नेंस के बिना, इन प्रश्नों के उत्तर एक-एक उपयोग पर, असंगत ढंग से, या बिल्कुल नहीं दिए जाते। परिणाम शर्मनाक से गंभीर तक होते हैं: सार्वजनिक उपकरण में चिपकाया गया गोपनीय दस्तावेज़, कुछ समूहों के साथ बुरा व्यवहार करने वाली छँटाई प्रणाली, ग्राहक को ग़लत सलाह देने वाला सहायक, नियंत्रण का प्रमाण माँगने वाला नियामक जिसे कुछ नहीं मिलता।
गवर्नेंस इसका उत्तर है, और उसका भारी होना ज़रूरी नहीं। मूल में यह आदतों का छोटा समूह है: जानें कि आप कौन-सी AI उपयोग करते हैं, हर उपयोग को स्वामी दें, जो ग़लत हो सकता है उसके अनुपात में जोखिम का आकलन करें, परखें और निगरानी करें, डेटा और मानवीय निगरानी पर नियम तय करें, और रिकॉर्ड रखें। क़ानून और मानक तेज़ी से विकसित हो रहे हैं: यूरोपीय संघ का कृत्रिम बुद्धिमत्ता अधिनियम (Artificial Intelligence Act), जिसका वर्णन Wikipedia पर है, जोखिम श्रेणी के अनुसार दायित्व तय करता है, और कई अन्य क्षेत्राधिकारों में नियम या प्रस्ताव हैं। यह विषय ढाँचा और शब्दावली समझाता है और दिखाता है कि AI गवर्नेंस को आपके मौजूदा गवर्नेंस में कैसे बैठाएँ। यह कोई क़ानूनी सलाह नहीं देता; किसी भी क़ानूनी प्रश्न के लिए योग्य सलाहकार से पूछें।
ITIL के नवीनतम संस्करण का स्वामी का वर्णन AI को उस परिवेश के भीतर रखता है जिसे सेवा प्रबंधन को संबोधित करना है («विषय 1.3 — ITIL 5» देखें)। यह विषय AI के सामान्य दृष्टिकोण («विषय 5.1 — सेवा प्रबंधन में AI»), एजेंटों («विषय 5.5 — एजेंटिक AI और मानवीय निगरानी»), संचालन मॉडल («विषय 5.8 — AI संचालन मॉडल और कौशल») और उद्यम गवर्नेंस («विषय 8.1 — गवर्नेंस, जोखिम और अनुपालन») से जुड़ता है।
मूल अवधारणाएँ
गवर्नेंस, जोखिम और अनुपालन (GRC)। गवर्नेंस वह है जिससे संगठन को निर्देशित और नियंत्रित किया जाता है; जोखिम प्रबंधन उद्देश्यों के सामने खतरों की पहचान और उपचार करता है; अनुपालन क़ानूनों, अनुबंधों और नीतियों के दायित्वों को पूरा करना है। Wikipedia GRC (governance, risk, and compliance) को तीनों के एकीकृत दृष्टिकोण के रूप में वर्णित करता है। AI गवर्नेंस यही तर्क AI पर लागू करता है।
AI सूची। उपयोग में या विकास में सभी AI प्रणालियों की सूची: उद्देश्य, स्वामी, विक्रेता या मॉडल, उपयोग किया गया डेटा, उपयोगकर्ता और प्रभावित लोग, जोखिम स्तर, और स्थिति। जो आप देख नहीं सकते उसे शासित नहीं कर सकते। अंतर्निहित विक्रेता सुविधाएँ और काम के लिए उपयोग किए जाने वाले निजी उपकरण शामिल करें।
जोखिम-आधारित दृष्टिकोण। नियंत्रण का स्तर संभावित हानि के स्तर से मेल खाना चाहिए। बैठक के नोट का सारांश बनाना नौकरी के आवेदकों को क्रम देने से अलग जोखिम रखता है। EU AI अधिनियम भी ऐसा ही दृष्टिकोण अपनाता है, न्यूनतम से अस्वीकार्य जोखिम तक की श्रेणियों के साथ; Wikipedia श्रेणियों का वर्णन करता है। वर्तमान पाठ और अपनी स्थिति को क़ानूनी सलाहकार के साथ जाँचें।
AI के लिए जोखिम आकलन। हर उपयोग के लिए पूछें: किसे और कैसे हानि हो सकती है; कितनी संभावना और कितनी गंभीरता; प्रणाली की सीमाएँ क्या हैं; ग़लत होने पर क्या होता है; और विकल्प क्या हैं। Wikipedia सामान्य रूप से जोखिम प्रबंधन (risk management) का वर्णन करता है। आकलन और स्वामी का निर्णय दर्ज करें। गोपनीयता प्रभाव आकलन (privacy impact assessments), जिनका वर्णन Wikipedia पर है, व्यक्तिगत डेटा के लिए संबंधित उपकरण हैं।
मानक और फ्रेमवर्क। ISO/IEC 42001, जो 2023 में प्रकाशित हुआ, कृत्रिम बुद्धिमत्ता प्रबंधन प्रणाली की आवश्यकताएँ निर्दिष्ट करता है, जो अन्य ISO प्रबंधन-प्रणाली मानकों के साथ संरचना में तुलनीय है। संयुक्त राज्य अमेरिका का राष्ट्रीय मानक एवं प्रौद्योगिकी संस्थान (NIST) AI जोखिम प्रबंधन फ्रेमवर्क प्रकाशित करता है, जो चार कार्यों के आसपास संगठित है: शासित करना (govern), मानचित्र बनाना (map), मापना (measure) और प्रबंधित करना (manage)। दोनों ढाँचे और साझा शब्दावली के स्वैच्छिक उपकरण हैं। वर्तमान पाठ प्रकाशकों से पढ़ें। «विषय 1.8 — सेवा प्रबंधन फ्रेमवर्क और मानक» देखें।
क़ानून और विनियमन। AI मौजूदा क़ानूनों के अधीन है, जैसे डेटा संरक्षण, उपभोक्ता संरक्षण, भेदभाव, रोज़गार और बौद्धिक संपदा क़ानून, साथ ही नए AI-विशिष्ट नियमों के। Wikipedia क्षेत्राधिकारों में कृत्रिम बुद्धिमत्ता के विनियमन (regulation of artificial intelligence) का वर्णन करता है, जो तेज़ी से बदल रहा है। दायित्व इस पर निर्भर हैं कि आप कहाँ काम करते हैं और क्या करते हैं। यह मार्गदर्शिका नहीं बता सकती कि आप पर क्या लागू होता है।
डेटा संरक्षण और गोपनीयता। AI प्रणालियाँ अक्सर व्यक्तिगत डेटा संसाधित करती हैं। यूरोपीय संघ का जनरल डेटा प्रोटेक्शन रेगुलेशन (GDPR) जैसे क़ानून वैध आधार, उद्देश्य, न्यूनतमीकरण, व्यक्तियों के अधिकार, और कुछ मामलों में स्वचालित निर्णयों पर सीमाओं के नियम तय करते हैं। Wikipedia GDPR और गोपनीयता (privacy) का वर्णन करता है। अपने गोपनीयता अधिकारी या क़ानूनी सलाहकार को शामिल करें, और दर्ज करें कि डेटा कहाँ जाता है, कितने समय रखा जाता है, और क्या वह किसी मॉडल को प्रशिक्षित करता है।
पूर्वाग्रह और निष्पक्षता। पिछले डेटा पर प्रशिक्षित AI अनुचित पैटर्न दोहरा सकती है, जिससे कुछ लोगों को बदतर परिणाम मिलते हैं। Wikipedia एल्गोरिदमिक पूर्वाग्रह (algorithmic bias) और मशीन लर्निंग में निष्पक्षता (fairness in machine learning) का वर्णन करता है। उपयोग के लिए प्रासंगिक समूहों में परिणामों के अंतर को परखें, और समीक्षा करें कि कौन प्रभावित होता है, केवल औसत प्रदर्शन नहीं। लॉन्च से पहले तय करें कि क्या स्वीकार्य है।
पारदर्शिता और व्याख्येयता। AI प्रणाली से प्रभावित लोगों को पता होना चाहिए कि वह उपयोग में है, और महत्त्वपूर्ण निर्णयों के लिए व्याख्या पाने और चुनौती देने का रास्ता मिलना चाहिए। Wikipedia एल्गोरिदमिक पारदर्शिता (algorithmic transparency) और व्याख्येय AI (explainable AI) का वर्णन करता है। सही स्तर दाँव पर निर्भर है।
मानवीय निगरानी। एक व्यक्ति जो प्रणाली को समझ, उस पर प्रश्न उठा और उसे ओवरराइड कर सके, ऐसा करने के समय और जानकारी के साथ। «विषय 5.5 — एजेंटिक AI और मानवीय निगरानी» देखें। केवल काग़ज़ पर मौजूद निगरानी आम निष्कर्ष है।
सुरक्षा। AI प्रणालियों पर हमला हो सकता है (उदाहरण के लिए प्रॉम्प्ट इंजेक्शन से), वे डेटा लीक कर सकती हैं, और अप्रत्याशित व्यवहार कर सकती हैं। रेड-टीमिंग (red-teaming), जिसका वर्णन Wikipedia पर है, किसी विरोधी का अनुकरण करके प्रणाली को परखने का अभ्यास है। «विषय 3.13 — सूचना सुरक्षा प्रबंधन» देखें।
बौद्धिक संपदा। मॉडलों को प्रशिक्षित करने में प्रयुक्त सामग्री, आउटपुट के स्वामित्व और स्वयं मॉडलों के लाइसेंस पर प्रश्न उठते हैं। Wikipedia बौद्धिक संपदा (intellectual property) और कॉपीराइट (copyright) का वर्णन करता है। «विषय 4.2 — सॉफ़्टवेयर परिसंपत्ति प्रबंधन» देखें। ये आपको कैसे प्रभावित करते हैं, इस पर सलाह लें।
जवाबदेही और भूमिकाएँ। गवर्नेंस को स्पष्ट भूमिकाएँ चाहिए: एक कार्यकारी प्रायोजक, नीति तय करने और उच्च जोखिम वाले उपयोगों की समीक्षा करने वाली संस्था, हर प्रणाली के स्वामी, और सुरक्षा, गोपनीयता तथा क़ानूनी मामलों के विशेषज्ञ। Wikipedia जवाबदेही (accountability) का वर्णन करता है। ऐसी समिति से बचें जो सब कुछ अनुमोदित करती है और काम रोकती है; समीक्षा उच्च जोखिम वाले उपयोगों के लिए रखें।
जीवनचक्र नियंत्रण। नियंत्रण प्रणाली के पूरे जीवन पर लागू होते हैं: डिज़ाइन (उद्देश्य, डेटा, जोखिम), बनाना या ख़रीदना (उचित परिश्रम, अनुबंध, परीक्षण), तैनाती (अनुमोदन, निगरानी), संचालन (प्रदर्शन, विचलन, घटनाएँ), और सेवानिवृत्ति। «विषय 3.14 — आपूर्तिकर्ता प्रबंधन» देखें।
रिकॉर्ड। प्रमाण रखें: सूची, जोखिम आकलन, परीक्षण परिणाम, अनुमोदन, घटना-रिकॉर्ड और उपयोग के लॉग। रिकॉर्ड लेखा-परीक्षाओं, सीखने, और प्रभावित लोगों की चुनौतियों का समर्थन करते हैं।
दृष्टियाँ कैसे फ़िट होती हैं। गवर्नेंस AI दृष्टि के चारों ओर नियंत्रण की परत है। एजाइल अभ्यास अनुपातिक, तेज़ समीक्षा का सुझाव देता है, ऐसे गार्डरेल के साथ जिन्हें टीमें प्रतीक्षा किए बिना उपयोग कर सकें। स्वचालन नियम लागू कर सकता है, जैसे संवेदनशील डेटा को अनअनुमोदित उपकरणों तक जाने से रोकना। विश्लेषण निगरानी का प्रमाण देता है।
सर्वोत्तम अभ्यास
- पहले सूची बनाएँ। टीमों से पूछें, विक्रेता की सेटिंग जाँचें, और नेटवर्क तथा ख़र्च के डेटा की समीक्षा करें। हर AI प्रणाली को स्वामी और उद्देश्य के साथ दर्ज करें।
- जोखिम के अनुसार वर्गीकृत करें। उदाहरणों के साथ कुछ जोखिम स्तर परिभाषित करें, जैसे कम (आंतरिक पाठ का मसौदा), मध्यम (ग्राहक-सामने वाले उत्तर), और उच्च (लोगों के अधिकारों या सुरक्षा को प्रभावित करने वाले निर्णय)। समीक्षा का स्तर जोखिम के स्तर से जोड़ें।
- हर उपयोग का स्वामी नामित करें। हर प्रणाली के लिए एक जवाबदेह व्यक्ति, जो जोखिम आकलन पर हस्ताक्षर करे और प्रदर्शन तथा घटनाओं का उत्तर दे।
- छोटी, स्पष्ट नीति बनाएँ। बताएँ कि कौन-सा डेटा किन उपकरणों में जा सकता है, किन उपयोगों को अनुमोदन चाहिए, क्या कभी नहीं करना है, और किससे पूछें। इसे कुछ पृष्ठों में रखें, और उदाहरण प्रकाशित करें।
- अनुमोदित उपकरण और रास्ते दें। अगर कर्मचारियों के पास AI उपयोग करने का अनुमोदित तरीक़ा नहीं होगा, तो वे अनअनुमोदित तरीक़े उपयोग करेंगे। सही शर्तों वाले उपकरण और अनुमोदन का तेज़ रास्ता दें।
- पहले आकलन करें, बाद में परखें। किसी उपयोग के चालू होने से पहले अनुपातिक जोखिम आकलन करें, और यथार्थवादी मामलों से परखें, पूर्वाग्रह और दुरुपयोग की जाँच सहित। महत्त्वपूर्ण बदलावों के बाद दोहराएँ।
- विक्रेताओं और शर्तों की जाँच करें। विक्रेताओं से पूछें कि वे आपके डेटा का उपयोग कैसे करते हैं, कैसे परखते हैं, मॉडल बदलावों की सूचना कैसे देते हैं, और अंत में डेटा का क्या होता है। उत्तर दर्ज करें। «विषय 3.14 — आपूर्तिकर्ता प्रबंधन» देखें।
- व्यवहार में मानवीय निगरानी परिभाषित करें। हर उपयोग के लिए बताएँ कि कौन क्या, किस जानकारी के साथ, और कितनी बार समीक्षा करता है, और समीक्षाओं का नमूना लें।
- निगरानी करें और घटनाएँ सँभालें। त्रुटियाँ, शिकायतें, विचलन और सुरक्षा इवेंट ट्रैक करें। AI घटनाओं को अन्य घटनाओं की तरह बरतें, और उनसे सीखें। «विषय 3.2 — घटना प्रबंधन» देखें।
- नियमित समीक्षा करें और रिकॉर्ड रखें। सूची और जोखिम स्तरों को कम से कम वार्षिक रूप से और क़ानून या प्रणालियाँ बदलने पर दोबारा देखें। प्रमाण एक जगह रखें।
अपनी टीम के साथ चर्चा के प्रश्न
आज हम कहाँ AI उपयोग करते हैं, हर उपयोग का स्वामी कौन है, और क्या ग़लत हो सकता है? पहली सूची बनाएँ। ख़ाली जगहों की अपेक्षा रखें, विशेषकर विक्रेता की सुविधाओं और निजी उपकरणों में। फ़ॉलो-अप में तीन सबसे जोखिम भरे चुनें और स्वामी सौंपें।
हमारे कौन-से उपयोग लोगों की पहुँच, पैसे, स्वास्थ्य या रोज़गार को प्रभावित करते हैं, और उन्हें कौन-सी समीक्षा मिलती है? उच्च जोखिम वाले उपयोग खोजें। इस पर अनिश्चितता की अपेक्षा रखें कि क्या गिना जाए। फ़ॉलो-अप में वर्गीकरण में क़ानूनी और गोपनीयता सलाहकारों को शामिल करें।
कर्मचारी AI उपकरणों में कौन-सा डेटा डालते हैं, और क्या वे नियम जानते हैं? ज़रूरत हो तो अनाम रूप से पूछें। चौंकाने वाली बातों की अपेक्षा रखें। फ़ॉलो-अप में उदाहरणों के साथ स्पष्ट नियम पर सहमत हों और अनुमोदित विकल्प दें।
अगर कोई नियामक या ग्राहक पूछे कि हम अपनी AI को कैसे नियंत्रित करते हैं तो हम क्या दिखाएँगे? जो मौजूद है वह जुटाएँ। पतली फ़ाइल की अपेक्षा रखें। फ़ॉलो-अप में तैयार करने के लिए तीन दस्तावेज़ चुनें: सूची, नीति, और एक जोखिम आकलन।
हम अनुचित परिणामों के लिए कैसे परखते हैं, और हमें किन समूहों को देखना चाहिए? हर उपयोग से प्रभावित लोगों के बारे में सोचें। अपेक्षा रखें कि किसी ने नहीं परखा। फ़ॉलो-अप में एक उपयोग चुनें और सलाह के साथ समूहों में तुलना की सरल रूपरेखा बनाएँ।
किसी AI उपयोग को "नहीं" कौन कह सकता है, और जब वे कहते हैं तो क्या होता है? रोकने की शक्ति के बिना गवर्नेंस सजावटी है। अस्पष्ट उत्तरों की अपेक्षा रखें। फ़ॉलो-अप में उच्च जोखिम वाले उपयोगों के लिए निर्णयकर्ता और समीक्षाओं के लिए सेवा स्तर नामित करें।
व्यवहार में: सेवा प्रबंधन का एक उदाहरण
एक राष्ट्रीय सामाजिक सुरक्षा एजेंसी कई जगह AI का उपयोग करती है: अपनी सार्वजनिक वेबसाइट पर विक्रेता का वर्चुअल एजेंट, केसवर्कर के लिए केस-नोट का सारांश बनाने वाला उपकरण, उसके IT कर्मचारियों द्वारा उपयोग किया जाने वाला डेवलपर सहायक, और लाभ-दावों में संभावित त्रुटियाँ समीक्षा के लिए चिह्नित करने वाला पायलट। कोई केंद्रीय रिकॉर्ड नहीं है, और एक मंत्री के कार्यालय ने एजेंसी से पूछा है कि वह AI को कैसे नियंत्रित करती है।
मुख्य सूचना अधिकारी सेवा प्रबंधन कार्यालय से छह सप्ताह में सूची बनाने को कहते हैं। उसे ग्यारह उपयोग मिलते हैं, जिनमें दो ऐसे हैं जिनके बारे में IT विभाग में किसी को नहीं पता था: केस प्रबंधन प्रणाली में विक्रेता द्वारा चालू की गई पाठ-सारांश सुविधा, और एक क्षेत्रीय कार्यालय द्वारा निजी खातों पर उपयोग किया जाने वाला ट्रांसक्रिप्शन उपकरण। टीम गोपनीयता अधिकारी और क़ानूनी विभाग के साथ उपयोगों को जोखिम के अनुसार वर्गीकृत करती है। दावा-चिह्नित करने वाले पायलट को उच्च जोखिम माना जाता है, क्योंकि उसका आउटपुट किसी व्यक्ति के विरुद्ध कार्रवाई का कारण बन सकता है; केस-नोट सारांश मध्यम है; डेवलपर सहायक कम है, हालाँकि उसमें लाइसेंस के प्रश्न हैं।
हर उपयोग के लिए स्वामी नामित किया जाता है। दावा-पायलट के लिए स्वामी जोखिम आकलन कराता है, जिसमें समूहों में चिह्न-दरों की तुलना और यह नियम शामिल है कि उपकरण के आउटपुट पर अकेले किसी को कभी लाभ से वंचित नहीं किया जाएगा। ट्रांसक्रिप्शन उपकरण तब तक रोका जाता है जब तक अनुमोदित विकल्प न मिल जाए; क्षेत्रीय कार्यालय को डेटा संरक्षण शर्तों वाले अनुबंध के अंतर्गत विक्रेता-अनुमोदित उपकरण दिया जाता है। चार पृष्ठ की नीति डेटा और अनुमोदन पर नियम तय करती है, और मध्यम जोखिम वाले उपयोगों के लिए दस कार्य-दिवस के भीतर छोटे समीक्षा-मार्ग का वादा किया जाता है।
क्या बदलता है: एजेंसी मंत्रालय को सूची, नीति और अपने उच्चतम जोखिम वाले उपयोग के जोखिम आकलन के साथ उत्तर दे सकती है। क्या कठिन रहता है: डिफ़ॉल्ट रूप से चालू होने वाली विक्रेता सुविधाएँ आती रहती हैं, और एजेंसी के पास उन्हें खोजने का कोई स्वचालित तरीक़ा नहीं है; समूहों में तुलना उस डेटा से सीमित है जिसे एजेंसी क़ानूनन रख भी नहीं सकती; और समीक्षा-मार्ग का दस दिन का वादा छोटी टीम पर बोझ डालता है। कार्यालय तिमाही विक्रेता-सुविधा समीक्षा और परीक्षण पर क़ानूनी मार्गदर्शन के अनुरोध की योजना बनाता है।
चार दृष्टिकोण
उत्पाद और डिलीवरी टीमें
अपने AI उपयोग पंजीकृत करें, जोखिम का आकलन जल्दी करें, यथार्थवादी और विरोधी मामलों से परखें, और दर्ज करें कि प्रणाली क्या कर सकती है। लोगों के लिए परिणामों को चुनौती देने का रास्ता और अपने लिए उसे बंद करने का रास्ता बनाएँ।
सेवा और संचालन टीमें
उत्पादन में AI प्रणालियों की निगरानी करें, घटनाएँ सँभालें, और त्रुटियों तथा शिकायतों की रिपोर्ट करें। डेटा नियमों का पालन करें, और अपने उपकरणों में दिखने वाली नई AI सुविधाओं के बारे में स्वामियों को बताएँ।
नेतृत्व और गवर्नेंस
कार्यक्रम को प्रायोजित करें, निर्णय के अधिकार नामित करें, और काम का वित्तपोषण करें। सूची, जोखिम स्तर और परीक्षण के प्रमाण माँगें। जवाबदेही विक्रेताओं या समितियों को आउटसोर्स न करें।
ग्राहक और उपयोगकर्ता
आपको बताया जाना चाहिए कि जब AI का उपयोग उन तरीक़ों से होता है जो आपके लिए मायने रखते हैं, और आप किसी व्यक्ति तक पहुँच सकें तथा निर्णयों को चुनौती दे सकें। पूछें कि आपके डेटा का उपयोग कैसे होता है, और जो परिणाम ग़लत या अनुचित लगें उनकी रिपोर्ट करें।
एजाइल, AI, स्वचालन और विश्लेषण
एजाइल
ऐसे गार्डरेल के साथ तेज़, अनुपातिक समीक्षा दें जिनका टीमें पालन कर सकें, जैसे अनुमोदित उपकरण और कम जोखिम वाले उपयोगों के लिए छोटी जाँच-सूची। टीमों के साथ नीति पर पुनरावृत्ति करें। सावधानी: धीमी, भारी समीक्षा टीमों को उसे दरकिनार करने को धकेलती है; कम जोखिम वाला रास्ता तेज़ रखें।
AI
AI नीतियों के मसौदे बनाने, विक्रेता की शर्तें पढ़ने और जोखिम आकलन तैयार करने में मदद कर सकती है, क़ानूनी और मानवीय समीक्षा के साथ। उस उपयोग के लिए भी स्वामी नामित करें। सावधानी: किसी क़ानून या अनुबंध का AI सारांश ग़लत हो सकता है; उसे अनुपालन-निर्णय का आधार कभी न बनाएँ। «विषय 5.1 — सेवा प्रबंधन में AI» देखें।
स्वचालन
सूची के फ़ीड, डेटा लॉस प्रिवेंशन नियम, कम जोखिम वाले उपयोगों के अनुमोदन और लॉगिंग को स्वचालित करें, अपवादों की समीक्षा के साथ। सावधानी: स्वचालित अवरोध काम को निजी उपकरणों पर धकेल सकता है; उसे अनुमोदित विकल्पों के साथ जोड़ें। «विषय 6.1 — स्वचालन रणनीति» देखें।
विश्लेषण
स्वामियों और आकलनों वाले AI उपयोगों का हिस्सा, घटनाएँ, शिकायतें, परीक्षण परिणाम और समीक्षा का समय ट्रैक करें। सावधानी: पूरे हुए आकलनों की गिनती काग़ज़ी काम को पुरस्कृत कर सकती है; गुणवत्ता और नियंत्रण काम करते हैं या नहीं, इसके लिए नमूना जाँचें। सेवा प्रबंधन मेट्रिक्स पुस्तक और «विषय 7.3 — मापन और रिपोर्टिंग» देखें।
आम विफलता के तरीके
- कोई सूची नहीं। उपयोग अनदेखे बढ़ते हैं। सूची बनाएँ और ताज़ा रखें।
- सब पर एक जैसी समीक्षा। या तो सब कुछ रोका जाता है या कुछ की समीक्षा नहीं होती। समीक्षा को जोखिम के अनुसार बढ़ाएँ-घटाएँ।
- ऐसी नीति जिसका कोई पालन नहीं कर सकता। कर्मचारी उसकी अनदेखी करते हैं। उदाहरणों के साथ छोटे नियम लिखें और अनुमोदित उपकरण दें।
- काग़ज़ी काम के रूप में गवर्नेंस। दस्तावेज़ हैं और नियंत्रण नहीं। परखें कि नियंत्रण काम करते हैं।
- विक्रेता के दावों पर भरोसा। शर्तें और व्यवहार अनजाँचे हैं। पूछें, परखें और दर्ज करें।
- प्रभावित लोगों की अनदेखी। पूर्वाग्रह और हानि अनदेखी रहती है। समूहों में परिणाम परखें और चुनौती देने का तरीक़ा दें।
- क़ानूनी सलाह को ऐसी चीज़ मानना जो AI दे सकती है। ग़लत सारांश निर्णय चलाते हैं। योग्य सलाहकारों का उपयोग करें।
परिपक्वता मॉडल
| आयाम | आरंभ | विकास | मानकीकरण | प्रबंधन | समन्वय |
|---|---|---|---|---|---|
| सूची और स्वामित्व | अज्ञात उपयोग | मुख्य उपयोग सूचीबद्ध | स्वामियों और जोखिम स्तरों के साथ सूची | खोज द्वारा सूची की समीक्षा और सत्यापन | कैटलॉग, ख़रीद और नियंत्रणों के साथ सूची एकीकृत |
| जोखिम और परीक्षण | तदर्थ | कुछ आकलन | लॉन्च से पहले अनुपातिक आकलन और परीक्षण | परिणामों की निगरानी और उन पर कार्रवाई | प्रणालियों और आपूर्तिकर्ताओं में सतत आश्वासन |
| नीति और डेटा | कोई नहीं | मार्गदर्शन का मसौदा | स्पष्ट नीति, अनुमोदित उपकरण और डेटा नियम | अनुपालन की निगरानी और लेखा-परीक्षा | नियम उपकरणों द्वारा लागू और बदलाव के अनुसार अनुकूलित |
| निगरानी और जवाबदेही | अस्पष्ट | नामित प्रायोजक | परिभाषित भूमिकाएँ, समीक्षा-मार्ग और मानवीय निगरानी | निगरानी की गुणवत्ता का नमूना | उद्यम और साझेदारों में गवर्नेंस समन्वित |
जाँच-सूची
- हम स्वामियों और उद्देश्यों के साथ AI सूची रखते हैं।
- हर उपयोग का जोखिम स्तर है, उसके अनुपात में समीक्षा के साथ।
- एक छोटी नीति डेटा, अनुमोदन और निषिद्ध उपयोगों को कवर करती है।
- अनुमोदित उपकरण और तेज़ समीक्षा-मार्ग मौजूद हैं।
- उच्च जोखिम वाले उपयोगों का दर्ज जोखिम आकलन और परीक्षण है, पूर्वाग्रह के लिए भी।
- डेटा, परीक्षण और मॉडल बदलावों पर विक्रेता की शर्तें दर्ज हैं।
- मानवीय निगरानी परिभाषित है और उसका नमूना लिया जाता है।
- हमने अपने दायित्वों के बारे में क़ानूनी और गोपनीयता सलाहकारों से पूछा है।
AI प्रॉम्प्ट
नोट्स से सूची की प्रविष्टि का मसौदा बनाएँ।
ये किसी AI उपयोग पर नोट्स हैं: [चिपकाएँ]।
इन मदों के साथ सूची की प्रविष्टि का मसौदा बनाएँ: उद्देश्य, स्वामी (केवल अगर कहा गया हो), विक्रेता या मॉडल (केवल अगर कहा गया हो), उपयोग किया गया डेटा, प्रभावित लोग, जिन निर्णयों को यह प्रभावित करता है, और कारणों सहित प्रस्तावित जोखिम स्तर। नोट्स में जो मद नहीं है उसे [missing] चिह्नित करें। क़ानूनी दायित्व न बताएँ।
जिनके बारे में आप अनिश्चित हैं उनकी सूची दें।
विक्रेता के लिए प्रश्न तैयार करें।
हम [उपयोग] के लिए किसी विक्रेता के AI उत्पाद पर विचार कर रहे हैं। हम उसके बारे में जो जानते हैं: [चिपकाएँ]।
डेटा के उपयोग और प्रतिधारण, हमारे डेटा पर प्रशिक्षण, सटीकता और पूर्वाग्रह के लिए परीक्षण, सुरक्षा, मॉडल बदलावों, घटना की सूचना, और निकासी के बारे में विक्रेता के लिए 20 प्रश्न लिखें। उत्तर मानकर न चलें।
जिनके बारे में आप अनिश्चित हैं उनकी सूची दें।
समीक्षा के लिए जोखिम आकलन को संरचित करें।
AI उपयोग: [वर्णन करें]। प्रभावित लोग: [सूची]। प्रभावित निर्णय: [सूची]। वर्तमान नियंत्रण: [सूची]।
इन स्तंभों के साथ जोखिम आकलन तालिका का मसौदा बनाएँ: हानि, कौन प्रभावित है, संभावना और गंभीरता (मेरा अनुमान चिह्नित, पुष्टि होनी बाक़ी), मौजूदा नियंत्रण, विचार के लिए अतिरिक्त नियंत्रण, और स्वामी के लिए प्रश्न। क़ानूनी निष्कर्ष न दें।
जिनके बारे में आप अनिश्चित हैं उनकी सूची दें।
AI कौशल
- risk-register: AI जोखिमों, स्वामियों और निर्णयों को दर्ज करने के लिए उपयोग करें।
- machine-learning-model-card: मॉडल का उद्देश्य, डेटा, प्रदर्शन और सीमाएँ दर्ज करने के लिए उपयोग करें।
- legal-data-privacy-compliance: अपने क़ानूनी सलाहकार के लिए गोपनीयता के प्रश्न तैयार करने के लिए उपयोग करें।
- legal-compliance-audit: लेखा-परीक्षा के लिए प्रमाण और प्रश्न तैयार करने के लिए उपयोग करें।
- data-governance: AI द्वारा उपयोग किए जाने वाले डेटा के लिए स्वामित्व और नियम तय करने के लिए उपयोग करें।
प्रमुख स्रोत
- NIST, AI Risk Management Framework: AI जोखिम प्रबंधन के लिए व्यापक रूप से उपयोग किया जाने वाला स्वैच्छिक फ्रेमवर्क।
- ISO/IEC 42001 (मानक स्वयं): AI प्रबंधन प्रणाली की आवश्यकताएँ; वर्तमान संस्करण प्रकाशक से पढ़ें।
- यूरोपीय संघ के कृत्रिम बुद्धिमत्ता अधिनियम का पाठ और आपके अपने नियामकों का मार्गदर्शन: क़ानूनी दायित्वों के प्रामाणिक स्रोत।
- Wikipedia, "Regulation of artificial intelligence" और "Ethics of artificial intelligence": परिदृश्य का अवलोकन।
संदर्भ
- Regulation of artificial intelligence — Wikipedia — https://en.wikipedia.org/wiki/Regulation_of_artificial_intelligence
- Artificial Intelligence Act — Wikipedia — https://en.wikipedia.org/wiki/Artificial_Intelligence_Act
- Ethics of artificial intelligence — Wikipedia — https://en.wikipedia.org/wiki/Ethics_of_artificial_intelligence
- Algorithmic bias — Wikipedia — https://en.wikipedia.org/wiki/Algorithmic_bias
- Fairness (machine learning) — Wikipedia — https://en.wikipedia.org/wiki/Fairness_(machine_learning)
- General Data Protection Regulation — Wikipedia — https://en.wikipedia.org/wiki/General_Data_Protection_Regulation
- Privacy impact assessment — Wikipedia — https://en.wikipedia.org/wiki/Privacy_impact_assessment
- Governance, risk, and compliance — Wikipedia — https://en.wikipedia.org/wiki/Governance,_risk,_and_compliance
- Risk management — Wikipedia — https://en.wikipedia.org/wiki/Risk_management
- Red team — Wikipedia — https://en.wikipedia.org/wiki/Red_team
- Explainable artificial intelligence — Wikipedia — https://en.wikipedia.org/wiki/Explainable_artificial_intelligence
- AI Risk Management Framework — NIST — https://www.nist.gov/itl/ai-risk-management-framework