यह क्यों मायने रखता है

AI शोध का विषय न रहकर उन उपकरणों की एक सुविधा बन गई है जिनका सेवा टीमें पहले से उपयोग करती हैं। टिकटिंग प्रणाली श्रेणियाँ सुझाती है। निगरानी प्लेटफ़ॉर्म अलर्ट को समूहों में बाँटता है। चैट सहायक कर्मचारियों के प्रश्नों के उत्तर देता है। कोड एडिटर स्क्रिप्ट का मसौदा बनाता है। इनमें से कुछ को विक्रेता ने चालू कर दिया, और टीम में किसी ने उन्हें अपनाने का निर्णय नहीं लिया।

संभावना वास्तविक है। सेवा का बहुत-सा काम पढ़ना, लिखना, छाँटना और खोजना है, और ये ऐसे कार्य हैं जिन्हें मौजूदा AI इतनी अच्छी तरह कर लेती है कि समय बच जाता है। जोखिम भी वास्तविक है। AI प्रणालियाँ धाराप्रवाह उत्तर देती हैं जो ग़लत हो सकते हैं, यह छिपा सकती हैं कि वे किस निष्कर्ष पर कैसे पहुँचीं, डेटा लीक कर सकती हैं, और ऐसे ढंग से विफल हो सकती हैं जिनका अनुमान लगाना कठिन है। जो टीम स्वामित्व, समीक्षा और मापों के बिना AI अपनाती है, उसे लाभ के बिना ये जोखिम विरासत में मिलते हैं।

यह विषय इस मार्गदर्शिका के AI भाग का मानचित्र है। यह सेवा कार्य में AI के मुख्य प्रकार बताता है, कि वे कहाँ मदद करते हैं और कहाँ नहीं, और अपनाने से पहले क्या पूछना चाहिए। बाद के विषय अधिक गहराई में जाते हैं: संचालन («विषय 5.2 — AIOps»), सर्विस डेस्क («विषय 5.3 — AI सर्विस डेस्क और वर्चुअल एजेंट»), जनरेटिव AI («विषय 5.4 — घटनाओं, ज्ञान और परिवर्तनों के लिए जनरेटिव AI»), कार्रवाई करने वाले एजेंट («विषय 5.5 — एजेंटिक AI और मानवीय निगरानी»), गवर्नेंस («विषय 5.6 — AI गवर्नेंस, जोखिम और अनुपालन»), प्रॉम्प्ट और कौशल («विषय 5.7 — AI कौशल और प्रॉम्प्ट»), और संचालन मॉडल («विषय 5.8 — AI संचालन मॉडल और कौशल»)। ITIL के नवीनतम संस्करण के स्वामी का वर्णन AI को उस परिवेश का हिस्सा बताता है जिसे सेवा प्रबंधन को संबोधित करना होगा («विषय 1.3 — ITIL 5» देखें)।

मूल अवधारणाएँ

कृत्रिम बुद्धिमत्ता। उन प्रणालियों के लिए एक व्यापक शब्द जो ऐसे कार्य करती हैं जिनके लिए सामान्यतः मानव बुद्धि चाहिए, जैसे पैटर्न पहचानना, भाषा समझना और अनुशंसाएँ करना। Wikipedia का कृत्रिम बुद्धिमत्ता (artificial intelligence) पर लेख इस क्षेत्र और इसके इतिहास का वर्णन करता है। यह शब्द अनेक अलग-अलग तकनीकों को समेटता है, और "AI" से लोगों का अभिप्राय अलग-अलग होता है। किसी उपयोग पर चर्चा करते समय तकनीक और कार्य का नाम लें।

मशीन लर्निंग। ऐसी प्रणालियाँ जो स्पष्ट नियमों का पालन करने के बजाय डेटा से पैटर्न सीखती हैं। Wikipedia मशीन लर्निंग (machine learning) और उसकी शाखाओं का वर्णन करता है। सेवा कार्य में उदाहरण हैं टिकटों का वर्गीकरण, असामान्य मेट्रिक्स का पता लगाना, और विफलताओं का पूर्वानुमान। ये प्रशिक्षण डेटा पर निर्भर हैं, और परिस्थितियाँ बदलने पर इनकी गुणवत्ता गिर सकती है, जिस समस्या को Wikipedia अवधारणा-विचलन (concept drift) कहता है।

जनरेटिव AI और बड़े भाषा मॉडल। ऐसी प्रणालियाँ जो प्रॉम्प्ट से नई सामग्री बनाती हैं, जैसे पाठ, कोड या चित्र। बड़े भाषा मॉडल (Large Language Models, LLM) बहुत बड़ी मात्रा के पाठ पर प्रशिक्षित होते हैं और सारांश बना सकते हैं, मसौदे लिख सकते हैं, अनुवाद कर सकते हैं और प्रश्नों के उत्तर दे सकते हैं। Wikipedia जनरेटिव AI (generative AI) और बड़े भाषा मॉडल (large language models) का वर्णन करता है। इनके आउटपुट धाराप्रवाह होते हैं, पर उनके सच होने की गारंटी नहीं है।

भ्रम (हैलुसिनेशन)। ऐसा आउटपुट जो विश्वसनीय लगता है पर ग़लत या असमर्थित है। Wikipedia AI में हैलुसिनेशन (hallucination) का वर्णन करता है। सेवा कार्य में इसका अर्थ गढ़ी हुई कमांड, मनगढ़ंत नीति, या आत्मविश्वास से कहा गया पर ग़लत मूल कारण हो सकता है। इसके लिए योजना बनाएँ: उत्तरों को स्रोतों में आधारित करें, स्रोत दिखाएँ, और कार्रवाई से पहले जाँचें।

रिट्रीवल-ऑगमेंटेड जनरेशन। ऐसा पैटर्न जिसमें प्रणाली पहले प्रासंगिक दस्तावेज़, जैसे ज्ञान लेख, पुनः प्राप्त करती है और फिर मॉडल से केवल उन्हीं का उपयोग करके उत्तर देने को कहती है। Wikipedia इस दृष्टिकोण (retrieval-augmented generation) का वर्णन करता है। यह ग़लत उत्तरों को घटाता है, पर हटाता नहीं, और यह दस्तावेज़ों की गुणवत्ता पर निर्भर है। «विषय 3.9 — ज्ञान प्रबंधन» देखें।

एजेंट। ऐसी प्रणालियाँ जो केवल उत्तर नहीं देतीं बल्कि कार्रवाई भी करती हैं: उपकरणों को कॉल करना, रिकॉर्ड बदलना, स्क्रिप्ट चलाना। Wikipedia सामान्य रूप से बुद्धिमान एजेंटों (intelligent agents) का वर्णन करता है। एजेंट दाँव बढ़ाते हैं क्योंकि ग़लतियों का असर दुनिया में होता है। «विषय 5.5 — एजेंटिक AI और मानवीय निगरानी» देखें।

सेवा प्रबंधन में AI कहाँ मदद करती है। आम उपयोग पाँच समूहों में आते हैं:

क्षेत्र उदाहरण मुख्य सावधानी
सर्विस डेस्क टिकटों का वर्गीकरण और रूटिंग, उत्तरों का मसौदा, आम प्रश्नों के उत्तर उपयोगकर्ताओं को ग़लत या गढ़े हुए उत्तर
संचालन अलर्ट समूहित करना, विसंगतियाँ खोजना, कारण सुझाना छिपे हुए चूके संकेत
ज्ञान खोज, सारांश और लेखों के मसौदे ऐसे मसौदे जो त्रुटियाँ फैलाते हैं
परिवर्तन और डिलीवरी कोड और परीक्षणों का मसौदा, परिवर्तन के जोखिम का आकलन, रिलीज़ नोट लिखना असुरक्षित या ग़लत कोड, जोखिम स्कोर पर अति-भरोसा
निर्णय-समर्थन डेटा का सारांश, माँग का पूर्वानुमान, पैटर्न खोजना कमज़ोर डेटा से अति-आत्मविश्वासी निष्कर्ष

मानव-सहभागी (ह्यूमन इन द लूप)। कोई व्यक्ति AI के आउटपुट या कार्रवाई के प्रभावी होने से पहले उसकी समीक्षा या अनुमोदन करता है। Wikipedia मानव-सहभागी प्रणालियों (human-in-the-loop) का वर्णन करता है। यह एक नियंत्रण है, और यह तभी काम करता है जब व्यक्ति के पास "नहीं" कहने का समय, जानकारी और अधिकार हो। Wikipedia स्वचालन पूर्वाग्रह (automation bias) का भी वर्णन करता है, यानी स्वचालित सुझावों पर अत्यधिक निर्भर होने की प्रवृत्ति, जो मानवीय जाँच को रबर-स्टैंप बना सकती है।

व्याख्येयता। यह बता पाने की क्षमता कि प्रणाली ने कोई आउटपुट क्यों दिया। Wikipedia व्याख्येय AI (explainable AI) का वर्णन करता है। कुछ उपयोगों के लिए, जैसे टिकट को क्रम देना, मोटा कारण पर्याप्त है; दूसरों के लिए, जैसे किसी व्यक्ति की पहुँच या वेतन को प्रभावित करने वाला निर्णय, अधिक चाहिए। तय करें कि हर उपयोग को कितनी व्याख्या चाहिए।

पूर्वाग्रह और निष्पक्षता। पिछले डेटा पर प्रशिक्षित AI पिछले पैटर्न दोहरा सकती है, जिनमें अनुचित पैटर्न भी हैं। Wikipedia एल्गोरिदमिक पूर्वाग्रह (algorithmic bias) का वर्णन करता है। सेवा कार्य में पूर्वाग्रह इस रूप में दिख सकता है कि किसे जल्दी मदद मिलती है, किसके अनुरोध चिह्नित होते हैं, या प्रणाली किसकी भाषा अच्छी तरह समझती है।

डेटा और गोपनीयता। AI उपकरण वह डेटा संसाधित करते हैं जो आप उन्हें देते हैं, जैसे व्यक्तिगत ब्योरों वाला टिकट-पाठ। डेटा कहाँ जाता है, कितने समय रखा जाता है, और क्या वह अन्य मॉडलों को प्रशिक्षित करता है, ये केंद्रीय प्रश्न हैं। «विषय 5.6 — AI गवर्नेंस, जोखिम और अनुपालन» देखें।

सुरक्षा जोखिम। AI प्रणालियों की अपनी कमज़ोरियाँ हैं, जैसे प्रॉम्प्ट इंजेक्शन, जिसमें किसी दस्तावेज़ या संदेश का पाठ मॉडल को नए निर्देश देने की कोशिश करता है। Wikipedia प्रॉम्प्ट इंजेक्शन (prompt injection) का वर्णन करता है। बाहर से आने वाले इनपुट को अविश्वसनीय मानें।

जीवनचक्र और संचालन। उपयोग में आने वाले मॉडल को निगरानी, पुनः प्रशिक्षण या प्रतिस्थापन, संस्करण-नियंत्रण और सेवानिवृत्ति चाहिए। MLOps, जिसका वर्णन Wikipedia पर है, इस पर इंजीनियरिंग अनुशासन लागू करता है। विक्रेता के मॉडल के लिए भी आपको अद्यतनों के बाद व्यवहार में बदलावों का हिसाब रखना होगा।

गवर्नेंस फ्रेमवर्क। यूरोपीय संघ का कृत्रिम बुद्धिमत्ता अधिनियम (Artificial Intelligence Act), जिसका वर्णन Wikipedia पर है, जोखिम श्रेणियों पर निर्भर क़ानूनी दायित्व तय करता है। ISO/IEC 42001 एक AI प्रबंधन प्रणाली का विनिर्देश देता है, और संयुक्त राज्य अमेरिका का राष्ट्रीय मानक एवं प्रौद्योगिकी संस्थान (NIST) एक AI जोखिम प्रबंधन फ्रेमवर्क प्रकाशित करता है। ये गवर्नेंस के लिए शब्दावली और ढाँचा हैं; ये क़ानूनी सलाह का विकल्प नहीं हैं।

दृष्टियाँ कैसे फ़िट होती हैं। AI चार दृष्टियों में से एक है। एजाइल अभ्यास वास्तविक उपयोगकर्ताओं के साथ छोटे परीक्षण और छोटी प्रतिक्रिया का सुझाव देता है। स्वचालन सबसे निकट पड़ोसी है: AI निर्णय लेती या सुझाव देती है, स्वचालन कार्रवाई करता है। विश्लेषण वह डेटा देता है जिससे AI सीखती है और वे माप जो दिखाते हैं कि वह मदद करती है या नहीं।

सर्वोत्तम अभ्यास

  1. समस्या से शुरू करें, उपकरण से नहीं। कोई विशिष्ट कष्ट बताएँ, जैसे टिकट छाँटने में लगने वाला समय, और सुधार का एक माप। फिर पूछें कि क्या AI सही उत्तर है, या कोई सरल उपाय काम करता है।
  2. AI उपयोगों की सूची रखें। उपयोग में आने वाली हर AI सुविधा और उपकरण की सूची बनाएँ, जिसमें विक्रेता की सुविधाएँ और कर्मचारियों के काम के लिए उपयोग किए जाने वाले निजी उपकरण भी हों। उद्देश्य, डेटा, स्वामी और स्थिति दर्ज करें।
  3. हर उपयोग के लिए एक स्वामी तय करें। AI जो करती है, जो डेटा उपयोग करती है, और ग़लत होने पर जो होता है, उसके लिए एक व्यक्ति जवाबदेह हो। स्वामी के बिना गुणवत्ता का गिरना किसी को नज़र नहीं आता।
  4. तय करें कि निर्णय कहाँ मनुष्य लेता है। हर उपयोग के लिए लिखें कि AI अकेले क्या कर सकती है, किसकी समीक्षा चाहिए, और उसे क्या कभी नहीं करना चाहिए। समीक्षा को वास्तविक बनाएँ: समीक्षकों को समय और संदर्भ दें।
  5. उत्तरों को अपने स्रोतों में आधारित करें। समीक्षित ज्ञान से पुनः प्राप्ति का उपयोग करें, उपयोगकर्ता को स्रोत दिखाएँ, और जब कोई स्रोत उत्तर का समर्थन न करे तो स्पष्ट कहें।
  6. लॉन्च से पहले और बाद में परीक्षण करें। ज्ञात उत्तरों वाले वास्तविक परीक्षण-मामलों का एक समूह बनाएँ, जिनमें असुविधाजनक और विरोधी मामले भी हों। उन्हें रिलीज़ से पहले और मॉडल या डेटा में हर बदलाव के बाद चलाएँ।
  7. मूल्य और त्रुटियाँ मापें। बचा समय, आउटपुट की गुणवत्ता, मनुष्यों द्वारा सुधार, उपयोगकर्ताओं की शिकायतें और लागत ट्रैक करें। आउटपुट के नमूने नियमित रूप से लें।
  8. डेटा की रक्षा करें। तय करें कि कौन-सा डेटा किन उपकरणों को भेजा जा सकता है, जहाँ संभव हो व्यक्तिगत और संवेदनशील ब्योरे हटाएँ, और प्रतिधारण तथा प्रशिक्षण-उपयोग के लिए अनुबंध की शर्तें जाँचें।
  9. विफलता की योजना बनाएँ। AI सुविधा को बंद करना, किसी व्यक्ति तक रूट करना और पुनर्प्राप्त करना आसान बनाएँ। जिस AI सेवा पर आप निर्भर हैं उसकी विफलता का पूर्वाभ्यास करें।
  10. कौशल बनाएँ और सीख साझा करें। लोगों को AI का अच्छी तरह उपयोग करना और उस पर प्रश्न उठाना सिखाएँ। टीमों के बीच साझा करें कि क्या काम करता है और क्या विफल होता है। «विषय 5.7 — AI कौशल और प्रॉम्प्ट» देखें।

अपनी टीम के साथ चर्चा के प्रश्न

हम पहले से कहाँ AI का उपयोग करते हैं, उन सुविधाओं सहित जो हमने नहीं चुनीं और उन उपकरणों सहित जो लोग अपने आप उपयोग करते हैं? सबसे पूछें, और विक्रेता की सेटिंग जाँचें। किसी की भी कल्पना से लंबी सूची की अपेक्षा रखें। फ़ॉलो-अप में हर उपयोग को स्वामी के साथ दर्ज करें।

हमारे कौन-से कार्य मुख्यतः पढ़ना, लिखना और छाँटना हैं, और किन्हें हम नहीं चाहेंगे कि कोई मशीन तय करे? यह कार्यों को उपयुक्तता के अनुसार छाँटता है। मसौदे बनाने पर सहमति और निर्णयों पर असहमति की अपेक्षा रखें। फ़ॉलो-अप में परीक्षण के लिए कम जोखिम वाला एक कार्य चुनें।

अगर हमारा AI सहायक किसी उपयोगकर्ता को आत्मविश्वास से ग़लत उत्तर दे दे तो हम क्या करेंगे, और हमें पता कैसे चलेगा? परिदृश्य को क्रम से देखें। पहचान में ख़ाली जगहों की अपेक्षा रखें। फ़ॉलो-अप में आउटपुट का नमूना लेने और उपयोगकर्ता की प्रतिक्रिया जुटाने का तरीक़ा तय करें।

हम AI उपकरणों को कौन-सा डेटा भेजते हैं, और क्या हमने शर्तें पढ़ी हैं? उपकरणों और डेटा की सूची बनाएँ। निजी खातों और अज्ञात शर्तों की अपेक्षा रखें। फ़ॉलो-अप में इस पर नियम तय करें कि बाहरी उपकरणों में क्या नहीं चिपकाया जाना चाहिए।

हमें कैसे पता चलेगा कि कोई AI उपयोग अपनी लागत के लायक़ था? लाभ का माप और हानि का माप माँगें। "यह तेज़ लगता है" की अपेक्षा रखें। फ़ॉलो-अप में एक उपयोग चुनें और पहले-बाद का एक माप तय करें।

AI का अच्छी तरह उपयोग करने के लिए हमारे लोगों को कौन-से कौशल चाहिए, और उन्हें कौन सिखाएगा? अच्छे प्रॉम्प्ट लिखने, उत्तरों की जाँच करने और सीमाएँ पहचानने के बारे में सोचें। आत्मविश्वास के व्यापक दायरे की अपेक्षा रखें। फ़ॉलो-अप में वास्तविक कार्यों के साथ एक छोटे अभ्यास सत्र की योजना बनाएँ।

व्यवहार में: सेवा प्रबंधन का एक उदाहरण

एक राष्ट्रीय सार्वजनिक पुस्तकालय नेटवर्क की IT टीम 200 शाखाओं और लगभग 6,000 कर्मचारियों को सहायता देती है। सर्विस डेस्क प्रिंटिंग, लॉगिन और ऋण प्रणाली के बारे में दोहराव वाले प्रश्नों की भारी संख्या सँभालता है। सेवा प्रमुख कतार घटाने के लिए AI का उपयोग करना चाहती हैं, और टिकट प्रणाली के विक्रेता ने अभी एक AI सहायक जोड़ा है, जो कर्मचारी-सामने वाली चैट के लिए डिफ़ॉल्ट रूप से चालू है।

सेवा प्रबंधक पहले AI उपयोगों की सूची बनाती हैं। विक्रेता के सहायक के अलावा, उन्हें पता चलता है कि दो विश्लेषक टिकटों का सारांश बनाने के लिए एक सार्वजनिक चैट उपकरण का उपयोग करते हैं, और एक डेवलपर ने उत्तरों का मसौदा बनाने वाली स्क्रिप्ट बनाई है। वे हर एक को स्वामी देती हैं और एक नियम तय करती हैं: सार्वजनिक उपकरणों में व्यक्तिगत डेटा नहीं। फिर वे सुधार के लिए एक उपयोग चुनती हैं: कर्मचारियों के लिए एक सहायक जो केवल अनुमोदित ज्ञान आधार का उपयोग करके "कैसे करें" प्रश्नों के उत्तर देता है, स्रोत-लिंक के साथ और किसी व्यक्ति तक पहुँचने के लिए दिखाई देने वाले बटन के साथ।

वे वास्तविक टिकटों से 60 परीक्षण-प्रश्न बनाती हैं, जिनमें दस ऐसे हैं जिनका उत्तर ज्ञान आधार नहीं दे सकता, जहाँ सही व्यवहार यही कहना है। पहला संस्करण उन दस में से तीन के उत्तर गढ़े हुए चरणों से देता है। टीम निर्देश कसती है और जोड़ती है कि कोई लेख मेल न खाए तो मना कर दे, और विफलताएँ घटकर एक रह जाती हैं। पहले महीने, डेस्क का एक एजेंट सहायक द्वारा हल न की गई हर बातचीत पढ़ता है, और बाक़ी का एक नमूना।

क्या बदलता है: सहायक लगभग एक-तिहाई बातचीत बिना टिकट के हल कर देता है, और एजेंट दोहराव वाले प्रश्नों पर कम समय लगाते हैं। क्या कठिन रहता है: ज्ञान आधार में पुराने लेख हैं जिन्हें सहायक उद्धृत करता है, इसलिए टीम को उसे साफ़ करना होगा; विक्रेता बिना सूचना के अंतर्निहित मॉडल बदल देता है, जिसने एक बार रातोंरात व्यवहार बदल दिया; और छोटी शाखाओं के कर्मचारी कभी-कभी फ़ोन करना पसंद करते हैं। प्रबंधक मासिक परीक्षण-रन, मॉडल बदलावों के लिए एक सहमत संपर्क, और यह स्पष्ट संदेश तय करती हैं कि फ़ोन करने का विकल्प बना रहेगा।

चार दृष्टिकोण

उत्पाद और डिलीवरी टीमें

कोड, परीक्षण और दस्तावेज़ों के मसौदे बनाने के लिए AI का उपयोग करें, अपनी सामान्य समीक्षा और पाइपलाइन-जाँचों के अधीन। दर्ज करें कि AI का उपयोग कहाँ हुआ, और असुरक्षित या बिना लाइसेंस के कोड पर नज़र रखें। अपने उत्पाद की AI सुविधाओं को स्वामियों वाली सेवाएँ मानें।

सेवा और संचालन टीमें

छाँटने, सारांश बनाने और खोजने के लिए AI का उपयोग करें, और उपयोगकर्ताओं या प्रणालियों को प्रभावित करने वाली हर चीज़ का निर्णय व्यक्ति करे। त्रुटियों और बाल-बाल बचे मामलों की रिपोर्ट करें, और AI जो देखती और कहती है उसे ठीक करने में मदद करें।

नेतृत्व और गवर्नेंस

सूची, स्वामी, माप और विफलता की योजना माँगें। डेटा और निर्णयों पर स्पष्ट नियम तय करें। केवल लाइसेंस का नहीं, प्रशिक्षण और परीक्षण का भी वित्तपोषण करें।

ग्राहक और उपयोगकर्ता

आपको पता होना चाहिए कि आप AI से बात कर रहे हैं और आप किसी व्यक्ति तक पहुँच पा सकें। जब कोई उत्तर ग़लत या अनुपयोगी हो तो प्रदाता को बताएँ। सावधान रहें कि आप कौन-सा व्यक्तिगत डेटा साझा करते हैं।

एजाइल, AI, स्वचालन और विश्लेषण

एजाइल

AI को वास्तविक उपयोगकर्ताओं के साथ छोटे परीक्षणों में आज़माएँ, प्रतिक्रिया से सीखें, और रखने, बदलने या रोकने का निर्णय लें। AI क्या कर सकती है, इसमें हितधारकों को शामिल रखें। सावधानी: सफल डेमो इसका प्रमाण नहीं कि कोई उपयोग सुरक्षित या मूल्यवान है; मापों के साथ वास्तविक परीक्षण चलाएँ।

AI

यह विषय स्वयं AI दृष्टि है: हर उपयोग को एक स्वामी चाहिए, जहाँ हानि संभव है वहाँ निर्णय लेने वाला एक मनुष्य, त्रुटि की पहचान, और माप। सावधानी: जवाबदेही विक्रेता या मॉडल को न सौंपें; आपकी सेवा जो परिणाम देती है उनके लिए आप जवाबदेह बने रहते हैं।

स्वचालन

AI निर्णय लेती या सुझाव देती है; स्वचालन कार्रवाई करता है। उन्हें सावधानी से जोड़ें, इन सीमाओं के साथ कि अनुमोदन के बिना क्या हो सकता है, लॉग, और रोकने का तरीक़ा। सावधानी: स्वचालन चालू करने वाली AI ग़लती को तेज़ी से कई गुना कर सकती है; दर-सीमाएँ और समीक्षा जोड़ें। «विषय 6.1 — स्वचालन रणनीति» देखें।

विश्लेषण

लाभ, नमूनों में पाई गई त्रुटि-दरें, उपयोगकर्ता की प्रतिक्रिया और लागत मापें। सावधानी: गुणवत्ता ख़राब होने पर भी उपयोग के आँकड़े और उपयोगकर्ता रेटिंग अच्छे दिख सकते हैं; आउटपुट के नमूने लें और आधार-रेखा से तुलना करें। «विषय 7.3 — मापन और रिपोर्टिंग» और सेवा प्रबंधन मेट्रिक्स पुस्तक देखें।

आम विफलता के तरीके

  • समस्या से पहले उपकरण। कोई सुविधा चालू कर दी जाती है और कोई लाभ नहीं मापता। कष्ट और माप से शुरू करें।
  • कोई सूची नहीं। उपयोग अनदेखे बढ़ते हैं। हर AI उपयोग को स्वामी के साथ सूचीबद्ध करें।
  • मानवीय समीक्षा केवल नाम की। समीक्षक रबर-स्टैंप लगाते हैं। समय, संदर्भ और अधिकार दें, और उनके निर्णयों का नमूना लें।
  • आत्मविश्वास से ग़लत उत्तर। उपयोगकर्ता गढ़ी हुई सलाह पर कार्य करते हैं। उत्तरों को आधारित करें, स्रोत उद्धृत करें, और अनिश्चित होने पर मना करें।
  • डेटा लीक। संवेदनशील पाठ बाहरी उपकरणों में चला जाता है। नियम तय करें और शर्तें जाँचें।
  • मॉडल के बदलावों की अनदेखी। विक्रेता के अद्यतन के बाद व्यवहार खिसक जाता है। नियमित परीक्षण करें और बदलावों के लिए संपर्क तय करें।
  • निकलने का कोई रास्ता नहीं। सेवा AI पर निर्भर है और कोई विकल्प नहीं। किसी व्यक्ति तक का मार्ग और बंद करने का स्विच दें।

परिपक्वता मॉडल

आयाम आरंभ विकास मानकीकरण प्रबंधन समन्वय
सूची और स्वामित्व अज्ञात उपयोग मुख्य उपयोग सूचीबद्ध स्वामियों और उद्देश्यों के साथ सूची सूची की समीक्षा और परीक्षण कैटलॉग और गवर्नेंस के साथ सूची एकीकृत
मानवीय निर्णय अपरिभाषित अनौपचारिक समीक्षा हर उपयोग के लिए परिभाषित समीक्षा-बिंदु समीक्षा की गुणवत्ता का नमूना जोखिम और प्रमाण के अनुसार समीक्षा अनुकूलित
परीक्षण और निगरानी कोई नहीं डेमो परीक्षण-समूह और नियमित नमूने त्रुटियाँ और विचलन मापे जाते हैं सभी उपयोगों में सतत मूल्यांकन
डेटा और जोखिम अस्पष्ट जागरूकता डेटा और विक्रेता की शर्तों पर नियम अनुपालन की जाँच और लेखा-परीक्षा टीमों और आपूर्तिकर्ताओं में जोखिम प्रबंधित

जाँच-सूची

  • हम AI उपयोगों की सूची रखते हैं, जिसमें विक्रेता की सुविधाएँ और निजी उपकरण शामिल हैं।
  • हर उपयोग का एक नामित स्वामी है।
  • हमने लिखा है कि हर AI अकेले क्या कर सकती है, किसकी समीक्षा चाहिए, और उसे क्या नहीं करना चाहिए।
  • उत्तर समीक्षित स्रोतों में आधारित हैं और उन्हें दिखाते हैं।
  • हमारे पास परीक्षण-समूह है और हम उसे नियमित रूप से चलाते हैं।
  • हम आउटपुट के नमूने लेते हैं और त्रुटियों, सुधारों और प्रतिक्रिया को ट्रैक करते हैं।
  • हमारे पास नियम हैं कि कौन-सा डेटा किन उपकरणों में जाता है।
  • उपयोगकर्ता किसी व्यक्ति तक पहुँच सकते हैं, और हम हर AI उपयोग को बंद कर सकते हैं।

AI प्रॉम्प्ट

हमारे उपकरणों के वर्णन से AI उपयोगों की सूची बनाएँ।

यह हमारी टीम द्वारा उपयोग किए जाने वाले उपकरणों और हर एक के काम का वर्णन है: [चिपकाएँ]।
सूचीबद्ध करें कि किन उपकरणों में संभवतः AI सुविधाएँ हैं, हर एक क्या कर सकती है, वह कौन-सा डेटा संसाधित कर सकती है, और विक्रेता या स्वामी से पूछने का एक प्रश्न। स्पष्ट चिह्नित करें कि कौन-सी मदें अनुमान हैं, और विक्रेताओं के बारे में तथ्य न बताएँ।
जिनके बारे में आप अनिश्चित हैं उनकी सूची दें।

किसी सहायक के लिए परीक्षण-प्रश्नों का मसौदा बनाएँ।

हमारा सहायक केवल इन दस्तावेज़ों का उपयोग करके [विषयों] के प्रश्नों के उत्तर देता है: [शीर्षक सूचीबद्ध करें]।
30 परीक्षण-प्रश्न लिखें: 15 जिनके उत्तर दस्तावेज़ देते हैं, 10 जिनके नहीं देते, और 5 जो सहायक से उसके निर्देशों को अनदेखा कराने की कोशिश करते हैं। हर एक के लिए सही व्यवहार बताएँ। वास्तविक व्यक्तिगत डेटा शामिल न करें।
जिनके बारे में आप अनिश्चित हैं उनकी सूची दें।

AI उपयोग की समीक्षा तैयार करें।

AI उपयोग: [वर्णन करें]। स्वामी: [भूमिका]। उपयोग किया गया डेटा: [सूची]। जिन निर्णयों को यह प्रभावित करता है: [सूची]।
एक पृष्ठ की समीक्षा का मसौदा बनाएँ जिसमें हों: उद्देश्य, यह अकेले क्या कर सकता है, किसकी मानवीय समीक्षा चाहिए, त्रुटियाँ कैसे पकड़ी जाती हैं, इसे कैसे बंद किया जाता है, और खुले प्रश्न। हर उस मद को चिह्नित करें जिसे आप मेरे वर्णन से नहीं भर सके।
जिनके बारे में आप अनिश्चित हैं उनकी सूची दें।

AI कौशल

  • prompt-engineering: स्पष्ट, आधारित और परीक्षण-योग्य प्रॉम्प्ट डिज़ाइन करने के लिए उपयोग करें।
  • machine-learning-model-card: यह दर्ज करने के लिए उपयोग करें कि मॉडल क्या करता है, उसका डेटा और उसकी सीमाएँ।
  • risk-register: AI जोखिमों, स्वामियों और निर्णयों को दर्ज करने के लिए उपयोग करें।
  • itil-5: AI उपयोग को स्वामी के नवीनतम मार्गदर्शन से जोड़ने के लिए उपयोग करें, अपुष्ट दावे चिह्नित रखते हुए।
  • mlops: मॉडलों को उनके जीवनचक्र में प्रबंधित करने के लिए उपयोग करें।

प्रमुख स्रोत

  • NIST, AI Risk Management Framework: AI जोखिम की पहचान और प्रबंधन के लिए व्यापक रूप से उपयोग किया जाने वाला ढाँचा।
  • ISO/IEC 42001 (मानक स्वयं): कृत्रिम बुद्धिमत्ता प्रबंधन प्रणाली की आवश्यकताएँ; वर्तमान संस्करण प्रकाशक से पढ़ें।
  • PeopleCert, ITIL certification pages: AI सहित ITIL (Version 5) का स्वामी का वर्णन।
  • Wikipedia, "Artificial intelligence" और "Large language model": क्षेत्र और प्रौद्योगिकी का अवलोकन।

संदर्भ

  1. Artificial intelligence — Wikipedia — https://en.wikipedia.org/wiki/Artificial_intelligence
  2. Machine learning — Wikipedia — https://en.wikipedia.org/wiki/Machine_learning
  3. Generative AI — Wikipedia — https://en.wikipedia.org/wiki/Generative_AI
  4. Large language model — Wikipedia — https://en.wikipedia.org/wiki/Large_language_model
  5. Hallucination (artificial intelligence) — Wikipedia — https://en.wikipedia.org/wiki/Hallucination_(artificial_intelligence)
  6. Retrieval-augmented generation — Wikipedia — https://en.wikipedia.org/wiki/Retrieval-augmented_generation
  7. Human-in-the-loop — Wikipedia — https://en.wikipedia.org/wiki/Human-in-the-loop
  8. Automation bias — Wikipedia — https://en.wikipedia.org/wiki/Automation_bias
  9. Algorithmic bias — Wikipedia — https://en.wikipedia.org/wiki/Algorithmic_bias
  10. Artificial Intelligence Act — Wikipedia — https://en.wikipedia.org/wiki/Artificial_Intelligence_Act
  11. ITIL Foundation Bridge (Version 5) — PeopleCert — https://www.peoplecert.org/browse-certifications/it-governance-and-service-management/ITIL-1/itil-foundation-bridge-version-5-4158
  12. AI Risk Management Framework — NIST — https://www.nist.gov/itl/ai-risk-management-framework

सेवा प्रबंधन मार्गदर्शिका — एजाइल, AI, स्वचालन और विश्लेषण के साथ सेवा प्रबंधन।

स्रोत और योगदान: github.com/service-management-guide. इसके साथ बनाया गया Lily Design System™.

संचालन Joel Parker Henderson.