यह क्यों मायने रखता है

सेवाएँ चलाने का बहुत-सा काम लिखना और पढ़ना है। घटना के दौरान कोई स्थिति-अद्यतन लिखता है जबकि दूसरे चैट लॉग पढ़ते हैं। उसके बाद कोई समयरेखा और समीक्षा लिखता है। ज्ञान लेख टिकट के समाधान-नोट के रूप में शुरू होता है जिसे पढ़ने योग्य बनाना पड़ता है। परिवर्तन अनुरोध को विवरण, जोखिम आकलन और योजना चाहिए। ये कार्य समय लेने वाले और दोहराव वाले हैं, और अक्सर देर से और ख़राब ढंग से होते हैं क्योंकि सब व्यस्त हैं।

जनरेटिव AI इस तरह के काम के लिए उपयुक्त है। बड़े भाषा मॉडल लंबा थ्रेड पढ़कर सेकंडों में सारांश बना सकते हैं। वे कच्चे नोट को साफ़ मसौदे में बदल सकते हैं और समीक्षा के लिए ढाँचा सुझा सकते हैं। अच्छी तरह उपयोग हो तो वे कुशल लोगों को विवेक और बातचीत के लिए मुक्त करते हैं। बुरी तरह उपयोग हो तो वे आत्मविश्वास भरा, धाराप्रवाह, पर ग़लत पाठ बनाते हैं: गढ़े हुए समय वाली समयरेखा, ऐसा मूल कारण जो किसी ने नहीं पाया, ऐसा रनबुक चरण जो मौजूद नहीं है।

अंतर इसमें है कि काम कैसे सेट किया गया है। मॉडल को वास्तविक रिकॉर्ड दें, उससे केवल उसी का उपयोग करने को कहें, उससे अपने स्रोत दिखवाएँ, और कुछ भी साझा होने से पहले किसी व्यक्ति से जँचवाएँ। यह विषय तीन क्षेत्रों के लिए व्यावहारिक पैटर्न देता है: घटनाएँ, ज्ञान और परिवर्तन। यह «विषय 5.1 — सेवा प्रबंधन में AI» के सामान्य विचारों पर बना है और घटना प्रबंधन («विषय 3.2 — घटना प्रबंधन»), समस्या प्रबंधन («विषय 3.3 — समस्या प्रबंधन»), ज्ञान प्रबंधन («विषय 3.9 — ज्ञान प्रबंधन») और परिवर्तन सक्षमीकरण («विषय 3.4 — परिवर्तन सक्षमीकरण») से जुड़ता है। गवर्नेंस के प्रश्न «विषय 5.6 — AI गवर्नेंस, जोखिम और अनुपालन» में हैं।

मूल अवधारणाएँ

जनरेटिव AI। ऐसी प्रणालियाँ जो प्रॉम्प्ट से नई सामग्री, जैसे पाठ और कोड, बनाती हैं। Wikipedia जनरेटिव AI (generative AI) और बड़े भाषा मॉडल (large language models) का वर्णन करता है। सेवा कार्य के लिए पाठ मुख्य आउटपुट है: सारांश, मसौदे, व्याख्याएँ और संरचित नोट।

भ्रम (हैलुसिनेशन)। धाराप्रवाह पर असमर्थित या ग़लत आउटपुट। Wikipedia AI में हैलुसिनेशन (hallucination) का वर्णन करता है। यह इन मॉडलों के काम करने के ढंग का गुण है, कोई दुर्लभ बग नहीं। जोखिम तब सबसे ज़्यादा होता है जब मॉडल से वे तथ्य माँगे जाएँ जो उसे दिए नहीं गए: सटीक समय, कारण, नीति-संख्या, API विकल्प।

ग्राउंडिंग (आधार देना)। मॉडल को स्रोत-सामग्री देना और उससे केवल उसी से उत्तर देने को कहना। रिट्रीवल-ऑगमेंटेड जनरेशन (retrieval-augmented generation), जिसका वर्णन Wikipedia पर है, प्रासंगिक दस्तावेज़ खोजकर देता है। घटनाओं के लिए स्रोत समयरेखा, चैट और निगरानी-डेटा है; ज्ञान के लिए टिकट और मौजूदा लेख; परिवर्तनों के लिए परिवर्तन-रिकॉर्ड और पिछले समान परिवर्तन। ग्राउंडिंग त्रुटियाँ घटाती है पर समाप्त नहीं करती।

संदर्भ विंडो (कॉन्टेक्स्ट विंडो)। मॉडल एक साथ जितना पाठ विचार में ले सकता है। Wikipedia संदर्भ विंडो (context window) का वर्णन करता है। लंबी घटना-चैट इससे अधिक हो सकती हैं, इसलिए लंबे इनपुट का सारांश हिस्सों में बनाया जाता है। जाँचें कि कहीं महत्त्वपूर्ण सामग्री छूट तो नहीं गई।

सारांश बनाना। लंबे पाठ को उसके मुख्य बिंदुओं तक घटाना। Wikipedia स्वचालित सारांशीकरण (automatic summarization) का वर्णन करता है। सारांश डिज़ाइन से ब्योरे खोते हैं, और उसे विकृत भी कर सकते हैं। उन्हें मूल के मार्गदर्शक के रूप में उपयोग करना सबसे अच्छा है, जाँचने के साधन के साथ।

मसौदे, निर्णय नहीं। सबसे सुरक्षित उपयोग है ऐसा पहला मसौदा बनाना जिसे कोई व्यक्ति संपादित करे और जिसका स्वामी बने। परिणाम पर उस व्यक्ति का नाम जाता है, और वही उसके लिए जवाबदेह है। इससे विवेक मनुष्यों के पास रहता है और मॉडल यांत्रिक हिस्से के लिए उपयोग होता है।

प्रॉम्प्ट और निर्देश। मॉडल को दिया गया पाठ। स्पष्ट निर्देश, जिनमें भूमिका, कार्य, स्रोत, प्रारूप और जानकारी न होने पर क्या करना है शामिल हो, परिणाम सुधारते हैं। «विषय 5.7 — AI कौशल और प्रॉम्प्ट» देखें।

गोपनीयता। घटना-चैट और टिकटों में अक्सर रहस्य, व्यक्तिगत डेटा और सुरक्षा ब्योरे होते हैं। पाठ कहाँ जाता है यह मायने रखता है: आपके संगठन द्वारा होस्ट किया मॉडल, अनुबंध के अंतर्गत विक्रेता की सेवा, या अज्ञात शर्तों वाला सार्वजनिक उपकरण। तय करें कि क्या कहाँ जा सकता है। «विषय 5.6 — AI गवर्नेंस, जोखिम और अनुपालन» देखें।

प्रॉम्प्ट इंजेक्शन। मॉडल को दी गई सामग्री में पाठ, जैसे टिकट की बॉडी या लॉग पंक्ति, ऐसे निर्देश रख सकता है जो उसका व्यवहार बदलने की कोशिश करें। Wikipedia प्रॉम्प्ट इंजेक्शन (prompt injection) का वर्णन करता है। सभी इनपुट को अविश्वसनीय मानें, और कार्रवाई की शक्ति वाले मॉडल को अज्ञात स्रोतों की सामग्री न पढ़ने दें।

स्वचालन पूर्वाग्रह। स्वचालित सुझावों पर भरोसा करने की प्रवृत्ति, विशेषकर थके या व्यस्त होने पर। Wikipedia स्वचालन पूर्वाग्रह (automation bias) का वर्णन करता है। घटना के दौरान धाराप्रवाह सुझाव प्रतिक्रिया देने वालों को ग़लत रास्ते पर भेज सकता है। AI आउटपुट को परिकल्पना मानें।

घटनाएँ। उपयोगी कार्यों में शामिल हैं: नए प्रतिक्रिया-दाता के लिए थ्रेड का सारांश, समीक्षा के लिए स्थिति-अद्यतन का मसौदा, रिकॉर्ड से टाइमस्टैम्प सहित घटनाओं की समयरेखा निकालना, पिछली समान घटनाएँ खोजना, और समीक्षा के लिए प्रश्न सुझाना। जोखिम भरे कार्यों में शामिल हैं: मूल कारण को तथ्य की तरह बताना और बिना समीक्षा के ग्राहकों को अद्यतन भेजना।

ज्ञान। उपयोगी कार्यों में शामिल हैं: हल हुए टिकट को लेख के मसौदे में बदलना, लेख को सरल भाषा में दोबारा लिखना, शीर्षक और टैग सुझाना, और डुप्लिकेट खोजना। जोखिम भरे कार्यों में शामिल हैं: तकनीकी जाँच के बिना मसौदे प्रकाशित करना, और सही समाधान जानने के लिए मॉडल पर निर्भर रहना।

परिवर्तन। उपयोगी कार्यों में शामिल हैं: परिवर्तन के विवरण में छूटी जानकारी जाँचना, बड़े पुल रिक्वेस्ट का सारांश बनाना, परीक्षण-मामले सुझाना, और पिछले समान परिवर्तनों से जोखिम-कारक सूचीबद्ध करना। जोखिम भरे कार्यों में शामिल हैं: केवल मॉडल के कहने पर परिवर्तन अनुमोदित करना या उसका जोखिम "कम" रेट करना।

कोड और स्क्रिप्ट। मॉडल स्क्रिप्ट, क्वेरी और कॉन्फ़िगरेशन के मसौदे बना सकते हैं। Wikipedia व्यापक अर्थ में कोड जनरेशन (code generation) का वर्णन करता है। जनरेट किए गए कोड में त्रुटियाँ, सुरक्षा-दोष या लाइसेंस के प्रश्न हो सकते हैं। इसे अविश्वसनीय कोड मानें: उसकी समीक्षा करें, परखें, और पाइपलाइन से चलाएँ। «विषय 3.4 — परिवर्तन सक्षमीकरण» और «विषय 4.2 — सॉफ़्टवेयर परिसंपत्ति प्रबंधन» देखें।

रिकॉर्ड और लेखा-परीक्षा। यह रिकॉर्ड रखें कि AI का उपयोग कैसे हुआ: प्रॉम्प्ट, दिए गए स्रोत, आउटपुट, किसने समीक्षा की, और क्या बदला। Wikipedia ऑडिट ट्रेल (audit trails) का वर्णन करता है। यह सीखने और जवाबदेही का समर्थन करता है।

दृष्टियाँ कैसे फ़िट होती हैं। जनरेटिव AI, AI दृष्टि के सबसे दिखाई देने वाले रूपों में से एक है। एजाइल अभ्यास काम करने वाले लोगों की प्रतिक्रिया के साथ छोटे परीक्षणों का सुझाव देता है। स्वचालन मसौदों को समीक्षा-द्वारों के साथ उपकरणों में चला सकता है। विश्लेषण दिखाता है कि कौन-से उपयोग समय बचाते हैं और कौन-से दोबारा काम कराते हैं।

सर्वोत्तम अभ्यास

  1. उसे रिकॉर्ड दें और कहें कि केवल उसी का उपयोग करे। वास्तविक समयरेखा, टिकट या परिवर्तन चिपकाएँ या पुनः प्राप्त करें, और मॉडल को निर्देश दें कि केवल दिया गया पाठ उपयोग करे। जानकारी न होने पर उसे "उल्लिखित नहीं" लिखने को कहें।
  2. उद्धरण और संदर्भ माँगें। मॉडल से वे पंक्तियाँ या लेख उद्धृत करवाएँ जो उसने उपयोग किए, ताकि कोई व्यक्ति हर दावे को जल्दी जाँच सके।
  3. तथ्य को अनुमान से अलग रखें। पहले रिकॉर्ड से लिए तथ्य माँगें, फिर स्पष्ट लेबल वाली परिकल्पनाएँ। परिकल्पनाओं को निष्कर्ष की तरह न दिखने दें।
  4. मानवीय स्वामी रखें। जो व्यक्ति अद्यतन भेजता है, लेख प्रकाशित करता है या परिवर्तन अनुमोदित करता है, मॉडल ने जो भी मसौदा बनाया हो, वही सामग्री का स्वामी है। इसे प्रक्रिया में स्पष्ट करें।
  5. बिना समीक्षा का आउटपुट बाहर न भेजें। ग्राहकों, नियामकों या जनता को स्थिति-अद्यतन के लिए मानवीय समीक्षा और अनुमोदन चाहिए। आंतरिक मसौदे कम जोखिम वाले हैं पर उन्हें भी जाँच चाहिए।
  6. डेटा की रक्षा करें। सामग्री की संवेदनशीलता के लिए अनुमोदित उपकरण उपयोग करें। जहाँ हो सके रहस्य और व्यक्तिगत डेटा हटाएँ, और क्रेडेंशियल कभी न चिपकाएँ।
  7. संख्याएँ, नाम और समय जाँचें। गढ़ंत सबसे ज़्यादा यहीं दिखती है। मसौदे के हर आँकड़े की स्रोत से तुलना करें।
  8. वास्तविक मामलों से परखें। इस तरीक़े को पिछली घटनाओं और टिकटों पर चलाएँ जहाँ आप सच जानते हैं, और नोट करें कि यह कहाँ विफल होता है। निष्कर्ष साझा करें और अपने निर्देश अद्यतन करें।
  9. उपयोग को लॉग करें। दर्ज करें कि AI ने मदद की, स्रोतों और समीक्षक के साथ। सुधारों को ट्रैक करें ताकि पता चले कि कौन-से कार्य इसके अनुकूल हैं।
  10. समीक्षा करें और बंद करें। समीक्षा करें कि कौन-से उपयोग समय बचाते हैं और कौन-से दोबारा काम कराते हैं। जो मदद न करें उन्हें बंद करें।

अपनी टीम के साथ चर्चा के प्रश्न

हमारे घटना और परिवर्तन के काम में लिखने और पढ़ने के कौन-से कार्य सबसे ज़्यादा समय लेते हैं, और उनमें से कौन-से कम जोखिम वाले हैं? एक सूची बनाएँ। समयरेखाओं, स्थिति-अद्यतनों, समीक्षा के मसौदों और परिवर्तन-विवरणों की अपेक्षा रखें। जोखिम के अनुसार छाँटें। फ़ॉलो-अप में AI के साथ आज़माने के लिए कम जोखिम वाला एक कार्य चुनें।

AI द्वारा लिखे घटना-सारांश पर भरोसा करने से पहले हमें क्या जाँचना होगा? समय, कारण और प्रभाव के बारे में सोचें। इस पर सहमति की अपेक्षा रखें कि समय और कारण जाँचने होंगे। फ़ॉलो-अप में एक छोटी जाँच-सूची लिखें।

कौन-सी जानकारी कभी AI उपकरण में नहीं जानी चाहिए, और हम इसका पालन आसान कैसे बनाएँ? रहस्य, व्यक्तिगत डेटा और सुरक्षा ब्योरे सूचीबद्ध करें। इस पर उलझन की अपेक्षा रखें कि क्या गिना जाए। फ़ॉलो-अप में एक सरल नियम और बाक़ी के लिए एक सुरक्षित उपकरण तय करें।

हमें कैसे पता चलेगा कि AI के सारांश या मसौदे हमारे ज्ञान आधार को बदतर बना रहे हैं? ग़लत चरणों और दोहराई त्रुटियों के बारे में सोचें। "हमें पता नहीं चलेगा" की अपेक्षा रखें। फ़ॉलो-अप में हर महीने AI-सहायता वाले लेखों का सटीकता के लिए नमूना लें।

हम AI को परिवर्तन का जोखिम कब सुझाने देंगे, और निर्णय कौन करेगा? चर्चा करें। अनुमोदन के बारे में सावधानी और छूटी जानकारी के लिए संकेत देने पर सहजता की अपेक्षा रखें। फ़ॉलो-अप में सहमत हों कि AI प्रश्न और पिछले समान परिवर्तन सुझा सकती है, और जोखिम की रेटिंग कोई व्यक्ति करेगा।

हमारी टीम में AI के आउटपुट को जाँचने में कौन अच्छा है, और हम यह कौशल कैसे फैलाएँ? जाँचना एक कौशल है। कुछ आत्मविश्वासी लोगों की अपेक्षा रखें। फ़ॉलो-अप में एक छोटा अभ्यास चलाएँ जिसमें टीम मिलकर किसी दोषपूर्ण मसौदे को जाँचे।

व्यवहार में: सेवा प्रबंधन का एक उदाहरण

एक राष्ट्रीय रेलवे की संचालन प्रौद्योगिकी टीम सिग्नलिंग सहायता प्रणालियाँ चलाती है। हर बड़ी घटना के बाद, एक इंजीनियर चैट लॉग, निगरानी ग्राफ़ और टिकट नोट से समीक्षा लिखने में आधा दिन लगाता है। समीक्षाएँ देर से आती हैं, और हाल की समीक्षाएँ फीकी थीं।

टीम प्रमुख समीक्षाओं के पहले मसौदे के लिए जनरेटिव AI सहायक आज़माती हैं, जो रेलवे के उस विक्रेता के साथ अनुबंध के अंतर्गत होस्ट है जो इनपुट को न रखता है और न उन पर प्रशिक्षण करता है। हर घटना के लिए इंजीनियर चैट लॉग और टिकट का इतिहास निर्यात करता है, कर्मचारियों के नाम हटाता है, और सहायक को ये निर्देश देता है: केवल दिया गया पाठ उपयोग करें; हर प्रविष्टि में स्रोत पंक्ति उद्धृत करते हुए समयरेखा बनाएँ; प्रभाव, जैसा कहा गया है, सूचीबद्ध करें; सूचीबद्ध करें कि किसने मदद की और किसने प्रतिक्रिया धीमी की; पाठ में जो नहीं है उसे "उल्लिखित नहीं" चिह्नित करें; और परिकल्पनाओं को अलग, इस रूप में लेबल किए गए खंड में रखें।

पिछली घटना पर पहले परीक्षण में मसौदे की समयरेखा सटीक है, सिवाय इसके कि वह पुनः आरंभ का समय 02:15 देता है, जबकि चैट में "लगभग सवा, मुझे लगता है" है और टिकट में 02:22; इंजीनियर इसे सुधारता है। मसौदा कारण के रूप में "ख़राब नेटवर्क स्विच" भी सूचीबद्ध करता है, जो चैट में अनुमान के रूप में आया था और बाद में ग़लत साबित हुआ; समीक्षा ने उसे निर्देश के अनुसार परिकल्पनाओं में डाला, पर यह नोट नहीं किया कि वह ग़लत साबित हुआ था। इंजीनियर दोनों सुधारता है और मसौदा चार घंटे के बजाय दो घंटे में टीम को भेज देता है।

दस घटनाओं के बाद, टीम अनुमान लगाती है कि पहले मसौदों में लगभग एक-तिहाई समय लगता है। वे नियम जोड़ती हैं कि इंजीनियर हर समय और कारण को स्रोत से जाँचे, और समीक्षाएँ दर्ज करें कि पहला संस्करण AI ने बनाया। वे यह भी तय करती हैं कि परिवर्तन-रिकॉर्ड में जोखिम रेट करने के लिए अभी AI का उपयोग नहीं करेंगी।

क्या बदलता है: समीक्षाएँ एक दिन के भीतर आती हैं और किसने मदद की इस पर अधिक ब्योरा रखती हैं। क्या कठिन रहता है: इंजीनियर कभी-कभी कारणों के मॉडल के शब्द स्वीकार कर लेते हैं जिनका प्रमाण केवल कमज़ोर समर्थन देता है; निर्यात की गई चैट में कभी-कभी गोपनीय ब्योरे रह जाते हैं; और एक इंजीनियर को चिंता है कि मसौदे लिखने का कौशल फीका पड़ जाएगा। प्रमुख एक तिमाही सत्र तय करती हैं जिसमें इंजीनियर एक समीक्षा बिना AI के लिखते हैं, और तुलना करती हैं।

चार दृष्टिकोण

उत्पाद और डिलीवरी टीमें

अपने रिकॉर्ड से परिवर्तन-विवरण, परीक्षण के विचार और रिलीज़ नोट के मसौदे बनाने के लिए AI का उपयोग करें, और उनकी समीक्षा करें। जनरेट किए कोड को अविश्वसनीय मानें: किसी भी अन्य परिवर्तन की तरह उसे परखें और स्कैन करें।

सेवा और संचालन टीमें

थ्रेड का सारांश और अद्यतनों, समीक्षाओं और लेखों के मसौदे बनाने के लिए AI का उपयोग करें, स्रोत संलग्न करके। हर समय, नाम और कारण जाँचें, और जो प्रकाशित करें उसके स्वामी बनें।

नेतृत्व और गवर्नेंस

डेटा और अनुमोदन पर नियम तय करें, और उन्हें पूरा करने वाले उपकरणों का वित्तपोषण करें। बचे समय और पकड़ी गई त्रुटियों का प्रमाण माँगें। AI आउटपुट को तथ्य के रिकॉर्ड के रूप में स्वीकार न करें।

ग्राहक और उपयोगकर्ता

आपको ऐसे अद्यतन मिलने चाहिए जिन्हें किसी व्यक्ति ने जाँचा हो। अगर आपको जो मिला उसमें त्रुटि दिखे, तो प्रदाता को बताएँ। पूछें कि जो आपको बताया जाता है उसमें AI का उपयोग कैसे होता है।

एजाइल, AI, स्वचालन और विश्लेषण

एजाइल

एक समय में एक लेखन-कार्य को उसे करने वाले लोगों के साथ आज़माएँ, प्रतिक्रिया जुटाएँ, और निर्देश सुधारें। समीक्षाएँ छोटी और बार-बार रखें। सावधानी: तेज़ मसौदे को चिंतन छोटा न करने दें; समीक्षा का मूल्य सीखने में है।

AI

हर उपयोग को रिकॉर्ड में आधारित करें, स्रोत दिखाएँ, और किसी व्यक्ति को जवाबदेह रखें। पिछले मामलों पर परखें और AI के उपयोग को दर्ज करें। सावधानी: धाराप्रवाह पाठ कमज़ोर प्रमाण को छिपाता है; मॉडल से विश्वास और स्रोत लेबल करवाएँ, और उन्हें जाँचें। «विषय 5.7 — AI कौशल और प्रॉम्प्ट» देखें।

स्वचालन

पाइपलाइन का काम स्वचालित करें: रिकॉर्ड निर्यात करना, रहस्य हटाना, मॉडल को कॉल करना, मसौदा टिकट से संलग्न करना, और समीक्षक को सूचित करना। प्रकाशन से पहले समीक्षा-द्वार रखें। सावधानी: जो पाइपलाइन मसौदे अपने-आप प्रकाशित करती है वह त्रुटियाँ फैलाती है; अनुमोदन आवश्यक करें। «विषय 6.2 — वर्कफ़्लो स्वचालन और ऑर्केस्ट्रेशन» देखें।

विश्लेषण

समीक्षाएँ बनाने का समय, मसौदों में किए गए संपादन, पाई गई त्रुटियाँ, और कार्य-प्रकार के अनुसार उपयोग ट्रैक करें। सावधानी: बने मसौदे गिनना मात्रा को पुरस्कृत करता है, और बचा समय अक्सर अनुमानित होता है; अंतिम दस्तावेज़ों की गुणवत्ता का नमूना लें। सेवा प्रबंधन मेट्रिक्स पुस्तक और «विषय 7.3 — मापन और रिपोर्टिंग» देखें।

आम विफलता के तरीके

  • स्मृति से तथ्य। मॉडल समय और कारण गढ़ता है। रिकॉर्ड दें और उद्धरण अनिवार्य करें।
  • बिना समीक्षा के बाहरी अद्यतन। ग्राहकों तक ग़लत जानकारी पहुँचती है। मानवीय अनुमोदन आवश्यक करें।
  • प्रॉम्प्ट में रहस्य। संवेदनशील डेटा लीक होता है। अनुमोदित उपकरण उपयोग करें और रहस्य हटाएँ।
  • रबर-स्टैंपिंग। समीक्षक बिना जाँचे मसौदे स्वीकार करते हैं। जाँच-सूची दें और समीक्षाओं का नमूना लें।
  • मॉडल को बरगलाने वाले इनपुट। शत्रुतापूर्ण पाठ व्यवहार बदलता है। इनपुट को अविश्वसनीय मानें।
  • जोखिम रेट करने में AI का उपयोग। धाराप्रवाह "कम" पर भरोसा कर लिया जाता है। AI से प्रश्न पुछवाएँ, और जोखिम लोगों से रेट करवाएँ।
  • कौशल का क्षरण। लोग लिखना और जाँचना छोड़ देते हैं। अभ्यास और समीक्षा की गुणवत्ता बनाए रखें।

परिपक्वता मॉडल

आयाम आरंभ विकास मानकीकरण प्रबंधन समन्वय
उपयोग व्यक्तिगत प्रयोग साझा सुझाव घटनाओं, ज्ञान और परिवर्तनों के लिए अनुमोदित पैटर्न परिणामों से पैटर्न की समीक्षा गवर्नेंस के साथ उपकरणों में एकीकृत पैटर्न
ग्राउंडिंग और जाँच मॉडल की स्मृति कुछ स्रोत दिखाए गए स्रोत उद्धृत और तथ्य रिकॉर्ड से जाँचे गए त्रुटियाँ ट्रैक और प्रतिक्रिया में लौटाई गईं मानवीय हस्ताक्षर के साथ सत्यापन आंशिक रूप से स्वचालित
डेटा की सुरक्षा अस्पष्ट जागरूकता अनुमोदित उपकरण और नियम अनुपालन की निगरानी नियंत्रण उपकरणों और पाइपलाइनों में निर्मित
जवाबदेही अस्पष्ट अनौपचारिक हर आउटपुट के लिए नामित स्वामी स्वामियों और समीक्षाओं की लेखा-परीक्षा सेवाओं में जवाबदेही एकीकृत

जाँच-सूची

  • हमने जनरेटिव AI के लिए कम जोखिम वाले कुछ लेखन-कार्य चुने।
  • हम मॉडल को रिकॉर्ड देते हैं और कहते हैं कि केवल उसी का उपयोग करे।
  • आउटपुट अपने स्रोत उद्धृत करते हैं और तथ्य को परिकल्पना से अलग करते हैं।
  • साझा करने से पहले हर आउटपुट का एक नामित व्यक्ति स्वामी है और उसकी समीक्षा करता है।
  • संवेदनशील सामग्री के लिए हम अनुमोदित उपकरण उपयोग करते हैं और रहस्य हटाते हैं।
  • हम समय, नाम, संख्याएँ और कारण स्रोत से जाँचते हैं।
  • हम दर्ज करते हैं कि AI ने कब मदद की और समीक्षा किसने की।
  • हम AI को अकेले परिवर्तन अनुमोदित करने या मूल कारण बताने नहीं देते।

AI प्रॉम्प्ट

स्रोत-सहित घटना की समयरेखा बनाएँ।

नीचे किसी घटना का चैट लॉग और टिकट का इतिहास है, नाम हटाकर: [चिपकाएँ]।
स्तंभों के साथ एक समयरेखा तालिका बनाएँ: समय (ठीक वैसा जैसा लिखा है; समय न हो तो "उल्लिखित नहीं" लिखें), घटना, और उद्धृत स्रोत पंक्ति। फिर पाठ में कहा गया प्रभाव सूचीबद्ध करें, और एक अलग खंड "उल्लिखित परिकल्पनाएँ" दें जिसमें हर एक को किसने उठाया और पाठ दिखाता है कि वह पुष्ट हुई या ख़ारिज। पाठ में जो नहीं है वह कुछ न जोड़ें।
जिनके बारे में आप अनिश्चित हैं उनकी सूची दें।

हल हुए टिकट से ज्ञान लेख का मसौदा बनाएँ।

यह नोट सहित हल हुआ टिकट है, व्यक्तिगत डेटा हटाकर: [चिपकाएँ]। ये संबंधित विषयों पर मौजूदा लेख हैं: [शीर्षक और सारांश चिपकाएँ]।
सरल शब्दों में शीर्षक, लक्षण, चरण और यह जाँचने का तरीक़ा कि समाधान काम किया, के साथ नया लेख बनाएँ। केवल टिकट का उपयोग करें। छूटी जानकारी को [missing] से चिह्नित करें, और वे मौजूदा लेख सूचीबद्ध करें जो इसके डुप्लिकेट हो सकते हैं।
जिनके बारे में आप अनिश्चित हैं उनकी सूची दें।

परिवर्तन का विवरण जाँचें।

यह परिवर्तन का विवरण है: [चिपकाएँ]। हमारी आवश्यक मदें: [सूची]।
सूचीबद्ध करें कि कौन-सी आवश्यक मदें छूटी या अस्पष्ट हैं, समीक्षक को कौन-से प्रश्न पूछने चाहिए, और विवरण के कौन-से कथन एक-दूसरे से असंगत लगते हैं। जोखिम को रेट न करें और अनुमोदन की अनुशंसा न करें।
जिनके बारे में आप अनिश्चित हैं उनकी सूची दें।

AI कौशल

  • postmortem: घटना-समीक्षाओं को ढाँचा देने के लिए उपयोग करें जिनका मसौदा AI बनाती है और स्वामी लोग हैं।
  • prompt-engineering: स्पष्ट, आधारित निर्देश लिखने के लिए उपयोग करें।
  • runbook: प्रक्रियाओं को ऐसे रनबुक में बदलने के लिए उपयोग करें जो जाँचे और परखे गए हों।
  • release-notes: समीक्षा के लिए रिलीज़ नोट के मसौदे बनाने के लिए उपयोग करें।
  • change-request: यह परिभाषित करने के लिए उपयोग करें कि अच्छे परिवर्तन-विवरण में क्या होता है।

प्रमुख स्रोत

  • NIST, AI Risk Management Framework: AI उपयोग के जोखिमों की पहचान और प्रबंधन का ढाँचा।
  • OWASP, बड़े भाषा मॉडलों पर बने अनुप्रयोगों के जोखिमों पर मार्गदर्शन (owasp.org): प्रॉम्प्ट इंजेक्शन और संबंधित जोखिमों पर समुदाय की सलाह।
  • Wikipedia, "Generative AI" और "Hallucination (artificial intelligence)": प्रौद्योगिकी और उसकी मुख्य विफलता के तरीक़े का अवलोकन।
  • Wikipedia, "Automation bias": लोग स्वचालित सुझावों पर अति-भरोसा क्यों करते हैं।

संदर्भ

  1. Generative AI — Wikipedia — https://en.wikipedia.org/wiki/Generative_AI
  2. Large language model — Wikipedia — https://en.wikipedia.org/wiki/Large_language_model
  3. Hallucination (artificial intelligence) — Wikipedia — https://en.wikipedia.org/wiki/Hallucination_(artificial_intelligence)
  4. Retrieval-augmented generation — Wikipedia — https://en.wikipedia.org/wiki/Retrieval-augmented_generation
  5. Automatic summarization — Wikipedia — https://en.wikipedia.org/wiki/Automatic_summarization
  6. Prompt injection — Wikipedia — https://en.wikipedia.org/wiki/Prompt_injection
  7. Automation bias — Wikipedia — https://en.wikipedia.org/wiki/Automation_bias
  8. Context window — Wikipedia — https://en.wikipedia.org/wiki/Context_window
  9. Postmortem documentation — Wikipedia — https://en.wikipedia.org/wiki/Postmortem_documentation
  10. Audit trail — Wikipedia — https://en.wikipedia.org/wiki/Audit_trail
  11. AI Risk Management Framework — NIST — https://www.nist.gov/itl/ai-risk-management-framework
  12. OWASP — OWASP Foundation — https://owasp.org

सेवा प्रबंधन मार्गदर्शिका — एजाइल, AI, स्वचालन और विश्लेषण के साथ सेवा प्रबंधन।

स्रोत और योगदान: github.com/service-management-guide. इसके साथ बनाया गया Lily Design System™.

संचालन Joel Parker Henderson.