কেন এটি গুরুত্বপূর্ণ

সেবা চালানোর কাজের বড় অংশ লেখা ও পড়া। ইনসিডেন্টের সময় একজন স্ট্যাটাস আপডেট লেখেন, অন্যরা চ্যাট লগ পড়েন। তার পরে কেউ একটি টাইমলাইন ও পর্যালোচনা লেখেন। একটি জ্ঞান নিবন্ধ শুরু হয় টিকিটের সমাধান নোট হিসেবে, যাকে পাঠযোগ্য কিছুতে রূপ দিতে হয়। একটি পরিবর্তনের অনুরোধে দরকার বিবরণ, ঝুঁকি মূল্যায়ন ও পরিকল্পনা। এসব কাজ সময়সাপেক্ষ, পুনরাবৃত্ত, এবং সবাই ব্যস্ত থাকায় প্রায়ই দেরিতে ও খারাপভাবে করা হয়।

জেনারেটিভ এআই এই ধরনের কাজের জন্য উপযুক্ত। বৃহৎ ভাষা মডেল একটি লম্বা থ্রেড পড়ে সেকেন্ডে সারসংক্ষেপ তৈরি করতে পারে। এরা এলোমেলো নোটকে পরিচ্ছন্ন খসড়ায় রূপ দিতে এবং পর্যালোচনার কাঠামো প্রস্তাব করতে পারে। ভালোভাবে ব্যবহার করলে দক্ষ মানুষ বিচার ও কথোপকথনের জন্য মুক্ত থাকেন। খারাপভাবে ব্যবহার করলে আত্মবিশ্বাসী, সাবলীল কিন্তু ভুল লেখা তৈরি হয়: বানানো সময়সহ টাইমলাইন, কেউ খুঁজে পায়নি এমন মূল কারণ, অস্তিত্বহীন রানবুক ধাপ।

পার্থক্য কাজটি কীভাবে সাজানো হয় তাতে। মডেলকে প্রকৃত রেকর্ড দিন, শুধু সেটি ব্যবহার করতে বলুন, উৎস দেখাতে বাধ্য করুন, এবং কিছু ভাগ করার আগে একজন ব্যক্তি যাচাই করুন। এই বিষয়টি তিনটি ক্ষেত্রের জন্য ব্যবহারিক ধরন দেয়: ইনসিডেন্ট, জ্ঞান ও পরিবর্তন। এটি বিষয় 5.1 — সেবা ব্যবস্থাপনায় এআই-এর সাধারণ ধারণার ওপর গড়া এবং ইনসিডেন্ট ম্যানেজমেন্ট (বিষয় 3.2 — ইনসিডেন্ট ম্যানেজমেন্ট), প্রবলেম ম্যানেজমেন্ট (বিষয় 3.3 — প্রবলেম ম্যানেজমেন্ট), জ্ঞান ব্যবস্থাপনা (বিষয় 3.9 — জ্ঞান ব্যবস্থাপনা) ও চেঞ্জ এনাবলমেন্টের (বিষয় 3.4 — চেঞ্জ এনাবলমেন্ট) সঙ্গে সম্পর্কিত। শাসনের প্রশ্ন আছে বিষয় 5.6 — এআই শাসন, ঝুঁকি ও সম্মতি-তে।

মূল ধারণা

জেনারেটিভ এআই। যে ব্যবস্থা প্রম্পট থেকে নতুন বিষয়বস্তু, যেমন টেক্সট ও কোড, তৈরি করে। Wikipedia জেনারেটিভ এআই ও বৃহৎ ভাষা মডেল বর্ণনা করে। সেবার কাজে টেক্সটই প্রধান আউটপুট: সারসংক্ষেপ, খসড়া, ব্যাখ্যা ও কাঠামোবদ্ধ নোট।

হ্যালুসিনেশন। সাবলীল কিন্তু অসমর্থিত বা মিথ্যা আউটপুট। Wikipedia এআই-তে হ্যালুসিনেশন বর্ণনা করে। এটি এই মডেলগুলো যেভাবে কাজ করে তার বৈশিষ্ট্য, বিরল বাগ নয়। ঝুঁকি সবচেয়ে বেশি যখন মডেলকে এমন তথ্য জিজ্ঞাসা করা হয় যা তাকে দেওয়া হয়নি: একটি সুনির্দিষ্ট সময়, একটি কারণ, একটি নীতির নম্বর, একটি API বিকল্প।

ভিত্তি। মডেলকে উৎস উপাদান দেওয়া এবং শুধু সেখান থেকে উত্তর দিতে বলা। Wikipedia-য় বর্ণিত পুনরুদ্ধার-সমৃদ্ধ উৎপাদন প্রাসঙ্গিক নথি খুঁজে সরবরাহ করে। ইনসিডেন্টের জন্য উৎস হলো টাইমলাইন, চ্যাট ও মনিটরিং ডেটা; জ্ঞানের জন্য টিকিট ও বিদ্যমান নিবন্ধ; পরিবর্তনের জন্য পরিবর্তনের রেকর্ড ও অতীতের অনুরূপ পরিবর্তন। ভিত্তি ত্রুটি কমায় কিন্তু দূর করে না।

কনটেক্সট উইন্ডো। একবারে মডেল যতটুকু টেক্সট বিবেচনা করতে পারে। Wikipedia কনটেক্সট উইন্ডো বর্ণনা করে। লম্বা ইনসিডেন্ট চ্যাট এটি ছাড়িয়ে যেতে পারে, তাই লম্বা ইনপুট অংশে অংশে সারসংক্ষেপ করা হয়। গুরুত্বপূর্ণ উপাদান বাদ গেছে কি না যাচাই করুন।

সারসংক্ষেপ। একটি লম্বা টেক্সটকে মূল বিন্দুতে কমানো। Wikipedia স্বয়ংক্রিয় সারসংক্ষেপ বর্ণনা করে। সারসংক্ষেপ নকশা অনুযায়ীই বিবরণ হারায় এবং তা বিকৃতও করতে পারে। এগুলো সবচেয়ে ভালো মূল লেখার পথনির্দেশক হিসেবে, যাচাই করার উপায়সহ।

খসড়া, সিদ্ধান্ত নয়। সবচেয়ে নিরাপদ ব্যবহার হলো একজন ব্যক্তির সম্পাদনা ও দায়িত্ব নেওয়ার জন্য প্রথম খসড়া তৈরি করা। ফলাফলে সেই ব্যক্তির নাম থাকে, এবং তিনি এর জন্য জবাবদিহি করেন। এতে বিচার মানুষের হাতে থাকে এবং মডেল যান্ত্রিক অংশে ব্যবহৃত হয়।

প্রম্পট ও নির্দেশ। মডেলকে দেওয়া টেক্সট। ভূমিকা, কাজ, উৎস, বিন্যাস এবং তথ্য অনুপস্থিত হলে কী করতে হবে, এসহ স্পষ্ট নির্দেশ ফল উন্নত করে। দেখুন বিষয় 5.7 — এআই দক্ষতা ও প্রম্পট।

গোপনীয়তা। ইনসিডেন্ট চ্যাট ও টিকিটে প্রায়ই গোপন তথ্য, ব্যক্তিগত ডেটা ও নিরাপত্তার বিবরণ থাকে। টেক্সট কোথায় যায় তা গুরুত্বপূর্ণ: আপনার প্রতিষ্ঠানের হোস্ট করা মডেল, চুক্তির অধীন ভেন্ডরের সেবা, বা অজানা শর্তের পাবলিক টুল। কী কোথায় যেতে পারবে ঠিক করুন। দেখুন বিষয় 5.6 — এআই শাসন, ঝুঁকি ও সম্মতি।

প্রম্পট ইনজেকশন। মডেলকে দেওয়া উপাদানের টেক্সট, যেমন টিকিটের বিষয়বস্তু বা লগ লাইন, তার আচরণ বদলাতে চায় এমন নির্দেশ ধারণ করতে পারে। Wikipedia প্রম্পট ইনজেকশন বর্ণনা করে। সব ইনপুট অবিশ্বস্ত ধরুন, এবং কাজ করার ক্ষমতাসম্পন্ন মডেলকে অজানা উৎসের বিষয়বস্তু পড়তে দেবেন না।

স্বয়ংক্রিয়তা পক্ষপাত। স্বয়ংক্রিয় পরামর্শে ভরসা করার প্রবণতা, বিশেষ করে ক্লান্ত বা ব্যস্ত অবস্থায়। Wikipedia স্বয়ংক্রিয়তা পক্ষপাত বর্ণনা করে। ইনসিডেন্টের সময় একটি সাবলীল পরামর্শ সাড়াদানকারীদের ভুল পথে পাঠাতে পারে। এআই আউটপুটকে অনুমান হিসেবে দেখুন।

ইনসিডেন্ট। কাজের কাজের মধ্যে আছে নতুন সাড়াদানকারীর জন্য থ্রেডের সারসংক্ষেপ, পর্যালোচনার জন্য স্ট্যাটাস আপডেট খসড়া, রেকর্ড থেকে টাইমস্ট্যাম্পসহ ঘটনার টাইমলাইন বের করা, অতীতের অনুরূপ ইনসিডেন্ট খোঁজা এবং পর্যালোচনার জন্য প্রশ্ন প্রস্তাব। ঝুঁকিপূর্ণ কাজের মধ্যে আছে মূল কারণকে তথ্য হিসেবে বলা এবং পর্যালোচনা ছাড়া গ্রাহকদের আপডেট পাঠানো।

জ্ঞান। কাজের কাজের মধ্যে আছে সমাধান হওয়া টিকিটকে নিবন্ধের খসড়ায় রূপ দেওয়া, নিবন্ধ সহজ ভাষায় নতুন করে লেখা, শিরোনাম ও ট্যাগ প্রস্তাব এবং নকল খোঁজা। ঝুঁকিপূর্ণ কাজের মধ্যে আছে প্রযুক্তিগত যাচাই ছাড়া খসড়া প্রকাশ, এবং সঠিক সমাধান জানার জন্য মডেলের ওপর নির্ভর করা।

পরিবর্তন। কাজের কাজের মধ্যে আছে পরিবর্তনের বিবরণে অনুপস্থিত তথ্য যাচাই, একটি বড় পুল রিকোয়েস্টের সারসংক্ষেপ, পরীক্ষার ক্ষেত্র প্রস্তাব এবং অতীতের অনুরূপ পরিবর্তন থেকে ঝুঁকির কারণের তালিকা। ঝুঁকিপূর্ণ কাজের মধ্যে আছে শুধু মডেলের কথায় একটি পরিবর্তন অনুমোদন বা তার ঝুঁকি "কম" রেটিং করা।

কোড ও স্ক্রিপ্ট। মডেল স্ক্রিপ্ট, কোয়েরি ও কনফিগারেশন খসড়া করতে পারে। Wikipedia বৃহত্তর অর্থে কোড তৈরি বর্ণনা করে। তৈরি করা কোডে ত্রুটি, নিরাপত্তা দুর্বলতা বা লাইসেন্সের প্রশ্ন থাকতে পারে। একে অবিশ্বস্ত কোড ধরুন: পর্যালোচনা করুন, পরীক্ষা করুন এবং পাইপলাইনের মধ্য দিয়ে চালান। দেখুন বিষয় 3.4 — চেঞ্জ এনাবলমেন্ট এবং বিষয় 4.2 — সফটওয়্যার সম্পদ ব্যবস্থাপনা।

রেকর্ড ও নিরীক্ষা। এআই কীভাবে ব্যবহৃত হয়েছে তার রেকর্ড রাখুন: প্রম্পট, দেওয়া উৎস, আউটপুট, কে পর্যালোচনা করেছেন এবং কী বদলেছে। Wikipedia নিরীক্ষা ট্রেইল বর্ণনা করে। এটি শেখা ও জবাবদিহি সমর্থন করে।

দৃষ্টিকোণগুলো কীভাবে খাপ খায়। জেনারেটিভ এআই এআই দৃষ্টিকোণের সবচেয়ে দৃশ্যমান রূপগুলোর একটি। এজাইল অনুশীলন কাজটি যাঁরা করেন তাঁদের ফিডব্যাকসহ ছোট পরীক্ষা প্রস্তাব করে। অটোমেশন পর্যালোচনার গেটসহ খসড়াগুলো টুলে চালাতে পারে। বিশ্লেষণ দেখায় কোন ব্যবহার সময় বাঁচায় আর কোনটি পুনরায় কাজ করায়।

সেরা অনুশীলন

  1. রেকর্ড দিন এবং শুধু সেটি ব্যবহার করতে বলুন। প্রকৃত টাইমলাইন, টিকিট বা পরিবর্তন পেস্ট বা পুনরুদ্ধার করুন, এবং মডেলকে শুধু সরবরাহ করা টেক্সট ব্যবহার করতে নির্দেশ দিন। তথ্য অনুপস্থিত হলে "উল্লেখ নেই" লিখতে বলুন।
  2. উদ্ধৃতি ও রেফারেন্স চান। মডেলকে ব্যবহৃত লাইন বা নিবন্ধ উদ্ধৃত করতে বলুন, যাতে একজন ব্যক্তি প্রতিটি দাবি দ্রুত যাচাই করতে পারেন।
  3. তথ্য ও অনুমান আলাদা করুন। প্রথমে রেকর্ড থেকে নেওয়া তথ্য, তারপর স্পষ্টভাবে লেবেল করা অনুমান চান। অনুমানকে সিদ্ধান্ত হিসেবে দেখা দিতে দেবেন না।
  4. একজন মানব মালিক রাখুন। মডেল যা খসড়া করুক, যিনি আপডেট পাঠান, নিবন্ধ প্রকাশ করেন বা পরিবর্তন অনুমোদন করেন তিনিই বিষয়বস্তুর মালিক। প্রক্রিয়ায় তা স্পষ্ট করুন।
  5. অপর্যালোচিত আউটপুট বাইরে পাঠাবেন না। গ্রাহক, নিয়ন্ত্রক বা জনসাধারণের কাছে স্ট্যাটাস আপডেটের জন্য মানব পর্যালোচনা ও অনুমোদন দরকার। অভ্যন্তরীণ খসড়ায় ঝুঁকি কম, তবু যাচাই দরকার।
  6. ডেটা রক্ষা করুন। বিষয়বস্তুর সংবেদনশীলতার জন্য অনুমোদিত টুল ব্যবহার করুন। যেখানে পারেন গোপন ও ব্যক্তিগত ডেটা সরান, এবং কখনো পরিচয়পত্র পেস্ট করবেন না।
  7. সংখ্যা, নাম ও সময় যাচাই করুন। বানানো তথ্য সবচেয়ে বেশি এখানেই দেখা দেয়। খসড়ার প্রতিটি সংখ্যা উৎসের সঙ্গে মেলান।
  8. প্রকৃত ঘটনায় পরীক্ষা করুন। অতীতের যেসব ইনসিডেন্ট ও টিকিটের সত্য আপনি জানেন তাতে পদ্ধতিটি চালান, এবং কোথায় ব্যর্থ হয় লিখে রাখুন। ফল ভাগ করুন এবং আপনার নির্দেশ হালনাগাদ করুন।
  9. ব্যবহার লগ করুন। উৎস ও পর্যালোচকসহ লিখুন যে এআই সাহায্য করেছে। কোন কাজ উপযুক্ত শিখতে সংশোধনগুলো ট্র্যাক করুন।
  10. পর্যালোচনা করুন ও বন্ধ করুন। কোন ব্যবহার সময় বাঁচায় আর কোনটি পুনরায় কাজ করায় পর্যালোচনা করুন। যেগুলো সাহায্য করে না সেগুলো বন্ধ করুন।

দলের সঙ্গে আলোচনার প্রশ্ন

আমাদের ইনসিডেন্ট ও পরিবর্তনের কাজে কোন লেখা ও পড়ার কাজ সবচেয়ে বেশি সময় নেয়, এবং কোনগুলো কম ঝুঁকির? একটি তালিকা বানান। টাইমলাইন, স্ট্যাটাস আপডেট, পর্যালোচনার খসড়া ও পরিবর্তনের বিবরণ আশা করুন। ঝুঁকি অনুযায়ী সাজান। পরবর্তী ধাপে এআই দিয়ে চেষ্টা করার জন্য একটি কম-ঝুঁকির কাজ বাছুন।

একটি এআই-লিখিত ইনসিডেন্ট সারসংক্ষেপে ভরসা করার আগে আমাদের কী যাচাই করতে হবে? সময়, কারণ ও প্রভাবের কথা ভাবুন। সময় ও কারণ যাচাই দরকার সে বিষয়ে সম্মতি আশা করুন। পরবর্তী ধাপে একটি ছোট চেকলিস্ট লিখুন।

কোন তথ্য কখনো এআই টুলে যাওয়া উচিত নয়, এবং আমরা কীভাবে তা মানা সহজ করব? গোপন তথ্য, ব্যক্তিগত ডেটা ও নিরাপত্তার বিবরণের তালিকা করুন। কী গণ্য হয় তা নিয়ে বিভ্রান্তি আশা করুন। পরবর্তী ধাপে একটি সরল নিয়ম এবং বাকিগুলোর জন্য একটি নিরাপদ টুলে সম্মত হোন।

এআই সারসংক্ষেপ বা খসড়া আমাদের জ্ঞান ভান্ডার খারাপ করছে কি না আমরা কীভাবে জানব? ভুল ধাপ ও পুনরাবৃত্ত ত্রুটির কথা ভাবুন। "আমরা জানব না" আশা করুন। পরবর্তী ধাপে প্রতি মাসে এআই-সহায়তায় লেখা নিবন্ধের নির্ভুলতার নমুনা নিন।

কখন আমরা এআইকে একটি পরিবর্তনের ঝুঁকি প্রস্তাব করতে দেব, এবং কে সিদ্ধান্ত নেবেন? আলোচনা করুন। অনুমোদন নিয়ে সতর্কতা এবং অনুপস্থিত তথ্যের প্রম্পটে স্বাচ্ছন্দ্য আশা করুন। পরবর্তী ধাপে সম্মত হোন যে এআই প্রশ্ন ও অতীতের অনুরূপ পরিবর্তন প্রস্তাব করতে পারে, আর ঝুঁকি রেটিং একজন ব্যক্তি করবেন।

আমাদের দলের কে এআই আউটপুট যাচাইয়ে ভালো, এবং কীভাবে সেই দক্ষতা ছড়াব? যাচাই করা একটি দক্ষতা। কয়েকজন আত্মবিশ্বাসী মানুষ আশা করুন। পরবর্তী ধাপে একটি ছোট অনুশীলন চালান, যেখানে দল একসঙ্গে একটি ত্রুটিপূর্ণ খসড়া যাচাই করে।

বাস্তবে: সেবা ব্যবস্থাপনার একটি উদাহরণ

একটি জাতীয় রেলওয়ের অপারেশন টেকনোলজি দল সিগন্যালিং সহায়তা ব্যবস্থা চালায়। প্রতিটি বড় ইনসিডেন্টের পর একজন প্রকৌশলী চ্যাট লগ, মনিটরিং গ্রাফ ও টিকিট নোট থেকে পর্যালোচনা লিখতে আধা দিন ব্যয় করেন। পর্যালোচনা দেরিতে আসে, এবং সাম্প্রতিকগুলো ছিল পাতলা।

দল প্রধান রেলওয়ের চুক্তির অধীন একটি ভেন্ডরের হোস্ট করা জেনারেটিভ এআই সহকারী, যে ইনপুট রাখে না বা তাতে প্রশিক্ষণ করে না, পর্যালোচনার প্রথম খসড়ার জন্য পরীক্ষা করেন। প্রতিটি ইনসিডেন্টের জন্য প্রকৌশলী চ্যাট লগ ও টিকিটের ইতিহাস রপ্তানি করেন, কর্মীদের নাম সরান, এবং সহকারীকে এই নির্দেশ দেন: শুধু সরবরাহ করা টেক্সট ব্যবহার করো; প্রতিটি এন্ট্রিতে উৎস লাইন উদ্ধৃত করে একটি টাইমলাইন তৈরি করো; যেমন বলা আছে তেমন প্রভাব তালিকাভুক্ত করো; কী সাহায্য করেছে এবং কী সাড়া ধীর করেছে তার তালিকা করো; টেক্সটে নেই এমন সবকিছু "উল্লেখ নেই" চিহ্নিত করো; এবং অনুমান আলাদা একটি লেবেল করা অংশে রাখো।

অতীতের একটি ইনসিডেন্টে প্রথম পরীক্ষায় খসড়ার টাইমলাইন নির্ভুল, শুধু একটি রিস্টার্টের সময় 02:15 দেওয়া ছাড়া, যেখানে চ্যাটে আছে "প্রায় সোয়া, আমার মনে হয়" আর টিকিটে 02:22; প্রকৌশলী তা সংশোধন করেন। খসড়াটি কারণ হিসেবে "একটি ত্রুটিপূর্ণ নেটওয়ার্ক সুইচ" তালিকাভুক্ত করে, যা চ্যাটে একটি অনুমান হিসেবে এসেছিল এবং পরে ভুল প্রমাণিত হয়েছিল; নির্দেশ অনুযায়ী পর্যালোচনা এটিকে অনুমানে সরিয়েছিল, কিন্তু ভুল প্রমাণ হওয়ার কথা লেখেনি। প্রকৌশলী দুটিই ঠিক করেন এবং চার ঘণ্টার বদলে দুই ঘণ্টায় খসড়া দলকে পাঠান।

দশটি ইনসিডেন্টের পর দল অনুমান করে প্রথম খসড়া প্রায় এক-তৃতীয়াংশ সময় নেয়। তারা একটি নিয়ম যোগ করে যে প্রকৌশলী প্রতিবার প্রতিটি সময় ও কারণ উৎসের সঙ্গে যাচাই করবেন, এবং পর্যালোচনায় লেখা থাকবে যে এআই প্রথম সংস্করণ খসড়া করেছে। তারা আরও সিদ্ধান্ত নেয় যে পরিবর্তনের রেকর্ডে ঝুঁকি রেটিং করতে এখনো এআই ব্যবহার করবে না।

যা বদলায়: পর্যালোচনা এক দিনের মধ্যে আসে এবং কী সাহায্য করেছে তার বিবরণ বেশি থাকে। যা এখনো কঠিন: প্রকৌশলীরা মাঝে মাঝে কারণের এমন বিবরণ মেনে নেন যা প্রমাণ কেবল দুর্বলভাবে সমর্থন করে; রপ্তানি করা চ্যাটে কখনো কখনো গোপনীয় বিবরণ থেকে যায়; এবং একজন প্রকৌশলী উদ্বিগ্ন যে খসড়া লেখার দক্ষতা ম্লান হবে। প্রধান একটি ত্রৈমাসিক সেশন ঠিক করেন, যেখানে প্রকৌশলীরা এআই ছাড়া একটি পর্যালোচনা লেখেন, এবং তুলনা করেন।

চারটি দৃষ্টিকোণ

পণ্য ও ডেলিভারি দল

নিজেদের রেকর্ড থেকে পরিবর্তনের বিবরণ, পরীক্ষার ধারণা ও রিলিজ নোট খসড়া করতে এআই ব্যবহার করুন, এবং পর্যালোচনা করুন। তৈরি করা কোডকে অবিশ্বস্ত ধরুন: অন্য যেকোনো পরিবর্তনের মতো পরীক্ষা ও স্ক্যান করুন।

সেবা ও অপারেশন দল

থ্রেডের সারসংক্ষেপ এবং আপডেট, পর্যালোচনা ও নিবন্ধ খসড়া করতে এআই ব্যবহার করুন, উৎস সংযুক্ত করে। প্রতিটি সময়, নাম ও কারণ যাচাই করুন, এবং যা প্রকাশ করেন তার মালিক হোন।

নেতৃত্ব ও শাসন

ডেটা ও অনুমোদনের নিয়ম ঠিক করুন, এবং সেগুলো মানে এমন টুলে অর্থ দিন। বাঁচানো সময় ও ধরা পড়া ত্রুটির প্রমাণ চান। এআই আউটপুটকে তথ্যের রেকর্ড হিসেবে গ্রহণ করবেন না।

গ্রাহক ও ব্যবহারকারী

আপনার একজন ব্যক্তির যাচাই করা আপডেট পাওয়া উচিত। যা পান তাতে ভুল দেখলে সরবরাহকারীকে জানান। আপনাকে যা বলা হয় তাতে এআই কীভাবে ব্যবহৃত হয় জিজ্ঞাসা করুন।

এজাইল, এআই, অটোমেশন ও বিশ্লেষণ

এজাইল

যাঁরা কাজটি করেন তাঁদের সঙ্গে একবারে একটি লেখার কাজ পরীক্ষা করুন, ফিডব্যাক সংগ্রহ করুন এবং নির্দেশ উন্নত করুন। পর্যালোচনা ছোট ও ঘন ঘন রাখুন। সতর্কতা: দ্রুততর খসড়াকে প্রতিফলন ছোট করতে দেবেন না; পর্যালোচনার মূল্য শেখায়।

এআই

প্রতিটি ব্যবহার রেকর্ডে ভিত্তি করুন, উৎস দেখান এবং একজন ব্যক্তিকে জবাবদিহি রাখুন। অতীতের ঘটনায় পরীক্ষা করুন এবং এআই ব্যবহার লিখে রাখুন। সতর্কতা: সাবলীল টেক্সট দুর্বল প্রমাণ লুকায়; মডেলকে আস্থা ও উৎস লেবেল করতে বলুন এবং তা যাচাই করুন। দেখুন বিষয় 5.7 — এআই দক্ষতা ও প্রম্পট।

অটোমেশন

নলকূপের কাজ স্বয়ংক্রিয় করুন: রেকর্ড রপ্তানি, গোপন তথ্য সরানো, মডেল ডাকা, টিকিটে খসড়া সংযুক্ত করা এবং পর্যালোচককে জানানো। প্রকাশের আগে একটি পর্যালোচনা গেট রাখুন। সতর্কতা: খসড়া স্বয়ংক্রিয়ভাবে প্রকাশ করা পাইপলাইন ভুল ছড়ায়; অনুমোদন দাবি করুন। দেখুন বিষয় 6.2 — ওয়ার্কফ্লো অটোমেশন ও অর্কেস্ট্রেশন।

বিশ্লেষণ

পর্যালোচনা তৈরির সময়, খসড়ায় করা সম্পাদনা, ধরা পড়া ত্রুটি এবং কাজের ধরন অনুযায়ী ব্যবহার ট্র্যাক করুন। সতর্কতা: তৈরি খসড়া গোনা পরিমাণকে পুরস্কৃত করে, এবং বাঁচানো সময় প্রায়ই আন্দাজ করা হয়; চূড়ান্ত নথির মানের নমুনা নিন। দেখুন Service Management Metrics বই এবং বিষয় 7.3 — পরিমাপ ও প্রতিবেদন।

সাধারণ ব্যর্থতার ধরন

  • স্মৃতি থেকে তথ্য। মডেল সময় ও কারণ বানায়। রেকর্ড দিন এবং উদ্ধৃতি দাবি করুন।
  • অপর্যালোচিত বাহ্যিক আপডেট। ভুল তথ্য গ্রাহকদের কাছে পৌঁছায়। মানব অনুমোদন দাবি করুন।
  • প্রম্পটে গোপন তথ্য। সংবেদনশীল ডেটা ফাঁস হয়। অনুমোদিত টুল ব্যবহার করুন এবং গোপন তথ্য সরান।
  • রাবার স্ট্যাম্প। পর্যালোচকেরা যাচাই না করে খসড়া মেনে নেন। একটি চেকলিস্ট দিন এবং পর্যালোচনার নমুনা নিন।
  • মডেলকে হেরফের করা ইনপুট। বৈরী টেক্সট আচরণ বদলায়। ইনপুটকে অবিশ্বস্ত ধরুন।
  • ঝুঁকি রেটিংয়ে এআই। একটি সাবলীল "কম" বিশ্বাস করা হয়। প্রশ্ন করতে এআই ব্যবহার করুন, ঝুঁকি রেটিং মানুষ করুক।
  • দক্ষতার ক্ষয়। মানুষ লেখা ও যাচাই বন্ধ করে। অনুশীলন ও পর্যালোচনার মান বজায় রাখুন।

পরিপক্বতা মডেল

মাত্রা সূচনা বিকাশ মানসম্মতকরণ ব্যবস্থাপনা সমন্বয়
ব্যবহার ব্যক্তিগত পরীক্ষা ভাগ করা পরামর্শ ইনসিডেন্ট, জ্ঞান ও পরিবর্তনের জন্য অনুমোদিত ধরন ফল দিয়ে ধরন পর্যালোচিত শাসনসহ টুলে একীভূত ধরন
ভিত্তি ও যাচাই মডেলের স্মৃতি কিছু উৎস দেখানো উৎস উদ্ধৃত এবং রেকর্ডের বিপরীতে তথ্য যাচাই ত্রুটি ট্র্যাক করে ফিডব্যাক মানব স্বাক্ষরসহ আংশিক স্বয়ংক্রিয় যাচাই
ডেটা সুরক্ষা অস্পষ্ট সচেতনতা অনুমোদিত টুল ও নিয়ম সম্মতি মনিটর করা টুল ও পাইপলাইনে নিয়ন্ত্রণ গাঁথা
জবাবদিহি অস্পষ্ট অনানুষ্ঠানিক প্রতিটি আউটপুটের নামযুক্ত মালিক মালিক ও পর্যালোচনা নিরীক্ষিত সেবা জুড়ে জবাবদিহি একীভূত

চেকলিস্ট

  • আমরা জেনারেটিভ এআইয়ের জন্য কয়েকটি কম-ঝুঁকির লেখার কাজ বেছেছি।
  • আমরা মডেলকে রেকর্ড দিই এবং শুধু সেটি ব্যবহার করতে বলি।
  • আউটপুট উৎস উদ্ধৃত করে এবং তথ্য ও অনুমান আলাদা করে।
  • ভাগ করার আগে প্রতিটি আউটপুটের একজন নামযুক্ত ব্যক্তি মালিক ও পর্যালোচক।
  • সংবেদনশীল বিষয়বস্তুর জন্য আমরা অনুমোদিত টুল ব্যবহার করি এবং গোপন তথ্য সরাই।
  • আমরা সময়, নাম, সংখ্যা ও কারণ উৎসের বিপরীতে যাচাই করি।
  • আমরা লিখে রাখি কখন এআই সাহায্য করেছে এবং কে পর্যালোচনা করেছেন।
  • আমরা এআইকে একা পরিবর্তন অনুমোদন বা মূল কারণ ঘোষণা করতে দিই না।

এআই প্রম্পট

উৎসসহ একটি ইনসিডেন্ট টাইমলাইন তৈরি করুন।

Below is the chat log and ticket history of an incident, with names removed: [paste].
Produce a timeline table with columns: time (exactly as written; write "not stated" if no time), event, and the quoted source line. Then list impact as stated in the text, and a separate section "Hypotheses mentioned" with who raised each and whether the text shows it was confirmed or ruled out. Do not add anything not in the text.
List what you are unsure of.

সমাধান হওয়া টিকিট থেকে একটি জ্ঞান নিবন্ধ খসড়া করুন।

Here is a resolved ticket with notes, personal data removed: [paste]. Here are existing articles on related topics: [paste titles and summaries].
Draft a new article with a title in plain words, symptom, steps, and how to check it worked. Use only the ticket. Mark missing information with [missing], and list existing articles that might duplicate this one.
List what you are unsure of.

একটি পরিবর্তনের বিবরণ যাচাই করুন।

Here is a change description: [paste]. Our required items: [list].
List which required items are missing or unclear, list questions a reviewer should ask, and list any statements in the description that look inconsistent with each other. Do not rate the risk or recommend approval.
List what you are unsure of.

এআই স্কিল

  • postmortem: এআই খসড়া করে আর মানুষ মালিক হন এমন ইনসিডেন্ট পর্যালোচনা কাঠামোবদ্ধ করতে ব্যবহার করুন।
  • prompt-engineering: স্পষ্ট, ভিত্তিযুক্ত নির্দেশ লিখতে ব্যবহার করুন।
  • runbook: কার্যপদ্ধতিকে যাচাই ও পরীক্ষা করা রানবুকে রূপ দিতে ব্যবহার করুন।
  • release-notes: পর্যালোচনার জন্য রিলিজ নোট খসড়া করতে ব্যবহার করুন।
  • change-request: একটি ভালো পরিবর্তনের বিবরণে কী থাকে তা সংজ্ঞায়িত করতে ব্যবহার করুন।

মূল সূত্র

  • NIST, AI Risk Management Framework: এআই ব্যবহারের ঝুঁকি চিহ্নিত ও পরিচালনার একটি কাঠামো।
  • OWASP, বৃহৎ ভাষা মডেলের ওপর গড়া অ্যাপ্লিকেশনের ঝুঁকি নিয়ে নির্দেশিকা (owasp.org): প্রম্পট ইনজেকশন ও সংশ্লিষ্ট ঝুঁকি নিয়ে সম্প্রদায়ের পরামর্শ।
  • Wikipedia, "Generative AI" ও "Hallucination (artificial intelligence)": প্রযুক্তি ও তার প্রধান ব্যর্থতার ধরনের পরিচিতি।
  • Wikipedia, "Automation bias": কেন মানুষ স্বয়ংক্রিয় পরামর্শে অতিরিক্ত ভরসা করে।

তথ্যসূত্র

  1. Generative AI — Wikipedia — https://en.wikipedia.org/wiki/Generative_AI
  2. Large language model — Wikipedia — https://en.wikipedia.org/wiki/Large_language_model
  3. Hallucination (artificial intelligence) — Wikipedia — https://en.wikipedia.org/wiki/Hallucination_(artificial_intelligence)
  4. Retrieval-augmented generation — Wikipedia — https://en.wikipedia.org/wiki/Retrieval-augmented_generation
  5. Automatic summarization — Wikipedia — https://en.wikipedia.org/wiki/Automatic_summarization
  6. Prompt injection — Wikipedia — https://en.wikipedia.org/wiki/Prompt_injection
  7. Automation bias — Wikipedia — https://en.wikipedia.org/wiki/Automation_bias
  8. Context window — Wikipedia — https://en.wikipedia.org/wiki/Context_window
  9. Postmortem documentation — Wikipedia — https://en.wikipedia.org/wiki/Postmortem_documentation
  10. Audit trail — Wikipedia — https://en.wikipedia.org/wiki/Audit_trail
  11. AI Risk Management Framework — NIST — https://www.nist.gov/itl/ai-risk-management-framework
  12. OWASP — OWASP Foundation — https://owasp.org

সেবা ব্যবস্থাপনা নির্দেশিকা — এজাইল, এআই, অটোমেশন ও বিশ্লেষণসহ সেবা ব্যবস্থাপনা।

উৎস ও অবদান: github.com/service-management-guide. যা দিয়ে তৈরি Lily Design System™.

প্রতিষ্ঠাতা Joel Parker Henderson.