কেন এটি গুরুত্বপূর্ণ

সেবা ব্যবস্থাপনায় এআই-এর এখন পর্যন্ত বেশিরভাগ ব্যবহার পরামর্শমূলক। একটি মডেল টিকিট পড়ে একটি শ্রেণি প্রস্তাব করে, বা একটি উত্তর খসড়া করে যা একজন ব্যক্তি সম্পাদনা করেন। পরামর্শ ভুল হলে কিছু ঘটার আগেই একজন মানুষ তা লক্ষ করেন। একটি এআই এজেন্ট তা বদলে দেয়। তাকে টুল দেওয়া হয়: সে ব্যবস্থায় কোয়েরি করতে, রেকর্ড হালনাগাদ করতে, কমান্ড চালাতে, টিকিট খুলতে ও বন্ধ করতে এবং বার্তা পাঠাতে পারে। সে লক্ষ্যের দিকে ধাপ পরিকল্পনা করে ও কার্যকর করে, প্রায়ই নির্দেশ ও ফলের মাঝে সামান্য মানব সম্পৃক্ততায়।

এটি বাস্তব মূল্যের প্রতিশ্রুতি দেয়। একটি এজেন্ট লগ টেনে, সাম্প্রতিক পরিবর্তন যাচাই করে এবং সারসংক্ষেপ পোস্ট করে একটি সতর্কবার্তা তদন্ত করতে পারে। সে একটি নিয়মিত অনুরোধ শুরু থেকে শেষ পর্যন্ত সামলাতে পারে: যোগ্যতা যাচাই, অ্যাকাউন্ট তৈরি, ব্যবহারকারীকে জানানো। সে একটি সংশোধন খসড়া করে পুল রিকোয়েস্ট খুলতে পারে। ভালোভাবে করলে সে ব্যস্ত মানুষের কাছ থেকে নিয়মিত কাজ নিয়ে নেয় এবং যেকোনো সময় কাজ করে।

এটি ঝুঁকির প্রকৃতিও বদলায়। ভুল উত্তর একটি অসুবিধা। ভুল কাজ ডেটা মুছতে, ভুল ব্যক্তিকে অ্যাক্সেস দিতে, একটি সেবা নামিয়ে দিতে বা দশ হাজার গ্রাহকের কাছে বার্তা পাঠাতে পারে। যে গতি এজেন্টকে কাজের করে, সেই গতিই তার ভুল দ্রুত ছড়ায়। আর এজেন্ট আক্রমণের মুখে: টিকিট বা ওয়েব পাতায় লুকানো একটি বৈরী নির্দেশ কাজ করার ক্ষমতাসম্পন্ন এজেন্টকে চালিত করতে পারে।

এই বিষয়টি সেবা ব্যবস্থাপনায় এজেন্ট নিরাপদে ব্যবহারের মূল ধারণা নির্ধারণ করে: পরিধি, অনুমতি, অনুমোদন, নিরীক্ষা ও থামানো। এটি বিষয় 5.1 — সেবা ব্যবস্থাপনায় এআই এবং বিষয় 5.6 — এআই শাসন, ঝুঁকি ও সম্মতি-র ওপর গড়া, এবং অটোমেশন (বিষয় 6.1 — অটোমেশন কৌশল ও বিষয় 6.6 — রানবুক অটোমেশন ও স্বয়ংক্রিয় প্রতিকার), চেঞ্জ এনাবলমেন্ট (বিষয় 3.4 — চেঞ্জ এনাবলমেন্ট) ও তথ্য নিরাপত্তার (বিষয় 3.13 — তথ্য নিরাপত্তা ব্যবস্থাপনা) সঙ্গে যুক্ত।

মূল ধারণা

এআই এজেন্ট। যে ব্যবস্থা পরিবেশ উপলব্ধি করে, সিদ্ধান্ত নেয় এবং লক্ষ্য অর্জনে কাজ করে। Wikipedia বুদ্ধিমান এজেন্ট ও এআই এজেন্ট বর্ণনা করে। বর্তমান চর্চায় একটি এজেন্ট সাধারণত একটি ভাষা মডেলকে টুল ও একটি লুপের সঙ্গে মেলায়: মডেল ঠিক করে পরে কী করবে, একটি টুল ডাকে, ফল পড়ে, এবং শেষ হয়েছে ঠিক করা বা সীমায় পৌঁছানো পর্যন্ত চালিয়ে যায়।

টুল ও অনুমতি। এজেন্ট যেসব কাজ করতে পারে তার সেট, যেমন জ্ঞান ভান্ডার পড়া, মনিটরিংয়ে কোয়েরি, টিকিট তৈরি বা একটি সেবা পুনরায় চালু। টুল প্রায়ই অ্যাপ্লিকেশন প্রোগ্রামিং ইন্টারফেসের (API) মাধ্যমে উন্মুক্ত হয়। Wikipedia API বর্ণনা করে। Wikipedia-য় বর্ণিত Model Context Protocol-এর মতো মডেলকে টুলের সঙ্গে যুক্ত করার উন্মুক্ত প্রোটোকল টুল যোগ করা সহজ করে, যা কাজের এবং এজেন্ট কী করতে পারে তাও বিস্তৃত করে। প্রতিটি টুলের নিজস্ব ঝুঁকি আছে।

স্বায়ত্তশাসনের স্তর। নিয়ন্ত্রণ নিয়ে ভাবার একটি কাজের উপায় হলো স্তর, শূন্য থেকে পূর্ণ পর্যন্ত। এক প্রান্তে এজেন্ট শুধু প্রস্তাব করে। তারপর সে অনুমোদনের জন্য একটি কাজ প্রস্তুত করে। তারপর সে সংকীর্ণ সীমার মধ্যে একা কাজ করে ও জানায়। দূরের প্রান্তে সে পর্যালোচনা ছাড়াই ব্যাপকভাবে কাজ করে। Wikipedia-র তত্ত্বাবধানমূলক নিয়ন্ত্রণ নিবন্ধ স্বয়ংক্রিয় ব্যবস্থার ওপর মানব তত্ত্বাবধানের ধারণা বর্ণনা করে। ত্রুটির খরচ এবং তা ফেরানোর সক্ষমতার ভিত্তিতে প্রতিটি কাজের জন্য স্তর বাছুন।

মানব তত্ত্বাবধান। একজন ব্যক্তি এজেন্টকে বুঝতে, অনুমোদন করতে, থামাতে বা সংশোধন করতে সক্ষম থাকেন। Wikipedia মানব-লুপে ব্যবস্থা বর্ণনা করে। তত্ত্বাবধান কয়েকটি রূপ নেয়: ঘটার আগে কাজ অনুমোদন, ঘটার সময় কাজ মনিটরিং, এবং পরে পর্যালোচনা। সঠিক রূপ নির্ভর করে গতি ও ঝুঁকির ওপর। অপরিবর্তনীয় কাজে ঘটনার পরে পর্যালোচনা কোনো কাজে আসে না।

স্বয়ংক্রিয়তা পক্ষপাত ও রাবার স্ট্যাম্প। ব্যবস্থা যা প্রস্তাব করে মানুষ তা অনুমোদন করে ফেলে, বিশেষ করে যখন অনুমোদন ঘন ঘন আসে এবং দেখতে একই রকম। Wikipedia স্বয়ংক্রিয়তা পক্ষপাত বর্ণনা করে। মানুষ না পড়ে যে নিয়ন্ত্রণ অনুমোদন করে তা নিয়ন্ত্রণ নয়। এমনভাবে অনুমোদন নকশা করুন, যাতে কী ঘটবে তা দেখায়, পড়ার মতো বিরল হয়, এবং নমুনা দিয়ে যাচাই হয়।

ন্যূনতম অধিকার। একটি এজেন্টের কাজের জন্য যতটুকু দরকার ঠিক ততটুকু অনুমতি থাকা উচিত, ঠিক যতক্ষণ দরকার। Wikipedia ন্যূনতম অধিকারের নীতি বর্ণনা করে। এজেন্টের জন্য আলাদা পরিচয় ব্যবহার করুন, ভাগ করা অ্যাডমিনিস্ট্রেটর অ্যাকাউন্ট নয়, যাতে কাজ ট্রেস এবং অনুমতি সীমিত করা যায়।

বিভ্রান্ত প্রতিনিধি। একটি নিরাপত্তা সমস্যা, যেখানে একটি বিশ্বস্ত প্রোগ্রামকে ধোঁকা দিয়ে এমন কারও পক্ষে তার কর্তৃত্ব ব্যবহার করানো হয়, যাঁর সেই কর্তৃত্ব নেই। Wikipedia বিভ্রান্ত প্রতিনিধি সমস্যা বর্ণনা করে। যে এজেন্ট উচ্চ অধিকারে কাজ করতে পারে এবং কম-বিশ্বস্ত টেক্সট, যেমন ব্যবহারকারীর বার্তা, থেকে নির্দেশ নেয় সে একটি চিরায়ত উদাহরণ।

প্রম্পট ইনজেকশন। এজেন্ট যে বিষয়বস্তু পড়ে, যেমন টিকিট, ইমেইল, ওয়েব পাতা বা লগ লাইন, তাতে লুকানো বৈরী নির্দেশ। Wikipedia প্রম্পট ইনজেকশন বর্ণনা করে। মডেল নির্ভরযোগ্যভাবে নির্দেশ ও ডেটা আলাদা করতে পারে না, তাই বিষয়বস্তুর উৎস এজেন্টকে অন্যদিকে ঘোরাতে চেষ্টা করতে পারে। প্রতিরক্ষা বেশিরভাগ নির্ভর করে এজেন্ট কী করতে পারে তা সীমিত করার ওপর, খারাপ টেক্সট উপেক্ষা করতে মডেলকে রাজি করানোর ওপর নয়।

স্যান্ডবক্সিং। ব্যবস্থা ও ডেটায় সীমিত প্রবেশাধিকারসহ সীমাবদ্ধ পরিবেশে এজেন্ট চালানো। Wikipedia কম্পিউটার নিরাপত্তায় স্যান্ডবক্স বর্ণনা করে। প্রোডাকশনে কাজ করার আগে এজেন্টকে একটি পরীক্ষার পরিবেশে কাজ চেষ্টা করতে দিন।

ফেরানোর সক্ষমতা। যে কাজ ফেরানো যায় তা পছন্দ করুন: টিকিট তৈরি, লেবেল যোগ, পরিবর্তন প্রস্তাব। মুছে ফেলা, অর্থ প্রদান এবং বাইরে বার্তা পাঠানোর মতো অপরিবর্তনীয় কাজকে অনুমোদন দরকার বা নিষিদ্ধ ধরুন। Wikipedia ডেটা ব্যবস্থাপনায় রোলব্যাক বর্ণনা করে।

সীমা ও সার্কিট ব্রেকার। এজেন্ট প্রতি ঘণ্টায় কতটি কাজ করতে পারে, কত খরচ করতে পারে, একসঙ্গে কতগুলো আইটেম বদলাতে পারে এবং কতক্ষণ চলতে পারে তার ঊর্ধ্বসীমা। Wikipedia হার সীমাবদ্ধতা বর্ণনা করে। একটি সীমা নিয়ন্ত্রণহীন ঘটনাকে সীমাবদ্ধ ত্রুটিতে পরিণত করে।

কিল সুইচ। একটি এজেন্ট থামাতে ও তার প্রবেশাধিকার প্রত্যাহার করতে দ্রুত ও নির্ভরযোগ্য উপায়। Wikipedia কিল সুইচ বর্ণনা করে। এটি পরীক্ষা করুন। যে কিল সুইচ এজেন্টের নিজের সহযোগিতার ওপর, বা বন্ধ থাকা কোনো ব্যবস্থার ওপর নির্ভর করে তা কিল সুইচ নয়।

নিরীক্ষা ট্রেইল। এজেন্টকে কী বলা হয়েছিল, সে কী সিদ্ধান্ত নিয়েছে, কোন ইনপুটে কোন টুল ডেকেছে এবং কী ঘটেছে তার সম্পূর্ণ রেকর্ড। Wikipedia নিরীক্ষা ট্রেইল বর্ণনা করে। এটি ছাড়া আপনি ভুল তদন্ত, সম্মতি দেখানো বা শেখা করতে পারবেন না।

জবাবদিহি। এজেন্ট জবাবদিহি করে না; মানুষ করে। একজন নামযুক্ত মালিক এজেন্ট যা করে, তার অনুমতি এবং তার রেকর্ড পর্যালোচনার জন্য দায়ী। Wikipedia জবাবদিহি বর্ণনা করে। দেখুন বিষয় 2.8 — পণ্য ও সার্ভিসের মালিকানা।

বহু-এজেন্ট ব্যবস্থা। একসঙ্গে কাজ করা কয়েকটি এজেন্ট জটিলতা, ক্রমান্বয়ে ছড়ানো ত্রুটি এবং অস্পষ্ট দায়িত্ব যোগ করতে পারে। Wikipedia বহু-এজেন্ট ব্যবস্থা বর্ণনা করে। প্রতিটি এজেন্টের পরিধি ও অনুমতি আলাদাভাবে দেখুন, এবং এজেন্ট অন্য এজেন্টকে নির্দেশ দেওয়ার ব্যাপারে সতর্ক থাকুন।

দায়িত্বের পৃথকীকরণ। কোনো একক পক্ষ একা ঝুঁকিপূর্ণ কাজ সম্পন্ন করতে পারবে না, এই ধারণা এজেন্টের ক্ষেত্রেও প্রযোজ্য। যে এজেন্ট একটি পরিবর্তন প্রস্তাব করে সে-ই তা অনুমোদন করবে না। Wikipedia দায়িত্বের পৃথকীকরণ বর্ণনা করে।

দৃষ্টিকোণগুলো কীভাবে খাপ খায়। এজেন্ট বসে যেখানে এআই অটোমেশনের সঙ্গে মেলে। এজাইল অনুশীলন ছোট শুরু করে প্রমাণসহ ধাপে ধাপে স্বায়ত্তশাসন বাড়াতে প্রস্তাব করে। বিশ্লেষণ মাপে এজেন্ট কী করে ও কী ভুল করে। শাসন (দেখুন বিষয় 5.6 — এআই শাসন, ঝুঁকি ও সম্মতি) নিয়ম ঠিক করে।

সেরা অনুশীলন

  1. পরিধি লিখিতভাবে সংজ্ঞায়িত করুন। এজেন্ট কীসের জন্য, কী করতে পারে, কখনো কী করতে পারবে না এবং কোন ডেটা ছুঁতে পারে লিখুন। প্রথমে সংকীর্ণ রাখুন।
  2. প্রতিটি এজেন্টকে নিজস্ব পরিচয় দিন। কাজের পরিধিতে সীমিত ন্যূনতম অনুমতিসহ আলাদা অ্যাকাউন্ট ব্যবহার করুন, এবং পরিচয়পত্র ঘোরান বা মেয়াদোত্তীর্ণ করুন। মানব অ্যাডমিনিস্ট্রেটর অ্যাকাউন্ট পুনরায় ব্যবহার করবেন না।
  3. ঝুঁকি অনুযায়ী স্বায়ত্তশাসনের স্তর বাছুন। এজেন্টকে প্রথমে প্রস্তাব করতে দিন, তারপর কম-ঝুঁকির ফেরানো যায় এমন কাজে কাজ করতে দিন, এবং গুরুত্বপূর্ণ বা অপরিবর্তনীয় যেকোনো কিছুর জন্য অনুমোদন দাবি করুন। প্রতিটি কাজের জন্য স্তর লিখে রাখুন।
  4. মানুষ পড়বে এমন অনুমোদন নকশা করুন। প্রস্তাবিত কাজ, কারণ, প্রমাণ ও প্রভাব দেখান। অনুমোদন পড়ার মতো বিরল রাখুন, এবং মানের জন্য অনুমোদিত আইটেমের নমুনা নিন।
  5. আগে স্যান্ডবক্সে পরীক্ষা করুন। প্রোডাকশন ছোঁয়ার আগে বৈরী ক্ষেত্রসহ বাস্তবসম্মত ক্ষেত্রে একটি নিরাপদ কপির বিপরীতে এজেন্ট চালান।
  6. ইনপুটকে অবিশ্বস্ত ধরুন। টিকিট, ইমেইল বা ওয়েবের বিষয়বস্তুকে কর্তৃত্ব দিতে দেবেন না। অবিশ্বস্ত বিষয়বস্তু প্রক্রিয়া করার সময় এজেন্টের উপলব্ধ টুল সীমিত করুন।
  7. ক্ষতির পরিধি সীমিত করুন। কাজের সংখ্যা, পরিবর্তনের পরিমাণ, খরচ ও সময়ে সীমা বসান। বাল্ক কাজকে আলাদা, অনুমোদিত ধাপ করুন।
  8. সবকিছু লগ করুন এবং পর্যালোচনা করুন। সম্পূর্ণ ট্রেইল রাখুন, এমন জায়গায় সংরক্ষণ করুন যেখানে এজেন্ট তা বদলাতে পারে না, এবং নিয়মিত নমুনা পর্যালোচনা করুন। অস্বাভাবিক ধরনে সতর্ক করুন।
  9. কিল সুইচ বানান ও পরীক্ষা করুন। এটি দ্রুত, এজেন্ট-নিরপেক্ষ এবং অন-কল মানুষদের জানা রাখুন। এর মহড়া দিন।
  10. ধীরে স্বায়ত্তশাসন বাড়ান। ভালো ফলের একটি সময়ের পরেই আরও দিন, একজন নামযুক্ত মালিকের অনুমোদন ও মাপা ত্রুটির হারসহ। সমস্যা দেখা দিলে কমান।

দলের সঙ্গে আলোচনার প্রশ্ন

আমরা যে অনুমতি দিতে চাই তা নিয়ে এই এজেন্ট সবচেয়ে খারাপ কী করতে পারে? টুল ধরে ধরে অনুমতিগুলো দেখুন। অস্বস্তি আশা করুন। পরবর্তী ধাপে যে অনুমতির সবচেয়ে খারাপ পরিণতি আমরা মেনে নেব না তা সরান বা সীমিত করুন।

এর কোন কাজগুলো আমরা ফেরাতে পারি, আর কোনগুলো পারি না? তালিকা করুন। কিছু অপরিবর্তনীয় কাজ আশা করুন, যেগুলো নিরাপদ ধরা হয়েছিল। পরবর্তী ধাপে প্রতিটি অপরিবর্তনীয় কাজের জন্য অনুমোদন দাবি করুন।

অনুমোদনকারীরা কীভাবে জানবেন তাঁরা কী অনুমোদন করছেন, এবং কত ঘন ঘন অনুরোধ দেখবেন? ব্যস্ত দিনে অনুমোদনকারীকে কল্পনা করুন। লম্বা, একই রকম দেখতে অনুরোধ আশা করুন। পরবর্তী ধাপে একটি সারসংক্ষেপ এবং অনুমোদনের পরিমাণে সীমা নকশা করুন।

এজেন্টকে আমরা যা চাই না তা করাতে কেউ টিকিট বা ইমেইলে কী লিখতে পারে? আক্রমণকারী হিসেবে চেষ্টা করুন। বিস্ময় আশা করুন। পরবর্তী ধাপে অবিশ্বস্ত বিষয়বস্তু পড়ার সময় টুল সীমিত করার মতো প্রশমন বাছুন।

এখনই থামাতে হলে কে তা করবেন, কীভাবে, এবং কতক্ষণ লাগবে? ধাপগুলো চান এবং মহড়া দিন। অনিশ্চয়তা আশা করুন। পরবর্তী ধাপে এক পাতার থামানোর পদ্ধতি লিখুন এবং পরীক্ষা করুন।

এই এজেন্টের মালিক কে, এবং তিনি প্রতি সপ্তাহে কী পর্যালোচনা করেন? ব্যক্তি ও পর্যালোচনার নাম দিন। ফাঁক আশা করুন। পরবর্তী ধাপে মালিকানা এবং সংজ্ঞায়িত প্রশ্নসহ একটি সাপ্তাহিক নমুনা পর্যালোচনা ঠিক করুন।

বাস্তবে: সেবা ব্যবস্থাপনার একটি উদাহরণ

একটি জাতীয় কর সংস্থার অবকাঠামো দল রাতে প্রোডাকশন সতর্কবার্তা তদন্ত করতে একটি এজেন্ট চায়। বর্তমানে একজন অন-কল প্রকৌশলীকে বেশিরভাগ সতর্কবার্তায় জাগানো হয়, তিনি প্রেক্ষাপট জোগাড়ে 15 থেকে 30 মিনিট ব্যয় করেন, এবং প্রায়ই দেখেন কারণটি নথিবদ্ধ সংশোধনসহ একটি জানা সমস্যা।

দল এজেন্টকে তিন ধাপে নকশা করে। প্রথম ধাপে এজেন্টের শুধু পড়ার প্রবেশাধিকার: সে মেট্রিক, লগ, সাম্প্রতিক পরিবর্তনের রেকর্ড ও জ্ঞান ভান্ডারে কোয়েরি করতে এবং ব্যবহৃত প্রমাণসহ ইনসিডেন্ট চ্যানেলে সারসংক্ষেপ পোস্ট করতে পারে। দ্বিতীয় ধাপে সে ফেরানো যায় এমন অল্প কয়েকটি কাজও করতে পারে, যেমন একটি স্টেটলেস সেবা পুনরায় চালু বা একটি ওয়ার্কার পুল দুটি ইনস্ট্যান্স বাড়ানো, শুধু যখন সতর্কবার্তা একটি নথিবদ্ধ রানবুকের সঙ্গে মেলে, ঘণ্টায় তিনটি কাজের সীমা এবং প্রতিটির পর চ্যানেলে একটি পোস্টসহ। তৃতীয় ধাপে, যা এখনো অনুমোদিত নয়, মানব অনুমোদনের জন্য কনফিগারেশন পরিবর্তন প্রস্তাব করার অনুমতি থাকবে।

এজেন্টের নিজস্ব সার্ভিস অ্যাকাউন্ট আছে, প্রোডাকশনে শুধু পড়ার প্রবেশাধিকার এবং দুটি নামযুক্ত কাজসহ। সে টিকিটের টেক্সট ও লগ পড়ে, যাতে বৈরী বিষয়বস্তু থাকতে পারে, তাই মুক্ত টেক্সট পড়ার সময় সে একই ধাপে কোনো কাজের টুল ডাকতে পারে না। অনুরোধ, টুল কল ও ফলের এজেন্টের সম্পূর্ণ রেকর্ড একটি আলাদা লগ ভান্ডারে যায়। একজন সিনিয়র প্রকৌশলী এজেন্টের মালিক, প্রতি সপ্তাহে দশটি সেশন পর্যালোচনা করেন, এবং একটি কমান্ডে এর পরিচয়পত্র নিষ্ক্রিয় করতে পারেন, যার মহড়া দল প্রতি মাসে দেয়।

প্রথম ধাপে দুই মাস পর অন-কল প্রকৌশলীরা 85 শতাংশ ক্ষেত্রে সারসংক্ষেপ সঠিক পান। 10 শতাংশে পরিবর্তনের রেকর্ড অসম্পূর্ণ থাকায় তারা একটি প্রাসঙ্গিক পরিবর্তন মিস করে, এবং 5 শতাংশে ভুল উপাদানের দিকে নির্দেশ করে। দ্বিতীয় ধাপ একটি রানবুক দিয়ে শুরু হয়। প্রথম মাসে এজেন্ট একটি সেবা তিনবার পুনরায় চালু করে, সঠিকভাবে। একটি পুলকে অনেক বড় সংখ্যায় বাড়ানোর লুকানো নির্দেশসহ তৈরি করা টিকিটের একটি পরীক্ষায় হার সীমা ও কাজের নিয়ম একে থামিয়ে দেয়।

যা বদলায়: প্রকৌশলীরা কম জাগেন এবং সারসংক্ষেপ ও প্রমাণসহ হাজির হন। যা এখনো কঠিন: নির্ভুল পরিবর্তনের রেকর্ডের ওপর এজেন্টের নির্ভরতা ডেটার মানের ফাঁক উন্মোচন করে; প্রকৌশলীরা কখনো নিজেদের যাচাইয়ের চেয়ে সারসংক্ষেপে বেশি ভরসা করেন; এবং নিরাপত্তা দল নিরীক্ষা লগের সংরক্ষণকাল বাড়ানো ও পর্যালোচনা করতে বলেছে। মালিক এসব লিখে রাখেন এবং একটি ত্রৈমাসিক ধরে দ্বিতীয় ধাপের ত্রুটির হার না মাপা পর্যন্ত তৃতীয় ধাপ আটকে রাখেন।

চারটি দৃষ্টিকোণ

পণ্য ও ডেলিভারি দল

স্পষ্ট অনুমতি, হার সীমা ও লগসহ নিরাপদ, সংকীর্ণ টুল উন্মুক্ত করুন। এজেন্টকে আপনার পাইপলাইন বা ডেটায় সর্বব্যাপী প্রবেশাধিকার দেবেন না। আপনার হুমকি মডেলে এজেন্টদের রাখুন।

সেবা ও অপারেশন দল

এজেন্টের পরিধির মালিক হোন, তার রেকর্ড পর্যালোচনা করুন এবং থামানোর মহড়া দিন। রানবুক নির্ভুল রাখুন, কারণ এজেন্ট সেগুলোর ওপর নির্ভর করে। ত্রুটি ও অল্পের জন্য বেঁচে যাওয়া জানান।

নেতৃত্ব ও শাসন

প্রতিটি কাজের জন্য কোন স্বায়ত্তশাসন গ্রহণযোগ্য ঠিক করুন, এবং একজন নামযুক্ত মালিক ও একটি নিরীক্ষা ট্রেইল দাবি করুন। ধাপে ধাপে পরীক্ষার প্রমাণ চান, এবং স্বায়ত্তশাসন কমাতে প্রস্তুত থাকুন। শুধু ভেন্ডরের আশ্বাসে নির্ভর করবেন না।

গ্রাহক ও ব্যবহারকারী

আপনার অনুরোধে কখন একটি স্বয়ংক্রিয় এজেন্ট কাজ করে তা আপনার জানা উচিত, এবং ভুল সংশোধন করতে পারেন এমন একজন ব্যক্তির কাছে যাওয়ার পথ থাকা উচিত। কোনো স্বয়ংক্রিয় কাজ ভুল হলে সরবরাহকারীকে জানান।

এজাইল, এআই, অটোমেশন ও বিশ্লেষণ

এজাইল

ছোট ধাপে প্রমাণসহ স্বায়ত্তশাসন বাড়ান, প্রতিটি ধাপ অংশীজনদের সঙ্গে পর্যালোচনা করুন, এবং প্রতিটি রিলিজ ছোট রাখুন। সতর্কতা: দ্রুত পুনরাবৃত্তি নিরাপত্তা পর্যালোচনাকে ছাড়িয়ে যেতে পারে; স্বায়ত্তশাসনের প্রতিটি বৃদ্ধির জন্য একটি গেট রাখুন।

এআই

এজেন্ট একটি এআই ব্যবস্থা, যার মালিক, পরীক্ষার ক্ষেত্র ও মনিটরিং আছে, এবং কাজ করে বলে তার বিশেষ যত্ন দরকার। প্রম্পট ইনজেকশন ও অতিরিক্ত ভরসার বিরুদ্ধে সতর্ক থাকুন। সতর্কতা: সতর্ক হতে মডেলকে বলা নির্দেশকে প্রধান নিয়ন্ত্রণ হিসেবে ধরবেন না; নির্ভর করুন অনুমতি, সীমা ও অনুমোদনের ওপর। দেখুন বিষয় 5.6 — এআই শাসন, ঝুঁকি ও সম্মতি।

অটোমেশন

এজেন্ট অটোমেশনের সঙ্গে যুক্ত: তারা কাজ বাছে ও ট্রিগার করে। কাজগুলো নিজে নির্ধারিত ও পরীক্ষিত রাখুন, নিজস্ব বৈধতা যাচাইসহ, যাতে এজেন্টের পছন্দ অনুমোদিত বিকল্পে সীমিত থাকে। সতর্কতা: এজেন্টের কাছ থেকে মুক্ত-রূপ কমান্ড নেওয়া অটোমেশন এজেন্টের মতোই ঝুঁকিপূর্ণ; সংকীর্ণ, নামযুক্ত কাজ উন্মুক্ত করুন। দেখুন বিষয় 6.6 — রানবুক অটোমেশন ও স্বয়ংক্রিয় প্রতিকার।

বিশ্লেষণ

নেওয়া কাজ, অনুমোদনের হার, ওভাররাইড, পর্যালোচনায় পাওয়া ত্রুটি, বাঁচানো সময় এবং অল্পের জন্য বেঁচে যাওয়া মাপুন। সতর্কতা: উচ্চ অনুমোদনের হার ভালো প্রস্তাব বা রাবার স্ট্যাম্প, দুটোই বোঝাতে পারে; অনুমোদিত আইটেমের নমুনা নিন। দেখুন Service Management Metrics বই এবং বিষয় 7.3 — পরিমাপ ও প্রতিবেদন।

সাধারণ ব্যর্থতার ধরন

  • বিস্তৃত অনুমতি। এজেন্টকে ভাগ করা অ্যাডমিন অ্যাকাউন্ট দেওয়া হয়। আলাদা ন্যূনতম-অধিকার পরিচয় ব্যবহার করুন।
  • কেউ পড়ে না এমন অনুমোদন। ঘন ঘন, অস্পষ্ট অনুরোধ রাবার স্ট্যাম্প হয়। বিরল, স্পষ্ট ও নমুনাকৃত করুন।
  • বৈরী টেক্সট এজেন্টকে চালায়। টিকিট বা ওয়েব পাতার বিষয়বস্তু কমান্ড দেয়। অবিশ্বস্ত ইনপুটের চারপাশে টুল সীমিত করুন।
  • সীমা নেই। একটি লুপ বা ভুল যন্ত্রের গতিতে চলে। কাজ, খরচ ও পরিধিতে ঊর্ধ্বসীমা দিন।
  • থামানোর বোতাম নেই। কেউ একে থামাতে পারে না। কিল সুইচ বানান ও মহড়া দিন।
  • রেকর্ড নেই। ইনসিডেন্ট তদন্ত করা যায় না। সম্পূর্ণ, সুরক্ষিত নিরীক্ষা ট্রেইল রাখুন।
  • উৎসাহে বাড়ানো স্বায়ত্তশাসন। প্রমাণ ছাড়াই এজেন্ট আরও ক্ষমতা পায়। মাপকাঠিসহ ধাপে ধাপে বাড়ান।

পরিপক্বতা মডেল

মাত্রা সূচনা বিকাশ মানসম্মতকরণ ব্যবস্থাপনা সমন্বয়
পরিধি ও অনুমতি বিস্তৃত বা অস্পষ্ট সংকীর্ণ পরীক্ষা লিখিত পরিধি, নিজস্ব পরিচয়, ন্যূনতম অধিকার পরিধি ও অনুমতি নিয়মিত পর্যালোচিত অনুমোদনসহ ঝুঁকি অনুযায়ী অনুমতি খাপ খায়
তত্ত্বাবধান নেই অনানুষ্ঠানিক পর্যালোচনা সংজ্ঞায়িত স্বায়ত্তশাসনের স্তর ও অনুমোদন গেট অনুমোদনের মান নমুনা ও মাপা এজেন্ট জুড়ে প্রমাণ দিয়ে তত্ত্বাবধান টিউন করা
নিরাপত্তা নিয়ন্ত্রণ নেই মৌলিক লগিং স্যান্ডবক্স, সীমা, পরীক্ষিত কিল সুইচ নিয়ন্ত্রণ নিরীক্ষিত ও অনুশীলিত সব এজেন্টের জন্য প্ল্যাটফর্মে নিয়ন্ত্রণ গাঁথা
জবাবদিহি অস্পষ্ট নির্মাতা মালিক সাপ্তাহিক পর্যালোচনাসহ নামযুক্ত মালিক মালিক মাপকাঠি ও ইনসিডেন্ট পর্যালোচনা করেন এজেন্ট ও দল জুড়ে মালিকানা সমন্বিত

চেকলিস্ট

  • এজেন্টের একটি লিখিত পরিধি ও একজন নামযুক্ত মালিক আছে।
  • সে ন্যূনতম-অধিকার অনুমতিসহ নিজস্ব পরিচয় ব্যবহার করে।
  • প্রতিটি কাজের জন্য স্বায়ত্তশাসনের স্তর সংজ্ঞায়িত, গুরুত্বপূর্ণ বা অপরিবর্তনীয় কাজের জন্য অনুমোদনসহ।
  • অনুমোদন কী ঘটবে তা দেখায় এবং মানের জন্য নমুনা করা হয়।
  • আমরা বৈরী ইনপুটসহ স্যান্ডবক্সে পরীক্ষা করেছি।
  • সীমা কাজ, খরচ ও পরিধিতে ঊর্ধ্বসীমা দেয়।
  • তার সম্পূর্ণ রেকর্ড এমন জায়গায় লগ করা, যেখানে সে বদলাতে পারে না, এবং পর্যালোচিত।
  • আমাদের একটি কিল সুইচ আছে এবং আমরা ব্যবহারের মহড়া দিয়েছি।

এআই প্রম্পট

একটি এজেন্টের পরিধি পরীক্ষা করুন।

Our agent's written scope is: [paste]. Its tools and permissions: [list].
List twenty scenarios, some inside the scope, some at the edge, and some that try to get the agent to act outside it or to use a tool in a harmful way, and for each state what the correct behavior is. Do not include real systems or data.
List what you are unsure of.

একটি কাজের লগ পর্যালোচনা করুন।

Here is a sample of an agent's action log, with identifiers removed: [paste].
List actions that look unusual in size, timing, or target, actions that did not match a documented runbook, and anything that looks like the agent following instructions from untrusted text. Quote each. Do not say whether the agent was right.
List what you are unsure of.

একটি অনুমোদনের বার্তা খসড়া করুন।

The agent proposes this action: [describe]. The evidence it used: [list]. What would change if it were done: [describe]. How to undo it: [describe or write "not known"].
Write a clear approval request of under 100 words for a busy approver, stating what will happen, why, the risk, and how to undo it. Do not recommend approval.
List what you are unsure of.

এআই স্কিল

  • risk-register: এজেন্টের ঝুঁকি, মালিক ও সিদ্ধান্ত লিপিবদ্ধ করতে ব্যবহার করুন।
  • runbook: এজেন্ট কোন কাজ কখন করতে পারবে তা সংজ্ঞায়িত করতে ব্যবহার করুন।
  • security-testing: বৈরী ইনপুটের বিরুদ্ধে এজেন্ট পরীক্ষা করতে ব্যবহার করুন।
  • incident-response-plan: এজেন্ট ভুল আচরণ করলে সাড়ার পরিকল্পনা করতে ব্যবহার করুন।
  • mlops: এজেন্টের পেছনের মডেল মনিটর ও সংস্করণ করতে ব্যবহার করুন।

মূল সূত্র

  • NIST, AI Risk Management Framework: স্বায়ত্তশাসিত ব্যবস্থাসহ এআই ঝুঁকি পরিচালনার একটি কাঠামো।
  • OWASP, বৃহৎ ভাষা মডেলের ওপর গড়া অ্যাপ্লিকেশনের ঝুঁকি নিয়ে নির্দেশিকা (owasp.org): প্রম্পট ইনজেকশন ও অতিরিক্ত এজেন্সিসহ।
  • Wikipedia, "AI agent" ও "Prompt injection": ধারণা ও একটি প্রধান নিরাপত্তা ঝুঁকির পরিচিতি।
  • Wikipedia, "Principle of least privilege": ক্ষতি সীমিত করার মৌলিক নিয়ন্ত্রণ।

তথ্যসূত্র

  1. Intelligent agent — Wikipedia — https://en.wikipedia.org/wiki/Intelligent_agent
  2. AI agent — Wikipedia — https://en.wikipedia.org/wiki/AI_agent
  3. Human-in-the-loop — Wikipedia — https://en.wikipedia.org/wiki/Human-in-the-loop
  4. Principle of least privilege — Wikipedia — https://en.wikipedia.org/wiki/Principle_of_least_privilege
  5. Confused deputy problem — Wikipedia — https://en.wikipedia.org/wiki/Confused_deputy_problem
  6. Prompt injection — Wikipedia — https://en.wikipedia.org/wiki/Prompt_injection
  7. Sandbox (computer security) — Wikipedia — https://en.wikipedia.org/wiki/Sandbox_(computer_security)
  8. Kill switch — Wikipedia — https://en.wikipedia.org/wiki/Kill_switch
  9. Audit trail — Wikipedia — https://en.wikipedia.org/wiki/Audit_trail
  10. Automation bias — Wikipedia — https://en.wikipedia.org/wiki/Automation_bias
  11. Rate limiting — Wikipedia — https://en.wikipedia.org/wiki/Rate_limiting
  12. OWASP — OWASP Foundation — https://owasp.org

সেবা ব্যবস্থাপনা নির্দেশিকা — এজাইল, এআই, অটোমেশন ও বিশ্লেষণসহ সেবা ব্যবস্থাপনা।

উৎস ও অবদান: github.com/service-management-guide. যা দিয়ে তৈরি Lily Design System™.

প্রতিষ্ঠাতা Joel Parker Henderson.