কেন এটি গুরুত্বপূর্ণ

এআই একটি প্রতিষ্ঠানে একসঙ্গে অনেক দরজা দিয়ে আসে। ভেন্ডররা আপনি ইতিমধ্যে যে টুলের জন্য অর্থ দেন তাতে এআই বৈশিষ্ট্য যোগ করে। দলগুলো সহকারী বানায়। ব্যক্তিরা কাজের জন্য পাবলিক চ্যাট টুল ব্যবহার করেন। প্রতিটি ব্যবহার এমন প্রশ্ন নিয়ে আসে যা প্রতিষ্ঠান হয়তো করেনি: কোন ডেটা ঢোকে, কে দেখে, কতটা নির্ভুল, এর সিদ্ধান্তে কারা প্রভাবিত হন, এবং ভুল হলে কে জবাব দেন।

শাসন ছাড়া এসব প্রশ্নের উত্তর দেওয়া হয় এক ব্যবহার একবারে, অসঙ্গতভাবে, বা একেবারেই না। পরিণতি বিব্রতকর থেকে গুরুতর পর্যন্ত: একটি পাবলিক টুলে পেস্ট করা গোপন নথি, কিছু গোষ্ঠীর সঙ্গে খারাপ আচরণ করা একটি বাছাই ব্যবস্থা, গ্রাহককে ভুল পরামর্শ দেওয়া একটি সহকারী, নিয়ন্ত্রণের প্রমাণ চেয়ে কিছু না পাওয়া একজন নিয়ন্ত্রক।

শাসনই উত্তর, এবং তা ভারী হওয়ার দরকার নেই। মূলে এটি অল্প কয়েকটি অভ্যাস: কোন এআই ব্যবহার করেন জানুন, প্রতিটি ব্যবহারের একজন মালিক দিন, কী ভুল হতে পারে তার অনুপাতে ঝুঁকি মূল্যায়ন করুন, পরীক্ষা ও মনিটর করুন, ডেটা ও মানব তত্ত্বাবধান নিয়ে নিয়ম ঠিক করুন, এবং রেকর্ড রাখুন। আইন ও মান দ্রুত বিকশিত হচ্ছে: Wikipedia-য় বর্ণিত ইউরোপীয় ইউনিয়নের কৃত্রিম বুদ্ধিমত্তা আইন ঝুঁকির শ্রেণি অনুযায়ী দায় নির্ধারণ করে, এবং অন্য অনেক এলাকায় নিয়ম বা প্রস্তাব আছে। এই বিষয়টি কাঠামো ও শব্দভান্ডার ব্যাখ্যা করে এবং আপনার বিদ্যমান শাসনে এআই শাসন কীভাবে বসাবেন তা দেখায়। এটি আইনি পরামর্শ দেয় না; যেকোনো আইনি প্রশ্নের জন্য একজন যোগ্য উপদেষ্টাকে জিজ্ঞাসা করুন।

নতুনতম ITIL সংস্করণ সম্পর্কে মালিকের বর্ণনা এআই-কে সেই পরিবেশের ভেতরে রাখে, যা সেবা ব্যবস্থাপনাকে সামলাতে হবে (দেখুন বিষয় 1.3 — ITIL 5)। এই বিষয়টি এআই-এর সাধারণ দৃষ্টিভঙ্গি (বিষয় 5.1 — সেবা ব্যবস্থাপনায় এআই), এজেন্ট (বিষয় 5.5 — এজেন্টিক এআই ও মানব তত্ত্বাবধান), পরিচালনা মডেল (বিষয় 5.8 — এআই পরিচালনা মডেল ও দক্ষতা) এবং প্রতিষ্ঠানব্যাপী শাসনের (বিষয় 8.1 — শাসন, ঝুঁকি ও সম্মতি) সঙ্গে যুক্ত।

মূল ধারণা

শাসন, ঝুঁকি ও সম্মতি (GRC)। শাসন হলো একটি প্রতিষ্ঠান কীভাবে পরিচালিত ও নিয়ন্ত্রিত হয়; ঝুঁকি ব্যবস্থাপনা লক্ষ্যের প্রতি হুমকি চিহ্নিত ও সামলায়; সম্মতি হলো আইন, চুক্তি ও নীতি থেকে আসা দায় পূরণ। Wikipedia GRC-কে তিনটির একটি সমন্বিত পদ্ধতি হিসেবে বর্ণনা করে। এআই শাসন একই যুক্তি এআই-তে প্রয়োগ করে।

এআই তালিকা। ব্যবহারে বা উন্নয়নে থাকা সব এআই ব্যবস্থার একটি তালিকা: উদ্দেশ্য, মালিক, ভেন্ডর বা মডেল, ব্যবহৃত ডেটা, ব্যবহারকারী ও প্রভাবিত মানুষ, ঝুঁকির স্তর এবং অবস্থা। যা দেখতে পান না তা শাসন করতে পারবেন না। অন্তর্নিহিত ভেন্ডর বৈশিষ্ট্য এবং কাজের জন্য ব্যবহৃত ব্যক্তিগত টুল অন্তর্ভুক্ত করুন।

ঝুঁকিভিত্তিক পদ্ধতি। নিয়ন্ত্রণের মাত্রা সম্ভাব্য ক্ষতির মাত্রার সঙ্গে মেলা উচিত। সভার নোটের সারসংক্ষেপে ঝুঁকি চাকরি প্রার্থীদের র‍্যাঙ্ক করার চেয়ে ভিন্ন। ইইউ এআই আইন ন্যূনতম থেকে অগ্রহণযোগ্য ঝুঁকি পর্যন্ত বিভাগসহ অনুরূপ পদ্ধতি নেয়; Wikipedia বিভাগগুলো বর্ণনা করে। বর্তমান পাঠ এবং আপনার নিজের পরিস্থিতি একজন আইনি উপদেষ্টার সঙ্গে যাচাই করুন।

এআই-এর জন্য ঝুঁকি মূল্যায়ন। প্রতিটি ব্যবহারের জন্য জিজ্ঞাসা করুন: কে ক্ষতিগ্রস্ত হতে পারেন এবং কীভাবে; কতটা সম্ভাব্য ও কতটা গুরুতর; ব্যবস্থার সীমা কী; ভুল হলে কী ঘটে; এবং বিকল্প কী। Wikipedia সাধারণভাবে ঝুঁকি ব্যবস্থাপনা বর্ণনা করে। মূল্যায়ন এবং মালিকের সিদ্ধান্ত লিখে রাখুন। Wikipedia-য় বর্ণিত গোপনীয়তা প্রভাব মূল্যায়ন ব্যক্তিগত ডেটার জন্য একটি সম্পর্কিত টুল।

মান ও কাঠামো। 2023 সালে প্রকাশিত ISO/IEC 42001 একটি কৃত্রিম বুদ্ধিমত্তা ব্যবস্থাপনা ব্যবস্থার চাহিদা নির্ধারণ করে, যা অন্য ISO ব্যবস্থাপনা ব্যবস্থার মানের সঙ্গে গঠনে তুলনীয়। যুক্তরাষ্ট্রের National Institute of Standards and Technology (NIST) AI Risk Management Framework প্রকাশ করে, যা চারটি ফাংশনের ওপর সাজানো: পরিচালনা, মানচিত্রায়ন, পরিমাপ ও ব্যবস্থাপনা। দুটিই কাঠামো ও একটি ভাগ করা শব্দভান্ডারের স্বেচ্ছাসেবী টুল। প্রকাশকদের কাছ থেকে বর্তমান পাঠ পড়ুন। দেখুন বিষয় 1.8 — সেবা ব্যবস্থাপনার কাঠামো ও মান।

আইন ও নিয়ন্ত্রণ। এআই বিদ্যমান আইনের, যেমন ডেটা সুরক্ষা, ভোক্তা সুরক্ষা, বৈষম্য, কর্মসংস্থান ও বুদ্ধিবৃত্তিক সম্পত্তি আইনের এবং নতুন এআই-নির্দিষ্ট নিয়মের অধীন। Wikipedia বিভিন্ন এলাকায় কৃত্রিম বুদ্ধিমত্তার নিয়ন্ত্রণ বর্ণনা করে, যা দ্রুত বদলাচ্ছে। দায় নির্ভর করে আপনি কোথায় কাজ করেন ও কী করেন তার ওপর। এই নির্দেশিকা আপনাকে বলতে পারে না কী প্রযোজ্য।

ডেটা সুরক্ষা ও গোপনীয়তা। এআই ব্যবস্থা প্রায়ই ব্যক্তিগত ডেটা প্রক্রিয়া করে। ইউরোপীয় ইউনিয়নের জেনারেল ডেটা প্রোটেকশন রেগুলেশনের (GDPR) মতো আইন বৈধ ভিত্তি, উদ্দেশ্য, ন্যূনতমকরণ, ব্যক্তির অধিকার এবং কিছু ক্ষেত্রে স্বয়ংক্রিয় সিদ্ধান্তের সীমা নিয়ে নিয়ম ঠিক করে। Wikipedia GDPR ও গোপনীয়তা বর্ণনা করে। আপনার গোপনীয়তা কর্মকর্তা বা আইনি উপদেষ্টাকে জড়ান, এবং ডেটা কোথায় যায়, কতদিন রাখা হয় এবং কোনো মডেল প্রশিক্ষণ করে কি না লিখে রাখুন।

পক্ষপাত ও ন্যায্যতা। অতীতের ডেটায় প্রশিক্ষিত এআই অন্যায্য ধরন পুনরুৎপাদন করতে পারে, ফলে কিছু মানুষ খারাপ ফল পান। Wikipedia অ্যালগরিদমিক পক্ষপাত ও মেশিন লার্নিংয়ে ন্যায্যতা বর্ণনা করে। ব্যবহারের জন্য প্রাসঙ্গিক গোষ্ঠী জুড়ে ফলের পার্থক্য পরীক্ষা করুন, এবং শুধু গড় কার্যকারিতা নয়, কারা প্রভাবিত হন তা পর্যালোচনা করুন। চালুর আগে কী গ্রহণযোগ্য ঠিক করুন।

স্বচ্ছতা ও ব্যাখ্যাযোগ্যতা। একটি এআই ব্যবস্থায় প্রভাবিত মানুষদের জানা উচিত তা ব্যবহৃত হচ্ছে, এবং গুরুত্বপূর্ণ সিদ্ধান্তের জন্য একটি ব্যাখ্যা ও আপত্তি জানানোর পথ পাওয়া উচিত। Wikipedia অ্যালগরিদমিক স্বচ্ছতা ও ব্যাখ্যাযোগ্য এআই বর্ণনা করে। সঠিক মাত্রা নির্ভর করে ঝুঁকির ওপর।

মানব তত্ত্বাবধান। একজন ব্যক্তি যিনি ব্যবস্থাকে বুঝতে, প্রশ্ন করতে এবং ওভাররাইড করতে পারেন, তা করার সময় ও তথ্যসহ। দেখুন বিষয় 5.5 — এজেন্টিক এআই ও মানব তত্ত্বাবধান। শুধু কাগজে থাকা তত্ত্বাবধান একটি সাধারণ পর্যবেক্ষণ।

নিরাপত্তা ও সুরক্ষা। এআই ব্যবস্থা আক্রান্ত হতে পারে (যেমন প্রম্পট ইনজেকশনে), ডেটা ফাঁস করতে পারে এবং অপ্রত্যাশিত আচরণ করতে পারে। Wikipedia-য় বর্ণিত রেড-টিমিং প্রতিপক্ষের অনুকরণ করে ব্যবস্থা পরীক্ষা করার চর্চা। দেখুন বিষয় 3.13 — তথ্য নিরাপত্তা ব্যবস্থাপনা।

বুদ্ধিবৃত্তিক সম্পত্তি। মডেল প্রশিক্ষণে ব্যবহৃত উপাদান, আউটপুটের মালিকানা এবং খোদ মডেলের লাইসেন্স নিয়ে প্রশ্ন ওঠে। Wikipedia বুদ্ধিবৃত্তিক সম্পত্তি ও কপিরাইট বর্ণনা করে। দেখুন বিষয় 4.2 — সফটওয়্যার সম্পদ ব্যবস্থাপনা। এগুলো আপনাকে কীভাবে প্রভাবিত করে তা নিয়ে পরামর্শ নিন।

জবাবদিহি ও ভূমিকা। শাসনে স্পষ্ট ভূমিকা দরকার: একজন নির্বাহী পৃষ্ঠপোষক, নীতি ঠিক করে ও উচ্চ-ঝুঁকির ব্যবহার পর্যালোচনা করে এমন একটি সংস্থা, প্রতিটি ব্যবস্থার মালিক, এবং নিরাপত্তা, গোপনীয়তা ও আইনি বিষয়ে বিশেষজ্ঞ। Wikipedia জবাবদিহি বর্ণনা করে। সবকিছু অনুমোদন করে কাজ আটকে দেয় এমন কমিটি এড়ান; পর্যালোচনা উচ্চ-ঝুঁকির ব্যবহারের জন্য রাখুন।

জীবনচক্র নিয়ন্ত্রণ। নিয়ন্ত্রণ একটি ব্যবস্থার জীবন জুড়ে প্রযোজ্য: নকশা (উদ্দেশ্য, ডেটা, ঝুঁকি), তৈরি বা কেনা (যথাযথ অনুসন্ধান, চুক্তি, পরীক্ষা), মোতায়েন (অনুমোদন, মনিটরিং), পরিচালনা (কার্যকারিতা, সরণ, ইনসিডেন্ট) এবং অবসর। দেখুন বিষয় 3.14 — সরবরাহকারী ব্যবস্থাপনা।

রেকর্ড। প্রমাণ রাখুন: তালিকা, ঝুঁকি মূল্যায়ন, পরীক্ষার ফল, অনুমোদন, ইনসিডেন্টের রেকর্ড এবং ব্যবহারের লগ। রেকর্ড নিরীক্ষা, শেখা এবং প্রভাবিত মানুষদের আপত্তি সমর্থন করে।

দৃষ্টিকোণগুলো কীভাবে খাপ খায়। শাসন এআই দৃষ্টিকোণের চারপাশের নিয়ন্ত্রণ স্তর। এজাইল অনুশীলন আনুপাতিক, দ্রুত পর্যালোচনা প্রস্তাব করে, এমন গার্ডরেলসহ যা দলগুলো অপেক্ষা না করে ব্যবহার করতে পারে। অটোমেশন নিয়ম প্রয়োগ করতে পারে, যেমন সংবেদনশীল ডেটা অননুমোদিত টুলে যাওয়া আটকানো। বিশ্লেষণ মনিটরিংয়ের প্রমাণ জোগায়।

সেরা অনুশীলন

  1. আগে তালিকা বানান। দলগুলোকে জিজ্ঞাসা করুন, ভেন্ডর সেটিং যাচাই করুন, এবং নেটওয়ার্ক ও খরচের ডেটা পর্যালোচনা করুন। প্রতিটি এআই ব্যবস্থা একজন মালিক ও উদ্দেশ্যসহ লিখুন।
  2. ঝুঁকি অনুযায়ী শ্রেণিবদ্ধ করুন। উদাহরণসহ কয়েকটি ঝুঁকির স্তর সংজ্ঞায়িত করুন, যেমন নিম্ন (অভ্যন্তরীণ টেক্সট খসড়া), মধ্যম (গ্রাহকমুখী উত্তর) এবং উচ্চ (মানুষের অধিকার বা নিরাপত্তা প্রভাবিত করা সিদ্ধান্ত)। পর্যালোচনার মাত্রা ঝুঁকির মাত্রার সঙ্গে বাঁধুন।
  3. প্রতিটি ব্যবহারের একজন মালিক ঠিক করুন। প্রতিটি ব্যবস্থার জন্য একজন জবাবদিহিকারী ব্যক্তি, যিনি ঝুঁকি মূল্যায়নে স্বাক্ষর করেন এবং কার্যকারিতা ও ইনসিডেন্টের জবাব দেন।
  4. একটি ছোট, স্পষ্ট নীতি বানান। কোন ডেটা কোন টুলে যেতে পারে, কোন ব্যবহারে অনুমোদন লাগে, কী কখনো করা চলবে না এবং কাকে জিজ্ঞাসা করবেন লিখুন। কয়েক পাতায় রাখুন এবং উদাহরণ প্রকাশ করুন।
  5. অনুমোদিত টুল ও পথ দিন। কর্মীদের এআই ব্যবহারের অনুমোদিত উপায় না থাকলে তাঁরা অননুমোদিতগুলো ব্যবহার করবেন। সঠিক শর্তসহ টুল এবং অনুমোদনের দ্রুত পথ দিন।
  6. আগে মূল্যায়ন করুন, পরে পরীক্ষা করুন। একটি ব্যবহার চালুর আগে আনুপাতিক ঝুঁকি মূল্যায়ন করুন, এবং পক্ষপাত ও অপব্যবহারের যাচাইসহ বাস্তবসম্মত ক্ষেত্রে পরীক্ষা করুন। উল্লেখযোগ্য পরিবর্তনের পর পুনরাবৃত্তি করুন।
  7. ভেন্ডর ও শর্ত যাচাই করুন। ভেন্ডরদের জিজ্ঞাসা করুন তারা আপনার ডেটা কীভাবে ব্যবহার করে, কীভাবে পরীক্ষা করে, মডেলের পরিবর্তন সম্পর্কে কীভাবে জানায় এবং শেষে ডেটার কী হয়। উত্তর লিখে রাখুন। দেখুন বিষয় 3.14 — সরবরাহকারী ব্যবস্থাপনা।
  8. বাস্তবে মানব তত্ত্বাবধান সংজ্ঞায়িত করুন। প্রতিটি ব্যবহারের জন্য বলুন কে কী পর্যালোচনা করেন, কোন তথ্য দিয়ে, কত ঘন ঘন, এবং পর্যালোচনার নমুনা নিন।
  9. মনিটর করুন ও ইনসিডেন্ট সামলান। ত্রুটি, অভিযোগ, সরণ ও নিরাপত্তা ঘটনা ট্র্যাক করুন। এআই ইনসিডেন্টকে অন্য ইনসিডেন্টের মতো দেখুন এবং তা থেকে শিখুন। দেখুন বিষয় 3.2 — ইনসিডেন্ট ম্যানেজমেন্ট।
  10. নিয়মিত পর্যালোচনা করুন ও রেকর্ড রাখুন। অন্তত বার্ষিকভাবে এবং আইন বা ব্যবস্থা বদলালে তালিকা ও ঝুঁকির স্তর আবার দেখুন। প্রমাণ এক জায়গায় রাখুন।

দলের সঙ্গে আলোচনার প্রশ্ন

আজ আমরা কোথায় এআই ব্যবহার করি, প্রতিটির মালিক কে, এবং কী ভুল হতে পারে? একটি প্রথম তালিকা বানান। ফাঁক আশা করুন, বিশেষ করে ভেন্ডর বৈশিষ্ট্য ও ব্যক্তিগত টুলে। পরবর্তী ধাপে সবচেয়ে ঝুঁকিপূর্ণ তিনটি বেছে মালিক ঠিক করুন।

আমাদের কোন ব্যবহার মানুষের অ্যাক্সেস, অর্থ, স্বাস্থ্য বা কর্মসংস্থান প্রভাবিত করে, এবং সেগুলো কী পর্যালোচনা পায়? উচ্চ-ঝুঁকির ব্যবহার খুঁজুন। কী গণ্য হয় তা নিয়ে অনিশ্চয়তা আশা করুন। পরবর্তী ধাপে শ্রেণিবিন্যাসে আইনি ও গোপনীয়তা উপদেষ্টাদের জড়ান।

কর্মীরা এআই টুলে কোন ডেটা দেন, এবং তাঁরা কি নিয়ম জানেন? দরকারে বেনামে জিজ্ঞাসা করুন। বিস্ময় আশা করুন। পরবর্তী ধাপে উদাহরণসহ একটি স্পষ্ট নিয়মে সম্মত হোন এবং একটি অনুমোদিত বিকল্প দিন।

আমরা কীভাবে এআই নিয়ন্ত্রণ করি জানতে চাইলে একজন নিয়ন্ত্রক বা গ্রাহককে আমরা কী দেখাব? যা আছে জড়ো করুন। পাতলা একটি ফাইল আশা করুন। পরবর্তী ধাপে তৈরি করার জন্য তিনটি নথি বাছুন: তালিকা, নীতি এবং একটি ঝুঁকি মূল্যায়ন।

আমরা অন্যায্য ফল কীভাবে পরীক্ষা করি, এবং কোন গোষ্ঠী দেখা উচিত? প্রতিটি ব্যবহারে প্রভাবিত মানুষদের কথা ভাবুন। আশা করুন কেউ পরীক্ষা করেনি। পরবর্তী ধাপে একটি ব্যবহার বেছে পরামর্শসহ গোষ্ঠী জুড়ে একটি সরল তুলনা নকশা করুন।

এআই-এর একটি ব্যবহারে কে না বলতে পারেন, এবং বললে কী হয়? থামানোর ক্ষমতা ছাড়া শাসন কেবল সাজসজ্জা। অস্পষ্ট উত্তর আশা করুন। পরবর্তী ধাপে উচ্চ-ঝুঁকির ব্যবহারের জন্য সিদ্ধান্ত গ্রহণকারী এবং পর্যালোচনার একটি সেবার মাত্রা ঠিক করুন।

বাস্তবে: সেবা ব্যবস্থাপনার একটি উদাহরণ

একটি জাতীয় সামাজিক নিরাপত্তা সংস্থা কয়েক জায়গায় এআই ব্যবহার করে: তার পাবলিক ওয়েবসাইটে একজন ভেন্ডরের ভার্চুয়াল এজেন্ট, কেস কর্মীদের জন্য কেসের নোটের সারসংক্ষেপ করা একটি টুল, আইটি কর্মীদের ব্যবহৃত একটি ডেভেলপার সহকারী, এবং পর্যালোচনার জন্য সুবিধার দাবিতে সম্ভাব্য ত্রুটি চিহ্নিত করা একটি পরীক্ষা। কোনো কেন্দ্রীয় রেকর্ড নেই, এবং একজন মন্ত্রীর দপ্তর জানতে চেয়েছে সংস্থা কীভাবে এআই নিয়ন্ত্রণ করে।

প্রধান তথ্য কর্মকর্তা সেবা ব্যবস্থাপনা দপ্তরকে ছয় সপ্তাহে একটি তালিকা বানাতে বলেন। এতে এগারোটি ব্যবহার মেলে, যার দুটি আইটি বিভাগের কেউ জানত না: একটি টেক্সট-সারসংক্ষেপ বৈশিষ্ট্য যা একজন ভেন্ডর কেস ব্যবস্থাপনা ব্যবস্থায় চালু করেছিল, এবং একটি আঞ্চলিক অফিসের ব্যক্তিগত অ্যাকাউন্টে ব্যবহৃত ট্রান্সক্রিপশন টুল। দল গোপনীয়তা কর্মকর্তা ও আইন বিভাগের সঙ্গে ঝুঁকি অনুযায়ী ব্যবহারগুলো শ্রেণিবদ্ধ করে। সুবিধার দাবি চিহ্নিতকারী পরীক্ষাটি উচ্চ ঝুঁকির, কারণ এর আউটপুট একজন ব্যক্তির বিরুদ্ধে পদক্ষেপ নিতে পারে; কেসের নোটের সারসংক্ষেপ মধ্যম; ডেভেলপার সহকারী নিম্ন, যদিও লাইসেন্সের প্রশ্ন আছে।

প্রতিটি ব্যবহারের জন্য একজন মালিক ঠিক হয়। দাবির পরীক্ষার জন্য মালিক একটি ঝুঁকি মূল্যায়ন করান, গোষ্ঠী জুড়ে চিহ্নিতকরণ হারের তুলনাসহ এবং এই নিয়মসহ যে টুলের আউটপুটের ভিত্তিতে একা কাউকে কখনো সুবিধা অস্বীকার করা হবে না। একটি অনুমোদিত বিকল্প না পাওয়া পর্যন্ত ট্রান্সক্রিপশন টুল বন্ধ থাকে; আঞ্চলিক অফিসকে ডেটা সুরক্ষার শর্তসহ চুক্তির অধীন একটি ভেন্ডর-অনুমোদিত টুল দেওয়া হয়। চার পাতার একটি নীতি ডেটা ও অনুমোদন নিয়ে নিয়ম ঠিক করে, এবং মধ্যম-ঝুঁকির ব্যবহারের জন্য দশ কর্মদিবসের মধ্যে একটি ছোট পর্যালোচনা পথের প্রতিশ্রুতি দেওয়া হয়।

যা বদলায়: সংস্থা মন্ত্রণালয়কে একটি তালিকা, একটি নীতি এবং তার সর্বোচ্চ-ঝুঁকির ব্যবহারের একটি ঝুঁকি মূল্যায়নসহ উত্তর দিতে পারে। যা এখনো কঠিন: ডিফল্টে চালু ভেন্ডর বৈশিষ্ট্য আসতেই থাকে, আর সংস্থার সেগুলো আবিষ্কারের স্বয়ংক্রিয় উপায় নেই; গোষ্ঠী জুড়ে তুলনা এমন ডেটার দ্বারা সীমিত, যা সংস্থা আইনত রাখতে পারে না; এবং দশ দিনের পর্যালোচনা পথের প্রতিশ্রুতি ছোট দলকে চাপে ফেলে। দপ্তর একটি ত্রৈমাসিক ভেন্ডর-বৈশিষ্ট্য পর্যালোচনা এবং পরীক্ষা নিয়ে আইনি নির্দেশনার অনুরোধের পরিকল্পনা করে।

চারটি দৃষ্টিকোণ

পণ্য ও ডেলিভারি দল

আপনার এআই ব্যবহার নিবন্ধন করুন, আগে ঝুঁকি মূল্যায়ন করুন, বাস্তবসম্মত ও বৈরী ক্ষেত্রে পরীক্ষা করুন, এবং ব্যবস্থা কী করতে পারে তা লিখে রাখুন। ফল নিয়ে আপত্তি জানানোর এবং আপনার তা বন্ধ করার পথ রাখুন।

সেবা ও অপারেশন দল

প্রোডাকশনে এআই ব্যবস্থা মনিটর করুন, ইনসিডেন্ট সামলান এবং ত্রুটি ও অভিযোগ জানান। ডেটার নিয়ম মানুন, এবং আপনার টুলে দেখা দেওয়া নতুন এআই বৈশিষ্ট্য সম্পর্কে মালিকদের জানান।

নেতৃত্ব ও শাসন

কর্মসূচির পৃষ্ঠপোষক হোন, সিদ্ধান্ত নেওয়ার অধিকার নির্ধারণ করুন এবং কাজে অর্থ দিন। তালিকা, ঝুঁকির স্তর ও পরীক্ষার প্রমাণ চান। জবাবদিহি ভেন্ডর বা কমিটিকে বহির্ভূত করবেন না।

গ্রাহক ও ব্যবহারকারী

আপনার কাছে গুরুত্বপূর্ণ উপায়ে এআই ব্যবহৃত হলে আপনাকে জানানো, একজন ব্যক্তির কাছে পৌঁছাতে পারা এবং সিদ্ধান্তে আপত্তি জানানোর সুযোগ থাকা উচিত। আপনার ডেটা কীভাবে ব্যবহৃত হয় জিজ্ঞাসা করুন, এবং ভুল বা অন্যায্য মনে হওয়া ফল জানান।

এজাইল, এআই, অটোমেশন ও বিশ্লেষণ

এজাইল

দলগুলো মানতে পারে এমন গার্ডরেলসহ দ্রুত, আনুপাতিক পর্যালোচনা দিন, যেমন অনুমোদিত টুল এবং কম-ঝুঁকির ব্যবহারের জন্য একটি ছোট চেকলিস্ট। দলগুলোর সঙ্গে নীতি পুনরাবৃত্তি করে উন্নত করুন। সতর্কতা: ধীর, ভারী পর্যালোচনা দলগুলোকে তা এড়িয়ে যেতে ঠেলে দেয়; কম-ঝুঁকির পথ দ্রুত রাখুন।

এআই

আইনি ও মানব পর্যালোচনাসহ নীতি খসড়া, ভেন্ডরের শর্ত পড়া এবং ঝুঁকি মূল্যায়ন প্রস্তুত করতে এআই সাহায্য করতে পারে। সেই ব্যবহারের জন্যও একজন মালিক ঠিক করুন। সতর্কতা: কোনো আইন বা চুক্তির এআই সারসংক্ষেপ ভুল হতে পারে; সম্মতির সিদ্ধান্তের ভিত্তি হিসেবে কখনো একে ব্যবহার করবেন না। দেখুন বিষয় 5.1 — সেবা ব্যবস্থাপনায় এআই।

অটোমেশন

তালিকার ফিড, ডেটা ক্ষতি প্রতিরোধের নিয়ম, কম-ঝুঁকির ব্যবহারের অনুমোদন এবং লগিং স্বয়ংক্রিয় করুন, ব্যতিক্রম পর্যালোচনাসহ। সতর্কতা: স্বয়ংক্রিয় ব্লক করা কাজকে ব্যক্তিগত ডিভাইসে ঠেলে দিতে পারে; এর সঙ্গে অনুমোদিত বিকল্প যুক্ত করুন। দেখুন বিষয় 6.1 — অটোমেশন কৌশল।

বিশ্লেষণ

মালিক ও মূল্যায়নসহ এআই ব্যবহারের অংশ, ইনসিডেন্ট, অভিযোগ, পরীক্ষার ফল এবং পর্যালোচনার সময় ট্র্যাক করুন। সতর্কতা: সম্পন্ন মূল্যায়নের গণনা কাগজপত্রকে পুরস্কৃত করতে পারে; মান এবং নিয়ন্ত্রণ কাজ করছে কি না তার জন্য একটি নমুনা যাচাই করুন। দেখুন Service Management Metrics বই এবং বিষয় 7.3 — পরিমাপ ও প্রতিবেদন।

সাধারণ ব্যর্থতার ধরন

  • তালিকা নেই। ব্যবহার অদৃশ্যভাবে বাড়ে। তালিকা বানান ও হালনাগাদ করুন।
  • সবার জন্য একই পর্যালোচনা। হয় সবকিছু আটকে যায় নয়তো কিছুই পর্যালোচিত হয় না। ঝুঁকির সঙ্গে পর্যালোচনা মেলান।
  • কেউ মানতে পারে না এমন নীতি। কর্মীরা তা উপেক্ষা করেন। উদাহরণসহ ছোট নিয়ম লিখুন এবং অনুমোদিত টুল দিন।
  • কাগজপত্র হিসেবে শাসন। নথি আছে কিন্তু নিয়ন্ত্রণ নেই। নিয়ন্ত্রণ কাজ করে কি না পরীক্ষা করুন।
  • ভেন্ডরের দাবিতে ভরসা। শর্ত ও আচরণ অযাচাইকৃত। জিজ্ঞাসা, পরীক্ষা ও লিপিবদ্ধ করুন।
  • প্রভাবিত মানুষকে উপেক্ষা। পক্ষপাত ও ক্ষতি অদেখা থাকে। গোষ্ঠী জুড়ে ফল পরীক্ষা করুন এবং আপত্তির পথ দিন।
  • আইনি পরামর্শ এআই জোগাতে পারে ধরা। ভুল সারসংক্ষেপ সিদ্ধান্ত চালায়। যোগ্য উপদেষ্টা ব্যবহার করুন।

পরিপক্বতা মডেল

মাত্রা সূচনা বিকাশ মানসম্মতকরণ ব্যবস্থাপনা সমন্বয়
তালিকা ও মালিকানা অজানা ব্যবহার প্রধান ব্যবহার তালিকাভুক্ত মালিক ও ঝুঁকির স্তরসহ তালিকা তালিকা পর্যালোচিত এবং আবিষ্কারের মাধ্যমে যাচাই করা তালিকা ক্যাটালগ, ক্রয় ও নিয়ন্ত্রণের সঙ্গে একীভূত
ঝুঁকি ও পরীক্ষা যখন-তখন কিছু মূল্যায়ন চালুর আগে আনুপাতিক মূল্যায়ন ও পরীক্ষা ফল মনিটর করে তার ওপর কাজ ব্যবস্থা ও সরবরাহকারী জুড়ে ধারাবাহিক নিশ্চয়তা
নীতি ও ডেটা নেই খসড়া নির্দেশনা স্পষ্ট নীতি, অনুমোদিত টুল ও ডেটার নিয়ম সম্মতি মনিটর ও নিরীক্ষিত টুলিং দিয়ে নিয়ম প্রয়োগ এবং পরিবর্তনে খাপ খাওয়ানো
তত্ত্বাবধান ও জবাবদিহি অস্পষ্ট নামযুক্ত পৃষ্ঠপোষক সংজ্ঞায়িত ভূমিকা, পর্যালোচনা পথ ও মানব তত্ত্বাবধান তত্ত্বাবধানের মান নমুনা করা প্রতিষ্ঠান ও অংশীদার জুড়ে সমন্বিত শাসন

চেকলিস্ট

  • আমরা মালিক ও উদ্দেশ্যসহ একটি এআই তালিকা রাখি।
  • প্রতিটি ব্যবহারের একটি ঝুঁকির স্তর আছে, তার অনুপাতে পর্যালোচনাসহ।
  • একটি ছোট নীতি ডেটা, অনুমোদন ও নিষিদ্ধ ব্যবহার আচ্ছাদন করে।
  • অনুমোদিত টুল এবং একটি দ্রুত পর্যালোচনা পথ আছে।
  • উচ্চ-ঝুঁকির ব্যবহারের পক্ষপাত যাচাইসহ একটি লিপিবদ্ধ ঝুঁকি মূল্যায়ন ও পরীক্ষা আছে।
  • ডেটা, পরীক্ষা ও মডেল পরিবর্তন নিয়ে ভেন্ডরের শর্ত লিপিবদ্ধ।
  • মানব তত্ত্বাবধান সংজ্ঞায়িত এবং নমুনা করা হয়।
  • আমরা আমাদের দায় নিয়ে আইনি ও গোপনীয়তা উপদেষ্টাদের জিজ্ঞাসা করেছি।

এআই প্রম্পট

নোট থেকে একটি তালিকার এন্ট্রি খসড়া করুন।

Here are notes on an AI use: [paste].
Draft an inventory entry with: purpose, owner (only if stated), vendor or model (only if stated), data used, people affected, decisions it influences, and proposed risk level with the reasons. Mark each item not in the notes as [missing]. Do not state legal obligations.
List what you are unsure of.

একজন ভেন্ডরের জন্য প্রশ্ন প্রস্তুত করুন।

We are considering an AI product from a vendor for [use]. What we know of it: [paste].
Write 20 questions for the vendor about data use and retention, training on our data, testing for accuracy and bias, security, model changes, incident notification, and exit. Do not assume answers.
List what you are unsure of.

পর্যালোচনার জন্য একটি ঝুঁকি মূল্যায়ন কাঠামোবদ্ধ করুন।

AI use: [describe]. People affected: [list]. Decisions influenced: [list]. Current controls: [list].
Draft a risk assessment table with: harm, who is affected, likelihood and severity (marked as my estimate to be confirmed), existing controls, further controls to consider, and questions for the owner. Do not give legal conclusions.
List what you are unsure of.

এআই স্কিল

  • risk-register: এআই ঝুঁকি, মালিক ও সিদ্ধান্ত লিপিবদ্ধ করতে ব্যবহার করুন।
  • machine-learning-model-card: একটি মডেলের উদ্দেশ্য, ডেটা, কার্যকারিতা ও সীমা নথিবদ্ধ করতে ব্যবহার করুন।
  • legal-data-privacy-compliance: আপনার আইনি উপদেষ্টার জন্য গোপনীয়তার প্রশ্ন সাজাতে ব্যবহার করুন।
  • legal-compliance-audit: নিরীক্ষার জন্য প্রমাণ ও প্রশ্ন প্রস্তুত করতে ব্যবহার করুন।
  • data-governance: এআই যে ডেটা ব্যবহার করে তার মালিকানা ও নিয়ম ঠিক করতে ব্যবহার করুন।

মূল সূত্র

  • NIST, AI Risk Management Framework: এআই ঝুঁকি পরিচালনার একটি বহুল ব্যবহৃত স্বেচ্ছাসেবী কাঠামো।
  • ISO/IEC 42001 (মানটি নিজে): একটি এআই ব্যবস্থাপনা ব্যবস্থার চাহিদা; প্রকাশকের কাছ থেকে বর্তমান সংস্করণ পড়ুন।
  • ইউরোপীয় ইউনিয়নের কৃত্রিম বুদ্ধিমত্তা আইনের পাঠ এবং আপনার নিজের নিয়ন্ত্রকদের নির্দেশনা: আইনি দায় নিয়ে প্রামাণিক উৎস।
  • Wikipedia, "Regulation of artificial intelligence" ও "Ethics of artificial intelligence": পরিস্থিতির পরিচিতি।

তথ্যসূত্র

  1. Regulation of artificial intelligence — Wikipedia — https://en.wikipedia.org/wiki/Regulation_of_artificial_intelligence
  2. Artificial Intelligence Act — Wikipedia — https://en.wikipedia.org/wiki/Artificial_Intelligence_Act
  3. Ethics of artificial intelligence — Wikipedia — https://en.wikipedia.org/wiki/Ethics_of_artificial_intelligence
  4. Algorithmic bias — Wikipedia — https://en.wikipedia.org/wiki/Algorithmic_bias
  5. Fairness (machine learning) — Wikipedia — https://en.wikipedia.org/wiki/Fairness_(machine_learning)
  6. General Data Protection Regulation — Wikipedia — https://en.wikipedia.org/wiki/General_Data_Protection_Regulation
  7. Privacy impact assessment — Wikipedia — https://en.wikipedia.org/wiki/Privacy_impact_assessment
  8. Governance, risk, and compliance — Wikipedia — https://en.wikipedia.org/wiki/Governance,_risk,_and_compliance
  9. Risk management — Wikipedia — https://en.wikipedia.org/wiki/Risk_management
  10. Red team — Wikipedia — https://en.wikipedia.org/wiki/Red_team
  11. Explainable artificial intelligence — Wikipedia — https://en.wikipedia.org/wiki/Explainable_artificial_intelligence
  12. AI Risk Management Framework — NIST — https://www.nist.gov/itl/ai-risk-management-framework

সেবা ব্যবস্থাপনা নির্দেশিকা — এজাইল, এআই, অটোমেশন ও বিশ্লেষণসহ সেবা ব্যবস্থাপনা।

উৎস ও অবদান: github.com/service-management-guide. যা দিয়ে তৈরি Lily Design System™.

প্রতিষ্ঠাতা Joel Parker Henderson.