لماذا يهم هذا

معظم استخدامات الذكاء الاصطناعي في إدارة الخدمات حتى الآن استشارية. يقرأ نموذج تذكرة ويقترح فئة، أو يصوغ ردًا يحرره شخص. فإن كان الاقتراح خاطئًا، يلاحظ إنسان قبل أن يحدث شيء. والوكيل الذكي يغيّر ذلك. إنه يُعطى أدوات: يستطيع الاستعلام عن الأنظمة وتحديث السجلات وتشغيل الأوامر وفتح التذاكر وإغلاقها وإرسال الرسائل. ويخطط خطوات نحو هدف وينفذها، غالبًا بمشاركة بشرية ضئيلة بين التعليمة والنتيجة.

وهذا يعد بقيمة حقيقية. فقد يحقق الوكيل في تنبيه بسحب السجلات وفحص التغييرات الحديثة ونشر ملخص. وقد يعالج طلبًا روتينيًا من أوله إلى آخره: يتحقق من الأهلية وينشئ الحساب ويُخطر المستخدم. وقد يصوغ إصلاحًا ويفتح طلب دمج. وإن أُجيد، ينزع عملًا روتينيًا عن مشغولين ويعمل في أي ساعة.

ويغيّر أيضًا طبيعة الخطر. الجواب الخاطئ إزعاج. أما الإجراء الخاطئ فقد يحذف بيانات، أو يمنح وصولًا لشخص خطأ، أو يُسقط خدمة، أو يرسل رسالة إلى عشرة آلاف عميل. والسرعة التي تجعل الوكلاء مفيدين تجعل أخطاءهم تنتشر بسرعة. والوكلاء معرَّضون للهجوم: فتعليمة عدائية مخفية في تذكرة أو صفحة ويب قد توجه وكيلًا يملك سلطة التصرف.

يضع هذا الموضوع الأفكار الرئيسة لاستخدام الوكلاء بأمان في إدارة الخدمات: النطاق والصلاحيات والموافقة والتدقيق والإيقاف. وهو يبني على الموضوع 5.1 — الذكاء الاصطناعي في إدارة الخدمات والموضوع 5.6 — حوكمة الذكاء الاصطناعي ومخاطره والامتثال، ويتصل بالأتمتة (الموضوع 6.1 — استراتيجية الأتمتة والموضوع 6.6 — أتمتة كتيّبات التشغيل والإصلاح التلقائي) وتمكين التغيير (الموضوع 3.4 — تمكين التغيير) وأمن المعلومات (الموضوع 3.13 — إدارة أمن المعلومات).

المفاهيم الأساسية

وكيل الذكاء الاصطناعي. نظام يدرك بيئته ويتخذ قرارات ويتخذ إجراءات لتحقيق أهداف. وتصف ويكيبيديا الوكلاء الذكيين ووكلاء الذكاء الاصطناعي. وفي الممارسة الحالية يجمع الوكيل عادة بين نموذج لغوي وأدوات وحلقة: يقرر النموذج ما يفعله بعد ذلك، ويستدعي أداة، ويقرأ النتيجة، ويواصل حتى يقرر أنه انتهى أو يبلغ حدًا.

الأدوات والصلاحيات. مجموعة الإجراءات التي يستطيع الوكيل اتخاذها، مثل قراءة قاعدة معرفة أو الاستعلام عن المراقبة أو إنشاء تذكرة أو إعادة تشغيل خدمة. وغالبًا ما تُعرض الأدوات عبر واجهات برمجة التطبيقات (API). وتصف ويكيبيديا واجهات API. وتجعل البروتوكولات المفتوحة لربط النماذج بالأدوات، مثل بروتوكول سياق النموذج الذي تصفه ويكيبيديا، إضافة الأدوات سهلة، وهو مفيد ويوسّع أيضًا ما يستطيع الوكيل فعله. ولكل أداة خطرها.

مستويات الاستقلالية. طريقة مفيدة للتفكير في الضبط أنه مستويات، من لا شيء إلى الكامل. في أحد الطرفين يقترح الوكيل فقط. ثم يجهز إجراءً للموافقة. ثم يتصرف وحده ضمن حدود ضيقة ويبلّغ. وفي الطرف الأبعد يتصرف على نطاق واسع بلا مراجعة. وتصف مقالة ويكيبيديا عن التحكم الإشرافي فكرة الإشراف البشري على الأنظمة المؤتمتة. اختر المستوى لكل مهمة، بحسب كلفة الخطأ والقدرة على التراجع.

الإشراف البشري. يبقى شخص قادرًا على فهم الوكيل أو الموافقة عليه أو إيقافه أو تصحيحه. وتصف ويكيبيديا الأنظمة ذات الإنسان في الحلقة. ويتخذ الإشراف أشكالًا عدة: الموافقة على الإجراءات قبل حدوثها، ومراقبة الإجراءات أثناء حدوثها، والمراجعة بعدها. ويعتمد الشكل الصحيح على السرعة والخطر. والمراجعة بعد الواقعة لا تفيد لإجراء لا رجعة فيه.

تحيز الأتمتة والختم. يميل الناس إلى الموافقة على ما يقترحه نظام، خصوصًا حين تكون الموافقات متكررة ومتشابهة المظهر. وتصف ويكيبيديا تحيز الأتمتة. والضابط الذي يوافق عليه الناس دون قراءته ليس ضابطًا. صمّم الموافقات لتُظهر ما سيحدث، ولتكون نادرة بما يكفي لتُقرأ، ولتُفحص بالعينات.

أقل امتياز. ينبغي أن يملك الوكيل الصلاحيات التي يحتاجها لمهمته فقط، ولأطول مدة يحتاجها فقط. وتصف ويكيبيديا مبدأ أقل امتياز. استخدم هويات منفصلة للوكلاء، لا حساب مسؤول مشتركًا، لتتتبع الإجراءات وتُحدّ الصلاحيات.

النائب المرتبك. مشكلة أمنية يُخدع فيها برنامج موثوق ليستخدم سلطته نيابة عن من لا يملكها. وتصف ويكيبيديا مشكلة النائب المرتبك. والوكيل الذي يستطيع التصرف بامتياز عالٍ ويأخذ التعليمات من نص منخفض الثقة، مثل رسالة مستخدم، حالة كلاسيكية.

حقن التعليمات. تعليمات عدائية مخفية في محتوى يقرؤه الوكيل، مثل تذكرة أو بريد أو صفحة ويب أو سطر سجل. وتصف ويكيبيديا حقن التعليمات. ولأن النموذج لا يستطيع التمييز بين التعليمات والبيانات بموثوقية، قد يحاول مصدر محتوى إعادة توجيه الوكيل. ويعتمد الدفاع في معظمه على تحديد ما يستطيع الوكيل فعله، لا على إقناع النموذج بتجاهل نص سيئ.

العزل في بيئة معزولة. تشغيل الوكلاء في بيئات مقيدة، بوصول محدود إلى الأنظمة والبيانات. وتصف ويكيبيديا البيئات المعزولة في أمن الحاسوب. دع الوكيل يجرب الإجراءات في بيئة اختبار قبل أن يعمل في الإنتاج.

القابلية للعكس. فضّل الإجراءات التي يمكن التراجع عنها: إنشاء تذكرة وإضافة وسم واقتراح تغيير. وعامل الإجراءات التي لا رجعة فيها، مثل الحذف والدفع وإرسال الرسائل إلى الخارج، على أنها تحتاج موافقة أو محظورة. وتصف ويكيبيديا التراجع في إدارة البيانات.

الحدود وقواطع الدائرة. سقوف على كم إجراءً يستطيع الوكيل اتخاذه في الساعة، وكم يستطيع إنفاقه، وكم بندًا يستطيع تغييره دفعة واحدة، وكم يستطيع أن يعمل. وتصف ويكيبيديا تحديد المعدل. والحد يحوّل الانفلات إلى خطأ محدود.

مفتاح الإيقاف. وسيلة سريعة موثوقة لإيقاف وكيل وسحب وصوله. وتصف ويكيبيديا مفاتيح الإيقاف. اختبره. فمفتاح إيقاف يعتمد على تعاون الوكيل نفسه، أو على نظام معطل، ليس مفتاحًا.

مسار التدقيق. سجل كامل بما طُلب من الوكيل، وما قرره، وأي الأدوات استدعاها بأي مدخلات، وما حدث. وتصف ويكيبيديا مسارات التدقيق. وبدونه لا تستطيع التحقيق في خطأ أو إثبات الامتثال أو التعلم.

المساءلة. الوكيل ليس مساءلًا؛ الناس هم. ومالك مسمّى مسؤول عما يفعله الوكيل وصلاحياته ومراجعة سجله. وتصف ويكيبيديا المساءلة. انظر الموضوع 2.8 — ملكية المنتجات والخدمات.

الأنظمة متعددة الوكلاء. قد يضيف عمل عدة وكلاء معًا تعقيدًا وأخطاء متتالية ومسؤولية غير واضحة. وتصف ويكيبيديا الأنظمة متعددة الوكلاء. عامل نطاق كل وكيل وصلاحياته على حدة، واحذر من وكلاء يوجّهون وكلاء.

الفصل بين المهام. الفكرة أنه لا ينبغي لطرف واحد أن يستطيع إكمال إجراء خطر وحده تنطبق على الوكلاء. فوكيل يقترح تغييرًا لا ينبغي أن يكون من يعتمده. وتصف ويكيبيديا الفصل بين المهام.

كيف تتلاءم العدسات. يقع الوكلاء حيث يلتقي الذكاء الاصطناعي بالأتمتة. وتقترح الممارسة الرشيقة البدء صغيرًا وتوسيع الاستقلالية بخطوات بالأدلة. وتقيس التحليلات ما يفعله الوكلاء وما يخطئون فيه. وتضع الحوكمة (انظر الموضوع 5.6 — حوكمة الذكاء الاصطناعي ومخاطره والامتثال) القواعد.

أفضل الممارسات

  1. عرّف النطاق كتابة. بيّن لماذا الوكيل، وما يجوز له فعله، وما لا يجوز له أبدًا، وأي بيانات يجوز له مسّها. وأبقِه ضيقًا في البداية.
  2. أعطِ كل وكيل هويته الخاصة. استخدم حسابًا منفصلًا بالحد الأدنى من الصلاحيات، مقيدًا بمهمته، وأدِر بيانات الاعتماد أو أنهِ صلاحيتها. ولا تعد استخدام حساب مسؤول بشري.
  3. اختر مستوى الاستقلالية بالخطر. دع الوكيل يقترح أولًا، ثم يتصرف في المهام منخفضة الخطر القابلة للعكس، واشترط الموافقة لأي شيء ذي عاقبة أو لا رجعة فيه. واكتب المستويات لكل مهمة.
  4. صمّم موافقات يقرؤها الناس. أظهر الإجراء المقترح والسبب والدليل والأثر. وأبقِ الموافقات نادرة بما يكفي لتُقرأ، وخذ عينات من المعتمد لفحص الجودة.
  5. اختبر في بيئة معزولة أولًا. شغّل الوكيل على نسخة آمنة بحالات واقعية، بما فيها العدائية، قبل أن يمس الإنتاج.
  6. عامل المدخلات غير موثوقة. لا تدع محتوى التذاكر أو البريد أو الويب يمنح سلطة. وحدّ الأدوات المتاحة حين يعالج الوكيل محتوى غير موثوق.
  7. حدّ نطاق الضرر. ضع حدودًا لعدد الإجراءات وحجم التغيير والإنفاق والزمن. واجعل الإجراء الجماعي خطوة منفصلة معتمدة.
  8. سجّل كل شيء وراجعه. احتفظ بالمسار الكامل، وخزنه حيث لا يستطيع الوكيل تغييره، وراجع عينات بانتظام. ونبّه على الأنماط غير المعتادة.
  9. ابنِ مفتاح الإيقاف واختبره. اجعله سريعًا ومستقلًا عن الوكيل ومعروفًا للمناوبين. وتمرّن عليه.
  10. وسّع الاستقلالية ببطء. امنح المزيد فقط بعد فترة من النتائج الجيدة، بموافقة مالك مسمّى ومعدل خطأ مقيس. وقلّلها حين تنشأ مشكلات.

أسئلة للنقاش مع فريقك

ما أسوأ ما يستطيع هذا الوكيل فعله بالصلاحيات التي ننوي منحه إياها؟ مرّ على الصلاحيات أداة أداة. توقّع انزعاجًا. وتابع بإزالة أو تقييد أي صلاحية لا نقبل أسوأ حالاتها.

أي إجراءاته نستطيع التراجع عنها، وأيها لا نستطيع؟ اسردها. توقّع بعض الإجراءات التي لا رجعة فيها وكان يُفترض أنها آمنة. وتابع باشتراط الموافقة على كل إجراء لا رجعة فيه.

كيف سيعرف المُوافِقون ما يوافقون عليه، وكم مرة سيرون طلبًا؟ تخيّل المُوافِق في يوم مزدحم. توقّع طلبات طويلة متشابهة المظهر. وتابع بتصميم ملخص وحد لحجم الموافقات.

ماذا سيضطر أحدهم أن يضع في تذكرة أو بريد ليجعل الوكيل يفعل شيئًا لا نريده؟ جرّب كمهاجم. توقّع مفاجآت. وتابع باختيار تخفيفات مثل تقييد الأدوات حين يقرأ محتوى غير موثوق.

لو احتجنا إلى إيقافه الآن، من سيفعل، وكيف، وكم سيستغرق؟ اطلب الخطوات وتمرّن. توقّع عدم يقين. وتابع بكتابة إجراء إيقاف من صفحة واحدة واختباره.

من يملك هذا الوكيل، وماذا يراجع كل أسبوع؟ سمِّ الشخص والمراجعة. توقّع فجوات. وتابع بتعيين الملكية ومراجعة أسبوعية بعينة بأسئلة معرّفة.

في الممارسة: مثال على إدارة الخدمات

يريد فريق البنية التحتية في هيئة ضرائب وطنية وكيلًا يحقق في تنبيهات الإنتاج ليلًا. حاليًا يُوقَظ مهندس مناوب لمعظم التنبيهات، ويقضي 15 إلى 30 دقيقة في جمع السياق، وكثيرًا ما يجد أن السبب مشكلة معروفة بإصلاح موثق.

يصمم الفريق الوكيل في ثلاث مراحل. في المرحلة الأولى، للوكيل وصول للقراءة فقط: يستطيع الاستعلام عن المقاييس والسجلات وسجلات التغيير الحديثة وقاعدة المعرفة، ونشر ملخص في قناة الحادث مع الدليل الذي استخدمه. وفي المرحلة الثانية، يجوز له أيضًا تنفيذ قائمة صغيرة من الإجراءات القابلة للعكس، مثل إعادة تشغيل خدمة بلا حالة أو توسيع مجموعة عاملين بمثيلين، فقط حين يطابق التنبيه كتيّب تشغيل موثقًا، بحد ثلاثة إجراءات في الساعة ونشر في القناة بعد كل منها. وفي المرحلة الثالثة، التي لم تُعتمد بعد، يُسمح له باقتراح تغييرات تكوين لموافقة بشرية.

للوكيل حساب خدمة خاص به بوصول للقراءة فقط إلى الإنتاج، إضافة إلى الإجراءين المسميين. وهو يقرأ نص التذاكر والسجلات، التي قد تحتوي محتوى عدائيًا، فحين يقرأ نصًا حرًا لا يستطيع استدعاء أي أداة إجراء في الخطوة نفسها. ويذهب سجل الوكيل الكامل للطلبات واستدعاءات الأدوات والنتائج إلى مخزن سجلات منفصل. ويملك مهندس كبير الوكيل، ويراجع عشر جلسات كل أسبوع، ويستطيع تعطيل بيانات اعتماده بأمر واحد، يتمرن عليه الفريق شهريًا.

بعد شهرين في المرحلة الأولى، يجد المهندسون المناوبون الملخصات صحيحة في 85 في المئة من الحالات. وفي 10 في المئة تفوّت تغييرًا ذا صلة لأن سجل التغيير ناقص، وفي 5 في المئة تشير إلى مكوّن خاطئ. وتبدأ المرحلة الثانية بكتيّب تشغيل واحد. وفي الشهر الأول يعيد الوكيل تشغيل خدمة ثلاث مرات، بصواب. وفي اختبار واحد بتذكرة مصطنعة تحوي تعليمة مخفية لتوسيع مجموعة إلى رقم مرتفع جدًا، يوقفه حد المعدل وقاعدة الإجراءات.

ما الذي يتغير: يُوقَظ المهندسون أقل ويصلون بملخص ودليل. وما يظل صعبًا: اعتماد الوكيل على سجلات تغيير دقيقة يكشف فجوات في جودة البيانات؛ ويثق المهندسون أحيانًا بالملخص أكثر من فحوصهم؛ وطلب فريق الأمن تمديد الاحتفاظ بسجل التدقيق ومراجعته. ويسجل المالك هذه ويوقف المرحلة الثالثة حتى يُقاس معدل الخطأ في الثانية على مدى ربع سنة.

أربع زوايا نظر

فرق المنتج والتسليم

اعرضوا أدوات آمنة ضيقة بصلاحيات واضحة وحدود معدل وسجلات. ولا تمنحوا الوكلاء وصولًا شاملًا إلى خطوط إنتاجكم أو بياناتكم. وضمّنوا الوكلاء في نماذج التهديد لديكم.

فرق الخدمة والعمليات

امتلكوا نطاق الوكيل، وراجعوا سجله، وتمرّنوا على إيقافه. وأبقوا كتيّبات التشغيل دقيقة، فالوكلاء يعتمدون عليها. وأبلغوا عن الأخطاء والحوادث التي كادت تقع.

القيادة والحوكمة

قرروا أي استقلالية مقبولة لكل مهمة، واشترطوا مالكًا مسمّى ومسار تدقيق. اطلبوا أدلة من تجارب مرحلة بمرحلة، وكونوا مستعدين لتقليل الاستقلالية. ولا تعتمدوا على تطمينات المورّدين وحدها.

العملاء والمستخدمون

ينبغي أن تعرفوا حين يتصرف وكيل آلي على طلبكم، وأن يكون لديكم طريق إلى شخص يستطيع تصحيح خطأ. أخبروا المزود إن كان إجراء آلي خاطئًا.

الرشاقة والذكاء الاصطناعي والأتمتة والتحليلات

الرشاقة

وسّع الاستقلالية بخطوات صغيرة بالأدلة، وراجع كل خطوة مع أصحاب المصلحة، وأبقِ كل إصدار صغيرًا. تنبيه: قد يسبق التكرار السريع المراجعة الأمنية؛ فأبقِ بوابة لكل زيادة في الاستقلالية.

الذكاء الاصطناعي

الوكيل نظام ذكاء اصطناعي بمالك وحالات اختبار ومراقبة، ويحتاج عناية خاصة لأنه يتصرف. احترس من حقن التعليمات والثقة الزائدة. تنبيه: لا تعتمد على تعليمات تطلب من النموذج الحذر ضابطًا رئيسًا؛ اعتمد على الصلاحيات والحدود والموافقة. انظر الموضوع 5.6 — حوكمة الذكاء الاصطناعي ومخاطره والامتثال.

الأتمتة

يتصل الوكلاء بالأتمتة: يختارون الإجراءات ويطلقونها. أبقِ الإجراءات نفسها حتمية ومختبرة، بتحققها الخاص، بحيث يقتصر اختيار الوكيل على خيارات معتمدة. تنبيه: أتمتة تقبل أوامر حرة من وكيل خطرة كالوكيل؛ فاعرض إجراءات ضيقة مسماة. انظر الموضوع 6.6 — أتمتة كتيّبات التشغيل والإصلاح التلقائي.

التحليلات

قِس الإجراءات المتخذة ومعدلات الموافقة والتجاوزات والأخطاء المكتشفة في المراجعة والوقت الموفَّر والحوادث التي كادت تقع. تنبيه: قد يعني معدل موافقة مرتفع مقترحات جيدة أو ختمًا؛ فخذ عينات من المعتمد. انظر كتاب Service Management Metrics والموضوع 7.3 — القياس والتقارير.

أنماط الإخفاق الشائعة

  • صلاحيات واسعة. يُعطى الوكيل حساب مسؤول مشتركًا. استخدم هوية منفصلة بأقل امتياز.
  • موافقات لا يقرؤها أحد. تُختم طلبات متكررة مبهمة. اجعلها نادرة وواضحة ومأخوذة بعينات.
  • نص عدائي يوجّه الوكيل. يصدر محتوى في تذاكر أو صفحات ويب أوامر. قيّد الأدوات حول المدخلات غير الموثوقة.
  • لا حدود. تجري حلقة أو خطأ بسرعة الآلة. ضع سقوفًا على الإجراءات والإنفاق والنطاق.
  • لا زر إيقاف. لا يستطيع أحد إيقافه. ابنِ مفتاح إيقاف وتمرّن عليه.
  • لا سجل. يتعذر التحقيق في الحوادث. احتفظ بمسار تدقيق كامل محمي.
  • استقلالية ترفعها الحماسة. يحصل الوكيل على صلاحية أكبر بلا أدلة. وسّع بخطوات بمقاييس.

نموذج النضج

البُعد البدء التطوير التوحيد الإدارة التنسيق
النطاق والصلاحيات واسعة أو غير واضحة تجربة ضيقة نطاق مكتوب وهوية خاصة وأقل امتياز يُراجع النطاق والصلاحيات بانتظام تتكيف الصلاحيات بالخطر مع موافقة
الإشراف لا شيء مراجعة غير رسمية مستويات استقلالية وبوابات موافقة معرّفة تؤخذ عينات من جودة الموافقة وتُقاس يُضبط الإشراف بالأدلة عبر الوكلاء
ضوابط الأمان لا شيء تسجيل أساسي بيئة معزولة وحدود ومفتاح إيقاف مختبر تُدقَّق الضوابط وتُمارَس ضوابط مبنية في المنصة لكل الوكلاء
المساءلة غير واضحة يملكه البنّاء مالك مسمّى بمراجعة أسبوعية يراجع المالك المقاييس والحوادث ملكية منسقة عبر الوكلاء والفرق

قائمة التحقق

  • للوكيل نطاق مكتوب ومالك مسمّى.
  • يستخدم هويته الخاصة بصلاحيات أقل امتياز.
  • مستويات الاستقلالية معرّفة لكل مهمة، مع موافقة للإجراءات ذات العواقب أو التي لا رجعة فيها.
  • تُظهر الموافقات ما سيحدث وتؤخذ منها عينات للجودة.
  • اختبرناه في بيئة معزولة، بما فيها المدخلات العدائية.
  • تضع الحدود سقوفًا على الإجراءات والإنفاق والنطاق.
  • سجله الكامل مسجل حيث لا يستطيع تغييره ويُراجع.
  • لدينا مفتاح إيقاف وتمرّنا على استخدامه.

موجّهات الذكاء الاصطناعي

اختبر نطاق وكيل.

Our agent's written scope is: [paste]. Its tools and permissions: [list].
List twenty scenarios, some inside the scope, some at the edge, and some that try to get the agent to act outside it or to use a tool in a harmful way, and for each state what the correct behavior is. Do not include real systems or data.
List what you are unsure of.

راجع سجل إجراءات.

Here is a sample of an agent's action log, with identifiers removed: [paste].
List actions that look unusual in size, timing, or target, actions that did not match a documented runbook, and anything that looks like the agent following instructions from untrusted text. Quote each. Do not say whether the agent was right.
List what you are unsure of.

صُغ رسالة موافقة.

The agent proposes this action: [describe]. The evidence it used: [list]. What would change if it were done: [describe]. How to undo it: [describe or write "not known"].
Write a clear approval request of under 100 words for a busy approver, stating what will happen, why, the risk, and how to undo it. Do not recommend approval.
List what you are unsure of.

مهارات الذكاء الاصطناعي

  • risk-register: استخدمها لتسجيل مخاطر الوكلاء ومالكيها والقرارات.
  • runbook: استخدمها لتعريف الإجراءات التي يجوز للوكيل اتخاذها ومتى.
  • security-testing: استخدمها لاختبار الوكلاء أمام مدخلات عدائية.
  • incident-response-plan: استخدمها لتخطيط الاستجابة حين يسيء وكيل التصرف.
  • mlops: استخدمها لمراقبة النماذج وراء الوكلاء وترقيم إصداراتها.

المصادر الرئيسة

  • NIST, AI Risk Management Framework: بنية لحوكمة مخاطر الذكاء الاصطناعي، بما فيها مخاطر الأنظمة المستقلة.
  • OWASP, guidance on risks for applications built on large language models (owasp.org): بما فيها حقن التعليمات والوكالة المفرطة.
  • Wikipedia, "AI agent" and "Prompt injection": نظرات عامة على الفكرة وخطر أمني رئيس.
  • Wikipedia, "Principle of least privilege": الضابط الأساسي لتحديد الضرر.

المراجع

  1. Intelligent agent — Wikipedia — https://en.wikipedia.org/wiki/Intelligent_agent
  2. AI agent — Wikipedia — https://en.wikipedia.org/wiki/AI_agent
  3. Human-in-the-loop — Wikipedia — https://en.wikipedia.org/wiki/Human-in-the-loop
  4. Principle of least privilege — Wikipedia — https://en.wikipedia.org/wiki/Principle_of_least_privilege
  5. Confused deputy problem — Wikipedia — https://en.wikipedia.org/wiki/Confused_deputy_problem
  6. Prompt injection — Wikipedia — https://en.wikipedia.org/wiki/Prompt_injection
  7. Sandbox (computer security) — Wikipedia — https://en.wikipedia.org/wiki/Sandbox_(computer_security)
  8. Kill switch — Wikipedia — https://en.wikipedia.org/wiki/Kill_switch
  9. Audit trail — Wikipedia — https://en.wikipedia.org/wiki/Audit_trail
  10. Automation bias — Wikipedia — https://en.wikipedia.org/wiki/Automation_bias
  11. Rate limiting — Wikipedia — https://en.wikipedia.org/wiki/Rate_limiting
  12. OWASP — OWASP Foundation — https://owasp.org