حوكمة الذكاء الاصطناعي ومخاطره والامتثال
تمنح حوكمة الذكاء الاصطناعي المؤسسة مالكين مسمّين وقواعد واضحة للبيانات والقرارات وتقييم مخاطر متناسبًا مع الضرر واختبارًا وسجلات لكل نظام ذكاء اصطناعي تستخدمه؛ وتوفر أطر مثل ISO/IEC 42001 وإطار NIST لإدارة مخاطر الذكاء الاصطناعي وقانون الذكاء الاصطناعي الأوروبي مفردات وبنية، لا مشورة قانونية.
لماذا يهم هذا
يصل الذكاء الاصطناعي إلى المؤسسة من أبواب كثيرة في وقت واحد. يضيف الموردون ميزات ذكاء اصطناعي إلى الأدوات التي تدفع ثمنها أصلًا. وتبني الفرق مساعدين. ويستخدم الأفراد أدوات محادثة عامة لعملهم. ويحمل كل استخدام أسئلة قد لا تكون المؤسسة طرحتها: ما البيانات التي تدخل، ومن يراها، وما مدى دقتها، ومن يتأثر بقراراتها، ومن يجيب حين تخطئ.
وبلا حوكمة، تُجاب هذه الأسئلة استخدامًا بعد استخدام، بلا اتساق، أو لا تُجاب إطلاقًا. وتتراوح العواقب بين المحرج والجسيم: وثيقة سرية تُلصق في أداة عامة، ونظام فرز يعامل بعض المجموعات أسوأ من غيرها، ومساعد يعطي عميلًا نصحًا خاطئًا، وجهة تنظيمية تطلب دليلًا على الضبط فلا تجد شيئًا.
الحوكمة هي الجواب، ولا يلزم أن تكون ثقيلة. في جوهرها مجموعة صغيرة من العادات: اعرف أي ذكاء اصطناعي تستخدم، وأعطِ كل استخدام مالكًا، وقيّم الخطر بما يتناسب مع ما قد يسوء، واختبر وراقب، وضع قواعد للبيانات والإشراف البشري، واحتفظ بسجلات. والقوانين والمعايير تتطور بسرعة: فقانون الذكاء الاصطناعي في الاتحاد الأوروبي، الذي تصفه ويكيبيديا، يضع التزامات بحسب فئة الخطر، ولدى ولايات قضائية كثيرة أخرى قواعد أو مقترحات. يشرح هذا الموضوع البنية والمفردات ويبيّن كيف تُدرج حوكمة الذكاء الاصطناعي في الحوكمة التي لديك أصلًا. وهو لا يقدم مشورة قانونية؛ ولأي سؤال قانوني، اسأل مستشارًا مؤهلًا.
ويضع وصف المالك لأحدث إصدار من ITIL الذكاء الاصطناعي داخل البيئة التي يجب أن تعالجها إدارة الخدمات (انظر الموضوع 1.3 — ITIL 5). ويتصل هذا الموضوع بالنظرة العامة إلى الذكاء الاصطناعي (الموضوع 5.1 — الذكاء الاصطناعي في إدارة الخدمات) والوكلاء (الموضوع 5.5 — الذكاء الاصطناعي الوكيلي والإشراف البشري) ونموذج التشغيل (الموضوع 5.8 — نموذج تشغيل الذكاء الاصطناعي والمهارات) وحوكمة المؤسسة (الموضوع 8.1 — الحوكمة والمخاطر والامتثال).
المفاهيم الأساسية
الحوكمة والمخاطر والامتثال (GRC). الحوكمة هي كيف تُوجَّه المؤسسة وتُضبط؛ وإدارة المخاطر تحدد التهديدات للأهداف وتعالجها؛ والامتثال هو الوفاء بالتزامات من القوانين والعقود والسياسات. وتصف ويكيبيديا GRC نهجًا متكاملًا للثلاثة. وتطبّق حوكمة الذكاء الاصطناعي المنطق نفسه على الذكاء الاصطناعي.
جرد الذكاء الاصطناعي. قائمة بكل أنظمة الذكاء الاصطناعي قيد الاستخدام أو التطوير: الغاية والمالك والمورّد أو النموذج والبيانات المستخدمة والمستخدمون والمتأثرون ومستوى الخطر والحالة. لا تستطيع حوكمة ما لا تراه. ضمّن الميزات المضمَّنة لدى الموردين والأدوات الشخصية المستخدمة للعمل.
النهج القائم على المخاطر. ينبغي أن يطابق مستوى الضبط مستوى الضرر المحتمل. فتلخيص ملاحظات اجتماع يحمل خطرًا مختلفًا عن ترتيب المتقدمين لوظيفة. ويتبع قانون الذكاء الاصطناعي الأوروبي نهجًا مشابهًا، بفئات تمتد من الخطر الأدنى إلى غير المقبول؛ وتصف ويكيبيديا الفئات. افحص النص الحالي ووضعك الخاص مع مستشار قانوني.
تقييم المخاطر للذكاء الاصطناعي. لكل استخدام، اسأل: من قد يتضرر وكيف؛ وما احتماله وجسامته؛ وما حدود النظام؛ وماذا يحدث حين يخطئ؛ وما البدائل. وتصف ويكيبيديا إدارة المخاطر عمومًا. سجّل التقييم وقرار المالك. وتقييمات أثر الخصوصية، التي تصفها ويكيبيديا، أداة ذات صلة للبيانات الشخصية.
المعايير والأطر. تحدد ISO/IEC 42001، الصادرة في 2023، متطلبات نظام إدارة الذكاء الاصطناعي، وهي مشابهة في البنية لمعايير نظم الإدارة الأخرى في ISO. وينشر المعهد الوطني للمعايير والتقنية (NIST) في الولايات المتحدة إطار إدارة مخاطر الذكاء الاصطناعي، الذي ينتظم حول أربع وظائف: حَكِّم، وارسم، وقِس، وأدِر. وكلاهما أداة طوعية للبنية ومفردات مشتركة. اقرأ النصوص الحالية من الناشرين. انظر الموضوع 1.8 — أطر ومعايير إدارة الخدمات.
القانون واللوائح. يخضع الذكاء الاصطناعي لقوانين قائمة، مثل قوانين حماية البيانات وحماية المستهلك والتمييز والعمل والملكية الفكرية، إضافة إلى قواعد جديدة خاصة بالذكاء الاصطناعي. وتصف ويكيبيديا تنظيم الذكاء الاصطناعي عبر الولايات القضائية، وهو يتغير بسرعة. وتعتمد الالتزامات على أين تعمل وماذا تفعل. ولا يستطيع هذا الدليل أن يخبرك بما ينطبق.
حماية البيانات والخصوصية. كثيرًا ما تعالج أنظمة الذكاء الاصطناعي بيانات شخصية. وتضع قوانين مثل اللائحة العامة لحماية البيانات (GDPR) في الاتحاد الأوروبي قواعد للأساس القانوني والغرض والتقليل وحقوق الأفراد، وفي بعض الحالات حدودًا على القرارات الآلية. وتصف ويكيبيديا GDPR والخصوصية. أشرك مسؤول الخصوصية أو المستشار القانوني، وسجّل أين تذهب البيانات وكم تُحفظ وهل تدرّب أي نموذج.
التحيز والإنصاف. قد يعيد الذكاء الاصطناعي المدرَّب على بيانات سابقة إنتاج أنماط غير منصفة، فيحصل بعض الناس على نتائج أسوأ. وتصف ويكيبيديا التحيز الخوارزمي والإنصاف في تعلم الآلة. اختبر الفروق في النتائج عبر المجموعات المتصلة بالاستخدام، وراجع من يتأثر، لا الأداء المتوسط فقط. وقرر ما هو مقبول قبل الإطلاق.
الشفافية وقابلية التفسير. ينبغي أن يعرف المتأثرون بنظام ذكاء اصطناعي أنه قيد الاستخدام، وللقرارات المهمة أن يستطيعوا الحصول على تفسير وطريق للطعن. وتصف ويكيبيديا الشفافية الخوارزمية والذكاء الاصطناعي القابل للتفسير. ويعتمد المستوى الصحيح على الرهانات.
الإشراف البشري. شخص يستطيع فهم النظام ومساءلته وتجاوزه، بوقت ومعلومات كافية. انظر الموضوع 5.5 — الذكاء الاصطناعي الوكيلي والإشراف البشري. والإشراف الموجود على الورق فقط نتيجة شائعة.
السلامة والأمن. يمكن مهاجمة أنظمة الذكاء الاصطناعي (مثلًا بحقن التعليمات)، وقد تسرّب البيانات، وقد تتصرف بصورة غير متوقعة. والفريق الأحمر، الذي تصفه ويكيبيديا، ممارسة اختبار نظام بمحاكاة خصم. انظر الموضوع 3.13 — إدارة أمن المعلومات.
الملكية الفكرية. تنشأ أسئلة بشأن المادة المستخدمة لتدريب النماذج وملكية المخرجات وتراخيص النماذج نفسها. وتصف ويكيبيديا الملكية الفكرية وحقوق النشر. انظر الموضوع 4.2 — إدارة أصول البرمجيات. واطلب مشورة بشأن كيف تؤثر فيك.
المساءلة والأدوار. تحتاج الحوكمة أدوارًا واضحة: راعيًا تنفيذيًا، وجهة تضع السياسة وتراجع الاستخدامات الأعلى خطرًا، ومالكين لكل نظام، ومتخصصين في الأمن والخصوصية والشؤون القانونية. وتصف ويكيبيديا المساءلة. وتجنب لجنة توافق على كل شيء وتعيق العمل؛ واحتفظ بالمراجعة للاستخدامات الأعلى خطرًا.
ضوابط دورة الحياة. تنطبق الضوابط عبر حياة النظام: التصميم (الغاية والبيانات والخطر)، والبناء أو الشراء (العناية الواجبة والعقود والاختبار)، والنشر (الموافقة والمراقبة)، والتشغيل (الأداء والانجراف والحوادث)، والتقاعد. انظر الموضوع 3.14 — إدارة الموردين.
السجلات. احتفظ بالدليل: الجرد وتقييمات المخاطر ونتائج الاختبار والموافقات وسجلات الحوادث وسجلات الاستخدام. وتدعم السجلات التدقيقات والتعلم وطعون المتأثرين.
كيف تتلاءم العدسات. الحوكمة طبقة الضبط حول عدسة الذكاء الاصطناعي. وتقترح الممارسة الرشيقة مراجعة سريعة متناسبة، مع حواجز تستطيع الفرق استخدامها دون انتظار. وتستطيع الأتمتة فرض القواعد، مثل منع البيانات الحساسة من الذهاب إلى أدوات غير معتمدة. وتوفر التحليلات دليل المراقبة.
أفضل الممارسات
- ابنِ الجرد أولًا. اسأل الفرق، وافحص إعدادات الموردين، وراجع بيانات الشبكة والمصروفات. وسجّل كل نظام ذكاء اصطناعي بمالك وغاية.
- صنّف بالخطر. عرّف بضعة مستويات خطر بأمثلة، مثل منخفض (صياغة نص داخلي) ومتوسط (إجابات موجهة للعملاء) وعالٍ (قرارات تمس حقوق الناس أو سلامتهم). واربط مستوى المراجعة بمستوى الخطر.
- سمِّ مالكًا لكل استخدام. شخص مسؤول واحد لكل نظام، يوقّع تقييم المخاطر ويجيب عن الأداء والحوادث.
- اصنع سياسة قصيرة واضحة. بيّن أي البيانات يجوز أن تذهب إلى أي أدوات، وأي الاستخدامات تحتاج موافقة، وما لا يجوز فعله أبدًا، ومن تسأل. وأبقها في بضع صفحات، وانشر أمثلة.
- وفّر أدوات ومسارات معتمدة. إن لم يكن لدى الموظفين طريقة معتمدة لاستخدام الذكاء الاصطناعي، فسيستخدمون غير المعتمدة. قدّم أدوات بالشروط الصحيحة ومسارًا سريعًا للموافقة.
- قيّم قبل واختبر بعد. أجرِ تقييم مخاطر متناسبًا قبل أن يبدأ استخدام، واختبر بحالات واقعية، بما فيها فحوص التحيز وإساءة الاستخدام. وكرر بعد التغييرات المهمة.
- افحص الموردين والشروط. اسأل الموردين كيف يستخدمون بياناتك وكيف يختبرون وكيف يخبرونك بتغييرات النماذج وماذا يحدث للبيانات في النهاية. وسجّل الإجابات. انظر الموضوع 3.14 — إدارة الموردين.
- عرّف الإشراف البشري عمليًا. لكل استخدام، بيّن من يراجع ماذا، بأي معلومات، وكم مرة، وخذ عينات من المراجعات.
- راقب وعالج الحوادث. تتبّع الأخطاء والشكاوى والانجراف والأحداث الأمنية. وعامل حوادث الذكاء الاصطناعي كغيرها وتعلّم منها. انظر الموضوع 3.2 — إدارة الحوادث.
- راجع بانتظام واحتفظ بالسجلات. أعد النظر في الجرد ومستويات الخطر سنويًا على الأقل وحين تتغير القوانين أو الأنظمة. وأبقِ الدليل في مكان واحد.
أسئلة للنقاش مع فريقك
أين نستخدم الذكاء الاصطناعي اليوم، ومن يملك كل استخدام، وما الذي قد يسوء؟ ابنِ جردًا أول. توقّع فجوات، خصوصًا في ميزات الموردين والأدوات الشخصية. وتابع باختيار أخطر ثلاثة وتعيين مالكين.
أي استخداماتنا تمس وصول الناس أو أموالهم أو صحتهم أو توظيفهم، وأي مراجعة تنال؟ ابحث عن الاستخدامات الأعلى خطرًا. توقّع عدم يقين فيما يُعد كذلك. وتابع بإشراك المستشارين القانونيين والخصوصية في التصنيف.
ما البيانات التي يضعها الموظفون في أدوات الذكاء الاصطناعي، وهل يعرفون القواعد؟ اسأل دون كشف الأسماء إن لزم. توقّع مفاجآت. وتابع بالاتفاق على قاعدة واضحة بأمثلة وبتوفير بديل معتمد.
ماذا سنُري جهة تنظيمية أو عميلًا سأل كيف نضبط ذكاءنا الاصطناعي؟ اجمع ما هو موجود. توقّع ملفًا هزيلًا. وتابع باختيار ثلاث وثائق لإنتاجها: الجرد والسياسة وتقييم مخاطر واحد.
كيف نختبر النتائج غير المنصفة، وأي المجموعات ينبغي أن ننظر فيها؟ فكّر في المتأثرين بكل استخدام. توقّع أن لا أحد اختبر. وتابع باختيار استخدام واحد وتصميم مقارنة بسيطة عبر المجموعات، بمشورة.
من يستطيع أن يقول لا لاستخدام ذكاء اصطناعي، وماذا يحدث حين يفعل؟ حوكمة بلا سلطة إيقاف زخرفة. توقّع إجابات غير واضحة. وتابع بتسمية صاحب القرار للاستخدامات الأعلى خطرًا ومستوى خدمة للمراجعات.
في الممارسة: مثال على إدارة الخدمات
تستخدم وكالة وطنية للضمان الاجتماعي الذكاء الاصطناعي في عدة أماكن: وكيل افتراضي لدى مورّد على موقعها العام، وأداة تلخص ملاحظات القضايا للمعالجين، ومساعد مطورين يستخدمه موظفو تقنية المعلومات، وتجربة تنبّه على أخطاء محتملة في مطالبات الإعانات للمراجعة. لا يوجد سجل مركزي، وقد سأل مكتب أحد الوزراء الوكالة كيف تضبط الذكاء الاصطناعي.
يطلب مدير تقنية المعلومات من مكتب إدارة الخدمات بناء جرد خلال ستة أسابيع. فيجد إحدى عشرة حالة استخدام، بما فيها اثنتان لم يعرف بهما أحد في إدارة تقنية المعلومات: ميزة تلخيص نصوص فعّلها مورّد في نظام إدارة القضايا، وأداة نسخ كلام يستخدمها مكتب إقليمي واحد بحسابات شخصية. ويصنف الفريق الاستخدامات بالخطر مع مسؤول الخصوصية والإدارة القانونية. فتصنف تجربة التنبيه على المطالبات عالية الخطر، لأن مخرجها قد يؤدي إلى إجراء ضد شخص؛ وملخص ملاحظات القضايا متوسطة؛ ومساعد المطورين منخفضة، وإن كان يحمل أسئلة ترخيص.
لكل استخدام يُسمّى مالك. وفي تجربة المطالبات، يكلّف المالك بتقييم مخاطر، يشمل مقارنة معدلات التنبيه عبر المجموعات وقاعدة بأن لا أحد يُحرم إعانة بمخرج الأداة وحده أبدًا. وتُوقف أداة النسخ حتى يوجد بديل معتمد؛ ويُعرض على المكتب الإقليمي أداة معتمدة من مورّد بعقد بشروط حماية بيانات. وتضع سياسة من أربع صفحات قواعد للبيانات والموافقات، ويوعد بمسار مراجعة قصير خلال عشرة أيام عمل للاستخدامات المتوسطة الخطر.
ما الذي يتغير: تستطيع الوكالة أن ترد على الوزارة بجرد وسياسة وتقييم مخاطر لأعلى استخداماتها خطرًا. وما يظل صعبًا: تواصل الميزات المفعَّلة افتراضيًا من الموردين الظهور، وليس لدى الوكالة وسيلة آلية لاكتشافها؛ وتحد من المقارنة عبر المجموعات بيانات قد لا يحق للوكالة قانونًا حيازتها؛ ويجهد وعد مسار المراجعة بعشرة أيام فريقًا صغيرًا. ويخطط المكتب لمراجعة فصلية لميزات الموردين وطلب إرشاد قانوني بشأن الاختبار.
أربع زوايا نظر
فرق المنتج والتسليم
سجّلوا استخداماتكم للذكاء الاصطناعي، وقيّموا الخطر مبكرًا، واختبروا بحالات واقعية وعدائية، وسجّلوا ما يجوز للنظام فعله. وابنوا طريقًا للناس ليطعنوا في النتائج ولكم لإطفائه.
فرق الخدمة والعمليات
راقبوا أنظمة الذكاء الاصطناعي في الإنتاج، وعالجوا الحوادث، وأبلغوا عن الأخطاء والشكاوى. اتبعوا قواعد البيانات، وأخبروا المالكين بميزات الذكاء الاصطناعي الجديدة التي تظهر في أدواتكم.
القيادة والحوكمة
ارعوا البرنامج، وسمّوا صلاحيات القرار، وموّلوا العمل. اطلبوا الجرد ومستويات الخطر ودليل الاختبار. ولا تُسنِدوا المساءلة إلى الموردين أو اللجان.
العملاء والمستخدمون
ينبغي أن تُخبروا حين يُستخدم الذكاء الاصطناعي بطرق تهمكم، وأن تستطيعوا الوصول إلى شخص والطعن في القرارات. اسألوا كيف تُستخدم بياناتكم، وأبلغوا عن نتائج تبدو خاطئة أو غير منصفة.
الرشاقة والذكاء الاصطناعي والأتمتة والتحليلات
الرشاقة
وفّر مراجعة سريعة متناسبة بحواجز تستطيع الفرق اتباعها، مثل أدوات معتمدة وقائمة فحص قصيرة للاستخدامات منخفضة الخطر. وكرر على السياسة مع الفرق. تنبيه: المراجعة البطيئة الثقيلة تدفع الفرق إلى تجاوزها؛ فأبقِ المسار منخفض الخطر سريعًا.
الذكاء الاصطناعي
يستطيع الذكاء الاصطناعي المساعدة في صياغة السياسات وقراءة شروط الموردين وتحضير تقييمات المخاطر، تحت مراجعة قانونية وبشرية. سمِّ مالكًا لذلك الاستخدام أيضًا. تنبيه: قد يخطئ ملخص الذكاء الاصطناعي لقانون أو عقد؛ فلا تستخدمه أبدًا أساسًا لقرار امتثال. انظر الموضوع 5.1 — الذكاء الاصطناعي في إدارة الخدمات.
الأتمتة
أتمت تغذيات الجرد وقواعد منع تسرب البيانات والموافقات للاستخدامات منخفضة الخطر والتسجيل، مع مراجعة الاستثناءات. تنبيه: قد يدفع الحجب الآلي العمل إلى أجهزة شخصية؛ فاقرنه ببدائل معتمدة. انظر الموضوع 6.1 — استراتيجية الأتمتة.
التحليلات
تتبّع نسبة استخدامات الذكاء الاصطناعي ذات المالكين والتقييمات والحوادث والشكاوى ونتائج الاختبار وزمن المراجعة. تنبيه: قد يكافئ عدّ التقييمات المنجزة الأوراق؛ فخذ عينة لفحص الجودة وهل تعمل الضوابط. انظر كتاب Service Management Metrics والموضوع 7.3 — القياس والتقارير.
أنماط الإخفاق الشائعة
- لا جرد. تتكاثر الاستخدامات دون أن تُرى. ابنِ الجرد وجدّده.
- مراجعة واحدة للجميع. يُحجب كل شيء أو لا يُراجع شيء. اضبط المراجعة بالخطر.
- سياسة لا يستطيع أحد اتباعها. يتجاهلها الموظفون. اكتب قواعد قصيرة بأمثلة ووفر أدوات معتمدة.
- الحوكمة أوراقًا. الوثائق موجودة والضوابط غائبة. اختبر أن الضوابط تعمل.
- الثقة بادعاءات الموردين. الشروط والسلوك غير مفحوصين. اسأل واختبر وسجّل.
- تجاهل المتأثرين. يمر التحيز والضرر دون أن يُرى. اختبر النتائج عبر المجموعات وقدّم وسيلة للطعن.
- معاملة المشورة القانونية شيئًا يوفره الذكاء الاصطناعي. تقود ملخصات خاطئة القرارات. استخدم مستشارين مؤهلين.
نموذج النضج
| البُعد | البدء | التطوير | التوحيد | الإدارة | التنسيق |
|---|---|---|---|---|---|
| الجرد والملكية | استخدامات مجهولة | الاستخدامات الرئيسة مسرودة | جرد بمالكين ومستويات خطر | يُراجع الجرد ويُتحقق منه بالاكتشاف | الجرد مدمج مع الكتالوج والمشتريات والضوابط |
| الخطر والاختبار | ارتجالًا | بعض التقييمات | تقييم واختبار متناسبان قبل الإطلاق | تُراقب النتائج ويُتصرف بشأنها | ضمان مستمر عبر الأنظمة والموردين |
| السياسة والبيانات | لا شيء | إرشاد مسودة | سياسة واضحة وأدوات معتمدة وقواعد بيانات | يُراقب الامتثال ويُدقَّق | القواعد تُفرض بالأدوات وتتكيف مع التغيير |
| الإشراف والمساءلة | غير واضحة | راعٍ مسمّى | أدوار ومسار مراجعة وإشراف بشري معرّفة | تؤخذ عينات من جودة الإشراف | حوكمة منسقة عبر المؤسسة والشركاء |
قائمة التحقق
- نحتفظ بجرد للذكاء الاصطناعي بمالكين وغايات.
- لكل استخدام مستوى خطر، بمراجعة متناسبة معه.
- سياسة قصيرة تغطي البيانات والموافقات والاستخدامات المحظورة.
- توجد أدوات معتمدة ومسار مراجعة سريع.
- للاستخدامات الأعلى خطرًا تقييم مخاطر مسجل واختبارات، بما فيها التحيز.
- شروط الموردين بشأن البيانات والاختبار وتغييرات النماذج مسجلة.
- الإشراف البشري معرّف ويؤخذ منه عينات.
- سألنا المستشارين القانونيين والخصوصية عن التزاماتنا.
موجّهات الذكاء الاصطناعي
صُغ مدخل جرد من ملاحظات.
Here are notes on an AI use: [paste].
Draft an inventory entry with: purpose, owner (only if stated), vendor or model (only if stated), data used, people affected, decisions it influences, and proposed risk level with the reasons. Mark each item not in the notes as [missing]. Do not state legal obligations.
List what you are unsure of.
حضّر أسئلة لمورّد.
We are considering an AI product from a vendor for [use]. What we know of it: [paste].
Write 20 questions for the vendor about data use and retention, training on our data, testing for accuracy and bias, security, model changes, incident notification, and exit. Do not assume answers.
List what you are unsure of.
نظّم تقييم مخاطر للمراجعة.
AI use: [describe]. People affected: [list]. Decisions influenced: [list]. Current controls: [list].
Draft a risk assessment table with: harm, who is affected, likelihood and severity (marked as my estimate to be confirmed), existing controls, further controls to consider, and questions for the owner. Do not give legal conclusions.
List what you are unsure of.
مهارات الذكاء الاصطناعي
- risk-register: استخدمها لتسجيل مخاطر الذكاء الاصطناعي ومالكيها والقرارات.
- machine-learning-model-card: استخدمها لتوثيق غاية نموذج وبياناته وأدائه وحدوده.
- legal-data-privacy-compliance: استخدمها لصياغة أسئلة الخصوصية لمستشارك القانوني.
- legal-compliance-audit: استخدمها لتحضير الدليل والأسئلة لتدقيق.
- data-governance: استخدمها لوضع الملكية والقواعد للبيانات التي يستخدمها الذكاء الاصطناعي.
المصادر الرئيسة
- NIST, AI Risk Management Framework: إطار طوعي واسع الاستخدام لإدارة مخاطر الذكاء الاصطناعي.
- ISO/IEC 42001 (the standard itself): متطلبات نظام إدارة الذكاء الاصطناعي؛ اقرأ الإصدار الحالي من الناشر.
- The text of the European Union Artificial Intelligence Act and guidance from your own regulators: مصادر مرجعية للالتزامات القانونية.
- Wikipedia, "Regulation of artificial intelligence" and "Ethics of artificial intelligence": نظرات عامة على المشهد.
المراجع
- Regulation of artificial intelligence — Wikipedia — https://en.wikipedia.org/wiki/Regulation_of_artificial_intelligence
- Artificial Intelligence Act — Wikipedia — https://en.wikipedia.org/wiki/Artificial_Intelligence_Act
- Ethics of artificial intelligence — Wikipedia — https://en.wikipedia.org/wiki/Ethics_of_artificial_intelligence
- Algorithmic bias — Wikipedia — https://en.wikipedia.org/wiki/Algorithmic_bias
- Fairness (machine learning) — Wikipedia — https://en.wikipedia.org/wiki/Fairness_(machine_learning)
- General Data Protection Regulation — Wikipedia — https://en.wikipedia.org/wiki/General_Data_Protection_Regulation
- Privacy impact assessment — Wikipedia — https://en.wikipedia.org/wiki/Privacy_impact_assessment
- Governance, risk, and compliance — Wikipedia — https://en.wikipedia.org/wiki/Governance,_risk,_and_compliance
- Risk management — Wikipedia — https://en.wikipedia.org/wiki/Risk_management
- Red team — Wikipedia — https://en.wikipedia.org/wiki/Red_team
- Explainable artificial intelligence — Wikipedia — https://en.wikipedia.org/wiki/Explainable_artificial_intelligence
- AI Risk Management Framework — NIST — https://www.nist.gov/itl/ai-risk-management-framework