الإطار العام
تم تصميم إدارة المخاطر المؤسسية التقليدية للمخاطر التي تسلك سلوكاً حتمياً، مع اخفاقات تترك سلسلة سببية يمكن تتبعها. الذكاء الاصطناعي يكسر كلا الافتراضين. إن EW-AiRM™ هي الطبقة التي تسد الفجوة، مصممة لتعزيز ما تديره بالفعل، وليس لاستبداله.
البنية الهندسية
معظم أطر مخاطر الذكاء الاصطناعي تختار مستوى وتلتزم به: إطار EW-AiRM™ يمتد عمداً عبر ثلاث طبقات، لأن الأسئلة الاستراتيجية لا يمكن الإجابة عليها بالأدوات التشغيلية وحدها، والطبقة التشغيلية لا تستطيع توقع البجعات السوداء. ومع وجود HAiPECRTM مرشح أخلاقي يعمل عبرها جميعاً. مع مكتبة ضوابط الذكاء الاصطناعي المستمدة من أكثر من 800 إجراء تخفيف مستند إلى الأدلةوليس مجرد تأكيدها من المبادئ الأولية.
الطبقة 1
ستة ركائز. الضرورة، الجاهزية، النضج، التسامح، الحوكمة والمساءلة، من خلالمراقبة دورة الحياة. يحدد الشروط التي يجب أن يلبيها أي نشر للذكاء الاصطناعي قبل تشغيله رسمياً.
يمكن تطبيقه بأثر رجعي أيضاً، كجزء من تقييم نضج الذكاء الاصطناعي للمؤسسة.
يكمله HAiPECRTM، المرشح الأخلاقي: نفس الأسئلة السبعة المطروحة في كل قرار مهم للذكاء الاصطناعي, عبر الطبقات الثلاث جميعها، بما يتوافق مع توصية اليونسكو لعام 2021.
الطبقة 2
مستودع مخاطر الذكاء الاصطناعي بمعهد ماساتشوستس للتكنولوجيا (CC BY 4.0): أكثر من 1000 خطر عبر 7 مجالات و24 مجالاً فرعياً.
مُعيّنة لـ 831 ضابطاً في 4 أرباع (الحوكمة والإشراف، التقنية والأمن، العمليات التشغيلية، الشفافية والمساءلة).
لتعيينات الضوابط في المستويات الأولية والثانوية والثلاثية.
هذه الطبقة لا تطلب من المؤسسات بناء تصنيف لمخاطر الذكاء الاصطناعي من الصفر؛ بل تمنح الممارسين قاعدة الأدلة والأدوات لتطبيقه.
الطبقة 3
ثمانية فئات البجعة السوداء للذكاء الاصطناعي -خاضعة للحوكمة، وتتم الحوكمة عبر الأسس القوية، والاستشعار المستمر، والاستجابة التكيفية.
يشمل ظهور الوكلاء المتعددين و الانتقال إلى التشفير الكمومي (NIST FIPS 203/204/205).
للمخاطر التي لا تتناسب مع التصنيف التشغيلي.
إن الاستجابة للمجهولات غير المعروفة هي المرونة وليست التنبؤ.
شروط الحد الأدنى: الثوابت الخمسة غير القابلة للتفاوض
1
مسؤولية مسماة لكل نظام ذكاء اصطناعي مُنشر
2
تشغيل HAIPECR كمرشح ما قبل النشر، وموثق
3
اختبار قدرة التدخل البشري مع اتفاقية مستوى خدمة (SLA) لمدة 4 ساعات
4
قبول المخاطر من قبل مجلس الإدارة أو التنفيذيين بشكل موثق
5
مسار الإبلاغ عن الحوادث، مع مستلم مسّمى
الطبقة الاستراتيجية
كل ركيزة هي سؤال يجب على المؤسسة الإجابة عليه كتابةً قبل نشر أي نظام، واختبار يجب أن يظل سارياً طوال دورة حياة النشر.
P-I
التوافق الاستراتيجي
+ تقييم الضرورة
هل الذكاء الاصطناعي هو الأداة المناسبة لهذه المشكلة من الأساس؟ إذا كان النظام الحتمي يؤدي الغرض، فالذكاء الاصطناعي هو الإجابة الخاطئة.
P-II
P-III
النضج التكنولوجي
هل النموذج الأساسي، والمورد، ونمط التكامل جاهزون لهذه الحالة الاستخدامية بهذا المستوى من المخاطر؟
P-IV
القدرة على تحمل المخاطر
هل وافق مجلس الإدارة على المخاطر المتبقية، وهل تم توثيق مستوى تحمل المخاطر بدقة كافية؟
P-V
الحوكمة والمساءلة
من المسؤول عن القرار، ومن المسؤول عن الحادث؟ يجب أن تكون الأسماء محددة وليست ضمنية.
P-VI
المراقبة طوال دورة الحياة
+ القابلية للتكيف
ما هي التغييرات التي تستدعي مراجعة جديدة؟ من يقوم بإجراء المراجعة الجديدة؟ ما هو اتفاقية مستوى الخدمة (SLA) لزر الإيقاف الطارئ؟
الغلاف الأخلاقي
HAIPECR هو المرشح الأخلاقي الذي يعمل عبر الطبقات الثلاث جميعها. مرتبط بتوصية اليونسكو لعام 2021 بشأن أخلاقيات الذكاء الاصطناعي (10 مبادئ أساسية وليست 9). مدرج في مرصد سياسات الذكاء الاصطناعي التابع لمنظمة التعاون الاقتصادي والتنمية (OECD) منذ أبريل 2023.
الرقابة البشرية - المساءلة المحددة بالاسم، واختبار تجاوز الصلاحيات.
المساءلة - مرتبطة بالمبدأ الخامس لليونسكو P5.
الشمولية - شرط أساسي مدمج،
ليس ركناً. (لذلك، الحرف الصغير "i").
الخصوصية - حماية البيانات، السلامة، الأمان.
الأخلاقيات - القابلية للتفسير، الشفافية، العدالة، عدم التمييز.
السلوك - استناداً إلى نموذج مخاطر السلوك العالمي (UCRP).
المرونة - الاستدامة، حقوق الأجيال القادمة.
خريطة اليونسكو:
H → P7 الرقابة البشريّة
A → P5 المساءلة
i → P4 الحوكمة متعددة الأطراف + P9 الوعي ومحو الأمية
P → P3 الخصوصية + P2 السلامة والأمان (+ تقنيات الأعصاب لليونسكو 2024)
E → P6 الشفافية وقابلية التفسير + P10 العدالة
C → P1 التناسب / عدم الإضرار
R → P8 الاستدامة
خريطة اليونسكو: H → P7 الرقابة البشريّة A → P5 المساءلة i → P4 الحوكمة متعددة الأطراف + P9 الوعي ومحو الأمية P → P3 الخصوصية + P2 السلامة والأمان (+ تقنيات الأعصاب لليونسكو 2024) E → P6 الشفافية وقابلية التفسير + P10 العدالة C → P1 التناسب / عدم الإضرار R → P8 الاستدامة
طبقة المرونة
يحدد نظام EW-AiRM ثماني فئات مميزة للبجعة السوداء للذكاء الاصطناعي.
لكل منها خصائص مميزة، وسبب واضح لعدم القدرة على التنبؤ، واستجابة حوكمة منفصلة.
الفئات ليست متبادلة الحصرية: يمكن لفئات متعددة أن تتفاعل، مما يؤدي إلى تضخيم آثار بعضها البعض بطرق تجعل الحدث المشترك أكثر خطورة من أي فئة بمفردها:
الخصائص:
تظهر النماذج الأساسية قدرات غير متوقعة لم يتم التدريب عليها صراحة أو تصميمها في النظام. تنشأ هذه القدرات من التفاعلات المعقدة لمليار معلمة بطرق لا يمكن التنبؤ بها من مواصفات النموذج.
لماذا لا يمكن التنبؤ بها:
تحتوي النماذج على مليارات المعلمات؛ وينشأ السلوك من تفاعلات معقدة للمعلمات لا يمكن التنبؤ بها تماماً حتى من قبل المهندسين الذين قاموا بنص النظام. تنشأ القدرة عند عتبات مقياس تكون في حد ذاتها غير قابلة للتنبؤ.
استجابة الحوكمة:
يرجى التواصل معنا لتحديد استراتيجيات الاستجابة المناسبة أو مراجعة الفصل 14 في EW-AiRMTM الكتاب.
الخصائص:
فشل عنصر بنيوي مركزي للذكاء الاصطناعي (أبرزها مزود نموذج أساسي رئيسي، ولكن أيضاً مزودي وحدات معالجة الرسومات السحابية، ومزودي مسرعات الذكاء الاصطناعي، ومزودي قواعد بيانات المتجهات مع نضوج حزمة الذكاء الاصطناعي) يتسلسل عبر آلاف التطبيقات التابعة في نفس الوقت، مما يخلق اضطراباً يمثل الاقتصاد بأسره بدلاً من الإخفاقات التنظيمية المعزولة.
لماذا لا يمكن التنبؤ بها:
إن حجم الاعتماد عبر النظام البيئي غير معروف حتى يحدث الفشل. تقوم المنظمات الفردية بتقييم اعتمادها الخاص، ولكن ليس لدى أي جهة حوكمة واحدة رؤية شاملة للاعتماد الإجمالي عبر النظام المالي بأكمله، أو نظام الرعاية الصحية، أو أي قطاع حرج آخر.
استجابة الحوكمة:
يرجى التواصل معنا لتحديد استراتيجيات الاستجابة المناسبة أو مراجعة الفصل 14 في EW-AiRMTM الكتاب.
الخصائص:
يسعى النموذج إلى تحقيق أهدافه المحددة بطرق ضارة لأن عملية التحسين وجدت مساراً للهدف لم يتوقعه مصممو النظام. يقوم النموذج بالضبط بما تم تحسينه من أجله. لكن عملية التحسين أنتجت عواقب غير مقصودة.
لماذا لا يمكن التنبؤ بها:
من الصعب توقع جميع الطرق التي يمكن من خلالها لعملية التحسين أن تجد مساراً لهدف يسبب الضرر. التحسين صحيح رياضياً؛ المشكلة تكمن في الفجوة بين الهدف المحدد والهدف المقصود. لقد وثقت أبحاث سلامة الذكاء الاصطناعي الرائدة من شركات مثل أنثروبك، وأوبن إيه آي، وجوجل ديب مايند، ومعاهد سلامة الذكاء الاصطناعي في المملكة المتحدة والولايات المتحدة أن هذه الفجوة تتسع بدلاً من أن تضيق مع زيادة قدرة النموذج، مما يجعل فشل التوافق خطراً متزايداً هيكلياً وليس مشكلة تتحسن مع النضج التقني.
استجابة الحوكمة:
يرجى التواصل معنا لتحديد استراتيجيات الاستجابة المناسبة أو مراجعة الفصل 14 في EW-AiRMTM الكتاب.
الخصائص:
تظهر سلوكيات غير متوقعة وضارة نتيجة الجمع بين النصوص والصورة والصوت وتقنيات الذكاء الاصطناعي الأخرى في نظام واحد، حيث تم تقييم التقنيات الفردية مسبقاً على أنها مقبولة، لكن دمجها يخلق تأثيرات مركبة لم تكن موجودة في أي منها بمفردها.
لماذا لا يمكن التنبؤ بها:
من الصعب التنبؤ بالتفاعلات بين التقنيات المختلفة من خلال تحليل كل تقنية بمفردها. فقد تتفاقم التحيزات التي يمكن إدارتها بشكل فردي بطرق تنتج أضراراً أشد خطورة من الناحية النوعية عندما تتفاعل هذه التقنيات.
استجابة الحوكمة:
يرجى التواصل معنا لتحديد استراتيجيات الاستجابة المناسبة أو مراجعة الفصل 14 في EW-AiRMTM الكتاب.
الخصائص:
يتم اكتشاف تقنية هجوم مبتكرة تتغلب على دفاعات الذكاء الاصطناعي الحالية في جميع أنحاء الصناعة: ليس فقط دفاعات منظمة واحدة، بل النهج الأساسية التي نفذتها جميع الأنظمة الكبرى.
لماذا لا يمكن التنبؤ بها:
إن سطح الهجوم لنماذج الذكاء الاصطناعي هائل، ويهدد بظهور زوايا هجوم جديدة دائماً. عندما يتم اكتشاف تقنية هجوم جديدة تستغل خاصية أساسية في معممارية النماذج (على سبيل المثال، هدف التنبؤ بالرمز التالي الذي تشترك فيه جميع نماذج اللغات، أو التحسين القائم على التدرج الذي تستخدمه جميع الشبكات العصبية)، فقد تعمل ضد جميع النماذج التي تحمل تلك المعمارية بغض النظر عن التدابير الدفاعية الفردية.
استجابة الحوكمة:
يرجى التواصل معنا لتحديد استراتيجيات الاستجابة المناسبة أو مراجعة الفصل 14 في EW-AiRMTM الكتاب.
الخصائص:
إن الفشل أو الهجوم في سلسلة إمداد الذكاء الاصطناعي (بيانات التدريب، مكتبات النماذج، البنية التحتية للحوسبة، أو خدمات التعليق على البيانات) ينتشر في اتجاه تدفق العمل ويخترق جميع الأنظمة المبنية على مكون سلسلة الإمداد هذا.
يتم التعامل مع مخاطر مزودي النماذج التأسيسية بشكل منفصل كالفئة 2 (التركز النظامي)؛ بينما تغطي الفئة 6 الطبقات النهائية ومستويات البنية التحتية لسلسلة إمداد الذكاء الاصطناعي.
لماذا لا يمكن التنبؤ بها:
سلاسل التوريد معقدة ونقاط ضعفه خفية حتى يتم استغلالها. يمكن للجهات الخبيثة التي تفهم سلسلة التوريد إدخال نقاط ضعف في نقاط تؤثر على مئات الأنظمة النهائية في نفس الوقت.
استجابة الحوكمة:
يرجى التواصل معنا لتحديد استراتيجيات الاستجابة المناسبة أو مراجعة الفصل 14 في EW-AiRMTM الكتاب.
الخصائص:
ينشأ الفشل أو السلوك الضار من التفاعل بين نظامين أو أكثر من أنظمة الذكاء الاصطناعي التي تتفاعل مع مخرجات بعضها البعض، حيث تم تقييم كل نظام على حدة على أنه مقبول، لكن التفاعل ينتج تأثيرات مركبة، أو نقلاً متسلسلاً للصلاحيات، أو سلوكاً منسقاً لم يتم تصميم أي نظام بمفرده لإنتاجه. الفشل هو خاصية للتفاعل، وليس لأي وكيل فردي.
لماذا لا يمكن التنبؤ بها:
تخلق التفاعلات متعددة الوكلاء مساحة توافقية لا يمكن تقييمها بشكل شامل مسبقًا. سلوك كل وكيل مقيد؛ تفاعل كل وكيل مع وكيل آخر مقيد؛ مزيج N وكلاء يتفاعلون عبر M أدوات و K نقاط قرار ينتج مساحة سلوك تتجاوز قدرة التقييم العملي. تم توثيق السلوكيات الناشئة، بما في ذلك التنسيق والخداع وانحراف الأهداف، في بيئات بحثية ويتم ملاحظتها بشكل متزايد في عمليات نشر الوكلاء الإنتاجية. التقييم التقليدي للسلامة يقيم وكيلًا واحدًا في كل مرة؛ فشل الوكيل المتعدد الناشئ غير مرئي لمنهجية التقييم هذه بحكم إنشائها.
استجابة الحوكمة:
يرجى التواصل معنا لتحديد استراتيجيات الاستجابة المناسبة أو مراجعة الفصل 14 في EW-AiRMTM الكتاب.
الخصائص:
يتوفر جهاز كمبيوتر كمي ذو صلة تشفيرية (إما
من خلال التطوير التدريجي للقدرات أو اختراق غير مستمر)، وتصبح الأسس التشفيرية للبنية التحتية للذكاء الاصطناعي عرضة للخطر في وقت واحد: الأسطح التشفيرية القياسية (TLS، مصادقة واجهة برمجة التطبيقات) والتبعيات التشفيرية الخاصة بالذكاء الاصطناعي (التحقق من سلامة أوزان النموذج، توقيع سجل التدقيق، شهادة سلسلة التوريد من خلال توقيع النموذج) عبر كامل ممتلكات الذكاء الاصطناعي المنشورة.
بشكل منفصل، تصبح البيانات المشفرة التي تم استخراجها سابقًا (تم الحصول عليها عبر هجوم HNDL) قابلة لفك التشفير بأثر رجعي.
لماذا لا يمكن التنبؤ بها:
يحد الجدول الزمني ليوم Q ولكنه غير مؤكد. تقدر تقديرات الخبراء من تقرير الجدول الزمني لتهديد الكم العالمي (موسكا وبياني 2024) والمصادر المماثلة أن الفترة تتراوح حول 2034-2036 مع مخاطر ذيل كبيرة تمتد من أواخر العشرينات إلى الأربعينات. يمكن أن يؤدي اختراق في تصحيح أخطاء الكم، أو وصول نمط جديد من الكيوبتات إلى نطاق واسع، أو هجوم خوارزمي كلاسيكي على مخططات ما بعد الكم إلى تغيير الجدول الزمني بشكل غير مستمر.
استجابة الحوكمة:
يرجى التواصل معنا لتحديد استراتيجيات الاستجابة المناسبة أو مراجعة الفصل 14 في EW-AiRMTM الكتاب.
من أين يأتي هذا
يعتمد EW-AiRM™ على معايير مرخصة علنًا: مستودع مخاطر الذكاء الاصطناعي التابع لمعهد ماساتشوستس للتكنولوجيا (CC BY 4.0)، وتوصية اليونسكو لعام 2021 بشأن أخلاقيات الذكاء الاصطناعي، وإطار إدارة مخاطر الذكاء الاصطناعي التابع للمعهد الوطني للمعايير والتكنولوجيا (NIST AI RMF)، و ISO 31000 (المخاطر العامة)، و ISO 42001 (أنظمة إدارة مخاطر الذكاء الاصطناعي)، واللجنة الاقتصادية لأوروبا التابعة للأمم المتحدة (ECE/TRADE/486, 2024). تم إنشاء HAIPECR بواسطة البروفيسور ماركوس كريسبز وتم إدراجه في مرصد سياسات الذكاء الاصطناعي التابع لمنظمة التعاون الاقتصادي والتنمية منذ أبريل 2023.
هنا مقارنة لـ EW-AiRMTM مع تلك الأطر الأخرى وقانون الذكاء الاصطناعي للاتحاد الأوروبي:
| البعد | EW-AiRM™ | NIST AI RMF | ISO 42001 | COSO ERM | قانون الذكاء الاصطناعي للاتحاد الأوروبي |
|---|---|---|---|---|---|
| مستند إلى اللجنة الاقتصادية لأوروبا | نعم (ECE/TRADE/486) | لا | لا | لا | لا |
| النطاق الأساسي | الذكاء الاصطناعي على مستوى المؤسسة حوكمة المخاطر إطار-عمل و النهج | مخاطر الذكاء الاصطناعي الإدارة | الذكاء الاصطناعي الإدارة النظام | (تقليدي) المؤسسة المخاطر الإدارة | تنظيم الذكاء الاصطناعي |
| الجمهور المستهدف | مجالس الإدارة، وظائف المخاطر، مديرو التكنولوجيا، مدراء أمن المعلومات، مجتمع المخاطر | الفيدرالية الأمريكية و المؤسسة | أي منظمة | مديرو المالية، مجالس الإدارة، فرق إدارة مخاطر المؤسسات | المشغلون و المزودون (الاتحاد الأوروبي) |
| الطبقات | استراتيجي، تشغيلي، المرونة + HAiPECR | الحوكمة، الخريطة، القياس، الإدارة | التخطيط، التنفيذ، التحقق، التصرف | الاستراتيجية، الأداء | محظور، عالي المخاطر، الذكاء الاصطناعي التوليدي |
| قابل للشهادة | لا (إطار مفتوح) | لا (طوعي) | نعم (تدقيق ISO) | لا (إرشادات) | عام، على مستوى الاتحاد الأوروبي تنظيم |
| مفتوح / مجاني | نعم (أساس CC BY 4.0) | نعم | مدفوع قياسي | مدفوع إرشادات | عام تنظيم |
| متوافق مع اليونسكو | نعم (HAiPECR) | لا | جزئي | لا | جزئي (GPAI) |
الإطار هو الصورة المفاهيمية. المقارنة ثلاثية المستويات توضح كيف يبدو في التطبيق.
معهد الذكاء البشري الاصطناعي هو مركز تفكير وعمل مستقل يعقد حوارات متعددة الأطراف وأصحاب المصلحة حول حوكمة الذكاء الاصطناعي. يتفاعل المعهد مع الأمم المتحدة، واليونيسكو، ومنظمة التعاون الاقتصادي والتنمية، والمفوضية الأوروبية، والحكومات في جميع أنحاء العالم.
مقر EW-AiRM™ — الإطار المفتوح ذو الطبقات الثلاث لإدارة المخاطر المرتبطة بالذكاء الاصطناعي على مستوى المؤسسة، والمبني على معايير مرخصة علناً والمتوافق مع اليونيسكو، والجنة الاقتصادية لأوروبا التابعة للأمم المتحدة، والمعهد الوطني للمعايير والتقنية (NIST)، والمنظمة الدولية للمعايير (ISO)، وقانون الذكاء الاصطناعي للاتحاد الأوروبي.
يتم توفير خدمات الاستشارات التجارية والتدريب والاستشارات الاستراتيجية من خلال De-Risking Solutions Ltd. و RiskAi.Ai
حلول الذكاء الاصطناعي والتكنولوجيا
يتم توفير الذكاء الاصطناعي، والأدوات الوكيلة، والحلول التكنولوجية من قبل Human-Ai.Solutions.
معهد الذكاء البشري الاصطناعي
يتم تشغيله وصيانته بواسطة
De-Risking Solutions Ltd.
البريد الإلكتروني:
contact [at] human-ai.institute
مدرج في مرصد سياسات الذكاء الاصطناعي التابع لمنظمة التعاون الاقتصادي والتنمية · عضو مؤسس في شبكة الذكاء الاصطناعي لجامعة الأمم المتحدة · متوافق مع اليونيسكو، والفريق العامل 6 التابع للجنة الاقتصادية لأوروبا التابعة للأمم المتحدة (UNECE WP.6)، والمعهد الوطني للمعايير والتقنية (NIST)، ومعيار ISO 42001
EW-AiRM™ و HAiPECR™ هما علامتان تجاريتان لشركة De-Risking Solutions Ltd.، مسجلتان في إنجلترا وويلز (رقم الشركة 09900565). جميع الحقوق محفوظة.
© 2026 معهد الذكاء البشري والاصطناعي.
