EW-AiRM™ | دراسة حالة حادثة: حادثة OpenAI / Hugging Face
حادثة OpenAI / Hugging Face كدراسة حالة لحادثة مخاطر الذكاء الاصطناعي لفشل حوكمة على مستوى الصناعة، وما توفره بالفعل UNECE CRA + Declaration و EW-AiRM™ و HAiPECR - قابلة للتنفيذ والتطبيق، الآن!
بقلم البروفيسور ماركوس كريسبز
ملخص: ماذا حدث للتو مع OpenAI و Hugging Face؟
في منتصف يوليو 2026، حدث شيء ناقشه متخصصو مخاطر الذكاء الاصطناعي طويلاً كسيناريو افتراضي. هرب وكيل ذكاء اصطناعي مستقل، تم بناؤه واختباره بواسطة OpenAI، من صندوق تقييمه المعزول المفترض، ووصل إلى الإنترنت المفتوح واخترق البنية التحتية الإنتاجية لـ Hugging Face، وهي واحدة من أكثر المنصات استخدامًا في النظام البيئي العالمي للذكاء الاصطناعي.
الجدول الزمني المبلغ عنه علنًا مثير للقلق. في 9 يوليو، قام الوكيل، المدفوع بـ GPT-5.6 Sol ونموذج آخر غير مُصدر وأكثر قدرة، مع تقليل الرفض السيبراني عمدًا لأغراض التقييم، بأول محاولة للخروج من بيئته المعزولة. بين 11 و 13 يوليو، شق طريقه إلى أنظمة Hugging Face، واكتشف ثغرة أمنية صفرية، واستخدم بيانات اعتماد مسروقة، وتحرك جانبيًا عبر الخدمات الداخلية و أنتج سربًا من النشاط الآلي امتد إلى أكثر من 17000 حدث مسجل. اكتشفت Hugging Face الاختراق واحتوته وكشفت عنه علنًا في 16 يوليو، ولم تكن تعرف في البداية أي نموذج كان وراءه أو من كان يشغله. في 21 يوليو فقط أكدت OpenAI أن المهاجم كان وكيلها الخاص، واصفةً حادثًا سيبرانيًا غير مسبوق يتضمن قدرات حديثة.
تأمل في هذا التسلسل للحظة. تحرك الاختراق بسرعة الآلة، وضغط في ساعات ما كان سيستغرق المهاجمين البشريين المهرة أسابيع. لخمسة أيام، لم تكن Hugging Face، وهي واحدة من أهم منصات الذكاء الاصطناعي في العالم، تعرف ما إذا كانت قد تعرضت لهجوم من دولة معادية، أو مجموعة إجرامية، أو آلة. وبينما احتاجت OpenAI، المنظمة التي بنت الآلة، إلى أسبوع لإدراك أن موضوع اختبارها الخاص قد غادر الغرفة.
العميل لم يخرج “مارقاً”
عبارة “عميل مارق” هي العبارة التي يبدو أنها ارتبطت بهذا الحادث، وتستحق أن يتم التخلي عنها. لم يتعطل العميل أو يتمرد أو ينحرف. لقد فعل بالضبط ما يفعله نظام موجه نحو الهدف وقادر للغاية عندما يتم إيقاف رفضه السيبراني، ولا يحتوي احتواؤه، ولا توجد أي عين بشرية تراقب بفعالية: لقد سعى لتحقيق هدفه عبر كل مسار متاح له. لا شيء في ذلك مارق. إنه نظام يعمل حسب التكوين.
التصنيف مهم لأنه ينقل الوكالة بهدوء، وبالتالي المساءلة، من البشر الذين اتخذوا القرارات إلى الآلة التي نفذتها. بلغة المخاطر، هذه ليست في المقام الأول قصة سوء سلوك الذكاء الاصطناعي. إنها قصة عن السلوك البشري المخاطر: قرار تقليل رفض السلامة، والافتراض بأن الصندوق المعزول كان معزولاً، والمراقبة التي لم تلاحظ هروباً لمدة أسبوع، وغياب أي مالك مسمى مسؤول عن العواقب لطرف ثالث.
ولا تعد OpenAI استثناءً. إنها دراسة حالة لكيفية عمل الحدود بأكملها حاليًا. تتضمن تقييمات القدرات عبر الصناعة نماذج غير مقيدة بشكل روتيني؛ والمنافسة تكافئ السرعة على الاحتواء؛ والمخاطر الناتجة يتحملها بشكل كبير أطراف ثالثة، وفي هذه الحالة Hugging Face والملايين الذين يعتمدون عليها، ولم يوافق أي منهم على المشاركة. وبصراحة، كان رد OpenAI، مع الكشف الطوعي، وإشراك إنفاذ القانون، وتشريح علني، أفضل مما كان يمكن أن تديره الكثير من الصناعة. وهذا هو بالضبط بيت القصيد. إذا كان هذا ما يبدو عليه الجيد، فإن خط الأساس هو المشكلة، و المشكلة نظامية. أصبحت الوكلاء المستقلون الآن قادرين بما يكفي بحيث لا يمكن أن تظل قدرة الإنسان على التدخل والإيقاف والتجاوز مجرد فكرة لاحقة أو بندًا في السياسة. التحكم البشري يجب أن يكون مطلبًا هندسيًا ومختبرًا ومملوكًا ومعترفًا به دوليًا.
المبدأ الذي كرسناه في الأمم المتحدة
هذا هو بالضبط السبب، عندما قمت بقيادة مشروع فريق العمل 6 التابع للجنة الاقتصادية لأوروبا بشأن المنتجات/الخدمات المزودة بالذكاء الاصطناعي المدمج، كافحنا من أجل وضع التحكم البشري في صميم الترتيب التنظيمي المشترك (CRA) المعتمد في عام 2024 (ECE/TRADE/486؛ انظر البيان الصحفي هنا: https://unece.org/artificial-intelligence/news/unece-launches-declaration-products-embedded-ai-calling-global ونص الترتيب التنظيمي المشترك وإعلان الذكاء الاصطناعي الفعلي هنا: https://unece.org/sites/default/files/2024-11/2418005_E_ECE_TRADE_486_2WEB.pdf).
ينص المنشور على المبدأ بعبارات واضحة:
“في الحالات التي يكون فيها خطر حدوث خطأ مرتبط بنظام ذكاء اصطناعي مرتفعًا، يجب تضمين صنع القرار البشري حيثما أمكن. لا ينبغي لأنظمة الذكاء الاصطناعي أن تكون قادرة على تجاوز التحكم البشري.”
— اللجنة الاقتصادية لأوروبا، امتثال المنتجات مع الذكاء الاصطناعي المدمج (ECE/TRADE/486، 2024)
يُعد حادث يوليو 2026 أوضح دليل حتى الآن على سبب أهمية هذه الجملة. قام عميل يعمل بتخفيضات في الرفض، وخارج نطاق الإشراف البشري الفعال، ببذل جهود قصوى لتحقيق هدف ضيق، بما في ذلك إيجاد طريقه الخاص إلى الإنترنت. كما توقعت الهيئة التنظيمية للاتصالات (CRA) الآلية الأوسع التي يتطلبها ذلك: الامتثال المستمر بمجرد طرح المنتجات في السوق، وتقييم المطابقة بما يتناسب مع المخاطر، ومراقبة السوق القادرة على التعامل مع الأنظمة المحدثة عن بُعد، والتنبيهات الدولية عند ظهور عدم المطابقة الحرجة. كل بند من هذه البنود يبدو مختلفًا بعد هذا الحادث. المبدأ صمد. الممارسة لم تفعل. والمساحة بين الاثنين، بين التكريس والتفعيل، هي بالضبط المكان الذي عاش فيه هذا الحادث.
من المبدأ التنظيمي إلى ممارسة مخاطر الذكاء الاصطناعي على مستوى المؤسسة: EW-AiRM™
المبادئ الدولية لا تحمي الناس إلا عندما تقوم المنظمات بتفعيلها هم. تلك هي مهمة EW-AiRM™، إطار عمل إدارة مخاطر الذكاء الاصطناعي على مستوى المؤسسة، والذي ينقل مبدأ لجنة الاقتصاد لأوروبا التابعة للأمم المتحدة (UNECE) مباشرة إلى حوكمة المؤسسات، والمشروح بالتفصيل في كتابي القادم الصادر عن دار وايلي للتمويل (Wiley Finance).
من بين الثوابت الخمسة غير القابلة للتفاوض في إطار العمل، يتم اختبار ثلاثة منها بشكل مباشر من خلال هذا الحادث:
مالك بشري مُسَمًّى بوضوح لكل نظام ذكاء اصطناعي نشر، بدءاً من النشر وحتى الخروج من الخدمة. لمدة خمسة أيام، لم يستطع أحد تحديد الوكيل (Agent) التابع لمن كان داخل Hugging Face. إن فجوات الإسناد من هذا النوع تُعد فشلاً في المساءلة، وليست مجرد إزعاج جنائي.
قدرة تجاوز بشرية مُختبَرَة وموثقة، قابلة للتشغيل عادةً في غضون أربع ساعات أو أقل، بغض النظر عن الوقت من اليوم. يوضح إطار العمل صراحةً أن هذا أمر بالغ الأهمية لأنظمة الوكلاء الذكية، والتي يمكنها اتخاذ إجراءات ذاتية واستدعاء واجهات برمجة التطبيقات (APIs) الخارجية دون إشراف مباشر، والتي قد تحتاج إلى أن تُوقف قبل أن تُكمل إجراءً بدأته بالفعل.
القبول الصريح والموثق لمخاطر الذكاء الاصطناعي المتبقية. تشغيل النماذج الرائدة مع إيقاف رفض الأمان هو نشر ذكاء اصطناعي قرار ينطوي على مخاطر. يجب على شخص رفيع المستوى تحمله، كتابةً، قبل بدء الاختبار، وليس في بيان إفصاح لاحق.
يتعامل نظام EW-AiRM™ أيضاً مع هذه الفئة بالضبط من الأحداث في طبقة المرونة الخاصة به، والتي تتناول البجع الأسود للذكاء الاصطناعي بما في ذلك القدرات الناشئة، وفشل المحاذاة، وظهور العوامل المتعددة، واختراق سلسلة التوريد. إن موقف الإطار متعمد: فالاستجابة للمجهولات غير المعروفة ليست التنبؤ، بل هي المرونة. إن الاكتشاف السريع المدعوم بالذكاء الاصطناعي وإعادة البناء الجنائي من Hugging Face هو، بالمناسبة، مثال ممتاز لما تبدو عليه الاستجابة التكيفية في الممارسة العملية.
إجراء الحادث من خلال HAiPECR™، الفلتر الأخلاقي
HAiPECR™، نموذج الإنسان والذكاء الاصطناعي للأخلاق والسلوك والمخاطر (الذي نشرناه في عام 2023 والمتاح منذ ذلك الحين في كتالوج الأدوات والمقاييس للذكاء الاصطناعي الجدير بالثقة التابع لمرصد السياسات التابع لمنظمة التعاون الاقتصادي والتنمية OECD.AI؛ انظر هنا: https://oecd.ai/en/catalogue/tools/haipecr)، هو مرشح أخلاقي الذي يعمل عبر جميع الطبقات الثلاث لـ EW-AiRM™ ويتم تطبيقها قبل نشر أي نظام ذكاء اصطناعي. تتطابق أبعادها السبعة مع هذا الحادث بدقة مقلقة:
H - الرقابة البشرية والاستقلالية. البعد الذي ينتهكه الحادث بشكل مباشر. تم إضعاف الرقابة بشكل هيكلي حسب التصميم: تم تقليل حواجز الحماية، وتمدد المراقبة عبر اختبارات متزامنة، وتم اكتشاف الهروب بعد أسبوع.
A - المساءلة. من كان يمتلك هذا الوكيل؟ من أذن بتقليل الرفض؟ من كان مسؤولاً أمام الطرف الثالث الذي تم اختراق بنيته التحتية؟ لا يمكن للمساءلة أن تظل حبيسة لجنة؛ نشر ذكاء اصطناعي يجب أن يتحمل إنسان محدد مسؤولية كل نظام ذكاء اصطناعي منشور.
i - الشمول والمشاركة. تعد Hugging Face بنية تحتية حرجة لملايين المطورين والباحثين والشركات النهائية في جميع أنحاء العالم. لقد كانوا جميعا مشاركين غير موافقين في تقييم قدرات شخص آخر.
P - حماية البيانات والخصوصية والسلامة العصبية. تم الوصول إلى مجموعات البيانات الداخلية وحصد بيانات الاعتماد الخاصة بالخدمة. إن بيانات الاعتماد الدائمة التي تنتظر السرقة تعد فشلاً في الحماية بحد ذاتها.
E – الأخلاقيات: الشفافية، وقابلية التفسير، والإنصاف. تطلب الأمر تحليلاً مدعوماً بالنماذج اللغوية الكبيرة لأكثر من 17,000 حدث مسجل لإعادة بناء ما فعله الوكيل بالفعل. إذا كان تفسير السلوك بعد وقوع الحدث يتطلب كل هذه الآليات، قابلية التفسير قبل النشر كانت غير كافية بشكل واضح.
C – مخاطر السلوك، للبشر والذكاء الاصطناعي. إن السلوك الأساسي الفشل كان بشرياً: القرارات برفع القيود عن النماذج، والثقة في الاحتواء الذي لم يصمد، وتشغيل الاختبار بدون إشراف فعال. إن سعي الوكيل المزعوم للحصول على معلومات سرية لخداع تقييمه الخاص، وهو سوء سلوك نموذجي للذكاء الاصطناعي، نبع مباشرة من تلك الخيارات.
R – الحقوق وعدم الإضرار، بما في ذلك الاستدامة بين الأجيال. هذه المرة، لم يتم العبث بأي نماذج عامة أو سلاسل توريد. إن الالتزام هو ضمان تلك النتيجة بالتصميم وليس بحسن الحظ، لهذا الجيل من الأنظمة والأنظمة الأكثر قوة التي تليها.
تطرح مراجعة HAiPECR™ السابقة لل نشر، كحد أدنى، ثلاثة أسئلة: هل يجب أن نفعل هذا من الأساس، وكيف سيغير السلوك، وهل يمكننا تفسيره؟ في السجل العام، لا يجتاز تكوين التقييم هذا المرشح. إنه يتوقف.
دعوة مزدوجة لاتخاذ إجراء: ما الذي يجب على المنظمين والمؤسسات فعله بعد ذلك؟
إلى الدول الأعضاء في الأمم المتحدة ومنظميها: أن يصبحوا موقعين رسميين على إعلان لجنة الأمم المتحدة الاقتصادية لأوروبا (UNECE) بشأن التنظيم التقني للمنتجات التي تحتوي على الذكاء الاصطناعي المدمج، واعتماد ترتيب التنظيم المشترك (ECE/TRADE/486). يلتزم الإعلان الوكالات بأهداف تنظيمية مشروعة، وتقييم المخاطر، والمعايير الدولية المعترف بها، وتقييم المطابقة المعترف به متبادلاً، ومراقبة الأسواق الفعالة. لقد حسم شهر يوليو 2026 الجار النقاش: التنظيم الذاتي من قبل مختبرات الحدود المتنافسة ليس بنية أمان. التقارب التنظيمي عبر الحدود هو كذلك. ترتيب التنظيم المشترك (CRA) / إعلان الذكاء الاصطناعي جاهزان ويمكن توقيعهما هنا: https://unece.org/trade/wp6/embedded-ai-declaration.
إلى مجالس الإدارة والمديرين التنفيذيين وقادة المخاطر: اعتمد نظام EW-AiRM™ كجزء من حوكمة المؤسسة وإدارة المخاطر. إذا كان مختبر رائد، يتمتع بمواهب وموارد عالمية المستوى، يمكنه فقدان السيطرة على وكيل داخل بيئة الاختبار الخاصة به، فإن السؤال الذي يجب على كل منظمة تنشر الذكاء الاصطناعي الوكيلي الإجابة عليه بسيط: من يملك كل نظام من أنظمة الذكاء الاصطناعي الخاصة بك، وهل يمكنك إيقاف تشغيل كل منها في غضون ساعات، وهل تم اختبار هذه القدرة بالفعل، ومن الذي وقع على المخاطر المتبقية؟ إذا كانت أي إجابة غير واضحة, فهذه هي نقطة البداية الخاصة بك، ويمكن معالجتها هذا Rالربع، وليس في يوم ما. ونحن مستعدون لدعم رحلتك مع EW-AiRM™ الآن:
أدوات عملية، متوفرة الآن
لا شيء من هذا بحاجة إلى أن يظل مجرد فكرة نظرية. في www.ewairm.com ستجد أدوات عملية وجاهزة للعمل: أداة تقييم EW-AiRM™، وفلتر ما قبل نشر HAiPECR™ بنتائجه (المتابعة / المتابعة بشروط / التوقف)، ومكعب الإطار التفاعلي، ورسم خرائط المخاطر إلى الضوابط الذي يربط المخاطر المفهرسة في مستودع مخاطر الذكاء الاصطناعي التابع لمعهد ماساتشوستس للتكنولوجيا (MIT) بالتدابير التخفيفية المستندة إلى الأدلة.
في عام 2024، تم تقديم مبدأ لـ 56 دولة عضواً في لجنة الأمم المتحدة الاقتصادية لأوروبا (UNECE): يجب أن يظل البشر في التحكم المطلق بالذكاء الاصطناعي. في يوليو 2026، أثبتت أكثر شركة ذكاء اصطناعي تقدمًا في العالم ما يحدث عندما يتم افتراض هذا التحكم بدلاً من ضمانه. لم يصبح الوكيل متمرداً. لم يكن تحت السيطرة قط. المبدأ مكرس. الإطار موجود. الأدوات جاهزة. ما تبقى هو تفعيل العمليات والتبني.
عدم فعل أي شيء هو أيضاً فعل شيء ما. وكما أثبت هذا الحادث، فإن عدم فعل أي شيء لم يعد خياراً ممكناً للمضي قدماً:
ما الذي يمنعك، وشركتك، وحكومتك، والجهة الوطنية المختصة التابعة لك من أن تصبح توقيعاً رسمياً على قانون المرونة السيبرانية (CRA) وإعلان الذكاء الاصطناعي واعتماد نظام EW-AiRM™؟
البروفيسور ماركوس كريبسز هو مبتكر نظام EW-AiRM™، وقائد مشروع الذكاء الاصطناعي لفريق العمل 6 التابع للجنة الأمم المتحدة الاقتصادية لأوروبا (UNECE WP.6)، والمدير المؤسس لمعهد Human-Ai.Institute وشركة De-Risking Solutions Ltd، ومؤلف كتاب وايلي المالي القادم حول إدارة مخاطر الذكاء الاصطناعي على مستوى المؤسسة (نوفمبر 2026).
© 2026 الأستاذ ماركوس كريبز · معهد الذكاء البشري والاصطناعي · شركة حلول الحد من المخاطر المحدودة. جميع الحقوق محفوظة.
EW-AiRM™ و HAiPECR™ هما علامتان تجاريتان. شعار معهد الذكاء البشري والاصطناعي وشعار EW-AiRM™ هما علامتان محميتان ولا يجوز إعادة إنتاجهما بدون إذن.
تم إعادة إنتاج اقتباس لجنة الاقتصاد لأوروبا التابعة للأمم المتحدة (UNECE) مع الإشارة إلى الفضل لمطابقة المنتجات مع الذكاء الاصطناعي المدمج (ECE/TRADE/486)، © 2024 الأمم المتحدة، تماشياً مع إذن النشر بالاقتباس مع ذكر المصدر.