الهلوسة ليست خطأً برمجياً - إنها ميزة

المهلوسات ليست خللاً برمجياً:
إنها سمة تصميمية لبنية أنظمة الذكاء الاصطناعي التوليدي.

هذا التمييز مهم للغاية بالنسبة للحوكمة:
يمكن إصلاح الخلل وإغلاقه. أما السمة فيجب إدارتها باستمرار، مع الضوابط، والمراقبة، وتدخل بشري مُختبَر لتجاوز الأخطاء.

لقد شاهدنا بالفعل ما يحدث عندما تعاملها المنظمات كخلل: شركات مهنية شعرت بالحرج بسبب أعمال صاغها الذكاء الاصطناعي ولم يراجعها أحد، ومحامون ذوو خبرة يقدمون مذكرات تتضمن اقتباسات لم تكن موجودة أبداً.

الأستاذ المساعد آندي شمولوف، أحد مؤيدي الكتاب، يعبر عن ذلك بوضوح: "...الموظفون وحتى القادة يتجاوزون القواعد، ويجعلون الذكاء الاصطناعي يؤدي عملهم، ويخفقون في التحقق مما ينتجه." وحكمه على الكتاب هو: "يجب اعتباره لا غنى عنه."

إدارة مخاطر الذكاء الاصطناعي على مستوى المؤسسة® (EW-AiRM®) ewairm.com يعتبر الهلوسة، والانحراف، وانهيار النموذج مقيمين دائمين في المشهد المخاطر، ويبني الضوابط حول هذا الواقع.