أعرب وزراء المالية ومحافظو البنوك المركزية والممولون عن مخاوف جدية بشأن نموذج ذكاء اصطناعي جديد قوي يخشون أن يقوض أمن الأنظمة المالية.
ما نموذج الذكاء الاصطناعي “Mythos”؟
أدى تطوير نموذج كلود ميثوس من قبل شركة أنثروبيك إلى عقد اجتماعات طارئة. بعد أن اكتشف ثغرات أمنية في العديد من أنظمة التشغيل الرئيسية.
حيث يقول الخبراء إن لديه قدرة غير مسبوقة على تحديد واستغلال نقاط الضعف في الأمن السيبراني. على الرغم من أن آخرين يحذرون من أن هناك حاجة إلى مزيد من الاختبارات لفهم قدراته بشكل صحيح.
من جانبه، صرح فرانسوا فيليب شامبين، وزير المالية الكندي، أن ميثوس قد نوقش على نطاق واسع في اجتماع صندوق النقد الدولي في واشنطن العاصمة هذا الأسبوع.
وقال: “بالتأكيد الأمر خطير بما يكفي ليستحق اهتمام جميع وزراء المالية”.
مضيفًا: “الفرق هو أننا نعرف مكان مضيق هرمز ونعرف حجمه… المشكلة التي نواجهها مع مشروع أنثروبيك هي أنها المجهول، المجهول.”
أيضًا: “هذا يتطلب الكثير من الاهتمام حتى يكون لدينا ضمانات، ولدينا عمليات معمول بها للتأكد من ضمان مرونة أنظمتنا المالية”.
يعد Mythos أحد أحدث نماذج Anthropic التي تم تطويرها كجزء من نظام الذكاء الاصطناعي الأوسع نطاقًا المسمى Claude، وهو منافس لـ ChatGPT من OpenAI و Gemini من Google.
وقد كشفت شركة أنثروبيك عن ذلك في وقت سابق من هذا الشهر، عندما قال المطورون المسؤولون عن اختبار نماذج الذكاء الاصطناعي وأدائها في ما يسمى بالمهام “غير المتوافقة” – والتي تتعارض مع القيم والأهداف والسلوك البشري – إنها “قادرة بشكل لافت للنظر في مهام أمن الكمبيوتر”.
ونظراً للمخاوف من أن يؤدي ذلك إلى ظهور أخطاء برمجية قديمة أو إيجاد طرق لاستغلال نقاط ضعف النظام بسهولة، لم تقم شركة أنثروبيك بإصدار النموذج.
كلود أوبوس
وبدلاً من ذلك، أتاحت الشركة برنامج Mythos لشركات التكنولوجيا العملاقة مثل Amazon Web Services و CrowdStrike. وMicrosoft و Nvidia كجزء من مبادرة تسمى Project Glasswing. والتي تصفها بأنها “جهد لتأمين البرامج الأكثر أهمية في العالم”.
فيما أصدرت شركة أنثروبيك يوم الخميس نسخة جديدة من نموذج موجود، وهو كلود أوبوس، قائلة إنها ستسمح باختبار القدرات السيبرانية لشركة ميثوس في أنظمة أقل قوة.
لكن قد تتجاوز المخاوف التي أثيرت حول ميثوس الضجة المثارة حول نماذج الذكاء الاصطناعي السابقة. لكن بعض خبراء الأمن السيبراني شككوا في مدى تبرير هذه المخاوف. خاصة بالنظر إلى أن النموذج لم يتم اختباره من قبل الصناعة الأوسع لمعرفة مدى قدرته بالفعل.
كما صرح سي إس فينكاتاكريشنان، الرئيس التنفيذي لشركة باركليز. قائلًا: “الأمر خطير بما يكفي لدرجة أن الناس يجب أن يقلقوا”.
“علينا أن نفهم الأمر بشكل أفضل، وعلينا أن نفهم نقاط الضعف التي يتم الكشف عنها وأن نصلحها بسرعة.”
وأضاف: “هذا ما سيكون عليه العالم الجديد”. في إشارة إلى نظام مالي أكثر ترابطاً، مع وجود فرص ونقاط ضعف على حد سواء.
في حين صرحت شركة Anthropic المطورة بأن النموذج قد كشف بالفعل عن العديد من الثغرات الأمنية في بعض أنظمة التشغيل والأنظمة المالية ومتصفحات الويب المهمة.
شركة أنثروبيك
بينما يتم منح الحكومات والبنوك إمكانية الوصول قبل إصداره العام للمساعدة في حماية أنظمتها الخاصة.
علاوة على أن أندرو بيلي، محافظ بنك إنجلترا. صرح بأنه يجب أخذ هذا التطور على محمل الجد: “علينا الآن أن ننظر بعناية شديدة إلى ما يمكن أن يعنيه هذا التطور الأخير في مجال الذكاء الاصطناعي. وذلك بالنسبة لمخاطر الجرائم الإلكترونية”.
وأضاف: “قد تكون النتيجة هي تطور الذكاء الاصطناعي، والنمذجة، مما يسهل اكتشاف الثغرات الأمنية الموجودة في أنظمة تكنولوجيا المعلومات الأساسية. ومن ثم من الواضح أن مجرمي الإنترنت – الجهات الفاعلة السيئة – قد يسعون إلى استغلالها”.
في الوقت نفسه أكدت وزارة الخزانة الأمريكية أنها أثارت هذه المسألة مع البنوك الكبرى لديها. وشجعتها على اختبار أنظمتها قبل أي إصدار عام للعبة Mythos من قبل شركة Anthropic.
أشارت مصادر في القطاع المالي إلى أن شركة أمريكية بارزة أخرى في مجال الذكاء الاصطناعي قد تصدر قريباً نموذجاً قوياً مماثلاً ولكن بدون نفس الضمانات.
وأخيرًا، نأمل أن تكون النماذج التي تكشف عن نقاط الضعف هي نفسها النماذج التي ستصلحها.
المصدر: BBC
