ما هو Mythos AI ولماذا يمكن أن يشكل تهديدًا للأمن السيبراني العالمي؟

استبعدت شركة Anthropic إصدار أحدث نماذج الذكاء الاصطناعي الخاصة بها، Mythos، للجمهور بسبب التهديد الذي تشكله على الأمن السيبراني العالمي.

ومع ذلك، أكدت شركة التكنولوجيا الناشئة الأمريكية وراء روبوت الدردشة Claude يوم الأربعاء أنها تحقق في تقرير يفيد بأن مجموعة من الأشخاص قد تمكنوا من الوصول غير المصرح به إلى Mythos. وقد أثار الحادث المزعوم مخاوف بشأن وتيرة التطوير وقدرة شركات التكنولوجيا على إبقاء منتجاتها الأكثر خطورة خارج النطاق العام. هنا، نفحص Mythos وتأثيره المحتمل.

ما هو Mythos؟ Mythos هو نموذج ذكاء اصطناعي - التكنولوجيا الأساسية التي تشغل أدوات مثل روبوتات الدردشة - والتي، وفقًا لـ Anthropic، تمثل تهديدًا محتملاً خطيرًا لأمن أي منظمة سيبراني. أعلنت Anthropic عن وجود Mythos في 7 أبريل ولكنها قالت إنه لن يتم إصداره علنًا بسبب قدرته على تحديد الثغرات غير المعروفة في أنظمة تكنولوجيا المعلومات. يمكن استغلال هذه الثغرات، نظريًا، من قبل المتسللين.

قالت Anthropic إن Mythos يمكنه تحديد واستغلال ثغرات "اليوم صفر" في كل نظام تشغيل مهم لتكنولوجيا المعلومات ومتصفح الويب - إذا طلب منه المستخدم ذلك. تسمى أيام الصفر بهذا الاسم لأن المنظمات والمطورين غير مدركين تمامًا لها ولم يكن لديهم وقت لإصلاحها قبل أن يضرب المهاجم.

وصفت Anthropic ذلك بأنه "لحظة فاصلة للأمن السيبراني". وقالت الشركة التي تتخذ من سان فرانسيسكو مقراً لها إن بعض الثغرات التي لم يلاحظها أحد كانت موجودة منذ عقود.

سمحت الشركة الناشئة لشركات التكنولوجيا والبنوك، بما في ذلك Apple و Goldman Sachs، بالوصول إلى النموذج وتقييم المخاطر التي يمكن أن يشكلها على أعمالهم وعملائهم.

أعلنت Anthropic عن Project Glasswing في 8 أبريل للسماح للشركات باختبار Mythos على الأمن السيبراني. تصوير: Samuel Boivin/NurPhoto/Shutterstock لماذا هو سبب للقلق؟ يمثل Mythos دليلاً ملموسًا، وفقًا لمعهد أمن الذكاء الاصطناعي في المملكة المتحدة (AISI)، على القدرات التخريبية للذكاء الاصطناعي المتقدم. منذ ظهور ChatGPT من OpenAI في عام 2022، حذر الخبراء من أن الذكاء الاصطناعي يمكن أن يسبب أضرارًا جسيمة في العالم الحقيقي.

هناك أيضًا نقطة أوسع: أن Mythos هو مؤشر على وتيرة التقدم في الذكاء الاصطناعي. تميل النماذج المتقدمة إلى أن يتم تكرارها بسرعة من قبل شركات أخرى، بما في ذلك مطوري النماذج مفتوحة المصدر المتاحة مجانًا للمستخدمين. في رسالة مشتركة إلى قادة الأعمال الشهر الماضي، قالت وزيرة التكنولوجيا البريطانية، ليز كيندال، ووزيرة الأمن، دان جارفيس، إن الشركات بحاجة إلى "التخطيط وفقًا لذلك" لزيادة قدرات الذكاء الاصطناعي "بسرعة" خلال العام المقبل. يمكن استخدام الذكاء الاصطناعي، بالطبع، للدفاع ضد الهجمات السيبرانية أيضًا.

هناك قلق آخر وهو أن Mythos قد يقع في الأيدي الخطأ على الرغم من حجبه عن الإصدار العام. وقد تحقق هذا الخوف هذا الأسبوع مع تأكيد Anthropic أن "حفنة" من المستخدمين في منتدى خاص عبر الإنترنت قد وصلوا إلى النموذج.

ومع ذلك، هناك أيضًا سؤال حول أهمية آلاف الثغرات التي أشار إليها Mythos. هل يمكن أن تسبب ضررًا جسيمًا؟ بالإضافة إلى ذلك، فإن تسليط الضوء على ثغرة في تكنولوجيا المعلومات لا يعني استغلالها.

هل تم تقييم Mythos من قبل الخبراء؟ لقد ألقى معهد أمن الذكاء الاصطناعي (AISI)، وهو الهيئة الرائدة عالميًا في مجال سلامة الذكاء الاصطناعي، نظرة على Mythos ويقول إنه "خطوة للأمام" على النماذج السابقة من حيث تهديده للأمن السيبراني. من بين الأعلام الحمراء القدرة على تنفيذ هجمات تتضمن خطوات متعددة وتحديد ثغرات تكنولوجيا المعلومات دون توجيه بشري.

كما حقق إنجازًا لأول مرة في نظر معهد أمن الذكاء الاصطناعي (AISI): إكمال ناجح لمحاكاة هجوم سيبراني مكون من 32 خطوة في اختبار تم إنشاؤه بواسطة المعهد. قال معهد أمن الذكاء الاصطناعي (AISI) إنه يمكنه مهاجمة أنظمة تكنولوجيا المعلومات الضعيفة والصغيرة، على الرغم من أنه لم يتمكن من إصدار حكم على الأنظمة المحصنة جيدًا. اختتم المعهد تقييمه بملاحظة غالبًا ما تُذكر في أماكن أخرى: أنظمة الذكاء الاصطناعي يمكن أن تتحسن فقط من هنا.

قال ريتشارد هورن، الرئيس التنفيذي للمركز الوطني للأمن السيبراني في المملكة المتحدة، في مؤتمر CyberUK في غلاسكو هذا الأسبوع إن ظهور Mythos سيساعد في تشجيع الشركات على استبدال "التكنولوجيا القديمة". وأضاف: "إنه يدفع فقط إلى الإلحاح".

ومع ذلك، قال خبراء آخرون إن Mythos هو تطور أكثر منه ثورة. قامت Aisle، وهي شركة تعمل في مجال الأمن السيبراني للذكاء الاصطناعي، بتحليل ادعاءات Anthropic الرئيسية: أنها وجدت آلاف الثغرات الأمنية من نوع "اليوم صفر" عبر أنظمة التشغيل والمتصفحات الكبيرة، بما في ذلك واحدة في FreeBSD، وهي قريبة من UNIX. ووجدت أن نماذج أخرى، أرخص بكثير، كانت قادرة أيضًا على العثور على هذه المشاكل. وقالوا إن هذا لا يعني أن قدرات Mythos ليست مهمة، ولكن كان هناك المزيد من الدقة مما يوحي به نبرة Anthropic العاجلة.

هناك أيضًا حذر من الخبراء بأن معظم الاختراقات لا تزال تأتي من مخاطر راسخة مثل المصادقة الضعيفة والثغرات المعروفة بالفعل التي لم يتم إصلاحها.
يقترح بعض الخبراء أن هناك عنصرًا من الضجيج حول ادعاءات Anthropic بشأن Mythos وكيف قدمتها شركة ناشئة تقدر قيمتها بحوالي 800 مليار دولار (592 مليار جنيه إسترليني). Mythos هو بلا شك نموذج قادر. ومع ذلك، فقد أعطى إعلان Anthropic الدرامي وقت بث كبير ووضع منتجها في مناقشة أوسع على مستوى المجال حول كيفية مساهمة الذكاء الاصطناعي في المخاطر السيبرانية.

كيف تشارك شركات التكنولوجيا والبنوك؟ تم منح حوالي 40 شركة، بما في ذلك Google و JP Morgan و Goldman، وصولاً مبكرًا إلى Mythos من خلال مبادرة تسمى Project Glasswing، والتي تهدف إلى منح الشركات فرصة لاختبار نموذج الذكاء الاصطناعي كجزء من دفاعاتها السيبرانية. تقول Anthropic إنها ستشارك ما تعلمته "حتى تستفيد الصناعة بأكملها".

ومع ذلك، لم يقدم شركاء الإطلاق أي تفاصيل حول ما يعتقدون أن Mythos قادر عليه، ومدى التهديد الذي قد يشكله.

لم يمنع ذلك البنوك والجهات التنظيمية من التكهن بتأثيره المحتمل. ولسبب وجيه: إذا كانت تحذيرات Anthropic صحيحة، فإن وقوع Mythos في الأيدي الخطأ يمكن أن يسبب دمارًا للبنوك ويحتمل أن يعرض النظام المالي الأوسع للخطر.

أظهرت النمذجة الحكومية البريطانية لسيناريو أسوأ اختراق مصرفي، تم إنتاجها حتى قبل إنشاء Mythos، أن الخصومات المباشرة يمكن أن تفشل، مما يترك الإيجارات والرهون العقارية والأجور غير مدفوعة، بينما يمكن حظر الخدمات المصرفية عبر الإنترنت وسحب أجهزة الصراف الآلي. يمكن أن يترك الركاب في مأزق حيث ترفض الحافلات ومحطات الوقود المدفوعات. قد يؤدي ذلك إلى حالة من الذعر، مما يؤدي إلى سحب الأموال من البنوك المنافسة، حيث يسحب العملاء الأموال من حساباتهم خوفًا من انتشار الاضطراب.

أثارت المخاوف بشأن التهديدات المحتملة لـ Mythos دعوة وزير الخزانة الأمريكي، سكوت بسينت، لعقد اجتماع مع رؤساء البنوك الأمريكية الكبرى، بما في ذلك Goldman و Citi، في واشنطن في وقت سابق من هذا الشهر.

أضافت الجهات التنظيمية البريطانية Mythos إلى جدول الأعمال في اجتماعات مجموعة المرونة التشغيلية للسوق المشتركة هذا الأسبوع. هذا يضعه في مناقشات رفيعة المستوى بين كبار المصرفيين وكذلك المسؤولين من الخزانة وبنك إنجلترا وهيئة السلوك المالي والمركز الوطني للأمن السيبراني.