أنثروبيك تقول إن أحدث نماذجها للذكاء الاصطناعي يمكنها كشف نقاط الضعف في أمن البرمجيات

قالت أنثروبيك يوم الثلاثاء إن نموذجها للذكاء الاصطناعي الذي لم يتم إصداره بعد، والذي يسمى Claude Mythos، أثبت أنه بارع للغاية في كشف نقاط الضعف في البرمجيات.
كشف Mythos عن آلاف الثغرات في التطبيقات شائعة الاستخدام والتي لا يوجد لها تصحيح أو حل، مما دفع شركة ناشئة في مجال الذكاء الاصطناعي مقرها سان فرانسيسكو إلى تشكيل تحالف مع متخصصين في الأمن السيبراني لتعزيز الدفاعات ضد القرصنة وحجب التوزيع على نطاق واسع.
قال مايك كريجر من Anthropic Labs في مؤتمر HumanX AI في سان فرانسيسكو: "لدينا نموذج جديد لا ننشره للجمهور بشكل صريح".
بدلاً من ذلك، تسمح أنثروبيك لمتخصصي الأمن السيبراني والمهندسين في مجتمع المصادر المفتوحة بالعمل مع Mythos لاستخدام النموذج كسلاح دفاعي "نوعًا ما لتسليحهم مسبقًا"، أوضح كريجر.
جاءت القفزات في قدرات نماذج الذكاء الاصطناعي مع مخاوف بشأن استخدام القراصنة لمثل هذه الأدوات لتحديد كلمات المرور أو كسر التشفير المخصص للحفاظ على أمان البيانات.
يعود تاريخ أقدم الثغرات التي كشفها Mythos إلى 27 عامًا، ولم يلاحظها صانعوها بشكل واضح قبل تحديدها بواسطة نموذج الذكاء الاصطناعي، وفقًا لأنثروبيك.
Mythos هو أحدث جيل من عائلة Claude للذكاء الاصطناعي من أنثروبيك، وقد أدى تسرب حديث لبعض أكوادها إلى قيام الشركة الناشئة بنشر منشور مدونة يحذر من أنها تشكل مخاطر غير مسبوقة على الأمن السيبراني.
قالت أنثروبيك في منشور مدونة: "لقد وصلت نماذج الذكاء الاصطناعي إلى مستوى من القدرة على الترميز حيث يمكنها تجاوز جميع البشر باستثناء الأكثر مهارة في العثور على ثغرات البرامج واستغلالها". "يمكن أن تكون العواقب - على الاقتصادات والسلامة العامة والأمن القومي - وخيمة."
كانت ثغرات البرامج التي كشفها Mythos غالبًا ما تكون دقيقة ويصعب اكتشافها بدون الذكاء الاصطناعي، وفقًا لأنثروبيك. كمثال، ذكرت أن Mythos وجد عيبًا لم يلاحظ من قبل في برنامج فيديو تم اختباره أكثر من 5 ملايين مرة من قبل منشئيه.
كإجراء احترازي، شاركت أنثروبيك نسخة من Mythos مع شركات الأمن السيبراني CrowdStrike و Palo Alto Networks، وكذلك مع Amazon و Apple و Microsoft، في مشروع أطلقت عليه اسم "Glasswing".
تشارك عمالقة الشبكات Cisco و Broadcom في المشروع، إلى جانب Linux Foundation، التي تروج لنظام التشغيل المجاني مفتوح المصدر للحواسيب Linux.
قال أنتوني غريكو، كبير مسؤولي الأمن والثقة في Cisco، في بيان مشترك حول Glasswing: "هذا العمل مهم جدًا وملح جدًا للقيام به بمفردنا". "لقد تجاوزت قدرات الذكاء الاصطناعي عتبة تغير بشكل أساسي الإلحاح المطلوب لحماية البنية التحتية الحيوية من التهديدات السيبرانية، ولا رجعة في ذلك."
يقال إن حوالي 40 منظمة تشارك في تصميم أو صيانة أو تشغيل أنظمة الكمبيوتر قد انضمت إلى Glasswing. سيشارك شركاء المشروع نتائج Mythos الخاصة بهم، وفقًا لأنثروبيك، التي توفر حوالي 100 مليون دولار من موارد الحوسبة لهذه المهمة. أظهرت الأعمال المبكرة مع نماذج الذكاء الاصطناعي أنها يمكن أن تساعد في العثور على ثغرات البرامج والأجهزة وإصلاحها بوتيرة ونطاق لم يكن ممكنًا من قبل، وفقًا لغريكو.
قال إليا زايتسيف، كبير مسؤولي التكنولوجيا في Crowdstrike: "لقد انهار النافذة بين اكتشاف الثغرة واستغلالها من قبل خصم - ما كان يستغرق شهورًا يحدث الآن في دقائق مع الذكاء الاصطناعي".
وأضاف: "يُظهر Claude Mythos Preview ما هو ممكن الآن للمدافعين على نطاق واسع، وسيسعى الخصوم حتمًا إلى استغلال نفس القدرات".
قالت أنثروبيك إنها أجرت مناقشات مع الحكومة الأمريكية بشأن Mythos على الرغم من مرسوم صادر عن البيت الأبيض في فبراير لإنهاء جميع العقود مع الشركة الناشئة. تم تعليق هذا التوجيه من قبل قاضٍ فيدرالي أثناء سير الطعن القانوني من قبل أنثروبيك في المحاكم.