ما هو Claude Mythos وما هي المخاطر التي يشكلها؟

في الأسابيع الأخيرة، كان عالم الذكاء الاصطناعي يضج بالادعاءات التي قدمتها الشركة الرائدة Anthropic بشأن نموذجها الجديد، Claude Mythos.

تقول الشركة إنها وجدت أن الأداة يمكنها التفوق على البشر في بعض مهام القرصنة والأمن السيبراني، مما أثار مناقشات من قبل المنظمين والمشرعين والمؤسسات المالية حول المخاطر التي يمكن أن تشكلها على الخدمات الرقمية.

تم منح العديد من عمالقة التكنولوجيا إمكانية الوصول إلى Mythos عبر مبادرة تسمى Project Glasswing، المصممة لتعزيز المرونة ضد Mythos نفسه.

لكن آخرين يشيرون إلى أن من مصلحة Anthropic اقتراح أن أداتها تمتلك قدرات لم يسبق لها مثيل، مما يعني - كما هو الحال دائمًا مع الذكاء الاصطناعي - أن مهمة التمييز بين الادعاءات المبررة والضجيج يمكن أن تكون صعبة.

ما هو Claude Mythos؟

Mythos هو أحد أحدث نماذج Anthropic التي تم تطويرها كجزء من نظام الذكاء الاصطناعي الأوسع الخاص بها المسمى Claude. وهو يشمل مساعد الذكاء الاصطناعي الخاص بالشركة وعائلتها من النماذج، منافسًا ChatGPT من OpenAI و Gemini من Google.

كشفت عنه Anthropic في أوائل أبريل باسم "Mythos Preview".

قال باحثون يختبرون كيفية تعامل نماذج الذكاء الاصطناعي مع طلبات أو مهام معينة، والمعروفون باسم "فرق الحمراء"، في تقرير إن Mythos كان "قادرًا بشكل لافت للنظر على مهام أمن الكمبيوتر".

وجدوا أن الأداة يمكنها تحديد الأخطاء الخاملة الكامنة في أكواد قديمة عمرها عقود واستغلالها بسهولة.

لذلك، بدلاً من إتاحته على نطاق واسع لمستخدمي Claude، منحت Anthropic 12 شركة تقنية إمكانية الوصول إليه عبر Project Glasswing، والذي وصفته بأنه "جهد لتأمين أهم البرامج في العالم".

وتشمل هذه الشركات عملاق الحوسبة السحابية Amazon Web Services، ومصنعي الأجهزة Apple و Microsoft و Google، وشركات تصنيع الرقائق Nvidia و Broadcom.

Crowdstrike، التي تسببت تحديثات برامجها المعيبة في انقطاع عالمي كبير في يوليو 2024، هي أيضًا من بين شركاء المشروع، مع قول Anthropic إنها منحت أيضًا إمكانية الوصول إلى Mythos لأكثر من 40 منظمة مسؤولة عن البرامج الهامة.

في مقطع فيديو صدر بالتزامن مع إطلاق Project Glasswing، قال رئيس Anthropic داريو أموداي إن الشركة عرضت العمل مع مسؤولي الحكومة الأمريكية "للمساعدة في الدفاع ضد مخاطر هذه النماذج".

لماذا توجد مخاوف؟

تقول Anthropic إنه خلال الاختبارات، وجدت أن النموذج كان ماهرًا للغاية في مهام الأمن السيبراني والقرصنة، متفوقًا على البشر.

"لقد وجدت Mythos Preview بالفعل آلاف الثغرات الأمنية عالية الخطورة، بما في ذلك بعض الثغرات في كل نظام تشغيل ومتصفح ويب رئيسي،" ادعت Anthropic في 7 أبريل.

"نظرًا لمعدل تقدم الذكاء الاصطناعي، لن يمر وقت طويل قبل أن تنتشر هذه القدرات، وربما تتجاوز الجهات الفاعلة الملتزمة بنشرها بأمان."

وقالت إنها يمكنها تحديد - دون الكثير من الإشراف - الأخطاء الحرجة التي تحتاج إلى إجراء فوري في الأنظمة القديمة، بما في ذلك ثغرة أمنية كانت موجودة في نظام لمدة 27 عامًا، واقتراح طرق لاستغلالها.

أعرب بعض وزراء المالية ومحافظي البنوك والممولين منذ ذلك الحين عن مخاوف جدية بشأنها، خوفًا من أن النموذج يمكن أن يقوض أمن الأنظمة المالية.

قال وزير المالية الكندي فرانسوا فيليب شامبين لـ BBC إن Mythos تمت مناقشته في اجتماع لصندوق النقد الدولي (IMF) في واشنطن العاصمة هذا الأسبوع.

وقال: "بالتأكيد الأمر خطير بما يكفي لتبرير اهتمام جميع وزراء المالية"، واصفًا التكنولوجيا بأنها "مجهول مجهول".

قال رئيس بنك إنجلترا أندرو بيلي لـ BBC "علينا الآن أن ننظر بعناية شديدة فيما يمكن أن يعنيه هذا التطور الأخير في الذكاء الاصطناعي لخطر الجريمة السيبرانية."

في غضون ذلك، قال الاتحاد الأوروبي إنه في محادثات مع Anthropic بشأن مخاوفه بشأن Mythos.

ماذا قال خبراء الأمن السيبراني عنه؟

قال سياران مارتن، الرئيس السابق للمركز الوطني للأمن السيبراني في المملكة المتحدة، لـ BBC في وقت سابق من هذا الأسبوع إن الادعاء بأن Mythos يمكن أن يكشف عن ثغرات حرجة بشكل أسرع بكثير من نماذج الذكاء الاصطناعي الأخرى قد "أربك الناس حقًا".

"الشيء الثاني هو أنه حتى مع نقاط الضعف الحالية التي نعرفها، ولكن قد لا تكون المؤسسات قد عالجتها، قد لا تكون محمية بشكل جيد، فهو مجرد قرصان جيد حقًا،" قال.

لم يتمكن العديد من محللي وخبراء الأمن السيبراني المستقلين من اختباره بأنفسهم بعد، ولا يزال البعض متشككًا بشأن أداء Mythos.

خلص معهد سلامة الذكاء الاصطناعي في المملكة المتحدة مؤخرًا إلى أنه بينما هو نموذج قوي جدًا، فإن أكبر تهديد له سيكون ضد الأنظمة ضعيفة الدفاع.

وقال باحثوه: "لا يمكننا أن نقول على وجه اليقين ما إذا كان Mythos Preview سيكون قادرًا على مهاجمة الأنظمة المحصنة جيدًا".

لذلك حيث يوجد أمن سيبراني جيد، من المفترض نظريًا أن يتم إيقاف هذا النموذج.

هل يجب أن نقلق بشأنه؟

المخاوف المتعلقة بالذكاء الاصطناعي ليست جديدة.

تخرج نماذج وأدوات جديدة طوال الوقت، وغالبًا ما تكون مصحوبة بوعود لإحداث ثورة في حياتنا، سواء للأفضل أو للأسوأ.

الاستفادة من هذا المزيج من الخوف والإثارة بشأن الذكاء الاصطناعي وتأثيره المستقبلي أصبح أيضًا سمة مميزة للقطاع واستراتيجيات التسويق الخاصة به في السنوات الأخيرة.

في حالة Mythos، ما زلنا لا نعرف ما يكفي عنه لمعرفة ما إذا كانت هذه الآمال أو المخاوف مبررة، أو انعكاسًا للضجيج المحيط بالصناعة.

في كلتا الحالتين، وفقًا لـ NSCS، فإن أهم شيء يمكننا القيام به الآن هو عدم الذعر والتركيز بدلاً من ذلك على الحاجة إلى الحصول على أساسيات الأمن السيبراني بشكل صحيح.

بعد كل شيء، لا يحتاج معظم القراصنة إلى أدوات ذكاء اصطناعي فائقة لاختراق الأنظمة عندما غالبًا ما تكون الهجمات الأبسط كافية.

قال مارتن لـ BBC: "بالنسبة للبعض، هذا حدث نهاية العالم، وبالنسبة للآخرين يبدو أنه الكثير من الضجيج".

لكنه قال إنه سواء كان ذلك هذه الأداة أو الأدوات اللاحقة التي صنعتها Anthropic أو منافسوها، إلى جانب المخاطر، كانت هناك فرصة لبناء عالم أكثر أمانًا عبر الإنترنت.

وقال: "على المدى المتوسط، هناك فرصة لاستخدام هذه الأدوات لإصلاح الكثير من نقاط الضعف الأساسية في الإنترنت."

اشترك في نشرتنا الإخبارية Tech Decoded لمتابعة أهم قصص واتجاهات التكنولوجيا في العالم. خارج المملكة المتحدة؟ اشترك هنا.