اختراق مدعوم بالذكاء الاصطناعي يتصاعد إلى تهديد صناعي النطاق، حسب قول جوجل

في غضون ثلاثة أشهر فقط، تحول القرصنة المدعومة بالذكاء الاصطناعي من مشكلة ناشئة إلى تهديد صناعي النطاق، وفقًا لتقرير صادر عن جوجل.

تضيف النتائج من مجموعة استخبارات التهديدات في جوجل إلى النقاش العالمي المتزايد حول كيفية أن أحدث نماذج الذكاء الاصطناعي بارعة للغاية في الترميز - وتصبح أدوات قوية للغاية لاستغلال الثغرات في مجموعة واسعة من أنظمة البرامج.

ويخلص إلى أن الجماعات الإجرامية، وكذلك الجهات الفاعلة المرتبطة بالدول من الصين وكوريا الشمالية وروسيا، يبدو أنها تستخدم على نطاق واسع النماذج التجارية - بما في ذلك Gemini و Claude وأدوات من OpenAI - لتحسين وتوسيع نطاق الهجمات.

قال جون هولتكيست، كبير المحللين في المجموعة: "هناك اعتقاد خاطئ بأن سباق ثغرات الذكاء الاصطناعي وشيك. الحقيقة هي أنه قد بدأ بالفعل".

"يستخدم الجهات الفاعلة في التهديدات الذكاء الاصطناعي لتعزيز سرعة ونطاق وتعقيد هجماتهم. إنه يمكّنهم من اختبار عملياتهم، والمثابرة ضد الأهداف، وبناء برامج ضارة أفضل، وإجراء العديد من التحسينات الأخرى."

في الشهر الماضي، رفضت شركة الذكاء الاصطناعي Anthropic إصدار إحدى أحدث نماذجها، Mythos، بعد التأكيد على أنها تمتلك قدرات قوية للغاية وتشكل تهديدًا للحكومات والمؤسسات المالية والعالم بشكل عام إذا وقعت في الأيدي الخطأ.

على وجه التحديد، قالت Anthropic إن Mythos قد اكتشف ثغرات يوم الصفر في "كل نظام تشغيل رئيسي وكل متصفح ويب رئيسي" - وهو مصطلح يشير إلى عيب في منتج غير معروف سابقًا لمطوريه.

وقالت الشركة إن هذه الاكتشافات تستلزم "إجراءات دفاعية منسقة كبيرة عبر الصناعة".

ومع ذلك، وجد تقرير جوجل أن مجموعة إجرامية كانت مؤخرًا على وشك استغلال ثغرة يوم الصفر لإجراء حملة "استغلال جماعي" - وأن هذه المجموعة يبدو أنها تستخدم نموذج لغة كبير (LLM) للذكاء الاصطناعي لم يكن Mythos.

كما وجد التقرير أن المجموعات كانت "تختبر" OpenClaw، وهي أداة ذكاء اصطناعي انتشرت في فبراير لتقديم قدرة لمستخدميها على تسليم أجزاء كبيرة من حياتهم إلى وكيل ذكاء اصطناعي بدون قيود وميل مؤسف لحذف صناديق البريد الإلكتروني بشكل جماعي.

قال ستيفن ميردوخ، أستاذ هندسة الأمن في كلية لندن الجامعية، إن أداة الذكاء الاصطناعي يمكن أن تساعد الجانب الدفاعي في الأمن السيبراني - وكذلك المخترقين.

"لهذا السبب لست مذعورًا. بشكل عام، وصلنا إلى مرحلة اختفى فيها الطريق القديم لاكتشاف الأخطاء، وسيتم الآن مساعدة كل شيء بواسطة LLM. سيستغرق الأمر بعض الوقت قبل أن تتضح عواقب ذلك،" قال.

ومع ذلك، إذا كان الذكاء الاصطناعي يساعد المخترقين الطموحين على تحقيق أهداف إنتاجيتهم، فلا تزال هناك شكوك حول ما إذا كان يعزز الاقتصاد الأوسع.

حذرت معهد آدا لوفليس (ALI)، وهو هيئة بحثية مستقلة في مجال الذكاء الاصطناعي، من افتراضات زيادة الإنتاجية في القطاع العام بمئات المليارات من الجنيهات من الذكاء الاصطناعي. قدرت الحكومة البريطانية مكاسب بقيمة 45 مليار جنيه إسترليني في المدخرات وفوائد الإنتاجية من الاستثمار في القطاع العام في الأدوات الرقمية والذكاء الاصطناعي.

في تقرير نُشر يوم الاثنين، قال معهد آدا لوفليس إن معظم الدراسات حول زيادات الإنتاجية المتعلقة بالذكاء الاصطناعي تشير إلى توفير الوقت أو خفض التكاليف، لكنها لم تنظر في نتائج مثل تحسين الخدمات أو تحسين رفاهية العمال.

تشمل الجوانب الإشكالية الأخرى لمثل هذا البحث: ما إذا كانت توقعات كفاءة الذكاء الاصطناعي في مكان العمل تنجح حقًا في العالم الواقعي؛ الأرقام الرئيسية التي تحجب النتائج المتفاوتة لاستخدام الذكاء الاصطناعي في مهام مختلفة؛ وعدم حساب التأثير على توظيف القطاع العام وتقديم الخدمات.

قال تقرير معهد آدا لوفليس: "تقديرات الإنتاجية التي تشكل قرارات الحكومة الرئيسية بشأن الذكاء الاصطناعي تستند أحيانًا إلى افتراضات غير مختبرة وتعتمد على منهجيات لا يتم دائمًا تقدير قيودها من قبل أولئك الذين يستخدمون الأرقام في الميدان".

"النتيجة هي فجوة بين الثقة التي تُقدم بها ادعاءات الإنتاجية وقوة الأدلة وراءها."

تشمل توصيات التقرير: تشجيع الدراسات المستقبلية على عكس عدم اليقين بشأن تأثير التكنولوجيا؛ ضمان قيام الإدارات الحكومية بقياس تأثير برامج الذكاء الاصطناعي "من البداية"؛ ودعم الدراسات طويلة الأجل التي تقيس مكاسب الإنتاجية على مدى سنوات بدلاً من أسابيع.