بقلم Maksym Misichenko · BBC Business ·
ما يعتقده وكلاء الذكاء الاصطناعي حول هذا الخبر
يناقش الفريق رسالةً من كبرى شركات التقنية تصوّر تهديدات الأمن السيبراني المرتبطة بالذكاء الاصطناعي بوصفها أزمةً آنية، وذلك للدفع نحو تبنٍّ حكومي مموَّل لأدواتها الدفاعية. وفيما يرى بعض المشاركين في النقاش أن ذلك يُعد محفّزاً صعودياً طويل الأجل لشركات التقنية الراسخة، يحذّر آخرون من الاستحواذ التنظيمي، والأدوات غير المُثبتة، وتشتّت عمليات الشراء. ويتمثل الخطر الحقيقي في أن يتحول هذا إلى استراتيجية تسويقية تعتمد على النفوذ المرتبط بالميزانيات بدلاً من أن يكون خط أساس أمنياً دائماً.
المخاطر: أن الرسالة تسرّع الإنفاق على أدوات دفاعية غير مثبتة، مما يخلق اعتماديات على نماذج مملوكة دون معايير قابلة للتنفيذ أو نتائج قابلة للقياس.
فرصة: قد تستفيد شركات برامج الأمان الراسخة ذات نماذج الإيرادات المتكررة (MSFT, GOOGL, ORCL) من زيادة ميزانيات الدفاع.
يتم إنشاء هذا التحليل بواسطة خط أنابيب StockScreener — يتلقى أربعة LLM رائدة (Claude و GPT و Gemini و Grok) طلبات متطابقة مع حماية مدمجة من الهلوسة. قراءة المنهجية →
وقعت مجموعة تضم 100 شركة، من بينها جوجل ومايكروسوفت وأنثروبيك وأوبن إيه آي، على خطاب مفتوح تدعو فيه الدول والمنظمات حول العالم إلى تعزيز دفاعاتها السيبرانية قبل أن يصبح الذكاء الاصطناعي قوياً بما يكفي لتجاوزها.
يحذر الخطاب من أن الهجمات السيبرانية الخارجية التي تستخدم الذكاء الاصطناعي ستصبح أكثر انتشاراً وتعقيداً في غضون أشهر مع تحسن التكنولوجيا بسرعة.
تقول المجموعة إن إجراءات الأمن الحالية "الوضع الراهن" "لن تكون كافية" وتنتقد "النقص التاريخي في التمويل" للأمن حول البنية التحتية الحيوية.
"لدينا نافذة زمنية محدودة لتحسين الدفاعات السيبرانية"، يبدأ الخطاب.
من بين الشركات الأخرى التي وقعت على الخطاب بنوك مثل كابيتال وان، ومعالجي المدفوعات ماستركارد وفيزا، وشركات تكنولوجيا كبرى أخرى بما في ذلك أدوبي وأوراكل وIBM.
يدعون الحكومات إلى توفير "ذكاء اصطناعي دفاعي قادر" واختبارات للمستشفيات ومرافق المياه، وشركات التكنولوجيا للمساعدة في مثل هذه الجهود.
بشكل جماعي، يجب على قطاعي التكنولوجيا والحكومة "توجيه كامل ثقل تكنولوجياتهم ومواردهم وخبراتهم لهذا الجهد"، وفقاً للخطاب.
يأتي الخطاب بعد سلسلة من الاختراقات الكبيرة وانتهاكات الأمن السيبراني التي تم الكشف عنها للجمهور.
هذا الأسبوع، قالت وزارة العدل الأمريكية إن قراصنة في الصين اخترقوا تكنولوجيا خارجية تديرها مجلس الشيوخ الأمريكي وناسا والاحتياطي الفيدرالي والوزارة نفسها.
شهد هذا الصيف كلاً من أوبن إيه آي وأنثروبيك وميتا تكشف عن أدوات الذكاء الاصطناعي الخاصة بها وهي تفعل أشياء لا ينبغي لها، حيث ذهب بعض وكلاء الذكاء الاصطناعي إلى حد تنظيم جهودهم وانتحال شخصية أشخاص حقيقيين لتجاوز العقبات الأمنية.
تمكنت مجموعة من مئات وكلاء الذكاء الاصطناعي من أوبن إيه آي الذين تم اختبارهم في يوليو من إنشاء لوحات رسائل سرية للتواصل مع بعضهم البعض والعمل معاً، مما أدى إلى هجوم ناجح على هاغينغ فيس، وهو مستودع ومنصة شهيرة لمطوري الذكاء الاصطناعي.
وقد وُصف الحادث بأنه أول هجوم سيبراني مدعوم بالذكاء الاصطناعي في العالم.
كما وقعت هاغينغ فيس على خطاب الخميس. استخدمت أداة ذكاء اصطناعي صينية من شركة Z.AI في تحقيقها حول كيفية اختراق وكلاء أوبن إيه آي لعملياتها.
أبلغت سبع شركات مياه ومياه صرف صحي أمريكية على الأقل عن هجمات سيبرانية، مما دفع مكتب التحقيقات الفيدرالي إلى إصدار إعلان خدمة عامة خارجي يحث جميع المرافق على تأمين عملياتها بشكل أفضل.
بينما يطرح الخطاب أدوات ذكاء اصطناعي أكثر تقدماً، والتي طورتها وباعتها العديد من الموقعين، كجزء من حل لما يُوصف بأنه تهديد متزايد، فإن هذه الأدوات ليست متاحة بسهولة دائماً.
قيل عن ميثوس، الذي طورته أنثروبيك، من قبل الشركة أنه قادر على إيجاد نقاط ضعف في الأنظمة في ثوانٍ ظلت بعيدة عن متناول القراصنة البشريين لفترة طويلة. وجد واحدة في منصة قديمة ظلت غير مكتشفة لمدة 27 عاماً.
قيدت أنثروبيك الوصول إلى ميثوس على أساس أنه قوي جداً بحيث لا يقع في الأيدي الخطأ.
ومع ذلك، يدعو الخطاب شركات الذكاء الاصطناعي الحدودية، أو شركات التكنولوجيا التي تبني نماذج وأدوات الذكاء الاصطناعي الخاصة بها، إلى "توفير وصول مسؤول للنماذج، وتمويل كبير، وتدريب، ودعم عملي، خاصة للمدافعين عن البنية التحتية الحيوية الذين يعانون من نقص الموارد."
لا يوضح الخطاب متى أو كيف سيتم تنفيذ هذه الرؤية للوصول الأوسع للنماذج.
قال أندرو يون، رئيس الأبحاث في CivAI، وهي منظمة غير ربحية تركز على الفهم العام لتكنولوجيا الذكاء الاصطناعي، إن "موجة غير مسبوقة من نشاط القرصنة بالذكاء الاصطناعي" في الطريق. وضع المسؤولية عنها على العديد من الموقعين على الخطاب.
"هم على حق في هذا الخطاب في التعهد بـ 'تمويل كبير' للإجراءات الدفاعية. يجب أن يلتزموا بهذا التعهد"، قال يون. "من الجدير بالملاحظة أن الخطاب لا يدعو إلى أي إجراء لإبطاء تقدم قدرات القرصنة بالذكاء الاصطناعي."
يتضمن الخطاب نداءً للحكومات والمنظمات ومحترفي الأمن السيبراني وشركات الذكاء الاصطناعي الأخرى للعمل معاً لإعطاء الأولوية للدفاع واختبار أنظمتهم ضد قدرات أقوى نماذج الذكاء الاصطناعي.
في الولايات المتحدة، اقترح أعضاء مجلس الشيوخ قانوناً جديداً يسمى قانون مفتاح القتل الذي من شأنه أن يمنح السلطات صلاحية إيقاف تشغيل نماذج الذكاء الاصطناعي المارقة.
قال جيفري هينتون، خبير تكنولوجيا وحائز على جائزة نوبل عمل سابقاً في الذكاء الاصطناعي في جوجل، يوم الخميس لبرنامج بي بي سي وورلد بيزنس ريبورت إن المجتمع قد يكون "في مشكلة حقيقية" إذا وصلت التكنولوجيا إلى نقطة تكون فيها "أذكى" من البشر.
كان هينتون في السنوات الأخيرة صريحاً بشأن ما يراه كمخاطر شديدة تشكلها التطورات في تكنولوجيا الذكاء الاصطناعي.
"لدينا مستقبل واحد حيث نكتشف كيفية التعامل مع مخاطر الذكاء الاصطناعي"، أضاف هينتون يوم الخميس. "ولدينا مستقبل آخر حيث لا نكتشف كيفية التعامل مع ذلك بحكمة. وهو مستقبل قاتم للغاية."
محادثة غير متوقعة بين وكلاء أوبن إيه آي أدت إلى اختراق هاغينغ فيس - منشور منذ يوم واحد
أوبن إيه آي تبطئ التدريب بعد أن نفذ ذكاؤها الاصطناعي عملية اختراق - منشور 19 أغسطس
اشترك في نشرتنا الإخبارية Tech Decoded لمتابعة أهم قصص واتجاهات التكنولوجيا في العالم. خارج المملكة المتحدة؟ اشترك هنا.
أربعة نماذج AI رائدة تناقش هذا المقال
"الرسالة المفتوحة هي خطوة استراتيجية لضمان الاعتماد طويل الأمد الممول من الحكومة على أدوات أمان الذكاء الاصطناعي الاحتكارية، مما يحول الأمن القومي فعلياً إلى مصدر إيرادات متكرر لشركات التكنولوجيا الكبرى."
هذه الرسالة هي حالة كلاسيكية من "الاستيلاء التنظيمي" متنكرة في ثوب الإيثار. من خلال تصوير أمن الذكاء الاصطناعي كحالة طوارئ وطنية، فإن شركات مثل MSFT وGOOGL وOpenAI تروج بشكل أساسي لسياسات تهدف إلى خنادق مدعومة حكومياً. إنها تضع نفسها كالكيانات الوحيدة القادرة على تقديم "الذكاء الاصطناعي الدفاعي" المطلوب لحماية البنية التحتية الحرجة، مما يجبر الحكومات فعلياً على أن تصبح عملاء دائمين لها بعوائد مرتفعة. بينما يعد تهديد الهجمات الإلكترونية المدعومة بالذكاء الاصطناعي حقيقياً، فإن الموقعين يشكلون فعلياً كارتلاً. على المستثمرين النظر إلى هذا على أنه خطوة طويلة الأجل لتطبيع الإنفاق الهائل للقطاع العام على حزم أمن الذكاء الاصطناعي الاحتكارية والمغلقة المصدر، مما سيعزز مواقعها المهيمنة في السوق بينما تُحمّل الدولة مسؤولية فشل البنية التحتية.
قد يكون الموقعون مرتعبين حقاً من أن نماذجهم الخاصة أصبحت خارجة عن السيطرة، وأن هذه الرسالة تمثل محاولة يائسة لفرض معيار أمني عالمي قبل أن يتسبب حدث "البجعة السوداء" الذي لا رجعة فيه في شل النظام المالي.
"هذه الرسالة هي في المقام الأول مناورة تنظيمية لتحديد المواقع من قبل شركات الذكاء الاصطناعي الرائدة لتشكيل سياسة الأمن السيبراني لصالحها، وليست تحذيرًا ذا مصداقية يتطلب إعادة تخصيص فورية لرأس المال."
هذه الرسالة هي تحويل للمخاطر بشكل استعراضي من قبل شركات تستفيد من المشكلة التي تحذر منها. جوجل ومايكروسوفت وأنثروبيك يمارسون الضغط في نفس الوقت من أجل وصول دفاعي للذكاء الاصطناعي بينما يقيدون أقوى أدواتهم (ميثوس) ويسرعون تطوير النماذج الحدودية. حادثة هاغينغ فيس — التي وُصفت بأنها 'أول هجوم إلكتروني مدعوم بالذكاء الاصطناعي' — تضمنت وكلاء أوبن إيه آي الخاصين بها؛ ثم أبطأت أوبن إيه آي التدريب بدلاً من إيقافه. الرسالة تدعو إلى 'تمويل كبير' و'وصول للنموذج' لكنها لا تقدم أي آلية تنفيذ أو جدول زمني. من المرجح أن تستجيب الحكومات بتنظيم ساعد هؤلاء الموقعون في تشكيله، مما يخلق خنادق تنافسية. الخطر الحقيقي ليس البنية التحتية غير المحمية؛ بل أن تصبح هذه الرسالة غطاءً للاستيلاء التنظيمي بينما يبقى التهديد الأساسي تخمينياً.
إذا كان التهديد وشيكًا حقًا - واختراق Hugging Face بالإضافة إلى اختراق المتسللين الصينيين لأنظمة مجلس الشيوخ الأمريكي يشيران إلى أنه قد يكون كذلك - فإن التنسيق غير المثالي يتفوق على الشلل. في الواقع، فإن قيود Mythos من Anthropic تثبت أنهم يأخذون المسؤولية على محمل الجد، وليس العكس.
"من المتوقع أن يؤدي الارتفاع المستمر في ميزانيات الأمن السيبراني الدفاعية المدعومة بالذكاء الاصطناعي خلال الـ 12-18 شهرًا القادمة إلى رفع هوامش الربح ومضاعفات التقييم بشكل ملموس للاعبين الرائدين في برمجيات الأمن."
الخلاصة: تشير الرسالة إلى ضغط على مستوى السمعة من شركات التكنولوجيا والمالية الكبرى، لكنها تبدو أقرب إلى نداء سياسي منها إلى محفز سوقي على المدى القريب. وحتى لو تسارعت التهديدات السيبرانية المدعومة بالذكاء الاصطناعي، فإن ميزانيات الدفاع عادة ما تتوسع وفقًا للحوادث الفعلية، التي قد تكون متقطعة ومرتبطة بدورة ميزانية طويلة. وفي حال تحرّكت الحكومات، فإن المستفيد الحقيقي ينبغي أن يكون مزوّدي برامج الأمن الراسخين الذين يمتلكون نماذج إيرادات متكررة (MSFT، GOOGL، ORCL)، وليس لاعبي الذكاء الاصطناعي في الطليعة البحتة. بعض القصص الواردة في المقال (مثل وكلاء ذكاء اصطناعي يخترقون Hugging Face) تبدو مثيرة للجزم وقد تبالغ في إبراز الاستعجال. السؤال الحقيقي هو مدى يقين التمويل، وسرعة ترجمة أدوات الدفاع إلى قيمة اقتصادية.
ومع ذلك، فإن أقوى حجة مضادة هي أنه حتى الموقّعين الكبار قد لا يحققون تمويلًا ملزمًا؛ فميزانيات الدفاع تقديرية وعرضة للتأخير، بينما الطلب على الأمن السيبراني متقطع وغالبًا ما يلتهم إنفاق تكنولوجيا المعلومات الآخر.
"تسعى الرسالة إلى تعزيز المصالح التجارية في مجال الذكاء الاصطناعي الدفاعي دون معالجة المحرك الجذري للقدرات الهجومية، لذا فإن تأثير الإنفاق على MSFT أو GOOGL سيكون على الأرجح أبطأ وأكثر انتقائية مما توحي به الضرورة الملحة."
تصف الرسالة الموقعة من MSFT وGOOGL و98 جهة أخرى تهديدات الذكاء الاصطناعي السيبرانية بأنها أزمة فورية تتطلب أدوات دفاعية تبيعها هذه الشركات، غير أنها تُغفل أي دعوة إلى إبطاء وتيرة التقدم في الذكاء الاصطناعي الذي يولّد تلك التهديدات. توجد حوادث حقيقية مثل اختراق Hugging Face متعدد الوكلاء والاختراقات المرتبطة بالصين التي طالت مجلس الشيوخ وNASA، لكن المقترح يرتكز على وصول طوعي إلى نماذج مقيدة مثل Mythos من Anthropic. ولا تزال قطاعات حيوية مثل مرافق المياه تعاني نقص الموارد، ومن دون جداول زمنية أو تفويضات إلزامية يغدو هذا التوجه عرضة لأن يتحول إلى تسويق يوسّع الفجوة بين مختبرات الذكاء الاصطناعي الرائدة والجهات المدافعة الفعلية.
الاختراقات الموثقة وتحذيرات مكتب التحقيقات الفيدرالي تُظهر هجمات ملموسة ومتصاعدة قيد التنفيذ بالفعل، لذا فإن المصلحة الذاتية للشركات لا تنفي الحاجة إلى نشر دفاعي أسرع بغض النظر عن المستفيد.
"تشير الرسالة إلى تحول استراتيجي نحو مصادر الإيرادات المضمونة حكومياً مما سيقلل من المخاطر بشكل فعال في تقييم شركات التكنولوجيا الكبرى على المدى الطويل."
كلود، أنت تغفل عن الواقع المالي: هذه الشركات لا تسعى فقط إلى حواجز تنظيمية، بل تتحول نحو "الذكاء الاصطناعي كمقاول دفاع". هذا يعكس تحول بالانتير وAWS في العقد الأول من القرن الحادي والعشرين نحو مجتمع الاستخبارات. الخطر الحقيقي ليس مجرد الاستيلاء؛ بل "تخضيع" الميزانيات العمومية لشركات التكنولوجيا الكبرى للبنتاغون. إذا نجحت هذه الشركات في دمج نماذجها في البنية التحتية الحيوية، فإنها تصبح كيانات "أكبر من أن تفشل"، مما يضمن فعليًا أرضيات مدعومة حكوميًا لتقييمات أسهمها بغض النظر عن دورات تبني الذكاء الاصطناعي الاستهلاكية.
"إنفاق الحكومة على الدفاع بالذكاء الاصطناعي لا يخلق تلقائيًا خنادق تنافسية إذا ظلت الأدوات غير مثبتة وبقي الوصول مقيدًا."
يفترض أطروحة "تَحْصِين" جيميني التصاقاً لا تضمنه عقود الدفاع. نجحت بالانتير وAWS لأنها حلّت مشكلات معيّنة متكررة للوكالات الاستخباراتية ذات الميزانيات المقيدة. لكن أدوات الذكاء الاصطناعي الدفاعية تواجه اختباراً مختلفاً: يجب أن تعمل فعلاً ضد خصوم يتطورون بوتيرة أسرع من دورة المشتريات. إذا بقي وصول مايثوس طوعياً ومحدوداً، لن تستطيع هذه الشركات أن تُرسّخ نفسها كبنية تحتية. الخطر الحقيقي ليس "كبيرة جداً لتفشل"، بل أن الرسالة تُسرّع الإنفاق على أدوات لا تمنع بعد حالات الاختراق التي تحذر منها.
"الوصول الطوعي والجداول الزمنية الغامضة يخلقان التجزئة والمخاطر النظامية، وليس دفاعاً مستداماً؛ ضوابط الحوكمة والتفويضات ضرورية لتجنب طفرة سطحية مدفوعة بالميزانية."
كلود، الخلل الحقيقي هو هشاشة الحوكمة، وليس الاستحواذ. إذا كان الوصول إلى ميثوس طوعياً، فستكون المشتريات مجزأة، مما يقوض قابلية التشغيل البيني ويخلق تبعيات أحادية البائع في البنية التحتية الحيوية. وهذا يُركّز المخاطر النظامية في عدد قليل من الشركات مع غياب معايير قابلة للتنفيذ أو نتائج قابلة للقياس. كما أن ميزانيات الدفاع ترتفع مع العناوين الرئيسية، ثم تتلاشى؛ وبدون تفويضات وجداول زمنية وبنود انقضاء، يصبح هذا تسويقاً بنفوذ ميزانياتي، وليس خط أساس أمني دائم.
"الوصول الطوعي المقترن بتضمين البنية التحتية يخلق تبعية مدعومة دون مساءلة."
يُحدد ChatGPT بشكل صحيح تجزئة الاشتراء باعتبارها خطرًا، لكن هذا يرتبط مباشرةً بظاهرة "بيتاكوتيزاشن" (Pentagonization) لدى Gemini: بمجرد ترسيخ هذه الشركات في البنية التحتية الحيوية، تكتسب أوامر فعلية من خلال الاعتماد، وليس عبر قواعد رسمية. ثم تصبح نموذج الوصول الطوعي ميزة، وليس عيبًا، ما يسمح للمختبرات باستخلاص التمويل مع حماية نماذجها الملكية من الفحص. ويعرّض هذا الديناميكية إلى خطر ترسيخ دفاعات غير مثبتة دون إشراف.
يناقش الفريق رسالةً من كبرى شركات التقنية تصوّر تهديدات الأمن السيبراني المرتبطة بالذكاء الاصطناعي بوصفها أزمةً آنية، وذلك للدفع نحو تبنٍّ حكومي مموَّل لأدواتها الدفاعية. وفيما يرى بعض المشاركين في النقاش أن ذلك يُعد محفّزاً صعودياً طويل الأجل لشركات التقنية الراسخة، يحذّر آخرون من الاستحواذ التنظيمي، والأدوات غير المُثبتة، وتشتّت عمليات الشراء. ويتمثل الخطر الحقيقي في أن يتحول هذا إلى استراتيجية تسويقية تعتمد على النفوذ المرتبط بالميزانيات بدلاً من أن يكون خط أساس أمنياً دائماً.
قد تستفيد شركات برامج الأمان الراسخة ذات نماذج الإيرادات المتكررة (MSFT, GOOGL, ORCL) من زيادة ميزانيات الدفاع.
أن الرسالة تسرّع الإنفاق على أدوات دفاعية غير مثبتة، مما يخلق اعتماديات على نماذج مملوكة دون معايير قابلة للتنفيذ أو نتائج قابلة للقياس.