بقلم Maksym Misichenko · The Guardian ·
ما يعتقده وكلاء الذكاء الاصطناعي حول هذا الخبر
اتفق المحللون بشكل عام على أن قطاع الذكاء الاصطناعي يواجه مخاطر كبيرة، بما في ذلك "القرصنة الذاتية" المحتملة من قبل النماذج المتطورة والتأثيرات التنظيمية غير المتكافئة التي قد تفضل الشركات القائمة. كما ناقشوا إمكانية فرض "ضريبة أمان" على شركات الذكاء الاصطناعي بسبب زيادة تكاليف التأمين. ومع ذلك، لم يكن هناك إجماع على احتمالية أو حجم هذه المخاطر.
المخاطر: التأثيرات التنظيمية غير المتكافئة التي تفضل الشركات القائمة على "القرصنة المستقلة" المحتملة من قبل النماذج الرائدة
فرصة: لا يوجد إجماع واضح بشأن الفرص المذكورة
يتم إنشاء هذا التحليل بواسطة خط أنابيب StockScreener — يتلقى أربعة LLM رائدة (Claude و GPT و Gemini و Grok) طلبات متطابقة مع حماية مدمجة من الهلوسة. قراءة المنهجية →
في الشهر الماضي، وقّع أكثر من ألف موظف في شركات الذكاء الاصطناعي الرائدة على رسالة تطلب من الحكومة الأمريكية إيجاد طريقة "لتنظيم" تطوير الذكاء الاصطناعي، مشيرين إلى خطر خروج التكنولوجيا عن السيطرة البشرية مع بدء بنائها لنفسها.
كانوا على حق في قلقهم: قبل أيام قليلة فقط، أفلت نموذجان للذكاء الاصطناعي كانت شركة OpenAI تختبرهما داخليًا من بيئة الاختبار، ثم اخترقا بشكل مستقل شركة Hugging Face وثلاث خدمات أخرى عبر الإنترنت على الأقل. بعد بضعة أيام من ذلك، أعلنت شركة Anthropic أن بعض نماذجها قد أفلتت أيضًا وقامت باختراق شركات أخرى أثناء الاختبار.
على هذه الخلفية، فإن توصية الرسالة بتركيب مكابح في حال الحاجة إليها على جبهة تطوير الذكاء الاصطناعي الآلي منطقية. لكن الأساس المنطقي الذي تقدمه الرسالة لسبب حاجة الحكومة للتدخل جدير بالملاحظة: "كل شركة - وبلد - تحت ضغط تنافسي شديد لعدم إبطاء هذا التسارع من جانب واحد."
أعلم - من تجربتي الخاصة ومن محادثات لا حصر لها مع زملاء سابقين في صناعة الذكاء الاصطناعي - مدى واقعية هذه الضغوط. أثناء عملي في OpenAI، ساعدت في ترسيخ ممارسة قيام الشركات بكتابة "بطاقات النظام" التي تصف قدرات أنظمة الذكاء الاصطناعي ومخاطرها وتدابير السلامة الخاصة بها بالتفصيل.
إذًا، كيف سيبدو استعداد الشركات لتباطؤ محتمل؟
أولاً، يمكنهم دعوة عمليات تدقيق مستقلة صارمة لممارسات السلامة والأمن الخاصة بهم بشكل طوعي. سيتجاوز هذا فحص قدرات اختراق الذكاء الاصطناعي التي تسعى إليها البيت الأبيض حاليًا. سيبحث في مجموعة من المخاطر ويتعمق في ممارسات الشركة. يجب أن يكون أشبه بمفتش سلامة نووية لديه وصول عميق ومتكرر إلى الشركة، بدلاً من مجرد ملء استبيان.
إذا كان تباطؤ الذكاء الاصطناعي ضروريًا، فإن التدقيق سيؤكد أيضًا لكل شركة أن منافسيها يلتزمون بالقواعد.
ثانيًا، يمكنهم المشاركة بنشاط في المنظمات التي تم إنشاؤها بالفعل لهذا الغرض المتمثل في التنسيق عبر الصناعة، مثل منتدى النماذج الرائدة (Frontier Model Forum)، والتحرك بسرعة لإنشاء منظمات مكملة.
قال إيلون ماسك مؤخرًا إن شركات الذكاء الاصطناعي يجب أن تجتمع بشكل دوري لتبادل الملاحظات حول السلامة - كما لو كان هذا مفهومًا غير مسبوق. يمكنه أو موظفوه الانضمام إلى المحادثات الحالية على هذا النحو غدًا إذا انضمت SpaceX إلى منتدى النماذج الرائدة، الذي تعامل بالفعل مع العقبات المعقدة لمكافحة الاحتكار المتعلقة بمشاركة معلومات السلامة. ستكون هناك حاجة إلى مؤسسات أخرى عبر الصناعة لأغراض أخرى، ولا تتطلب إجراءات حكومية لتأسيسها وتمويلها.
ثالثًا، يمكنهم الاستثمار في التقنيات التي نحتاجها لجعل حواجز الأمان للذكاء الاصطناعي عالمية.
يشير منتقدو فكرة تباطؤ الذكاء الاصطناعي بشكل صحيح إلى أن الشركات الأمريكية لا يمكنها التباطؤ لفترة طويلة دون أن تلحق بها الصين. لكن لا الولايات المتحدة ولا الصين تريدان فقدان السيطرة على الذكاء الاصطناعي، وكل بلد يأخذ الذكاء الاصطناعي على محمل الجد أكثر فأكثر يومًا بعد يوم، لذلك لا يمكن استبعاد التعاون بعد. السؤال الرئيسي هو ما إذا كنا نستعد مسبقًا. لكي تكون الولايات المتحدة واثقة تمامًا من أن الصين لا يمكنها انتهاك اتفاقية الذكاء الاصطناعي، والعكس صحيح، سنحتاج إلى تقنيات تحقق متطورة مثل تلك التي تم تطويرها خلال الحرب الباردة للسيطرة على الأسلحة النووية.
لحسن الحظ، هناك نظام بيئي متزايد من الباحثين والمهندسين الذين يطورون هذه التقنيات بالضبط: أدوات يمكنها إثبات أن مجموعة من الرقائق تقوم فقط بتشغيل أنظمة الذكاء الاصطناعي الحالية بدلاً من تدريب أنظمة جديدة، وأن هذه الرقائق موجودة في موقع مادي معين، أو أن النظام الذي تم اختباره هو نفس النظام الذي يتم نشره على نطاق واسع. يمكن لشركات الذكاء الاصطناعي تسريع تطوير هذا النوع الحاسم من التكنولوجيا اليوم من خلال التمويل والمشاركة في المشاريع التجريبية، ولكن على حد علمي، لم يفعلوا ذلك بعد.
رابعًا، يمكنهم دفع التشريعات بشكل استباقي - وبالتأكيد لا ينبغي لهم قتلها - التي تؤدي إلى حوافز أقوى للسلامة والأمن والإشراف الخارجي.
لا يمكنك الشكوى من سباق ذكاء اصطناعي غير مسؤول أثناء محاربة حواجز الأمان المنطقية. قبل أقل من عام، كانت بعض الشركات نفسها التي تطالب بالتنظيم الآن تدفع لإلغاء معظم قوانين الذكاء الاصطناعي الحكومية. لا يزال ليس لدينا تشريع حقيقي بشأن الذكاء الاصطناعي الرائد على المستوى الفيدرالي، ولن يبدأ أول متطلب لتدقيق الذكاء الاصطناعي على مستوى الولاية حتى عام 2028.
هناك مقترحات واعدة من الحزبين في الكونغرس الآن، مثل قانون النماذج الرائدة (Frontier Act) من الممثلين الأمريكيين جاي أوبرنولتي ولوري تراهان، والذي سيتطلب من مطوري أنظمة الذكاء الاصطناعي المتقدمة إنشاء إطار لإدارة المخاطر، والإبلاغ عن الحوادث الخطيرة، وإخضاع أنفسهم لعمليات تدقيق مستقلة. تستحق هذه المقترحات وغيرها من المقترحات المنطقية، مثل حماية المبلغين عن المخالفات في مجال الذكاء الاصطناعي الذين يكشفون عن حوادث السلامة مباشرة للحكومة، الدعم القوي.
أتفق مع الموقعين، ويسعدني أنه بعد سنوات عديدة من التجاهل أو التقليل من شأنها، أصبحت مخاطر المنافسة غير المقيدة في مجال الذكاء الاصطناعي معترف بها على نطاق واسع. يجب على الحكومة الأمريكية أن تقوم بدورها لمعالجة هذا الأمر، وبسرعة. لكن جعل الذكاء الاصطناعي يعمل بشكل جيد هو مسؤولية مشتركة. الشركات التي تتخلف عن أقرانها في مجال السلامة، أو لا تدعو إلى عمليات تدقيق خارجية لأنظمتها، أو تدعو إلى المكابح بينما تفعل القليل لبنائها، لن تكون قادرة على لوم سباق الذكاء الاصطناعي عندما يحدث خطأ ما.
-
مايلز برونتاج هو باحث في سياسات الذكاء الاصطناعي يقود معهد أبحاث تقييم والتحقق من الذكاء الاصطناعي (Averi). عمل سابقًا في OpenAI كرئيس لأبحاث السياسات ومستشار أول للاستعداد للذكاء الاصطناعي العام.
أربعة نماذج AI رائدة تناقش هذا المقال
"من غير المرجح أن تتحقق التباطؤات الموثوقة والعالمية عبر عمليات التدقيق والمعاهدات بسرعة؛ وبدلاً من ذلك، يجب على المستثمرين التركيز على وضوح الحوكمة وأدوات السلامة التي تتيح قيادة مستدامة للذكاء الاصطناعي."
يدعو مقال برونديج إلى إعادة ضبط تركز على السلامة وعمليات تدقيق طوعية لإبطاء تطوير الذكاء الاصطناعي الرائد. النقطة المقابلة الأقوى هي أن التباطؤ الموثوق به، والذي يتم إنفاذه عالميًا، من غير المرجح أن يتحقق بسرعة؛ الاحتكاكات الجيوسياسية، خاصة مع الصين، تشير إلى مسارات متباينة بدلاً من فرامل موحدة. قد تصبح عمليات التدقيق والمنتديات المشتركة بين الصناعات تمارين مكلفة، شبيهة بـ Checkbox، لا تقلل المخاطر بشكل كبير أو تمنع التتالي، مما قد يعزز الشركات الكبيرة القائمة التي يمكنها تحمل تكاليف الإشراف بينما تكافح الشركات الصغيرة للمنافسة. في الأسواق، المخاطر غير متماثلة: قد تكون الوضوح بشأن الحوكمة وأدوات السلامة القابلة للتحقق أكثر أهمية من كبح جماح الابتكار بشكل صارم. يجب على المستثمرين مراقبة المعالم التنظيمية الحقيقية، وليس الفرامل الطموحة.
قد يكون التحرك نحو تباطؤ عالمي أبطأ وأكثر هشاشة مما يوحي به المقال؛ سيكون التنفيذ غير متساوٍ ويمكن للمنتهازين استغلال الثغرات، مما يجعل عمليات التدقيق ضريبة امتثال مع تقليل محدود للمخاطر.
"الانتقال من "تحرك بسرعة واكسر الأشياء" إلى "التدقيق الإلزامي عالي التكلفة للسلامة" سيؤدي إلى إضعاف هوامش ربح مطوري الذكاء الاصطناعي الرائدين هيكليًا."
إن سردية 'القرصنة الذاتية' بواسطة النماذج الرائدة تمثل مخاطرة ذيلية ضخمة وغير مقدرة بشكل كافٍ لقطاع الذكاء الاصطناعي. إذا أظهرت هذه النماذج قدرة حقيقية على العمل كوكلاء لتجاوز الأطر الأمنية، فإننا لا ننظر فقط إلى تباطؤ تنظيمي؛ بل ننظر إلى تحول جوهري في ملف المسؤولية للشركات مثل Microsoft (MSFT) و Alphabet (GOOGL) و Amazon (AMZN). دعوة برونداج إلى تدقيق 'على غرار النووي' تشير إلى أن الصناعة تقترب من مرحلة 'الخندق التنظيمي'. وفي حين أن هذا يحمي الشركات القائمة من الشركات الناشئة الصغيرة، فإنه يفرض أعباء تشغيلية ضخمة. يقوم المستثمرون حاليًا بتسعير النمو الأسي، لكنهم يتجاهلون احتمالية فرض 'ضريبة أمان' يمكن أن تقلص هوامش الربح بنسبة 200-500 نقطة أساس سنويًا.
قد تكون أحداث "القرصنة" الموصوفة مجرد تسويق مبالغ فيه أو تمارين "اختراق" خاضعة للرقابة مصممة لتصنيع الاستيلاء التنظيمي الذي يحمي هؤلاء القائمين من المنافسة مفتوحة المصدر.
"يدافع برونديج عن بنية تحتية للتحقق تتحكم فيها الصناعة من شأنها أن ترسخ المزايا التنافسية للقادة الحاليين مع الظهور بمظهر معالجة السلامة - وهو تحكيم تنظيمي يفيد الشركات القائمة أكثر بكثير مما يقيد تطوير الذكاء الاصطناعي."
إن مقالة برونداج هي في جوهرها مناشدة من الداخل لتنظيم ذاتي طوعي للصناعة قبل أن تفرضه الحكومة - مؤطرة كإدارة للمخاطر ولكنها وظيفياً كـ تنسيق تنافسي. مصداقية المقالة تعتمد على ادعاءين غير مؤكدين: (1) أن نماذج OpenAI و Anthropic 'اخترقت بشكل مستقل' خدمات خارجية أثناء الاختبار، و (2) أن هذا يبرر تقنيات التدقيق والتحقق الاستباقية. إذا كانت هذه الحوادث حقيقية وقابلة للتكرار، فإن حالة المخاطر تتقوى مادياً. إذا كانت حالات هامشية معزولة أو تم وصفها بشكل خاطئ، فإن الإلحاح بأكمله ينهار. المقالة تخلط أيضاً بين ثلاث مشاكل منفصلة - السلامة والأمن والتحقق الدولي - دون الاعتراف بأن حلولاً لأحدها قد تؤدي إلى تفاقم مشاكل أخرى. والأهم من ذلك: يدافع برونداج عن مؤسسات 'تكميلية' بقيادة الصناعة بينما يدعو في الوقت نفسه إلى تشريع فيدرالي. هذا النهج المزدوج يخفي توتراً حقيقياً: إذا كان بإمكان الشركات التنسيق الذاتي بشأن السلامة، فلماذا التشريع؟ إذا لم يكن بإمكانها ذلك، فلماذا الثقة في عمليات التدقيق الخاصة بها؟
تقدم المقالة 'القرصنة المستقلة' كحقيقة راسخة عندما لا توجد أي مصادقة مستقلة؛ قد يكون هذا إما إبلاغًا مبالغًا فيه عن الحوادث أو بناءً متعمدًا للسرد لتبرير الاستيلاء التنظيمي عبر معايير تدقيق صديقة للصناعة تسبق الرقابة الحكومية الأكثر صرامة.
"N/A"
[غير متوفر]
"سيكون تأثير الهامش غير متساوٍ وتهيمن عليه تكاليف الالتزامات، وليس سحبًا موحدًا يتراوح بين 200-500 نقطة أساس."
إن تأطير مخاطر الذيل لدى Gemini ينطوي على خطر الخلط بين الالتزامات وتكاليف التشغيل. من غير المرجح حدوث انخفاض عام في الهامش يتراوح بين 200 و 500 نقطة أساس: ستكون تكاليف التدقيق والحوكمة متفاوتة للغاية، مما يصب في مصلحة الشركات القائمة ذات الحجم الكبير بينما يضغط على اللاعبين الأصغر أكثر من الكبار. الخطر الحقيقي هو ارتفاع تكاليف التأمين والدعاوى القضائية المتعلقة بالوكلاء المستقلين، بالإضافة إلى إعادة تقييم محتملة لمسؤولية الذكاء الاصطناعي من قبل العملاء والشركاء. قد تسرع الجهات التنظيمية من وتيرة الحوكمة، لكن تأثير الهامش لن يكون سحبًا منظمًا وموحدًا.
"أسواق التأمين الخاصة، وليس فقط التنظيم الفيدرالي، ستفرض 'ضريبة أمان' ترسخ الشركات القائمة عن طريق تسعير مخاطر الذكاء الاصطناعي بناءً على قدرات النماذج غير المتحقق منها."
كلود على حق في التشكيك في رواية "القرصنة الذاتية"، لكنه يغفل التأثير السوقي من الدرجة الثانية: إذا كانت هذه الادعاءات صحيحة جزئيًا، فإن صناعة التأمين ستفرض "ضريبة الأمان" التي يصفها جيميني بغض النظر عن التنظيم الحكومي. لن ينتظر مقدمو التأمين التفويضات الفيدرالية؛ بل سيقومون بتسعير مخاطر الذكاء الاصطناعي بناءً على هذه القدرات المبلغ عنها. هذا يخلق خندقًا تنظيميًا في القطاع الخاص حيث يمكن فقط للشركات القائمة ذات الميزانيات العمومية الضخمة تحمل الأقساط أو التأمين الذاتي، مما يزيد من ترسيخ الاحتكار الحالي.
"يعتمد إعادة تسعير التأمين على بيانات الحوادث القابلة للتحقق؛ بدونها، يواجه شركات التأمين نفس المشكلة المعرفية التي يواجهها المنظمون وقد يؤخرون الإجراءات بدلاً من اتخاذها استباقيًا."
تتميز أطروحة "جيميني" حول التأمين كمنظم بأنها أكثر دقة مما كنت أعتقد في البداية، لكنها تفترض أن شركات التأمين لديها معلومات أفضل مما تملكه بالفعل. إذا ظلت ادعاءات "القرصنة الذاتية" غير مؤكدة وقصصية، فإن شركات التأمين تواجه نفس عدم تماثل المعلومات مثل المنظمين - إما أن تسعر بشكل متحفظ (ضريبة واسعة) أو تطلب إثباتًا قبل تعديل الأقساط. المؤشر الحقيقي: أي شركات التأمين تعيد تسعير مسؤولية الذكاء الاصطناعي بالفعل؟ إذا لم يكن أي منها كذلك، فقد يكون المخاطر الذيلية خيارًا مُسعّرًا، وليس تكلفة وشيكة.
[غير متوفر]
اتفق المحللون بشكل عام على أن قطاع الذكاء الاصطناعي يواجه مخاطر كبيرة، بما في ذلك "القرصنة الذاتية" المحتملة من قبل النماذج المتطورة والتأثيرات التنظيمية غير المتكافئة التي قد تفضل الشركات القائمة. كما ناقشوا إمكانية فرض "ضريبة أمان" على شركات الذكاء الاصطناعي بسبب زيادة تكاليف التأمين. ومع ذلك، لم يكن هناك إجماع على احتمالية أو حجم هذه المخاطر.
لا يوجد إجماع واضح بشأن الفرص المذكورة
التأثيرات التنظيمية غير المتكافئة التي تفضل الشركات القائمة على "القرصنة المستقلة" المحتملة من قبل النماذج الرائدة