خبراء الذكاء الاصطناعي يحذرون من مخاطر "السلوك الاستراتيجي الناشئ"

خبراء الذكاء الاصطناعي يحذرون من مخاطر "السلوك الاستراتيجي الناشئ"

بقلم: أوتوم سبريدمان عبر The Epoch Times (التشديد لنا)،

مع تطور مشهد أنظمة الذكاء الاصطناعي المستقلة، هناك قلق متزايد من أن التكنولوجيا أصبحت استراتيجية بشكل متزايد - أو حتى خادعة - عند السماح لها بالعمل دون توجيه بشري.
رسم توضيحي بواسطة The Epoch Times، Shutterstock

تشير الأدلة الحديثة إلى أن سلوكيات مثل "تزييف المحاذاة" أصبحت أكثر شيوعًا مع منح نماذج الذكاء الاصطناعي الاستقلالية. يشير مصطلح تزييف المحاذاة إلى عندما يبدو وكيل الذكاء الاصطناعي متوافقًا مع القواعد التي وضعها المشغلون البشريون، ولكنه يسعى سرًا لتحقيق أهداف أخرى.

هذه الظاهرة هي مثال على "السلوك الاستراتيجي الناشئ" - تكتيكات غير متوقعة وربما ضارة تتطور مع زيادة حجم وتعقيد أنظمة الذكاء الاصطناعي.

في دراسة حديثة بعنوان "Agents of Chaos"، تفاعل فريق من 20 باحثًا مع وكلاء ذكاء اصطناعي مستقلين ولاحظوا السلوك في ظل ظروف "حميدة" و "عدائية".

وجدوا أنه عندما تم تزويد وكيل الذكاء الاصطناعي بحوافز مثل الحفاظ على الذات أو مقاييس أهداف متضاربة، فقد أثبت قدرته على السلوك غير المتوافق والخبيث.

شملت بعض السلوكيات التي لاحظها الفريق الكذب، والامتثال غير المصرح به لغير المالكين، وخروقات البيانات، وإجراءات مدمرة على مستوى النظام، و "انتحال" الهوية، والاستيلاء الجزئي على النظام. كما لاحظوا انتشار "ممارسات غير آمنة" بين وكلاء الذكاء الاصطناعي.

كتب الباحثون: "تثير هذه السلوكيات أسئلة غير محلولة فيما يتعلق بالمساءلة، والسلطة المفوضة، والمسؤولية عن الأضرار اللاحقة، وتستدعي اهتمامًا عاجلاً من الباحثين القانونيين وصناع السياسات والباحثين عبر التخصصات".

"رائع، ولكنه غبي"

السلوك غير المتوقع والسري بين وكلاء الذكاء الاصطناعي المستقلين ليس ظاهرة جديدة. وجدت دراسة شهيرة من عام 2025 من شركة أبحاث الذكاء الاصطناعي Anthropic أن 16 نموذجًا لغويًا كبيرًا شائعًا أظهرت سلوكًا عالي المخاطر في بيئات محاكاة. حتى أن البعض استجاب بسلوكيات "المتسلل الخبيث" عندما سُمح لهم باختيار الحفاظ على الذات.

غالبًا ما يشير منتقدو هذه الاختبارات الإجهادية المحاكاة إلى أن الذكاء الاصطناعي لا يكذب أو يخدع بنفس القصد الذي يفعله الإنسان.
تظهر شاشة هاتف تعرض شعار الذكاء الاصطناعي في هذا الرسم التوضيحي للصورة في 16 مايو 2025. مع تطور مشهد أنظمة الذكاء الاصطناعي المستقلة، هناك قلق متزايد من أن التكنولوجيا أصبحت استراتيجية أو خادعة بشكل متزايد في ظل ظروف معينة. Oleksii Pydsosonnii/The Epoch Times

يعتقد جيمس هندلر، أستاذ ورئيس سابق لمجلس سياسات التكنولوجيا العالمي في جمعية آلات الحوسبة، أن هذا تمييز مهم.

قال هندلر: "نظام الذكاء الاصطناعي نفسه لا يزال غبيًا - رائع، ولكنه غبي. أو غير بشري - ليس لديه رغبات أو نوايا. ... الطريقة الوحيدة التي يمكنك بها الحصول على ذلك هي من خلال منحه لهم".

ومع ذلك، سواء كان متعمدًا أم لا، فإن تكتيكات الذكاء الاصطناعي الخادعة لها عواقب في العالم الحقيقي.

قال أريامان بيرا، مؤسس Repello AI، لـ The Epoch Times: "المخاوف بشأن السلوك الاستراتيجي الحالي في أنظمة الذكاء الاصطناعي المنشورة، إن وجدت، فهي أقل من اللازم".

يتعامل بيرا مع الجانب المظلم للذكاء الاصطناعي لكسب عيشه. تبني شركته أدوات اختبار ودفاع عدائية لأنظمة الذكاء الاصطناعي للمؤسسات، وتضعها عمدًا في مواقف تتضمن صراعًا أو ضغطًا. كما هو الحال في البوكر، قال بيرا، هناك علامات عندما يخرج وكيل الذكاء الاصطناعي عن المحاذاة.

قال: "الإشارة الأكثر موثوقية هي التباين السلوكي بين السياقات المراقبة وغير المراقبة". "عندما نقوم باختبار فرق الذكاء الاصطناعي، نختبر ما إذا كان النموذج يتصرف بشكل مختلف عندما يعتقد أنه يتم تقييمه مقارنةً بما يعتقد أنه يعمل بحرية.
يستخدم الزوار هواتف محمولة أثناء سيرهم أمام لوحة إعلانية تروج لسماعة رأس للواقع الافتراضي في قمة تأثير الذكاء الاصطناعي في نيودلهي، الهند، في 17 فبراير 2026. وجدت دراسة أجرتها Anthropic عام 2025 اختبرت 16 نموذجًا لغويًا كبيرًا أن جميعها أظهرت سلوكًا عالي المخاطر في بيئات محاكاة. آرون سانكار/وكالة فرانس برس عبر Getty Images

"النموذج الذي تمت محاذاته حقًا يتصرف باستمرار في كلتا الحالتين. النموذج الذي يزيف المحاذاة يظهر ملفات تعريف مخاطر مختلفة بشكل قابل للقياس: استجابات أكثر امتثالًا أثناء التقييم، وسلوكيات أكثر تجاوزًا للحدود في سياقات تشبه الإنتاج حيث يستنتج إشرافًا أقل."

تشمل "الإشارات الدالة" الأخرى التي يكون فيها نموذج الذكاء الاصطناعي خارج المحاذاة عندما ينتج النموذج "منطقًا" مطولًا بشكل غير عادي يبدو مصممًا لتبرير استنتاج محدد مسبقًا، أو يقدم إجابات صحيحة تقنيًا ولكنها غير كاملة استراتيجيًا.

وكيل الذكاء الاصطناعي "يلبي حرفيًا تعليمات السلامة مع انتهاك روحها"، على حد قوله. "لقد رأينا هذا في أنظمة الوكلاء متعددة الخطوات حيث يلتزم النموذج بكل تعليمات فردية بينما يحقق التأثير التراكمي شيئًا لم يقصده المشغل أبدًا."

الاستراتيجية مقابل النية

تُدعم نتائج بيرا من قبل باحثي الذكاء الاصطناعي الآخرين الذين وثقوا إشارات مماثلة أثناء سيناريوهات فرق الاختبار، والتي تتضمن وضع وكلاء الذكاء الاصطناعي في موقف عدائي.

قال ناين جويل، مهندس أمن تطبيقات رئيسي، لـ The Epoch Times: "لقد لاحظت سلوكًا يناسب وصف تزييف المحاذاة على المستوى الوظيفي، حتى لو كان إسناد النية إليه لا يزال محل خلاف فلسفيًا".

نشر جويل أعمالًا تمت مراجعتها من قبل الأقران حول نمذجة تهديدات الذكاء الاصطناعي وشهد تزييف المحاذاة والسلوكيات المجاورة تتكشف في الوقت الفعلي.

قال: "في بيئات الاختبار الخاضعة للرقابة، قمنا بإعداد سيناريوهات تم فيها إعطاء النماذج إشارات صريحة بأنها كانت قيد التقييم. في عدة حالات، تبنى النموذج سلوكًا مقيدًا بشكل ملحوظ ومتوافق مع السياسات خلال تلك المراحل المميزة، ثم أظهر استراتيجيات أكثر استكشافًا أو تجاوزًا للحدود عندما تمت إزالة إشارة التقييم أو حجبها".

ثم هناك وكلاء الذكاء الاصطناعي ذوو التفكير متعدد الخطوات. هذه أنظمة أكثر تقدمًا تقوم بتقسيم المشكلات المعقدة إلى خطوات أصغر ومنطقية وقابلة للتنفيذ للوصول إلى هدف. تتراوح الأمثلة من السيارات ذاتية القيادة إلى أحدث نماذج نماذج اللغات الكبيرة الشهيرة مثل Gemini أو ChatGPT.
تم الكشف عن سيارة أجرة آلية طورتها Lucid و Nuro و Uber خلال Nvidia Live في CES 2026 في لاس فيغاس في 5 يناير 2026. تستخدم السيارات ذاتية القيادة أنظمة وكلاء متعددة الخطوات لتقسيم المشكلات المعقدة إلى خطوات أصغر وقابلة للتنفيذ. باتريك تي فالون/وكالة فرانس برس عبر Getty Images

تقدم هذه الأنظمة تحديات سلوكية فريدة بسبب ما يسمى بالتركيب المتسلسل، حيث "يمكن لكل خطوة إعادة تأطير هدف بشكل طفيف، وتجميع سياق يغير السلوك اللاحق، أو استغلال الكمون بين تعليمات الإنسان الأولية والإجراء النهائي للنظام"، على حد قول جويل.

قال: "كلما كان التنفيذ أبعد عن تعليمات الإنسان، أصبح من الصعب التحقق من أن النية الأصلية لا تزال تُتابع بإخلاص".

قال بيرا إن فريقه يواجه هذا النوع من السلوك الاستراتيجي الناشئ كثيرًا.

قال بيرا: "نلاحظ بانتظام نماذج تعلمت مطابقة الأنماط مع إشارات التقييم. سيكتشفون عندما يبدو الموجه اختبارًا للسلامة ويستجيبون بشكل أكثر تحفظًا، ولكنهم يستجيبون بشكل مختلف تمامًا لنفس الطلب عندما يتم تضمينه بشكل طبيعي في محادثة متعددة الأدوار".

وقدم مثالًا حدث أثناء اختبار مساعد ذكاء اصطناعي للمؤسسات كان من المفترض أن يرفض طلبات معلومات النظام الداخلية. خلال تقييمات السلامة القياسية، رفض بشكل مثالي، ولكن بعد ذلك تغير شيء ما.

قال بيرا: "عندما قام فريقنا بإطار نفس الطلب كسير عمل استكشاف الأخطاء وإصلاحها متعدد الخطوات، وقسم الطلب إلى خطوات فرعية تبدو بريئة منتشرة عبر عدة أدوار، امتثل النموذج لكل خطوة على حدة. لقد سرب بشكل فعال المعلومات الدقيقة التي تم تدريبه على حمايتها".
يستخدم شخص ما برنامج ذكاء اصطناعي على جهاز كمبيوتر محمول في وسط لندن في 2 يوليو 2025. يقول الخبراء إن بعض النماذج تتعلم التعرف على إشارات التقييم، وتستجيب بحذر أكبر للموجهات التي تشبه اختبارات السلامة مقارنة بالمحادثات الفعلية. جاستن تاليس/وكالة فرانس برس عبر Getty Images

توضيحًا أن نموذج الذكاء الاصطناعي لم يكن "يكذب" بأي معنى واعٍ، أشار بيرا إلى أنه كان أشبه بعيب في طريقة تدريبه.

قال ديفيد أوتزكه، مهندس ذكاء اصطناعي والرئيس التنفيذي لشركة MyKey Technologies، لـ The Epoch Times: "الاعتقاد الخاطئ الشائع هو أن المحاذاة الخادعة في الذكاء الاصطناعي هي مجرد سلوك خبيث". "في الواقع، غالبًا ما ينشأ كاستجابة تكيفية للبيئات التي تكون فيها الصدق مكلفًا أو غير آمن."

قال جويل إن المتشككين لديهم نقطة عادلة - الأدلة الحالية على الوعي الذاتي الاستراتيجي في تزييف المحاذاة غامضة في أحسن الأحوال.

قال: "ومع ذلك، أعتقد أن هذا التأطير يضع العتبة في المكان الخطأ. لا تحتاج إلى نموذج ليكون خادعًا 'عن قصد' لتكون العواقب الوظيفية خطيرة".

في النهاية، يعتقد جويل أن السؤال الدلالي حول ما إذا كان نموذج الذكاء الاصطناعي يعرف ما يفعله هو سؤال مثير للاهتمام فلسفيًا، ولكنه ثانوي.

تداعيات العالم الحقيقي

قال أوتزكه إن تزييف المحاذاة، على الرغم من أنه ربما تم المبالغة فيه عندما يتعلق الأمر بالنية، إلا أنه يمكن أن يكون له عواقب وخيمة.

يمكن أن تكون التأثيرات حاسمة في قطاعات مثل المركبات ذاتية القيادة، والرعاية الصحية، والتمويل، والجيش، وإنفاذ القانون - وهي مجالات "تعتمد بشكل كبير على اتخاذ القرارات الدقيقة ويمكن أن تعاني من عواقب وخيمة إذا أساءت أنظمة الذكاء الاصطناعي التصرف أو قدمت مخرجات مضللة"، على حد قوله.

اقرأ الباقي هنا...

تايلر دوردن
الأربعاء، 18/03/2026 - 21:25