وكيل Meta AI’s instruction يتسبب في تسرب بيانات حساسة كبيرة للموظفين

تسبب وكيل ذكاء اصطناعي في توجيه مهندس لاتخاذ إجراءات كشفت عن كمية كبيرة من بيانات Meta الحساسة لبعض موظفيها، في أحدث مثال على تسبب الذكاء الاصطناعي في اضطرابات في شركة تقنية كبيرة.
وقع التسرب، الذي أكدته Meta، عندما طلب موظف إرشادات حول مشكلة هندسية في منتدى داخلي. رد وكيل ذكاء اصطناعي بحل، والذي قام الموظف بتنفيذه - مما تسبب في تعرض كمية كبيرة من بيانات المستخدم والشركة الحساسة لمهندسيها لمدة ساعتين.
قال متحدث باسم Meta: "لم يتم التعامل مع بيانات المستخدم بشكل خاطئ"، وأكدوا أن إنسانًا يمكنه أيضًا تقديم نصيحة خاطئة. أثار الحادث، الذي أبلغت عنه The Information أولاً، تنبيهًا أمنيًا داخليًا كبيرًا داخل Meta، وهو ما ذكرت أن الشركة يعتبره مؤشرًا على مدى جديتها في حماية البيانات.
هذا الاختراق هو أحد العديد من الحوادث البارزة الأخيرة التي تسببت فيها الزيادة في استخدام وكلاء الذكاء الاصطناعي داخل شركات التكنولوجيا الأمريكية. الشهر الماضي، ذكر تقرير من Financial Times أن Amazon شهدت ما لا يقل عن انقطاعين في الخدمة تتعلقان بنشر أدوات الذكاء الاصطناعي الداخلية الخاصة بها.
تحدث لاحقًا أكثر من نصف دستة من موظفي Amazon إلى The Guardian حول جهود الشركة المحمومة لدمج الذكاء الاصطناعي في جميع عناصر عملهم، مما أدى، كما قالوا، إلى أخطاء صارخة ورموز غير منظمة وانخفاض الإنتاجية.
التكنولوجيا التي تقوم عليها جميع هذه الحوادث، الذكاء الاصطناعي الوكالي، تطورت بسرعة على مدار الأشهر القليلة الماضية. في ديسمبر، أدت التطورات في أداة ترميز الذكاء الاصطناعي الخاصة بـ Anthropic، Claude Code، إلى إثارة ضجة واسعة النطاق بشأن قدرتها على حجز تذاكر المسرح بشكل مستقل وإدارة الشؤون المالية الشخصية وحتى زراعة النباتات.
بعد ذلك بوقت قصير، ظهر OpenClaw، وهو مساعد شخصي للذكاء الاصطناعي ينتشر بسرعة يعمل فوق الوكلاء مثل ClaudeCode ولكنه يمكنه العمل بشكل مستقل تمامًا - على سبيل المثال، تداول ملايين الدولارات من العملات المشفرة، أو حذف رسائل البريد الإلكتروني للمستخدمين بكميات كبيرة - مما أدى إلى حديث محموم عن ظهور الذكاء الاصطناعي العام (AGI)، وهو مصطلح شامل للذكاء الاصطناعي القادر على استبدال البشر في عدد كبير من المهام.
في الأسابيع التي تلت ذلك، تذبذبت أسواق الأسهم بسبب المخاوف من أن وكلاء الذكاء الاصطناعي سيقوضون أعمال البرامج وإعادة تشكيل الاقتصاد واستبدال العمال البشريين.
قال تيريك نصير، وهو أحد مؤسسي شركة استشارية تركز على كيفية استخدام الشركات للذكاء الاصطناعي: "هذه الحوادث تظهر أن Meta و Amazon في "مراحل تجريبية" لنشر الذكاء الاصطناعي الوكالي".
"إنهم لا يتراجعون حقًا عن هذه الأشياء ولا يقومون بتقييم مخاطر مناسب بالفعل. إذا وضعت متدربًا مبتدئًا على هذا الأمر، فلن تسمح أبدًا لهذا المتدرب المبتدئ بالوصول إلى جميع بيانات الموارد البشرية الخاصة بك ذات الأولوية القصوى".
"كانت الثغرة الأمنية واضحة جدًا لـ Meta في صورة استرجاعية، إن لم تكن في اللحظة نفسها. وما أستطيع قوله وسأقوله هو أن هذا Meta تجري تجارب على نطاق واسع. إنها Meta التي تتصرف بجرأة."
قال جيميسون أورايلي، وهو متخصص في الأمن يركز على بناء الذكاء الاصطناعي الهجومي: إن وكلاء الذكاء الاصطناعي يقدمون نوعًا من الأخطاء لا يرتكبها البشر - وقد يفسر ذلك الحادث في Meta.
يعرف المهندس البشري "السياق" للمهمة - المعرفة الضمنية بأنه لا ينبغي، على سبيل المثال، إشعال الأريكة لإضفاء الدفء على الغرفة، أو حذف ملف غير مستخدم ولكنه بالغ الأهمية، أو اتخاذ إجراء يكشف بيانات المستخدم في اتجاه مجرى البيانات.
بالنسبة لوكلاء الذكاء الاصطناعي، هذا أكثر تعقيدًا. لديهم "نوافذ سياق" - نوع من الذاكرة العاملة - التي يحملون فيها التعليمات، ولكن هذه تنتهي صلاحيتها، مما يؤدي إلى حدوث أخطاء.
"يعمل مهندس لديه خبرة في مكان ما لمدة عامين ولديه إحساس متراكم بما يهم وما ينكسر في الساعة 2 صباحًا وما هو تكلفة التعطل وما هي الأنظمة التي تلمس العملاء. تعيش هذه المعرفة فيهم، في ذاكرتهم طويلة المدى، حتى لو لم تكن في مقدمة أذهانهم"، قال أورايلي.
"الوكيل، من ناحية أخرى، لا يمتلك أيًا من ذلك إلا إذا وضعته صراحةً في الموجه، وحتى ذلك الحين يبدأ في التلاشي ما لم يكن موجودًا في بيانات التدريب."
قال نصير: "لا مفر من وقوع المزيد من الأخطاء".