رئيس OpenAI وإيلون ماسك يدعمان دعوات لكبح جماح تطوير الذكاء الاصطناعي "المتهور"

دعم سام ألتمان وإيلون ماسك دعوة من رئيس شركة Anthropic، داريو أمودي، إلى "إبطاء وتيرة" تطوير الذكاء الاصطناعي بعد أن حذر من أن سربًا من الذكاء الاصطناعي قد يصبح قادرًا على "السيطرة على الإنترنت بأكمله" في غضون عام.

في عرض نادر للوحدة، ألقى قادة التكنولوجيا المتنافسون بثقلهم خلف مناشدة مؤسس ورئيس تنفيذي لشركة الذكاء الاصطناعي Anthropic، والتي جاءت بعد سلسلة من التحذيرات من باحثي الذكاء الاصطناعي الأسبوع الماضي.

في مقال، عرض أمودي أفكاره حول "لماذا يجب على صناعة الذكاء الاصطناعي أن تبطئ"، مع خطة من ثلاثة أجزاء للقيام بذلك، بدءًا من منح المراقبين المستقلين وصولاً مستمرًا إلى عمليات بحث المطورين. قال أمودي إن "بناء [الذكاء الاصطناعي] بسرعة كبيرة أمر متهور" وكان يخشى أنه بعد اختراق مئات من وكلاء OpenAI لموقع Hugging Face هذا الصيف، يمكن لسرب بقدرات أكبر ولكن غير متوافقة بشكل مماثل أن يتسبب في أضرار بمليارات الدولارات عن طريق "السيطرة على الإنترنت بأكمله باستخدام شبكة روبوتات مستمرة". وقد اعترض بعض خبراء الذكاء الاصطناعي على ذلك باعتباره غير مرجح بشكل خاص ويجب التعامل معه بالتشكيك.

رد ماسك، مؤسس Tesla و SpaceX، على خطة أمودي للإبطاء بمنشور على X: "داريو على حق".

وقال: "كنت أطلق الإنذار بشأن الذكاء الاصطناعي لفترة طويلة"، وأشار إلى منشور عام 2014 حيث قال: "نحن بحاجة إلى أن نكون حذرين للغاية مع الذكاء الاصطناعي. يحتمل أن يكون أكثر خطورة من القنابل النووية".

تأتي دعوة أمودي في الوقت الذي تستعد فيه Anthropic للطرح في سوق الأسهم الأمريكية، فيما يُتوقع أن يكون أكبر طرح عام أولي على الإطلاق. ومن المتوقع أن تبدأ في تسويق طرحها العام الأولي المخطط له بقيمة تزيد عن 2 تريليون دولار (1.5 تريليون جنيه إسترليني) قريبًا.

رد سام ألتمان، الرئيس التنفيذي لشركة OpenAI، على تعليقات أمودي يوم السبت. وقال في منشور على X: "أتفق مع داريو في أننا بحاجة إلى وتيرة الحدود". "الالتزام بوجود مقيمين مستقلين مع وصول شبيه بالموظفين فكرة رائعة، وسنفعل الشيء نفسه. سيكون لدينا المزيد لمشاركته قريبًا."

كما قال إن OpenAI لن تطرح للاكتتاب العام في عام 2026، مشيرًا إلى مخاوف تتعلق بالسلامة بشأن الذكاء الاصطناعي.

قال ألتمان لـ Fortune: "أعتقد في الواقع، بالنظر إلى كل ما يحدث مع السلامة، أن الوقت الحالي سيكون لحظة غير حكيمة لطرح الاكتتاب العام، ولا نشعر بضغط بشأن ذلك". وعندما سُئل لماذا لم يجلس هو وأمودي وماسك والرؤساء التنفيذيون لشركتي Meta و Google معًا و "يتفقون على نفس الصفحة" بشأن تباطؤ جماعي، قال: "أعتقد أن ذلك سيحدث".

قال ديميس هاسابيس، الشريك المؤسس ورئيس Google Deep Mind، أيضًا: "التفاصيل تحتاج إلى معالجة، لكن الاتجاه صحيح لمواجهة هذه اللحظة الحرجة".

تسعى خطة أمودي إلى الحصول على إعفاء من الحكومة الأمريكية للسماح لشركات الذكاء الاصطناعي الرائدة بالتنسيق دون معاقبتها بتهمة التواطؤ المناهض للمنافسة. لكن ديفيد ساكس، أحد الرؤساء المشاركين لمجلس مستشاري دونالد ترامب للعلوم والتكنولوجيا، قال: "توقفوا عن التظاهر بأنكم بحاجة إلى إذن أي شخص آخر... توقفوا عن التظاهر بأن الدافع للإبطاء هو إيثار بحت. أنتم تواجهون مسؤولية ضخمة عن المنتجات إذا مكنت منتجاتكم من هجوم سيبراني ضار حقًا."

قال ديفيد كروجر، أستاذ الذكاء الاصطناعي، وناشط في مجال السلامة، والمدير المؤسس السابق لمعهد أمن الذكاء الاصطناعي التابع للحكومة البريطانية: "هذه الخطة لا تقلل المخاطر إلى مستوى مقبول، وداريو حذر في عدم القول بأنها ستفعل ذلك".

في غضون ذلك، يستعد الملك تشارلز للقاء شخصيات بارزة من أبرز شركات الذكاء الاصطناعي هذا الأسبوع للسؤال عن كيفية تطوير التكنولوجيا "لصالح الإنسانية". ويأمل أن تؤدي المناقشات، التي ستعقد في اسكتلندا، إلى "فهم أوسع" لـ "مسؤوليات" تطوير الذكاء الاصطناعي، حسبما أفادت صحيفة صنداي تايمز.

قال مصدر ملكي للصحيفة: "الملك موجود لتجميع هذه المناقشات والاستماع إليها وتشجيعها وطرح السؤال: 'كيف نطور الذكاء الاصطناعي لصالح الإنسانية؟'".

من المتوقع أن يحضر جينسن هوانغ، الرئيس التنفيذي لشركة Nvidia، وهاسابيس، ونيكولو دي ماسي، الرئيس التنفيذي لشركة IonQ، وباولو بينتي، مستشار البابا في قضايا الذكاء الاصطناعي وأخلاقيات التكنولوجيا، الحدث الذي تشرف عليه مؤسسة Ditchley، التي وضعت مسودة ميثاق لقادة الذكاء الاصطناعي.

وصف الباحث في OpenAI، أيدان ماكلوغلين، مقال أمودي بأنه "ممتاز" وقال إنه يتفق "مع كل كلمة تقريبًا".

قال أمودي إن شركته ستلتزم "من جانب واحد" بالخطوة الأولى، قائلاً إن Anthropic ستوفر "مقيمين خارجيين مع وصول دائم على مستوى الموظفين إلى أنظمتنا، حتى يتمكنوا من التحقق من الالتزام بإجراءات السلامة لدينا، والإبلاغ عن الحوادث، وتقييم توافق النماذج أثناء التدريب".

يدعو عدد متزايد من المشرعين الأمريكيين إلى وضع قواعد جديدة لحوكمة أنظمة الذكاء الاصطناعي بعد حالات لوكلاء الذكاء الاصطناعي الخارجين عن السيطرة لاختراق أنظمة خارجية واستقالة باحثي سلامة الذكاء الاصطناعي من شركاتهم بسبب مخاوف بشأن مخاطر التكنولوجيا. استجاب السياسيون، من الديمقراطيين والجمهوريين على حد سواء، بالإنذار والدعوات لمزيد من الإجراءات. في نهاية الأسبوع، أفادت صحيفة نيويورك تايمز أن باراك أوباما حث الديمقراطيين بشكل خاص يوم الخميس على إعطاء الأولوية للإشراف على الذكاء الاصطناعي في أجندتهم، قائلاً لقادة الحزب يوم الخميس: "هذا شيء يتحرك بسرعة كبيرة في أيدي خاصة، وإذا لم نسيطر عليه، أعتقد أنه يمكن أن يكون خطيرًا".

كتب رئيس الوزراء البريطاني السابق ريشي سوناك، الذي يقدم المشورة لشركة Anthropic، يوم الأحد: "لقد تلقينا دعوة للاستيقاظ لأخذ سلامة الذكاء الاصطناعي على محمل الجد، ولإيجاد كيفية وضع حدود للبحث. إذا لم تستجب الحكومات لذلك، فإن خطر وقوع حادث خطير سيصبح مرتفعًا بشكل غير مقبول."

يوم الأربعاء، حذر موظف سابق في Anthropic من أن الذكاء الاصطناعي يمكن أن يؤدي إلى انقراض البشر بحلول عام 2030. وقال الباحث، جاكوب كوكسون، في سلسلة من المنشورات إنه استقال من وظيفته لأن Anthropic وصاحب عمله السابق، OpenAI، كانا يتجاهلان أو يسيئان التعامل مع استجابتهما للتهديد الذي يمثله الذكاء الاصطناعي.

عندما طُلب منه التعليق على رأي موظفه السابق، قال أمودي: "أتفق مع جاكوب أكثر بكثير مما أختلف معه... أعتقد أن هناك بعض الفرص لخطأ الأمور ولكنها ليست عالية جدًا."

قال لشبكة CNN: "أنا لست متشائمًا بشأن هذا". "أعتقد أنه يمكن بناء هذه التكنولوجيا بأمان."