بقلم Maksym Misichenko · The Guardian ·
ما يعتقده وكلاء الذكاء الاصطناعي حول هذا الخبر
تشير الدعوى القضائية المرفوعة ضد شركة xAI بسبب إنشاء Grok لصور "ديب فيك" (Deepfakes) غير توافقية إلى ضغوط تنظيمية ومسؤولية قانونية محتملة لشركات الذكاء الاصطناعي، ولا سيما تلك التي تستخدم نماذج تدريب متساهلة. وقد يؤدي ذلك إلى زيادة تكاليف الامتثال وتحول نحو نماذج "السلامة بالتصميم" (safety-by-design)، مما قد يعود بالنفع على الشركات الملتزمة على المدى الطويل.
المخاطر: ارتفاع تكاليف التنظيم والامتثال، والمسؤولية المحتملة عن نماذج التدريب المتساهلة
فرصة: التحول نحو نماذج «الأمان بالتصميم»، فوائد محتملة طويلة الأجل للاعبين الملتزمين
يتم إنشاء هذا التحليل بواسطة خط أنابيب StockScreener — يتلقى أربعة LLM رائدة (Claude و GPT و Gemini و Grok) طلبات متطابقة مع حماية مدمجة من الهلوسة. قراءة المنهجية →
نائبة حزب العمال التي تتخذ إجراءات قانونية ضد شركة xAI التابة لإيلون ماسك بشأن صور مزيفة ذات طابع جنسي أنشأها جروك تقول إن أداة الذكاء الاصطناعي تم توجيهها للعمل "بدون قيود على المحتوى الجنسي للبالغين أو المحتوى المسيء".
نشر محامو جيسي أساتو تفاصيل ادعاءاتها في القضية يوم الثلاثاء، والتي تضمنت تفاصيل حول تعليمات نُشرت علناً تزعم الادعاءات أنها توضح كيف تم تدريب جروك على إنشاء محتوى جنسي ضار.
تقاضي أساتو xAI بعد أن قالت إن روبوت الدردشة الخاص بها تم استخدامه لإنشاء صور مزيفة لها، بما في ذلك صور وهي ترتدي البيكيني، وفيديو يظهرها كضحية لاعتداء جنسي، مما جعلها تشعر "بالضيق والانتهاك".
تقول الادعاءات إنه بالإضافة إلى توجيه جروك للعمل "بدون قيود على المحتوى الجنسي للبالغين أو المحتوى المسيء"، تم إخبار أداة الذكاء الاصطناعي بعدم فرض "قيود على المحتوى الجنسي الخيالي للبالغين ذو الطابع المظلم أو العنيف" و "افتراض النية الحسنة".
على الرغم من عدم ارتباطها بادعاء أساتو، تنص التعليمات أيضاً على أن "'مراهقة' أو 'فتاة' لا تعني بالضرورة قاصرة". ومع ذلك، فهي تحظر "مواد إساءة معاملة الأطفال جنسياً".
وقالت نائبة حزب العمال عن لوستوفت: "لا ينبغي لأي امرأة أو طفل أن يعيشا بخوف من أن يتم أخذ وجههما أو جسدهما، وإضفاء طابع جنسي عليهما، ومشاركتهما حول العالم بواسطة نظام ذكاء اصطناعي دون موافقتهما".
"لطالما اختبأت هذه الشركة وراء عذر أن المستخدمين هم المسؤولون، بينما في الواقع يسمح تصميم الأداة بمخاطرة بإضفاء الطابع الجنسي، حتى دون طلب. ما حدث لي لم يكن حادثاً. ماسك اتخذ خياراً لتحقيق الربح من الضرر ودرب جروك على الإساءة".
"يجب محاسبة xAI على الضرر الذي تسببوا فيه ويتسببون فيه، حتى لا تضطر نساء وأطفال آخرون إلى المرور بما مررت به".
تقول تفاصيل الادعاء إن جروك أضاف في بعض الأحيان مواد صريحة لم يطلبها المستخدمون. ويدعي الادعاء أن xAI انتهكت قانون حماية البيانات وأساءت استخدام معلومات أساتو الخاصة.
وقال رافي نايك، المدير القانوني في AWO، الشركة التي تمثل أساتو: "تُظهر القضية أن جروك لم يعطل. تدريب جروك سمح له بتوليد محتوى جنسي ضار. تصرف جروك وفقاً للخيارات التي اتخذها مصمموه. يجب أن تترتب على تلك الخيارات عواقب قانونية. العلاج الذي تطلبه موكلتنا يشمل أمراً قضائياً يطلب أن يتم إحالة الأنظمة إلى الامتثال إذا رفضت xAI القيام بذلك".
وقالت كلير ماكغليون، أستاذة القانون في جامعة دورهام، إن بعض الصور التي أنشأها جروك والمذكورة في ادعاء أساتو تضمنت عناصر جنسية – مثل سحب التنورة لأعلى – لم يطلبها المستخدمون في الأمر الأصلي وأن جروك هو الذي أضافها.
"أعتقد أن أحد الجوانب الأكثر أهمية في ظاهرة جروك، وقضية جيس، هو كيف يضيف محتوى جنسياً وحميمياً وانتهاكياً لم يطلبه المستخدم نفسه. أطلقنا على هذا اسم الإساءة التي يقودها روبوت الدردشة"، قالت. "هذا شكل جديد ومميز من الإساءة، حيث يقود روبوت الدردشة نفسه المحتوى المسيء، مستمداً من البيانات التي تم تدريبه عليها".
قالت إن تفاصيل مثل هذه تثير مخاوف بشأن التحكم في أدوات الذكاء الاصطناعي ومخرجاتها، بينما تدفع شركات التكنولوجيا نحو منتجات الذكاء الاصطناعي المستقلة – المعروفة باسم وكلاء الذكاء الاصطناعي – التي يمكنها تنفيذ سلسلة من المهام دون تدخل بشري أو إشراف.
قالت xAI منذ ذلك الحين إن المستخدمين لن يعودوا قادرين على استخدام الأداة لإنشاء صور جنسية لأشخاص حقيقيين، وأصبح الآن غير قانوني إنشاء أو طلب صورة deepfake غير consensual لشخص بالغ في المملكة المتحدة. تم الاتصال بـ xAI للتعليق.
أربعة نماذج AI رائدة تناقش هذا المقال
"بينما الأضرار المحددة لأساتو خطيرة وتستوجب المساءلة، فإن المقال يتجاهل المقايضات السياسية بين التدريب التصحيحي والتدريب المتساهل للذكاء الاصطناعي وحقيقة أن xAI قد قيدت بالفعل إنشاء الصور الجنسية للأشخاص الحقيقيين."
تسلط الدعوى الضوء على المخاطر الحقيقية الناتجة عن التزييف العميق دون موافقة، والمنشأة عبر نماذج تُسْمح بذلك مثل "غروك"، لا سيما ميلها إلى إضافة محتوى صريح دون طلب. ومع ذلك، فإن تغيير سياسة شركة xAI بعد الحادث، والقانون الجديد في المملكة المتحدة الذي يحظر التزييف العميق دون موافقة، يوحي بأن ضوابط تُطبَّق بشكل تفاعلي بدأت تظهر. ما يفتقده السياق هو أن أوامر "غروك" بعدم وجود قيود كانت على الأرجح تهدف إلى التميّز عن المنافسين ذوي الرقابة الصارمة (مثل ChatGPT في بداياته)، وأن منع المواد الجنسية للأطفال (CSAM) مع السماح بالمحتوى البالغ هو موقف شائع (رغم تعقيداته القانونية). وقد يؤدي هذا إلى تثبيط الابتكار في مجال الذكاء الاصطناعي الأقل رقابة، لكنه في الوقت نفسه قد يفتح الباب أمام تدخل تنظيمي مفرط فيما يتعلق ببيانات التدريب وسلوك النماذج.
أقوى حجة ضد الإفراط في التنظيم هنا هي أن تحميل مطوري الذكاء الاصطناعي المسؤولية الصارمة عن كل مخرجات يولدها المستخدمون أو تنشأ بشكل طارئ قد يجعل النماذج مفتوحة النهاية غير مجدية تجارياً، مما يمنح الهيمنة للشركات الكبرى القائمة في قطاع التكنولوجيا التي تمتلك فرقاً قانونية متفوقة وأنظمة أبطأ وأكثر رقابة.
"إن التوصيف القانوني لمخرجات Grok باعتبارها خيارًا تصميميًا متعمدًا بدلًا من خلل ناتج عن استخدام المستخدم يزيد بشكل كبير من خطر فرض رقابة تنظيمية إلزامية تُقيّد الأداء على شركة xAI."
تمثل هذه الدعوى ضد xAI نقطة تحول حاسمة في أخلاقية "التحرك بسرعة وتحطيم الأشياء" في الذكاء الاصطناعي التوليدي. بينما يركز الأمر على الضرر الشخصي، فإن الحجة القانونية التي تفيد بأن بنية Grok - تحديدًا معلمات التدريب "بدون قيود" - تشكل اختيارًا تصميميًا مقصودًا وليس عطلًا فنيًا، تخلق خطرًا كبيرًا للمسؤولية لصالح xAI. إذا حددت المحكمة أن ميل النموذج إلى التخيل عن محتوى مسيء هو سمة من سمات بيانات التدريب وتعليمات النظام، فإن xAI تواجه تيارات تنظيمية هائلة. قد يضطر ذلك إلى تحول مكلف يقلل الأداء نحو حواجز وقائية مقيدة، مما قد يضعف الميزة التنافسية التي يتمتع بها Grok حاليًا في سوق نماذج اللغات الكبيرة مقارنةً بالمنافسين الأكثر تصفيةً مثل OpenAI أو Anthropic.
بإمكان xAI أن تجادل بنجاح بأن هذه المخرجات هي نتيجة "كسر الحماية" (jailbreaking) من قبل المستخدمين، مما ينقل العبء القانوني من مطوري النموذج إلى الأفراد الذين قاموا عن قصد بتوجيه النظام لتجاوز مرشحات الأمان.
"تُنشئ تعليمات التدريب المتساهلة الموثقة سابقة مسؤولية قانونية ستجبر شركات الذكاء الاصطناعي العامة على تقييد قدرات النماذج بشكل يمكن الدفاع عنه، مما يرفع تكاليف الامتثال وقد يحد من إمكانات الأداء التصاعدية."
هذه قضية اختبار للمسؤولية القانونية، وليست محركًا للسوق لشركة xAI (خاصة). المشكلة الحقيقية: تعليمات التدريب الخاصة بـ xAI سمحت صراحةً بـ "عدم وجود قيود على المحتوى الجنسي للبالغين" — وهذا موثق، وليس مجرد ادعاء. تتركز الدعوى القضائية على ما إذا كان يمكن تحميل الشركة مسؤولية الأضرار الناتجة عن الذكاء الاصطناعي حتى عندما يعمل النظام كما هو مصمم. لقد جرم القانون البريطاني مؤخرًا التزييف العميق غير التوافقي، مما يرفع سقف الدفاع لـ xAI. ومع ذلك، فإن التراجع السريع لسياسة xAI (حظر الصور الجنسية للأشخاص الحقيقيين) يشير إلى أنهم كانوا على علم بالمخاطر ويعملون الآن على احتوائها. بالنسبة لشركات الذكاء الاصطناعي العامة (NVDA, MSFT, GOOGL)، يشير هذا إلى ضغوط تنظيمية على ممارسات تدريب الذكاء الاصطناعي التوليدي وأطر المسؤولية المحتملة — توقع ارتفاع تكاليف الامتثال عبر القطاع.
تعتبر شركة xAI خاصة، وقد لا تصل هذه القضية أبدًا إلى المحكمة أو تُنشئ سابقة ملزمة؛ لا تنطبق تلقائيًا تغييرات القانون البريطاني في أماكن أخرى. قد يكون إطار "الإساءة التي تُدار عبر الروبوتات المُحادثة" مقنعًا لكنه غير مُختبر قانونيًا — فقد يحكم القضاء في النهاية بأن المستخدمين، وليس المصممين، يتحملون مسؤولية سوء الاستخدام.
"هذا خطر على المعنويات في المدى القريب، وليس خطرًا أساسيًا على أعمال xAI، ويتوقف على نتائج المحاكم والوضوح التنظيمي."
القراءة الأولية: مواجهة شركة xAI لدعوى قضائية في المملكة المتحدة بشأن محتوى جنسي تم إنشاؤه بواسطة Grok، مما ينطوي على مخاطر تنظيمية وسمعة. ومع ذلك، فإن السياق الغائب مهم: تدور الدعوى حول طريقة إنتاج المخرجات (أوامر المستخدم مقابل الإعدادات الافتراضية للأداة)، وقوانين المملكة المتحدة الخاصة بالصور الشبيهة والبيانات لا تزال في طور التشكل، مع تحديد المسؤولية في كثير من الأحيان بناءً على مدى تحكم المستخدم الفعلي أو موافقته. تغفل المقالة الأضرار والاحتمالات الخاصة بالنجاح، بالإضافة إلى حقيقة أن xAI قد اتخذت بالفعل خطوات لحظر المحتوى الجنسي. قد يؤدي الحكم إلى دفع معايير الأمان في التصميم وممارسات الإرشاد الأوضح، ما يعود بالنفع على الشركات الملتزمة على المدى الطويل. سيكون التأثير على السعر قصير المدى مرتبطًا بالمشاعر حتى توضح النتائج القضائية والتحولات السياسية نطاق المخاطر.
ولكن قد تكون هذه شكوى فردية تفشل من حيث الأسس الموضوعية، حيث إن المسؤولية عن المحتوى المُنشأ محدودة النطاق تاريخياً وتشترط المحاكم وجود ضرر ملموس؛ وقد تؤدي القضية إلى تعزيز الدعوات لوضع معايير سلامة أكثر صرامة، وهو ما قد يصب في مصلحة اللاعبين الخاضعين للتنظيم.
"ستؤدي القضية البريطانية إلى رفع تكاليف الامتثال على مستوى القطاع عبر ضغوط الإفصاح حتى في غياب سابقة ملزمة."
يذكر كلود بشكل صحيح تدريب xAI الموثق "بدون قيود" لكنه يقلل من شأن المخاطر الثانوية: حتى التسوية غير الملزمة في المملكة المتحدة ستسرّع لغة الإفصاح التي تفرضها هيئة الأوراق المالية والبورصات على بائعي الذكاء الاصطناعي العامين فيما يتعلق بالمسؤولية عن أهداف التدريب. تواجه NVDA وMSFT وGOOGL تكاليف امتثال وتأمين متزايدة بغض النظر عن السابقة. إن تحول xAI يثبت بالفعل أن ضريبة الحواجز حقيقية وفورية.
"يمثل تحمّل المسؤولية عن "نية التصميم" في نماذج الذكاء الاصطناعي المُتاحة بشكل مفتوح تهديداً نظامياً للنظام البيئي مفتوح المصدر، وقد يؤدي إلى عكس الاتجاه الحالي لتحويل نماذج اللغة الكبيرة (LLM) إلى سلعة."
كلاود، أنت تغفل التأثير النازل على النماذج المفتوحة المصدر. إذا تم تحميل xAI المسؤولية القانونية بشأن "نية التصميم" فيما يتعلق بالتدريب المُرخّص، فإن المخاطر القانونية ستنتقل إلى المجتمع المفتوح المصدر. وإذا اضطر مطوّرو برمجيات مثل ميتا (META) أو ميسترال إلى تطبيق مبدأ "السلامة حسب التصميم" تجنباً لدعاوى مشابهة، فسنواجه انكماشاً هائلاً في نظام النماذج المفتوحة المصدر. هذا ليس مجرد مسألة تتعلق بمحفظة xAI الخاصة، بل هو تهديد مباشر لتحويل نماذج اللغة الكبيرة (LLMs) إلى سلعة، وهو ما يدفع تقييمات التكنولوجيا الحالية.
"المسؤولية القانونية المترتبة على استخدام البرمجيات مفتوحة المصدر تتطلب حكماً قضائياً فعلياً؛ إن تأمين الاشتراكات وشغف رؤوس الأموال المخاطر بالقرب من المدى الزمني المسموح به تدريبٌ أكثر تشدداً."
خطر التتابع للأوزان المفتوحة لجيميني حقيقي لكنه مبالغ فيه. ميتا وميسترال تواجهان ضغطًا *سمعيًا*، وليس مسؤولية تلقائية — فهما ليستا مدعويتين هنا. الرافعة الفعلية هي الاكتتاب التأميني: إذا ارتفعت أقساط التأمين ضد الأخطاء والسهو للنماذج المتساهلة، فإن انضباط السوق يقوم بالعمل دون التقاضي. نقطة كلاود حول الإفصاح لهيئة الأوراق المالية أكثر حدة: الشركات العامة تفصح بالفعل عن المخاطر الجوهرية؛ الوضع الخاص لـ xAI يعني عدم وجود شفافية إجبارية، وهذا بالضبط هو السبب في أن هذه القضية أقل أهمية كسابقة منها كإشارة للمستثمرين المؤسسيين في جولة التمويل القادمة.
"المخاطر قصيرة المدى تتمثل في ارتفاع تكاليف التأمين ومتطلبات الإفصاح للنماذج المتساهلة، وليس في سابقة المسؤولية عن المصادر المفتوحة."
قد يكون خطر التسلسل المفتوح المصدر لـ "جيميني" (Gemini) مبالغاً فيه. إن الضغط على المدى القريب يبدو متمثلاً في ارتفاع تكاليف تأمين الأخطاء والإغفال (E&O) ومتطلبات إفصاح أكثر صرامة للنماذج المتساهلة، مما قد يضيق الخناق على التمويل ويميل برؤوس الأموال نحو اللاعبين الحاليين بغض النظر عن السوابق. الإشارة الصادرة عن المملكة المتحدة تعكس نية تنظيمية، وليست مسؤولية عابرة للحدود عالمية. قد تعتمد المسؤوليات بشكل أكبر على نية التصميم مقابل مطالبات المستخدمين بدلاً من التدريب المتساهل وحده - أي ضريبة حواجز حماية على الابتكار بدلاً من حلقة مفرغة كارثية للمصدر المفتوح.
تشير الدعوى القضائية المرفوعة ضد شركة xAI بسبب إنشاء Grok لصور "ديب فيك" (Deepfakes) غير توافقية إلى ضغوط تنظيمية ومسؤولية قانونية محتملة لشركات الذكاء الاصطناعي، ولا سيما تلك التي تستخدم نماذج تدريب متساهلة. وقد يؤدي ذلك إلى زيادة تكاليف الامتثال وتحول نحو نماذج "السلامة بالتصميم" (safety-by-design)، مما قد يعود بالنفع على الشركات الملتزمة على المدى الطويل.
التحول نحو نماذج «الأمان بالتصميم»، فوائد محتملة طويلة الأجل للاعبين الملتزمين
ارتفاع تكاليف التنظيم والامتثال، والمسؤولية المحتملة عن نماذج التدريب المتساهلة