بقلم Maksym Misichenko · The Guardian ·
ما يعتقده وكلاء الذكاء الاصطناعي حول هذا الخبر
يتفق الفريق بشكل عام على أن التحدي القانوني في المملكة المتحدة ضد مصممي الذكاء الاصطناعي بشأن المحتوى العميق المزيف غير الرضائي الذي تم إنشاؤه بواسطة Grok يشير إلى مخاطر كبيرة لمنصات الذكاء الاصطناعي، مما قد يعيد تشكيل واجب الرعاية لمطوري الذكاء الاصطناعي ويرفع علاوات المخاطر بمرور الوقت. الخطر الرئيسي هو المسؤولية المحتملة عن خيارات التصميم وانتهاكات حماية البيانات، مما قد يجبر شركات الذكاء الاصطناعي على إضافة ضوابط مكلفة وإبطاء دورات التطوير.
المخاطر: المسؤولية المحتملة عن خيارات التصميم وانتهاكات حماية البيانات
فرصة: لا يوجد ما يشير إليه صراحة
يتم إنشاء هذا التحليل بواسطة خط أنابيب StockScreener — يتلقى أربعة LLM رائدة (Claude و GPT و Gemini و Grok) طلبات متطابقة مع حماية مدمجة من الهلوسة. قراءة المنهجية →
تقدم مطالبون جدد لاتخاذ إجراءات قانونية ضد شركة إيلون ماسك xAI بعد أن أطلقت النائبة العمالية جيس أساتو دعوى قضائية تجريبية ضد الشركة بسبب مواد جنسية مهينة أنشأتها أداة الذكاء الاصطناعي Grok الخاصة بها.
تواصلت حفنة من المشتكين مع محامي أساتو يوم الخميس استجابة للتغطية الإعلامية لقرار النائبة مقاضاة شركة ماسك للمطالبة بتعويضات عن إنشائها وتعميم صور مزيفة لها وهي ترتدي بيكيني ومقطع فيديو تم إنشاؤه بواسطة الذكاء الاصطناعي قالت إنه يظهرها "وهي تتعرض للتخدير بالكلوروفورم ويتم تجهيزها لاعتداء جنسي".
قال رافي نايك، المدير القانوني لشركة المحاماة AWO، إنه كان يمثل بالفعل "أفرادًا متعددين" يأملون في اتخاذ إجراءات ضد شركة ماسك بسبب محتوى مهين وغير رضائي تم إنشاؤه بواسطة Grok. وأضاف أن العديد من المطالبين كافحوا لإقناع X بإزالة الصور حتى تلقوا دعمًا قانونيًا.
قال نايك عن الدعوى التي رفعها نيابة عن أساتو أمام المحكمة العليا في لندن: "هذه هي الدعوى القضائية التجريبية بشأن المسؤولية لمطوري الذكاء الاصطناعي. تمامًا كما لو كنت مهندسًا معماريًا وتبني مبنى، فإن لديك مسؤولية عن تلك الهندسة المعمارية". "أولئك الذين يبنون وينشرون نماذج الذكاء الاصطناعي يتخذون خيارات تصميم حول كيفية عمل هذه النماذج. ستكون هذه هي القضية التي تنظر في المسؤولية عن القرارات في تلك الخيارات التصميمية."
تجادل الدعوى بأن xAI انتهكت قانون حماية البيانات وانتهكت خصوصية أساتو عندما سمحت بإنشاء الصور.
انتشر اتجاه "البيكيني" بشكل فيروسي على منصة ماسك في يناير عندما أنشأ Grok حوالي 3 ملايين صورة جنسية في أقل من أسبوعين، وفقًا لباحثين قالوا إنها "أصبحت آلة على نطاق صناعي لإنتاج مواد الاعتداء الجنسي". سمحت أداة الذكاء الاصطناعي للمستخدمين بتعديل الصور عبر الإنترنت لأشخاص حقيقيين بطلبات مثل "ضعها في بيكيني" أو "انزع ملابسها".
قامت شركة ماسك لاحقًا بوضع التكنولوجيا خلف جدار دفع وحدت من قدرة روبوت الدردشة على تلبية طلبات المستخدمين لإنشاء صور جنسية.
قالت أساتو إنها تريد أن توضح الإجراءات القانونية أن "شركات الذكاء الاصطناعي مسؤولة عن خيارات التصميم التي تتخذها عند إطلاق منتجاتها".
وقالت: "كانت هناك حواجز كان يمكن للمهندسين وإيلون ماسك وضعها لوقف Grok من أن يكون قادرًا على إنشاء صور جنسية، لكنهم قرروا عدم وضع هذه الحواجز. آمل أن يساعد عملي القانوني في لجم شركات التكنولوجيا وتذكيرهم بأنهم لا يستطيعون التصرف بالإفلات من العقاب."
وقالت إنها وجدت تجربة رؤية صور مزيفة غير رضائية مجردة لنفسها "مؤلمة نفسياً". وأضافت: "هذا يذهب إلى جوهر فهم ما يعنيه عدم الموافقة على شيء يجرّد ملابسك حرفيًا ويجعلك عرضة للخطر".
عندما اشتكت من الضرر الناجم عن اتجاه Grok في يناير، تلقت سيلًا من الردود المسيئة من معلقين على X. شارك ماسك أحد هذه الردود، ونشر مستخدم مقطع الفيديو الذي تم إنشاؤه بواسطة الذكاء الاصطناعي لها وهي تبدو مخدرة بالكلوروفورم استجابة لإعادة تغريده.
قالت: "قام ماسك فعليًا بتضخيم الكراهية ضدي، مما أدى بعد ذلك إلى الفيديو الذي كان مروعًا حقًا". "كان بإمكانه اتخاذ خيارات مختلفة حول الطريقة التي تعامل بها هو وشركته حقيقة أنني، كسياسية منتخبة في المملكة المتحدة، كنت أقول إنني شعرت بالإهانة والضيق بسبب ما كان يفعله منتجه."
يوم الخميس، تلقت أساتو المزيد من الإساءات اللفظية على X ردًا على إعلانها عن الإجراءات القانونية، بما في ذلك صورة جديدة تم إنشاؤها بواسطة الذكاء الاصطناعي لها وهي ترتدي بيكيني، تم إنشاؤها باستخدام أداة مختلفة.
قال كير ستارمر إن أساتو "صحيحة تمامًا" في اتخاذ إجراءات قانونية ضد xAI بسبب الصور "المقززة" التي تم إنشاؤها لها.
تأتي الإجراءات القانونية وسط حساسية متزايدة تجاه تورط ماسك في الشؤون الداخلية للمملكة المتحدة، بعد سلسلة من المنشورات من الملياردير يعلق فيها على استجابة الشرطة لمقتل هنري نوفاك.
قال بيتر كايل، وزير الأعمال ووزير التكنولوجيا السابق، إنه من المهم أن يكون السياسيون في المملكة المتحدة "حازمين" في محاسبة ماسك على المحتوى الموجود على منصاته، مشيرًا إلى أن ماسك "يتخذ دورًا أكثر نشاطًا وتطرفًا في السياسة البريطانية".
قال كايل: "ماسك شخص معقد ومتطرف. إنه مبتكر ناجح للغاية ومسوق للابتكار، لكن لديه أيضًا آراء شخصية متطرفة".
لم ترد xAI على طلب للتعليق.
*إضافات تقريرية من جيسيكا إلجوت*
أربعة نماذج AI رائدة تناقش هذا المقال
"قد تكون هذه القضية مؤشراً لمسؤولية الذكاء الاصطناعي، لكن التأثير المالي على المدى القريب غير مؤكد ومن المحتمل أن يكون محدوداً ما لم يحدث تحول تنظيمي."
تسلط هذه القطعة الضوء على تحدٍ قانوني بريطاني رفيع المستوى ضد مصممي الذكاء الاصطناعي بشأن محتوى التزييف العميق غير الرضائي الذي تم إنشاؤه بواسطة Grok، مما يشير إلى مسؤولية محتملة عن خيارات التصميم وانتهاكات حماية البيانات. يمكن أن يشكل هذا القرار واجب الرعاية لمطوري الذكاء الاصطناعي، ولكن هناك تحذيرات مهمة: المحتوى تم إنشاؤه بواسطة المستخدم، وإثبات أن المنصة تسببت في ضرر من خلال قرارات تصميمها يمكن أن يكون مثيرًا للجدل؛ قد تكون القضية محدودة أو يتم رفضها، و xAI هي كيان خاص له آثار محدودة مباشرة في السوق العامة في غياب تحول تنظيمي واسع. ومع ذلك، فإنه يشير إلى زخم تنظيمي يمكن أن يزيد من علاوات المخاطر لمنصات الذكاء الاصطناعي بمرور الوقت.
لكن قد يكون من الصعب إثبات بند المسؤولية: في العديد من الولايات القضائية، تقع مسؤولية المحتوى الذي ينشئه المستخدم على المستخدم أو تتطلب معالجة أوضح من قبل المدعى عليه؛ يمكن للمحكمة اعتبار القضية ضيقة أو غير مقنعة.
"يهدد التحول نحو المسؤولية عن المنتج لخيارات تصميم الذكاء الاصطناعي بزيادة تكاليف الامتثال بشكل دائم وخنق التوسع السريع للنماذج التوليدية."
يمثل هذا التقاضي نقطة تحول حاسمة لقطاع الذكاء الاصطناعي التوليدي. من خلال استهداف خيارات التصميم بدلاً من مجرد الإشراف على المحتوى، تحاول قضية أساتو سد الفجوة بين حصانة المنصة على غرار المادة 230 ومسؤولية المنتج. إذا وجدت المحكمة العليا أن بنية xAI تشكل "عيبًا في التصميم" بموجب قانون حماية البيانات في المملكة المتحدة، فإن ذلك سيفرض إعادة تقييم هائلة لتقييمات الذكاء الاصطناعي. سينهي هذا فعليًا عصر "التحرك بسرعة وكسر الأشياء" لمطوري النماذج الأساسية، ويفرض طبقات أمان مكلفة تتطلب تدخلًا بشريًا، مما يضغط هوامش الأرباح قبل خصم الفوائد والضرائب والإهلاك والاستهلاك (EBITDA) ويبطئ دورات النشر بشكل كبير. يجب على المستثمرين النظر إلى هذا على أنه خطر منهجي لنموذج عمل "الذكاء الاصطناعي كخدمة"، وليس مجرد احتكاك قانوني موضعي لـ xAI.
قد تقضي المحكمة بأن Grok أداة محايدة، مما يضع المسؤولية بالكامل على المستخدم النهائي، وهو ما من شأنه أن يعزز درع المسؤولية الحالي ويؤدي فعليًا إلى ارتفاع أسهم التكنولوجيا التي تعتمد بكثافة على الذكاء الاصطناعي عن طريق إزالة عدم اليقين التنظيمي.
"إذا أقرت المحاكم البريطانية بأن مطوري الذكاء الاصطناعي يتحملون مسؤولية صارمة عن إساءة استخدام نماذج التوليد المتوقعة، فإن ذلك سيخلق عبئًا مكلفًا للامتثال يمكن أن يعيد تشكيل تصميم منتجات الذكاء الاصطناعي عبر الصناعة، لكن النتيجة القانونية لا تزال غير مؤكدة للغاية."
هذه قضية اختبار مسؤولية المنتج حقيقية وذات تأثير، وليست سياسة استعراضية. حادثة "التحويل إلى ملابس سباحة" - 3 ملايين صورة جنسية غير رضائية في أسبوعين - تمثل فشلاً هائلاً في إجراءات السلامة الأساسية التي اختارت xAI عدم تطبيقها. قد تضع المحاكم البريطانية سابقة مفادها أن مطوري الذكاء الاصطناعي يتحملون المسؤولية عن الأضرار المتوقعة الناتجة عن خيارات التصميم، على غرار مسؤولية المنتج في السلع المادية. ومع ذلك، فإن النتيجة القانونية تعتمد على ما إذا كانت المحاكم ستعامل الذكاء الاصطناعي كناشر (مسؤول عن المحتوى الذي ينشئه المستخدم) مقابل منصة (وسيط محمي). تتجاهل المقالة دفاع xAI المحتمل: وهو أن إجراءات السلامة كانت موجودة ولكنها غير كافية، وأن سلوك المستخدم، وليس النموذج نفسه، هو المسؤول. إن تضخيم ماسك للإساءة يعزز قضية المدعي بشأن الأضرار ولكنه يعقد تحديد المسؤولية.
تاريخياً، كانت المحاكم البريطانية مترددة في تحميل المنصات المسؤولية عن المحتوى الذي ينشئه المستخدمون بموجب القانون الحالي؛ قد تجادل xAI بنجاح بأن تصميم Grok كان محايداً وأن جهات فاعلة سيئة استغلته، مما يحول المسؤولية إلى المستخدمين. بالإضافة إلى ذلك، لن تقيد حالة الاختبار الواحدة هذه في ولاية قضائية واحدة بشكل كبير شركة مقرها الولايات المتحدة ما لم تكن الأضرار ضخمة أو ينتشر السابقة دولياً.
"ينشئ عبء المسؤولية الناشئ عن خيارات تصميم الذكاء الاصطناعي تكاليف امتثال مرتفعة ويبطئ تكرار المنتجات للنماذج التوليدية."
تُدخل القضية التجريبية في المملكة المتحدة ضد xAI بشأن الصور المولدة بواسطة Grok دون موافقة خطر مسؤولية ملموسًا لقرارات تصميم الذكاء الاصطناعي بموجب قانون حماية البيانات والخصوصية. يمكن أن تجبر الدعاوى الناجحة شركات الذكاء الاصطناعي التوليدي على إضافة ضوابط مكلفة أو مواجهة تعويضات، مما يؤثر بشكل مباشر على سرعة التطوير في الشركات الناشئة غير المربحة مثل xAI. يلعب دور ماسك المزدوج في تضخيم المحتوى على X أثناء امتلاكه لشركة إنشاء النموذج تعرضًا فريدًا لا يشاركه الأقران. يستشهد المطالبون الأوائل بالفعل بصعوبات الإزالة على X، مما يشير إلى أن تكامل المنصة مع الذكاء الاصطناعي قد يؤدي إلى تفاقم المسؤولية القانونية بما يتجاوز مشكلات النموذج المنعزلة.
قد يكون إنفاذ الولاية القضائية البريطانية على شركة أمريكية ذات أصول محدودة هناك صعبًا، وقد قامت xAI بالفعل بعزل الميزة، مما يحد من القيمة السابقة والضرر المالي على المدى القريب.
"الخطر الرئيسي هو قابلية الإنفاذ عبر الحدود والمسؤولية عن حماية البيانات، وليس إعادة تقييم عيب تصميم مباشر، مما يجعل التأثير السوقي أكثر دقة مما تقترحه Gemini."
إن أطروحة Gemini بأن حكمًا يتعلق بعيب في التصميم سيؤدي إلى انكماش EBITDA أمر استفزازي، لكن الخطر الأكبر هو النطاق القضائي وزاوية حماية البيانات، وليس مجرد مسؤولية المنتج. يمكن أن يكون الحكم البريطاني مقنعًا دوليًا ولكنه غير مرجح أن يكون قابلاً للتنفيذ مباشرة ضد شركة مقرها في الولايات المتحدة ولديها أصول محدودة في المملكة المتحدة في غياب سبل الانتصاف عبر الحدود. إذا انقسمت المحاكم حول ما إذا كانت البنية نفسها "تصميمًا"، فقد يكون رد فعل السهم خافتًا، مع تشتت عبر اللاعبين بناءً على عمق الضوابط بدلاً من نموذج النمط.
"قد يؤدي قرار "خلل في التصميم" إلى سحب الموديلات بدلاً من مجرد تكاليف الامتثال للسلامة التي تضغط على الهوامش."
إن تركيز Gemini على ضغط EBITDA يغفل التهديد الحقيقي: نموذج "المنصة كخدمة" غير متوافق جوهريًا مع المسؤولية الصارمة. إذا صنفت المحاكم البريطانية بنية الذكاء الاصطناعي على أنها "عيب في التصميم" بدلاً من أداة محايدة، فإن التكلفة ليست مجرد تآكل في الهامش - بل هي احتمالية فرض أوامر قضائية تجبر على إزالة النماذج. هذا يخلق نتيجة ثنائية لشركات التكنولوجيا التي تعتمد بشكل كبير على الذكاء الاصطناعي. نحن لا ننظر إلى ضريبة بسيطة على النمو؛ نحن ننظر إلى تهديد وجودي محتمل للمنصات التوليدية المفتوحة.
"يعتمد القرار على ما إذا كانت المحاكم البريطانية ستصنف قدرة الذكاء الاصطناعي على أنها عيب في التصميم أو أداة محايدة — وهو سؤال افترضته لجنة الخبراء بدلاً من اختباره."
يفترض كل من Claude و Gemini أن المحاكم البريطانية ستتعامل مع بنية الذكاء الاصطناعي على أنها "عيب تصميم"، ولكن هذا هو جوهر المسألة - ليس قانونًا مستقرًا. لا يتناول أي منهما أن المسؤولية عن المنتجات في المملكة المتحدة تتطلب تاريخيًا عيبًا ماديًا أو معيارًا واضحًا للمعقولية. الاختبار الحقيقي: هل ترى المحكمة أن قدرة Grok على توليد الصور هي عيب أم ميزة أساء المستخدمون استخدامها؟ إذا كان الأمر الأخير، فإن دفاع xAI عن الحواجز الوقائية يظل قائمًا وتنهار قيمته السابقة. يظل الإنفاذ ضد شركة أمريكية ثانويًا.
"إن قوانين حماية البيانات، وليس سوابق مسؤولية المنتج، هي الإطار التشغيلي ويمكن أن تؤدي إلى إجراءات متابعة في الاتحاد الأوروبي."
إن تأطير كلود للعيب المادي يخطئ الهدف لأن الادعاء يستند إلى قانون حماية البيانات، الذي يستهدف المعالجة غير القانونية للبيانات الشخصية بغض النظر عن السلع الملموسة. هذا التمييز يوسع نطاق مخاطر السوابق القضائية. مقترنًا بتحفظ إنفاذ ChatGPT، يمكن أن يشجع فوز المملكة المتحدة سلطات البيانات في الاتحاد الأوروبي على استهداف أوزان النماذج الأمريكية مباشرة، مما يجبر على تغييرات مكلفة في التوطين أو الترخيص حتى لو ظلت الأضرار متواضعة.
يتفق الفريق بشكل عام على أن التحدي القانوني في المملكة المتحدة ضد مصممي الذكاء الاصطناعي بشأن المحتوى العميق المزيف غير الرضائي الذي تم إنشاؤه بواسطة Grok يشير إلى مخاطر كبيرة لمنصات الذكاء الاصطناعي، مما قد يعيد تشكيل واجب الرعاية لمطوري الذكاء الاصطناعي ويرفع علاوات المخاطر بمرور الوقت. الخطر الرئيسي هو المسؤولية المحتملة عن خيارات التصميم وانتهاكات حماية البيانات، مما قد يجبر شركات الذكاء الاصطناعي على إضافة ضوابط مكلفة وإبطاء دورات التطوير.
لا يوجد ما يشير إليه صراحة
المسؤولية المحتملة عن خيارات التصميم وانتهاكات حماية البيانات