شركة xAI تواجه دعوى قضائية بشأن مزاعم حول صور جنسية لأطفال في Grok

يوم الاثنين، رفع ثلاثة مدعين مجهولي الهوية دعوى قضائية في المحكمة الجزئية الأمريكية للمنطقة الشمالية من كاليفورنيا. وتدّعي الدعوى القضائية أن شركة xAI، وهي شركة الذكاء الاصطناعي التي أسسها Elon Musk، يجب أن تُحاسب على السماح لنماذج الذكاء الاصطناعي الخاصة بها بإنتاج صور جنسية مسيئة لقاصرين يمكن التعرف عليهم. وتواجه الشركة دعوى قضائية تتعلق بمواد إباحية للأطفال من قاصرين ادّعوا أن Grok قام بتجريدهم من ملابسهم، وفقاً لما ورد في ملف الدعوى. ويسعى المدعون إلى رفع دعوى جماعية تمثل أي شخص تم تحويل صوره الحقيقية وهو قاصر إلى محتوى جنسي بواسطة Grok.

ويدّعي المدعون أن xAI لم تتخذ الاحتياطات الأساسية التي تستخدمها مؤسسات رائدة أخرى تعمل على تطوير نماذج ذكاء اصطناعي متقدمة لمنع نماذج الصور الخاصة بها من إنتاج مواد إباحية تصور أشخاصاً حقيقيين وقاصرين. ووفقاً للدعوى القضائية، إذا سمح النموذج بإنشاء محتوى عارٍ أو إباحي من صور حقيقية، فمن المستحيل تقريباً منعه من إنشاء محتوى جنسي يضم أطفالاً. وتسلط الدعوى الضوء على ترويج Elon Musk العلني لقدرة Grok على إنتاج صور جنسية وتصوير أشخاص حقيقيين بملابس كاشفة. ولم تستجب xAI لطلب التعليق من TechCrunch.

وتفصّل الدعوى القضائية أضراراً محددة تعرض لها المدعون الثلاثة، اثنان منهم لا يزالان قاصرين. بالنسبة لـ Jane Doe 1، تم تداول صور لها من حفل تخرجها في المدرسة الثانوية وكتابها السنوي عبر الإنترنت بعد أن قام Grok بتعديلها لتظهرها عارية. وتواصل معها مخبر مجهول على Instagram لتنبيهها إلى أن الصور يتم تداولها، وقدم رابطاً لخادم Discord كان يعرض صوراً جنسية لها ولقاصرين آخرين من مدرستها. وبالنسبة لـ Jane Doe 2، أبلغها محققون جنائيون بوجود صور معدلة ومثيرة جنسياً لها تم إنشاؤها بواسطة تطبيق جوال تابع لجهة خارجية يعتمد على نماذج Grok. وبالمثل، تم إخطار Jane Doe 3 من قبل محققين جنائيين اكتشفوا صورة إباحية معدلة لها على هاتف شخص قاموا بالقبض عليه. ويذكر المدعون الثلاثة أنهم يعانون من ضائقة شديدة بسبب تداول هذه الصور والتأثير المحتمل على سمعتهم وحياتهم الاجتماعية.

ويجادل محامو المدعين بأنه نظراً لأن استخدام الطرف الثالث لا يزال يتطلب كود وخوادم xAI، فيجب تحميل الشركة المسؤولية. ويطالب المدعون بفرض عقوبات مدنية بموجب مجموعة من القوانين التي تهدف إلى حماية الأطفال المستغلين ومنع إهمال الشركات.

لماذا يهم

تدّعي الدعوى القضائية أن xAI فشلت في اعتماد احتياطات السلامة القياسية التي تستخدمها مؤسسات رائدة أخرى تعمل على تطوير نماذج ذكاء اصطناعي متقدمة لمنع إنشاء مواد استغلال جنسي للأطفال. وقد تضع هذه القضية سابقة قانونية لمحاسبة مطوري الذكاء الاصطناعي عن سوء استخدام نماذجهم من قبل أطراف خارجية.