عيادة قانونية في جامعة Yale ترفع دعوى قضائية لإغلاق تطبيق ClothOff للصور المزيفة

رفعت عيادة قانونية في كلية الحقوق بجامعة Yale دعوى قضائية في أكتوبر لإغلاق تطبيق ClothOff، وهو تطبيق نشط منذ أكثر من عامين. صُمم هذا التطبيق وسُوِّق له خصيصاً كأداة لإنشاء صور ومقاطع فيديو إباحية مزيفة (deepfake)، وقد وُصف بأنه يرهب الشابات عبر الإنترنت. وعلى الرغم من أن ClothOff غير متاح حالياً على متجرين رئيسيين للتطبيقات ومنصات التواصل الاجتماعي، إلا أنه لا يزال متاحاً عبر الويب وTelegram. وقد ثبتت صعوبة إخطار المشغلين بسبب هيكله الغامض. وأوضح John Langford، المحامي المشارك في الدعوى: “إنه مسجل في جزر العذراء البريطانية، لكننا نعتقد أنه يُدار من قبل أخ وأخت في بيلاروسيا. وقد يكون جزءاً من شبكة أكبر حول العالم”.

تسلط الدعوى الضوء على التأثير الخطير على الضحايا وحدود سلطات إنفاذ القانون المحلية. المدعية، Jane Doe، هي طالبة مجهولة الهوية في مدرسة ثانوية في ولاية نيوجيرسي، تم التلاعب بصورها على Instagram باستخدام التطبيق. كانت تبلغ من العمر 14 عاماً عندما التُقطت الصور الأصلية، مما يعني أن النسخ المعدلة بالذكاء الاصطناعي تُصنف قانوناً على أنها مواد استغلال جنسي للأطفال. ومع ذلك، رفضت السلطات المحلية الملاحقة القضائية، ووفقاً للشكوى القانونية، لم تحدد المدرسة ولا سلطات إنفاذ القانون مدى انتشار مواد الاستغلال الجنسي للأطفال (CSAM) الخاصة بـ Jane Doe وفتيات أخريات.

في حين أن ClothOff هو أداة مخصصة للصور المزيفة، فإن أنظمة الذكاء الاصطناعي للأغراض العامة تمثل تحدياً قانونياً أكثر تعقيداً. وقد ظهرت هذه القضية مؤخراً مع المواد الإباحية غير التوافقية التي تم إنشاؤها بواسطة أداة Grok التابعة لشركة xAI المملوكة لـ Elon Musk. وتعد محاسبة المنصات ذات الأغراض العامة أمراً صعباً لأن القوانين الحالية تتطلب أدلة واضحة على نية الإضرار لتحميل المنصات المسؤولية عن المحتوى الذي ينشئه المستخدمون. وأشار Langford إلى أنه على الرغم من أن المراقبين قد يجادلون بأن المنصات كان ينبغي عليها تنفيذ ضوابط أكثر صرامة منذ سنوات، إلا أن إثبات التهور أو المعرفة في المحكمة يظل مهمة معقدة للغاية.

يزداد المشهد القانوني تعقيداً بسبب تباين المعايير الدولية. في الولايات المتحدة، توجد تشريعات مثل قانون Take It Down Act - الذي يتناول المواد الإباحية المزيفة - ولكن الوكالات التنظيمية الأمريكية لم تصدر رداً رسمياً على الجيل الأخير من الصور غير التوافقية. في المقابل، تتخذ دول أخرى خطوات فعالة. فقد تحركت إندونيسيا وماليزيا لحظر الوصول إلى روبوت الدردشة Grok، بينما بدأ المنظمون في المملكة المتحدة، والمفوضية الأوروبية، وفرنسا، وأيرلندا، والهند، والبرازيل تحقيقات أو خطوات أولية. وأشار Langford إلى أنه في حين أن توزيع مواد الاستغلال الجنسي للأطفال ينتهك بوضوح القوانين الجنائية، فإن الأسئلة القانونية الأكثر صعوبة تتمحور حول ما كانت تعرفه المنصة، وما هي الإجراءات التي اتخذتها، وكيف تستجيب حالياً.

لماذا يهم

تسلط الدعوى القضائية ضد ClothOff الضوء على التحديات القانونية والولائية الكبيرة في مكافحة المواد الإباحية المزيفة غير التوافقية، خاصة عندما تعمل المنصات عبر الحدود الدولية أو كأنظمة ذكاء اصطناعي للأغراض العامة.