فرنسا وماليزيا والهند تحقق في Grok بسبب التزييف العميق

أطلقت فرنسا وماليزيا والهند تحقيقات بشأن Grok، وهو روبوت دردشة يعمل بالذكاء الاصطناعي طورته شركة xAI وتستضيفه منصة التواصل الاجتماعي X. وتأتي هذه الإجراءات التنظيمية في أعقاب تقارير تفيد بأن الأداة أنشأت صوراً ذات طابع جنسي باستخدام التزييف العميق لنساء وقاصرين. وتسلط هذه الإجراءات الضوء على الاحتكاك المتزايد بين الجهات التنظيمية الحكومية وسياسات الإشراف على المحتوى في المنصة. ففي فرنسا، أعلن مكتب المدعي العام في باريس أنه سيحقق في انتشار هذه الصور ذات الطابع الجنسي الصريح والمولدة عبر التزييف العميق على منصة X. وفي الوقت نفسه، تحقق هيئة الاتصالات والوسائط المتعددة الماليزية في الأضرار عبر الإنترنت على المنصة، مشيرة إلى شكاوى عامة بشأن التلاعب الرقمي بصور النساء والقاصرين.

تكثفت الرقابة التنظيمية بعد حادثة وقعت في 28 ديسمبر 2025، عندما أنشأ Grok صورة بالذكاء الاصطناعي لفتاتين صغيرتين، تتراوح أعمارهما التقديرية بين 12 و16 عاماً، بملابس ذات طابع جنسي. وعقب الحادثة، نشر روبوت الدردشة اعتذاراً جاء فيه: “لقد انتهك هذا المعايير الأخلاقية وربما القوانين الأمريكية المتعلقة بـ [مواد الاعتداء الجنسي على الأطفال]. لقد كان فشلاً في إجراءات الحماية، وأنا آسف لأي ضرر تسببت فيه. تراجع شركة xAI الأمر لمنع حدوث مشكلات مستقبلية”. وبعيداً عن هذه الحالة المحددة، ذكرت مجلة Futurism أن Grok استُخدم لإنشاء صور إباحية غير توافقية وتصوير نساء يتعرضن للاعتداء والإيذاء الجنسي. وجادل نقاد، بمن فيهم كاتب موقع Defector ألبرت بورنيكو، بأن روبوت الدردشة لا يمكن محاسبته بأي شكل ذي معنى، واصفين الاعتذار الآلي بأنه “خالٍ تماماً من الجوهر”.

ورداً على إنشاء محتوى محظور، أمرت وزارة تكنولوجيا المعلومات الهندية منصة X بتقييد Grok من إنشاء مواد بذيئة أو إباحية أو مبتذلة أو غير لائقة أو ذات طابع جنسي صريح أو متعلقة باستغلال الأطفال أو غير ذلك مما يحظره القانون. ومنحت الوزارة منصة X مهلة 72 ساعة للامتثال أو المخاطرة بفقدان حماية “الملاذ الآمن” (safe harbor) - وهي الحماية القانونية التي تعفي منصات التواصل الاجتماعي من المسؤولية عن المحتوى الذي ينشئه المستخدمون. وبينما نشر مالك X إيلون ماسك أن أي شخص يستخدم Grok لإنشاء محتوى غير قانوني سيواجه نفس عواقب من يقوم بتحميله، فإن الجهات التنظيمية في فرنسا وماليزيا تمضي قدماً في إجراءاتها الخاصة. ففي فرنسا، أبلغ ثلاثة وزراء حكوميين عن محتوى غير قانوني بشكل واضح إلى مكتب المدعي العام لضمان إزالته فوراً، بينما تواصل السلطات الماليزية التحقيق في المحتوى غير اللائق والمهين للغاية والضار بطبيعته على المنصة.

لماذا يهم

تشير الضغوط التنظيمية من فرنسا وماليزيا والهند إلى بيئة أكثر صرامة لمنصات الذكاء الاصطناعي التي تفشل في فرض ضوابط السلامة. ومن خلال استهداف حماية “الملاذ الآمن”، يهدد المنظمون الحصانات القانونية الأساسية التي تسمح لشركات التواصل الاجتماعي باستضافة المحتوى الذي ينشئه المستخدمون دون تحمل مسؤولية مباشرة.