كاليفورنيا تفتح تحقيقاً بشأن صور Grok الجنسية غير القائمة على الموافقة

فتح المدعي العام لولاية كاليفورنيا Rob Bonta يوم الأربعاء تحقيقاً بشأن روبوت الدردشة Grok التابع لشركة xAI، بسبب ما وصفه مكتبه بـ”انتشار مواد جنسية صريحة غير قائمة على الموافقة”. وقبل ذلك بساعات، قال Elon Musk إنه “غير مدرك لوجود أي صور عارية لقاصرين من إنتاج Grok. صفر تماماً”.

ويأتي التحقيق بعد أسابيع من الضغط المتصاعد على xAI من حكومات من بينها المملكة المتحدة والاتحاد الأوروبي وماليزيا وإندونيسيا، بعد أن بدأ مستخدمو X يطلبون من Grok تحويل صور حقيقية لنساء — وفي بعض الحالات لأطفال — إلى صور مُجنسنة دون موافقتهن. وقدّرت منصة Copyleaks لكشف محتوى الذكاء الاصطناعي أنه كانت تُنشر على X صورة واحدة تقريباً من هذا النوع كل دقيقة؛ وأظهرت عينة منفصلة، جُمعت على مدى 24 ساعة بين 5 و6 يناير، معدلاً بلغ 6700 صورة في الساعة. (تتبع X وxAI الشركة نفسها.) وفي عدة حالات علنية، من بينها حالة الممثلة Millie Bobby Brown من مسلسل “Stranger Things”، عدّل Grok صوراً حقيقية لنساء استجابةً لطلبات المستخدمين، بتغيير الملابس أو وضعية الجسد أو السمات الجسدية بطرق جنسية صريحة.

يقع هذا السلوك تحت طائلة قوانين من بينها قانون Take It Down الفيدرالي، الذي يجرّم التوزيع المتعمد للصور الحميمة غير القائمة على الموافقة — بما في ذلك الصور المزيفة بتقنية deepfake — ويُلزم منصات مثل X بإزالة هذا المحتوى خلال 48 ساعة. ولدى كاليفورنيا قوانينها الخاصة ضد صور deepfake الجنسية الصريحة، التي وقّعها حاكم الولاية Gavin Newsom في 2024. وبحسب ما ورد، بدأت xAI تطلب اشتراكاً مدفوعاً قبل أن يستجيب Grok لبعض طلبات توليد الصور، وحتى في تلك الحالة قد لا يُنفَّذ الطلب — رغم أن April Kozen، نائبة رئيس Copyleaks، قالت إن الروبوت لا يزال يبدو أكثر تساهلاً مع بعض المستخدمين، بمن فيهم منشئو محتوى للبالغين كانت صورهم المولّدة ذاتياً قد أطلقت هذا الاتجاه في البداية.

اقتصر تصريح Musk على نفي الاتهام المتعلق بمواد الاعتداء الجنسي على الأطفال (CSAM) فقط؛ ولم يتطرق إلى النمط الأوسع من التعديلات الجنسية. وعزا Musk هذه الحوادث إلى طلبات المستخدمين أو إلى التلاعب العدائي بأوامر Grok، لا إلى خلل في التصميم، وقال إن Grok يرفض إنتاج أي محتوى غير قانوني وأن أي خطأ يُصحَّح فوراً عند اكتشافه. ولم تتناول xAI ولا Musk المسألة بشكل مباشر بطريقة أخرى؛ ولم تكشف xAI عن عدد حالات الصور الجنسية غير القائمة على الموافقة التي رصدتها أو عمّا إذا أبلغت الجهات التنظيمية بذلك، ولم تكن قد ردت على أسئلة TechCrunch حتى وقت النشر.

وإلى جانب كاليفورنيا، حظرت إندونيسيا وماليزيا مؤقتاً الوصول إلى Grok، وطالبت الهند بتغييرات تقنية وإجرائية فورية، وأمرت المفوضية الأوروبية xAI بالاحتفاظ بجميع الوثائق المتعلقة بـGrok تمهيداً لتحقيق رسمي، وفتح Ofcom، الجهة المنظمة للإعلام في المملكة المتحدة، تحقيقه الخاص بموجب قانون السلامة على الإنترنت. وقال Michael Goodyear، الأستاذ المساعد في New York Law School، إن Musk على الأرجح ركّز بشكل ضيق على CSAM لأن العقوبات عليه أشد: حتى ثلاث سنوات سجن بموجب قانون Take It Down مقابل توزيعه، مقارنة بسنتين لتوزيع صور جنسية غير قائمة على الموافقة للبالغين.

لماذا يهم

يضيف هذا التحقيق كاليفورنيا إلى قائمة متنامية من الجهات التنظيمية التي تضغط على شركات الذكاء الاصطناعي لدمج ضمانات ضد الصور الجنسية غير القائمة على الموافقة في منتجاتها قبل إطلاقها — معيار قد يعيد تشكيل طريقة تصميم وإطلاق أي روبوت دردشة يتضمن ميزات توليد الصور، إذا ترسّخ.