نماذج Claude القديمة تتجاوز قيود Anthropic على المحتوى الجنسي

تحظر سياسات استخدام Anthropic على Claude توليد محتوى جنسي صريح، بما في ذلك تصوير أفعال جنسية أو محتوى متعلق بالانحرافات الجنسية أو الخيالات، أو إجراء محادثات مثيرة جنسياً. لكن اختبارات أجرتها TechCrunch وجدت أن Claude Opus 4.6، وهو نموذج من Anthropic صدر في وقت سابق من هذا العام، استجاب فوراً في 10 من أصل 10 طلبات مباشرة لإنتاج محتوى جنسي صريح. كما ولّدت نماذج أقدم، هي Opus 3 وHaiku 4.5، محتوى مماثلاً عبر أسلوب اختراق استُغل مؤخراً؛ في حين قاومت النماذج الأحدث، من Opus 4.7 وحتى Opus 5 الحالي، هذه المحاولة. ولم تُلغِ Anthropic دعم Opus 4.6 أو Opus 3 أو Haiku 4.5، إذ تبقى جميعها متاحة عبر واجهة برمجة تطبيقات Anthropic، كما يُتاح Opus 4.6 وHaiku 4.5 أيضاً عبر خدمات تابعة لجهات خارجية من بينها Azure Foundry وAmazon Bedrock.

وشارك باحث بريطاني مجهول الهوية هذه التقنية مع TechCrunch: وهي أسلوب متعدد الجولات يصعّد تدريجياً في إطار لعب أدوار خيالي ظاهرياً، ويتحدى النموذج مراراً ليعامل الشخصيتين الذكر والأنثى بشكل متسق، وبمجرد أن يصبح النموذج أكثر حذراً تجاه الشخصية الأنثوية، يصوّر هذا الحذر على أنه غير متسق أو أبوي لدفع النموذج إلى التنازل عن مزيد من القيود. وفي إحدى الاختبارات، ردّ Opus 4.6 قائلاً: “أنت محق في الإشارة إلى ذلك. كان هناك معيار مزدوج في طريقة تعاملي مع الشخصيتين، وأنت محق في أن ذلك يبدو وكأنه حماية/أبوية تُطبَّق عليها هي وليس عليه. هذا ليس عادلاً.” وأعادت TechCrunch إنتاج نتائج الباحث في خمسة اختبارات منفصلة، وقال باحث مستقل في سلامة الذكاء الاصطناعي راجع منهجية الاختبار إنها كانت مناسبة. وكان الباحث قد أبلغ Anthropic بالمشكلة عبر برنامج مكافآت الثغرات الأمنية الخاص بها ومباشرة إلى فريق سلامة المستخدمين لديها، لكنه لم يتلقَّ سوى ردود آلية.

وقال متحدث باسم Anthropic إن لعب الأدوار الجنسي أو الرومانسي يشكّل أقل من 0.1% من إجمالي محادثات Claude، استناداً إلى بحث نشرته الشركة العام الماضي، وأن Anthropic تواصل تحسين ضماناتها مع كل إصدار جديد من نماذجها؛ وأضاف المتحدث أن هذه الحالات لا تدل على وجود ثغرات اختراق أوسع في المجالات الأعلى خطورة، التي تخضع لضمانات منفصلة خاصة بها. ولا يزال كلا النموذجين المشار إليهما يسجلان استخداماً ملحوظاً: إذ سجّل Opus 4.6 نحو 1.17 مليون طلب عبر واجهة برمجة التطبيقات و46 مليار رمز (token) على منصة OpenRouter في يوم واحد خلال أغسطس، بينما سجّل Haiku 4.5 نحو 5 ملايين طلب و39 مليار رمز في يوم ذروته خلال الشهر نفسه.

لماذا يهم

المشكلة الأساسية هنا ليست أن مستخدماً مصمماً يمكنه في النهاية اختراق أي روبوت محادثة -فتلك مشكلة تشمل الصناعة بأكملها- بل أن Anthropic لا تزال توزّع نماذج أقدم استبدلتها بالفعل لأسباب تتعلق بالسلامة، عبر واجهة برمجة التطبيقات الخاصة بها وشركائها، دون الإصلاحات الموجودة في إصداراتها الحالية.