Anthropic تحظر الإساءة المطوّلة لـ Claude وتضيف قواعد انتخابية

حدّثت Anthropic سياسة استخدامها يوم الخميس، إذ قنّنت محظورات جديدة بشأن التدخل في الانتخابات، وبرمجيات الأسلحة، والمراقبة. ويمنع التغيير الأكثر جذباً للانتباه المستخدمين من ممارسة إساءة لفظية مطوّلة تجاه النموذج، وهو أمر محظور الآن صراحةً.

ومنذ تحديث في أغسطس، دُرِّب Claude على إنهاء المحادثات عند حدوث “تفاعلات من المستخدمين ضارة أو مسيئة بشكل مستمر” — لكن السياسة الجديدة تمنع المستخدمين الآن صراحةً من السعي إلى تلك المحادثات من الأساس. وقالت الشركة في منشور على مدونتها: “يُقصد من تحديث السياسة أن يُطبَّق فقط في الحالات القصوى، حيث يتصرف المستخدمون بقسوة متكررة تجاه نماذجنا دون غرض واضح. ولا ينطبق على الأشكال المعتادة من إحباط المستخدم، أو الاعتراض، أو المواضيع الإبداعية القاتمة، أو اختبار النموذج والبحث فيه.”

ويأتي هذا التغيير بعد أن سعت Anthropic إلى إقامة تعاون مع علماء دين بارزين — في بعض الحالات، في محاولة لإقناعهم بأن Claude قد يكون واعياً أو لديه روح.

وتحظر أقسام منفصلة من سياسة الاستخدام على المستخدمين الانخراط في حملات خادعة على نطاق واسع، مثل استخدام Claude لتشغيل حسابات مزيفة أو منافذ إخبارية مُلفَّقة. وتتضمن السياسة أيضاً قواعد تحظر خداع الناخبين أو عرقلة الانتخابات، مجمّعة في قسم بعنوان “عدم تقويض العمليات الديمقراطية” (“Do Not Undermine Democratic Processes”).

لماذا يهم

يشير الحظر الصريح إلى أن Anthropic تعمل على ترسيخ ضوابط رسمية تتعلق بكل من كيفية معاملة النموذج وسوء الاستخدام الانتخابي، في وقت تواجه فيه شركات الذكاء الاصطناعي تدقيقاً متزايداً حول كيفية استخدام نماذجها في سياق الانتخابات.