OpenAI تضيف علامة مائية خفية لنصوص ChatGPT في الاتحاد الأوروبي

قالت OpenAI إنها ستبدأ بإضافة علامة مائية غير مرئية إلى النصوص التي يُنشئها ChatGPT وCodex في الاتحاد الأوروبي، للامتثال لقانون الذكاء الاصطناعي الأوروبي. وتفرض قواعد الشفافية في القانون، التي دخلت حيز التنفيذ في 2 أغسطس، على شركات الذكاء الاصطناعي وضع علامة على المحتوى المُولَّد بالذكاء الاصطناعي بطريقة يمكن لأنظمة أخرى التعرف عليها. وقالت OpenAI إن العلامة المائية ستُطرح خلال الأسابيع المقبلة لمستخدمي ChatGPT وCodex المؤهلين على جميع الباقات، لكن فقط في الاتحاد الأوروبي. ويمكن للمطورين الذين يستخدمون واجهة برمجة التطبيقات (API) الخاصة بـOpenAI في أي مكان في العالم تفعيلها لنماذج مختارة بدءاً من اليوم؛ وهي معطّلة افتراضياً، وقالت OpenAI إنها لا تجعل العلامة المائية للنصوص خياراً افتراضياً عالمياً في هذه المرحلة.

والعلامة المائية ليست رمزاً مرئياً، بل تعمل من خلال تشكيل اختيارات الكلمات التي يستخدمها النموذج بشكل دقيق، تاركةً نمطاً لا يمكن للقارئ رؤيته لكن يمكن لكاشف متخصص رصده. وبما أنها متضمَّنة في الكلمات نفسها، فإنها تنتقل مع النص عند نسخه ولصقه. وقالت OpenAI إن العلامة المائية لا تحدد هوية المستخدم، وإنها لم تلاحظ تغييراً ملموساً في أداء نماذجها عند تفعيلها.

ونشرت OpenAI أيضاً تقريراً تقنياً عن طريقتها، التي أسمتها textGrain، شاركت في كتابته مع باحثين من جامعة بنسلفانيا وجامعة ييل. ويستعرض التقرير مثالاً على استخدام مفتاح سري لترتيب تنبؤات الكلمة التالية لإكمال جملة ما؛ وبجمع مئات هذه التعديلات الصغيرة معاً، يمكن لكاشف ما تحديد المحتوى المُولَّد بالذكاء الاصطناعي باستخدام النص والمفتاح فقط.

وتبقى قدرة العلامة المائية على مقاومة التحرير سؤالاً آخر، وتشير اختبارات OpenAI نفسها إلى أنها لا تقاوم ذلك بشكل جيد. فقد أظهر أحد الاختبارات أن استبدال 10% من الكلمات بمرادفات خفّض نسبة الكشف من نحو 92% إلى 66%. وقالت الشركة أيضاً إن النصوص القصيرة والإجابات الرياضية والنصوص المترجمة أصعب في الكشف عنها. وقالت الشركة: “تساهم هذه القيود في قرارنا بتوفير وصول أولي إلى أداة الكشف لباحثين ومؤسسات متخصصة معتمدة فقط، يمكنهم مساعدتنا في تقييم مدى الموثوقية والاستخدامات المسؤولة.” كما حذّرت OpenAI من أن غياب العلامة المائية “لا يثبت أن النص من تأليف إنسان”، فقد يكون النص قصيراً جداً أو جرى تحريره بشكل مكثف، أو قد يكون صادراً عن نظام ذكاء اصطناعي تابع لشركة أخرى. وقالت الشركة: “[العلامات المائية] يمكن أن تشير إلى أن نظاماً تابعاً لـOpenAI أنتج أو عالج جزءاً من نص ما، لكنها لا تشير إلى مقدار الحكم أو التحرير أو الإبداع البشري الذي أُدخل عليه.”

ويأتي هذا الإعلان بعد شهرين من إعلان Anthropic عزمها وضع علامة مائية على النصوص التي يُنشئها Claude، وهي خطوة طبّقتها على مستوى العالم، وقد أثارت هذه الخطوة ردود فعل سلبية من بعض مستخدمي Claude، الذين قالوا إنهم هم من قدّموا “التعليمات والسياق والقرارات”، في حين أن Claude كان فقط “الأداة”. وكانت OpenAI قد طوّرت علامة مائية للنصوص في السابق لكنها أجّلت إطلاقها، جزئياً بسبب مخاوف من أن ينتقل المستخدمون إلى منافسين لا يستخدمون هذه التقنية، بحسب ما ذكرت صحيفة The Wall Street Journal في عام 2024. وتُعد Anthropic وGoogle وMeta وMicrosoft وOpenAI من بين الشركات التي التزمت باتباع ميثاق ممارسات الاتحاد الأوروبي بشأن المحتوى المُولَّد بالذكاء الاصطناعي.

لماذا يهم

تدفع قواعد الشفافية في الاتحاد الأوروبي مختبرات الذكاء الاصطناعي إلى بناء بنية تحتية للكشف كانت تتجنبها سابقاً، في وقت تُظهر اختبارات OpenAI نفسها أن هذه البنية يمكن التغلب عليها بتحرير بسيط للنص.