OpenAI تكشف عن نظام مراقبة لسوء الاستخدام يركز على الخصوصية في مواجهة سياسة Anthropic

مع تزايد قوة نماذج الذكاء الاصطناعي، يتزايد أيضاً خطر إساءة استخدامها، ويتعيّن على شركات الذكاء الاصطناعي الموازنة بين احترام خصوصية عملائها من الشركات ومراقبة حالات إساءة الاستخدام المحتملة. وأعلنت OpenAI عن نهج أمني يركز على الخصوصية أطلقت عليه اسم Private Safety Processing، وهو نظام آلي تختبره مع عملاء مختارين ويراقب إساءة الاستخدام المحتملة دون الاحتفاظ بأي من بيانات العميل.

وتأتي هذه الخطوة في مقابل سياسة الاحتفاظ بالبيانات التي أعلنتها Anthropic في يوليو، والتي تسمح لمختبر الذكاء الاصطناعي بالاحتفاظ ببيانات جلسات المستخدمين لمدة 30 يوماً بالنسبة لـ”النماذج المشمولة” — وهي فئة تضم جميع نماذج فئة Mythos والنماذج المستقبلية ذات القدرات المماثلة. وصمّمت Anthropic هذه السياسة لأغراض أمنية، لتتمكن من فرز وتحليل أي تجاوزات محتملة، لكنها أثارت قلق بعض الشركات التي تتعامل مع بيانات حساسة ولا تريد أن يحتفظ بها المختبر أو يفحصها. وتقول Anthropic إن أي مراجعة بشرية لتلك البيانات تتم فقط “عبر مسار وصول محكوم” يشمل “مجموعة صغيرة من المراجعين المعتمدين”، وإن كل جلسة مراجعة “تُسجَّل في سجل مقاوم للتلاعب لا يمكن للمراجعين حذفه أو تعديله”. وفيما عدا ذلك، تلتزم Anthropic إلى حد كبير بسياسة الاحتفاظ الصفري بالبيانات (ZDR)، باستثناء النماذج المشمولة مثل Fable.

وتقدّم OpenAI، مثل معظم شركات الذكاء الاصطناعي، سياسة الاحتفاظ الصفري بالبيانات لعملائها بالفعل، حيث تراقب وكلاء داخل واجهة برمجة التطبيقات (API) الخاصة بها حالات إساءة الاستخدام على مستوى كل جلسة دون الاحتفاظ ببيانات العميل. ويوسّع نظام Private Safety Processing هذا النطاق: إذ يقيّم أحد الوكلاء المدخلات والمخرجات عبر محادثات متعددة، وليس محادثة واحدة فقط، لرصد الجهات الخبيثة -مثل شخص يطوّر برمجية خبيثة لهجوم إلكتروني- التي توزّع طلباتها على عدة جلسات لتجنّب الرصد، بحسب ما ذكره متحدث باسم الشركة لـTechCrunch. وفي حال تفعيل النظام، قد يرسل إلى OpenAI “إشارة محددة بدقة” حول نشاط معين، تستخدمها OpenAI لتقرير ما إذا كان تطبيق إجراء ما ضرورياً؛ وإذا كان الأمر كذلك، تتواصل مع العميل، الذي يمكنه عندها اختيار مشاركة بياناته وفق تقديره الخاص.

وتأتي هذه المنافسة في مجال الخصوصية وسط تنافس مؤسسي متوتر بين الشركتين، اللتين تتجهان نحو طرحين عامين أوليين. وأظهر تقرير حديث أن نمو OpenAI في الربع الثاني كان أبطأ من نمو Anthropic، التي بلغ معدل إيراداتها السنوي الآن، بحسب ما ورد، 65 مليار دولار؛ وقال مستثمرون في Anthropic إن الشركة قد تطرح للاكتتاب العام بتقييم 2 تريليون دولار.

لماذا يهم

يُظهر هذان النهجان المتنافسان في مجال الخصوصية أن مختبرات الذكاء الاصطناعي باتت تتعامل مع سياسة إدارة البيانات نفسها كأداة تنافسية لكسب عملاء الشركات، لا مجرد متطلب امتثال — وهي ديناميكية يُرجَّح أن تتصاعد مع توجّه الشركتين نحو طرحين عامين.