Anthropic تطوّر إثباتاً تشفيرياً لتحديد النموذج الذي أنتج إجابة ما

وفصّلت Anthropic هذا المشروع، المسمى FlashProve، في منشور على مدونتها نُشر يوم الثلاثاء. ويسعى النظام إلى تقديم ما يسمّيه الباحثون “استدلالاً قابلاً للإثبات”، أي ضمانة رياضية بأن مخرجاً معيناً جاء من نموذج محدد، بما يتيح للمستخدم تأكيد أن الإجابة التي حصل عليها جاءت فعلاً من النموذج الذي يظن أنه أجاب عنها. ويشبّه الباحثون ذلك بالتوقيع التشفيري للبريد الإلكتروني: وسيلة تتيح لمن يستلم مخرجاً من الذكاء الاصطناعي تأكيد مصدره، حتى في مواجهة مختبر ذكاء اصطناعي يحاول تمويه أحد نماذجه الخاصة على أنه نموذج آخر.

ويشير الباحثون إلى عدة استخدامات عملية. فقد يمنع FlashProve شركة ذكاء اصطناعي من استبدال نموذج أرخص بصمت لخفض التكاليف، أو نموذج أغلى لتحسين نتائج اختباراته المرجعية، دون أن يعلم العملاء بذلك. ويمكنه أيضاً أن يتيح لأطراف خارجية التحقق من ادعاءات بشأن النموذج الذي نفّذ مهمة ما؛ ويذكر المنشور كمثال مطوّراً يزعم أن مكتبة برمجية خضعت لفحص من نموذج أمن سيبراني متقدم، أو شركة تؤكد أن خطة أعمالها راجعها نموذج معين، وهي ادعاءات لا يملك المستخدم اليوم وسيلة للتحقق منها.

ومن الناحية التقنية، يتطلب النظام من مختبرات الذكاء الاصطناعي نشر “توقيع” تشفيري لكل نموذج تطرحه، يمكن مطابقته لاحقاً مع مخرجات معينة. والأهم أن هذه التوقيعات لا تكشف عن أوزان النموذج -المعاملات الداخلية التي يتعامل معها مطوّرون مغلقون مثل Anthropic وOpenAI كأسرار تجارية- بما يسمح للمختبرات بتبني هذا النظام دون التنازل عن ما تعدّه أكثر أصولها قيمة. ومن المفترض أيضاً أن يكون التصميم خفيفاً بما يكفي للتحقق منه على جهاز محلي.

ونشرت Anthropic على GitHub مواصفات تقنية مفصّلة وكوداً فعلياً لأجزاء من النظام بموجب ترخيص مفتوح المصدر. ويصف الباحثون العمل بأنه غير مكتمل: “الهدف من منشور البحث هذا هو مشاركة تقدّم وسيط، لا تقديم أجندة بحثية مكتملة”، كما كتبوا، مضيفين أنهم يريدون من آخرين البناء عليه. وقالت Anthropic إنها لا تخطط حالياً لتطبيق FlashProve بنفسها، ولم يذكر المنشور أي مختبر آخر يلتزم باستخدامه.

لماذا يهم

إذا تبنّت المختبرات في النهاية نظاماً شبيهاً بFlashProve، فسيمنح ذلك الشركات والجهات التنظيمية وسيلة لتدقيق ادعاءات نماذج الذكاء الاصطناعي التي تعتمد اليوم كلياً على الثقة بالمزوّد، وهي ثغرة تزداد أهمية مع تزايد بناء الشركات لعمليات الأمن والامتثال والتمويل على قدرات يزعم نماذج معينة أنها تمتلكها.