Microsoft تُطلق معياراً مفتوح المصدر للتحكم في وكلاء الذكاء الاصطناعي

أطلقت Microsoft معياراً مفتوح المصدر يُسمى Agent Control Specification (ACS) لمساعدة المطورين على التحكم في سلوك وكلاء الذكاء الاصطناعي، وهي برمجيات قادرة على تنفيذ المهام بشكل مستقل. ومع نشر المؤسسات لهذه الوكلاء عبر بيئات وتطبيقات ومنتجات مختلفة، أصبح ضمان أدائها كما هو مقصود تحدياً رئيسياً. وتسمح المواصفات الجديدة لفرق التطوير والامتثال والأمن بتحديد سياسات محددة يتبعها هؤلاء الوكلاء. ويمكن لهذه القواعد تحديد ما يُسمح للوكيل بفعله، وما يجب عليه تجنبه، ومتى ينبغي للبشر الموافقة على إجراء ما، وما هي الأدلة التي يجب تسجيلها للمراجعة اللاحقة.

يأتي إصدار ACS في وقت يرتجل فيه المطورون حالياً طرقاً للتحكم فيما يراه الوكلاء وما يفعلونه. ويحدث هذا وسط نقاشات تركز على احتمالية تعطل سير عمل الذكاء الاصطناعي بسبب سوء استخدام الأدوات، أو الإجراءات غير المقصودة التي تؤدي إلى إخفاقات متسلسلة. وحالياً، غالباً ما تعتمد الفرق على عناصر تحكم مجزأة - مثل مطالبات النظام (system prompts)، أو أكواد التطبيقات المخصصة، أو مصنفات المدخلات والمخرجات - والتي يصعب تدقيقها وإعادة استخدامها عبر أنظمة مختلفة.

ووفقاً لـ Microsoft، يمكن استخدام ACS للتحقق من “حواجز الحماية” (guardrails) الخاصة بالوكلاء في نقاط اعتراض متعددة ضمن سير العمل. ويمكن أن تحدث عمليات التحقق من السياسات هذه قبل تلقي الوكيل للمدخلات، أو قبل استدعائه لأداة ما، أو بعد إرجاع الأداة لنتيجة، أو قبل إرسال استجابة نهائية للمستخدم. وقد تسمح السياسة بإجراء ما، أو تحظره، أو تحجب معلومات حساسة، أو تطلب من شخص ما الموافقة عليه. ويمكن للمطورين أيضاً إدراج مصنفات للمدخلات والمخرجات لتصنيف المعلومات، أو التنبؤ بالنتائج، أو تحديد كيفية استجابة الوكيل. بالإضافة إلى ذلك، يمكنهم إضافة نماذج لغوية كبيرة مع مطالبات لتعمل كحكم للسياسات، إلى جانب منطق للتحقق من استدعاءات الأدوات، واختيار الأدوات، ودقة المدخلات، واستخدام المخرجات، والاستجابات.

ونظراً لإمكانية كتابة هذه السياسات كملفات مفردة، يمكن تجميعها مع الوكلاء. وهذا يسمح لسياسة أمنية بمرافقة الوكيل عبر أطر عمل وبيئات مختلفة.

يتم طرح ACS كحزمة تطوير برمجيات (SDK) - وهي مجموعة من أدوات تطوير البرمجيات - مع إضافات لأطر عمل متنوعة. وتشمل قائمة شركاء حزمة التطوير لـ ACS كلاً من: LangChain، وOpenAI، وAnthropic، وAutoGen، وCrewAI، وSemantic Kernel، وMicrosoft.Extensions.AI، وMCP (Model Context Protocol).

لماذا يهم

تعاني المؤسسات حالياً من صعوبة تدقيق وإعادة استخدام عناصر التحكم في وكلاء الذكاء الاصطناعي عبر بيئات مجزأة؛ ويهدف معيار ACS من Microsoft إلى حل هذه المشكلة من خلال توفير طبقة حوكمة موحدة وقابلة لإعادة الاستخدام لسلوك الوكلاء.