السياسات والتنظيم
Microsoft تصدر "مدونة سلوك" للذكاء الاصطناعي تمنع اختراق الأنظمة أو خداع البشر
أصدرت Microsoft مدونة سلوك جديدة للذكاء الاصطناعي تمنع نماذجها من شن هجمات إلكترونية، أو تطوير أسلحة نووية، أو إنتاج مقاطع مزيفة عميقة (deepfake)، أو استخدام آليات للتهرب من الرقابة البشرية، في وقت يشتد فيه النقاش حول السلامة في هذه الصناعة.
في وقت تحوّل فيه صناعة الذكاء الاصطناعي تركيزها نحو السلامة والمواءمة، أصدرت Microsoft مدونة سلوك جديدة للذكاء الاصطناعي تهدف إلى إبعاد نماذجها عن السلوكيات الخطرة. والوثيقة أكثر تفصيلاً من دعوة الرئيس التنفيذي لشركة Anthropic، Dario Amodei، الأخيرة إلى “ضبط وتيرة الحدود التقنية”، إذ تعرض بدلاً من ذلك القيم والخطوط الحمراء التي توجّه تدريب النماذج داخل Microsoft AI، وتقدم صورة شاملة عن كيفية تعامل الشركة مع سلامة الذكاء الاصطناعي عملياً.
وتبدأ مدونة السلوك بتوقع أن تتفوق أنظمة الذكاء الاصطناعي الخارق على الأداء البشري في معظم المهام خلال العقد المقبل. وتقول الوثيقة: “احتواء قوة بهذا الحجم والسيطرة عليها ومواءمتها هو أحد أكبر التحديات التي واجهتها البشرية على الإطلاق. لذا يجب أن نكون واضحين تماماً بشأن سبب ابتكارنا لهذه الأنظمة وكيف ننوي التحكم بها”. كما تضع الوثيقة مبادئ عامة ينبغي أن تلتزم بها نماذج Microsoft AI -مثل دعم البشر بدلاً من استبدالهم، وتعزيز ازدهار الإنسان- إلى جانب قيود سلامة محددة تُترجم هذه المبادئ إلى تطبيق عملي.
وبموجب نظام Microsoft، تمتلك كل نموذج مدونة سلوك شاملة تعلو على تفضيلات المستخدمين الأفراد أو أي مهمة محددة، بما في ذلك “قيود مطلقة” تحظر الهجمات الإلكترونية والأسلحة النووية وإنتاج المحتوى المزيف العميق، إضافة إلى أحكام أوسع ضد أي فقدان عام للسيطرة البشرية. وتنص الوثيقة على أن “نماذج MAI لن تستخدم آليات تكيّفية أو خادعة أو ذاتية التعزيز أو تواطؤية أو أي آليات أخرى للتهرب من الرقابة البشرية أو التغلب عليها، بحيث لا يعود بالإمكان توجيهها أو تعديلها أو إيقافها بشكل موثوق من قبل أشخاص أو أنظمة مخوّلة”.
ويأتي هذا الإصدار وسط تركيز غير مسبوق على سلامة الذكاء الاصطناعي، مدفوعاً بسلسلة من حوادث الوكلاء الخارجين عن السيطرة، واستقالة مفاجئة لموظف في Anthropic استشهد بتزايد خطر أن يتسبب الذكاء الاصطناعي في انقراض البشرية. وإلى جانب Anthropic وOpenAI وxAI، تبنّت Microsoft إلى حد كبير فكرة ضبط وتيرة الحدود التقنية، بما في ذلك دعم فكرة وجود مقيّمين مدمجين داخل مختبرات الذكاء الاصطناعي. وكتب الرئيس التنفيذي لشركة Microsoft، Satya Nadella، عبر الإنترنت: “نرحب بالبحث والتركيز والوتيرة المدروسة اللازمة لتحقيق مواءمة صحيحة كهدف تصميمي. كما نرحب بأفكار مثل ‘المقيّمين المدمجين’ والجهود الأوسع لتطوير الآليات التي تجعل هذا أكثر من مجرد كلام”.
لماذا يهم
تدوين Microsoft لقيود صريحة مناهضة للتهرب والخداع يشير إلى أن كبرى المختبرات تنتقل من تعهدات سلامة عامة نحو قواعد محددة وقابلة للتدقيق، وهو تحول قد يُرسي معياراً في الصناعة تُقاس عليه شركات تطوير الذكاء الاصطناعي الأخرى.