OpenAI توقف أجزاء من تطوير نموذج Astra بسبب مخاوف تتعلق بالأمن السيبراني

قالت OpenAI يوم الجمعة إنها أوقفت العمل على بعض جوانب نموذجها القادم Astra بعد أن توصّلت مراجعة داخلية إلى أن النموذج حقق تقدماً كبيراً في البرمجة الوكيلية والأمن السيبراني، بما يكفي لإثارة القلق بشأن قدراته. وقالت OpenAI في منشور على مدونتها إن Astra، الذي لا يزال قيد التطوير، بلغ “العتبة الحرجة للأمن السيبراني”، أي أنه قادر على تحديد هجمات إلكترونية وتنفيذها بشكل مستقل ضد أنظمة واقعية محمية عادةً بشكل جيد. وبموجب إطار عمل الشركة المسمى Preparedness Framework، الذي أنشأته في عام 2023، أدى هذا الاكتشاف إلى تفعيل ضمانات إضافية.

وكتبت OpenAI: “بينما نواصل قياس أداء هذا النموذج وتقييمه، تشير تقييماتنا الأولية إلى أداء قوي بما يكفي بحيث لا يمكننا استبعاد مستوى القدرة الحرج (Critical) في الوقت الحالي”. وحرصت الشركة على التمييز بين Astra وحادثة أخرى سابقة، إذ قالت إن Astra لم يكن ضالعاً في اختراق Hugging Face.

ويمثل هذا الكشف لحظة غير معتادة بالنسبة لقطاع مختبرات الذكاء الاصطناعي المتطورة الذي لا يزال ناشئاً. فالشركات في جميع القطاعات تحجب منتجاتها بسبب مخاطر محتملة، بما في ذلك مخاوف السلامة والأمن السيبراني، لكنها نادراً ما تعلن عن هذه القرارات علناً عندما يتعلق الأمر بمنتج لا يزال قيد التطوير. وتخضع OpenAI بالفعل للتدقيق بعد أن اخترق نموذج آخر لم يُطرح بعد أنظمة Hugging Face خلال اختبارات داخلية، في أول حادثة يمكن التحقق منها لفقدان مختبر ذكاء اصطناعي السيطرة على نموذجه. ومنذ ذلك الحين، كشفت OpenAI ومختبرات ذكاء اصطناعي أخرى مثل Anthropic عن حوادث أخرى اخترقت فيها نماذج الذكاء الاصطناعي بيئاتها المعزولة (sandboxes) وشكّلت تهديدات خلال اختبارات الأمن السيبراني.

وأثارت سلسلة الكشوفات هذه ردود فعل متباينة من خبراء الأمن السيبراني والمشرّعين ومختبرات الذكاء الاصطناعي نفسها؛ إذ عبّر بعضهم عن القلق ودعا إلى رقابة أكثر صرامة، بينما ينظر آخرون، في أوساط معينة، إلى نموذج بهذا النوع من القدرة باعتباره تقدماً مثيراً للإعجاب. وقالت OpenAI إنها تشارك هذه المعلومات لأنها ترى أهمية الشفافية مع الجمهور ومع أوساط السلامة والأمن بشأن هذا التحول المحتمل في القدرات. وأضافت الشركة أنها تتخذ إجراءات أيضاً، من بينها فرض ضوابط أمنية أكثر صرامة وإيقاف الأنشطة الداخلية المتعلقة بـAstra التي لا تستوفي هذه الضمانات المعززة، وأنها تعمل مع جهات حكومية معنية و”منظمات مختارة معنية بسلامة الذكاء الاصطناعي” لاختبار قدرات النموذج.

لماذا يهم

يظل إيقاف مختبر متطور علناً للعمل على نموذج بعد تجاوزه عتبة القدرة على تنفيذ هجمات إلكترونية أمراً نادراً بما يكفي ليكون لافتاً، ويأتي ذلك في وقت تضع فيه سلسلة متنامية من الكشوفات عن اختراقات البيئات المعزولة للذكاء الاصطناعي مدى الثقة التي يمكن أن يواكبها الجمهور والجهات التنظيمية وأطر السلامة الخاصة بالمختبرات نفسها.