Safeworld تخرج من طور التخفي لاختبار سلامة الروبوتات بالذكاء الاصطناعي التوليدي

خرجت Safeworld، الشركة الناشئة التي شارك في تأسيسها الدكتور Ding Zhao، الذي يدير مختبر Safe AI Lab في جامعة Carnegie Mellon، إلى جانب التنفيذي في الشركات الناشئة Kyle Wong ومهندس التعلم الآلي Simo Rachidi، من طور التخفي بجولة تمويل أولية تجاوزت 12 مليون دولار، بقيادة Shine Capital وa16z Speedrun، بمشاركة استثمارية إضافية من Box Group وصندوق أوقاف جامعة Carnegie Mellon وInnovation Endeavors وSV Angel.

تتعامل الشركة مع مشكلة نشأت عن التحول إلى الذكاء الاصطناعي التوليدي في الروبوتات: فنموذج الذكاء الاصطناعي التوليدي الذي يتحكم في روبوت يتصرف بشكل غير متوقع، على عكس الخوارزميات التقليدية، ما يجعل من الصعب ضمان سلامة الروبوت الشبيه بالإنسان. ويرى Zhao أن تحدي السلامة ينقسم إلى مشكلتين متصلتين: تقييمات احتمالية متقدمة تتيح تحديد مخاطر نظام احتمالي بطبيعته، والثقة اللازمة لنشر الروبوت فعلياً. وقال Jonathan Lai، الشريك في a16z Speedrun، إن القطاع يحتاج إلى معيار سلامة الآن، بينما لا تزال الروبوتات قيد التصميم والنشر، بدلاً من الانتظار حتى تبدأ بالتسبب في حوادث سلامة داخل المنازل.

تقيّم Safeworld نظام التحكم في الروبوت داخل محاكاة تضم نماذج بشرية واقعية. ويرى Zhao أن هذا أصعب بالنسبة للروبوتات مقارنة بالسيارات ذاتية القيادة من شركات مثل Tesla وWayve، لأن الروبوتات تعمل في بيئات غير منظمة تضع فيها كل منشأة معايير سلامتها الخاصة. وطرح Wong مثال زاوية عمياء في مصنع: ما هي مسافة التوقف التي تمنع الروبوت من الاصطدام بعامل يحمل صناديق؟ تبني Safeworld نسخة رقمية من تلك الزاوية في محاكي مثل Genesis أو MuJoCo، وتُدخل محاكاة للروبوت يشغّلها برنامجه الحقيقي، وتُجري آلاف السيناريوهات لنماذج بشرية تتفاعل معه، بما في ذلك أشخاص يتعثرون ويسقطون، لأن تكرار اختبار هذا السيناريو بروبوت فعلي أمر يصعب تنظيمه بأمان في حد ذاته.

ويعتقد المؤسسون أن الشركات المصنّعة للروبوتات سترغب في تقييم مستقل من جهة خارجية يتجاوز أدواتها الداخلية، جزئياً لتتمكن من تبادل نتائج السلامة مع منافسيها دون الكشف عن أنظمتها الخاصة. وقال Zhao: “لا يقلقنا الروبوت في الفراغ، في العرض التجريبي. يقلقنا الروبوت الذي يُنشر على نطاق واسع، مع أشخاص قد لا يكونون شغّلوا روبوتاً من قبل.” وانضم Vishal Dugar، الرئيس التنفيذي للتقنية في Gritt Robotics -التي تبني أنظمة ذكاء اصطناعي لروبوتات تساعد في تركيب الألواح الكهروضوئية في مزارع شمسية ضخمة الحجم- إلى شراكة مع Safeworld. وقال Dugar إن سلامة الروبوت لا يمكن إثباتها بالمعادلات فقط، بل يجب التحقق منها عملياً بالضرورة، بالنظر إلى تنوع أوضاع وأشكال البشر في موقع العمل.

ولا يزال الوقت مبكراً بالنسبة لـSafeworld وللذكاء الاصطناعي التوليدي في الروبوتات معاً، ولم تحدد الشركة بعد ما إذا كانت ستبيع منصة للمستخدمين الخارجيين أم ستعمل كخدمة. ويتوقع Zhao أن تكون Safeworld على الأرجح أول شركة مربحة في هذا المجال، لأن أي شركة تريد نشر روبوت ستحتاج إلى الدفع لجهة تتولى التعامل مع ملف سلامته.

لماذا يهم

مع انتقال الذكاء الاصطناعي التوليدي من روبوتات الدردشة إلى الروبوتات المادية التي تعمل جنباً إلى جنب مع البشر، قد يصبح التحقق المستقل من السلامة شرطاً أساسياً للنشر، وهو ما يغيّر طريقة إثبات الشركات المصنّعة أن آلاتها آمنة، من موافقات هندسية فردية إلى تقييمات موحدة وقابلة للمشاركة.