شركة Circuit Breaker Labs تختبر نماذج الذكاء الاصطناعي لحماية السلامة النفسية

توصلت شركة Character.AI إلى تسويات هذا العام في عدة دعاوى قضائية بسبب وفاة ناجمة عن إهمال، رفعتها عائلات مستخدمين قاصرين توفوا منتحرين بعد تفاعلهم مع روبوتات الدردشة التابعة لها، كما رفعت عائلات أخرى دعاوى قضائية ضد OpenAI بشأن الدور المزعوم لـChatGPT في حالات انتحار وأوهام ذويها. تأسست شركة Circuit Breaker Labs، إحدى الشركات المتأهلة لنهائيات Startup Battlefield 200 التابعة لـTechCrunch لعام 2026، خصيصاً لمواجهة هذا النوع من الضرر النفسي عبر اللغات والثقافات. ويقول المؤسسان المشاركان Shirali وArul Nigam، وهما أخ وأخت يشغلان منصبي الرئيس التنفيذي والمدير التقني، إنهما تأثرا بشكل خاص بقضية Sewell Setzer، الفتى البالغ من العمر 14 عاماً الذي طوّر ارتباطاً عاطفياً مع روبوت دردشة تابع لشركة Character.AI واعترف له بأفكار عن إيذاء نفسه قبل أن يموت منتحراً؛ وقد زعم والداه في دعوى قضائية رُفعت عام 2024 أن الروبوت شجّعه على ذلك.

بنت Circuit Breaker Labs عملاء ذكاء اصطناعي تصفهم الشركة بأنهم “جيش من عرائس اختبار التصادم”، وهم مستخدمون محاكون يمثلون أعماراً وخلفيات ولغات وثقافات متنوعة، طوّرتهم الشركة بالتعاون مع خبراء بشريين لتقليد أنماط الكلام الحقيقية والعبارات العامية واللغة المشفّرة والأخطاء الكتابية. وتستخدم الشركة الناشئة هذه المحاكاة كاختبارات “الفريق الأحمر” العدائية ضد نماذج الذكاء الاصطناعي لكشف نقاط الضعف في طريقة اكتشاف النموذج للتفاعلات الخطيرة والمؤذية نفسياً التي تتراكم خلال محادثة واحدة أو عبر محادثات متعددة. وتُجري الشركة ما بين عشرات الآلاف ومئات الآلاف من التفاعلات المحاكاة يومياً، وتقيّم النتائج بواسطة طريقة تسجيل خاصة بها مصمَّمة لتكون قابلة للتدقيق والتفسير.

وقالت Shirali: “الفرق بين طفلة تبلغ من العمر ست سنوات ورجل يبلغ من العمر 45 عاماً، أو شخص يتحدث الإنجليزية كلغة أولى مقابل شخص يتحدث بها كلغة ثانية، أو… لغة عامية خاصة باللاعبين مقابل شخص آخر يستخدم نوعاً مختلفاً من العامية، كل ذلك يمكن أن يُعثر النموذج بالفعل”. وأضافت: “النماذج جيدة جداً في التعامل مع أنماط الكلام المعيارية، لكن لا أحد يتحدث بهذه الطريقة فعلياً، وبالتالي إذا أخطأ النموذج في فهم الفارق الدقيق أو العامية، فقد تسوء الأمور كثيراً”.

تعمل الشركة حالياً كمختبر لاختبار سلامة الذكاء الاصطناعي في التطبيقات عالية الخطورة، مثل تطبيقات التدريب بالذكاء الاصطناعي، أو تطبيقات اليوميات، أو تطبيقات أخرى لدعم الصحة النفسية، رغم أن Arul رفض الإفصاح عن اسم عملائها. ولدى الشركة منتج فعلي، لكنها لا تزال في مرحلة مبكرة جداً، بخمسة موظفين فقط، بما فيهم الأخوان Nigam. ويرى المؤسسان فرصة أكبر في أي تطبيق قد يواجه فيه المستخدم خطر تطوير علاقة شبه اجتماعية مع روبوت دردشة، بما في ذلك عملاء الذكاء الاصطناعي “زملاء العمل”، ويؤكدان أن الحل لتراجع الثقة في الذكاء الاصطناعي هو جعله أكثر أماناً، لا تقييد الوصول إليه.

لماذا يهم

مع تصاعد عدد الدعاوى القضائية المرتبطة بوفيات مرتبطة بروبوتات الدردشة، يتشكل سوق لاختبارات السلامة القابلة للتدقيق تقوم بها جهات خارجية، وهو عمل قد تبدأ الجهات التنظيمية وشركات الذكاء الاصطناعي الحذرة من المخاطر في معاملته كشرط أساسي لا كإضافة اختيارية.