OpenAI تطلق ChatGPT for Teens بعد سنوات من دعاوى قضائية بشأن السلامة

أعلنت OpenAI يوم الاثنين إطلاق ChatGPT for Teens، عقب دعاوى قضائية عديدة تدّعي أن افتقار روبوتات الدردشة القائمة على الذكاء الاصطناعي إلى تدابير السلامة قد أسهم في حالات انتحار لدى المراهقين ومخاوف صحية نفسية أخرى. ويَعِد المنتج الجديد بتدابير سلامة إضافية، إلى جانب أدوات تهدف إلى معالجة الأزمة التعليمية المتمثلة في الغش بمساعدة ChatGPT داخل المدارس.

وعلى الصعيد التعليمي، يقدّم ChatGPT for Teens وضعاً جديداً باسم “Study Mode” وأدوات أخرى مصممة لتشجيع المستخدمين المراهقين على إعمال فضولهم وحل المشكلات بأنفسهم، بدلاً من الحصول على إجابات سريعة فقط. وكما توضح OpenAI في منشور على مدونتها، يمنح Study Mode المراهقين أسئلة توجيهية ودعماً تدريجياً لمساعدتهم على فهم المادة. وستشمل تجربة المراهقين أيضاً تذكيرات بالواجبات تظهر عندما يبدو أن مراهقاً يحاول الغش بدلاً من فهم المادة، لتدفعه عندها نحو استخدام Study Mode بدلاً من ذلك. وسيدعم التطبيق أيضاً الاختبارات القصيرة والتصورات التعليمية، إضافة إلى ضوابط تتيح للآباء أو الأوصياء تحديد متى يكون Study Mode مفعّلاً افتراضياً، بحسب الشركة.

وليس واضحاً بعد مدى صعوبة تحايل المراهقين على النظام الجديد إن قرروا عدم التعاون معه - إذ يُعرف المراهقون بمهارتهم الكبيرة في الالتفاف على ضوابط الرقابة الأبوية وغيرها من القيود الرقمية، ولم يخضع وضع المراهقين في ChatGPT بعد لاختبار حقيقي وصعب في العالم الواقعي. وهناك أيضاً سؤال أوسع حول سبب عدم دمج هذه الحمايات في ChatGPT منذ البداية: فقد أُطلق الروبوت الحواري لأول مرة في أواخر عام 2022 ووصل إلى 900 مليون مستخدم أسبوعياً قبل أن تُضاف ضمانات مصممة خصيصاً للمستخدمين المراهقين.

وتقول OpenAI إن الحمايات المناسبة للعمر ستكون الآن مفعّلة افتراضياً في ChatGPT for Teens، وهي مصممة لتقليل التعرض لمحتوى ضار أو غير مناسب من الناحية التنموية. وتستند هذه التدابير إلى “مبادئ ما دون 18 عاماً” الخاصة بالشركة، ضمن وثيقة Model Spec، والتي تقول OpenAI إنها مستندة إلى “العلوم التنموية وإرشادات الخبراء”.

وسيتمكن الآباء أيضاً من استخدام أدوات العائلة وضوابط الرقابة الأبوية الحالية من OpenAI لإدارة الإعدادات، وتلقي إشعارات السلامة، وضبط “ساعات الهدوء” (Quiet Hours)، من بين أمور أخرى. كما أعلنت OpenAI عن شراكة مع CodeAI لمساعدة المراهقين على تعلم المزيد عن الذكاء الاصطناعي، بما في ذلك كيفية عمله وكيفية توجيهه أو مساءلته وكيفية استخدامه. وفي الفصول الدراسية، تقدّم OpenAI بالفعل خدمة ChatGPT for Teachers، التي تمنح المدارس وصولاً تديره المؤسسة إلى الروبوت الحواري.

لماذا يهم

يبقى مدى قدرة المراهقين المصممين على الالتفاف على الضوابط الجديدة، وسبب عدم إدراج هذه الحمايات قبل وصول ChatGPT إلى 900 مليون مستخدم أسبوعياً، سؤالين مفتوحين ينطويان على مخاطر حقيقية تتعلق بالسلامة.