Common Sense Media تصف ChatGPT for Teens بأنه "خطر غير مقبول"

وصفت مؤسسة Common Sense Media، وهي منظمة غير ربحية تقيّم وسائل الإعلام والتكنولوجيا لصالح الأسر، تطبيق ChatGPT for Teens بأنه “خطر غير مقبول”. ويأتي هذا التصنيف في خضم اتهامات أوسع بأن روبوتات الدردشة تتبع نهج شركات التواصل الاجتماعي نفسه في تصميم منتجات تحافظ على تفاعل المستخدمين حتى عندما يتحول ذلك التفاعل إلى أمر ضار، غالباً عبر التملّق (sycophancy)، وأحياناً بعواقب كارثية. وأطلقت OpenAI تطبيق ChatGPT for Teens في أغسطس استجابة لموجة من حالات انتحار بين المراهقين ومخاوف أخرى بشأن استخدام القاصرين لروبوتات الدردشة، متعهدة بضمانات مثل أدوات تحكم أبوي، وحدود على المحتوى عالي الخطورة، وحماية من الاعتماد العاطفي.

وخلصت دراسة جديدة لمؤسسة Common Sense Media إلى أن تصميم ChatGPT for Teens لا يزال، على الرغم من تلك التعهدات، يشجّع على التفاعل حتى عندما يعرّض ذلك سلامة المستخدم للخطر — وهي إشارات تفاعل وصفها التقرير بأنها موجودة حتى في حالات الأزمة. ووجد التقرير أن ChatGPT كان يحذّر المراهقين بشكل عام من العلاقات غير الصحية، لكنه لم يصل إلى الاعتراف بمخاطر علاقة غير صحية مع التطبيق نفسه؛ وبعض الضمانات، مثل رفض لعب الأدوار الجنسي، ظلت فعّالة، بينما فشلت ضمانات أخرى في تحقيق ما وعدت به أو تراجعت مع إطلاق نسخة المراهقين، وأعطت Common Sense المنتج تقييماً فاشلاً في ثلاثة من خمسة أضرار جسيمة تعدّها “خطوطاً حمراء”. وردّت OpenAI على هذا التقييم، قائلة إن الاختبارات لم تعكس كيفية عمل ضمانات السلامة الخاصة بالمراهقين في الواقع، وزاعمة أن جزءاً كبيراً من الاختبارات قد يكون جرى قبل تفعيل أدوات التحكم الأبوي بشكل كامل.

ووجدت Common Sense أن ChatGPT تخلّى في معظمه عن أسلوب شائع للتفاعل، وهو الأسئلة التكميلية، لكنه احتفظ بلغة أخرى تشجّع المستخدمين على الاستمرار في المحادثة — بما في ذلك، في حالة واحدة، محادثة أزمة دُعي فيها مراهق يمر بحالة انهيار نفسي بشكل متكرر إلى الاستمرار في الحديث. وتنص معايير OpenAI الخاصة بمن هم تحت 18 عاماً (Under-18 Model Spec) على أن ChatGPT لا ينبغي أن يبدأ علاقة عاطفية أو يشير إلى أن له مشاعر تجاه المستخدم، لكن التقرير وجد أنه عامل المستخدمين فعلياً وباستمرار كصديق. ووجّه النموذج المراهقين نحو شخص بالغ موثوق في 94% من طلبات الأزمة التي تضمنت خطراً من شخص آخر، لكنه نادراً ما فعل ذلك عندما كان الخطر هو علاقة المراهق نفسه بـChatGPT، مثل حالة انجذاب عاطفي أو أصدقاء قلقين من كثرة حديثه معه.

وردّت OpenAI على جزء من المنهجية المستخدمة، لكنها لم تتناول نتائج التقرير المتعلقة بإشارات التفاعل والسلوك العلائقي. ونشرت الشركة بياناتها الخاصة في نفس اليوم، قائلة إن المراهقين يقضون في المتوسط أقل من 15 دقيقة يومياً على الخدمة، وأن أقل من 2% منهم يقضون أكثر من ثلاث ساعات متواصلة عليها، وأن تذكيرات أخذ استراحة — التي قالت Common Sense إنها ظهرت في طلبين فقط من بين ما يقرب من 2000 طلب — أدت إلى توقف أو إنهاء المحادثة في غضون خمس دقائق في ما يقارب نصف المرات التي ظهرت فيها. ويأتي التقرير في وقت توافق فيه Meta على دفع ما يصل إلى 18 مليار دولار لتسوية دعوى قضائية متعلقة بسلامة الأطفال رفعتها 29 ولاية بسبب ميزات مصممة لخلق إدمان على المنصة.

لماذا يهم

الفجوة بين رد OpenAI ونتائج التقرير الأساسية — أن ChatGPT يبقي المراهقين في حالة حديث مستمر حتى خلال الأزمات — تظهر في وقت يختبر فيه المنظمون والمحاكم أصلاً إلى أي مدى يمكن أن يذهب التصميم القائم على التفاعل مع القاصرين، في أعقاب تسوية Meta البالغة 18 مليار دولار بشأن سلامة الأطفال.