Meta ستنبه أولياء الأمور إذا ناقش المراهقون إيذاء النفس مع ذكائها الاصطناعي

أعلنت Meta يوم الخميس أنها ستقوم الآن بإخطار أولياء الأمور إذا ناقش ابنهم المراهق الانتحار أو إيذاء النفس مع روبوت الدردشة Meta AI التابع للشركة. وتتوفر هذه التنبيهات حالياً لأولياء الأمور الذين يستخدمون ميزة Instagram Parental Supervision — وهي ميزة مدمجة للرقابة الأبوية على Instagram — في الولايات المتحدة والمملكة المتحدة وأستراليا وكندا، وتقول Meta إن الميزة ستُطرح عالمياً بحلول نهاية العام.

وتقول Meta إنها طورت نظام ذكاء اصطناعي مخصصاً لتحديد المحادثات التي يشير فيها المراهق بوضوح إلى إيذاء نفسه. وتخضع جميع المحادثات التي يحددها الذكاء الاصطناعي لمراجعة يدوية من قِبل بشر قبل إرسال التنبيه، وإذا كانت نية المراهق غامضة، فإن Meta تقول إنها ستتوخى الحذر وترسل تنبيهاً إلى ولي الأمر على أي حال. وقالت الشركة: “لهذا السبب، وبينما نواصل تحسين قدرات الكشف لدينا، ستخضع جميع المحادثات التي يحددها ذكاءنا الاصطناعي لمراجعة يدوية قبل إرسال التنبيه. وإذا كانت نية المراهق غامضة، فسنختار توخي الحذر وتنبيه ولي الأمر. ورغم أن هذا يعني أننا قد نُخطر أولياء الأمور أحياناً في حالات قد لا تستدعي القلق الفعلي، فإننا نشعر أن هذه هي نقطة البداية الصحيحة، وسنواصل المراقبة للمساعدة في ضمان أننا نسير في الاتجاه الصحيح”.

كما أصبح إعداد Limited Content من Meta — والذي يضع المراهقين في تجربة أكثر تقييداً على Instagram — ينطبق الآن على Meta AI أيضاً، مما يوسع نطاق المطالبات التي صُمم روبوت الدردشة لرفضها للمراهقين الخاضعين للرقابة الأبوية. وبشكل منفصل، تقول Meta إنها تعمل على إتاحة إمكانية الاتصال بخدمات الطوارئ إذا أشارت محادثة ما إلى أن شخصاً ما قد يكون عرضة لخطر إيذاء النفس. وتقول Meta أيضاً إنها ستتصل بخدمات الطوارئ إذا أشارت محادثة مع Meta AI إلى أن شخصاً ما عرضة لخطر الانتحار، في خطوة توسع بها ممارسة تطبقها بالفعل عندما ينشر شخص ما شيئاً على Facebook يشير إلى أنه عرضة للخطر.

وتأتي هذه التغييرات في وقت تواجه فيه Meta وشركات تكنولوجيا أخرى تدقيقاً من الجهات التنظيمية وأولياء الأمور بشأن كيفية استجابة روبوتات الدردشة المدعومة بالذكاء الاصطناعي للمستخدمين في أوقات الأزمات، وخاصة المراهقين — وهي مسألة مسؤولية قانونية تشكّل بشكل متزايد طريقة تصميم شركات الذكاء الاصطناعي لمنتجاتها وتسويقها.

لماذا يهم

مع الانتشار الواسع لروبوتات الدردشة المدعومة بالذكاء الاصطناعي، تواجه شركات التكنولوجيا العملاقة ضغوطاً متزايدة بشأن المسؤولية القانونية والجانب التنظيمي لضبط المحادثات المؤتمتة، مما يحول سلامة المراهقين إلى قيد حاسم في تصميم المنتجات.