Roblox تطلق ميزة إعادة صياغة الدردشة المدعومة بالذكاء الاصطناعي لاستبدال الكلمات المحظورة

أعلنت شركة Roblox يوم الخميس أنها بصدد طرح ميزة إعادة صياغة الدردشة في الوقت الفعلي، المدعومة بالذكاء الاصطناعي، والتي تستبدل تلقائياً الكلمات المحظورة بلغة أكثر احتراماً. وتتوفر الميزة الجديدة بجميع اللغات المتاحة حالياً من خلال أدوات الترجمة التلقائية في Roblox. في السابق، كان مرشح النصوص في المنصة يستبدل الكلمات والعبارات المحظورة بعلامات التجزئة (hash marks)، وهو ما أشارت الشركة إلى أنه قد يعطل المحادثات ويجعل متابعتها صعبة. وبموجب النظام الجديد، تتم إعادة صياغة النص المفلتر إلى لغة محترمة تظل قريبة من القصد الأصلي للمستخدم — مثل إعادة صياغة “Hurry TF up!” إلى “Hurry up!” — ويتم إخطار المشاركين في الدردشة عند إعادة صياغة الرسالة للحفاظ على تحضر المحادثة.

وبالإضافة إلى ميزة إعادة الصياغة، تعمل الشركة على ترقية نظام تصفية النصوص لديها لاكتشاف المزيد من أشكال اللغة المحظورة. ويشمل ذلك تحديد لغة “leetspeak” — وهو نظام تهجئة معدل يستبدل الحروف بالأرقام أو الرموز — وغيرها من المحاولات المتطورة لتجاوز مرشحات الأمان. وأفادت Roblox أن النتائج الأولية تُظهر أن النظام المطور قد قلل من انتشار النتائج السلبية الكاذبة عند مشاركة المعلومات الشخصية أو طلبها بمقدار 20 ضعفاً.

قال Rajiv Bhatia، نائب الرئيس لمنتجات المستخدمين والاكتشاف في Roblox: “تعد الدردشة أمراً محورياً لكيفية تواصل الأشخاص وتنسيقهم ولعبهم على Roblox. تساعد إعادة الصياغة في الوقت الفعلي في الحفاظ على مسار اللعب والمحادثات مع توجيه اللغة نحو ما هو مناسب. ويقلل هذا النهج من الاحتكاك في الدردشة مع الحفاظ على المعايير التي تساعد في إبقاء مجتمعنا متحلياً بالتحضر”.

تأتي تحديثات الأمان هذه وسط ضغوط قانونية كبيرة تتعلق بآليات الإشراف على المنصة. ويأتي هذا الإعلان في أعقاب دعاوى قضائية بشأن سلامة الأطفال رفعها المدعون العامون لولايات تكساس وكنتاكي ولويزيانا — وهم كبار مسؤولي إنفاذ القانون على مستوى الولاية في تلك الولايات. وقد بدأت هذه الإجراءات القانونية في أعقاب تقارير تفيد بأن Roblox كانت تعرض المستخدمين الصغار لمخاطر خطيرة، مثل الاستدراج (grooming) والمحتوى الصريح. وفي حين أن ميزة إعادة الصياغة الجديدة مصممة لتقليل تعطيل الدردشة، أشارت Roblox إلى أن نظام الأمان الأوسع الخاص بها لا يزال سارياً لمعالجة السلوكيات الأكثر خطورة.

لماذا يهم

تنشر Roblox ميزة إعادة صياغة الدردشة المدعومة بالذكاء الاصطناعي للتخفيف من تعطيل المحادثات الناجم عن تصفية النصوص التقليدية بعلامات التجزئة، مع تعزيز أنظمة الأمان الخاصة بها في الوقت نفسه في أعقاب ضغوط قانونية تتعلق بسلامة الأطفال.