Meta تطلق أنظمة ذكاء اصطناعي لأتمتة إنفاذ سياسات المحتوى

أعلنت شركة Meta يوم الخميس عن طرح أنظمة ذكاء اصطناعي متقدمة للتعامل مع إنفاذ سياسات المحتوى عبر منصاتها. ووفقاً لـ Meta، تخطط الشركة لتقليل اعتمادها على الموردين الخارجيين في مهام إنفاذ سياسات المحتوى، والتي تشمل رصد وإزالة المحتوى المتعلق بالإرهاب، واستغلال الأطفال، والمخدرات، والاحتيال، وعمليات النصب. وذكرت Meta أنها ستنشر هذه الأنظمة بمجرد أن تتفوق باستمرار على أساليبها الحالية.

وأبلغت الشركة عن تحقيق مكاسب في الأداء من الاختبارات المبكرة لهذه الأنظمة. وأكدت Meta أن الأنظمة يمكنها اكتشاف ضعف كمية محتوى التماس الجنس للبالغين مقارنة بفرق المراجعة البشرية، مع تقليل معدل الخطأ بأكثر من 60٪. بالإضافة إلى ذلك، يمكن للأنظمة تحديد وتخفيف ما يقرب من 5,000 محاولة احتيال يومياً، حيث يحاول الممثلون الفاعلون سرقة تفاصيل تسجيل الدخول. كما تحدد الأنظمة وتمنع حسابات انتحال الشخصية التي تنطوي على أفراد بارزين، وتساعد في وقف عمليات الاستيلاء على الحسابات من خلال اكتشاف إشارات مثل عمليات تسجيل الدخول من مواقع جديدة، أو تغييرات كلمة المرور، أو تعديلات الملف الشخصي.

وشددت Meta على أن الخبراء البشريين سيواصلون الإشراف على التكنولوجيا والتعامل مع القرارات ذات التأثير العالي. وأوضحت الشركة: “بينما سيظل لدينا أشخاص يراجعون المحتوى، ستكون هذه الأنظمة قادرة على تولي العمل الأكثر ملاءمة للتكنولوجيا، مثل المراجعات المتكررة للمحتوى الرسومي أو المجالات التي يغير فيها الجهات الفاعلة المعادية تكتيكاتها باستمرار، مثل مبيعات المخدرات غير المشروعة أو عمليات النصب”. وبينما يتولى الذكاء الاصطناعي هذه المهام المتكررة، سيظل الخبراء البشريون مسؤولين عن تصميم وتقييم الأنظمة، بالإضافة إلى اتخاذ القرارات الحاسمة مثل الطعون المتعلقة بتعطيل الحسابات أو البلاغات الموجهة إلى جهات إنفاذ القانون.

يأتي هذا التحول في الوقت الذي خففت فيه Meta بعض قواعد الإشراف على المحتوى خلال العام الماضي، بالتزامن مع تولي الرئيس Donald Trump منصبه لفترة ثانية. وفي العام الماضي، استبدلت الشركة برنامج التحقق من الحقائق التابع لجهات خارجية بـ Community Notes، وهو نموذج للتحقق من الحقائق تستخدمه Meta. كما يأتي هذا الطرح في الوقت الذي تواجه فيه Meta وغيرها من عمالقة وسائل التواصل الاجتماعي دعاوى قضائية تسعى لمحاسبتهم على إلحاق الضرر بالأطفال والمستخدمين الصغار. وإلى جانب أنظمة الإنفاذ، أعلنت Meta يوم الخميس أنها تطلق مساعد دعم Meta AI لتزويد المستخدمين بالدعم على مدار 24/7. ويتم طرح المساعد عالمياً على تطبيقي Facebook وInstagram لنظامي iOS وAndroid، وكذلك على مراكز المساعدة عبر سطح المكتب.

لماذا يهم

تغير Meta استراتيجيتها للإشراف على المحتوى من خلال زيادة الاعتماد على أنظمة الذكاء الاصطناعي للإنفاذ مع تقليل استخدام الموردين الخارجيين، وهي خطوة تتزامن مع تدقيق قانوني مستمر بشأن تأثير الشركة على المستخدمين الصغار.