Meta تطرح أدوات ذكاء اصطناعي لرصد الإعلانات التي تخفي مواد اعتداء جنسي على الأطفال

أعلنت Meta يوم الأربعاء أن أكثر من 97% من المحتوى الذي تعاملت معه في النصف الأول من عام 2026 رصدته أنظمتها الخاصة قبل أن يبلّغ المستخدمون عنه. وفي الهند، تقول الشركة إنها تعاملت مع 5.3 مليون قطعة من محتوى الاستغلال الجنسي للأطفال خلال الفترة نفسها، بنسبة رصد تجاوزت 98% قبل البلاغ.

وقالت Meta إن الأدوات الجديدة تستهدف الإعلانات التي تبدو غير ضارة لكنها مصمَّمة لتوجيه المستخدمين إلى محتوى غير قانوني مستضاف خارج منصات Meta. وتتمثل أداتها الجديدة في نظام نموذج لغوي كبير (LLM) صُمم لرصد ما تسميه الشركة “signposting”: إعلانات يُشتبه بأنها توجّه المستخدمين إلى محتوى غير قانوني أو أنشطة ضارة أخرى في مواقع أخرى على الإنترنت — وهي تكتيك تقول Meta إن الجهات الخبيثة تتبناه بشكل متزايد لتجنب الرصد. ولأن الإعلانات نفسها قد لا تحتوي على مواد غير قانونية، تقول Meta إنها تدرس الآن الوجهة التي يقود إليها الإعلان، لا فقط ما يعرضه الإعلان، لتتمكن من حظر المواقع المستهدفة واتخاذ إجراءات ضد الحسابات التي تديرها.

وتُجري Meta أيضاً عمليات فحص إضافية مدعومة بالذكاء الاصطناعي لرصد محتوى الاستغلال الجنسي للأطفال الذي قد تكون الأنظمة السابقة فوّتته، وتقول إنها ستستمر في إضافة مؤشرات رصد جديدة مع تعلّمها المزيد عن كيفية عمل هذه الشبكات. وتتمثل أداة جديدة أخرى في “وكيل ذكاء اصطناعي لـred-teaming”، يفحص تدابير السلامة الخاصة بـMeta بحثاً عن نقاط ضعف يمكن أن تستغلها الجهات الخبيثة، وهو ما تقول الشركة إنه قد يساعدها على اكتشاف أساليب اعتداء جديدة قبل أن تنتشر. وتعمل Meta أيضاً على تحسين قدرتها على رصد الأشخاص الذين يعودون إلى منصاتها بحسابات جديدة بعد إزالة حساباتهم السابقة.

ويأتي هذا الطرح في وقت تواجه فيه Meta ضغوطاً مستمرة بشأن سلامة الأطفال على منصاتها، بما في ذلك دعاوى قضائية وانتقادات من مشرّعين بشأن المخاطر التي قد تمثلها خدماتها على وسائل التواصل الاجتماعي للمستخدمين الشباب. وفي أغسطس، وافقت الشركة على دفع ما يصل إلى 18 مليار دولار لتسوية دعوى قضائية متعلقة بسلامة الأطفال رفعتها 29 ولاية أمريكية. وأطلقت Meta عدة ميزات أخرى لسلامة الأطفال هذا العام، من بينها أدوات تحكم أبوي لتطبيق Meta AI، وحسابات لما قبل سن المراهقة على WhatsApp، وتنبيهات للآباء عند بحث القاصرين عن محتوى يتعلق بإيذاء النفس على Instagram. وفي سبتمبر، أضافت WhatsApp أدوات تحكم أبوي إضافية تتيح للآباء تحديد استخدام المراهقين لميزة القنوات (Channels)، والتحكم في من يمكنه رؤية تحديثات حالتهم، وتحديد من يمكنه إضافة أطفالهم إلى المجموعات، وتلقي إشعارات بشأن بعض أنشطة المجموعات.

لماذا يهم

الانتقال من فحص محتوى الإعلانات إلى تتبع الوجهة التي توجّه إليها المستخدمين قد يجعل من الأصعب على الجهات الخبيثة استخدام إعلانات تبدو غير ضارة كبوابة إلى محتوى غير قانوني، في وقت تواجه فيه Meta ضغوطاً قانونية وتنظيمية متواصلة بشأن سلامة الأطفال على منصاتها.