الكشف الآني عن المحتوى غير الملائم على منصة يوتيوب باستخدام نموذج CLIP: منهجية بصرية-لغوية قائمة على التعلّم الصفري

Real-Time Inappropriate Content Detection on YouTube Using CLIP: A Zero-Shot Vision-Language Approach

Abdulghani Abied، Osayla Alzawawi

DOI: https://doi.org/10.64489/b47da314

الملخص

شهدت منصات الفيديو عبر الإنترنت نمواً سريعاً، مما زاد من احتمالية تعرض الأطفال لمحتوى ضار مثل العنف أو المواد غير اللائقة. تعتمد أساليب التصفية التقليدية، مثل البحث بالكلمات المفتاحية والقوائم الثابتة، على آليات محدودة لا تستطيع مواكبة الطبيعة الديناميكية والمتعددة الوسائط للمحتوى الرقمي الحديث. تقدم هذه الدراسة نظاماً ذكياً لمراقبة المحتوى في الزمن الحقيقي، يجمع بين إضافة متصفح (Browser Extension) ومنصة إشراف مخصصة للأهل، بهدف متابعة استخدام الأطفال لموقع يوتيوب بشكل مستمر. يعتمد النظام على نموذج CLIP (Contrastive Language–Image Pretraining) لتنفيذ تصنيف صفري (Zero-Shot Classification) من خلال ربط التمثيلات البصرية والنصية في فضاء دلالي مشترك. تشمل المنهجية استخراج لقطات من الفيديو بشكل دوري، ومعالجتها، ثم تصنيفها اعتماداً على مقياس التشابه بين الصور وتسميات نصية محددة تمثل محتوى ضار أو آمن. كما يعتمد النظام على آلية تصنيف مزدوجة مدعومة بتتبع زمني للإطارات لتحسين دقة النتائج وتقليل الأخطاء. أظهرت نتائج التقييم أن النظام يحقق دقة إجمالية تبلغ 79%، مع قدرة عالية على اكتشاف المحتوى الضار، مما يقلل من احتمال تعرض الأطفال لمحتوى غير مناسب. وتؤكد النتائج فعالية استخدام التعلم الصفري في تطبيقات الزمن الحقيقي، مع توفير حل قابل للتوسع ويحافظ على خصوصية المستخدم.

Abstract

مجلة الرفاق للمعرفة العدد (11) يونيو 2025 Abstract: The rapid expansion of online video platforms has significantly increased children’s exposure to potentially harmful content, including violent and explicit material. Traditional moderation techniques, such as keyword-based filtering and static blocklists, are insufficient to address the dynamic and multimodal nature of modern digital media. This study proposes a real-time content moderation system that integrates a browser extension with a guardian monitoring platform, enabling continuous supervision of YouTube video consumption. The system leverages the CLIP (Contrastive Language–Image Pretraining) model to perform zero-shot classification of video frames by aligning visual and textual representations in a shared semantic space. The methodology involves periodic frame sampling, preprocessing, and similarity-based classification using predefined harmful and safe content labels. A dual-pass decision mechanism, combined with temporal consistency filtering, is employed to improve detection reliability and reduce false positives. Experimental evaluation on a labeled dataset demonstrates that the proposed system achieves an accuracy of 79%, with a high recall for harmful content detection. The results indicate that the system effectively prioritizes safety by minimizing undetected harmful content while maintaining acceptable precision levels. Overall, the proposed approach highlights the practical potential of zero-shot learning for real-time content moderation in dynamic environments. The system provides an effective, scalable, and privacy-aware solution for enhancing child safety in online video platforms.