رصد المحتوى غير الملائم على منصة يوتيوب آنياً باستخدام CLIP: منهجية الرؤية واللغة بنظام التعلم من المحاولة الصفرية
شهدت منصات الفيديو عبر الإنترنت نمواً سريعاً، مما زاد من احتمالية تعرض الأطفال لمحتوى ضار مثل العنف أو المواد غير اللائقة. تعتمد أساليب التصفية التقليدية، مثل البحث بالكلمات المفتاحية والقوائم الثابتة، على آليات محدودة لا تستطيع مواكبة الطبيعة الديناميكية والمتعددة الوسائط للمحتوى الرقمي الحديث.
تقدم هذه الدراسة نظاماً ذكياً لمراقبة المحتوى في الزمن الحقيقي، يجمع بين إضافة متصفح (Browser Extension) ومنصة إشراف مخصصة للأهل، بهدف متابعة استخدام الأطفال لموقع يوتيوب بشكل مستمر. يعتمد النظام على نموذج CLIP (Contrastive Language–Image Pretraining) لتنفيذ تصنيف صفري (Zero-Shot Classification) من خلال ربط التمثيلات البصرية والنصية في فضاء دلالي مشترك. تشمل المنهجية استخراج لقطات من الفيديو بشكل دوري، ومعالجتها، ثم تصنيفها اعتماداً على مقياس التشابه بين الصور وتسميات نصية محددة تمثل محتوى ضار أو آمن. كما يعتمد النظام على آلية تصنيف مزدوجة مدعومة بتتبع زمني للإطارات لتحسين دقة النتائج وتقليل الأخطاء.
أظهرت نتائج التقييم أن النظام يحقق دقة إجمالية تبلغ 78%، مع قدرة عالية على اكتشاف المحتوى الضار، مما يقلل من احتمال تعرض الأطفال لمحتوى غير مناسب. وتؤكد النتائج فعالية استخدام التعلم الصفري في تطبيقات الزمن الحقيقي، مع توفير حل قابل للتوسع ويحافظ على خصوصية المستخدم.
