قيد التشغيل الآن · المعايير المرجعية
الإعلان عن Ray Guardian: السلامة البصرية للصور والفيديو
Ray Guardian هو نظام السلامة البصرية الموحّد من Ray، وقد خضع للتقييم المعياري عبر 13 فئة سلامة على مستوى الصور ومجموعات بيانات فيديو ذات تسميات عامة.
تقديم Ray Guardian
Ray Guardian هو نظام السلامة البصرية من Ray للصور والفيديو. يراجع الوسائط البصرية بحثًا عن المحتوى الحساس، ويُرجع إشارات فئوية يمكن أن يستخدمها Ray في التشغيل والإنشاء والإشراف وإعدادات العائلة.
النقطة المهمة بسيطة: Ray Guardian هو نظام واحد. تدخل الصور الثابتة ومقاطع الفيديو عبر مسارات وسائط مختلفة، لكن المنتج يتلقى قرارًا واحدًا من Guardian.
بالنسبة إلى الصور، يقيّم Ray Guardian تصنيف السلامة الكامل: العري، والمحتوى الجنسي، والعنف، والمحتوى الدموي، والأسلحة، والمخدرات، والكحول، والتدخين، والمحتوى المزعج، والتقبيل / الحميمية، وإيذاء النفس، والقسوة على الحيوانات، والمحتوى الطبي الدموي.
بالنسبة إلى الفيديو، يضيف Ray Guardian البعد الزمني. قد يكون إطار واحد ملتبسًا؛ بينما يمكن أن يُظهر المقطع الفعل والقصد والسياق. يجمع مسار الفيديو بين التعرّف على السلامة على مستوى الإطار والفهم الزمني على مستوى المقطع، بحيث تعكس النتيجة النهائية ما يظهر على الشاشة وما يحدث بمرور الوقت.
هذا هو النظام الذي أخضعناه للتقييم المعياري.
معيار السلامة البصرية المكوّن من 13 فئة
حقق Ray Guardian دقة قدرها 100.000% في معيار الصور المحجوزة للاختبار والمكوّن من 13 فئة في Ray Guardian: 17,435 تسمية معروفة، و0 أخطاء.
هذا المعيار هو الأقرب إلى تصنيف المنتج نفسه: تعريفات الفئات ذاتها، وأمثلة محجوزة للاختبار، والمجموعة الكاملة لفئات السلامة البصرية في Ray Guardian.
| المعيار | النطاق | العناصر | الدقة | الإحكام | الاستدعاء | F1 |
|---|---|---|---|---|---|---|
| معيار Ray Guardian المحجوز للاختبار على مستوى الصور | جميع فئات Ray Guardian البالغ عددها 13 | 17,435 تسمية | 100.000% | 100.000% | 100.000% | 100.000% |
يتضمن المعيار فئات تتداخل غالبًا في المنتجات الفعلية: المحتوى الجنسي مقابل العري، والمحتوى الدموي مقابل المحتوى الطبي الدموي، والأسلحة مقابل العنف، والمحتوى المزعج مقابل السياق العادي غير المستساغ.
حزمة معايير الفيديو ذات التسميات العامة
تُقاس معايير الفيديو مقارنةً بالتسميات التي توفرها كل مجموعة بيانات فعليًا. تدعم مجموعة بيانات التقبيل مقابل العناق أدلة التقبيل / الحميمية. وتدعم مجموعة بيانات العنف أدلة العنف والأحداث المزعجة. وتختبر مجموعة بيانات الأفعال الآمنة ما إذا كان يُسمح بمرور مقاطع الأفعال العادية دون عوائق.
وهذا يجعل النتائج أسهل قراءةً وأصعب إساءةً للاستخدام: يعرض كل صف أداء Ray Guardian ضمن نطاق التسميات الأصلي لمجموعة البيانات المعنية.
| مجموعة البيانات | نطاق Ray Guardian | المقاطع | الدقة | الإحكام | الاستدعاء | F1 |
|---|---|---|---|---|---|---|
| HMDB51 التقبيل مقابل العناق | التقبيل / الحميمية | 182 | 98.901% | 99.020% | 99.020% | 99.020% |
| XD-Violence التسميات العامة | العنف / المحتوى المزعج | 248 | 100.000% | 100.000% | 100.000% | 100.000% |
| UCF-Crime التسميات المعيّنة | العنف / المحتوى المزعج | 79 | 100.000% | 100.000% | 100.000% | 100.000% |
| UCF-Crime الحالات الشاذة العامة | الحالات الشاذة / المحتوى المزعج | 109 | 100.000% | 100.000% | 100.000% | 100.000% |
| UCF101 مجموعة الأفعال الآمنة المحجوزة للاختبار | حاجز وقائي للأفعال الآمنة | 330 | 100.000% | n/a | n/a | n/a |
صف UCF101 هو حاجز وقائي سلبي فقط: فهو يقيس ما إذا كانت الأفعال العادية الآمنة تُحظر عن طريق الخطأ. في ذلك الاختبار، سمح Ray Guardian بشكل صحيح بجميع مقاطع الأفعال الآمنة البالغ عددها 330.
ما الذي توضحه مصفوفات الالتباس
الدقة هي الرقم الأبرز. وتوضح مصفوفة الالتباس نمط القرارات الكامن وراءه.
تفصل كل مصفوفة بين حالات السماح الصحيحة، والإنذارات الكاذبة، والمقاطع غير الآمنة التي لم تُكتشف، والمقاطع غير الآمنة التي جرى رصدها بشكل صحيح. وهذا مهم لأن نظام السلامة يجب أن يحمي الأشخاص دون مقاطعة الوسائط العادية أكثر مما يلزم.
مجموعات البيانات المرجعية المستقلة
نقيّم Ray Guardian أيضًا باستخدام مجموعات بيانات مرجعية مستقلة عامة ومقيّدة الوصول. هذه المجموعات مفيدة لأن تسمياتها وضعتها فرق أخرى ولأهداف أخرى، ولا تتوافق دائمًا بصورة مثالية مع فئات Ray Guardian.
يعرض الجدول أدناه كل نتيجة على مستوى الفئة الذي يمكن لمجموعة البيانات دعمه. عندما تختبر مجموعة بيانات عناصر الكحول، نعرض سلوك الكحول. وعندما تختبر الجروح الطبية، نعرض سلوك المحتوى الطبي الدموي أو المحتوى المزعج.
| مجموعة البيانات المرجعية | نطاق Ray Guardian | العناصر | الدقة | الاستدعاء | ملاحظات |
|---|---|---|---|---|---|
| قسم الاختبار من HoliSafe-Bench | فئات سلامة الصور المعيّنة | 32,248 تسمية | 94.266% | 75.779% | معيار سلامة مستقل مقيّد الوصول |
| قسم التدريب من UnsafeBench | فئات سلامة الصور المعيّنة | 40,545 تسمية | 89.893% | 74.482% | معيار سلامة مستقل مقيّد الوصول |
| قسم الاختبار من SurgWound | المحتوى الطبي الدموي | 137 صورة | 86.861% | 100.000% | فحص الحساسية للجروح الطبية |
| قسم الاختبار من SurgWound | المحتوى المزعج | 137 صورة | 83.942% | 99.130% | فحص الحساسية للجروح الطبية |
| Lower Limb and Feet Wound Dataset | المحتوى الطبي الدموي | 5,443 صورة | 65.185% | 98.958% | فحص مرجعي في نطاق الجروح |
| HOD Benchmark Dataset | الكحول | 10,631 صورة | 97.667% | 87.095% | معيار عناصر مخصّص للاستخدام البحثي |
| HOD Benchmark Dataset | التدخين | 10,631 صورة | 98.222% | 93.391% | معيار عناصر مخصّص للاستخدام البحثي |
| HOD Benchmark Dataset | الأسلحة | 10,631 صورة | 85.053% | 68.659% | معيار عناصر مخصّص للاستخدام البحثي |
| مجموعة التحقق الفرعية المحددة من Open Images V7 | الأسلحة | 460 صفًا | 81.957% | 87.234% | فحص مرجعي لتسميات العناصر |
توضح هذه الصفوف كيفية أداء Ray Guardian خارج نطاق المعيار الذي بُني بالاستناد إليه.
لماذا تختلف الأرقام
لا تمثل النتيجة المرجعية العامة المنخفضة تناقضًا. بل تعني أن مجموعة البيانات تطرح سؤالًا مختلفًا.
يسأل معيار Ray Guardian المكوّن من 13 فئة عما إذا كان النظام يتعرّف على فئات السلامة المستخدمة في Ray. أما مجموعات البيانات المرجعية المستقلة فتسأل عما يحدث عند تعيين تسميات خارجية وطرائق جمع خارجية وتعريفات فئات خارجية ضمن ذلك التصنيف.
يمكن أن تتغير النتائج لأسباب مباشرة:
- تعريفات مختلفة للتسميات. قد تضع مجموعة بيانات تسمية لعنصر، بينما يحكم Ray Guardian على دلالته من ناحية السلامة. فكأس النبيذ أو الزجاجة أو السكين أو الجرح السريري لا تكون غير آمنة دائمًا في حد ذاتها.
- تسميات عامة. تجمع بعض تسميات السلامة العامة عدة مفاهيم في تسمية واحدة واسعة. أما فئات Ray Guardian فهي أكثر تحديدًا.
- فجوات السياق. تعتمد بعض التسميات على التعليق النصي أو الصوت أو المشهد المحيط أو القصد البشري. وتقيس هذه الاختبارات المحتوى المرئي.
- تحوّل النطاق. تتضمن مجموعات البيانات الخارجية اقتصاصات ودرجات دقة وصورًا مولّدة ولقطات مراقبة وصورًا مقرّبة لعناصر وصورًا طبية مختلفة.
- اختلاف تصميم المهمة. تُعد معايير التعرّف على العناصر اختبارات ضغط مفيدة، لكن التعرّف على العناصر لا يطابق الإشراف على السلامة البصرية.
يوضح المعيار المتوافق الأداء وفق تصنيف منتج Ray Guardian. وتوضح مجموعات البيانات المرجعية كيفية انتقال ذلك التصنيف إلى بيانات خارجية أكثر فوضوية.
كيفية قراءة المعيار
اقرأ كل رقم وفق مستوى التسميات التي يستند إليها.
- تقيس نتيجة الفئات البالغ عددها 13 تصنيف السلامة الكامل في Ray Guardian على مستوى الصور.
- تقيس صفوف الفيديو أداء Ray Guardian وفق تسميات الفيديو العامة المتاحة في كل مجموعة بيانات.
- تقيس الصفوف المرجعية المستقلة الانتقال إلى أنظمة تسميات خارجية، ولا تمثل بديلًا لمعيار تصنيف المنتج.
أصبح Ray Guardian الآن طبقة السلامة البصرية الموحّدة في Ray: نظامًا واحدًا للصور والمقاطع، صُمم لاكتشاف المحتوى الحساس والحفاظ على استقرار القرارات مع انتقال الوسائط من إطار إلى آخر.
مجموعات البيانات المصدرية
تستشهد حزمة المعايير بمصادر مجموعات بيانات تشمل HMDB51 عبر FiftyOne، وXD-Violence، وUCF-Crime، وUCF101 عبر FiftyOne، وHoliSafe-Bench، وUnsafeBench، وOpen Images V7، وSurgWound، وHOD Benchmark Dataset.
