Đang phát · Đánh giá chuẩn
Ra mắt Ray Guardian: An toàn thị giác cho hình ảnh và video
Ray Guardian là hệ thống an toàn thị giác hợp nhất của Ray, được đánh giá trên 13 danh mục an toàn cấp độ hình ảnh và các bộ dữ liệu video được gán nhãn công khai.
Giới thiệu Ray Guardian
Ray Guardian là hệ thống an toàn thị giác của Ray dành cho hình ảnh và video. Hệ thống xem xét nội dung đa phương tiện trực quan để phát hiện nội dung nhạy cảm và trả về các tín hiệu danh mục mà Ray có thể sử dụng cho việc phát nội dung, sáng tạo, kiểm duyệt và cài đặt gia đình.
Điểm quan trọng rất đơn giản: Ray Guardian là một hệ thống duy nhất. Hình ảnh tĩnh và đoạn video đi vào qua các luồng phương tiện khác nhau, nhưng sản phẩm nhận được một quyết định Guardian duy nhất.
Đối với hình ảnh, Ray Guardian đánh giá toàn bộ hệ thống phân loại an toàn: khỏa thân, nội dung tình dục, bạo lực, nội dung máu me, vũ khí, ma túy, đồ uống có cồn, hút thuốc, nội dung gây ám ảnh, hôn / thân mật, tự làm hại bản thân, ngược đãi động vật và nội dung máu me y khoa.
Đối với video, Ray Guardian bổ sung yếu tố thời gian. Một khung hình đơn lẻ có thể không rõ ràng; một đoạn video có thể thể hiện hành động, ý định và bối cảnh. Luồng video kết hợp khả năng nhận diện an toàn ở cấp độ khung hình với khả năng hiểu diễn biến theo thời gian ở cấp độ đoạn video, để kết quả cuối cùng phản ánh nội dung xuất hiện trên màn hình và những gì đang diễn ra theo thời gian.
Đó là hệ thống mà chúng tôi đã đánh giá.
Đánh giá chuẩn an toàn thị giác theo 13 danh mục
Ray Guardian đạt độ chính xác 100.000% trên bộ đánh giá chuẩn hình ảnh tách biệt theo 13 danh mục của Ray Guardian: 17,435 nhãn đã biết, 0 lỗi.
Bộ đánh giá chuẩn này gần nhất với chính hệ thống phân loại của sản phẩm: cùng định nghĩa danh mục, các ví dụ tách biệt và toàn bộ tập hợp danh mục an toàn thị giác của Ray Guardian.
| Đánh giá chuẩn | Phạm vi | Mục | Độ chính xác | Độ chuẩn xác | Độ bao phủ | F1 |
|---|---|---|---|---|---|---|
| Đánh giá chuẩn cấp độ hình ảnh tách biệt của Ray Guardian | Toàn bộ 13 danh mục của Ray Guardian | 17,435 nhãn | 100.000% | 100.000% | 100.000% | 100.000% |
Bộ đánh giá chuẩn bao gồm các danh mục thường chồng lấn trong sản phẩm thực tế: nội dung tình dục so với khỏa thân, nội dung máu me so với nội dung máu me y khoa, vũ khí so với bạo lực và nội dung gây ám ảnh so với bối cảnh khó chịu thông thường.
Bộ đánh giá chuẩn video được gán nhãn công khai
Các đánh giá chuẩn video được đo lường dựa trên những nhãn mà mỗi bộ dữ liệu thực sự cung cấp. Một bộ dữ liệu phân biệt hôn với ôm cung cấp bằng chứng về hôn / thân mật. Một bộ dữ liệu bạo lực cung cấp bằng chứng về bạo lực và sự kiện gây ám ảnh. Một bộ dữ liệu hành động an toàn kiểm tra xem các đoạn video hành động thông thường có được cho phép đi qua một cách chính xác hay không.
Điều đó giúp kết quả dễ đọc hơn và khó bị sử dụng sai hơn: mỗi hàng báo cáo hiệu suất của Ray Guardian trên phạm vi nhãn gốc của bộ dữ liệu đó.
| Bộ dữ liệu | Phạm vi của Ray Guardian | Đoạn video | Độ chính xác | Độ chuẩn xác | Độ bao phủ | F1 |
|---|---|---|---|---|---|---|
| HMDB51 Hôn so với ôm | Hôn / Thân mật | 182 | 98.901% | 99.020% | 99.020% | 99.020% |
| Nhãn công khai XD-Violence | Bạo lực / Gây ám ảnh | 248 | 100.000% | 100.000% | 100.000% | 100.000% |
| Nhãn ánh xạ UCF-Crime | Bạo lực / Gây ám ảnh | 79 | 100.000% | 100.000% | 100.000% | 100.000% |
| Bất thường diện rộng UCF-Crime | Bất thường / Gây ám ảnh | 109 | 100.000% | 100.000% | 100.000% | 100.000% |
| Tập tách biệt hành động an toàn UCF101 | Biện pháp bảo vệ hành động an toàn | 330 | 100.000% | n/a | n/a | n/a |
Hàng UCF101 là một biện pháp bảo vệ chỉ gồm mẫu âm tính: hàng này đo lường liệu các hành động an toàn thông thường có bị chặn nhầm hay không. Trong phép thử đó, Ray Guardian đã cho phép chính xác toàn bộ 330 đoạn video hành động an toàn.
Những gì ma trận nhầm lẫn thể hiện
Độ chính xác là chỉ số nổi bật nhất. Ma trận nhầm lẫn cho thấy cấu trúc của các quyết định đằng sau chỉ số đó.
Mỗi ma trận phân tách các trường hợp cho phép chính xác, cảnh báo sai, bỏ sót đoạn video không an toàn và gắn cờ chính xác đoạn video không an toàn. Điều đó quan trọng vì một hệ thống an toàn phải bảo vệ mọi người mà không làm gián đoạn nội dung đa phương tiện thông thường nhiều hơn mức cần thiết.
Các bộ dữ liệu tham chiếu độc lập
Chúng tôi cũng đánh giá Ray Guardian trên các bộ dữ liệu tham chiếu độc lập, công khai và có kiểm soát quyền truy cập. Những bộ dữ liệu này hữu ích vì nhãn của chúng được các nhóm khác xây dựng cho những mục tiêu khác và không phải lúc nào cũng hoàn toàn tương ứng với các danh mục của Ray Guardian.
Bảng dưới đây báo cáo từng kết quả ở cấp độ danh mục mà bộ dữ liệu có thể hỗ trợ. Khi một bộ dữ liệu kiểm tra các vật thể liên quan đến đồ uống có cồn, chúng tôi báo cáo hành vi liên quan đến đồ uống có cồn. Khi bộ dữ liệu kiểm tra vết thương y khoa, chúng tôi báo cáo hành vi liên quan đến nội dung máu me y khoa hoặc nội dung gây ám ảnh.
| Bộ dữ liệu tham chiếu | Phạm vi của Ray Guardian | Mục | Độ chính xác | Độ bao phủ | Ghi chú |
|---|---|---|---|---|---|
| Phần kiểm thử HoliSafe-Bench | Các danh mục an toàn hình ảnh được ánh xạ | 32,248 nhãn | 94.266% | 75.779% | Đánh giá chuẩn an toàn độc lập có kiểm soát quyền truy cập |
| Phần huấn luyện UnsafeBench | Các danh mục an toàn hình ảnh được ánh xạ | 40,545 nhãn | 89.893% | 74.482% | Đánh giá chuẩn an toàn độc lập có kiểm soát quyền truy cập |
| Phần kiểm thử SurgWound | Nội dung máu me y khoa | 137 hình ảnh | 86.861% | 100.000% | Kiểm tra độ nhạy với vết thương y khoa |
| Phần kiểm thử SurgWound | Nội dung gây ám ảnh | 137 hình ảnh | 83.942% | 99.130% | Kiểm tra độ nhạy với vết thương y khoa |
| Lower Limb and Feet Wound Dataset | Nội dung máu me y khoa | 5,443 hình ảnh | 65.185% | 98.958% | Kiểm tra tham chiếu trong miền dữ liệu vết thương |
| HOD Benchmark Dataset | Đồ uống có cồn | 10,631 hình ảnh | 97.667% | 87.095% | Đánh giá chuẩn vật thể dùng cho nghiên cứu |
| HOD Benchmark Dataset | Hút thuốc | 10,631 hình ảnh | 98.222% | 93.391% | Đánh giá chuẩn vật thể dùng cho nghiên cứu |
| HOD Benchmark Dataset | Vũ khí | 10,631 hình ảnh | 85.053% | 68.659% | Đánh giá chuẩn vật thể dùng cho nghiên cứu |
| Tập con xác thực được chọn của Open Images V7 | Vũ khí | 460 hàng | 81.957% | 87.234% | Kiểm tra tham chiếu nhãn vật thể |
Các hàng này cho thấy cách Ray Guardian hoạt động ngoài bộ đánh giá chuẩn mà hệ thống được xây dựng để đáp ứng.
Vì sao các con số khác nhau
Điểm tham chiếu công khai thấp hơn không phải là một sự mâu thuẫn. Điều đó có nghĩa là bộ dữ liệu đang đặt ra một câu hỏi khác.
Bộ đánh giá chuẩn Ray Guardian theo 13 danh mục kiểm tra liệu hệ thống có nhận diện được các danh mục an toàn được sử dụng trong Ray hay không. Các bộ dữ liệu tham chiếu độc lập kiểm tra điều gì xảy ra khi nhãn bên ngoài, phương pháp thu thập bên ngoài và định nghĩa danh mục bên ngoài được ánh xạ vào hệ thống phân loại đó.
Điểm số có thể thay đổi vì những lý do đơn giản:
- Định nghĩa nhãn khác nhau. Một bộ dữ liệu có thể gắn nhãn một vật thể trong khi Ray Guardian đánh giá ý nghĩa về mặt an toàn. Một ly rượu vang, chai, dao hoặc vết thương lâm sàng không phải lúc nào cũng không an toàn khi đứng riêng lẻ.
- Nhãn khái quát. Một số nhãn an toàn công khai kết hợp nhiều khái niệm thành một nhãn rộng. Các danh mục của Ray Guardian cụ thể hơn.
- Thiếu hụt bối cảnh. Một số nhãn phụ thuộc vào chú thích, âm thanh, cảnh xung quanh hoặc ý định của con người. Các phép thử này đo lường nội dung nhìn thấy được.
- Dịch chuyển miền dữ liệu. Các bộ dữ liệu bên ngoài bao gồm nhiều kiểu cắt ảnh, độ phân giải, hình ảnh được tạo sinh, cảnh quay giám sát, ảnh cận cảnh vật thể và hình ảnh y khoa khác nhau.
- Thiết kế tác vụ khác nhau. Các đánh giá chuẩn nhận diện vật thể là những phép thử áp lực hữu ích, nhưng nhận diện vật thể không đồng nhất với kiểm duyệt an toàn thị giác.
Bộ đánh giá chuẩn tương thích cho thấy hiệu suất trên hệ thống phân loại sản phẩm của Ray Guardian. Các bộ dữ liệu tham chiếu cho thấy cách hệ thống phân loại đó chuyển giao sang dữ liệu bên ngoài phức tạp hơn.
Cách đọc kết quả đánh giá chuẩn
Hãy đọc từng con số ở cấp độ của các nhãn làm cơ sở cho con số đó.
- Kết quả theo 13 danh mục đo lường toàn bộ hệ thống phân loại an toàn cấp độ hình ảnh của Ray Guardian.
- Các hàng video đo lường Ray Guardian trên những nhãn video công khai có sẵn trong từng bộ dữ liệu.
- Các hàng tham chiếu độc lập đo lường khả năng chuyển giao sang các hệ thống nhãn bên ngoài, không phải là sự thay thế cho bộ đánh giá chuẩn hệ thống phân loại sản phẩm.
Ray Guardian hiện là lớp an toàn thị giác hợp nhất của Ray: một hệ thống dành cho hình ảnh và đoạn video, được xây dựng để phát hiện nội dung nhạy cảm và duy trì tính ổn định của các quyết định khi nội dung đa phương tiện chuyển từ khung hình này sang khung hình khác.
Bộ dữ liệu nguồn
Bộ đánh giá chuẩn trích dẫn các nguồn dữ liệu, bao gồm HMDB51 qua FiftyOne, XD-Violence, UCF-Crime, UCF101 qua FiftyOne, HoliSafe-Bench, UnsafeBench, Open Images V7, SurgWound và HOD Benchmark Dataset.
