Mô hình đa nhiệm nhận diện và lọc hình ảnh bạo lực cho trẻ em
Mô hình đa nhiệm nhận diện và lọc hình ảnh bạo lực cho trẻ em
Abstract
Internet đã trở thành một phương tiện truy cập thông tin thiết yếu hàng ngày, nhưng việc trẻ em tiếp xúc với nội dung không phù hợp có thể gây hại cho sự phát triển ban đầu. Các phương pháp lọc nội dung hiện có gặp hạn chế trong việc phát hiện chính xác và hiệu quả các nội dung không phù hợp đa dạng trên Internet. Trong bài báo này, chúng tôi đề xuất một mô hình đa nhiệm để phát hiện và lọc hình ảnh bạo lực nhằm cung cấp trải nghiệm trực tuyến an toàn hơn. Mô hình đa nhiệm này được phát triển từ mô hình nền tảng nhẹ đã được huấn luyện trước như MobileNetv2 để có thể tích hợp hợp lý vào các tiện ích mở rộng của trình duyệt web. Việc huấn luyện để phát hiện hình ảnh bạo lực có thể gây ra cảnh báo sai trong kết quả phân loại khi các hình ảnh phong cảnh hoặc vật thể không chứa bất kỳ con người nào, do đó chúng tôi phát triển hai nhiệm vụ học liên kết như phát hiện con người và phát hiện hình ảnh bạo lực đồng thời. Kết quả thí nghiệm cho thấy đề xuất mô hình đa nhiệm với quy tắc nhị phân đạt độ chính xác 98.5%, vượt trội so với mô hình đơn tác vụ trong việc phát hiện hình ảnh bạo lực. Sau đó, mô hình này cũng được tích hợp vào tiện ích mở rộng của trình duyệt để phát hiện và lọc bỏ hình ảnh bạo lực nhằm ngăn chặn trẻ em tiếp xúc với nội dung có hại.
References
Unicef-annual-report-2021, https://www.unicef.org/reports/unicefannual-report-2021, Last accessed 21 Feb, 2024.
Van Bruwaene, D., Huang, Q. & Inkpen, D. "A multiplatform dataset for detecting cyberbullying in social media", Lang Resources & Evaluation, 54, 851–874, 2020.
Van Bruwaene, David, Qianjia Huang, and Diana Inkpen, "A multi-platform dataset for detecting cyberbullying in social media", Language Resources and Evaluation, 54, 851-874, 2020.
Ramzan, Muhammad, Adnan Abid, Hikmat Ullah Khan, Shahid Mahmood Awan, Amina Ismail, Muzamil Ahmed, Mahwish Ilyas, and Ahsan Mahmood, "A review on stateof-the-art violence detection techniques", IEEE Access, 7: 107560-107575, 2019.
Mumtaz, N., Ejaz, N., Habib, S., Mohsin, S. M., Tiwari, P., Band ,"An overview of violence detection techniques: current challenges and future directions", Artificial intelligence review, 56(5), 4641-4666, 2023
Netnanny, https://www.netnanny.com/, Last accessed 21 Feb, 2024
Cybersitter, https://www.cybersitter.com/, Last accessed 21 Feb, 2024
Maxprotect, https://www.maxprotect.com/, Last accessed 21 Feb, 2024
M. Hammami, Y. Chahir and L. Chen, “WebGuard: Web based adult content detection and filtering system," In Proceedings IEEE/WIC International Conference on Web Intelligence (WI 2003), Halifax, NS, Canada, pp. 574-578,
Hu, Weiming, Haiqiang Zuo, Ou Wu, Yunfei Chen, Zhongfei Zhang, and David Suter. “Recognition of adult images, videos, and web page bags", ACM Transactions on Multimedia Computing, Communications, and Applications (TOMM) 7, no. 1: 1-24, 2011
Sharma, Preeti, Manoj Kumar, and Hitesh Sharma, "Comprehensive analyses of image forgery detection methods from traditional to deep learning approaches: an evaluation," Multimedia Tools and Applications 82, no. 12,: 18117-18150, 2023.
Soliman, Mohamed Mostafa, Mohamed Hussein Kamal, Mina Abd El-Massih Nashed, Youssef Mohamed Mostafa, Bassel Safwat Chawky, and Dina Khattab, "Violence recognition from videos using deep learning techniques," In 2019 Ninth International Conference on Intelligent Computing and Information Systems (ICICIS), pp. 80-85, 2019.
Human Action Recognition (HAR) Dataset. https://www.kaggle.com/datasets/meetnagadia/humanaction-recognition-har-dataset, Last accessed 21 Feb, 2024
Caruana, "Rich Multitask learning," Machine learning, 28 (1997): 41-75.
Sandler, Mark, Andrew Howard, Menglong Zhu, Andrey Zhmoginov, and Liang-Chieh Chen, "Mobilenetv2: Inverted residuals and linear bottlenecks," In Proceedings of the IEEE conference on computer vision and pattern recognition, pp. 4510-4520, 2018.
Google Chrome extension API, https://developer.chrome.com/docs/extensions, Last accessed 21 Feb, 2024.
