视频内容安全评价发展探讨

• 作者: 吴晨思 蔡茂滨 杨耀淳 赵晓莺 范科峰
• 来源期刊: 中国图象图形学报
• 学科: 工学
• 关键词: 网络内容安全 视频内容 内容安全评价 视频分析 量化评价
• 年，卷（期）: 2022,（1）
• 所属期刊栏目: 综述|Review
• 页码范围: 163-175
• 页数: 13页
• 分类号: TP301.6
• 语种: 中文
• DOI: 10.11834/jig.210500

摘要

随着信息技术的快速发展,以视频为主的新媒体极大改变了信息传播方式.但是视频中不安全内容的传播容易带来潜在风险,可能产生不良社会影响,并造成一定损失.因此,视频内容的安全性研究具有重要的理论价值和重大应用需求,受到了研究人员的广泛关注.视频内容安全评价是描述视频内容安全性的重要方法,能够有效管理视频中不良信息的传播风险,降低影响和损失.本文从建立技术理论体系角度,围绕4个方面的内容监管,梳理了视频内容安全评价体系.围绕5个评价原则,总结了视频内容安全评价方法,阐述了基于PDCA(plan-do-check-act)原理的视频内容安全评价流程;综合考虑不良内容的特点,从5个方面提炼形成了视频内容安全评价指标,包括内容干扰度、内容恶意度、内容敏感度、内容暴露度和内容倾向度.给出视频内容安全风险计算的过程,阐述了基于层次分析的量化方法,从而得到视频内容风险程度,即视频内容安全风险值,结果考虑了决策的主客观特征;从高、中、低3个等级评价视频内容风险严重性的总体水平,更便于优化视频内容风险处理顺序.等级排序不仅提高了检测发现安全风险的效率,也为视频内容分级提供数据支撑.最后分析了视频内容评价面临的挑战机遇,详尽总结了十大待解决问题,展望了未来研究方向与发展趋势.