如今的互联网时代，无时无刻都在不断产生海量的文字、图片、视频等内容，内容一方面代表着更多的流量和商机，另一方面也暗藏着巨大的安全风险。不良的内容信息，不仅会导致一定的安全问题，还会给企业业务运营造成严重的损害，因此，内容安全就是互联网企业的风控命门，其重要性不言而喻。

暴力、血腥、色情、恐怖等涉黄、涉暴、涉政治敏感等内容危害着互联网平台的内容生态，国家也一直在进行着严格的治理。2017年6月，《中华人民共和国网络安全法》正式实施，其中指出“平台中不得存在涉政、涉暴、虚假、色情等信息”。2020 年 3 月国家正式施行《网络信息内容生态治理规定》，《规定》中要求所有信息发布平台的管理者必须承担起主体的责任，其平台中不得存在任何涉黄、涉暴、涉政、虚假造谣等违法违规内容。

内容安全的发展经历了“鉴黄师”到“内容安全”再到“内容合规”的三个阶段，因此网络传播格局和舆论生态也发生了新的变化与挑战，以采编权为中心的媒体管理模式也发生了颠覆性的变化。内容治理除了要考虑内容安全阶段的审核范畴外，还需充分兼顾媒体传播、法律合规，纳入业务合规的管理范畴。互联网平台时代，企业做好内容安全的治理十分关键，保障自身平台内容的安全合规十分重要，如此，才能避免因违规而遭受处罚或导致业务受损。

企业在进行内容安全治理时的难点和痛点在哪里？主要存在于，其一，“知其然不知其所以然”，对政策理解不够细致、不到位、监测工作不全面；其二，人工审核团队流动性大、人员难以培养、始终青黄不接。团队人员年轻化、缺少涉政识别能力所需要的政治敏感性及知识面；外包公司甚至多以兼职人员为主，审核效率低、效果差。

企业加强内容风控管理应该如何去做？爱加密内容风控整体解决方案，可帮助高效识别平台、网站的风险内容，并提供风控整改指导，满足内容合规要求保障业务的正常运行。

一、接入环节、机器审核

与企业沟通平台审核策略及安全策略，机器审核引擎接入与调优。

二、人工审核、专家研判与聚类回归

多业务场景按比例投入人工审核封面、简介、画面、弹幕、评论的场景化审核风险聚类回归，机器引擎强化，提升审核准确性与效率。

三、风控支撑、基于知识图谱

蓝军巡查补充，清扫外露风险实时热点舆情、风险及政策对齐，反馈团队进行聚类回归风控专家联动，确保风控效果风控预警体系，逐步提升团队能力。

典型案例