内容风控__不谈安全，便谈不上发展，内容风控专员

2022年11月26日 pm2:50 • 流量密码 • 阅读 131

“道路千万条，安全第一条”这句话，用在如今的互联网运营上，也很适用。

如今的互联网时代，无时无刻都在不断产生海量的文字、图片、视频等内容，内容一方面代表着更多的流量和商机，另一方面也暗藏着巨大的安全风险。

暴力、血腥、色情、恐怖等涉黄、涉暴、涉政治敏感等内容危害着互联网平台的内容生态，国家也一直在进行着严格的治理。2017年6月，《中华人民共和国网络安全法》正式实施，其中指出“平台中不得存在涉政、涉暴、虚假、色情等信息”。2020 年3月国家正式施行《网络信息内容生态治理规定》，《规定》中要求所有信息发布平台的管理者必须承担起主体的责任，其平台中不得存在任何涉黄、涉暴、涉政、虚假造谣等违法违规内容。

内容安全的发展经历了“鉴黄师”到“内容安全”再到“内容合规”的三个阶段，因此网络传播格局和舆论生态也发生了新的变化与挑战，以采编权为中心的媒体管理模式也发生了颠覆性的变化。

内容治理除了要考虑内容安全阶段的审核范畴外，还需充分兼顾媒体传播、法律合规，纳入业务合规的管理范畴。

内容合规是企业良性发展的基石

随着互联网内容的迅猛发展，监管政策趋严，内容安全事件频发，有时候内容风控的成败直接决定着互联网内容平台和企业的生死。

企业内容安全治理面临的难点和痛点主要在以下几个方面：

一是在业务系统的迭代上。“知其然不知其所以然”，对政策理解不够细致、不到位、监测工作不全面，很难全面而清晰地考虑内容风险。风险点的持续监测、垃圾内容形式的千变万化、审核标准的不断调整，都要做到事先预估和全面整理，很可能成为业务发展的阻碍因素。

二是资源投入及回报不对等。海量内容的人工审核成本较高，短期内只能看到成本投入，不能看到明显的收益和效果，导致前期请求资源得不到管理层的有效支持。

三是内容风控安全与业务目标不一致。产品和业务的目标是快速提升经营的数据指标，然而，内容风控安全的介入则会在一定程度上减缓业务达到指标的速度，所以找到内容风控安全与业务目标的平衡点，亦是需要长期探索的问题。

AI赋能，“白泽”为企业内容安全护航

“白泽”，是人民日报社传播内容认知全国重点实验室与人民中科，共同发布的跨模态智能搜索引擎，可实现跨平台跨模态的内容搜索。

“白泽”搜索引擎主页面

面对数字世界的海量内容，需要新技术手段来解决非结构化数据的理解和关联。首先人工智能出现后解决了部分问题，可是传统厂家通过多模态、多模型进行内容理解，却无法应对未来海量增长的数据。

而“白泽”则选择了跨模态的技术手段，通过中小模型就解决以前需要上百个模型才能解决的问题，大幅减少算力消耗。实现了文本搜图片、文本搜视频、图片搜视频、视频搜视频、图片搜文字、视频搜文字等多元搜索需求，能够解决海量非结构化内容人工无力处理、机器难以理解的难题。

同时，通过智能化的理解和检索，“白泽”可实现对互联网内容的日常巡查、对可预判的重要事件的提前预警、对舆情热点的监测分析、对行业风险案例的解读分析等，广泛运用于新零售、传媒、互联网金融、在线教育、政府、安防、信息通信等应用场景，有效帮助各互联网主体降低内容风险，保障运营安全。

让风控领先于风险！在智能风控上，《智能风控 | 风险早发现，“白泽”来预警》，“白泽”通过领先的内容理解技术，可以对潜在的舆情风险进行弱信号预警，实时动态维护企业内容安全。

“白泽”企业公共服务平台已发布，向客户提供版权保护、商品监测、智能媒体、新媒体营销、内容风控等产品和服务。目前已经在各级各类机构的内容风控，媒体深度融合与发展领域，以及金融、教育等应用场景发挥出不可或缺的作用。

责编：岳青植
监制：李红梅

部分资料参考来源：《业务安全发展洞察报告（2021年）》、网信中国

若对本页面资源感兴趣，请点击下方或右方图片，注册登录后

搜索本页相关的【资源名】【软件名】【功能词】或有关的关键词，即可找到您想要的资源

如有其他疑问，请咨询右下角【在线客服】，谢谢支持！

本文内容由互联网用户自发贡献，该文观点仅代表作者本人。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容，请发送邮件至 sumchina520@foxmail.com 举报，一经查实，本站将立刻删除。
如若转载，请注明出处：https://www.jukee8.cn/3186.html

内容风控__不谈安全，便谈不上发展，内容风控专员

相关推荐