匹配违规特征库准确率超85%!
包括BGM歌词、字幕文本等内容,也会进行同步检测。
其三,跨模态关联校验。
针对“画面合规但语音违规”的隐蔽场景,该系统可通过AI关联分析,将画面元素、语音文本、BGM语义,进行多维度匹配。
误判率降低至3%以下!
远低于行业平均15%误判率。
此外,团队还根据抖音“基础-中级-高级”流量池晋级逻辑,建立了一套“流量池分级审核机制”。
审核强度随曝光量递增,以实现“小流量试错、大流量严审”,避免高风险内容大规模扩散。
基础流量池,AI全自动审核,仅拦截高危内容。
比如颜色、暴力等等。
中低风险内容,如轻微夸大的健康建议,标记为“待观察”,同步记录用户互动数据。
如完播率、举B率等。
进入中高级流量池后,人工审核便会介入。
流量越高的内容,审核层级越多。
如百万播放量视频,至少需经过3轮人工复查,同时启动“传播路径预判”。
通过社交关系链数据,如是否在家庭群、老年用户集中的社群传播,提前预判谣言扩散风险。
当内容在“家庭群”、“中老年用户社群”的转发率突增,且用户画像以45岁以上、低学历为主,系统将自动提升审核等级,
重点核查是否存在,“反智健康内容”、“伪科学常识”等等。
对疑似谣言内容,则临时添加“风险提示标签”。
如“本内容未经权威机构验证,请注意甄别”。
最后一个环节,则是“事后处置”。
参考公众号“信用分+跨平台溯源”经验,结合极光链的不可篡改特性,团队建立了一套“快速处置-精准溯源-数据反哺”的闭环。
为避免“一刀切”打击创作热情,团队设计了100分制信用分体系。
根据违规严重程度,进行阶梯式处罚。
轻则限制3天,无法进入高级流量池。
重则永久F号,处置结果同步至极光系全平台。
关联的微博、微信公众号、悠米社区“兴趣圈”,也会同步受限。
此外,通过极光链的“内容指纹上链”技术,极光建立了“跨平台违规内容指纹库”。
每条短视频,都会通过“哈希算法”,生成唯一指纹,包含标题关键词、画面关键帧特征、语音片段频谱等等。
即使二次剪辑,核心特征仍可识别。
当发现违规内容,在极光系平台二次发布时,系统自动触发“一键拦截”,并关联原账号信用分扣分。
凭借极光链不可篡改属性,溯源准确率高达99%!
后续J管核查,可直接调取链上数据,解决“违G内容删除后无证据”的问题。
总而言之,抖音这套“三维风控模型”,精准覆盖“源头准入-实时监控-闭环处理”全链路!
与之相比,现如今的绝大多数视频、短视频平台,更多仍依赖人工逐帧抽检,AI仅作为“辅助筛查工具”。
不吹不黑,至少领先全行业2~3年~
赢!