井喷式的行业发展，使得各方监管变得心余力绌。违规内容成了平台审核之痛，发展之殇。在此背景下，主管部门重拳出击，多个短视频平台遭约谈、整改、下架。短视频、直播平台持有对违规内容绝不姑息的坚定立场以及从严处理的决心，在投入庞大资金的同时，并已开始大幅度扩大审核团队，加大人工审核力度进行紧急应对。
规范传播内容、保护未成年人健康成长，弘扬正确的社会主义核心价值观，各视频平台和关联企业都有着不可推卸的责任和义务。然而，由于视频量巨大，人工审核力有不逮，在加大人工审核力度之外，金山云金睛——一站式AI内容安全服务为视频平台提供了全新的解决方案。
“金睛”上岗 配合人工大幅提高审核效率
金山云AI内容安全监管平台——“金睛”，早在2016年直播、短视频方兴未艾之际，紧随《互联网直播服务管理规定》同步上线，致力于为平台方提供一站式AI内容安全服务。“金睛”见证了短视频、直播行业的整个兴盛过程，同时夯实了自身基础。
当前，每天新增的短视频、直播数量不低于5000万条，不良“UP主”、主播使出“十八般武艺”钻监管漏洞，常出现图像正常而语音违规、违规行为持续时间短、打规则擦边球等问题，都会加大审核难度。巨大的审核工作依靠现有的“堆人”战术已经很难从当下的困局中突围，引入基于深度学习、图像识别、云技术的AI内容安全监管能力，提升审核效率和精准度，变得尤为重要。对比发现，采用传统的人工审核方式，可做到3万张/人/天，准确率约80%，而金山云“金睛”可以做到全天24小时不限量识别，1s之内响应，准确率高达99%以上，可大大提升效率。
单一依靠人工审核来保持网络环境的洁净安全，成本之高和耗时耗力之大显然无法应对飞速增长的数据量。面对复杂的网络环境，“金睛”与人工审核相结合的方式，是金山云提供给行业“破局”最行之有效的解决方案。
目前，金山云为90%的互联网、媒体及广电等行业头部客户提供服务，业务覆盖直播、短视频、长视频、OTT等多种视频业态。从最早入局视频、直播行业，经过多年积累，目前拥有10亿精标数据，夯实了金山云“金睛”广泛应用的基础。“金睛”基于精准AI算法模型，支持涉黄、涉恐、涉政、不良广告等多种违规场景的内容审核，同时提供直播实时AI内容安全监管服务、短视频AI安全审核解决方案，从而有效净化网络环境。基于深厚的大数据沉淀，金山云“金睛”对违规场景进行精细化标签，目前分别支持200+暴恐类标签识别和1000+敏感人物识别，鉴黄识别方面准确率超过99%。
金山云“金睛”低俗场景判断结果与其他平台对比
“金睛” 严审违规与辅助平台深度运营同举
众多直播、短视频平台都先后选择使用金山云“金睛”来进行内容安全监管服务，例如龙珠直播。龙珠直播是国内最全的赛事直播，最丰富的游戏视频互动平台。龙珠直播借助金山云“金睛”平台领先的内容监管能力，确保平台上不出现淫秽色情、凶杀暴力等有害信息，不传播泛娱乐化、低俗、恶搞等不良内容。
区别于传统的SDK、API方式的技术应用，龙珠直播将实时的直播流同步共享在金山云“金睛”平台上，“金睛”高效对直播流进行抽帧解析，从审核、响应、复审到违规结果传输给龙珠运营人员，全程30s之内高效执行并同步发送给龙珠运营人员进行跟进。另外，金睛根据龙珠平台上主播直播时间、行为、内容的抓取进行数据沉淀，利于运营方对主播的管理，对有潜在违规倾向的主播进行监控。
监管同时，关注用户的视频消费体验也是重点，监管做到不“死”管，才是真正的维护消费者的切身权益。例如维护体赛事直播的健康发展，“金睛”为龙珠直播上球类内容进行识别，杜绝非版权赛事视频在平台的恶性传播。对于游戏玩家，金睛针对平台上热门的“吃鸡游戏”进行了定制化的内容识别，精准识别主播游戏数据，辅助直播平台进行深度运营，增加电子竞技的观赏性，实现用户体验和主流价值观正确引导的统一。
京公网安备 11010502049343号