随着刘耕宏直播健身大火，“谋财害命”组合成为了网络热梗。无论是直播“健身”还是直播“带货”，都会面临内容和营销的双重风险。而相较于图文音视频，直播的内容量级和交易风控对即时性的要求也更高，更需要采用多元、复合的风控策略和系统。本文将着重探讨直播的痛点、面临的风险和应对策略。

一、直播风险高发—万物皆可“云XX”

先看一组CNNIC去年发布的数字：

截至 2021 年 6 月，我国网络直播用户规模达 6.38 亿，同比增长 7539 万，占网民整体的 63.1%；
电商直播用户规模为 3.84 亿，同比增长 7524 万，占网民整体的 38.0%；
游戏直播用户规模为 2.64 亿，同比减少 452 万，占网民整体的 26.2%；
真人秀直播用户规模为 1.77 亿，同比减少 875 万，占网民整体的 17.6%；
演唱会直播用户规模为 1.30亿，同比增长 896 万，占网民整体的 12.8%；
体育直播用户规模为 2.46 亿，同比增长5305万，占网民整体的 24.4%。

受疫情催化，几乎增长见顶的直播，又迎来一轮爆发，直播成为平台必备能力，微信、小红书、Keep，甚至银行、教育平台内都嵌入了直播功能，直播逐渐成为一种生活方式，渗透到用户的多种生活场景里，“云XX”兴起，如云课堂、云旅游、云看展、云蹦迪、云音乐节、云监工等，直播电商迅速完成市场教育，也推动各类传统企业加速线上化布局，如银行直播办理业务、汽车直播、挖掘机厂商直播。

云蹦迪、云监工

新内容、新用户和新市场，加上监管趋严，行业正规化，直播行业对内容和业务的风控能力都提出新的要求。

针对不良内容，相关规范陆续出台。2020年6月，国家互联网信息办公室会同相关部门对31家主要网络直播平台的内容生态进行全面巡查，视违规情节对相关平台采取停止主要频道内容更新、暂停新用户注册、限期整改等处置措施。2021《关于加强网络直播规范管理工作的指导意见》，确立了完善的工作机制，规定各部门在网络直播行业的监管职责；坚决打击利用网络直播颠覆国家政权、散播历史虚无主义、煽动宗教极端主义、宣扬民族分裂思想、教唆暴力恐怖等违法犯罪活动；严厉查处淫秽色情、造谣诽谤、赌博诈骗、侵权盗版、侵犯公民个人信息等违法犯罪行为；全面清理低俗庸俗、封建迷信、打“擦边球”等违法和不良信息。

其次，网络直播行业规范密集出台。2020年6月，中国广告协会发布《网络直播营销行为规范》，成为首部针对直播电商行业的全国性规定，当年11月，国家广播电视总局发布《关于加强网络秀场直播和电商直播管理的通知》；《网络交易监督管理法》《网络直播营销管理办法（试行）》于2021年上半年陆续实施，将电商直播明确纳入网络交易监管范围，推动电商直播行业市场秩序进一步规范。

未成年人的网络保护成为关注焦点，2021年《关于加强网络文化市场未成年人保护工作的意见》，规定要压实市场主体责任，切实强化用户识别、严格保护个人信息、坚决阻断有害内容、严禁借“网红儿童”牟利、有效规范金钱打赏。

监管侧带来三方面压力：1. 监管行动具有流动性，频率难以预测；2. 监管尺度具有趋向性，逐步收严收紧；3. 监管范围具有扩大性，辐射更多分类。

二、内容风险多样—多场景防控，动态调整

常见的直播行业内容审核场景包括头像、昵称、评论、弹幕、发帖、一对一聊天、多对多聊天等等，一方面审核播出内容，一方面审核观众参与内容，其中，又涉及文字、图片、音视频、网页等内容形态，拆解下来还是音频转文字审核，视频拆分为文字（音频/纯文字/视觉识别文字）和图片（视频静帧）进行审核。

举个例子，直播按截图和音频段分别进行审核，内容包括头像、昵称、评论、画面、声音等，机器预审后进入人工审核流程，如有问题，删除数据，惩罚账号。

直播内容审核痛点在于：

1. 审核量巨大，比如就快手单平台而言，一年的直播场次接近14亿，平均每月开播1.16亿次；
2. 场景复杂，审核维度多样。直播平台包含昵称、弹幕、头像、直播画面、直播音频等多场景数据；
3. 审核时效性要求高，从主播发生违规到平台完成处罚，要求分钟级别的处理时效；
4. 类型多样，涉政、色情、暴恐、娇喘、辱骂、广告导流等违规类型多种多样；
5. 电商直播类有新的审核标签，包括：其他竞品信息（友商logo、讲话内容等）、广告法违禁词（“最好”、“最坏”、“最强”）、夸张/误导用语（“跳楼价”、“吐血价”）、直播间质量标签（直播间画面杂乱、消极直播、长时间播放广告等）。

针对于此，数美认为，根据平台调性、场景数据的影响范围和审核发布流程共同决定数据的拦截标准，比如电商平台对广告法违禁词标签的拦截更为敏感，教育平台对未成年人不宜内容、辱骂的拦截更加严格；直播弹幕短时飘过，即发即审即时处置，比评论更偏准确，不拦灌水。

具体到审核技术，数美采用深度学习技术进行文本、图片、语音、视频内容识别，结合产生内容的账号、设备、IP的行为以及全球风险库，精准识别色情、涉政、违禁、暴恐、广告等内容风险，实时同步网安、网信办等有关部门监管要求、监测实时热点事件，持续更新数十万量级的敏感词库，通过灵活的名单匹配（白名单、黑名单、忽略名单、变体名单等）和强大的NLP模型，结合多场景、多维度判定，实现高效、准确、全面覆盖的内容审核过滤。

举个例子，针对直播质量，数美从五个维度提出通用解决方案：

1. 内容类型区分：唱歌、跳舞、乐器、健身、游戏、吃播、户外等类型，也可检测与平台内容资质或主播标签不符的内容

2. 主播专业度检测：主播对新观众/收到礼物后的反馈时间，主播表情识别（微笑，是否正视镜头等）

3. 直播质量检测：空播/无人直播/消极直播/画质调性等

4. 低俗内容检测：低俗动作、饭圈文化、审丑等不合适内容

5. 违规内容检测：公职人员制服着装画面、抽烟喝酒等不端行为、未成年人画面、开车场景等