继文化部、公安部等对直播平台的内容安全进行专项整治之后，广电总局再度下发通知抵制网络直播的低俗内容。2016年是网络直播爆发的元年，近300家直播平台出现印证了蛋糕的规模，但内容安全无疑成了一个隐形的烫手山芋。
与直播同样受关注的还有人工智能，自AlphaGo名声大噪之后，人们在对人工智能表示恐惧和担忧的同时，人工智能技术的应用也渐入佳境。那么人工智能可以解决网络直播的内容隐忧吗？至少在国外已经出现了国外已经诞生了mollom、WebPurify、Sightengine等第三方反垃圾服务，国内也有Gootion、网易易盾、达观、腾讯万象等一众产品。
互联网内容安全，为何直播成了众矢之的？
据CNNIC第38次中国互联网发展状况统计报告显示，截至今年6月，我国网络直播用户规模达到3.25亿，占网民总体的45.8%。迅速火起来的直播平台，已然成为当下影响力最大的内容生产者，这便不难理解广电总局等多次下发通知的原因所在。
2012年国内的直播平台还只有区区25家，如今的庞大规模和移动直播平台的草莽式发展不无关系。一方面，纵观整个直播市场， “美女”、“秀”、“色”等具有窥私欲和荷尔蒙刺激的元素成为诸多直播平台的标配。且在监管慢半拍的情况下，早期的直播平台多以色情、暴力等低俗内容吸引观众，尽管经历了几番严打，类似的情况依旧存在。
另一方面，即便是一些直播平台的用户规模达到了千万级甚至上亿，连《信息网络传播视听节目许可证》都还没有拿到，比如花椒、斗鱼等等，一些不为人知的直播平台所面临的情况可想而知。网络直播几乎无门槛的现状，导致拼颜值、拼尺度成为直播圈的主流，不少网络主播开始游走在“灰色边缘地带”，暴力、色情、低俗、猎奇等内容层出不穷。
让人不寒而栗的是，从《2015年中国青少年上网行为研究报告》给出的数据来看，我国的青少年网民数量达到2.87亿，而直播恰是青少年网络行为的重要场景之一。色情、暴力、谣言、欺诈等对青少年的身心健康有着很大的负面作用，根治直播平台所存在的内容低俗问题已是不可不为之举。
直播平台的痛点，人工智能可以解决吗？
对于主播来讲，提供低俗内容所面临的后果无非是“禁演”，可站在直播平台的角度来看，因为低俗内容带来的负面影响和处罚却很可能导致在竞争激烈的直播市场中掉队。尽管主播月入十万的神话并不现实，直播平台的盈利模式也较为单一，可透过斗鱼、映客等数十亿的估值来看，直播已经成为名符其实的造富风口。
大多数直播平台显然不会在内容审核上轻易触碰政策的红线，但每天上千万的直播行为以及数亿的用户评论，很难依靠纯粹的人工审核来完成。事实上，从门户时代开始，内容审核就成了互联网产品的一大弊病，如今业已实现了从人工审核向人工智能的过渡，究其过程或可分为三个时期。
第一个时期可以称之为关键词过滤的时代。早期的门户网站、论坛、博客中为了审核用户评论，往往采用关键词、黑白名单和各种过滤器技术，来做一些内容的侦测和拦截。这个时期的技术手段很基础，却也能够满足早期互联网产品的需求。
第二个时期可以视为“算法”称霸的时代。进入Web2.0时代之后，互联网的产品形式变得更加丰富，网民的数量也不可同日而语。一些互联网公司开始基于计算机技术进行算法上的更新，比如贝叶斯过滤、肤色识别等，将机器内容审核的范围从文字延伸到了图片。
第三个时期就是当下的人工智能时代。大数据、云计算、人工智能等由概念走向实用，内容审核的范围扩展到文字、语音、图片、视频、直播等，几乎覆盖了移动互联网时代的所有产品。一个显著的特征就是深度学习在内容审核领域的应用，比如前文所说的Gootion、网易易盾等根据多年在安全领域违规词库的沉淀和神经网络学习能力，实现了对目标文本进行精确匹配和快速识别。
不难发现，单从技术角度来讲，人工智能和深度学习技术在内容审核上应用，在很大程度上可以解决当前内容审核的需求。可为何很多直播平台还在利用“场控”等形式进行直播监督，甚至一些典型的UGC产品还处于人工审核+算法过滤，这不得不让人思考人工智能在商业化上的思路。
人工智能的商业化，还要迈过哪些坎？
正如来自谷歌的吴军博士所说“人工智能的商业化就是看它是否已经深入到“黄赌毒”这种人类最基本的诉求中”。一语成谶 ，被神话或者妖魔化的人工智能在商业化方面并不乐观，即使是接受程度最高的“语音助手”，还未能找到可观的盈利模式。在一系列因素的作用下，内容审核成了人工智能展示的舞台，也是其在商业化领域能否破冰的关键。
互联网产品“拒绝”使用人工智能进行内容审核的原因有很多，数据保密性的顾虑、成本考虑等等不一而足。可就最核心的原因来说，人工智能技术尚未击中用户的核心痛点。那么针对垂直细分领域的解决方案会成为这些产品破冰的突破口吗？
就以网络直播为例，目前市场上专注于此的产品并不多，有巨头背景的网易易盾将现阶段的矛头瞄准了社区类产品，腾讯万象有图提供的服务过于单一，对于直播管家等专注直播的公司来说，这是一个机遇也是一个挑战。而Gootion又是怎么做的呢？大致有三点值得借鉴的地方。
首先，远低于人工审核的使用成本。
以一家月直播10万小时的中小直播平台为例，如果采用传统的内容审核技术，100人的内容管理团队每月所花费的成本在80万上下。如果借助人工智能进行内容监控，人力投入可以削减到10人左右，综合投入不过10万到20万之间。据悉，映客每月的运营成本在1亿元上下的规模，也因此远未达到盈亏平衡的状态。对中小直播平台而言更是如此，如何降低运营成本已经成为盈利与否的关键。
其次，在产品功能上覆盖更多的盲点。
从技术层面来讲，直播管家进行内容监测所涉及的技术有图像识别、语音识别、语义分析、文字识别、深度学习等，通过实时对接直播平台的内容，对其进行包括内容涉黄、涉恐等审核。相比于传统的机器审核，实现了视频、语音、图片、文本等多种识别模式，涵盖了直播平台的主播直播、弹幕、私信等场景。或许在人工智能领域并不是革命性的创新，却迎合了直播平台的刚需。
再次，提供更完善的用户追踪和数据分析。
正如很多人预言，盈利模式和用户群体高度重合的直播平台们必定面临一场“百团大战”，而如何夯实自身在主播资源、内容质量、用户粘性、运营成本等方面的优势，将决定一家直播平台的淘汰与否。人工智能在内容审核方面的应用意在保障内容质量并提升用户体验，在这个过程中对主播和用户的追踪，则为人工智能在直播平台上进行深度的数据挖掘提供了更多的可能性。比如直播管家在基础的内容审核之外，还提供了用户类型统计、主播数字画像、行业分类统计、违规态势预测等多维度的数据分析服务。这些恰是很多直播平台所欠缺的，也是降低运营成本的又一利好。
诚然，“高大上”的人工智能从技术殿堂落地还有很多的路要走，而专注于垂直细分领域或是人工智能进一步普及的捷径。
结语
直播的崛起很大程度上得益于智能终端的普及和通信技术的发展，经历了野蛮式的扩张，乱象的网络直播终究要面临一个转折点。从广电总局的态度来看，“无照经营”、轻内容、重营销的直播模式已经是一潭死水，直播内容审核将成为一种新常态，所幸还有人工智能。
Alter，互联网观察者，长期致力于对智能硬件、云计算、VR等行业的观察研究。微信公众号：spnews
