繼文化部、公安部等對直播平臺的內容安全進(jìn)行專(zhuān)項整治之后，廣電總局再度下發(fā)通知抵制網(wǎng)絡(luò )直播的低俗內容。2016年是網(wǎng)絡(luò )直播爆發(fā)的元年，近300家直播平臺出現印證了蛋糕的規模，但內容安全無(wú)疑成了一個(gè)隱形的燙手山芋。

與直播同樣受關(guān)注的還有人工智能，自AlphaGo名聲大噪之后，人們在對人工智能表示恐懼和擔憂(yōu)的同時(shí)，人工智能技術(shù)的應用也漸入佳境。那么人工智能可以解決網(wǎng)絡(luò )直播的內容隱憂(yōu)嗎？至少在國外已經(jīng)出現了國外已經(jīng)誕生了mollom、WebPurify、Sightengine等第三方反垃圾服務(wù)，國內也有網(wǎng)易易盾、Gootion、達觀(guān)、騰訊萬(wàn)象等一眾產(chǎn)品。

互聯(lián)網(wǎng)內容安全，為何直播成了眾矢之的？

據CNNIC第38次中國互聯(lián)網(wǎng)發(fā)展狀況統計報告顯示，截至今年6月，我國網(wǎng)絡(luò )直播用戶(hù)規模達到3.25億，占網(wǎng)民總體的45.8%。迅速火起來(lái)的直播平臺，已然成為當下影響力最大的內容生產(chǎn)者，這便不難理解廣電總局等多次下發(fā)通知的原因所在。

2012年國內的直播平臺還只有區區25家，如今的龐大規模和移動(dòng)直播平臺的草莽式發(fā)展不無(wú)關(guān)系。一方面，縱觀(guān)整個(gè)直播市場(chǎng)， “美女”、“秀”、“色”等具有窺私欲和荷爾蒙刺激的元素成為諸多直播平臺的標配。且在監管慢半拍的情況下，早期的直播平臺多以色情、暴力等低俗內容吸引觀(guān)眾，盡管經(jīng)歷了幾番嚴打，類(lèi)似的情況依舊存在。

另一方面，即便是一些直播平臺的用戶(hù)規模達到了千萬(wàn)級甚至上億，連《信息網(wǎng)絡(luò )傳播視聽(tīng)節目許可證》都還沒(méi)有拿到，比如花椒、斗魚(yú)等等，一些不為人知的直播平臺所面臨的情況可想而知。網(wǎng)絡(luò )直播幾乎無(wú)門(mén)檻的現狀，導致拼顏值、拼尺度成為直播圈的主流，不少網(wǎng)絡(luò )主播開(kāi)始游走在“灰色邊緣地帶”，暴力、色情、低俗、獵奇等內容層出不窮。

讓人不寒而栗的是，從《2015年中國青少年上網(wǎng)行為研究報告》給出的數據來(lái)看，我國的青少年網(wǎng)民數量達到2.87億，而直播恰是青少年網(wǎng)絡(luò )行為的重要場(chǎng)景之一。色情、暴力、謠言、欺詐等對青少年的身心健康有著(zhù)很大的負面作用，根治直播平臺所存在的內容低俗問(wèn)題已是不可不為之舉。

直播平臺的痛點(diǎn)，人工智能可以解決嗎？

對于主播來(lái)講，提供低俗內容所面臨的后果無(wú)非是“禁演”，可站在直播平臺的角度來(lái)看，因為低俗內容帶來(lái)的負面影響和處罰卻很可能導致在競爭激烈的直播市場(chǎng)中掉隊。盡管主播月入十萬(wàn)的神話(huà)并不現實(shí)，直播平臺的盈利模式也較為單一，可透過(guò)斗魚(yú)、映客等數十億的估值來(lái)看，直播已經(jīng)成為名符其實(shí)的造富風(fēng)口。

大多數直播平臺顯然不會(huì )在內容審核上輕易觸碰政策的紅線(xiàn)，但每天上千萬(wàn)的直播行為以及數億的用戶(hù)評論，很難依靠純粹的人工審核來(lái)完成。事實(shí)上，從門(mén)戶(hù)時(shí)代開(kāi)始，內容審核就成了互聯(lián)網(wǎng)產(chǎn)品的一大弊病，如今業(yè)已實(shí)現了從人工審核向人工智能的過(guò)渡，究其過(guò)程或可分為三個(gè)時(shí)期。

第一個(gè)時(shí)期可以稱(chēng)之為關(guān)鍵詞過(guò)濾的時(shí)代。早期的門(mén)戶(hù)網(wǎng)站、論壇、博客中為了審核用戶(hù)評論，往往采用關(guān)鍵詞、黑白名單和各種過(guò)濾器技術(shù)，來(lái)做一些內容的偵測和攔截。這個(gè)時(shí)期的技術(shù)手段很基礎，卻也能夠滿(mǎn)足早期互聯(lián)網(wǎng)產(chǎn)品的需求。

第二個(gè)時(shí)期可以視為“算法”稱(chēng)霸的時(shí)代。進(jìn)入Web2.0時(shí)代之后，互聯(lián)網(wǎng)的產(chǎn)品形式變得更加豐富，網(wǎng)民的數量也不可同日而語(yǔ)。一些互聯(lián)網(wǎng)公司開(kāi)始基于計算機技術(shù)進(jìn)行算法上的更新，比如貝葉斯過(guò)濾、膚色識別等，將機器內容審核的范圍從文字延伸到了圖片。

第三個(gè)時(shí)期就是當下的人工智能時(shí)代。大數據、云計算、人工智能等由概念走向實(shí)用，內容審核的范圍擴展到文字、語(yǔ)音、圖片、視頻、直播等，幾乎覆蓋了移動(dòng)互聯(lián)網(wǎng)時(shí)代的所有產(chǎn)品。一個(gè)顯著(zhù)的特征就是深度學(xué)習在內容審核領(lǐng)域的應用，比如前文所說(shuō)的Gootion、網(wǎng)易易盾等根據多年在安全領(lǐng)域違規詞庫的沉淀和神經(jīng)網(wǎng)絡(luò )學(xué)習能力，實(shí)現了對目標文本進(jìn)行精確匹配和快速識別。

不難發(fā)現，單從技術(shù)角度來(lái)講，人工智能和深度學(xué)習技術(shù)在內容審核上應用，在很大程度上可以解決當前內容審核的需求?？蔀楹魏芏嘀辈テ脚_還在利用“場(chǎng)控”等形式進(jìn)行直播監督，甚至一些典型的UGC產(chǎn)品還處于人工審核+算法過(guò)濾，這不得不讓人思考人工智能在商業(yè)化上的思路。

人工智能的商業(yè)化，還要邁過(guò)哪些坎？

正如來(lái)自谷歌的吳軍博士所說(shuō)“人工智能的商業(yè)化就是看它是否已經(jīng)深入到“黃賭毒”這種人類(lèi)最基本的訴求中”。一語(yǔ)成讖 ，被神話(huà)或者妖魔化的人工智能在商業(yè)化方面并不樂(lè )觀(guān)，即使是接受程度最高的“語(yǔ)音助手”，還未能找到可觀(guān)的盈利模式。在一系列因素的作用下，內容審核成了人工智能展示的舞臺，也是其在商業(yè)化領(lǐng)域能否破冰的關(guān)鍵。

互聯(lián)網(wǎng)產(chǎn)品“拒絕”使用人工智能進(jìn)行內容審核的原因有很多，數據保密性的顧慮、成本考慮等等不一而足?？删妥詈诵牡脑騺?lái)說(shuō)，人工智能技術(shù)尚未擊中用戶(hù)的核心痛點(diǎn)。那么針對垂直細分領(lǐng)域的解決方案會(huì )成為這些產(chǎn)品破冰的突破口嗎？

就以網(wǎng)絡(luò )直播為例，目前市場(chǎng)上專(zhuān)注于此的產(chǎn)品并不多，有巨頭背景的網(wǎng)易易盾將現階段的矛頭瞄準了社區類(lèi)產(chǎn)品，騰訊萬(wàn)象有圖提供的服務(wù)過(guò)于單一，對于直播管家等專(zhuān)注直播的公司來(lái)說(shuō)，這是一個(gè)機遇也是一個(gè)挑戰。而又該怎么做的呢？大致有三點(diǎn)值得借鑒的地方。

首先，遠低于人工審核的使用成本。

以一家月直播10萬(wàn)小時(shí)的中小直播平臺為例，如果采用傳統的內容審核技術(shù)，100人的內容管理團隊每月所花費的成本在80萬(wàn)上下。如果借助人工智能進(jìn)行內容監控，人力投入可以削減到10人左右，綜合投入不過(guò)10萬(wàn)到20萬(wàn)之間。據悉，映客每月的運營(yíng)成本在1億元上下的規模，也因此遠未達到盈虧平衡的狀態(tài)。對中小直播平臺而言更是如此，如何降低運營(yíng)成本已經(jīng)成為盈利與否的關(guān)鍵。

其次，在產(chǎn)品功能上覆蓋更多的盲點(diǎn)。

從技術(shù)層面來(lái)講，利用人工智能進(jìn)行內容監測所涉及的技術(shù)有圖像識別、語(yǔ)音識別、語(yǔ)義分析、文字識別、深度學(xué)習等，通過(guò)實(shí)時(shí)對接直播平臺的內容，對其進(jìn)行包括內容涉黃、涉恐等審核。相比于傳統的機器審核，實(shí)現了視頻、語(yǔ)音、圖片、文本等多種識別模式，涵蓋了直播平臺的主播直播、彈幕、私信等場(chǎng)景?；蛟S在人工智能領(lǐng)域并不是革命性的創(chuàng )新，卻迎合了直播平臺的剛需。

再次，提供更完善的用戶(hù)追蹤和數據分析。

正如很多人預言，盈利模式和用戶(hù)群體高度重合的直播平臺們必定面臨一場(chǎng)“百團大戰”，而如何夯實(shí)自身在主播資源、內容質(zhì)量、用戶(hù)粘性、運營(yíng)成本等方面的優(yōu)勢，將決定一家直播平臺的淘汰與否。人工智能在內容審核方面的應用意在保障內容質(zhì)量并提升用戶(hù)體驗，在這個(gè)過(guò)程中對主播和用戶(hù)的追蹤，則為人工智能在直播平臺上進(jìn)行深度的數據挖掘提供了更多的可能性。比如在基礎的內容審核之外，提供用戶(hù)類(lèi)型統計、主播數字畫(huà)像、行業(yè)分類(lèi)統計、違規態(tài)勢預測等多維度的數據分析服務(wù)。這些恰是很多直播平臺所欠缺的，也是降低運營(yíng)成本的又一利好。

誠然，“高大上”的人工智能從技術(shù)殿堂落地還有很多的路要走，而專(zhuān)注于垂直細分領(lǐng)域或是人工智能進(jìn)一步普及的捷徑。

結語(yǔ)

直播的崛起很大程度上得益于智能終端的普及和通信技術(shù)的發(fā)展，經(jīng)歷了野蠻式的擴張，亂象的網(wǎng)絡(luò )直播終究要面臨一個(gè)轉折點(diǎn)。從廣電總局的態(tài)度來(lái)看，“無(wú)照經(jīng)營(yíng)”、輕內容、重營(yíng)銷(xiāo)的直播模式已經(jīng)是一潭死水，直播內容審核將成為一種新常態(tài)，所幸還有人工智能。

人工智能概念股：埃斯頓、科大智能、漢王科技、江南化工、華東數控、和而泰、中科曙光、永創(chuàng )智能、北京君正、通富微電、永創(chuàng )智能、勁拓股份。