“后臺每天都會添加大量敏感詞……我們有時候私底下坐一塊兒，你去想，你也去想，就找（某個敏感詞的）諧音……你想想，中國漢字（這么多），比如跟‘微信’這兩個字諧音的就得有多少？”“1000多個關(guān)于防爆的敏感詞，我自己都不知道是什么東西，全進詞庫了”“進了這個行業(yè)，才分得清什么是性感，什么是低俗，什么是暴露”。
講這些話時，林達正坐在位于北京酒仙橋路360公司所投資的平臺——花椒直播的“攝影棚”里，所謂攝影棚，其實是一間小會議室，林達是花椒直播的600多名內(nèi)容審核員之一。出寫字樓往東南方向再走1.3公里，是國投信息創(chuàng)意產(chǎn)業(yè)園，這是另一家直播平臺“人人直播”所在地——自納斯達克上市后在資本運作上困頓已久的人人網(wǎng)也終于忍不住在2016年開始試水直播，雖然規(guī)模相對不大，但比起之前的純校園社交平臺，這已經(jīng)算是更直觀的商業(yè)化嘗試。
繼文字、圖片、視頻之后，隨著技術(shù)升級與資本追捧，帶有時間流這個第四種呈現(xiàn)維度的直播在過去一年里暴得大名，想在“風口”分得一杯羹的創(chuàng)業(yè)者眾，想趁機抓住一根救命稻草的焦慮者眾，于是不乏魚龍混雜，急功近利中泥沙俱下。隨之而來的，是一系列來自行政的規(guī)范肅清。2017年5月，文化部高調(diào)關(guān)停了涉嫌低俗傳播的“千樹”等10家表演平臺，并對48家網(wǎng)絡(luò)表演經(jīng)營單位進行了處罰，關(guān)閉直播間30235間。
迅速野蠻生長后，除稗篩糠成了主流直播平臺不敢掉以輕心要自我應對的事情，加上用戶數(shù)量與日俱增，于是各家產(chǎn)品不得不快速跟進增設(shè)更多的內(nèi)容審核員進入運營團隊。一直播高級副總裁陳太鋒告訴網(wǎng)易科技，比如公司由最初只審核旗下秒拍內(nèi)容的幾十人，到后來有了小咖秀、一直播等產(chǎn)品，現(xiàn)在做內(nèi)容審核的“整個加起來將近七八百號人”。
雖然這似乎是一個看起來并不需要什么鮮明特長的群體，甚至做的事情“類似富士康這種流水線的工作”，但由于工作性質(zhì)微妙，仍略帶神秘感，也有外界聲音把他們稱作“鑒黃師”。
“這是諧音字，你好好念念”
“其實還不一樣，到鑒黃師這個級別，他們就不做初級審核員這些工作了，他們會創(chuàng)造和制定規(guī)則”，林達認真地告訴網(wǎng)易科技，所以目前國內(nèi)絕大部分從事直播內(nèi)容過濾的相關(guān)工作人員，稱為“內(nèi)容審核員”是更嚴謹?shù)恼f法。
好像在敘述一款升級打怪的手游。
林達今年24歲，小時候隨父母來到北京生活，便再沒有回陜西老家長住過。2015年大學畢業(yè)，去年入職花椒直播做了內(nèi)容審核員，和朋友們一塊兒吃飯時大家聊起來，別人問他：“你現(xiàn)在是不是有點網(wǎng)絡(luò)警察的感覺??？”“對?！彼X得這個比喻很受用。
馬可也不大喜歡別人用“鑒黃師”三個字來概括自己在人人直播的內(nèi)容審核工作，2016年春節(jié)過后，人人網(wǎng)嘗試上線了初版直播平臺，從原運營團隊抽拔了一部分人轉(zhuǎn)做直播內(nèi)容審核，不過由于體量有限，直到后來有新人繼續(xù)補充加入，整個審核團隊也不過保持在二三十人左右的狀態(tài)。馬可特意強調(diào)他們做的不僅僅是基礎(chǔ)審核，由于主要面向校園人群，相對單純，所以平時還有很大一部分工作內(nèi)容是和主播溝通交流、甚至提些優(yōu)化建議的更有“運營”技術(shù)含量的事情。
而無論哪家平臺，對于內(nèi)容審核員來說最常規(guī)的工作方式，就是面對屏幕“大家來找茬兒”。據(jù)網(wǎng)易科技了解，比如人人直播后臺審核，一張電腦屏平時可同時監(jiān)管9個直播間；花椒直播目前采用的是雙屏監(jiān)控，同時可在線觀察20路視頻，在高峰期甚至會讓每個審核員擴展到同時監(jiān)管50路。
嗯，《封神演義》中的“眼觀四面，耳聽八方”也不過如此……
除此之外，各主流平臺目前也都在不同程度采用人工智能做前期過濾，對于疑似存在問題的圖像或語音內(nèi)容進行標紅提示。陳太鋒透露，一直播就在同時采用人臉識別技術(shù)、爆恐音頻過濾以及視頻指紋過濾等方式來對人工審核進行輔助。
對于所有平臺來說，審核最主要的關(guān)注點無非是包括對主播的穿著、語言、房間布置等等是否違禁的判斷，判斷標準主要參考各家平臺自制的內(nèi)部規(guī)范手冊，這類手冊往往可以細化到這樣的程度：如果以5號宋體字排版、用A4紙打印，裝訂起來能有300頁之多，而且還在動態(tài)增補。審核員需要在入職前經(jīng)過一周到一個月時間不等的培訓、考試，全部通過后，才正式上崗。而考核指標主要來自兩方面：一是錯誤率，一是工作量。
當審核員看到主播在直播過程中有涉嫌違規(guī)時，對有觸線傾向或輕度觸線者會在后臺給出警告提示，對于無視提醒或重度違規(guī)者則直接令其下線，給予幾個小時到一個月，甚至永久封禁的處罰。
但是不同直播平臺在具體操作方面會略有不同。有一直播這一類圖文同審，也有花椒這種做影像與文字分離審核。林達告訴網(wǎng)易科技，由于審核規(guī)則設(shè)置極為細致，為個體做判斷的過程增加了難度，所以花椒目前是專人專項做審核，文字、圖片與視頻分離，比如對于文字內(nèi)容，要查看包括飄屏、評論、狀態(tài)頁介紹等內(nèi)容，必要時甚至會查看私信。
敏感詞庫也是直播平臺標配之一，并且各平臺在日積月累實時添加大量敏感詞，“我們有時候私底下坐一塊兒，你去想，你也去想，就找（某個敏感詞的）諧音……你想想，中國漢字（這么多），比如跟‘微信’這兩個字諧音的就得有多少？……（不安分的用戶）他們一直在想一些（關(guān)聯(lián)）字，雖然乍一看跟那些亂七八糟的八竿子打不著，但是別的用戶可能一看就知道是什么意思那種?！绷诌_說，有一次總監(jiān)去參加“防爆培訓”，回來立馬把1000多個敏感詞加入了后臺詞庫，“那些詞，（當時）我自己都不知道是什么東西?！?/p>
這類工作做久了，也容易產(chǎn)生職業(yè)敏感，有一次林達看到父親正在用一款音樂類的社交App，“我就問他，你覺得這個人沒有問題嗎？他說沒有啊，唱歌的小姑娘長得還挺好看的。我就說：這是諧音字，你好好念念?！?/p>
當時屏幕上顯示的幾個字是“伍佰肄業(yè)”。當然，想講述的顯然并不是歌手伍佰沒能順利畢業(yè)的故事。
“我們被對手黑了，還上了微博熱搜”
某直播平臺員工沈浪向網(wǎng)易科技抱怨道，有一天晚上其平臺突然出現(xiàn)三個戴著口罩但明顯涉嫌傳播色情內(nèi)容的人員，迅速直播，迅速下線。第二天關(guān)于該事件的消息鋪天蓋地傳開，并且上了微博熱搜?！暗俏覀兗夹g(shù)一篩查，發(fā)現(xiàn)這三個人是同一個開播地點，連IP都一樣，后來發(fā)現(xiàn)是競品直播平臺雇人來抹黑的，他們還沒開始播，就提前把錄制軟件打開，播完自己再去看錄像，然后截圖發(fā)通稿，發(fā)給了很多媒體?！?/p>
但是這件事情最終仍然不了了之，沒有走法律程序解決?！耙驗槟阒来蚬偎镜脑?，其實要很長時間……而且這家公司我們還是比較了解的，估計老板之間（關(guān)系還不錯），也互相說了下，就算了?！?/p>
除此之外，還有一些內(nèi)容是直播平臺一般不允許觸碰的，比如討債，因為在這過程中極容易產(chǎn)生肢體或語言暴力。但依然有不少直播平臺在樂視風波的風口中浪尖直播了某次供應商前去樂視大廈討債的情況。
“因為討債也分文明討債跟暴力討債。碰到過文明的，全程一個臟字沒有，就是過去要錢去了，這就可以直播，比如樂視那次，而且很多媒體都在。”一位內(nèi)容審核員介紹，當天領(lǐng)導跟他說的是：把直播間盯住了，萬一出現(xiàn)暴亂，立馬及時給我停掉。
“但誰都喜歡看熱鬧啊，比如要是我在競品平臺看到了爆料，我巴不得多看一會兒。但如果發(fā)現(xiàn)自己平臺有這些內(nèi)容，我是堅決不允許的。”該審核員實誠地說。
三個月前，美國社交網(wǎng)站Facebook創(chuàng)始人扎克伯格宣布公司將新增3000名內(nèi)容審核員加入其團隊，來審查用戶在直播過程中是否涉及仇恨言論、虐待兒童、謀殺、自殘等暴力內(nèi)容。
沈浪說自己也在國內(nèi)媒體看到過一兩次報道，“就是關(guān)于直播自殺，但你知道，這種往往是最后沒自殺，很多都是年輕人鬧分手。你知道小孩子有一種情緒，就是哭的時候會捂臉，但他還會偷偷看你，就是這種心理?！?/p>
隨著外界對直播產(chǎn)品玩法的熟悉程度深入，也出現(xiàn)不少隱蔽性較高的敏感信息傳播方式，乍一看并沒有明顯違規(guī)，但仍存在問題。一直播平臺內(nèi)容審核員胡哲告訴網(wǎng)易科技，其操作方式一般是先看畫面再聽聲音，并且會關(guān)注房間里評論的彈幕數(shù)量?！叭绻@個房間的彈幕和評論數(shù)量突然增加，那應該就會有些問題，要及時去判斷。”
聲音的識別是目前做內(nèi)容審核的主要難點之一。林達甚至覺得聲音上的判斷是最難的，比如高峰期，一個人可以同時盯兩個屏幕上的50路視頻，畫面上出現(xiàn)的問題很直觀；文字但凡觸碰敏感詞，敏感詞條數(shù)會不斷上漲，也很容易監(jiān)控。但只有把鼠標放到一路畫面上，才能分辨那一路視頻的聲音如何，而人工智能的語音識別準確率現(xiàn)在還遠不到位?！跋馭iri的語音識別也就是那個樣子?！?/p>
“類似富士康流水線的工作”
據(jù)網(wǎng)易科技了解，為了盡可能降低公司在內(nèi)容審核方面的投入支出，較有規(guī)模的直播平臺紛紛將自身該部分團隊主體設(shè)置在遠離京滬深的二三線城市，即便總部還在北京。比如花椒設(shè)在天津，斗魚設(shè)在武漢，映客設(shè)在長沙，一直播設(shè)在西安等等——大多是母公司創(chuàng)業(yè)起家所在地，只留一小部分審核人員在京，并且相當一部分人員來自外包公司。
從業(yè)者則大多是22歲到26歲之間的年輕人，由于要7*24小時在線審核，所以工作時間往往為“三班倒”。薪酬方面以北京為例，初級審核員月薪一般在五千元左右。“外地會稍微更低，但基本上會比當?shù)匦劫Y水平線稍微高一點?！标愄h告訴網(wǎng)易科技。
如果是一個有一年以上工作經(jīng)驗的審核員，一般一天能審大概五到六千條視頻。
同時他也透露，高流失率是目前內(nèi)容審核整個行業(yè)都面臨的問題，“因為這些人每天的工作相對比較枯燥，類似富士康流水線的工作，又要記大量（審核規(guī)范）知識點內(nèi)容，尤其在審核的時候還要去面對各種各樣的視頻內(nèi)容，所以對人的精神或其他方面壓力都挺大的。很多人可能做一兩年就考慮換崗，或者不繼續(xù)做了?！?/p>
轉(zhuǎn)崗的人大多會選擇客服、運營或編輯的工作。
但也有人不這么想。胡哲自打早期在酷6?PPTV等公司算起，在直播審核的行業(yè)里已經(jīng)浸染了8年時間，是為數(shù)不多的“80后”，“估計我就一輩子做這個（行）了”，他對網(wǎng)易科技說。胡哲認為這是一份蠻穩(wěn)定的行業(yè)，作為一個5歲孩子的爸爸，他會偶爾在連續(xù)兩天休息日的時候再請一天調(diào)休假，回河北老家看看。他今年30歲，打算45歲以后再考慮離開北京，“最起碼我得能在北京退休，畢竟北京的退休金比我們老家高一倍。”
胡哲也曾經(jīng)嘗試著回老家待了兩年，“沒什么適合我的工作，如果讓你干工廠那種活兒，你也干不了?！彼运种匦禄氐搅吮本?/p>
中研網(wǎng) 發(fā)現(xiàn)資訊的價值
研究院 掌握產(chǎn)業(yè)最新情報 中研網(wǎng)是中國領(lǐng)先的綜合經(jīng)濟門戶，聚焦產(chǎn)業(yè)、科技、創(chuàng)新等研究領(lǐng)域，致力于為中高端人士提供最具權(quán)威性的產(chǎn)業(yè)資訊。每天對全球產(chǎn)業(yè)經(jīng)濟新聞進行及時追蹤報道，并對熱點行業(yè)專題探討及深入評析。以獨到的專業(yè)視角，全力打造中國權(quán)威的經(jīng)濟研究、決策支持平臺！
廣告、內(nèi)容合作請點這里尋求合作
馬化騰大談創(chuàng)業(yè)心得 成功不是沒有理由的 
