"後台每天都會添加大量敏感詞……我們有時候私底下坐一塊兒，你去想，你也去想，就找（某個敏感詞的）諧音……你想想，中國漢字（這麼多），比如跟'微信'這兩個字諧音的就得有多少？""1000多個關於防爆的敏感詞，我自己都不知道是什麼東西，全進詞庫了""進了這個行業，才分得清什麼是性感，什麼是低俗，什麼是暴露"。
文/網易科技 王先
資料圖
講這些話時，林達正坐在位於北京酒仙橋路360公司所投資的平台——花椒直播的"攝影棚"裏，所謂攝影棚，其實是一間小會議室，林達是花椒直播的600多名內容審核員之一。出寫字樓往東南方向再走1.3公裏，是國投信息創意產業園，這是另一家直播平台"人人直播"所在地——自納斯達克上市後在資本運作上困頓已久的人人網也終於忍不住在2016年開始試水直播，雖然規模相對不大，但比起之前的純校園社交平台，這已經算是更直觀的商業化嚐試。
繼文字、圖片、視頻之後，隨著技術升級與資本追捧，帶有時間流這個第四種呈現維度的直播在過去一年裏暴得大名，想在"風口"分得一杯羹的創業者眾，想趁機抓住一根救命稻草的焦慮者眾，於是不乏魚龍混雜，急功近利中泥沙俱下。隨之而來的，是一係列來自行政的規範肅清。2017年5月，文化部高調關停了涉嫌低俗傳播的"千樹"等10家表演平台，並對48家網絡表演經營單位進行了處罰，關閉直播間30235間。
迅速野蠻生長後，除稗篩糠成了主流直播平台不敢掉以輕心要自我應對的事情，加上用戶數量與日俱增，於是各家產品不得不快速跟進增設更多的內容審核員進入運營團隊。一直播高級副總裁陳太鋒告訴網易科技，比如公司由最初隻審核旗下秒拍內容的幾十人，到後來有了小咖秀、一直播等產品，現在做內容審核的"整個加起來將近七八百號人"。
雖然這似乎是一個看起來並不需要什麼鮮明特長的群體，甚至做的事情"類似富士康這種流水線的工作"，但由於工作性質微妙，仍略帶神秘感，也有外界聲音把他們稱作"鑒黃師"。
"這是諧音字，你好好念念"
"其實還不一樣，到鑒黃師這個級別，他們就不做初級審核員這些工作了，他們會創造和製定規則"，林達認真地告訴網易科技，所以目前國內絕大部分從事直播內容過濾的相關工作人員，稱為"內容審核員"是更嚴謹的說法。
好像在敘述一款升級打怪的手遊。
林達今年24歲，小時候隨父母來到北京生活，便再沒有回陝西老家長住過。2015年大學畢業，去年入職花椒直播做了內容審核員，和朋友們一塊兒吃飯時大家聊起來，別人問他："你現在是不是有點網絡警察的感覺啊？""對。"他覺得這個比喻很受用。
馬可也不大喜歡別人用"鑒黃師"三個字來概括自己在人人直播的內容審核工作，2016年春節過後，人人網嚐試上線了初版直播平台，從原運營團隊抽拔了一部分人轉做直播內容審核，不過由於體量有限，直到後來有新人繼續補充加入，整個審核團隊也不過保持在二三十人左右的狀態。馬可特意強調他們做的不僅僅是基礎審核，由於主要麵向校園人群，相對單純，所以平時還有很大一部分工作內容是和主播溝通交流、甚至提些優化建議的更有"運營"技術含量的事情。
而無論哪家平台，對於內容審核員來說最常規的工作方式，就是麵對屏幕"大家來找茬兒"。據網易科技了解，比如人人直播後台審核，一張電腦屏平時可同時監管9個直播間；花椒直播目前采用的是雙屏監控，同時可在線觀察20路視頻，在高峰期甚至會讓每個審核員擴展到同時監管50路。
嗯，《封神演義》中的"眼觀四麵，耳聽八方"也不過如此……
除此之外，各主流平台目前也都在不同程度采用人工智能做前期過濾，對於疑似存在問題的圖像或語音內容進行標紅提示。陳太鋒透露，一直播就在同時采用人臉識別技術、爆恐音頻過濾以及視頻指紋過濾等方式來對人工審核進行輔助。
對於所有平台來說，審核最主要的關注點無非是包括對主播的穿著、語言、房間布置等等是否違禁的判斷，判斷標準主要參考各家平台自製的內部規範手冊，這類手冊往往可以細化到這樣的程度：如果以5號宋體字排版、用A4紙打印，裝訂起來能有300頁之多，而且還在動態增補。審核員需要在入職前經過一周到一個月時間不等的培訓、考試，全部通過後，才正式上崗。而考核指標主要來自兩方麵：一是錯誤率，一是工作量。
當審核員看到主播在直播過程中有涉嫌違規時，對有觸線傾向或輕度觸線者會在後台給出警告提示，對於無視提醒或重度違規者則直接令其下線，給予幾個小時到一個月，甚至永久封禁的處罰。
但是不同直播平台在具體操作方麵會略有不同。有一直播這一類圖文同審，也有花椒這種做影像與文字分離審核。林達告訴網易科技，由於審核規則設置極為細致，為個體做判斷的過程增加了難度，所以花椒目前是專人專項做審核，文字、圖片與視頻分離，比如對於文字內容，要查看包括飄屏、評論、狀態頁介紹等內容，必要時甚至會查看私信。
敏感詞庫也是直播平台標配之一，並且各平台在日積月累實時添加大量敏感詞，"我們有時候私底下坐一塊兒，你去想，你也去想，就找（某個敏感詞的）諧音……你想想，中國漢字（這麼多），比如跟'微信'這兩個字諧音的就得有多少？……（不安分的用戶）他們一直在想一些（關聯）字，雖然乍一看跟那些亂七八糟的八竿子打不著，但是別的用戶可能一看就知道是什麼意思那種。"林達說，有一次總監去參加"防爆培訓"，回來立馬把1000多個敏感詞加入了後台詞庫，"那些詞，（當時）我自己都不知道是什麼東西。"
這類工作做久了，也容易產生職業敏感，有一次林達看到父親正在用一款音樂類的社交App，"我就問他，你覺得這個人沒有問題嗎？他說沒有啊，唱歌的小姑娘長得還挺好看的。我就說：這是諧音字，你好好念念。"
當時屏幕上顯示的幾個字是"伍佰肄業"。當然，想講述的顯然並不是歌手伍佰沒能順利畢業的故事。
"我們被對手黑了，還上了微博熱搜"
某直播平台員工沈浪向網易科技抱怨道，有一天晚上其平台突然出現三個戴著口罩但明顯涉嫌傳播色情內容的人員，迅速直播，迅速下線。第二天關於該事件的消息鋪天蓋地傳開，並且上了微博熱搜。"但是我們技術一篩查，發現這三個人是同一個開播地點，連IP都一樣，後來發現是競品直播平台雇人來抹黑的，他們還沒開始播，就提前把錄製軟件打開，播完自己再去看錄像，然後截圖發通稿，發給了很多媒體。"
但是這件事情最終仍然不了了之，沒有走法律程序解決。"因為你知道打官司的話，其實要很長時間……而且這家公司我們還是比較了解的，估計老板之間（關係還不錯），也互相說了下，就算了。"
除此之外，還有一些內容是直播平台一般不允許觸碰的，比如討債，因為在這過程中極容易產生肢體或語言暴力。但依然有不少直播平台在樂視風波的風口中浪尖直播了某次供應商前去樂視大廈討債的情況。
"因為討債也分文明討債跟暴力討債。碰到過文明的，全程一個髒字沒有，就是過去要錢去了，這就可以直播，比如樂視那次，而且很多媒體都在。"一位內容審核員介紹，當天領導跟他說的是：把直播間盯住了，萬一出現暴亂，立馬及時給我停掉。
"但誰都喜歡看熱鬧啊，比如要是我在競品平台看到了爆料，我巴不得多看一會兒。但如果發現自己平台有這些內容，我是堅決不允許的。"該審核員實誠地說。
三個月前，美國社交網站Facebook創始人紮克伯格宣布公司將新增3000名內容審核員加入其團隊，來審查用戶在直播過程中是否涉及仇恨言論、虐待兒童、謀殺、自殘等暴力內容。
沈浪說自己也在國內媒體看到過一兩次報道，"就是關於直播自殺，但你知道，這種往往是最後沒自殺，很多都是年輕人鬧分手。你知道小孩子有一種情緒，就是哭的時候會捂臉，但他還會偷偷看你，就是這種心理。"
隨著外界對直播產品玩法的熟悉程度深入，也出現不少隱蔽性較高的敏感信息傳播方式，乍一看並沒有明顯違規，但仍存在問題。一直播平台內容審核員胡哲告訴網易科技，其操作方式一般是先看畫麵再聽聲音，並且會關注房間裏評論的彈幕數量。"如果這個房間的彈幕和評論數量突然增加，那應該就會有些問題，要及時去判斷。"
聲音的識別是目前做內容審核的主要難點之一。林達甚至覺得聲音上的判斷是最難的，比如高峰期，一個人可以同時盯兩個屏幕上的50路視頻，畫麵上出現的問題很直觀；文字但凡觸碰敏感詞，敏感詞條數會不斷上漲，也很容易監控。但隻有把鼠標放到一路畫麵上，才能分辨那一路視頻的聲音如何，而人工智能的語音識別準確率現在還遠不到位。"像Siri的語音識別也就是那個樣子。"
"類似富士康流水線的工作"
據網易科技了解，為了盡可能降低公司在內容審核方麵的投入支出，較有規模的直播平台紛紛將自身該部分團隊主體設置在遠離京滬深的二三線城市，即便總部還在北京。比如花椒設在天津，鬥魚設在武漢，映客設在長沙，一直播設在西安等等——大多是母公司創業起家所在地，隻留一小部分審核人員在京，並且相當一部分人員來自外包公司。
從業者則大多是22歲到26歲之間的年輕人，由於要7*24小時在線審核，所以工作時間往往為"三班倒"。薪酬方麵以北京為例，初級審核員月薪一般在五千元左右。"外地會稍微更低，但基本上會比當地薪資水平線稍微高一點。"陳太鋒告訴網易科技。
如果是一個有一年以上工作經驗的審核員，一般一天能審大概五到六千條視頻。
同時他也透露，高流失率是目前內容審核整個行業都麵臨的問題，"因為這些人每天的工作相對比較枯燥，類似富士康流水線的工作，又要記大量（審核規範）知識點內容，尤其在審核的時候還要去麵對各種各樣的視頻內容，所以對人的精神或其他方麵壓力都挺大的。很多人可能做一兩年就考慮換崗，或者不繼續做了。"
轉崗的人大多會選擇客服、運營或編輯的工作。
但也有人不這麼想。胡哲自打早期在酷6?PPTV等公司算起，在直播審核的行業裏已經浸染了8年時間，是為數不多的"80後"，"估計我就一輩子做這個（行）了"，他對網易科技說。胡哲認為這是一份蠻穩定的行業，作為一個5歲孩子的爸爸，他會偶爾在連續兩天休息日的時候再請一天調休假，回河北老家看看。他今年30歲，打算45歲以後再考慮離開北京，"最起碼我得能在北京退休，畢竟北京的退休金比我們老家高一倍。"
胡哲也曾經嚐試著回老家待了兩年，"沒什麼適合我的工作，如果讓你幹工廠那種活兒，你也幹不了。"所以他又重新回到了北京。
（注：文中出現人物，除"陳太鋒"外，均為化名）
直播"鑒黃師"：入行才知性感與低俗的區別的 …直播"鑒黃師"：入行才知性感與低俗的區別"1000多個關於防爆的敏感詞，我自己都不知道是什麼東西，全進詞庫了""進了這個行業，才分得清什麼是性感，什麼是低俗，什麼是暴露 ... 馬可也不大喜歡 …
直播"鑒黃師"：入行才知性感與低俗的區別 - A5創業網
A5創業網是國內領先的創業資訊和服務平台，提供權威的創業資訊和精準的品牌營銷服務。以創業融資動態、創業學院、產品經理、人物訪談為內容驅動，與互聯網 ...
11 分鍾前單車之戰 | 摩拜、ofo、小藍車全方位對比分析 - 推酷
直播"鑒黃師"：入行才知性感與低俗的區別 2. ... 直播"鑒黃師"：入行才知性感與低俗的區別 2. 聰明一時的自助終端，正在被線下場景方割韭菜 3.
1 天前有一種工作，叫直播裏的鑒黃師，如今人工智能也登場- …
這些性感裸露的直播 背後，是巨大的流量、金錢、躥紅的人氣。在鬥魚上，ID名為"絲襪女皇的王瑞兒"，幾乎在每一次鬥魚平台的直播上，都要換上3至5次的性感 ...
2016-12-14"網絡鑒黃師"揭秘職業故事 依靠人工智能提高效率--傳 …
幾位"鑒黃師"在直播現場一位"鑒黃師"的電腦上貼著便簽，上麵注明了甄別色情信息的標準圖/中新網前晚，"鬥魚直播"一檔名叫《職男職女職播》的綜藝 ...
2017-3-21AI鑒黃師走紅 靠人工智能提高鑒黃效率-新聞-網 …
漫畫/視覺中國 幾位"鑒黃師"在直播現場 一位"鑒黃師"的電腦上貼著便簽，上麵注明了甄別色情信息的標準 圖/中新網
2017-3-20揭秘鑒黃師：殘疾人誌願者參與 每天審圖5000張 ...-新 …
今天的《身邊的網絡正能量》，我們要帶您認識一個在網上掃黃的特殊群體——鑒黃師。 ... 互聯網安全誌願者聯盟鑒黃師 趙凱：最難的在於低俗和性感 吧，相差 ...
2016-12-26我們采訪了一個職業鑒黃師，居然是個漂亮的軟妹子
雖然這樣AI鑒黃師和傳統鑒黃師都要失業啦，不過如果真的有這一天，我一定很開心，畢竟愛不是占有 ... 恕在下才疏學淺，鑒出來色情、性感、正常之後要幹嘛？鑒黃 有 ...
鑒黃師身體變差要求賠工傷 對性不感興趣了女友也跑了 …
我們知道程序員的職業病是肩椎炎脊椎炎腰椎炎，那麼鑒黃師的"職業病"就是……隨著網絡直播的盛行，有一種叫"鑒黃師 ... >>> 歐美熟男大秀性感 肌肉顯身材 ...
2017-2-1圖普科技：利用AI鑒黃淨化直播 用圖像識別技術連接內 …
圖普科技工作人員告訴Xtecher，智能鑒黃通常的技術邏輯是，鑒黃師 導入海量數據，將各類數據進行標簽化訓練，告訴機器，什麼是色情，什麼是性感，什麼是正常 ...
2017-5-16當屏幕前荷爾蒙耗盡，誰能打破直播行業的色情枷鎖？_ …
第一印象就是在鏡頭前跳跳舞、唱唱歌，然後有人捧場送禮，輕輕鬆鬆賺錢。可真做了這一行才知道，這就是個勞力活兒。 ... 直播行業鑒黃師 因看女主播看到工傷 閱讀 ...
相關文章
没有评论:
发表评论