一提到鑒黃師，大家都充滿了好奇，“閱片無數(shù)”還拿高薪的老司機(jī)是多數(shù)人對(duì)鑒黃師的印象。今天，騰訊公眾號(hào)發(fā)布一篇《我是一名“鑒黃師”，但和你想的不一樣》，向我們介紹了“鑒黃師”的真正面目。
多年前，國(guó)內(nèi)多家物聯(lián)網(wǎng)公司組成的“安全聯(lián)盟”對(duì)外宣布，自公開招聘“首席淫穢色情鑒定官”一周來， 收到超過30萬條的應(yīng)聘留言，超過4000份的正式應(yīng)聘簡(jiǎn)歷。每天閱片，年薪二十萬的誘惑，在當(dāng)時(shí)引起了轟動(dòng)。
據(jù)報(bào)道，傳統(tǒng)鑒黃師的工作是非常繁重的，每年所要瀏覽的圖片海量，工作內(nèi)容已經(jīng)超過了正常人所能承受的范圍。此外，在面對(duì)數(shù)量龐大的“色情”內(nèi)容后，對(duì)從業(yè)者的身體狀況也有不小的負(fù)面影響。
文章介紹了騰訊安全部門內(nèi)容風(fēng)控天御團(tuán)隊(duì)一名研發(fā)負(fù)責(zé)人Fay的故事。Fay表示，“傳統(tǒng)鑒黃師靠的是肉眼，而我們更依賴技術(shù)。”Fay表示，相比“鑒黃師”，自己的工作更像是AI人工智能的訓(xùn)練師。其所在團(tuán)隊(duì)使用AI鑒黃，他和同事每周會(huì)抽檢5萬條數(shù)據(jù)，包括圖片、音頻、文本，進(jìn)行人工審核，篩出不良內(nèi)容、標(biāo)注違規(guī)類型，送給AI模型學(xué)習(xí)訓(xùn)練?，F(xiàn)在系統(tǒng)的識(shí)別率達(dá)已經(jīng)提升95%以上。
“色情、血腥、暴恐圖片，很容易被識(shí)別，而有一些則隱藏很深，試圖繞過AI。”Fay舉例，有些音頻場(chǎng)景，前半段很正常，“中間突然出現(xiàn)女人嬌喘聲。”有一些甚至是男的。隨后，技術(shù)團(tuán)隊(duì)開發(fā)出了“嬌喘識(shí)別”系統(tǒng)，對(duì)音頻場(chǎng)景中的違規(guī)內(nèi)容進(jìn)行清理。但仍需要不斷推動(dòng)算法模型的調(diào)優(yōu)和升級(jí)，比如在嘈雜背景識(shí)別聲音違規(guī)等。
Fay也承認(rèn)，在這個(gè)位置呆久了，也會(huì)吸收一些負(fù)面的信息，出現(xiàn)消極的情緒，一般通過開黑、打球、跑步、約飯來釋放。
