合作(zuò)
咨詢
建站(zhàn)咨詢
那(nà)些(xiē)替互聯網公司審查內(nèi)容的員工都是如何看待自己工作(zuò)的？
- 作(zuò)者：admin
- 發表時(shí)間(jiān)：2018-03-06 09:04:15
- 來(lái)源：未知
譯 | 闌夕
每個(gè)依賴UGC模式的App或者網站(zhàn)——例如Facebook、YouTube、Twitter、Instagram、Pinterest等等——都會(huì)存在這種隐性的工作(zuò)，否則整個(gè)網站(zhàn)的業務都無法運作(zuò)起來(lái)。審查者曾經一度是自願性質的工作(zuò)，那(nà)些(xiē)融入了社區(qū)之中的人(rén)們自發的想要維護這裏。
但(dàn)是社交媒體(tǐ)們成長的同時(shí)，審查制(zhì)度也進化了。「商業性內(nèi)容審核」，這是加州大(dà)學的學者Sarah T. Roberts為(wèi)新的審查制(zhì)度下的定義，一種要求人(rén)們以更快的速度審查大(dà)量照片、視(shì)頻和(hé)文字的有(yǒu)償的工作(zuò)。
自從有(yǒu)一次看到中西部某一家(jiā)小(xiǎo)公司針對內(nèi)容審核開(kāi)展外包工作(zuò)的剪報之後，Roberts在過去十年裏一直在研究內(nèi)容過濾的工作(zuò)。
「 2010 年，這個(gè)話(huà)題還(hái)根本沒有(yǒu)進入人(rén)們的視(shì)野。」Roberts說，「我問遍了身邊的所有(yǒu)朋友(yǒu)和(hé)教授，你(nǐ)們認不認識什麽人(rén)是以這個(gè)工作(zuò)為(wèi)職業的?每個(gè)人(rén)第一反應都是，從來(lái)沒聽(tīng)過。然後他們第二反應就是，這事不是電(diàn)腦(nǎo)在做(zuò)?當然不是， 2017 年不是， 2010 年就更不是了。」
然而這些(xiē)審查者們無論是在Facebook或者Twitter上(shàng)都沒有(yǒu)任何存在痕迹。單個(gè)個(gè)體(tǐ)也許可(kě)以發言抱怨，但(dàn)是這個(gè)審核機構總體(tǐ)上(shàng)是面目模糊的。直到最近，在類似Roberts這樣的學者、記者如Adrian Chen、和(hé)體(tǐ)制(zhì)內(nèi)的工作(zuò)人(rén)員如Rochelle LaPlante等人(rén)的幫助下，內(nèi)容審查工作(zuò)中這些(xiē)「看不見的人(rén)」才變得(de)廣為(wèi)人(rén)知。
最近幾個(gè)月，人(rén)類在組織和(hé)過濾互聯網信息流中扮演的角色開(kāi)始受到越來(lái)越多(duō)的關注。企業們希望将兒童色情、極端信息、虛假內(nèi)容、惡作(zuò)劇(jù)和(hé)各種令人(rén)討(tǎo)厭的帖子關閉掉，同時(shí)留下其它類型的信息繼續保持流通(tōng)。
企業必須用信息的流通(tōng)性來(lái)保障自己的經營模式：內(nèi)容可(kě)以帶來(lái)關注和(hé)流量。他們依靠注意力經濟變得(de)越來(lái)越富有(yǒu)。那(nà)麽，人(rén)類與此同時(shí)産生(shēng)的內(nèi)容污染又要怎麽辦呢?那(nà)些(xiē)令人(rén)反感的、惡心的、色情的、非法的或者各種其它的東西怎麽辦?
唯一可(kě)以确定的就是：計(jì)算(suàn)機算(suàn)法沒辦法把這些(xiē)東西全部解決掉。Roberts看來(lái)，「 2017 年，各平台公司針對這一點發表的各類聲明(míng)裏，沒人(rén)說我們會(huì)用更多(duō)的計(jì)算(suàn)資源來(lái)解決這個(gè)問題，大(dà)家(jiā)都說的是我們會(huì)投入更多(duō)人(rén)力來(lái)解決這個(gè)問題。」
為(wèi)了展開(kāi)針對性的調研，Roberts在加利福尼亞大(dà)學洛杉矶分校(xiào)，也是加州山(shān)火(huǒ)的正中心，舉辦了業界首次內(nèi)容審查的研討(tǎo)會(huì)。
在Roberts看來(lái)，審查制(zhì)度不僅僅是關于這些(xiē)網站(zhàn)平台的成本結構。更重要的是，這個(gè)工作(zuò)會(huì)觸及網絡服務的核心。「它到底會(huì)互聯網的本質有(yǒu)什麽影(yǐng)響?」她說，「當人(rén)們大(dà)面積的參與到我們稱之為(wèi)互聯網的這個(gè)東西之中，它到底會(huì)讓我們付出什麽代價?」
有(yǒu)一個(gè)討(tǎo)論小(xiǎo)組直接探討(tǎo)了這個(gè)代價問題。它将兩個(gè)曾經擔任過內(nèi)容審查者的人(rén)聚在了一起：Rasalyn Bowden曾經擔任MySpace的內(nèi)容審查員及培訓師(shī)，Rochelle LaPlante在Amazon Mechanical Turk工作(zuò)并且聯合創辦了一個(gè)針對AMT員工的網站(zhàn)MTurkCrowd.com。他們兩人(rén)都接受了Roberts以及南加州大(dà)學Safiya Noble的訪問。
>Bowden講述了早年間(jiān)MySpace平台正流行(xíng)的時(shí)候，公司突然被違規圖片淹沒的情形——至少(shǎo)是在他們看來(lái)違規了。當時(shí)其實很(hěn)難定義到底哪些(xiē)圖片是違規的，因為(wèi)當時(shí)還(hái)沒有(yǒu)制(zhì)定這些(xiē)規則。在Bowden的協助下，這些(xiē)規則被建立了起來(lái)，然後用一個(gè)記事本記錄了下來(lái)。
「我昨天翻了翻，有(yǒu)個(gè)問題是問，如果穿着牙線那(nà)麽細的帶子組成的比基尼，那(nà)到底還(hái)算(suàn)不算(suàn)裸體(tǐ)?牙線那(nà)麽細或者像意大(dà)利面那(nà)種粗細到底行(xíng)不行(xíng)?到底什麽樣算(suàn)不是裸體(tǐ)的?我們大(dà)晚上(shàng)在飛機上(shàng)為(wèi)這些(xiē)問題争論了起來(lái)。」Bowden說，「如果她的屁股真的很(hěn)大(dà)，那(nà)她就不應該穿這種細帶子的。那(nà)麽我們是不是應該把這個(gè)人(rén)删掉，然後留下那(nà)些(xiē)屁股小(xiǎo)一些(xiē)的女生(shēng)?這就是我們的決策過程。就像我們一直以來(lái)的工作(zuò)模式。」
Bowden說她的團隊裏有(yǒu)很(hěn)多(duō)奇怪的人(rén)，他們都願意一整晚盯着這些(xiē)奇怪的令人(rén)不安的東西。「隊裏有(yǒu)個(gè)女巫，一個(gè)吸血鬼，一個(gè)白人(rén)至上(shàng)主義者，還(hái)有(yǒu)些(xiē)正常人(rén)。我的團隊裏有(yǒu)各種不同類型的人(rén)。」而Bowden是個(gè)黑(hēi)人(rén)，「我們總是說，那(nà)麽用你(nǐ)那(nà)個(gè)白人(rén)至上(shàng)的标準看看，這個(gè)是不是白人(rén)至上(shàng)的言論?」
00 年代中期的時(shí)候，社交媒體(tǐ)依賴着UGC的模式持續膨脹發展着，越來(lái)越多(duō)的公司需要內(nèi)容審查人(rén)員。Roberts将審查的演化作(zuò)為(wèi)企業實踐的一部分進行(xíng)追蹤，并且特别關注了其中勞動分配的問題。在矽谷的總部裏，很(hěn)少(shǎo)有(yǒu)全職員工在從事這類别的工作(zuò)。相反他們都選擇了外包商，外包商們可(kě)能會(huì)在企業裏辦公，但(dàn)通(tōng)常是在一些(xiē)别的地方。總體(tǐ)來(lái)說，內(nèi)容審查者們都被排除在了企業核心機構之外。他們可(kě)能身在愛(ài)荷華州或者是印度(現在來(lái)說，多(duō)數(shù)都在菲律賓)。
「這些(xiē)員工被企業們以結構性的方式排除在主體(tǐ)之外，由企業認可(kě)的承包商們以按量計(jì)費的方式雇傭他們，然後他們在一種勞務外包的形式下工作(zuò)。」Roberts這樣寫道(dào)，「于此同時(shí)，這些(xiē)承包商也會(huì)利用一些(xiē)網絡平台來(lái)發布按量計(jì)費的工作(zuò)，例如Amazon Mechanical Turk或是Upwork。這樣社交媒體(tǐ)平台、業務外包公司、以及完成按量計(jì)費業務的雇員之間(jiān)的關系就一目了然了。」
這些(xiē)明(míng)顯帶有(yǒu)距離感的步驟，把科技(jì)公司推離了責任範圍，卻轉而讓審查者們面對這一切。
例如在AMT上(shàng)工作(zuò)的LaPlante，她手中有(yǒu)一批時(shí)間(jiān)靈活的廉價勞動力名單。當她接到任務時(shí)，她必須遵守一系列的工作(zuò)規定，但(dàn)是她卻完全不知道(dào)發布任務的公司會(huì)如何處理(lǐ)她創造出來(lái)的數(shù)據。
不過，令LaPlante最為(wèi)在意的是這些(xiē)人(rén)的勞動報酬問題。他們的工作(zuò)以審核量來(lái)計(jì)費，有(yǒu)時(shí)候單價會(huì)低(dī)到每張圖片0. 02 美元，就算(suàn)好一點的時(shí)候也隻有(yǒu)每篇文章0. 15 美元。除此之外，科技(jì)公司們還(hái)可(kě)以拒絕接受這個(gè)審查員的工作(zuò)結果，那(nà)麽他在這段時(shí)間(jiān)的工作(zuò)不僅不會(huì)得(de)到報酬，他在AMT上(shàng)的評分還(hái)會(huì)下降。
這份工作(zuò)是當今互聯網經濟裏殘酷而不可(kě)或缺的一部分。它還(hái)可(kě)以給計(jì)算(suàn)機的深度學習提供必要的訓練數(shù)據。然而從事這項事業的勞工們卻隻能幸運的拿(ná)着最低(dī)工資，與此同時(shí)還(hái)要以飛快的速度工作(zuò)才能得(de)以生(shēng)存。
正如你(nǐ)預想的一樣，浏覽這些(xiē)暴力、色情和(hé)令人(rén)不安的內(nèi)容給以此為(wèi)生(shēng)的人(rén)們留下了不可(kě)磨滅的心理(lǐ)影(yǐng)響。
「當我從MySpace離開(kāi)的時(shí)候，我大(dà)概有(yǒu) 3 年的時(shí)間(jiān)不肯和(hé)人(rén)握手，因為(wèi)我覺得(de)人(rén)們都很(hěn)惡心。我無法觸碰别人(rén)。」Bowden說，「世界上(shàng)最普通(tōng)的人(rén)也都是他媽的怪胎。我從那(nà)裏出來(lái)的時(shí)候對人(rén)性感到厭惡。我的同僚們，大(dà)多(duō)數(shù)也和(hé)我有(yǒu)一樣的感覺。我們都對人(rén)性留下了可(kě)怕的觀感。」
當我問她，十年過去了，你(nǐ)有(yǒu)沒有(yǒu)對人(rén)性恢複一些(xiē)信心的時(shí)候，她說沒有(yǒu)。「但(dàn)是我可(kě)以假裝我有(yǒu)信心了。這種信念是必須的。」她說，「也沒什麽不好。一旦你(nǐ)接受了人(rén)類的劣根性，你(nǐ)就更容易記住不要去碰某些(xiē)東西。」
LaPlante也強調說，做(zuò)內(nèi)容審核的人(rén)們不會(huì)因為(wèi)這些(xiē)惡心的工作(zuò)內(nèi)容去尋求心理(lǐ)咨詢師(shī)的幫助。他們一般都自己處理(lǐ)這些(xiē)心理(lǐ)問題，或者，在同僚們那(nà)裏尋找一些(xiē)心理(lǐ)支持。
「當你(nǐ)的報酬隻有(yǒu)一張圖片 2 美分的時(shí)候，你(nǐ)是不可(kě)能去找 100 美元一個(gè)小(xiǎo)時(shí)的咨詢師(shī)的。」LaPlante說。
從樂觀的角度來(lái)說，有(yǒu)些(xiē)科技(jì)公司已經開(kāi)始注意到這些(xiē)情況了。例如Facebook，他們這次就派了一個(gè)小(xiǎo)組來(lái)參加這次的審查研討(tǎo)會(huì)。然而像Twitter和(hé)Snap則沒有(yǒu)來(lái)參會(huì)。
Facebook在內(nèi)容審查方面雇傭的人(rén)數(shù)超過 10000 人(rén)。他們的高(gāo)管對此事看起來(lái)有(yǒu)着非常清晰的思路。這周，Facebook的首席安全官Alex Stamos在Twitter的一個(gè)在線發言上(shàng)說，在解決「基本問題」上(shàng)「沒有(yǒu)神奇的方案」。「你(nǐ)認為(wèi)看門(mén)人(rén)可(kě)以決定在線言論令人(rén)接受的門(mén)檻界限嗎?」他說，「如果是，那(nà)界限到底在哪裏?」
這是個(gè)好問題。但(dàn)是內(nèi)容審查者們也知道(dào)這個(gè)問題。他們在房(fáng)間(jiān)裏討(tǎo)論試圖定義哪些(xiē)是得(de)體(tǐ)的，哪些(xiē)是淫穢的。這幾千人(rén)正在扮演警察的工作(zuò)，去劃定「令人(rén)可(kě)以接受的在線言論」的界限。然後原則上(shàng)來(lái)說，他們不被支持，工資很(hěn)低(dī)，隻能獨自處理(lǐ)工作(zuò)留下的情緒損傷，與此同時(shí)他們為(wèi)之賣命的公司正成為(wèi)全世界市值最高(gāo)的公司。
「每次我看到大(dà)的科技(jì)公司招聘人(rén)員的聲明(míng)時(shí)，我都要問幾個(gè)問題：招了誰?在哪裏?在什麽條件下工作(zuò)?」Roberts這樣對我說。
聯系我們
一切良好工作(zuò)的開(kāi)始，都需相互之間(jiān)的溝通(tōng)搭橋，歡迎咨詢。
