追問(wèn)快讀：在人工智能飛速發(fā)展的今天，我們的社交媒體動(dòng)態(tài)似乎被精心凈化，然而在這光鮮背后，一支隱形的全球勞動(dòng)力正默默承受著難以言喻的創(chuàng)傷。

模糊的屏幕倏然閃現(xiàn)，伴隨著一條看似無(wú)害的“敏感內(nèi)容”提示信息，以及一個(gè)被劃掉的眼睛表情符號(hào)。警告中溫和的設(shè)計(jì)與俏皮的圖標(biāo)，掩飾了其背后沉重而嚴(yán)肅的內(nèi)容。我們只需輕輕一劃，便將其略過(guò)，刷新后的社交媒體動(dòng)態(tài)再次充滿了貓咪視頻和度假照片。然而，在這數(shù)字烏托邦的陰影下，一個(gè)截然不同的現(xiàn)實(shí)正在悄然上演。

在世界各地狹小、光線昏暗的倉(cāng)庫(kù)里，一支“隱形軍隊(duì)”弓著腰，凝視著閃爍的屏幕。他們的眼睛疲憊不堪，手指懸停在鍵盤上，直面人性最陰暗的沖動(dòng)——那些甚至比他們最恐怖的噩夢(mèng)更為黑暗的內(nèi)容。他們無(wú)法移開(kāi)視線，也無(wú)法滑動(dòng)手指跳過(guò)。對(duì)這些工人而言，沒(méi)有任何觸發(fā)警告的庇護(hù)。

科技巨頭們大肆宣揚(yáng)人工智能在內(nèi)容審核中的強(qiáng)大能力，描繪出全知算法守護(hù)我們數(shù)字空間安全的美好畫卷。他們提出了一種烏托邦式的愿景：機(jī)器不知疲倦地篩選數(shù)字垃圾，保護(hù)我們免受網(wǎng)絡(luò)世界最陰暗角落的侵害。

然而，這不過(guò)是一個(gè)令人安心的謊言。

現(xiàn)實(shí)要更加人性化，也更加令人不安。這種敘事目的多重：它撫慰了用戶對(duì)在線安全的擔(dān)憂，為這些公司賺取的巨額利潤(rùn)提供了正當(dāng)性，同時(shí)巧妙地轉(zhuǎn)移了責(zé)任——畢竟，你怎么能責(zé)怪一個(gè)冷冰冰的算法呢？

然而，現(xiàn)有的人工智能系統(tǒng)遠(yuǎn)遠(yuǎn)無(wú)法理解人類交流的復(fù)雜微妙，更別說(shuō)對(duì)內(nèi)容做出復(fù)雜的倫理判斷了。即便是最先進(jìn)的算法，諷刺、文化背景以及隱晦的仇恨言論，往往也會(huì)被忽略。

而且，盡管自動(dòng)化內(nèi)容審核在主流語(yǔ)言中或許可以部分實(shí)現(xiàn)，但對(duì)于資源稀缺語(yǔ)言的內(nèi)容審核，通常需要從說(shuō)這些語(yǔ)言的國(guó)家招聘審核員[1]，以充分利用他們的語(yǔ)言能力和文化理解。

在幾乎每一個(gè)人工智能決策的背后，實(shí)際上都有一個(gè)人負(fù)責(zé)做出最終判斷，并承擔(dān)由此帶來(lái)的負(fù)擔(dān)——這與宣傳中的基于硅芯片的“救世主”形象截然不同。人工智能往往僅僅是一個(gè)粗糙的初步過(guò)濾器。例如，亞馬遜所謂的自動(dòng)化商店就是一個(gè)典型案例。據(jù)The Information報(bào)道，亞馬遜并非依賴先進(jìn)的人工智能系統(tǒng)，而是雇傭了大約1000名工人（主要在印度）手動(dòng)追蹤顧客并記錄他們的購(gòu)買行為。

亞馬遜對(duì)美聯(lián)社（AP）等機(jī)構(gòu)表示，他們確實(shí)雇用了工人觀看視頻以驗(yàn)證顧客購(gòu)物行為，但否認(rèn)雇傭了1000人或工人實(shí)時(shí)監(jiān)控顧客的說(shuō)法。同樣，F(xiàn)acebook的“人工智能驅(qū)動(dòng)”M助手也更多依賴人力而非軟件。因此，這種“人工智能能力”的假象，往往是以隱藏的人類勞動(dòng)為代價(jià)維持的。

“我們是互聯(lián)網(wǎng)的清潔工?！?兩年前合同終止的前內(nèi)容審核員、現(xiàn)居肯尼亞內(nèi)羅畢的南非人博特洛夸·蘭塔（Botlhokwa Ranta）沉重地說(shuō)道。在家中接受采訪時(shí)，她繼續(xù)說(shuō)道：“我們清理了那些爛攤子，只為讓他人享受一個(gè)凈化過(guò)的網(wǎng)絡(luò)世界。”

于是，當(dāng)我們安睡時(shí)，他們默默工作；當(dāng)我們分享內(nèi)容時(shí)，他們守護(hù)邊界；當(dāng)我們享受在線連接時(shí)，他們卻直面我們精心打造的在線體驗(yàn)與未經(jīng)過(guò)濾的人性本質(zhì)之間的巨大鴻溝。

科技產(chǎn)業(yè)光鮮的表象下，掩蓋了一種遍布全球的赤裸裸的人類現(xiàn)實(shí)。從內(nèi)羅畢的邊緣地帶到馬尼拉擁擠的公寓，從黎巴嫩的敘利亞難民社區(qū)到德國(guó)的移民聚居地，再到卡薩布蘭卡的呼叫中心，一張龐大的“隱形工人”網(wǎng)絡(luò)支撐著我們的數(shù)字世界。這些工人的故事交織著創(chuàng)傷、剝削與堅(jiān)韌，流露出我們?cè)谌斯ぶ悄茯?qū)動(dòng)未來(lái)背后所付出的真實(shí)代價(jià)。

或許我們會(huì)驚嘆于薩姆·奧特曼（Sam Altman）等人所推崇的聊天機(jī)器人和自動(dòng)化系統(tǒng)，但這掩蓋了更深層的緊迫問(wèn)題：我們的“神一般”的人工智能系統(tǒng)，是否只是一塊煙幕，用來(lái)遮掩令人不寒而栗的人類現(xiàn)實(shí)？

在我們不懈追求技術(shù)進(jìn)步的過(guò)程中，必須問(wèn)自己：我們?cè)敢鉃閿?shù)字便利付出怎樣的代價(jià)？在這場(chǎng)奔向自動(dòng)化未來(lái)的競(jìng)賽中，我們是否正在將人性拋在身后？

阿布拉的故事

2021年2月，阿布拉（Abrha）的世界在提格雷戰(zhàn)爭(zhēng)中崩塌，這場(chǎng)現(xiàn)代最致命的沖突，被美國(guó)“新路線研究所”報(bào)告（U.S.-based New Lines Institute）正式定性為種族滅絕。當(dāng)時(shí)，他的家鄉(xiāng)提格雷遭到埃塞俄比亞和厄立特里亞國(guó)防軍的炮火襲擊。

阿布拉當(dāng)時(shí)26歲，帶著一個(gè)小背包和能拿到的少量現(xiàn)金，逃往肯尼亞內(nèi)羅畢，留下了一個(gè)蒸蒸日上的生意、家人和無(wú)法逃離的朋友。在埃塞俄比亞政府對(duì)提格雷地區(qū)實(shí)施長(zhǎng)達(dá)兩年多的互聯(lián)網(wǎng)封鎖期間，他經(jīng)歷了數(shù)月的煎熬，對(duì)家人的命運(yùn)一無(wú)所知。

然而，命運(yùn)的諷刺讓阿布拉被舊金山總部的Sama公司肯尼亞分部招募。這家自稱“道德AI訓(xùn)練數(shù)據(jù)提供商”的公司，急需精通提格里尼亞語(yǔ)和阿姆哈拉語(yǔ)的人才，而這正是他剛剛逃離的沖突所用的語(yǔ)言。他的任務(wù)，是審核源自那場(chǎng)戰(zhàn)爭(zhēng)的內(nèi)容。

每周五天，每天八小時(shí)，阿布拉坐在內(nèi)羅畢的Sama倉(cāng)庫(kù)里，審核那些來(lái)自他剛逃離的戰(zhàn)火中的信息——有時(shí)甚至包括家鄉(xiāng)的轟炸畫面。每天涌入的內(nèi)容充滿了針對(duì)提格雷人的仇恨言論，而阿布拉心中卻惴惴不安，擔(dān)憂下一具尸體會(huì)是他的父親，下一個(gè)遭受性暴力的受害者會(huì)是他的妹妹。

更讓他痛苦的是一個(gè)道德困境：在這場(chǎng)他和族人都是受害者的沖突中，他如何保持中立？他如何將同胞發(fā)布的報(bào)復(fù)性內(nèi)容標(biāo)記為仇恨言論？這種內(nèi)心的壓力，逐漸變得難以承受。

盡管阿布拉曾經(jīng)厭惡吸煙，但如今他卻成為一個(gè)煙癮極大的煙民，手中常握一支煙，穿行于這片充滿創(chuàng)傷的數(shù)字雷區(qū)——每一口都是試圖緩解己國(guó)人民苦難之痛的徒勞嘗試。

有一天，工作的恐怖達(dá)到了頂點(diǎn)：在審核內(nèi)容時(shí)，他看到了自己堂兄的尸體。這一幕成為對(duì)這場(chǎng)沖突個(gè)人代價(jià)的殘酷提醒，而他每天都被迫通過(guò)電腦屏幕目睹這樣的悲劇。

在他和其他內(nèi)容審核員的合同被Sama終止后，阿布拉的處境更加艱難。內(nèi)羅畢的就業(yè)市場(chǎng)對(duì)他而言無(wú)比狹窄，他只能獨(dú)自面對(duì)內(nèi)心的創(chuàng)傷，卻沒(méi)有任何他急需的支持或資源。作為內(nèi)容審核員的經(jīng)歷，加上逃離沖突帶來(lái)的后遺癥，嚴(yán)重打擊了他的心理健康和經(jīng)濟(jì)狀況。

盡管戰(zhàn)爭(zhēng)后的提格雷局勢(shì)依然動(dòng)蕩，但阿布拉感到別無(wú)選擇，只能幾個(gè)月前踏上艱難的歸鄉(xiāng)之路。他希望能從沖突和剝削的廢墟中重建自己的生活。他的故事無(wú)疑是內(nèi)容審核工作的長(zhǎng)期影響，以及那些往往遠(yuǎn)離家鄉(xiāng)和支持系統(tǒng)的審核員脆弱性的鮮明寫照。

金斯的噩夢(mèng)

金斯（Kings）成長(zhǎng)于基貝拉，這是世界上最大的貧民窟之一。他今年34歲，自幼，金斯便懷揣著為年幼的家人創(chuàng)造更好生活的夢(mèng)想。然而，像許多在內(nèi)羅畢貧民窟長(zhǎng)大的青年一樣，他長(zhǎng)期失業(yè)，生活艱難。

當(dāng)Sama公司來(lái)招募時(shí)，金斯看到了進(jìn)入科技行業(yè)的機(jī)會(huì)。他從數(shù)據(jù)標(biāo)注員做起，負(fù)責(zé)對(duì)數(shù)據(jù)進(jìn)行標(biāo)記和分類，以訓(xùn)練AI系統(tǒng)，盡管薪水微薄，他仍感到興奮。當(dāng)公司提出以微薄的加薪將他晉升為內(nèi)容審核員時(shí)，他毫不猶豫地接受了這個(gè)機(jī)會(huì)，卻未曾料到這一決定會(huì)帶來(lái)如此深遠(yuǎn)的影響。

很快，金斯發(fā)現(xiàn)自己所接觸的內(nèi)容令他夜夜難眠，尤其是那些被稱為CSAM（兒童性虐待材料）的內(nèi)容。每天，他都在篩選描述兒童被侵犯的文字、圖片和視頻。他回憶道：“我看到孩子因虐待而撕裂的陰道?！?他的聲音顯得空洞，“每次我在家閉上眼睛，看到的全是這些畫面?！?

這種創(chuàng)傷侵蝕了金斯生活的每一個(gè)角落。到了32歲，他發(fā)現(xiàn)自己難以與妻子親密接觸，腦海中滿是受虐兒童的影像。他坦言，公司提供的心理健康支持遠(yuǎn)遠(yuǎn)不足，心理咨詢師也無(wú)法幫助他走出深重的心理陰影。

最終，這種壓力變得難以承受。金斯的妻子無(wú)法忍受他的性拒絕以及行為的變化，最終離開(kāi)了他。等到金斯離開(kāi)Sama時(shí)，他已經(jīng)變成了一個(gè)精神和經(jīng)濟(jì)上破碎的人——那個(gè)他曾以為能帶來(lái)救贖的工作，反而徹底摧毀了他對(duì)美好生活的夢(mèng)想。

失去對(duì)人性的信任

蘭塔（Ranta）的故事始于南非的小鎮(zhèn)德普克魯夫，那里的生活平靜而有序。21歲時(shí)，她成為母親；接受我們采訪時(shí)，她已27歲。她反思了她社區(qū)中許多年輕女性所面對(duì)的嚴(yán)酷現(xiàn)實(shí)：10個(gè)女孩中有6個(gè)會(huì)在21歲之前生孩子，進(jìn)入一個(gè)就業(yè)機(jī)會(huì)本已稀缺的世界，而單親母親的身份讓這些機(jī)會(huì)更難得。

當(dāng)Sama公司前來(lái)招募，并承諾為蘭塔和她的孩子帶來(lái)更好的生活時(shí)，蘭塔將此視為通往光明未來(lái)的門票。她申請(qǐng)了這份工作，很快便發(fā)現(xiàn)自己身處內(nèi)羅畢，遠(yuǎn)離一切熟悉的環(huán)境。然而，這些承諾在她抵達(dá)后迅速破滅。離開(kāi)南非時(shí)，她留下了孩子，公司曾承諾幫助她們團(tuán)聚，但這種支持從未兌現(xiàn)。

當(dāng)她詢問(wèn)此事時(shí)，公司代表告訴她，他們無(wú)法如最初承諾的那樣全額承擔(dān)費(fèi)用，只能提供部分支持，并且會(huì)從她的工資中扣除。蘭塔嘗試通過(guò)正式渠道向公司反映問(wèn)題，卻未能如愿。非正式消息稱，這與公司當(dāng)時(shí)正面臨的法律訴訟有關(guān)。

當(dāng)蘭塔的姐姐去世時(shí)，她的上司允許她請(qǐng)幾天假。但在她返回崗位后，卻拒絕讓她調(diào)到創(chuàng)傷性較輕的內(nèi)容審核崗位——盡管當(dāng)時(shí)還有空缺。這種做法仿佛默認(rèn)她和其他員工是機(jī)器，能夠隨意“關(guān)閉一個(gè)程序，然后啟動(dòng)另一個(gè)”。

事情在她懷孕期間達(dá)到了頂點(diǎn)。盡管她的醫(yī)生要求她臥床休息，但公司并未允許她這樣做。更糟糕的是，在她生下第二個(gè)女兒僅四個(gè)月后，女兒就被送進(jìn)了醫(yī)院。

她隨后發(fā)現(xiàn)，公司在她入職后不久就停止為員工繳納醫(yī)療保險(xiǎn)，但依然從她的工資中扣除相關(guān)費(fèi)用。這使她背負(fù)了難以支付的醫(yī)療賬單。

蘭塔的工作內(nèi)容包括審核與女性性虐待、仇外情緒、仇恨言論、種族主義和家庭暴力相關(guān)的內(nèi)容，主要來(lái)自她的祖國(guó)南非和尼日利亞。盡管她理解這份工作的意義，但對(duì)于公司缺乏足夠的心理咨詢、培訓(xùn)和支持，她感到深深的遺憾。

隨著時(shí)間的推移，蘭塔發(fā)現(xiàn)自己逐漸失去了對(duì)人性的信任。“我看到了許多我從未想過(guò)會(huì)存在的事情?！彼嬖V我，“人類有何資格自稱為智慧物種？”

Sama的首席執(zhí)行官曾表示，對(duì)與Meta簽訂內(nèi)容審核合同感到遺憾。Meta的一位發(fā)言人則回應(yīng)，他們要求所有合作伙伴公司提供“全天候現(xiàn)場(chǎng)支持，由經(jīng)過(guò)培訓(xùn)的專業(yè)人員提供服務(wù)，同時(shí)提供隨叫隨到的咨詢服務(wù)。并從入職第一天起就為員工提供私人醫(yī)療服務(wù)。”

這位代表還提到，他們提供了“技術(shù)解決方案，盡可能減少接觸血腥內(nèi)容”。然而，像阿布拉、金斯和蘭塔這樣的員工卻講述了截然不同的經(jīng)歷，表明Meta的聲明與內(nèi)容審核員的實(shí)際工作經(jīng)歷之間存在顯著差距。

全球視角：跨國(guó)界的相似斗爭(zhēng)

阿布拉、金斯和蘭塔的經(jīng)歷并非孤立事件。在肯尼亞，我采訪了20多名員工，他們?cè)V說(shuō)著相似的故事。在德國(guó)、委內(nèi)瑞拉、哥倫比亞、敘利亞和黎巴嫩等國(guó)家，通過(guò)“數(shù)據(jù)工人調(diào)查”（Data Workers Inquiry project）項(xiàng)目[2]，我們同樣聽(tīng)到了諸多相似的挑戰(zhàn)。

在德國(guó)，盡管國(guó)家設(shè)有諸多幫助新移民的項(xiàng)目，但那些身份尚未確定的移民最終還是不得不從事像阿布拉這樣的工作，審核來(lái)自他們祖國(guó)的內(nèi)容。他們不穩(wěn)定的簽證狀況使他們更易受傷害。許多人向我們坦言，即便面臨剝削，他們也不敢公開(kāi)發(fā)聲，因?yàn)榫蜆I(yè)與簽證緊密相連，失業(yè)或被驅(qū)逐的風(fēng)險(xiǎn)始終籠罩在他們頭上。

在委內(nèi)瑞拉和哥倫比亞，經(jīng)濟(jì)的不穩(wěn)定迫使許多人投身于數(shù)據(jù)行業(yè)。雖然他們不總是直接參與內(nèi)容審核，但許多數(shù)據(jù)標(biāo)注員需處理充滿挑戰(zhàn)的數(shù)據(jù)集，這對(duì)他們的心理健康造成了沉重打擊。

現(xiàn)實(shí)往往與廣告宣傳的內(nèi)容不符。即使敘利亞的工人和黎巴嫩的敘利亞難民，并非直接從事內(nèi)容審核工作，他們的工作也經(jīng)常與數(shù)字化沖突的殘余部分交織在一起，為本已要求苛刻的工作增加了情感壓力。

保密協(xié)議（NDA）的廣泛應(yīng)用，正是這種不平等權(quán)力結(jié)構(gòu)的另一體現(xiàn)。這些協(xié)議成為勞動(dòng)合同的一部分，迫使工人保持沉默，將他們的掙扎隱藏在公眾視野之外。

這種保密協(xié)議的威脅往往超越了雇傭期，甚至在員工離職后，仍對(duì)他們的生活產(chǎn)生長(zhǎng)久影響。許多接受采訪的工人因擔(dān)心法律后果，堅(jiān)持匿名發(fā)聲。

這些工人分布在波哥大、柏林、加拉加斯和大馬士革等地，他們表示自己被那些依靠他們勞動(dòng)獲利的公司拋棄了。據(jù)員工們透露，Sama所謂的“健康計(jì)劃”往往無(wú)法有效應(yīng)對(duì)他們所經(jīng)歷的深層創(chuàng)傷。

這些故事清楚地揭示了：在我們光鮮的數(shù)字世界背后，隱藏著一支承受巨大情感負(fù)擔(dān)的勞動(dòng)大軍——他們承受這些，我們卻無(wú)需分擔(dān)。正是他們的經(jīng)歷，引發(fā)了對(duì)數(shù)據(jù)工作倫理及維持?jǐn)?shù)字基礎(chǔ)設(shè)施的人類代價(jià)的緊迫質(zhì)疑。這一問(wèn)題的全球性本質(zhì)，揭示了一個(gè)令人不安的真相：數(shù)據(jù)工人的剝削并非行業(yè)的“偶然漏洞”，而是其系統(tǒng)性特征。

這是一張由科技巨頭編織、通過(guò)陷于其中者的沉默來(lái)維系的全球性斗爭(zhēng)之網(wǎng)。正如Mophat Okinyi和Richard Mathenge所記錄的那樣，這兩位曾經(jīng)的內(nèi)容審核員、現(xiàn)為“數(shù)據(jù)工人調(diào)查”項(xiàng)目的共同研究者，見(jiàn)證了這些模式在多個(gè)國(guó)家和不同公司中反復(fù)出現(xiàn)。他們既是工人，也是倡導(dǎo)者，其經(jīng)歷凸顯了這種剝削的全球性。

屏幕背后的創(chuàng)傷

在我前往肯尼亞之前，我以為通過(guò)與一些數(shù)據(jù)工人的線上對(duì)話，我已經(jīng)理解了他們所面臨的挑戰(zhàn)。然而，當(dāng)我抵達(dá)后，我被那些關(guān)于個(gè)人和制度性墮落的故事所震撼，這些故事讓我經(jīng)歷了次生創(chuàng)傷，并連續(xù)幾周都被噩夢(mèng)困擾。對(duì)于數(shù)據(jù)工人來(lái)說(shuō)，他們的創(chuàng)傷主要以兩種形式表現(xiàn)出來(lái)：一是工作本身帶來(lái)的直接創(chuàng)傷，二是加劇創(chuàng)傷的系統(tǒng)性問(wèn)題。

直接創(chuàng)傷：面對(duì)人性最黑暗的一面

每天，內(nèi)容審核員都被迫直面人類最黑暗的一面。他們?cè)诔涑庵┝?、仇恨言論、性虐待和血腥圖像的有毒泥沼中掙扎。

持續(xù)接觸令人不安的內(nèi)容，極大地?fù)p害了審核員的心理健康。正如金斯告訴我的那樣：“這超出了人類所能承受的范疇。它就像每天被迫喝毒藥，你知道它正在殺死你，但你無(wú)法停止，因?yàn)檫@是你的工作。”這些影像和視頻在工作結(jié)束后仍然揮之不去，侵入夢(mèng)境，滲透到個(gè)人生活中。

許多審核員報(bào)告了創(chuàng)傷后應(yīng)激障礙（PTSD）和替代性創(chuàng)傷的癥狀[3]：夢(mèng)魘、閃回和嚴(yán)重焦慮都很常見(jiàn)。一些人因長(zhǎng)期接觸人類的殘酷行為而對(duì)周圍世界失去基本信任，內(nèi)心被永久改變。一位工人告訴我：“我?guī)е鴮?duì)人性的信念開(kāi)始了這份工作?，F(xiàn)在，我不確定我還相信什么。如果人類能做出這些事情，還有什么值得相信？”

當(dāng)班次結(jié)束后，創(chuàng)傷并不會(huì)隨之消散，而是一路跟隨這些工人回到家中。對(duì)金斯和奧金伊來(lái)說(shuō)，就像許多其他人一樣，這種壓力如同無(wú)形的重?fù)?dān)，壓得他們的關(guān)系在能夠目睹卻無(wú)法傾訴的痛苦下逐漸破裂。孩子在情感疏離的父母身邊長(zhǎng)大，伴侶逐漸疏遠(yuǎn)，而工人則被孤立在自己的痛苦中。

許多審核員報(bào)告說(shuō)，他們的世界觀發(fā)生了根本性的變化。他們變得過(guò)于警覺(jué)，仿佛處處潛藏著威脅。奧金伊提到，他的一位前同事因?yàn)閷?duì)可能出現(xiàn)的暴力爆發(fā)產(chǎn)生偏執(zhí)，不得不從城市搬到人煙稀少的鄉(xiāng)村。在為“數(shù)據(jù)工人調(diào)查”項(xiàng)目制作的關(guān)于Sama女性內(nèi)容審核員的小冊(cè)子中，蘭塔采訪的一名女性提到，這份工作讓她不斷質(zhì)疑自己的價(jià)值，懷疑自己是否有能力撫養(yǎng)孩子。

系統(tǒng)性問(wèn)題：加劇創(chuàng)傷的結(jié)構(gòu)性弊端

除了內(nèi)容本身帶來(lái)的直接創(chuàng)傷，審核員還面臨一系列系統(tǒng)性問(wèn)題，這些問(wèn)題進(jìn)一步加劇了他們的痛苦：

（1）工作不穩(wěn)定

許多審核員，尤其是那些生活在不穩(wěn)定環(huán)境中的人（例如難民或經(jīng)濟(jì)移民），常常生活在失去工作的恐懼中。這種恐懼通常使他們不敢公開(kāi)談?wù)摴ぷ鳁l件或?qū)で髱椭?。公司往往利用了他們的這種脆弱。

（2）缺乏心理健康支持

盡管公司宣稱提供“健康計(jì)劃”但現(xiàn)實(shí)卻遠(yuǎn)非如此。正如金斯的經(jīng)歷所示，提供的心理咨詢往往無(wú)法滿足內(nèi)容審核工作的獨(dú)特需求。治療師通常缺乏處理這種特殊創(chuàng)傷的經(jīng)驗(yàn)，咨詢時(shí)間也很短，無(wú)法深入解決更深層次的心理創(chuàng)傷問(wèn)題。

（3）不現(xiàn)實(shí)的績(jī)效指標(biāo)

審核員通常每小時(shí)需要審查數(shù)百條內(nèi)容。這種無(wú)情的節(jié)奏讓他們沒(méi)有時(shí)間去消化令人不安的內(nèi)容，迫使他們壓抑情緒。審核工作對(duì)數(shù)量而非質(zhì)量的過(guò)度關(guān)注不僅影響了審核的準(zhǔn)確性，也加劇了這項(xiàng)工作的心理壓力。正如阿布拉所說(shuō)：“想象一下，你被要求觀看一個(gè)人被殺的視頻，然后立刻轉(zhuǎn)到下一條帖子。沒(méi)有時(shí)間喘息，更別提處理我們所看到的東西了?！?

（4）持續(xù)監(jiān)控

如果說(shuō)內(nèi)容本身已經(jīng)足夠令人壓力山大，那么審核員還要面對(duì)無(wú)處不在的監(jiān)控。他們的每一個(gè)決定，每一秒的工作時(shí)間，都被嚴(yán)格審查，給本已沉重的負(fù)擔(dān)再添一層壓力。這種監(jiān)控甚至延伸到上廁所的時(shí)間、任務(wù)間的空閑時(shí)間，甚至審核內(nèi)容時(shí)的面部表情。

主管通過(guò)電腦監(jiān)控軟件、攝像頭，甚至親自觀察，密切關(guān)注工人的一舉一動(dòng)。他們通常會(huì)注意審核員的面部表情，以評(píng)估其反應(yīng)是否符合要求，并確保審核員在處理令人不安的內(nèi)容時(shí)保持某種“專業(yè)性”或“情感疏離”。因此，工人告訴我，他們甚至覺(jué)得無(wú)法對(duì)令人不安的內(nèi)容做出自然反應(yīng)。

每天，審核員只能獲得一小時(shí)的休息時(shí)間，用于進(jìn)食、伸展、上廁所等所有額外需求——任何額外時(shí)間用于這些或其他非工作活動(dòng)，都會(huì)受到審查，并可能被要求補(bǔ)回加班時(shí)間。阿布拉還提到，工人不得不將手機(jī)存放在儲(chǔ)物柜中，這進(jìn)一步使他們與外界隔絕，并在工作期間限制了與外界的溝通能力。

這種影響不僅局限于家庭：朋友逐漸疏遠(yuǎn)，因?yàn)樗麄儫o(wú)法理解審核員因工作而形成的更灰暗的人生觀；社交互動(dòng)變得緊張，因?yàn)閷徍藛T在每天沉浸于人類最黑暗行為之后，難以參與“正常”的對(duì)話。

從本質(zhì)上說(shuō)，內(nèi)容審核的創(chuàng)傷重塑了整個(gè)家庭動(dòng)態(tài)和社交網(wǎng)絡(luò)，形成了一個(gè)遠(yuǎn)超個(gè)人范圍的孤立與痛苦的循環(huán)。

用人類的創(chuàng)傷制造“智能”系統(tǒng)

或許最殘酷的諷刺在于，我們正在通過(guò)傷害人類來(lái)創(chuàng)造機(jī)器智能的幻象。人類審核員所造成的創(chuàng)傷被未來(lái)無(wú)需人類干預(yù)的AI系統(tǒng)的承諾合理化。然而，這些系統(tǒng)的開(kāi)發(fā)需要更多的人類勞動(dòng)，并且往往以犧牲工人的心理健康為代價(jià)。

此外，AI發(fā)展的重點(diǎn)往往分散了對(duì)改善人類工人條件的關(guān)注。企業(yè)在機(jī)器學(xué)習(xí)算法上投入數(shù)十億，卻對(duì)人類審核員最基本的心理健康需求視而不見(jiàn)，缺乏應(yīng)有的關(guān)懷。

AI的幻象讓用戶與內(nèi)容審核的現(xiàn)實(shí)保持距離，，猶如工廠化養(yǎng)殖讓人們淡忘了蛋雞所遭受的待遇。這種集體的有意忽視，使得剝削得以持續(xù)而不受約束。AI的敘事就像一層煙幕，掩蓋了一種深刻不道德的勞動(dòng)實(shí)踐。這種實(shí)踐以犧牲人類福祉為代價(jià)，換取技術(shù)進(jìn)步的表象。

數(shù)字工人聯(lián)合起來(lái)！

面對(duì)剝削和創(chuàng)傷，數(shù)據(jù)工人并未被動(dòng)接受。在全球范圍內(nèi)，工人們嘗試組織工會(huì)，但他們的努力常常受到各種阻礙。在肯尼亞，工人們組建了“非洲內(nèi)容審核員工會(huì)”，試圖將來(lái)自不同非洲國(guó)家的工人聯(lián)合起來(lái)。

工會(huì)領(lǐng)導(dǎo)成員之一的馬森吉（Mathenge）告訴我，他相信自己會(huì)因參與工會(huì)活動(dòng)而被解雇。這種報(bào)復(fù)行為向其他考慮組織起來(lái)的工人發(fā)出了寒蟬效應(yīng)。

最近，爭(zhēng)取工人權(quán)利的斗爭(zhēng)在法律上取得了重大進(jìn)展。今年9月20日，肯尼亞法院裁定，Meta可能因其承包商Sama解雇數(shù)十名內(nèi)容審核員的行為而被起訴。法院維持了此前的裁定，即Meta可以因這些解雇行為和涉嫌惡劣的工作條件在肯尼亞受審。

這一最新裁決可能對(duì)這家科技巨頭與全球內(nèi)容審核員的合作方式產(chǎn)生深遠(yuǎn)影響，也標(biāo)志著爭(zhēng)取公平待遇和承認(rèn)數(shù)據(jù)工人權(quán)利的斗爭(zhēng)邁出了重要一步。

然而，阻礙遠(yuǎn)不限于公司層面。企業(yè)通常采取破壞工會(huì)的策略，例如解雇那些推動(dòng)工會(huì)化的工人。馬森吉提到，在肯尼亞數(shù)字勞動(dòng)領(lǐng)域，與工人、記者和民間社會(huì)官員的對(duì)話中，甚至有傳言稱高級(jí)政府官員要求賄賂以正式注冊(cè)工會(huì)，這使得工會(huì)化過(guò)程增加了另一層復(fù)雜性。

更為荒謬的是，據(jù)一家青年主導(dǎo)的民間組織“Siasa Place”的官員稱，當(dāng)肯尼亞的工人試圖成立自己的工會(huì)時(shí)，他們卻被要求加入郵政和電信工會(huì)。這一建議完全忽視了這些行業(yè)之間的巨大差異，以及當(dāng)今數(shù)據(jù)工人所面臨的獨(dú)特挑戰(zhàn)。

盡管面臨這些挫折，工人們?nèi)栽诓粩鄬ふ覄?chuàng)新的方法來(lái)組織和倡導(dǎo)自己的權(quán)利。奧金伊、馬森吉和金斯共同成立了非洲科技工人社區(qū)（Techworker Community Africa），一個(gè)致力于反對(duì)勞動(dòng)剝削等有害科技實(shí)踐的非政府組織。

其他組織也在幫助這些工人。例如，Siasa Place和數(shù)字權(quán)利律師Mercy Mutemi已向肯尼亞議會(huì)提交請(qǐng)?jiān)笗?shū)，要求調(diào)查AI公司中的工作條件。

盡管斗爭(zhēng)充滿挑戰(zhàn)，數(shù)據(jù)工人的聲音正日益高漲，他們的努力正在推動(dòng)行業(yè)變革，爭(zhēng)取一個(gè)更公平的未來(lái)。

邁向倫理AI和公平勞動(dòng)實(shí)踐的道路

行業(yè)范圍的心理健康協(xié)議

我們需要一種全面的、行業(yè)范圍內(nèi)的心理健康支持方法。根據(jù)我的研究和與工人的對(duì)話，目前現(xiàn)有的支持系統(tǒng)往往無(wú)法滿足數(shù)據(jù)工人的實(shí)際需求，因此，我提出了一種多層面的解決方案。

許多公司的“健康計(jì)劃”僅停留在表面，無(wú)法觸及數(shù)據(jù)工人所經(jīng)歷的深層創(chuàng)傷。這些計(jì)劃可能包括偶爾的團(tuán)體會(huì)議或普通心理咨詢服務(wù)，但通常流于形式，不具備針對(duì)性。

我建議的方案應(yīng)包括以下幾個(gè)方面：強(qiáng)制性、定期與專門處理數(shù)據(jù)工作相關(guān)創(chuàng)傷的治療師進(jìn)行咨詢；定期進(jìn)行心理健康檢查；提供全天候的危機(jī)支持；提供長(zhǎng)期心理治療服務(wù)，這是目前大多數(shù)現(xiàn)有計(jì)劃中所缺乏的。

更重要的是，這些服務(wù)必須具備文化敏感性，能夠認(rèn)可并適應(yīng)全球范圍內(nèi)數(shù)據(jù)工人的多樣化背景。這與當(dāng)前千篇一律的“一刀切”方法有很大不同，因?yàn)楹笳咄鲆暳讼駜?nèi)羅畢、馬尼拉或波哥大等地工人的文化語(yǔ)境。新的系統(tǒng)應(yīng)以工人母語(yǔ)提供支持，并對(duì)與心理健康相關(guān)的文化差異保持敏感——這些方面在當(dāng)前的許多計(jì)劃中嚴(yán)重缺失。

此外，與目前的心理健康支持系統(tǒng)通常在員工離職后終止不同，這種新方法將延續(xù)到工作結(jié)束之后，承認(rèn)這項(xiàng)工作帶來(lái)的長(zhǎng)期影響。這種全面的、長(zhǎng)期的、具有文化敏感性的心理健康支持方法，代表了與當(dāng)前形式化且通常無(wú)效的支持體系的根本性轉(zhuǎn)變。

“創(chuàng)傷上限”機(jī)制的實(shí)施

正如我們?yōu)楹斯I(yè)工人設(shè)定輻射暴露限值一樣，我們也需要為數(shù)據(jù)工人設(shè)定“創(chuàng)傷暴露上限”。這種“創(chuàng)傷上限”將嚴(yán)格限制工人在特定時(shí)間內(nèi)可以接觸的令人不安的內(nèi)容的數(shù)量和類型。

實(shí)施方式可能包括以下幾種：在高沖擊性內(nèi)容與低沖擊性內(nèi)容之間輪換工人； 在接觸特別創(chuàng)傷性材料后強(qiáng)制休息；限制連續(xù)幾天處理令人不安內(nèi)容的工作時(shí)間； 分配年度“創(chuàng)傷假期”，用于心理健康恢復(fù)。

我們需要一種不僅僅追蹤審核數(shù)量的系統(tǒng)，還需要能夠評(píng)估內(nèi)容的情感沖擊力。例如，一段極端暴力的視頻應(yīng)比一條垃圾帖子的審核更接近工人的“創(chuàng)傷上限”。

這種機(jī)制將為數(shù)據(jù)工人建立一個(gè)更安全的工作環(huán)境，防止過(guò)度暴露于令人不安的內(nèi)容，同時(shí)為他們的心理健康提供至關(guān)重要的保障。

獨(dú)立監(jiān)管機(jī)構(gòu)

依靠科技公司自我監(jiān)管已被證明是行不通的；這無(wú)異于“讓豺狼守雞舍”。我們需要一個(gè)獨(dú)立的機(jī)構(gòu)，擁有審核、執(zhí)行標(biāo)準(zhǔn)以及在必要時(shí)實(shí)施處罰的權(quán)力。

這個(gè)監(jiān)管機(jī)構(gòu)應(yīng)由倫理學(xué)家、前數(shù)據(jù)工人、心理健康專業(yè)人士和人權(quán)專家組成。它的職責(zé)和權(quán)限應(yīng)包括對(duì)數(shù)據(jù)工作場(chǎng)所進(jìn)行突擊檢查，確保工作條件符合標(biāo)準(zhǔn)；制定并執(zhí)行行業(yè)范圍內(nèi)的工作條件和心理健康支持標(biāo)準(zhǔn)；提供一個(gè)安全的渠道，讓工人在不用擔(dān)心報(bào)復(fù)的情況下報(bào)告違規(guī)行為。

至關(guān)重要的是這樣的監(jiān)管機(jī)構(gòu)必須包括現(xiàn)任和前任數(shù)據(jù)工人的聲音。因?yàn)橹挥兴麄冋嬲私膺@份工作的挑戰(zhàn)和需求。這樣的獨(dú)立機(jī)構(gòu)不僅能夠確保公平和透明，還能推動(dòng)整個(gè)行業(yè)向更加人道和可持續(xù)的方向發(fā)展。

消費(fèi)者與公眾在推動(dòng)變革中的角色

雖然行業(yè)改革和監(jiān)管監(jiān)督至關(guān)重要，但公眾壓力的力量同樣不容忽視。作為數(shù)字內(nèi)容的消費(fèi)者和在線空間的參與者，我們每個(gè)人都有責(zé)任推動(dòng)更具倫理的實(shí)踐。這需要我們進(jìn)行知情消費(fèi)，主動(dòng)了解內(nèi)容審核背后的人力成本。

在分享內(nèi)容之前，尤其是可能令人不安的材料之前，我們應(yīng)考慮到審核員可能需要審查這些內(nèi)容的現(xiàn)實(shí)。這種意識(shí)可能會(huì)影響我們發(fā)布或分享內(nèi)容的決定。我們還必須要求科技公司對(duì)其內(nèi)容審核實(shí)踐保持透明。

我們可以利用公司自己的平臺(tái)，來(lái)讓這些公司承擔(dān)責(zé)任，公開(kāi)提問(wèn)工人的工作條件和心理健康支持是否到位。支持那些優(yōu)先考慮道德勞動(dòng)實(shí)踐的公司，抵制那些忽視工人權(quán)益的企業(yè)，也是公眾可以采取的實(shí)際行動(dòng)。

隨著AI工具在數(shù)字領(lǐng)域的普及，我們也必須教育自己，了解這些看似“神奇”的技術(shù)背后隱藏的成本。像ChatGPT和DALL-E這樣的工具，其開(kāi)發(fā)過(guò)程依賴于巨大的人力勞動(dòng)和道德妥協(xié)的產(chǎn)物。

這些AI系統(tǒng)是建立在無(wú)數(shù)看不見(jiàn)的個(gè)體基礎(chǔ)之上的：接觸創(chuàng)傷性內(nèi)容的內(nèi)容審核員、長(zhǎng)時(shí)間工作卻薪酬微薄的數(shù)據(jù)標(biāo)注員，以及他們的創(chuàng)意作品被未經(jīng)同意或補(bǔ)償就利用的藝術(shù)家。除了驚人的人力成本外，這些技術(shù)的環(huán)境代價(jià)也令人擔(dān)憂，而且常常被忽視。

從數(shù)據(jù)中心的巨大能源消耗到生成的大量電子垃圾，人工智能的生態(tài)足跡是一個(gè)亟需我們關(guān)注和行動(dòng)的關(guān)鍵問(wèn)題。通過(guò)了解這些現(xiàn)實(shí)，我們可以對(duì)所使用的AI工具做出更明智的選擇，并倡導(dǎo)對(duì)促成這些技術(shù)的人類勞動(dòng)給予公平的報(bào)酬和應(yīng)有的認(rèn)可。

政治行動(dòng)同樣重要。我們需要倡導(dǎo)制定保護(hù)數(shù)據(jù)工人的立法，敦促我們的政治代表對(duì)科技行業(yè)進(jìn)行監(jiān)管，并支持那些優(yōu)先考慮數(shù)字倫理和公平勞動(dòng)實(shí)踐的政治候選人。

利用我們的平臺(tái)傳播關(guān)于數(shù)據(jù)工作現(xiàn)實(shí)的認(rèn)知至關(guān)重要，這樣我們才能讓更多人了解像阿布拉、金斯和蘭塔這樣的工人的故事，進(jìn)而激發(fā)對(duì)數(shù)字消費(fèi)道德影響的討論。

我們可以關(guān)注并支持像非洲內(nèi)容審核員工會(huì)這樣的組織，以及那些專注于數(shù)字勞動(dòng)權(quán)利的非政府組織（NGO），同時(shí)放大那些勇敢發(fā)聲的數(shù)據(jù)工人的聲音，推動(dòng)有意義的變革。

大多數(shù)人并不了解他們每日使用的經(jīng)過(guò)“凈化”的社交媒體內(nèi)容和AI工具背后發(fā)生了什么。如果他們知曉，我相信他們會(huì)要求改變。公眾的支持對(duì)于確保數(shù)據(jù)工人的聲音被聽(tīng)到至關(guān)重要。

通過(guò)實(shí)施這些解決方案并利用公眾需求的力量，我們可以共同努力實(shí)現(xiàn)一個(gè)未來(lái)——一個(gè)我們享受的數(shù)字世界不再以犧牲人類尊嚴(yán)和心理健康為代價(jià)的未來(lái)。這條路充滿挑戰(zhàn)，但如果我們希望創(chuàng)造一個(gè)真正倫理的數(shù)字生態(tài)系統(tǒng)，這是我們必須走的路。

追問(wèn)后記

1900（追問(wèn)作者）：用人類的創(chuàng)傷換來(lái)的“智能”系統(tǒng)，真的能稱得上是“智能”嗎？這些所謂的“智能”系統(tǒng)，不過(guò)是在反復(fù)向“平均水平的標(biāo)注員”提問(wèn)罷了。我們應(yīng)當(dāng)關(guān)心這些數(shù)據(jù)工人的心理健康，畢竟，長(zhǎng)久目睹世間的黑暗，必然會(huì)動(dòng)搖對(duì)人性的信任。真正的智能，難道不應(yīng)建立在不以人類為代價(jià)的基礎(chǔ)之上？

*原文鏈接：https://www.noemamag.com/the-human-cost-of-our-ai-driven-future/本文基于對(duì)來(lái)自肯尼亞、敘利亞、黎巴嫩、德國(guó)、哥倫比亞、委內(nèi)瑞拉和巴西的數(shù)據(jù)工人的采訪。這些采訪是“數(shù)據(jù)工人調(diào)查”（Data Workers Inquiry）項(xiàng)目的一部分，該項(xiàng)目是由分布式人工智能研究所（Distributed Artificial Intelligence Research Institute）與魏岑鮑姆研究所（Weizenbaum Institute）合作開(kāi)展的社區(qū)行動(dòng)研究項(xiàng)目。

[1] https://tsjournal.org/index.php/jots/article/view/150/58

[2] https://data-workers.org/ https://doi.org/10.1186/s12916-022-02414-0.

[3] https://crowd.cs.vt.edu/wp-content/uploads/2021/02/CHI21_final__The_Psychological_Well_Being_of_Content_Moderators-2.pdf

關(guān)于追問(wèn)nextquestion

天橋腦科學(xué)研究院旗下科學(xué)媒體，旨在以科學(xué)追問(wèn)為紐帶，深入探究人工智能與人類智能相互融合與促進(jìn)，不斷探索科學(xué)的邊界。如果您有進(jìn)一步想要討論的內(nèi)容，歡迎評(píng)論區(qū)留言，或添加小助手微信questionlab，加入社群與我們互動(dòng)。

關(guān)于天橋腦科學(xué)研究院

天橋腦科學(xué)研究院（Tianqiao and Chrissy Chen Institute）是由陳天橋、雒芊芊夫婦出資10億美元?jiǎng)?chuàng)建的世界最大私人腦科學(xué)研究機(jī)構(gòu)之一，圍繞全球化、跨學(xué)科和青年科學(xué)家三大重點(diǎn)，支持腦科學(xué)研究，造福人類。

Chen Institute與華山醫(yī)院、上海市精神衛(wèi)生中心設(shè)立了應(yīng)用神經(jīng)技術(shù)前沿實(shí)驗(yàn)室、人工智能與精神健康前沿實(shí)驗(yàn)室；與加州理工學(xué)院合作成立了加州理工天橋神經(jīng)科學(xué)研究院。

Chen Institute建成了支持腦科學(xué)和人工智能領(lǐng)域研究的生態(tài)系統(tǒng)，項(xiàng)目遍布?xì)W美、亞洲和大洋洲，包括、、、科研型臨床醫(yī)生獎(jiǎng)勵(lì)計(jì)劃、、中文媒體追問(wèn)等。