當AI剝削威脅著價值數千兆美元的經濟利益與足以顛覆現有世界秩序的政治權力時，我們正面臨一場前所未有的人權危機。AI可能在未來1至5年內取代一半的入門級白領工作，然而這項技術進步的背後，隱藏著對人類關係、認知能力、內在世界、身份認同以及工作貢獻的嚴重侵蝕。從Scale AI等公司的AI勞動力剝削，到Google被迫終止對網站內容的AI模型剝削行為，科技巨頭的黑暗面逐漸浮現。特別值得關注的是，歐盟AI法案未能禁止最危險的AI應用，因此專家們呼籲立即建立具約束力的監管框架，以防止這場技術革命演變為人權災難。
AI勞動力剝削揭露科技巨頭黑暗面
Scale AI等公司如何剝削標註工人
估值達140億美元的Scale AI被數據標註工人訴上法庭,起訴書將其形容為「支撐生成式AI行業的肮脏软肋」。該公司在全球擁有數十萬名工人,僅Romotasks平台就有24萬名註冊工人。Scale AI在招募時對薪酬做出虛假陳述,引導求職者以獨立合同承包商身份工作,從而規避勞工法保護。
這些標註工人經常遭受不當克扣與延遲發薪。工作量遠超正常水平,員工被迫加班加點犧牲休息時間,否則面臨薪資扣除。更嚴重的是,工人需要查閱與自殺、暴力相關的內容,卻未獲得事前告知或心理支持。美國勞工部已對Scale AI展開調查,涉及未支付工資、員工與承包商錯誤分類以及非法報復等問題。
在菲律賓,Scale AI向工人支付的工資極為微薄且經常延遲。36名受訪工人中有34人稱曾面臨付款延遲、減少或取消。該公司在全球範圍內拍賣項目採取價低者得策略,引發工資「逐底競賽」。
Google被迫終止網站內容剝削行為
Google將AI生成摘要功能整合到核心搜尋產品後,歐洲新聞出版商向歐盟執委會投訴,指控其未經同意抓取新聞內容製成AI摘要。數據顯示,新聞類別的零點擊搜尋從2024年5月的56%上升至2025年5月的69%。《每日郵報》線上版點擊率下降44%,People.com零點擊率達71.2%。
AI模型訓練背後的人權代價
肯尼亞數據標註工人時薪僅2美元,但OpenAI實際向外包公司Sama支付的時薪為12.5美元。工人每天8小時坐在屏幕前查看色情、仇恨言論和暴力內容。全球數據標註市場預計從2022年的22.2億美元增長至2030年的171億美元,然而從業人員處於AI價值鏈底端,面臨不穩定就業與身心創傷。
演算法管理系統侵蝕工作者基本權利
自動化監控如何削弱勞工自主權
數位監控技術正全面滲透職場。2025年2月,某互聯網公司員工許合盛上班時突然看到電腦屏幕右上角跳出一行字:「你的屏幕正在被觀察」。重啟電腦後這行字依然存在,多名同事的辦公電腦都被安裝定期更新的監控軟體,員工瀏覽的網頁、上傳下載的文件,公司全都知道。
國內某人力資源服務商問卷調查顯示,超半數職場人表示其工作受到監視,雇主重點監控員工的網站訪問、電腦屏幕、郵件內容、社交媒體、位置追蹤等,25%的職場人對此表示反感。在北京某MCN公司工作的聶鵬表示,他從不用辦公電腦登錄個人社交帳號,也不在連接公司網路時登錄手機微信或點外賣,他和同事還在手機和電腦屏幕上貼了防窺膜。
平台經濟中的不透明決策機制
演算法管理的核心問題在於其「黑箱」特性。平台企業控制著不可替代的核心演算法,將平台各個模塊嵌入由平台企業制定規則與提供交易服務的平台之上。在深度學習領域,基於人工神經網路結構的複雜層級使得輸入數據與輸出結果之間存在監管審計機構、社會公眾甚至開發人員難以觸摸和理解的「黑箱」。
平台憑藉演算法管理與數據控制,實現了對工作過程的高度支配,卻在法律層面極力主張自身僅為「信息中介」,從業者為「獨立承包商」,從而系統性規避《勞動合同法》下的雇主責任。這種「組織控制強化」與「法律關聯淡化」的悖論,導致大量從業者身處權益保障的「制度真空」。
平台用工演算法自動化決策是指基於演算法規則,以演算法自動化方式做出或支持的對於特定平台勞動者產生重大影響的具體決策,包括對平台勞動者的註冊登錄准入和帳戶的限制、暫停或終止,平台勞動者的訂單獲取、任務單價、收入金額以及工作路線、工作時間等具體的工作執行與工作條件的決策。
工資與工時被演算法任意操控
演算法管理將「人」數據化,直接衝擊了員工的心理健康與工作滿意度。外送員看似自由,實則被演算法的「遊戲化」機制操控,例如再跑一單就能解鎖獎金、連續接單獎勵等。這種「軟性控制」利用了人類的心理弱點,比傳統主管的命令更難以抗拒,讓勞動者在不知不覺中延長工時。
演算法根據個人的接單習慣與財務狀況,動態調整每個人的薪資。具體而言,系統發現某位司機急需用錢,可能會在其上線時給予較低的單價,利用其迫切性進行剝削。平台通過數位監控、客戶評分系統、遊戲化機制以及潛在的停用懲罰等手段,對勞動者施加微觀控制。客戶評分系統作為一種間接的管理控制手段,不僅起到監督作用,更可能造成勞動者的「演算法不安全感」,因為低分可能導致任務分配減少甚至被平台停用。
工廠作業員因害怕被系統判定「閒置」,連上廁所的時間都被壓縮,導致嚴重的泌尿系統疾病與心理焦慮。
AI系統放大既有社會不平等現象
偏見如何從數據蔓延至決策
AI具有「鏡像性」與「放大性」,當訓練數據源於存在性別、種族、地域或經濟歧視的社會時,AI模型便會繼承甚至強化這些偏見,在招聘、信貸、司法、安防等關鍵領域做出歧視性決策。麻省理工學院研究發現,某些商用人臉辨識系統在辨識深膚色女性時出錯率超過20%,但對淺膚色男性的辨識錯誤率僅0.8%。Amazon開發的自動化招聘系統因訓練數據主要來自男性求職者,逐漸把「男性特徵」視為成功指標,對含有女性相關字眼的履歷進行降權處理。
邊緣群體承受最嚴重衝擊
美國司法機關使用的COMPAS再犯率預測系統對少數族群帶有明顯偏見,非裔人士被標註為「高風險」的機率是白人的兩倍。這種算法偏見加剧了長久以來對種族和族裔社區過度執法的現象。邊緣群體在數據中代表性不足或被排除,導致決策無法滿足實際人群需求。
民主制度面臨AI操縱威脅
人工智能已對全球民主治理的各項支柱產生影響,從選舉到政府採用,再到更廣泛的系統性風險。AI可能被少數大型科技公司或國家控制,導致權力過度集中,威脅公平競爭和市場多樣性。
專家呼籲建立具約束力的監管框架
現行AI法規為何形同虛設
國際電信聯盟調查揭示,85%的國家缺乏AI特定政策或戰略。儘管至少60個國家提出700多項AI政策倡議,許多僅停留在召開工作小組階段,未提供具體指南。美國《人工智能權利法案藍圖》最終只是非約束性白皮書,歐盟《人工智能法案》尚未生效。倫理框架缺乏可執行的法律或懲罰措施,當AI造成傷害時追索途徑極為有限。
國際合作對抗跨國科技公司
全球AI治理規則呈現碎片化局面,不同國家根據自身技術水平制定各自政策,缺乏統一性與協調性。技術出口管制與數據本地化措施加劇了壁垒,削弱了技術擴散可能性。發展中國家在技術研發、資金投入及規則制定中參與度明顯不足,全球AI治理缺乏包容性。
勞工組織在AI治理中的關鍵角色
國際勞工組織總幹事洪博強調,必須圍繞權利、就業與技能、社會保護及社會對話四大支柱構建AI治理戰略。集體談判至關重要,AI治理必須建立在透明、問責和人類監督基礎上。越南提出建立以社會對話、透明度、問責機制和國際勞工標準為基礎的AI治理框架。
技術透明度與問責機制缺失
歐盟AI法案與GDPR等全球標準要求高風險AI系統提供清晰說明和文檔。然而,深度學習領域的複雜層級使得輸入數據與輸出結果之間存在難以觸摸的「黑箱」。透明度原則要求AI系統提供者披露運作機制、決策邏輯和數據使用情況。當AI決策過程被完全透明化後,界定責任變得更加困難,導致責任稀釋。
結論
顯然地,我們正站在技術進步與人權保障的十字路口。AI剝削已從數據標註工人延伸至演算法控制的職場,再擴散到整個社會的不平等結構。總體而言,現行監管框架的軟弱無力已無法應對這場危機。我們必須立即行動,建立具約束力的國際規範,確保技術發展服務於人類尊嚴而非資本利益。因此,每一天的拖延都可能讓更多勞動者陷入數位剝削的深淵。