原創：譚婧

互聯網上每天產生多少句臟話？這是一個謎。但是，從Facebook公司2020年第一季度的《透明度報告》里，可以窺到一些面貌。

自2018年5月以來， Facebook公司以季度為周期發布報告，解釋其辛苦的幕（zi）后（jin）工（tou）作（ru）。

在2020年第一季度，公司更是成功刪除960萬條“臟話”內容。這是一個創紀錄的數字，高于2019年第四季度的570萬條，也超過了2019年第三季度的700萬條。

2020年第一季度的全球公眾衛生事件，人們有不少壞情緒?！　?/p>

“臟話”是簡稱，直白的理解是，偏激、仇視性話語（Hate Speech）。民間臟話、方言臟話、描述部分人體器官、人身攻擊、種族歧視、性別歧視大抵都包括在內，如果有沒有想到的，還望海涵。

每天，打開手機APP，就看見鍵盤俠“口吐芬芳”，令人大倒胃口。然而，互聯網上臟話的量級，人工刪除是刪不過來的，而且還會誤判。

Facebook公司的方法是，用人工智能技術狙擊。

但凡審查，就會有漏查。Facebook公司《透明度報告》有一個缺陷，就是它沒有提漏查的程度。

透明與公開，是與公眾溝通的高明手段，蠢貨只有閉嘴這一招。Facebook公司雖然沒有滿分，但也提供了“榜樣”。

讓我們看到真善美的存在，也要看到假惡丑如何被干掉。

在Facebook公司第一季度刪除的960萬個帖子中，軟件系統檢測到88.8％（在用戶看到信息并舉報之前）。這表明該算法用機器標記了850萬個“臟話”帖子，比上一季度的460萬個增長了86％。

2020年第一季度，除了病毒蔓延，“臟話”也在蔓延。

Mike Schroepfe，自2013年3月以來一直擔任Facebook公司的首席技術官。他借《透明度報告》發布的機會，重點打了一輪人工智能技術的廣告，宣傳了該公司自然語言處理技術的進步。

他說：“我們的語言模型變得更大，更準確，更細微了。能夠發現細致微妙的東西?！?/p>

可惜，Schroepfer并沒有解釋說明這些系統審查的精確程度，只是說Facebook在部署系統之前對其進行了廣泛的測試（測試機器誤判的情況）。

畢竟一個把正常表達識別錯誤的機器，也很讓用戶惱火。

回憶詩人顧城的段子?！　?/p>

Mike Schroepfe引用了新報告中的數據，這些數據表明，盡管在最近的25 - 130萬條中，用戶更經常地對刪除內容的決定提出申訴（有可能是罵罵咧咧習慣了，突然被刪，很是不服氣），但后來執意恢復的帖子數量有所減少（習慣了）。

Facebook的數據并未表明仇恨言論在其算法網絡中漏失了多少。該公司的季度報告估計了Facebook規則禁止的某些類型的內容的發生率，但沒有“臟話”內容。新聞官宣顯示，自2019年夏天以來，暴力帖子數量有所下降。Facebook公司“仍在制定一項全球指標”。

缺失的數據掩蓋了社交網絡的臟話言論的真實規模。

西雅圖大學副教授凱特琳·卡爾森（Caitlin Carlson）說道：“與Facebook龐大的用戶網絡以及用戶對令人不安的內容的觀察相比，刪除的帖子數目（960萬條）看起來太少了?！?/p>

教授認為，960萬條“臟話”，這一數據還不夠真實？

　　無獨有偶，卡教授在2020年1月份發布了一項實驗結果。她和一位同事收集了300多個Facebook帖子（樣本），這些帖子明顯違反了規則，實驗人員用服務工具進行了舉報。追蹤結果顯示，最終只有大約一半的帖子被刪除。

卡教授這一實驗結果，在挑戰Facebook。同時，她也發現，同樣是“口吐芬芳”，算法對種族歧比在歧視女性方面更為嚴格。不知道Facebook高管桑德拉看后作何感想。

Facebook表示，對算法找到（標記）的內容與用戶報告的處理相同。流程上確定是直接刪除，還是警告處理?？赡芰鞒躺弦鬓D到下一環節，人工審核者。（或者仍由軟件判定，視情況而定。）

這時候，要談談人工審核員工的苦楚了。

2020年5月，Facebook公司同意支付5200萬美元與內容審查團隊的員工達成和解。原因很驚人，審查帖子導致他們患上了精神創傷，已獲法庭鑒定。外媒The Verge之前詳細報道了這一消息。

消息原文：“Facebook承認內容審核會給員工造成巨大的損失，這一次，是具有里程碑意義的承認。Facebook同意向現職和前任審核人員支付5200萬美元，以補償他們因工作出現的心理健康問題。

在美國圣馬特奧高等法院提出的一項初步和解中，Facebook公司同意支付賠償金，并在他們工作期間給與更多幫（tong）助（qing）。”

天天看這些臟話的人，都受了內傷。當然，這得算工傷。

在“劍橋門”事件后，審核報告是Facebook公司透明度程序的一部分，這一程序還包括聘請一個新的外部專家小組（有沒有研究臟話的專家？），該小組有權推翻該公司的審核決定。

講道理，只有董事會才是公司最高權力機構。

公司協調外部力量參與的力度很大。畢竟罰金有點高，這樣下去，扎克伯格就會比亞馬遜公司的貝佐斯窮多了。

（“劍橋門”事件，臉書認罰50億，當然是美金。）　　卡教授繼續與Facebook公司正面硬剛（我還挺欣賞她的執著）。她表示，Facebook公司的披露似乎表明該公司可以自我監管，但報告有缺陷。

她說：“要與公司進行對話，我們需要數據?！?/p>

當被問及為何不報告“臟話”言論泛濫情況時，Facebook公司發言人指出，該報告的衡量標準“正在緩慢擴展，以覆蓋更多的語言和地區，以考慮到文化背景和個別語言的細微差別” 。

定義和檢測“臟話”是Facebook和其他平臺面臨的最大社會和技術挑戰之一。

在全球多元文化背景下，即使是人類分辨內容，也是需要花一番功夫的。舉個例子，有抖音號教青島方言表揚人用“赤絲”，請自行體（bai）會（du）一下。

自動化是很棘手的，因為人工智能距離人類對文本的理解還有很長的路要走，理解文本和圖像共同傳達的微妙含義的算法的研究才剛剛開始。

Schroepfer說道：“機器學習算法在語言學研究的幫助下，Facebook已經升級了檢測算法。許多高科技公司正在對其處理語言的軟件系統（例如谷歌的搜索引擎）進行改造，提高用算法解決諸如回答問題或澄清歧義等語言問題的能力。”

他強調：“（這是）重大改進?！?/strong>