二〇〇七年，YouTube接獲多則舉報，指出某個帳號裡面有一些警察暴行影片，於是公司經營團隊決定關閉該帳號。這個帳號的主人是瓦埃勒•阿巴斯（Wael Abbas），他是埃及人權社會運動者、阿拉伯數位先鋒的早期成員、屬於一個部落客與科技迷組成的跨國社團。這個社團內部的連結並不緊密，其中許多人會透過名為「阿拉伯科技迷」（Arab Techies）的網絡聚會。阿巴斯是埃及第一批最有影響力的部落客之一，因為勇敢處理警察暴行和腐敗這類主題而聞名。他的成就並非無足輕重：就在一年前他才剛成為獲得「奈特國際新聞獎」（Knight International Journalism Award）的第一位部落客。
阿巴斯的帳號被停用，上了國際新聞頭條，他種種拍下各種警察暴行的影片被鎖在YouTube的資料庫。當時YouTube才剛成立，接下來的十幾年，它還需要處理更多更複雜的議題。
因為社群媒體的一舉一動都會影響世界，是支持革命還是協助威權政府，是支持表達自由還是減少爭議，這些影響十七億人以上的生活事務，都在遙遠的矽谷的某個小房間被決定嗎？
本書作者吉莉安.C.約克花了十年時間研究社群媒體如何決定哪些內容被允許，哪些被禁止。她不只是實際採訪在各大社群媒體的審查員，也分析每一家公司與政府打交道的方式。全書裡面充滿社群媒體出現以來，所有的言論自由精采案例，閱讀時經常會感覺到，一個影響某個地方的重大事件，竟然在世界級大公司的角度是如此草率地被看待。
我們相信社群媒體的影響力在未來十年依然會無時無刻影響著我們，或者說，來自矽谷的價值觀依然壟斷著這個科技控制的世界，閱讀這本書可以給我們很多思考的線索與啟發。
本書特色
假新聞、帶風向已經是現今網路世界正在發生的事情，但例如「數位中介服務法」這樣的法令又引起眾多網友的反彈，這本書精采分析社群媒體歷史上重大爭議，從公司經營者、政府、商業單位，甚甚至是基層審查員的想法與作法，都包含在書中，絕對是當代媒體研究與言論自由的必讀作品。
作者
吉莉安•C•約克是
電子前哨基金會（Electronic Frontier Foundation, EFF）的國際表達自由(部門)主任，同時也是女性主義組織深度實驗室（Deep Lab）的創始會員。從2000年起，她已經報導過監控和自由方面的許多議題，獲得《外交政策》（Foreign Policy）雜誌評選為社群媒體研究的前一百名知識分子。她的文章散見於《衛報》（Guardian）、半島電視台（Al Jazeera）及《外交政策》，目前住在柏林。
譯者簡介
黃開
abctix@gmail.com
譯有《數位監控》和《隱喻領導力》等十餘書
目錄
台灣版序言
序幕
前言
1.新守門人
2.現實世界的鎮壓在網路複製
3.社群媒體革命家
4.利益至上
5.極端主義召喚極端措施
6.二十一世紀維多利亞人
7.向「性」宣戰
8.從人工到機器
9.仇恨如病毒傳播
10.未來由我們作主
誌謝
註釋
序／導讀
【導讀】
近幾年來，見識過接二連三令人矚目的內容決定，全球大眾已經能意識到內容審查的行為：例如Facebook刪除黃幼公（Nick Ut）著名的《戰爭的恐怖》（Terror of War）圖片、在敘利亞有多個平台刪除了戰爭罪的證據，以及Twitter驅逐前美國總統川普。這些實例說明了線上企業的空間日益擴大，想要進行審核是何其複雜的事。
剛接觸網路言論自由主題的人，會誤以為這些緊繃的局面是新現象。其實，內容審查一點也不新奇。本書將詳細說明，它和社交網（social web）本身一樣古老，最顯著的實例可以追溯到撥接上網時代。
我從二〇〇八年開始研究網際網路審查，當時大部分人都認為那是屬於政府層次的行為。那時候全世界有幾十個國家各顯神通，限制不同資訊的存取。有些國家，如沙烏地阿拉伯和中國，內容設限的範圍鋪天蓋地；而其他國家──如巴基斯坦或摩洛哥──則是比較有限。
那個時期，中國往往是我的圈子裡討論與比較的焦點。中國的線上平台，對於政府要求的限制，彼時和此時都一樣順從，甚至可說是合作無間──審查已融入中國商業社群網際網路的肌理之中。雖然如此，用戶仍找得到規避的方法，那就是以替代用語來表達意見。
相反地，YouTube、Facebook和Twitter這些二〇〇〇年代中、後期興起的平台，對於言論只有簡短陳述的限制，給人的印象是在這個空間裡可以暢所欲言、百無禁忌。但是，正如本書所呈現的，其實根本不是那麼一回事。它們從成立的初期開始，就將自己的意識型態強加在用戶身上，並且當政府開口要求審查，它們會乖乖配合，通常會順便吹噓一下崇高的目標，像是讓世界「更開放、更結為一體」。
早期令人感到棘手的言論審查事件──也就是由公司方面採取行動，決定哪些言論是可以接受的──以及本書中的實例，主要均來自中東和北美，這些地區是我多年工作的焦點。但是這個現象絕非侷限於那裡，我的工作所得知的最早實例其實有一部分是發生在香港。
二〇一〇年，香港大學生可樂在Facebook創建了一個群組，抗議豪宅開發，不到幾小時就有三百多人加入。又過了幾小時，該學生的帳號即被停用，理由是違反公司不得使用「假」名的政策。群組的另外兩名管理員也遭遇相同的命運。他們懷疑這是房地產開發商去檢舉的，說他們違反Facebook的服務條款。
同一年稍早，我參與一場電話會議，還有幾家科技公司與會。會中拋出一個問題：「帳戶停用和內容刪除：為何會有這些人權議題？」會中有我的同伴麥康瑞（Rebecca MacKinnon），是記者兼學者；有莫乃光（Charles Mok），是網際網路企業家，後來擔任了八年香港立法會議員；有薩米•本•加爾比亞（Sami Ben Gharbia），是流亡的突尼西亞社運人士，在翌年的革命期間返國。我們討論了內容審查機制，並提出對策設法降低它對人權運動者的衝擊。這一場會議成為我們和各家公司進一步討論的發軔，對我個人而言則是深入研究的催化劑。
那時候的Facebook尚未推出現今這種詳盡而且易讀的《社群守則》──僅有《服務條款》，是用法律文字寫的，只提供少數歐洲語言版本。我們不能合理預期群組管理員都讀過它的《服務條款》，而且據說他們在網站上都是使用本名。那麼，問題是：Facebook憑什麼在一開始就刪除他們的帳號？
如果有某個人的身分引發疑慮，他必須向公司提交文件，證明帳號名稱就是自己本人。在這次事件中，幾名管理員都這麼做了，也都重新取回他們的帳號。但是，並非每一名用戶都能放心照做，也不是每一名用戶想當然耳都持有可接受的身分證明形式。這些條件讓政策很容易遭到濫用：不懷好意的人只需要檢舉某人使用假名──證明的責任落在了被檢舉人身上。
我之所以描述這次事件，原因有二：它說明了依賴私人公司審查言論所造成的困境；而且，它預示了未來即將發生的事。
在接下來的幾年裡，美國各家科技公司在世界各地都被指責未能刪除有害言論，以及審查批評的聲音。本書試圖說明，各行各業的團體和個人都受到了影響。然而，那些通常最邊緣化的社群──人權社運者、LGBTQ+個人*，以及其他少數族群──是遭遇衝擊最大的。
隨著內容審查變得越來越普遍而且複雜，加上各家科技公司已經和世界各國政府打好了關係，當用戶或言論被封鎖時，我們也越來越難以追蹤真正的理由或手段（公司的決定、政府的要求，或是系統錯誤）。如今有許多結果都是出於自動化技術，或是狀態並不穩定的員工倉促之下的判斷──很常見的情況是：為錯誤決定尋求補救的能力很有限。
在台灣最近發生的一次事例，足以說明這些情況：二〇二一年，據說有一名叫作陳延昶的網紅（網名「486先生」）在台灣制憲基金會的Facebook粉絲專頁留言說：「各位，我支持台灣獨立，台灣本來就是一個獨立的國家，我是台灣人不是中國人。幹林老師的中國人，去吃屎吧你們。」隨後他的Facebook帳號就被停權三十天──這是該公司對較輕的犯行所給予的「懲罰」（值得注意的是，他的粗話在上下文並沒有構成違規。）。
《台北時報》有一篇文章指出了該事件中的獨斷本質，以及執行規則時的雙標。它更進一步提到，由於Facebook的中文審核員大多數是中國籍，而且是在不同的政治環境下運作，因此使得台灣內容的審查變得更複雜。
這樣的現象並非台灣獨有──例如阿拉伯的審查也有類似報導──然而，這次事件依舊呈現了各家公司現今的處境：它們打造了一套複雜得無遠弗屆的審查系統，並且輸出到全世界。如今只要它們無法達到自己的標準，就會遭受用戶、媒體和政府的抨擊。
