▌揭露假新聞的操作手段
本書將告訴您，在社群媒體時代，演算法、心理學的濫用如何激化人類的偏見，影響輿論，甚至左右選舉的結果。

▌什麼是「認知駭客」
任何基於統計數據而部分或完全做成結論的系統，都可透過操縱統計數據來左右遊戲規則，人類大腦的運作方式也是如此。隨著時間推移，我們的認知會整合成「類化」的模式，這些模式也會隨著新訊息的加入而不斷變化，而透過改變大腦的大量輸入後，這種「認知駭入」便能影響我們的大腦模式（很神奇吧？）。「認知駭客」便是利用這種「認知駭入」的手法，影響我們對事物的定義方式，左右我們將它們聯想為正面或負面的傾向－－只要他們能在你觸及特定議題時，操縱夠多的媒體即可。

▌內容推薦系統的功與過
在資訊大爆炸的時代，人們自然而然地依賴內容推薦系統來篩選源源不絕的訊息。然而，推薦系統也帶來了新的危機：演算法「投其所好」的結果，也激化了人們的偏見。

▌被駭的民主
社群媒體讓各種團體能夠相互聯繫並協調他們的活動。同樣的工具也可以被用來傳播政治訊息，不僅讓合法團體與非法人士均可使用，甚至會被某些國家用來影響其他國家的選舉。本書將揭露其中一些操作手段，並探討未來的威脅和防禦。

誰適合閱讀本書
．社群編輯
．資料科學家
．媒體工作者
．想要更深入了解「假新聞」的人

來自讀者的讚譽
完美詮釋為什麼會有假新聞，以及假新聞是怎麼運作的
對於網軍如何利用社群媒體帶風向有詳盡的說明
推薦給意識到假新聞正嚴重戕害民主的人閱讀

作者

Kris Shaffer

「新知識（New Knowledge）」智庫的資料科學家暨資深電子假訊息分析師。曾參與美國參議院情報特別委員會「網際網路研究機構的策略與技巧」的撰寫，這是一篇有關俄羅斯在2016年美國總統選舉中，介入社群媒體之行為的報告。Kris為多個美國政府機構、非營利組織和大學，就假新聞、數據道德和數位教育方面的問題提供諮詢。在此之前的職涯裡，Kris是一位學院派和數位人文主義者。曾在耶魯大學、科羅拉多大學博爾德分校、瑪麗華盛頓大學和查爾斯頓南方大學教授音樂理論與認知、電腦科學和數位研究課程，擁有耶魯大學的博士學位。

目錄

簡介｜從缺到豐富
PART I 「宣傳」的問題
CHAPTER 1 注意！訊息過量會影響我們觀看媒體的方式
CHAPTER 2 系統中的認知機制｜大腦的限制為何讓我們容易受到「認知駭入」的攻擊
CHAPTER 3 逆流而上｜內容推薦引擎如何影響訊息並操縱你的注意力

PART II 案例研究
CHAPTER 4 美國國內的騷動｜佛格森案、遊戲門和美國另類右翼的崛起
CHAPTER 5 被駭的民主（上篇）｜俄國干涉與新冷戰
CHAPTER 6 被駭的民主（下篇）｜南半球的謠言、機器人和種族滅絕
CHAPTER 7 總結｜今後我們將何去何從？

序／導讀

序

從稀缺到豐富
訊息與宣傳問題簡史
自從有「訊息」開始，就有了假訊息。自從有了廣告之後，我們就開始試著分析大眾心理。而自從印刷機發明以來，我們又開始擔心大眾媒體受「腐化」的影響。然而在過去十幾年裡出現了一些全新的東西，它們所帶來的豐富訊息量是我們在十幾二十年前所無法想像的。「推薦引擎」這類新科學，亦即基於個人訊息檔案，而由演算法選擇的內容，主導著現代的媒體格局。在這篇簡介裡，我們將釐清誤解並關注問題的核心，也就是訊息豐富度、人類心理學、用戶數據分析和媒體推薦演算法的交會點，亦即「宣傳（propaganda）」闖入現代社會之處。

認知駭入
任何基於統計數據而部分或完全做成結論的系統，都可透過操縱統計數據來左右遊戲規則。這也是人類大腦的運作方式：隨著時間推移，我們的認知會整合成「類化」的模式，這些模式也會隨著新訊息的加入而不斷變化（當然愈成熟的模式，變化得愈慢）。而透過改變大腦的大量輸入後，這種「駭客」便能影響我們的大腦模式（很神奇吧？）。

這種「認知駭入（cognitive hacking）」攻擊，不僅能影響我們對事物的定義方式，還會左右我們將它們聯想為正面或負面的傾向。就像前面說過的另類右翼駭客，是少數能影響平台的Google專家一樣，即使是一小群的「認知駭客」，也有辦法對我們的「心智圖」（以及其所影響的行為）造成顯著的衝擊。一切只要他們能在你觀看特定議題時，操縱夠多的媒體即可。

在你心裡開始想著「是俄國人！俄國人幹的！」之前，值得注意的是，許多認知駭入的情況並非故意的（後面會提到俄羅斯，亦即國家所贊助的影響力行動，但它們是背後更大問題裡的一部分而已）。也就是說，我們每天使用的媒體平台結構，會影響我們對世界的認知。

舉例來說，我們知道用戶傾向較常接觸能夠激起強烈情緒的媒體，尤其是激起「憤怒」情緒的媒體。我們也知道人們越來越常透過社群媒體平台觀看新聞，他們會被追求「互動」（點擊、按讚、收藏、分享、憤怒的表情符號等）最大化的演算法提供內容，而互動最大化通常也會轉化為強烈情緒的最大化，尤其是憤怒的情緒。因此毫不意外的，那些研究政治和數位媒體的人，便會觀察到政治問題的兩極分化日益加劇：強烈的情緒、價值觀的細微差異以及意識形態立場，便從中心點進一步聚集擴大。
隨著數據本身與數據生產者的數量增加，並以驚人速度成長後，能夠引起強烈情緒的事物，自然更能吸引我們的注意力。2013年時，科學家評估全世界90％的數據都是在過去兩年內所創造的。

到了2015年，Facebook本身的用戶數量，就已超過2008年時的整體網際網路用戶數量。加上在許多家庭裡的電視頻道激增，以及其他可攜式數位螢幕裝置的流行，把整個社會浸泡在視覺和聽覺的媒體世界裡，讓人類的演化過程根本來不及為此做好準備。任何商業媒體都在競相爭奪我們的注意力，每家媒體都試圖超越另一家媒體。

「認知操縱」的數位軍備競賽
這項結果便是「認知操縱」的數位軍備競賽，強化這些已經瀕臨險惡、極端效應下的媒體。
然而，這種極端的分化不光是激發情緒帶來的結果。人們還會傾向於認同能夠強化自己「現有觀點」的事物，科學家稱之為「確認偏差」。亦即如果我已經認同某個觀點，那這個觀點必然有某些好的部分，包含可以「確認正確性」的情況。因為當你找到能「證明自己正確」的新訊息，感覺會非常好。而確認那些不同觀點者的「不正確」，感受也是如此。

人類具有一種演化的傾向（這點很重要！），亦即討厭且會盡量避免「因自己的錯誤而受到驚嚇」的狀況，在過去「獵食者／獵物」正常互動的時代裡，這種錯誤驚嚇的情況往往是致命的。但當涉及到網路上的政治辯論時，這種演化的傾向，卻會讓個人和社會傾向避免在智力、倫理和道德上成長的情況。這種避免細微差異和屈服於確認偏見的情況，會讓我們再次偏離辯論的中心點，並且遠離那些我們不同意的觀點。因此我們便建立了自己的「個人迴音室」，同時相信我們是基於更廣泛訊息的基礎，而建立了自己的觀點，這都要歸功於網際網路所帶來的「奇蹟」啊。於是在這種錯覺下，只要不加干預，社會就變得更加分散，來自不同意識形態的人們將更難找到共同點。

雖然我們生活在人類歷史上訊息最豐富，聯繫最緊密的時代，但從我們的思想很「自然」的處理豐富訊息的方式，代表我們可能是人類歷史上最容易受到「宣傳（propaganda）」影響的一代。不過我強調的是「自然」，因為我們經由祖先抵禦各方威脅後所得到的遺傳傾向，在許多方面都可說是非凡的天賦。但是，在這個大多數人不常受到獵食者威脅的時代，變成要對抗那些試圖利用媒體操縱我們的注意力，以便影響你的思想和行為的人時，我們也很自然的無法以正確的工具，應對這種不易察覺的威脅。亦即當你背後出現獵食者，或者當熱量過低且面對一堆食物的時候，我們完全具有良好本能反應。但如果遇上的是數位假訊息時，人類並不會產生本能的直覺反應。

雖然人類已經發展出學習、分析、推理、溝通、說服等邏輯思考的能力，但這些都不是我們的直覺反應。如果可以適當地導正我們的思想，亦即如果我們能在正確的時間以正確的方式掌握自己的注意力，就能抵制這種假訊息的操縱，建立一個更美好的社會。不過這點必須經過努力，在完成以前，我們必須了解問題所在。

這也就是我們將在本書探索的內容。

試閱

若你不必為商品付錢，你就是商品：注意力變成商品、參與性變成貨幣

我們的注意力是在網路上、電視與任何形式媒體進行交易的主要「商品」。在許多情況下，即使跟錢無關，我們也都在這些交易裡扮演重要的經濟角色。你的「注意力」就是商品，你的「參與性」就是貨幣，因此這也正是為何在網路上追蹤我們的活動，對於處理訊息的公司來說非常重要。只要注意力經濟存在，像「劍橋分析」這樣的公司就會存在。這是利用有關客戶、競爭對手甚至選民數據的公司，能為不同選民提供量身訂製的廣告，其目的是影響、甚至操縱他們的行為。

其次，由於你我的注意力是新經濟裡的主要商品，因此我們每天使用的數位平台，其設計宗旨即在操縱和衡量我們的注意力。正如前Google員工和技術評論家特里斯坦．哈里斯（Tristan Harris）所說：「一小部分人，在少數幾家科技公司工作，他們的選擇將引導十億人今日的想法」。

或者，語氣不要那麼「反烏托邦」，改成：因為我們最常使用的技術，通常也是設計得非常好的技術，以至讓我們不斷回頭使用。不過正如同食物、酒精、性愛、開車、運動，甚至許多美好事物一樣，都可能在你不經意或過度使用的情況下，變得非常危險。

當平台從廣告中賺錢時，而且更多的人在這些平台上花更多的時間，他們就能賺到更多的錢時，一切就顯得難以避免。但是，重點來了，你看到廣告時（稱為曝光），他們會賺到一些錢，當你點擊廣告時，他們可以賺到更多的錢。不過，點擊廣告通常會讓你直接離開這個平台，沒機會看到其他廣告。除非該平台非常有非常吸引你的地方，讓你在網路上其他地方逛過之後還會很快想要回來。

換句話說，注意力經濟會讓設計出一個「成癮平台」這種作法，具有一定的商業意義。這點對個人和社會而言都是非常危險的，當這些平台越來越成為許多人的新聞來源，以及放鬆時最常參與的平台後，「被動成癮」就成為許多人面對每日最重要新聞的參與方式。哈里斯說：「我不知道是否還比這件事更急迫的問題....它正在改變我們的民主」。或者換種方式說，用一種更加反烏托邦的傾斜說法：我們的社群媒體平台根本就是為「宣傳」而設計的。