Information Disorder: Toward an interdisciplinary framework for research and policymaking

Title: Information Disorder: Toward an interdisciplinary framework for research and policymaking

APA: Wardle, C., & Derakhshan, H. (2017). Information disorder: Toward an interdisciplinary framework for research and policymaking (Vol. 27, pp. 1-107). Strasbourg: Council of Europe.

• 碩論文獻回顧參考。這篇性質比較特別。

  • Council of Europe

  • Harvard Kennedy School

  • 政策制定者

原作摘要：

This report is an attempt to comprehensively examine information disorder and its related challenges, such as filter bubbles and echo chambers. While the historical impact of rumours and fabricated content have been well documented, we argue that contemporary social technology means that we are witnessing something new: information pollution at a global scale; a complex web of motivations for creating, disseminating and consuming these ‘polluted’ messages; a myriad of content types and techniques for amplifying content; innumerable platforms hosting and reproducing this content; and breakneck speeds of communication between trusted peers.

As we explain, the ‘agent’ who creates a fabricated message might be different to the agent who produces that message—who might also be different from the ‘agent’ who distributes the message. Similarly, we need a thorough understanding of who these agents are and what motivates them.

We must also understand the different types of messages being distributed by agents, so that we can start estimating the scale of each and addressing them. (The debate to date has been overwhelmingly focused on fabricated text news sites, when visual content is just as widespread and much harder to identify and debunk.)

Finally, we need to examine how mis-, dis- and mal-information are being consumed, interpreted and acted upon. Are they being re-shared as the original agent intended? Or are they being re-shared with an oppositional message attached? Are these rumours continuing to travel online, or do they move offline into personal conversations, which are difficult to capture?

重要性

該報告為思考信息混亂提供了一個概念框架。我們希望這裡解釋的定義能夠為正在調查這一現象的政策制定者、立法者和研究人員的對話提供一個結構。只有從共同理解開始，我們才能開始建設性地討論解決方案。我們還希望我們的概念框架概述了信息混亂的不同要素和階段，將有助於為有關該問題的辯論帶來細微差別。

其次，如果我們認真地創建解決方案，我們需要考慮不同類型“主體Agent”的具體動機、不同類型“消息”的特徵以及影響人們如何“解釋”這些消息的因素。我們還需要認識到，當其他主體重新生成和傳播這些消息時，消息及其動機如何發生變化和轉變。

重點整理

在本報告中，我們沒有使用“假新聞”一詞，原因有二。首先，它嚴重不足以描述信息污染的複雜現象。這個詞也開始被世界各地的政治家用來形容那些他們認為報導令人不快的新聞機構。這樣，它就成為強者壓制、限制、破壞和規避新聞自由的機制。

• Information Disorder 對抗資訊汙染，我們需要共同努力的七個方面：

  • 定義。更加批判性地思考我們使用的語言，以便我們能夠有效地捕捉現象的複雜性；

  • 對民主的影響。適當調查網上傳播虛假或誤導性信息時對民主的影響；

  • 電視的作用。闡明主流媒體，特別是電視在傳播和放大源自網絡的劣質信息方面的力量；

  • 當地媒體削弱的影響。了解當地新聞業的崩潰如何導致錯誤和虛假信息盛行，並找到支持當地新聞業的方法；

  • 微觀目標。辨別利用人口統計資料和在線行為來微觀定位虛假或誤導性信息的活動的規模和影響；

  • 計算放大。調查通過數字“astroturfing”購買影響力的程度——使用機器人和機器人來操縱在線請願的結果，改變搜索引擎結果並在社交媒體上宣傳某些信息；

  • 過濾氣泡和迴聲室。考慮一下由於媒體碎片化而出現的過濾氣泡和回音室的影響，無論是離線（通過黨派談話廣播和有線電視新聞介導）還是在線（通過超級黨派網站、算法衍生的社交網絡和激進社區介導） WhatsApp、Reddit 和 4chan。）

  • 對證據的信任度下降。了解不同社區未能分享基於事實和專業知識的現實感的影響。

Information Disorder 框架

• 目前最被接受的概念框架
  有兩種，都是2017年建立的。Caroline Jack Problematic Information 框架，還有一個就是這個 Information Disorder 框架。差異？

• Mal-info
  惡意信息是指共享真實信息以造成傷害，通常是將旨在保持私密性的信息轉移到公共領域。

**i) 三種類型：錯誤信息、虛假信息和Mal-info
ii) 三個要素：主體、信息和解釋者
iii) 三個階段：創建、生產和傳播/分發
1. 創建。消息已創建。
2. 生產。該消息被轉化為媒體產品。
3. 分發。該消息被分發或公開。

根據我們今天認為理所當然的大量使用社交媒體之前進行的研究，人們在評估來源或消息的可信度時使用了一組關鍵的啟發法或心理捷徑：

• 名聲。基於認可和熟悉

• 代言。其他人是否認為可信

• 一致性。消息是否被多個站點回顯

• 違反預期。網站的外觀和行為是否符合預期

• 自我確認。消息是否證實了一個人的信念

• 有說服力的意圖。消息來源創建消息的意圖

最近一項關於反錯誤信息的心理功效的薈萃分析。文獻的回顧強調，當觀眾提出支持最初錯誤信息的理由時，揭穿效應的效果就會減弱，從而支持我們所知道的確認偏見和動機推理的力量。

• 針對主體應該提出七個問題：
  1）他們是什麼類型的演員？
  特工可以是官方的，例如情報機構、政黨、新聞機構。它們也可以是非官方的，就像就某個問題進行宣傳的公民團體一樣。
  2）他們的組織程度如何？
  主體可以單獨工作，也可以在長期存在的、組織嚴密的組織（例如公關公司或遊說團體）中工作，也可以在圍繞共同利益而組織的臨時團體中工作。
  3）他們的動機是什麼？
  有四個潛在的激勵因素：財務：通過廣告從信息混亂中獲利；政治：在選舉和其他影響公眾輿論的嘗試中抹黑政治候選人；社交：在線或離線與某個群體聯繫；心理：尋求威望或強化。
  4）他們打算接觸哪些受眾？
  不同的代理商可能有不同的受眾。這些受眾可能各不相同，從組織的內部郵件列表或消費者，到基於社會經濟特徵的社會群體，再到整個社會。
  5）主體是否使用自動化技術？
  自動在線創建和傳播消息的能力變得更加容易，而且最重要的是，成本也更低。關於如何定義機器人有很多討論。牛津互聯網研究所的一個流行定義是平均每天發帖次數超過 50 次的帳戶。此類賬戶通常是自動化的，但也可以由人來操作。其他帳戶，稱為機器人，由軟件和人員共同操作。
  6）他們是否有意誤導？
  主體可能有意或無意故意誤導目標受眾。
  7）他們是否有意傷害？
  主體可能或可能無意故意造成傷害

• 我們針對消息提出五個問題：
  1）消息的持久性如何？
  有些信息旨在長期保持相關性和影響力（在整個戰爭期間或永久）。其他的則是針對短期（選舉期間）或僅某一時刻而設計的，例如突發新聞事件期間的個人消息。
  2）消息的準確性如何？
  檢查消息的準確性也很重要。如前所述，惡意信息是用於傷害的真實信息（通過將私人信息轉移到公共領域或利用人們的信仰（例如宗教信仰）來反對他們）。對於不准確的信息，存在從虛假連接（與文章內容不匹配的標題誘餌）到 100% 捏造信息的準確度。
  3）該消息合法嗎？
  該消息可能是非法的，例如公認的仇恨言論、侵犯知識產權、侵犯隱私或騷擾的情況。當然，哪些消息是合法的因司法管轄區而異。
  4）該消息是否為“冒名頂替內容”，即冒充官方消息來源？
  該消息可能會非官方地使用官方品牌（例如徽標），或者可能會竊取個人（例如知名記者）的姓名或圖像以顯得可信。
  5）消息的預期目標是什麼？
  主體心中有一個目標受眾（他們想要影響的受眾），但這與消息的目標（那些被懷疑的人）不同。目標可以是個人（候選人或政治或商業領袖）、組織（私人公司或政府機構）、社會群體（種族、民族、精英等）或整個社會。

瞭解這個概念框架和結構，探索它們。最終我們需要利用與虛假信息相同的技術，通過引人入勝且有力的敘述來打擊謠言和陰謀論。正如第 1 部分中所討論的，針對虛假信息的有效策略包括：激發情緒反應、重複、強烈的視覺效果和強有力的敘述。如果我們還記得信息搜索和消費的強大的、儀式性的方面，那麼將這些元素整合到我們的解決方案中的重要性是顯而易見的。