Political Astroturfing on Twitter: How to Coordinate a Disinformation Campaign

水火計畫讀書會論文摘要單

書名(以學術體例詳填資料，網路來源提供超連結及檢索日)：

Franziska B. Keller, David Schoch, Sebastian Stier & JungHwan Yang. (2019) Political Astroturfing on Twitter: How to Coordinate a Disinformation Campaign, Political Communication, 2019, 00:1–25

導讀者：程彥諄

原作摘要：

政治性草根營銷 (Political astroturfing) 是一種中央協調的虛假宣傳運動，在中文語境中可理解為「網路水軍」、「網軍」。參與者透過偽裝成獨立的普通公民，試圖影響選舉結果和其他形式的政治行為。要驗證水軍的身分，很難在沒有實地真相(ground truth) 信息（譬如經過驗證的特工身分等證明）的情況下評估政治干預的範圍和有效性。

在本文中，作者利用在法院訴訟程序中公佈的參與帳戶清單，研究了2012年總統大選期間韓國國家信息服務（NIS）的虛假宣傳活動。同時在收集的Twitter數據中，發現最能將這些帳戶與常規用戶區分開的功能是：由干擾者與代理商之間的協作留下的痕跡，而不是通常在相關方法（例如社交機器人檢測）中使用的個人帳戶特徵。

作者團隊開發了一種方法，可以利用這些不同的經驗模式來識別其他可能發生的混亂情況，並對此進行驗證。通過分析其消息和當前帳戶狀態來確定檢測是否符合。

但是，一項基於Twitter影響力度量的分析表明：已知和可疑NIS帳戶對政治社交媒體討論的影響有限。通過使用委託代理框架(principle-agent framework)來分析最早的、揭示了政治騷亂的實例，作者團隊改進了現有的方法論方法來發現虛假信息活動，使分辨網軍的方法在在社會科學理論中變得更加牢靠。

重點整理：

一、研究背景

學術界一直到2016年俄羅斯干涉總統大選案之前，一向缺乏將社交媒體上的虛假訊息，視作干預民主選舉結果的的實際問題。成千上萬偽裝成美國普通公民的Twitter，Facebook和Reddit帳戶，在選舉過程中，部分政治活動的參與者看似是基層運動的由下而上的自發性參與者，實際上卻是中央和自上而下精心策劃的（Howard，2006； Walker，2014）。

本文對對政治不實資訊的研究共有三項貢獻：

1. 深入介紹2012年韓國大選時，時為總統候選人的朴槿惠，如何利用國家情報院（National Intelligence Service，簡稱NIS）特工在總統競選期間發佈了數千條支持朴槿惠和她所在的執政黨新國家黨(Saenuri Party)的網絡訊息，並將包括反對派總統候選人文在寅在內的政府批評人士斥為朝鮮間諜。作者團隊分析1008個Twitter帳戶的在線協調模式，發現NIS代理控制的網路行為特徵。

2. 提出理論上可行的方法來檢測虛假宣傳運動。過往的研究多集中在對社交機器人(social bots)帳戶的行為特徵調查上(Ferrara，Davis，Menczer，＆Flammini，2017），這些假帳號部分會由實際真人來經營，倘若照此標準，可能會屏蔽掉那些懂得反制偵測機器人帳號手法的用戶(即那些由真人操控的帳號)。

使用機器人檢測法卻檢測網軍訊息，在根本概念上並不匹配，因為並非所有的網軍帳號都是機器人。作者的識別策略在於：檢測一群帳號在傳遞經過協調後的訊息時，所存在的類似行為。透過對921個可能被NIS經手過的可疑帳戶，研究者再對他們進行質性分析，確認此模式可替換到其他情境去做應用，因為委託方與代理方的溝通成本，會降低假訊息傳播者試圖協調一致以掩蓋這種模式(作者的檢測法)的能力。作者的方法論著重於由消息協調和委託代理問題引起的行為模式以檢測這些虛假帳號。這種關係方法要求比較並相互檢查帳戶，而不是單獨查看帳戶。

3. 評估了基於對用戶影響力的不同衡量指標，而不是網路水軍對特定議題的活動的影響。作者發現：即使彙整了包括可疑NIS帳戶在內的所有帳戶活動，網軍活動對平常的的在線使用者之影響力，實屬有限。

二、網路水軍的協調痕跡

作者套用委託代理人理論（principal-agent theory）說明，委託方與代理方之間的資訊落差，會使雙方在進一步接洽前，行為的目標會顯得並不一致。藉由觀察網路水軍的網路足跡，就可發現其行為模式與委託代理人理論十分相合。例如在Twitter上，這種假帳號之間的協調方式有以下三種：

1. 轉發彼此內容，提高訊息覆蓋率。

2. 刻意對同一內容進行關注，以提高它在社群媒體上被推薦置前的機率。

3. 共同發帖(astroturfing campaign)，不同帳戶同時發布相同的消息，此方法最能看出人為干預的痕跡。

三、網軍不可避免的行為準則

1. 代理商(指受雇於利益團體的議題行銷公司)的動機在於外部獎勵，因此較容易推卸責任並尋求滿足。

2. 帳戶相似：為減少經營虛擬角色的成本，在委託方沒有特別監督品質的情況下，這些帳戶的外觀與行為模式都會顯得相似。相反的，「俄羅斯搗亂鬼工廠」(Russian troll factories)會將代理商置於同一間辦公室，集中審理他們製作的帳號，但是這麼做也會有別的破綻，好比下班時間一到，有些帳號就不會繼續發文了。

3. 可疑的協調行為：由於訊息來源是集中的一小部分人，所以可從不同帳號間的共通性去反推它們可能存在的關聯性。

四、網軍的特徵

NIS的假帳號發佈貼文的時間都較一般貼文來得集中，且發文的時間都集中在平日的上班時間。即使選舉日期接近，一般帳號的發文頻率也跟著升高，這些帳號的共時特性依然非常明顯。

已委託代理人理論推測，代理商前往網吧工作以掩蓋IP位置之前，會收到委託方的任務，這些任務交辦下來後也需要展開日常性的會議以進一步作業。根據圖表顯示，觀察樣本的行為時間，幾乎都按照同一管理模式，因此這些時間上的特徵可視作網軍活動的特徵。

本研究分析1008個NIS假帳號的行為模式，一共歸納出轉推網絡、共同推文網絡和共同轉推網絡三種假帳號的行為模式，以下將一一簡介之。

推文之間的協調模式網絡：

A. 轉推網路(Retweet Networks)：作者依照NIS貼文之間的內容相似性，繪製了轉推網絡，發現其中有48%的貼文是NIS的轉發。為避免太過明顯，NIS代理沒有使用互相轉發策略，因為這樣會太過明顯，他們多透過創建一到兩個主要帳戶，來讓其他帳戶跟進轉發。

B. 共同推文網絡(Co-tweet Networks)：帳戶只發佈相同消息，使觀察者較難注意到某個帳戶是否提出特定消息，觀察者很難觀察到發佈者是誰，以及誰又重新發佈了新消息。作者團隊發現，很多帳戶會在一分鐘內共同發布同一則推文，100,000則原始NIS推文中，約有一半以上就是這類非轉發的原始貼文。作者懷疑這些代理人的帳號是使用TweetDeck等應用程式來控制的，另外有許多貼文是代理人透過手動黏貼訊息的方式，將內容一一貼到其控制下的帳戶中；超過85%的共同推文就是出現在彼此相隔的一分鐘以內。

C. 共同轉推網絡(Co-retweet Networks)：短時間內，來自某個帳戶的相同消息被大量轉發。共同轉發的發佈時間較為分散，一分鐘內僅有20%的貼文屬於此類，通常都在一周內共同轉發完畢。

五、網軍帳號的偵測與驗證

A. 對轉推網路(Retweet Networks)的偵測策略：最常見的方法是「檢查誰轉發、關注了已知網軍帳號」。這個方法的缺點在於：假若有一般用戶被成功影響，很容易也被當作網軍帳號。這會讓監測者不小心高估網軍陣營的規模，並且低估了它的影響力。

但轉推的帳號之間，依然有細微的差異。好比倘若有的帳號幾乎只轉推NIS帳號，那它基本就是假帳號無疑。

因此第一種檢測方法就是：轉推超過一定百分比的帳戶，本身就是NIS帳戶。適度的閾值約莫定在50％，以此方式，作者團隊確定了204個帳號的虛假性。

B. 對共同貼文網絡(Co-tweet Networks)的偵測策略：作者團隊刪除資料庫中，所有貼文只重複過一次的假帳號之後，發現NIS帳號中，有數個組件會聯合發推同一則推文，最大的重疊數量是730個帳戶。這些帳號較為鬆散，通常是主題性不強烈的明顯機器人，要嘛就是一些要求人追蹤的常見共同推文。

C. 對共同轉推網絡(n Co-retweet Networks)的偵測策略：這種網絡的組成分子非常緊密，彼此互推的帳戶僅由NIS帳戶自己組成，網絡上的440個帳戶皆是如此組成。對所有擁有五個以上帳戶的小型網絡進行手動調查時發現，大多都是與政治活動無關、類似機器人的帳戶。

與本研究問題意識相關的概念與延伸對話：

1.      網軍行為有無可能繞過委託代理人理論的限制，讓委託方與代理方的資訊落差降到最低？

2.      網軍有無可能自動在不同時段發文，以降低作案嫌疑？

延伸閱讀：(請用學術體例將參考文獻中值得延伸閱讀之文章、書籍或網址列於此處)

1.      Thomas Zerback. 2020. "The disconcerting potential of online disinformation: Persuasive effects of astroturfing comments and three strategies for inoculation against them." University of Zurich, Switzerland

2.      Mitchell Hobbs. 2020. "Turf wars: Using social media network analysis to examine the suspected astroturfing campaign for the Adani Carmichael Coal mine on Twitter”. Journal of Public Affairs Volume 20, Issue 2.Department of Media and Communications, The University of Sydney.

與網路水軍相關之關鍵字及概念內涵：

委託代理人理論（principal-agent theory）：此概念常用於經濟學與商業管理學，指項目負責人之間存有的信息不對稱，使委託人和代理商之間的目標常常不一致。當網軍接到委託時，這些帳戶會同時開始、同時停止發布類似主題的貼文，因為他們需要時間消化推文內容與時間安排的集中說明。

草根營銷(astroturfung)：是指人工創造出來的一個很有草根口碑的產品、服務或者政治觀點。商業利益驅動下的astroturfing被稱作「草根營銷」。草根營銷的本質與其名稱恰恰相反，這主要是因為一些聲名狼藉的營銷者利用Internet 提供的匿名性，採用欺騙手段來達到自己的目的。

Astroturf營銷者通常採用Blog、留言板、播客、維基、視頻博客、聊天室和社會媒體網站像myspace之類，來建立一個人工口碑。欺騙性的astroturf營銷手段包括在針對性人口調查中冒充某個人，創造一個完全虛構的人物(稱為一個人肉傀儡)，而對別人來說似乎是一個真實存在的人。