Racism, Hate Speech, and Social Media: A Systematic Review and Critique

書名（以學術體例詳填資料，網路來源提供超連結及檢索日）：

Ariadna Matamoros-Fernández and Johan Farkas (2021), Racism, Hate Speech, and Social Media: A Systematic Review and Critique, Television & New Media, Vol. 22(2), 205-224, DOI: 10.1177/1527476420982230

全文連結: https://doi.org/10.1177/1527476420982230

種族主義、仇恨言論及社群媒體：一個系統性的回顧與批判

導讀者：葛家瑜

原作摘要：

和Jessie Daniels's 2013年針對線上種族歧視及種族主義的研究文獻回顧不同，這篇論文描繪和討論社群媒體下有關種族主義與仇恨言論的子研究，系統性地檢視104篇相關的研究論文後，我們旨在解決三個研究問題：其一，在進行有關種族主義和仇恨言論的研究時，研究者挑選什麼地理區脈絡、平台和方法？其二，學術上多大程度地使用批判種族主義觀點去審視系統性的種族主義如何在社群媒體上再製？其三，在這個領域中，有哪些主要的方法論和道德上的挑戰？研究結果發現，過往的相關研究少有關注地理區和平台的多樣性，以及，缺乏研究者自身及對研究對象的反身性思考，也少有以批判種族主義觀點揭發社群媒體中的種族主義。因此研究者認為，未來還需要有更多研究更全面地審視使用者的操作（用戶的實踐）與平台政策如何共構出當代的種族主義。

前言：

在數位時代，人與科技的互動會不斷改變社會性（sociality）。在這個情況下，社群媒體公司扮演著至關重要的腳色，因為少數的美國和中國公司已成長為無處不在的巨頭。雖然像是臉書的社群平台公司視自己為民主化的武力，但他們在這幾年，也被說中介了與製造新形式的侮辱、仇恨和歧視言論和現象。

Jessie（2003）在研究社群平台（SNSs）上的種族歧視與種族主義時指出，社群媒體上的種族歧視與種族主義以一種有趣、有時是令人困擾的方式展現。從那時起，社群媒體研究成為一個重要的學術次領域，擁有自己的期刊（Social Media + Society）、研討會（Social Media & Society）和大量的文章。於此同時，由於美國、巴西、印度和英國等國家的極右翼領導人的崛起，以及白人至上主義者將數位平台作為歧視的武器，越來越多學者關注網路上的種族主義與仇恨言論。

由於社群媒體幾乎佔據了全球社會政治的主導地位，無論是新形式或舊形式的種族主義皆越來越多地出現在這些社群媒體中。社群媒體中的種族主義言論，包含使用迷因與使用假帳號來煽動種族主義仇恨。

[家瑜1] 不同社群平台又會衍生出不同的種族歧視形式，舉例而言，Reddit引發了有毒文化（toxic subcultures）[家瑜2] 、YouTube形成了反動的右派種族影響者網絡（a network of reactionary right racist influencers）、Twitter上有無數的協調性性騷擾（coordinated harrassment）[家瑜3] ，使用者也會透過看似無害的方式，像是用貼圖和GIF，再製種族歧視。

社群媒體透過機緣（affordances）、政策、演算法和公司決策重塑種族歧視者的動力，在平台治理及設計中，我們可見微歧視（micro-aggressions）乃至明顯的歧視存在：像是，Snapchat和Instagram就曾因為鼓勵白人使用「數位黑臉」、且自動將非白人的膚色調亮而被抨擊；FB透過追蹤用戶的活動，使營銷人員能夠將他們稱作非裔美國人或西班牙裔有親密種族關係的用戶排除在外；當TikTok暫停播放中國壓迫維吾爾人的影片時，亦引來一陣撻伐。上述的例子顯示，數位科技不只是以數位方式呈現壓迫，更重塑了基於種族、性別和性和其交織性關係（intersectional relationship）的結構性壓迫。社群媒體平台圍繞內容審核的政策和流程，在這方面因而起著重要的作用。像是FB和Twitter，便是由於提供騷擾者匿名功能，以及，因為可以觸發高參與度，而允許以幽默包裝的種族歧視內容存在而被大力批判。

這篇文章將以系統性的回顧與批判從2014年到2018年有關種族歧視、仇恨言論和社群媒體的文章。和Daniel 2013年的文章綜述不同，本文將嚴格地描繪和討論這個子領域的最新發展，特別關注經驗研究和其所使用的理論框架、方法論和道德挑戰。此論文旨在解決三個研究問題：

1. 在進行有關種族主義和仇恨言論的研究時，研究者挑選什麼地理區脈絡、平台和方法？

2. 學術上多大程度地使用批判種族主義觀點去審視系統性的種族主義如何在社群媒體上再製？

3. 在這個領域中，有哪些主要的方法論和道德上的挑戰？

批判種族主義觀點在社群媒體研究中的重要性

批判性種族觀點（critical race perspectives）審視的是種族和權力如何被社會經濟、法律制度和機構塑造，此觀點包含了批判性種族理論（critical race theory）、交織性（intersectionality）、白人研究（whiteness studies）和批判性原住民研究（critical Indigenous studies）。使用這些觀點，不只能幫助研究者解讀社群媒體上的種族歧視，這些建立在邊緣化群體經驗基礎的觀點，亦有助學者避免在研究設計上延續權力的不平等。

名詞解釋：  

1. 批判性種族理論（critical race theory）[1]

A. 源自美國1950、60年代的美國黑人民權運動（後民權運動），並於1970年代在美國的法學界興起，1980年代確立了理論定位。

B. 受「批判法學研究」（Critical Legal Studies; CLS）啟發。一開始作批判種族理論研究的都是法學界的學者和律師，他們承接批判法學研究中認為法律和政治界線模糊的核心概念，意在指認內化於法條中的種族歧視，以消滅從制度衍生出的社會不平等。

2. 交織性（intersectionality）[2]：

A. 社會上的壓迫形式不會只由單一的類目而生，而是多重因素（性別、階級、種族、族群、城鄉、年齡等）交織而成。

B. 因此，在進行研究時，要謹慎使用全稱式的範疇（EX.男人／女人、黑人／白人／華人），因為在現實經驗中，人的身分是多重交織的，所以在進行制度和權力交構（interlocking）的分析時，要考量到每個個體的分殊經驗。

C. 壓迫關係在這樣的理解下，便不會有完全的「壓迫者」與「被壓迫者」，不同領域的壓迫和特權地位又會交互影響，形成複雜的樣貌：像是，中產階級黑人女性，其在種族和性別上處弱勢，但在經濟上屬特權階級，經濟上的特權可能會影響她在種族和性別上的被壓迫樣貌，種族和性別上的弱勢也可能會形塑她的經濟特權樣貌。

D. 而「壓迫」與「被壓迫」、「弱勢」與「特權」都是相對的概念，所以會受不同地區、文化和制度的樣貌定義。

E. 個體的受壓迫程度不能用累加（相加或相乘）的方式理解，否則會脫離社會現實。West & Fenstermaker（2002）主張不要用數字模型理解，應該要看這些壓迫關係之間的「持續進展的互動成果」（ongoing interactional accomplishment）。

F. 如何用經驗研究呈現性別、階級、族群、性傾向等社會不平等的交織性？藍佩嘉（2008）指出，可以用分析個案或特定群體的質性研究呈現，亦可以用量化的「範疇間的分析取向」（intercategorical approach）呈現。

3. 白人研究（whiteness studies）[3]

A. 認為「白人」並非單純由生物特質定義，而是由社會建構而成。

B. 因此，白人的認同與特權，會和民族、國族、階級等等的交織性有關，或者說，是有上述的交織關係和歷史條件構成。

C. 白人研究不會單純將白人視為是相對於黑人的概念，而是視白人特權為一種結構。這樣的結構，是由歷史條件和種族、民族與國族的關係堆疊而成：Matthew Frye Jacobson以歷史研究取徑，分析白人認同和特權的起源和變遷。他的研究發現，1790s-1840s的美國人是以黑／白區分人種；但1840s-1920s，由於越來越多歐洲移民移入美國，美國社會開始出現「雜色白人」（variegated whiteness）一詞，美國社會的一些群體會討論「誰更白」(some groups are better—whiter—than others.)。1920s以後，由於制度上出現移民控管和限制，美國人反而開始慶賀種族的多元性，白人的優越至此不再那麼明顯可見，但不代表不存在，而是換了一種方式存在。

D. Matthew Frye Jacobson的研究排除了黑人，因而能讓我們看見白人的認同並不是單純建立在排斥黑人上（但他認為，白人認同的起源是建立在白人和黑人勞動形式的差異上）；我們亦能得知，「白人」的概念並不是固定不變的，而是會在社會制度變遷中，隨著大眾對種族、民族、國族的不同重視程度改變。

4. 批判性原住民研究（critical Indigenous studies）[4]:

對原住民研究（Indigenous studies）提出批判觀點的研究。

批判性原住民研究關注：

A. 誰有資格研究原住民。（學者和研究機構）

B. 原住民研究是否淪為政治工具（美國的原住民研究始於1960年代，作為民權運動和反戰活動的一環）

C. 原住民研究的東方主義化（造成東方主義有兩種可能性，一種是以非原住民觀點研究原住民，另一種是過度強調原住民的差異性，這些過度被放大的差異特徵扭曲了原住民真實的樣貌）

D. 認為原住民研究過度強調原住民的被壓迫腳色，過度強調原住民的被壓迫腳色，一來忽略了原住民的能動性（即使殖民結構壓迫了原住民，原住民仍可在和壓迫互動的過程中建立自己的文化，我們不能說在壓迫下建立的文化就不是原住民「真正的文化」）（因此批判性原住民研究也批判原住民研究的本體論和知識論），二來也彰顯了美國中心主義的研究思維。

E. 批判性原住民研究有非常多針對「如何研究原住民」的批判性觀點。舉例而言，Chris Anderson(2009) 便認為，原住民研究不該一直強調原住民的差異性，而是要呈現原住民的「密度」（density）(原住民的喜怒哀樂、生活方式、看世界的方式)，才能發現原住民文化更深刻的複雜性和更明確的解放潛力。

眾學者在早年便以使用批判種族觀點研究數位科技，然而，Daniels在他2013年寫的有關種族歧視與數位媒體論文中的文獻回顧指出，很多相關的研究都仰賴Omi & Winant 1994年提出的種族形成理論（racial formation theory），去解釋種族分類如何在網路上被創造與爭奪。Daniels呼籲，應在網路研究中對白人進行更深入的批判，像W.E. B. DuBois(1903)的論文，作為我們打擊我們社會中猖獗的不平等現象的重要前提。她亦認為，種族形成理論並不是一個可以充分理解種族主義、全球化和技術文化之間的關係的框架，因為，Omi和Winant很少關注種族主義，而是過度關注擁有壓迫制度的國家。除此之外，她認為Omi和Winant的理論過度以美國為中心，其他非美國國家無論在思考上、制度上或基礎建設上都難以借鑑。例如像是歐洲的殖民主義就無法套用。

關於原住民（indigenous）使用社群媒體的機會與挑戰的新研究在近幾年陸續出現，這些研究中有一部份使用原住民的觀點，像是托雷斯的海峽居民。Martin Nakata（2007）將社群媒體上的種族鬥爭問題化。但使用批判性原住民觀點審視社群媒體上的種族主義與仇恨言論的論文仍然相當稀少。無論採用何種具體的批判性種族視角質疑數位技術，都仍需花更大功夫檢視數位平台如何複製、放大和延續種族主義系統。儘管不斷有人呼籲要進行更多批判性的質疑，但只有少數學術文章利用批判性種族觀點來研究社群媒體上的種族主義和數位平台的運作。

研究設計

1. 研究的文獻是在2018年10月和11月，透過google scholar和web of science蒐集。之所以選擇google scholar，是因為他以文章的引用率作為搜尋引擎排序的參考；之所以選擇web of science，是因為他收錄了許多聲譽良好、排名高的學術期刊。

2. 為了限制研究範圍，研究者建立了五個抽樣標準：

a. 文獻必須是學術文章格式

b. 文獻要是由英文撰寫的

c. 文獻主要要集中在少數族群的種族主義或仇恨言論的討論

d. 文獻的討論範圍為社群媒體

e. 文獻要在2014-2018年之間發表

2. 嘗試了幾個搜尋關鍵字後，研究者選定四個組合搜尋詞：

a. racism、social media

b. racism、digital methods

c. hate speech、social media

d. hate speech、digital method

3. 從google scholar中共蒐集了200篇文獻，從web science蒐集了110篇文獻。蒐集到的所有文獻中，有40篇是重複的，所以總數減少為270篇。最後再根據五個抽樣標準，排除了和本研究無關的文獻，總共排除了166篇文獻，最終樣本減少為104篇。

4. 研究者使用兩輪演繹性內容分析，然後進行深入的質化分析。第一輪的內容分析包含8個變量：

a. 出版年份

b. 研究的國家和背景

c. 社群平台種類

d. 文獻的語言

e. 研究方法（質化、量化或混合方法）

f. 研究是否依賴社群平台的API

g. 文章是否含作者的立場聲明

h. 研究是否含批判性種族觀點

第二輪則使用深入的質性分析，檢視文獻的研究方法和觀點，以注意到文獻方法上的問題和面臨的倫理挑戰。

問題1：地區、平台和方法論

3.     有關種族主義、仇恨言論和社交媒體的研究侷限在少數的背景和平台：A. 從地理區來看，北美的研究最多(44.23%，n=46)，歐洲次之（25.96%，n=27），又有將近一半的歐洲研究集中在英國（n=12），再來是亞洲和大洋洲（各佔5.77%，n=6）、中東（1.92%，n=2）、南美洲和非洲（各佔0.96%，n=1）。顯見這方面的研究受西方壟斷。

4.     Twitter是迄今為止研究最多的平台（54.81%，n=57），其次是facebook（34.62%，n=36）、Youtube（8.65%，n=9）。Twitter之所以是研究最多的平台，可能和他相對開放的API有關（允許研究者不需要知情同意便可蒐集公共數據）。

5.     關於研究方法，量化（35.58%，n=37）和質化（40.38%，n=42）研究的比例幾乎相等，有12.5%使用混合方法（n=13），有11.54%不使用經驗數據（n=12）。

6.     質化研究中，文本分析是最常被使用的方法(33.65%)，訪談和人類學式的研究方法只各佔6.73%。量化研究中，文本分析也佔主導地位，有29.81%的研究使用人工和自動形式的內容分析(n=31)，各有6.73%使用網絡分析和調查法（n=6）。

7.     研究者發現，在以關鍵字「仇恨言論」搜尋到的樣本論文中，有67.65%使用量化方法（n=23），以關鍵字「種族主義」搜尋到的論文，有59.26%使用質化方法。這表示此領域存在術語鴻溝，人文／社會科學與計算機科學／數據科學缺乏學術交流。

8.     研究亦發現，量性的研究論文較少強調種族主義的結構與意識形態分析，更多強調文本層面的識別和內容的合法性，也就是只強調仇恨言論，但並未深入探討仇恨言論的性質和其牽扯的結構性因素。

問題2：批判性種族觀點和立場聲明

1. 針對批判性種族主義觀點的普遍性，研究者發現23.08%的文章有提到或引用這方面的觀點（n=24），有76.92%則無（n=80）。這表示，只有少數學者使用批判性種族主義觀點研究社群媒體。

2. 在研究的立場聲明方面，只有6.73%的研究明確聲明了自己反壓迫的研究立場（n=7）。有少數幾篇研究有提到，研究團隊自身亦陷於其團隊成員的身分、經驗、觀點和偏見之中。

問題3：方法和道德挑戰

5. 樣本中，所有研究面臨的共通問題是，

a.     此領域缺乏對術語的一致性定義，因此難以辨認和討論仇恨言論的性質，所以皆只能指認出仇恨言論的缺點，很難做進一步的討論。

b.     如何識別遭受仇恨言論的單一受害者中的多重身分交集。

使用批判種族理論觀點，或許能解決上述問題。

6.     數據的侷限性也帶來一些方法論上的問題。數據的侷限性包含，

a.     單一平台的研究不具代表性

b.     API數據的質量低且不完整，無法取得歷史數據和被用戶刪除的內容

c.     無法取得特定地理區的資訊

d.     資訊過於零碎，亦斷章取義：對此，Taylor(2017)等學者建議，研究者須了解研究對象的種族主義社群、文化和言說方式，再進行數位研究

討論：地區、種族、性別和社會性別之間的交織性

1.　相關領域的論文多來自西方世界，白人學者在美國與歐洲也佔主導地位，研究者認為，此領域急需有美國以外的研究；此領域的研究也缺乏研究種族、性別和性傾向如何交織的觀點。

2.　Twitter佔研究的主導地位是有問題的。針對twitter的大量研究，會使其他平台的研究被邊緣化，其他不同的平台也有相當多不同的使用者，而不同平台又會因為其介面和使用方式，塑造出不同的種族歧視樣貌。因此，應該多研究其他平台，或進行跨平台的分析，才能更加理解不同平台技術如何塑造種族主義。

3.　量化研究多使用「仇恨言論」一詞，質化研究多使用「種族主義」。量化研究並沒有將仇恨言論與系統性的壓迫連結起來，忽略了種族主義的深層結構性的討論，僅將種族主義視為一種仇恨言論的種類。因此，應加強人文社會科學和數據科學家的交流和合作。

4.　所有研究皆忽視了圖像式的種族歧視研究。

5.　應更廣泛關注WhatsAPP等半封閉式的平台和Instagram stories等偏短暫的內容，可能會看見網路種族主義的新面向。

6.　有使用批判性種族主義觀點的研究，多將這些觀點用來分析用戶的體驗，較少解釋物質性的連結，如，種族主義與社交媒體功能、政策間的連結和意義。研究者認為，這個領域需要以交織性作為框架，了解資本主義（階級）、白人至上主義（種族）如何建構社群媒體的設計和用戶實踐。若缺乏批判性觀點的觀照，研究者就有可能複製種族主義的意識形態。

7.　研究方法的挑戰：去脈絡化，可能是因為所有研究皆缺乏批判性原住民觀點。雖然有很多研究有討論原住民如何使用社群媒體，但原住民的本體論和認識論並沒有被凸顯出來。在這方面研究者認為，研究人工智能或社群媒體的研究多忽略了使用者所屬族群的本體論和認識論，在討論人與機器的互動關係時，使用的有關人類的本體論與知識論皆以西方人為預設。因此，若關注原住民的思考框架，重新思考社群媒體的設計和治理是有發展潛力的。

8.　研究倫理部分，大量不經過問地提取弱勢族群的社群資料恐有研究倫理問題，數位研究方法應該避免在沒有獲得同意的情況下，大量提取弱勢族群用戶的資料，以避免延續權力的不平等壓迫。

結論

1.     需要有更多不同地理區、平台與跨平台分析及視覺圖像的種族主義、仇恨言論和社群媒體研究。

2.     需要回答「社群媒體上的種族主義，是如何成為人們的日常」。

3.     需要更多研究關注種族主義的結構性，並將此結構融合到社群媒體的設計與管理中，而不僅僅只　　

　　是關注人們如何在這些網路空間中表達種族主義。

4.     本研究認為，導致社群媒體研究忽視種族主義的結構性討論在於研究設計缺乏反思性。有關種族主義、仇恨言論與社群媒體的研究，白人學者佔了絕大多數。而這些學者並未承認和批判自己的白人立場和限制，並反思自己立場和限制可能造成的研究偏誤。如此便易強化該研究領域中的白人意識形態。

5.     以「仇恨言論」為中心對待種族主義內容有明顯的侷限性。一來，仇恨言論在定義上本身就是一個有爭議性的術語，二來，只專注於仇恨言論的討論，有可能將社群媒體上的種族主義概念化，也就是，把他視為是平台之外的東西（而非深層性的結構問題），會讓大家誤以為這是可以透過機器學習等技術的修復模式對抗的。