不論是論文還是期刊,在生成式AI出現後出版的都有可能發現虛假文獻!建議大家可以先確認一下參考文獻中的書目是否存在,若很多都不存在,則這本論文或期刊的內容就不需要花時間閱讀。
另外,有些論文或期刊即使沒有使用到AI生成的虛假文獻,也可能會使用AI整理或摘要文獻,而有不洽當的分類、歸納、分析與結論,更需要發揮批判性思考與資料查證能力。
以一本在臺灣博碩士系統找到的2026年1月取得碩士學位的論文「臺灣原住民休閒產業中觀光樂舞之研究」為例,這篇論文參考書目中有35篇中文資料、6篇英文資料(請點開下方紅字按鈕即可看到),在還沒查詢前,就有一些肉眼可見的問題會令人懷疑是AI生成,像是:錯誤的引用格式 (似乎是想採用APA格式,但是APA格式的期刊文章不需要寫出出版單位)、引用資料的標題過於空泛且反覆環繞在某些關鍵字 (可以想像是AI根據使用者指令內的關鍵字捏造出的文獻名稱)。若您是此研究領域的研究者,可能會更敏銳的發現出現一些不存在的期刊,或是這些作者未曾寫過這些文章。
註:此篇論文查核範例乃於2026/1/18進行,不過2026/1/22已經無法在論文系統內查到此篇論文,應是校內已發現此情況而有後續處置。
為了讓大家了解如何識別與查核,將這篇下架論文的引用文獻呈現如以下,也提醒大家不應有僥倖心態認為使用AI生成論文與引用文獻不會被發現。
一、中文部分
吳玉琴(2009)。〈原住民部落觀光發展歷程與反思〉。《族群研究論叢》,5(2),31–58。政治大學民族學系。
吳怡萱(2012)。〈創意型休閒與社區文化想像〉。《文化創意產業評論》,4(1),67–88。國立臺灣藝術大學。
吳錦發(2018)。〈部落導覽的知識實踐與轉譯:原住民族旅遊中的文化與能動性。《台灣社會研究季刊》,110,101–132。https://doi.org/10.29816/TSR.201803.0004
李美枝(2000)。〈臺灣觀光政策與地方文化的斷裂〉。《文化研究》,7,61–86。國立政治大學。
李淑真(2016)。論原住民族文化表演之觀光化:以九族文化村與太魯閣族文化節為例。《文化研究》,21,87–112。國立中山大學文化研究所。
李佳燕(2021)。〈地方創生中的文化休閒設計實踐〉。《創意生活設計研究》,9(1),45–66。國立嘉義大學。
林美容(2000)。〈族群、身體與舞蹈:原住民文化展演的身體政治〉。《舞蹈研究學報》,4,1–30。國立臺北藝術大學舞蹈研究所。
林美容(2008)。〈文化觀光中的原住民舞蹈再現〉。《文化研究月刊》,12,73–90。中華文化總會。
林芳宜(2005)。〈從文化觀光到深度旅遊:轉型中的臺灣觀光政策分析〉。《都市與計劃》,32(4),1–25。中華民國都市計劃學會。
林鴻志(2011)。〈部落觀光與社區營造的整合策略〉。《社區發展季刊》,134,101–120。國發會。
林淑雅(2017)。〈智慧觀光推動策略與實踐成效探析〉。《觀光政策與規劃期刊》,6(1),55–78。交通部觀光局。
林依瑩(2021)。〈部落劇場與文化教育的可能性:以台東比西里岸部落為例〉。《原住民文教研究》,13(2),33–58。教育部原住民族教育資訊網。
洪玉玲(2007)。從文化保存到文化創意:原住民族觀光的文化政策省思。《台灣原住民族研究學報》,1(1),25–48。國立台灣大學出版中心。
高子媛(2010)。〈原住民社群發展與休閒產業轉型研究〉。《族群文化研究》,6,77–100。東華大學。
高俊宏(2013)。〈從節慶到當代表演:原住民族文化在現代場域中的再現與轉化〉。《文化研究》,19,113–140。中山大學。
高俊宏(2015)。〈從舞蹈觀看原住民族的文化創造力〉。《台灣原住民族研究學報》,8(2),55–78。國立東華大學。
高雅玲(2017)。〈雙龍部落生態旅遊與文化認同的重建〉。《山林與人文》,12(2),33–58。南投縣文化局。
張玉鈴(2011)。〈原住民部落觀光的轉型與主體性建構〉。《休閒與觀光研究》,13(1),29–50。中華民國休閒遊憩學會。
張晉芬(2015)。〈祭典的旅遊化與文化空洞化:以排灣族五年祭為例〉。《文化資產保存學刊》,23(3),41–60。文化部。
張淑惠(2019)。〈自組舞團中的文化回返與創意詮釋:以泰雅族原舞工坊為例〉。《民族藝術學報》,30,55–78。國立臺灣藝術大學。
邱振瑞(2013)。《觀光部落的誕生:部落再現與原住民族文化展演的政治》(博士論文)。國立臺灣大學地理環境資源研究所。
黃正聰(1997)。〈臺灣觀光發展的歷史轉折與政策意涵〉。《觀光學報》,3,23–38。國立高雄餐旅學院。
黃樹民(2003)。〈臺灣原住民族工藝文化之田野研究〉。《中研院民族學研究所集刊》,91,1–39。中央研究院。
黃昭文(2017)。〈原住民舞蹈的觀光化與文化主體性〉。《台灣文化研究學刊》,23,91–120。國立成功大學。
葉高華(2001)。〈觀光發展下的文化政治與原住民〉。《原住民文化研究論集》,2,59–88。南投縣原民局。
蔡依伶(2014)。〈原住民生態知識與旅遊轉化的實踐〉。《原住民族研究學報》,9(2),33–56。國立東華大學。
陳志賢(2010)。〈文化展演與觀光:臺灣原住民族文化節的實踐與反思〉。《觀光與休閒研究學刊》,16(3),41–65。https://doi.org/10.62398/JTHR.201012.16(3).03
陳俊宏(2012)。〈原住民族觀光政策與部落參與:制度變遷與行動脈絡的分析〉。《原住民族文獻》,6,45–72。行政院原住民族委員會。
陳盈君(2015)。〈數位轉型與地方文化景觀重構:以文化觀光經驗分享平台為例〉。《文化研究》,23,99–128。國立中山大學。
陳瑞珠(2018)。〈智慧觀光下的數據治理與體驗設計〉。《休閒與遊憩學報》,12(1),23–44。國立臺灣師範大學。
賴幸媛(1999)。〈國人出國旅遊對臺灣觀光產業的衝擊與轉機〉。《國際觀光評論》,5(1),41–64。觀光局。
賴玟君(2020)。〈地方創生與休閒產業的融合模式研究〉。《地方治理與發展期刊》,9(2),77–95。中興大學。
盧玉珍(2019)。部落外一村:樂舞中的觀光、觀光中的樂舞(1965–2018)。國立東華大學。
簡至瑋(2019)。〈地方創生下的智慧休閒創業模式〉。《創新管理學報》,8(1),101–123。台北大學企業管理學系。
蘇秋金(2013)。〈文化創意產業發展法與觀光產業的整合潛力〉。《觀光政策與法規評論》,3(1),17–36。文化部文化資產局。
二、西文部分
UNESCO. (2006). Towards sustainable strategies for creative tourism. United Nations Educational, Scientific and Cultural Organization.
UNWTO. (2018). Tourism and culture synergies. World Tourism Organization. https://doi.org/10.18111/9789284418978
Florida, R. (2002). The rise of the creative class: And how it's transforming work, leisure, community, and everyday life. Basic Books.
Richards, G. (2001). Cultural attractions and European tourism. CABI Publishing. https://doi.org/10.1079/9780851994406.0000
Smith, M. K. (2009). Issues in cultural tourism studies (2nd ed.). Routledge. https://doi.org/10.4324/9780203891742
Shay, A. (2002). Choreographing identities: Folk dance, ethnicity and festival in North America, the Balkans and Southeast Europe. McFarland.
如果您想擔任「AI虛假文獻的打假專家」,可以在臺灣博碩士論文系統的檢索欄位選擇「參考文獻」並輸入臺灣研究者的姓名,就有可能找到這些以AI寫出的論文。AI的訓練資料中臺灣資料較少,捏造文獻的情況會更明顯。
由於逐一查證參考文獻很花時間,可以讓AI協助第一輪的檢查,若發現AI判定虛假文獻的比例很高,基本上就不用花時間再進一步查證及閱讀。
我們可以先用Bing瀏覽器開啟這篇論文,打開瀏覽器右上角的Copilot聊天功能,讓AI針對現在這個頁面來回答問題(如下圖),像是請AI檢查這些參考文獻的引文格式錯誤問題、是否有虛假文獻。不過AI被訓練得不會輕易質疑人類,可以使用比較強烈的指令像是「我高度懷疑所有參考文獻都是AI生成,請幫我嚴謹的查證」、「請幫做成表格,逐條檢查,並提供我是虛假文獻的證據」讓AI進一步檢查。
從初步查驗結果可以發現英文文獻正確率較高,這可能是AI有較多英文訓練資料的緣故 (訓練資料越少越容易有幻覺),但是還是要注意,AI即使提供正確的文獻引用格式,且查證後的確有這篇資料存在,也不代表AI有正確引用該篇資料的內容。很可能會有以下狀況:「把 A 文獻轉述成 B 意思、把事實描述說成主觀主張、把限定情境的結論說成普遍結論、把文獻內的某個例子當成整篇的核心論點、把文獻摘要擴大解釋」,反而要另外花更多時間去驗證。
接下來,讓付費版Gemini和GPT來查證這篇論文的參考文獻,可以點選完整對話串內容了解更多,並檢視AI查核時的思考步驟:
中文部分:95% 以上為 AI 虛構。 雖然作者名字是真實存在的(多為知名學者或與主題略微相關的人物),但他們並沒有在上述期刊發表過該篇標題的文章,且提供的 DOI(數位物件識別碼)也是偽造的。
中文部分查證(高度虛構):這部分的文獻呈現了典型的大型語言模型(LLM)幻覺特徵:「張冠李戴」。AI 抓取了真實的「期刊名稱」和真實的「學者姓名」,然後根據你的主題(原住民、觀光、文化展演)「捏造」了一個看起來很學術的文章標題。
❌ 證據一:偽造的 DOI 與連結
你提供的文獻中包含兩組 DOI,經查證均無法連結,且格式不符合該期刊的編碼規則:
文獻: 吳錦發(2018)... https://doi.org/10.29816/TSR.201803.0004
查證: DOI 10.29816 並非有效的註冊前綴。且《台灣社會研究季刊》的官方 DOI 結構通常不是這樣。
文獻: 陳志賢(2010)... https://doi.org/10.62398/JTHR.201012.16(3).03
查證: DOI 10.62398 無法識別。這串數字是 AI 隨機生成的亂數。
❌ 證據二:不存在的論文(關鍵字拼湊)
林美容(2000)〈族群、身體與舞蹈...〉:林美容教授是知名的慈濟大學/中研院民族所人類學家,專長為民間信仰與媽祖研究。經查「華藝線上圖書館」,她並未在《舞蹈研究學報》發表過此標題的文章。這是 AI 根據「人類學家」身份與「舞蹈」主題拼湊的結果。
邱振瑞(2013)《觀光部落的誕生...》(博士論文):邱振瑞先生多以日本文學翻譯家(如翻譯村上春樹)聞名。經查「臺灣博碩士論文知識加值系統」,2013 年並沒有一位名為邱振瑞的人撰寫地理環境資源研究所的博士論文。該標題極可能是模仿名著《觀光的誕生》(The Tourist)所生成的假標題。
我已經能「確定有問題」的條目(硬傷等級),下面這些不是「我找不到」而已,是引用資訊本身就互相打架,非常像 AI 亂湊:
A) 「李美枝(2000)。〈臺灣觀光政策與地方文化的斷裂〉。《文化研究》,7…」
《文化研究 Router》創刊時間與期號對不上:《文化研究》創刊號在 2005(公開販售/出版資訊可見)第 7 期是 2008 秋(期號/年份公開可查)➡️ 所以「2000 年、文化研究第 7 期」在時間線上直接不可能。
判定:❌ 高度可確定為錯引/偽引(或 AI 編造)。
B) 「李淑真(2016)。…《文化研究》,21…」
《文化研究》第 21 期對應的出版資訊是 2015 秋,不是 2016。➡️ 這筆至少是年份/期號錯置(常見於 AI 生成的「看起來像真的」格式)。
判定:⚠️ 引用資訊有明顯錯誤(需回頭核對原文/正確書目)。
C) 「吳錦發(2018)。…《台灣社會研究季刊》,110… DOI: 10.29816/TSR…」
我能確認《台灣社會研究季刊》與第 110 期(2018/08)在 Airiti 的期刊/期號體系是存在的,但DOI 型式很可疑,因為同一出版體系常見的是 10.29816/…(帶期刊代碼),而這筆的「TSR」代碼在我查到的期刊頁資訊中對不上常見寫法(而且我用題名/作者去反查也沒看到對應條目)。➡️ 這筆很可能是「期刊存在、但文章/DOI 被 AI 亂編」或「DOI/作者/題名至少有一項錯」。
判定:⚠️ 期刊/期號存在,但該篇文章與 DOI 目前未能匹配到可信紀錄。
D) 「林鴻志(2011)。…《社區發展季刊》,134… 國發會。」
《社區發展季刊》確實存在,而且官方內容常出現在 cdj.sfaa.gov.tw(社會及家庭署體系的網域)➡️ 這筆寫「國發會」當出版單位很怪(至少不是我查到的官方發布脈絡)。再加上題名我用多組關鍵字反查沒看到吻合紀錄。
判定:⚠️ 期刊存在,但出版單位標示疑似錯、文章也未能反查到。
以此篇論文為例,該怎麼人工查詢與確認虛假文獻?
如果有提供DOI碼連結,可直接點該連結或搜尋該DOI碼,若為失效的網址,則通常代表此篇文獻不存在。(DOI碼是文章的身分證號碼,有一定的組成規則)
AI就有發現這篇論文提到的DOI碼的許多問題,這是最容易迅速檢查的部分。
如果是臺灣的論文,可以至國圖博碩士論文系統查詢篇名,由於畢業論文需要繳交給國圖,多數論文應該都要能在國圖系統找到。若找不到則通常代表此論文不存在。
像是這篇論文引用了「邱振瑞(2013)。《觀光部落的誕生:部落再現與原住民族文化展演的政治》(博士論文)。國立臺灣大學地理環境資源研究所」,就可以直接在博碩士論文系統以作者名或論文名稱來查詢,會發現邱振瑞畢業於2008年、是交通大學工學院、只有寫過碩士論文《橋梁盤式支承施工缺失改善及影響評估》,以及找不到這篇《觀光部落的誕生》的論文。
像是這篇論文引用了許多篇「文化研究」期刊的文章,在華藝線上圖書館這本期刊的資訊頁面,可以看到此期刊為中華民國文化研究學會出版、2005年創刊,這篇論文提到這本期刊出版單位為中山大學就是錯誤的、李美枝也不可能在2000年發表文章在此刊物。也可以進一步在期刊資訊頁面搜尋期刊內容,或是瀏覽出版年度,確認這些AI虛構出來的文章名稱是否有刊登。
另外,期刊都會有自己的專屬網站(才能徵稿、投稿與公告審查委員等資訊),因此也可以網路搜尋文化研究這本期刊的網站。如果發現網路與期刊資料庫都查不到某一本期刊的刊名,代表這本期刊很可能是AI捏造出來的。
如果是國外的期刊論文,可以將題名貼到Google Scholar做初步的查詢。Google Scholar有索引大量的西文期刊文獻,近年資料若真實存在,應該可以找得到。
這篇論文引用的「Cultural attractions and European tourism」輸入Google Scholar可以查到這本書籍,且能取得電子全文檔。不過如果真的是引用書籍,建議要引用到書內篇章,讓他人較容易確認引用出處。
如果是機構報告(如UNESCO、OECD),可以至該機構網站搜尋此報告名稱。
這篇論文引用的「Towards sustainable strategies for creative tourism」可以直接Google查證,會發現UNESCO的數字圖書館確實有此數位檔案。
會議論文集或是機構內部研究報告不是那麼容易可以在網路上取得與查證,不過也代表一般人很難看到這些資料。若想要查證,可以聯繫論文發表人、會議舉辦單位、機構詢問是否有此篇資料。有些研究者會經營個人網頁,像是葉高華老師便有將自己所有的發表羅列出來,方便他人確認。
這本論文引用的「葉高華(2001)。〈觀光發展下的文化政治與原住民〉。《原住民文化研究論集》,2,59–88。南投縣原民局。」便不在葉高華老師的網頁中。
* 若您是研究者,建議您在AI時代下要妥善經營個人研究檔,除了建置簡單的網頁,也可以考慮使用Research Gates、ORCID或Google Scholar,並且維護您的Scopus與Web of Science研究者檔案頁面。您也可以時常利用資料庫的「參考文獻」欄位檢索看看自己的名字,確認是否有被他人引用以自己名義發表的虛假文獻。
AI提供正確資料出處但是引述內容錯誤,該如何檢驗?
數字、年份出錯機率高,這類資訊可以至權威網站查證AI是否有引述錯誤,很可能資料出處並沒有出現這個數字,或是此數字是用以說明別的事情。
AI總結資料與分類資料的方式不一定正確,建議可以檢視原始資料的「摘要」與「結論」,作者通常會在這兩個部分提供自認此研究最重要的貢獻和意義,如果和AI理解的方向不同,就可能是AI的幻覺。
可以直接問AI:「請告訴我,你引用的這段『XX』的論述,具體出現在這本書的第幾頁或第幾章?並提供原文。」如果 AI 回答「我無法瀏覽頁面」或給出一個不存在的頁碼、給的頁碼看不到此論述,那就是假的。也可以問AI「請問這筆資料真的有具體討論到『XX』嗎?還是這是你的推論?」、「請舉出證據說明引用此篇資料的考量?為什麼會認定這篇資料比其他資料更適合支持此處論點?」這樣的問題。
如果AI提供的資料出處有電子檔,可以使用Ctrl+F在該文檔中搜尋引述內容相關的關鍵字 (像是這篇論文重點討論「原住民、觀光」就要查看看這篇資料內是否真的有在講這些內容),並確認以下事項:
「文內是否真的有出現特定關鍵字」,如果文內搜尋不到相關關鍵字,很可能AI沒有真的讀到全文檔案內容直接捏造。
「關鍵字出現的段落傳達的宗旨是否跟AI摘要內容一樣」,AI常常會根據標題或摘要過度解讀原文,例如書名有 Creative Class(創意階級),AI延伸成這本書在談「部落返鄉青年的創意」;或是原文是反駁,AI卻說是在支持;或是原文只說「A與B相關」,AI則說「A 導致 B」。因此,一定要自己看原文段落內容確認後再引述正確內容。
「關鍵字是否有出現在結論段落」,AI很可能會根據文章中的文獻回顧而非結論段落來引述。當我們在引用資料時,引用的是作者的原創性觀點(也就是作者在結論提出的新發現、新貢獻),文獻回顧的內容屬於其他研究的原創性發現,需要另外延伸閱讀後才能正確引述。
AI提供的資料即使存在、引述內容也大致正確,也不代表此資料的品質良好、值得被引用。建議除了透過上述內文的查證以外,也可以同時了解一下這篇資料刊登的期刊或會議品質,看看是否有其他研究有引述此篇資料內容,以及評估一下文章作者是否真的是此領域的專家。
可以使用學術AI工具來協助檢查引用內容,像是Scite可以讓人快速看出某篇文獻在其他研究中如何被引用(支持、反駁、提及),若發現跟AI引述的方向明顯不同就可以發現問題;或是可以直接將AI引述內容拿來問Consensus,像是這篇論文引用了Richard Florida的書籍,可以在Consensus提問"Does Richard Florida discuss indigenous tourism?"。不過,這些AI學術工具的資料來源有限,未必能正確回答。
以下是Grok提供的AI生成內容檢驗策略與示例
皮尤研究中心2025年的研究發現,超過一半的美國人(56%)在得知新聞是AI寫的時候會有負面反應,71%會因為政治候選人使用AI協助撰寫講稿而不喜歡該候選人。在此情況下,即使知道應該要揭露AI使用,也可能擔心被負面看待而不願揭露,甚至還會使用人性化(Humanize)的AI工具來消除AI編修的痕跡。不論是學生或老師,可能都會很希望能使用AI內容檢測器,來確定他人寫出來的東西有多少是AI生成的?或是自己和AI協作的成果是否會被他人發現?
現在確實有許多AI內容檢測器,不同檢測器採取不同的機制,會連帶影響準確度。Reddit有網友實際測試不同AI檢測工具,指出Proofademic AI是最正確的。不過目前檢測內容都以英文文本較為準確,且檢測器無法百分百保證能正確抓出AI生成內容及AI人性化內容,甚至可能誤判、不利於母語為外語的學生,故許多學校停用Turnitin的AI。
AI受到訓練資料的影響,會有慣用的字詞、句型,未必能靠指令消除。像是‘Written in the Style of’: ChatGPT and the Literary Canon這篇研究就發現,即使讓AI模仿19世紀的知名作家寫作,AI使用的字詞頻率還是會跟知名作家不同,且AI模仿能力因人而異,像是馬克吐溫的模仿能力最好,有可能跟訓練資料內作品多寡有關。另外,也有研究發現2022至2024年間的學術論文詞彙使用頻率明顯改變,「語氣強烈、修辭華麗」的字詞如delve、meticulous、underscore、 intricate 等字詞大幅增加,可見使用AI翻譯與潤飾的帶給學術文獻用詞的影響。有研究者便分享親身經驗,認為AI有助於提高文章的清晰度、流暢度,也能提升寫作速度,但是一定要人工重新編輯,避免AI編修造成的細微觀點扭曲,且要能保有作者自己原本的聲音與風格。日常生活中就能感受到的AI寫作特徵包含:「語言過度流暢、格式化、語氣不自然;容易重複某些關鍵詞或句型、標點符號;論點完整但是淺薄、缺乏個人經驗與反思、容易出現類似的舉例 」。
讓AI翻譯英文可以更人性化的指令
Role: You are an expert academic editor in [某學術領域].
Task: Please revise/translate the following text to ensure it meets the highest standards of academic English. Your goal is to improve clarity, precision, and flow while strictly maintaining a natural, human-authored tone.
Constraints & Vocabulary Rules:
To avoid the text sounding like it was generated by an AI, you must STRICTLY AVOID using the following overused "AI-fingerprint" stylistic patterns:
1. Avoid AI-favored Stylistic Verbs: Do not use words like delve, underscore, showcase, boast, surpass, employ, leverage, unravel, illuminate, foster merely for stylistic purposes.
2. EXCEPTION FOR DOMAIN TERMINOLOGY (CRITICAL): You may use field-specific terms such as catalyze ONLY IF they are used in their literal, strictly scientific sense (e.g., "the enzyme catalyzes the reaction"). DO NOT use them as metaphorical, dramatic, or stylistic flourishes (e.g., do NOT write "this study catalyzes a new understanding" or "catalyze a revolution").
3. Avoid AI-favored Adjectives & Adverbs: Do not use overly dramatic or flowery modifiers such as meticulous, intricate, pivotal, crucial, commendable, comprehensive, transformative, profound, notably, additionally, primarily, or particularly.
4. Avoid Clichés and Metaphors: Do not use dramatic noun phrases or idioms like tapestry, realm, labyrinth, deep dive, driving force, game changer, shed light, or vital role.
Preferred Style:
• Use standard, clear, and objective academic phrasing (e.g., aim to, investigate, evaluate, suggest that, associated with, further research).
• Keep the tone straightforward and professional. Prioritize the factual content and scientific findings over flowery language.
Here is the text to revise: [貼上英文稿件]
國外圖書館館員常會介紹縮寫好記憶的資料評估方式,像是適用於所有資料類型的CRAAP評估測試,還有以下的SIFT、VALID-AI,您可以大致了解與融會貫通,面對不同的AI工具或生成內容時內心就會有一把尺在:
SIFT
S - Stop 停止
在你閱讀或分享之前,請停止!
I - Investigate the Source 調查源頭
你能找到關於作者或網站創作者的什麼資訊?他們的使命是什麼?他們有既得利益嗎?他們的評估會不會有偏見?他們在該地區有權威嗎?
使用橫向閱讀(lateral reading,同時開啟多個視窗閱讀與查證) ,不僅是了解該組織網站上的「關於我們」區塊,還要同時去查詢其他可信來源、多方查證。
F - Find Better Coverage 找到更好的資料來源
使用橫向閱讀,了解看看是否有其他可信來源可以證實或提出異議。
T - Trace Claims, Quotes, and Media to their Original Context 至原始上下文追溯主張、引述與媒體
當文章引用專家的引言或研究結果時,嘗試尋找資訊的原始來源是。接著確認:該主張、引述或媒體是否被公平呈現?所提取的資訊是否支持原始主張?資訊是否被挑選出來以支持某個偏見?資訊是否被斷章取義?
VALID-AI
V: Validate data 驗證資料
評估用於訓練與測試 AI 模型的資料品質與可靠性
這些資料是否具代表性、公正且與當前問題相關?
A: Analyze algorithms 分析演算法
仔細檢視 AI 模型中使用的演算法
AI 模型中包含多少人類強化學習?
人類強化學習會導致偏頗結果嗎?
L: Legal and ethical considerations 法律與倫理考量
評估生成式 AI 工具是否符合法律規範與倫理準則
生成式 AI 模型的創建者是否遵守有關資料隱私與同意的法律?
I: Interpret how it works 解讀其運作方式
評估生成式人工智慧的「決策」是否能被人類解釋與理解
使用生成式人工智慧模型時,AI 在後端的運作是否很清楚?
用特定提示查詢會導致拒絕產生嗎?
D: Diversity and bias 多元性與偏見
評估訓練資料與生成式人工智慧工具本身是否足夠多元,以處理各種輸入與情境。
AI 輸出中是否有明顯的偏見需要修正?
這個工具對某些提示反應良好,對其他提示則產生無效的結果嗎?
A: Accuracy check 準確度檢查
評估生成式 AI 模型的預測或分類是否如同真實情況或人類判斷準確?
將生成式 AI 產生的結果與現實世界案例(如有關聯)核對,生成內容是否反映可證實的真相?
I 自己
你是否以道德的方式使用生成式人工智慧工具?
當你被問到原創者的名字、專案或風格時,使用這些工具會不會影響他們?
最後的最後,AI雖然產生了許多假文獻,也可能會製造出很多假新聞 (您可以參考台灣事實查核中心的系列AI查證文章),但也可以用AI來協助事實查核。Gemini、台鵠系統都有設計查核AI回答的按鈕(如下圖,不過Gemini的查核能力目前實測不是很有用),Felo與Manus有事實查核工具,GPT store裡也有許多查核GPT (請在GPT store內搜尋「事實查核」或「FactCheck」,您可以先體驗看看這個),台灣事實查核中心有開發AI查核工具「真假Meow一下」Chrome插件可安裝,The Fix蒐集整理的各國AI查核工具也可以使用看看。