AI假造事件只會越來越多,可能帶來的危害面向很多種,像是國內就有傳遞錯誤醫學知識的假醫生Youtube。以下介紹三種類型的觀測資源:
法律AI幻覺
美國與其他法域的案例已顯示,生成式 AI 產生的虛構案例法與錯引法律權威,可能造成法院警告、費用制裁、程序延遲或專業紀律問題。多數案例可回到裁判書、法院命令或案卷資料查核。美國法院便提供相關教育資源:AI-generated evidence: A guide for judges。
AI Hallucination Cases Database:法院裁機關處理的 AI 幻覺如虛構判例、錯誤引文、捏造引號、誤述權威資料。
AI Hallucination Cases:美國制裁法律 AI 幻覺的追蹤工具。
AI Law Trackers Hub:找更多國家、法院規則、制裁與治理追蹤工具。
跨領域AI治理事件
OECD將AI事件(AI incident)定義為使用AI(包括其開發、使用或故障)直接或間接導致危害的事件、情況或一系列事件。包含(a)對個人或群體的健康造成損害或傷害 (b)擾亂重要基礎設施的管理和運營 (c)侵犯人權,或違反保護基本權利、勞動權利和智慧財產權等法律規定 (d)損害財產、社區或環境。其提出的分類框架和判准可供政策制定者參考。
OECD AI Incidents and Hazards Monitor:從國際政策與風險角度,彙整與健康、人權、權利侵害、財產、環境、關鍵基礎設施等相關的AI事件與危害。
AI Incident Database(AIID):收錄客服、醫療、招聘、內容、交通、治安等情境下的AI錯誤,以具體、可追溯事件理解 AI 失誤如何造成社會後果。
AIAAIC Repository:AI 事故、倫理風險、偏見、監控、錯誤決策及相關新聞。
學術論文、研究誠信與虛假文獻
Retraction Watch:非營利研究誠信新聞與資料庫計畫,由記者、研究者與讀者共同舉報撤稿、更正、paper mill、資料/圖像問題、AI 生成內容與假引文。
PubPeer:由研究者與社群使用者通報、討論圖像重複、數據/方法疑義、引用錯誤、paper mill、AI 生成痕跡、可疑措辭等。活躍度高,但取決於特定論文是否有人注意與留言。
Problematic Paper Screener:研究者維護的自動化篩檢器,大規模偵測可疑用語與問題文章訊號。
不論是論文還是期刊,在生成式AI出現後出版的都有可能發現虛假文獻!建議大家可以先確認一下參考文獻中的書目是否存在,若很多都不存在,則這本論文或期刊的內容就不需要花時間閱讀。
另外,有些論文或期刊即使沒有使用到AI生成的虛假文獻,也可能會使用AI整理或摘要文獻,而有不洽當的分類、歸納、分析與結論,更需要發揮批判性思考與資料查證能力。
以一本在臺灣博碩士系統找到的2026年1月取得碩士學位的論文「臺灣原住民休閒產業中觀光樂舞之研究」為例,這篇論文參考書目中有35篇中文資料、6篇英文資料(請點開下方紅字按鈕即可看到),在還沒查詢前,就有一些肉眼可見的問題會令人懷疑是AI生成,像是:錯誤的引用格式 (似乎是想採用APA格式,但是APA格式的期刊文章不需要寫出出版單位)、引用資料的標題過於空泛且反覆環繞在某些關鍵字 (可以想像是AI根據使用者指令內的關鍵字捏造出的文獻名稱)。若您是此研究領域的研究者,可能會更敏銳的發現出現一些不存在的期刊,或是這些作者未曾寫過這些文章。
註:此篇論文查核範例乃於2026/1/18進行,不過2026/1/22已經無法在論文系統內查到此篇論文,應是校內已發現此情況而有後續處置。
為了讓大家了解如何識別與查核,將這篇下架論文的引用文獻呈現如以下,也提醒大家不應有僥倖心態認為使用AI生成論文與引用文獻不會被發現。
一、中文部分
吳玉琴(2009)。〈原住民部落觀光發展歷程與反思〉。《族群研究論叢》,5(2),31–58。政治大學民族學系。
吳怡萱(2012)。〈創意型休閒與社區文化想像〉。《文化創意產業評論》,4(1),67–88。國立臺灣藝術大學。
吳錦發(2018)。〈部落導覽的知識實踐與轉譯:原住民族旅遊中的文化與能動性。《台灣社會研究季刊》,110,101–132。https://doi.org/10.29816/TSR.201803.0004
李美枝(2000)。〈臺灣觀光政策與地方文化的斷裂〉。《文化研究》,7,61–86。國立政治大學。
李淑真(2016)。論原住民族文化表演之觀光化:以九族文化村與太魯閣族文化節為例。《文化研究》,21,87–112。國立中山大學文化研究所。
李佳燕(2021)。〈地方創生中的文化休閒設計實踐〉。《創意生活設計研究》,9(1),45–66。國立嘉義大學。
林美容(2000)。〈族群、身體與舞蹈:原住民文化展演的身體政治〉。《舞蹈研究學報》,4,1–30。國立臺北藝術大學舞蹈研究所。
林美容(2008)。〈文化觀光中的原住民舞蹈再現〉。《文化研究月刊》,12,73–90。中華文化總會。
林芳宜(2005)。〈從文化觀光到深度旅遊:轉型中的臺灣觀光政策分析〉。《都市與計劃》,32(4),1–25。中華民國都市計劃學會。
林鴻志(2011)。〈部落觀光與社區營造的整合策略〉。《社區發展季刊》,134,101–120。國發會。
林淑雅(2017)。〈智慧觀光推動策略與實踐成效探析〉。《觀光政策與規劃期刊》,6(1),55–78。交通部觀光局。
林依瑩(2021)。〈部落劇場與文化教育的可能性:以台東比西里岸部落為例〉。《原住民文教研究》,13(2),33–58。教育部原住民族教育資訊網。
洪玉玲(2007)。從文化保存到文化創意:原住民族觀光的文化政策省思。《台灣原住民族研究學報》,1(1),25–48。國立台灣大學出版中心。
高子媛(2010)。〈原住民社群發展與休閒產業轉型研究〉。《族群文化研究》,6,77–100。東華大學。
高俊宏(2013)。〈從節慶到當代表演:原住民族文化在現代場域中的再現與轉化〉。《文化研究》,19,113–140。中山大學。
高俊宏(2015)。〈從舞蹈觀看原住民族的文化創造力〉。《台灣原住民族研究學報》,8(2),55–78。國立東華大學。
高雅玲(2017)。〈雙龍部落生態旅遊與文化認同的重建〉。《山林與人文》,12(2),33–58。南投縣文化局。
張玉鈴(2011)。〈原住民部落觀光的轉型與主體性建構〉。《休閒與觀光研究》,13(1),29–50。中華民國休閒遊憩學會。
張晉芬(2015)。〈祭典的旅遊化與文化空洞化:以排灣族五年祭為例〉。《文化資產保存學刊》,23(3),41–60。文化部。
張淑惠(2019)。〈自組舞團中的文化回返與創意詮釋:以泰雅族原舞工坊為例〉。《民族藝術學報》,30,55–78。國立臺灣藝術大學。
邱振瑞(2013)。《觀光部落的誕生:部落再現與原住民族文化展演的政治》(博士論文)。國立臺灣大學地理環境資源研究所。
黃正聰(1997)。〈臺灣觀光發展的歷史轉折與政策意涵〉。《觀光學報》,3,23–38。國立高雄餐旅學院。
黃樹民(2003)。〈臺灣原住民族工藝文化之田野研究〉。《中研院民族學研究所集刊》,91,1–39。中央研究院。
黃昭文(2017)。〈原住民舞蹈的觀光化與文化主體性〉。《台灣文化研究學刊》,23,91–120。國立成功大學。
葉高華(2001)。〈觀光發展下的文化政治與原住民〉。《原住民文化研究論集》,2,59–88。南投縣原民局。
蔡依伶(2014)。〈原住民生態知識與旅遊轉化的實踐〉。《原住民族研究學報》,9(2),33–56。國立東華大學。
陳志賢(2010)。〈文化展演與觀光:臺灣原住民族文化節的實踐與反思〉。《觀光與休閒研究學刊》,16(3),41–65。https://doi.org/10.62398/JTHR.201012.16(3).03
陳俊宏(2012)。〈原住民族觀光政策與部落參與:制度變遷與行動脈絡的分析〉。《原住民族文獻》,6,45–72。行政院原住民族委員會。
陳盈君(2015)。〈數位轉型與地方文化景觀重構:以文化觀光經驗分享平台為例〉。《文化研究》,23,99–128。國立中山大學。
陳瑞珠(2018)。〈智慧觀光下的數據治理與體驗設計〉。《休閒與遊憩學報》,12(1),23–44。國立臺灣師範大學。
賴幸媛(1999)。〈國人出國旅遊對臺灣觀光產業的衝擊與轉機〉。《國際觀光評論》,5(1),41–64。觀光局。
賴玟君(2020)。〈地方創生與休閒產業的融合模式研究〉。《地方治理與發展期刊》,9(2),77–95。中興大學。
盧玉珍(2019)。部落外一村:樂舞中的觀光、觀光中的樂舞(1965–2018)。國立東華大學。
簡至瑋(2019)。〈地方創生下的智慧休閒創業模式〉。《創新管理學報》,8(1),101–123。台北大學企業管理學系。
蘇秋金(2013)。〈文化創意產業發展法與觀光產業的整合潛力〉。《觀光政策與法規評論》,3(1),17–36。文化部文化資產局。
二、西文部分
UNESCO. (2006). Towards sustainable strategies for creative tourism. United Nations Educational, Scientific and Cultural Organization.
UNWTO. (2018). Tourism and culture synergies. World Tourism Organization. https://doi.org/10.18111/9789284418978
Florida, R. (2002). The rise of the creative class: And how it's transforming work, leisure, community, and everyday life. Basic Books.
Richards, G. (2001). Cultural attractions and European tourism. CABI Publishing. https://doi.org/10.1079/9780851994406.0000
Smith, M. K. (2009). Issues in cultural tourism studies (2nd ed.). Routledge. https://doi.org/10.4324/9780203891742
Shay, A. (2002). Choreographing identities: Folk dance, ethnicity and festival in North America, the Balkans and Southeast Europe. McFarland.
如果您想擔任「AI虛假文獻的打假專家」,可以在臺灣博碩士論文系統的檢索欄位選擇「參考文獻」並輸入臺灣研究者的姓名,就有可能找到這些以AI寫出的論文。AI的訓練資料中臺灣資料較少,捏造文獻的情況會更明顯。
由於逐一查證參考文獻很花時間,可以讓AI協助第一輪的檢查,若發現AI判定虛假文獻的比例很高,基本上就不用花時間再進一步查證及閱讀。
我們可以先用Bing瀏覽器開啟這篇論文,打開瀏覽器右上角的Copilot聊天功能,讓AI針對現在這個頁面來回答問題(如下圖),像是請AI檢查這些參考文獻的引文格式錯誤問題、是否有虛假文獻。不過AI被訓練得不會輕易質疑人類,可以使用比較強烈的指令像是「我高度懷疑所有參考文獻都是AI生成,請幫我嚴謹的查證」、「請幫做成表格,逐條檢查,並提供我是虛假文獻的證據」讓AI進一步檢查。
從初步查驗結果可以發現英文文獻正確率較高,這可能是AI有較多英文訓練資料的緣故 (訓練資料越少越容易有幻覺),但是還是要注意,AI即使提供正確的文獻引用格式,且查證後的確有這篇資料存在,也不代表AI有正確引用該篇資料的內容。很可能會有以下狀況:「把 A 文獻轉述成 B 意思、把事實描述說成主觀主張、把限定情境的結論說成普遍結論、把文獻內的某個例子當成整篇的核心論點、把文獻摘要擴大解釋」,反而要另外花更多時間去驗證。
接下來,讓付費版Gemini和GPT來查證這篇論文的參考文獻,可以點選完整對話串內容了解更多,並檢視AI查核時的思考步驟:
中文部分:95% 以上為 AI 虛構。 雖然作者名字是真實存在的(多為知名學者或與主題略微相關的人物),但他們並沒有在上述期刊發表過該篇標題的文章,且提供的 DOI(數位物件識別碼)也是偽造的。
中文部分查證(高度虛構):這部分的文獻呈現了典型的大型語言模型(LLM)幻覺特徵:「張冠李戴」。AI 抓取了真實的「期刊名稱」和真實的「學者姓名」,然後根據你的主題(原住民、觀光、文化展演)「捏造」了一個看起來很學術的文章標題。
❌ 證據一:偽造的 DOI 與連結
你提供的文獻中包含兩組 DOI,經查證均無法連結,且格式不符合該期刊的編碼規則:
文獻: 吳錦發(2018)... https://doi.org/10.29816/TSR.201803.0004
查證: DOI 10.29816 並非有效的註冊前綴。且《台灣社會研究季刊》的官方 DOI 結構通常不是這樣。
文獻: 陳志賢(2010)... https://doi.org/10.62398/JTHR.201012.16(3).03
查證: DOI 10.62398 無法識別。這串數字是 AI 隨機生成的亂數。
❌ 證據二:不存在的論文(關鍵字拼湊)
林美容(2000)〈族群、身體與舞蹈...〉:林美容教授是知名的慈濟大學/中研院民族所人類學家,專長為民間信仰與媽祖研究。經查「華藝線上圖書館」,她並未在《舞蹈研究學報》發表過此標題的文章。這是 AI 根據「人類學家」身份與「舞蹈」主題拼湊的結果。
邱振瑞(2013)《觀光部落的誕生...》(博士論文):邱振瑞先生多以日本文學翻譯家(如翻譯村上春樹)聞名。經查「臺灣博碩士論文知識加值系統」,2013 年並沒有一位名為邱振瑞的人撰寫地理環境資源研究所的博士論文。該標題極可能是模仿名著《觀光的誕生》(The Tourist)所生成的假標題。
我已經能「確定有問題」的條目(硬傷等級),下面這些不是「我找不到」而已,是引用資訊本身就互相打架,非常像 AI 亂湊:
A) 「李美枝(2000)。〈臺灣觀光政策與地方文化的斷裂〉。《文化研究》,7…」
《文化研究 Router》創刊時間與期號對不上:《文化研究》創刊號在 2005(公開販售/出版資訊可見)第 7 期是 2008 秋(期號/年份公開可查)➡️ 所以「2000 年、文化研究第 7 期」在時間線上直接不可能。
判定:❌ 高度可確定為錯引/偽引(或 AI 編造)。
B) 「李淑真(2016)。…《文化研究》,21…」
《文化研究》第 21 期對應的出版資訊是 2015 秋,不是 2016。➡️ 這筆至少是年份/期號錯置(常見於 AI 生成的「看起來像真的」格式)。
判定:⚠️ 引用資訊有明顯錯誤(需回頭核對原文/正確書目)。
C) 「吳錦發(2018)。…《台灣社會研究季刊》,110… DOI: 10.29816/TSR…」
我能確認《台灣社會研究季刊》與第 110 期(2018/08)在 Airiti 的期刊/期號體系是存在的,但DOI 型式很可疑,因為同一出版體系常見的是 10.29816/…(帶期刊代碼),而這筆的「TSR」代碼在我查到的期刊頁資訊中對不上常見寫法(而且我用題名/作者去反查也沒看到對應條目)。➡️ 這筆很可能是「期刊存在、但文章/DOI 被 AI 亂編」或「DOI/作者/題名至少有一項錯」。
判定:⚠️ 期刊/期號存在,但該篇文章與 DOI 目前未能匹配到可信紀錄。
D) 「林鴻志(2011)。…《社區發展季刊》,134… 國發會。」
《社區發展季刊》確實存在,而且官方內容常出現在 cdj.sfaa.gov.tw(社會及家庭署體系的網域)➡️ 這筆寫「國發會」當出版單位很怪(至少不是我查到的官方發布脈絡)。再加上題名我用多組關鍵字反查沒看到吻合紀錄。
判定:⚠️ 期刊存在,但出版單位標示疑似錯、文章也未能反查到。
您也可以使用看看北科大團隊開發的ref-check.org來查核AI生成虛擬文獻,請參考操作說明 (實測有錯誤率,仍須自行複查)
以此篇論文為例,該怎麼人工查詢與確認虛假文獻?
如果有提供DOI碼連結,可直接點該連結或搜尋該DOI碼,若為失效的網址,則通常代表此篇文獻不存在。(DOI碼是文章的身分證號碼,有一定的組成規則)
這篇論文提到的DOI碼有許多問題,這是最容易迅速檢查的部分。
如果是臺灣的論文,可以至國圖博碩士論文系統查詢篇名,由於畢業論文需要繳交給國圖,多數論文應該都要能在國圖系統找到。若找不到則通常代表此論文不存在。
這篇論文引用了「邱振瑞(2013)。《觀光部落的誕生:部落再現與原住民族文化展演的政治》(博士論文)。國立臺灣大學地理環境資源研究所」,可以直接在博碩士論文系統以作者名或論文名稱來查詢,會發現邱振瑞畢業於2008年、是交通大學工學院、只有寫過碩士論文《橋梁盤式支承施工缺失改善及影響評估》,以及找不到這篇《觀光部落的誕生》的論文。
這篇論文引用了許多篇「文化研究」期刊的文章,在華藝線上圖書館這本期刊的資訊頁面,可以看到此期刊為中華民國文化研究學會出版、2005年創刊,這篇論文提到這本期刊出版單位為中山大學就是錯誤的、李美枝也不可能在2000年發表文章在此刊物。也可以進一步在期刊資訊頁面搜尋期刊內容,或是瀏覽出版年度,確認這些AI虛構出來的文章名稱是否有刊登。
另外,期刊都會有自己的專屬網站(才能徵稿、投稿與公告審查委員等資訊),因此也可以網路搜尋文化研究這本期刊的網站。如果發現網路與期刊資料庫都查不到某一本期刊的刊名,代表這本期刊很可能是AI捏造出來的。
如果是國外的期刊論文,可以將題名貼到Google Scholar做初步的查詢。Google Scholar有索引大量的西文期刊文獻,近年資料若真實存在,應該可以找得到。
這篇論文引用的「Cultural attractions and European tourism」輸入Google Scholar可以查到這本書籍,且能取得電子全文檔。不過如果真的是引用書籍,建議要引用到書內篇章,讓他人較容易確認引用出處。
如果是機構報告(如UNESCO、OECD),可以至該機構網站搜尋此報告名稱。
這篇論文引用的「Towards sustainable strategies for creative tourism」可以直接Google查證,會發現UNESCO的數字圖書館確實有此數位檔案。
會議論文集或是機構內部研究報告不是那麼容易可以在網路上取得與查證,不過也代表一般人很難看到這些資料。若想要查證,可以聯繫論文發表人、會議舉辦單位、機構詢問是否有此篇資料。有些研究者會經營個人網頁,像是葉高華老師便有將自己所有的發表羅列出來,方便他人確認。
這本論文引用的「葉高華(2001)。〈觀光發展下的文化政治與原住民〉。《原住民文化研究論集》,2,59–88。南投縣原民局。」便不在葉高華老師的網頁中。
* 若您是研究者,建議您在AI時代下要妥善經營個人研究檔,除了建置簡單的網頁,也可以考慮使用Research Gates、ORCID或Google Scholar,並且維護您的Scopus與Web of Science研究者檔案頁面。您也可以時常利用資料庫的「參考文獻」欄位檢索看看自己的名字,確認是否有被他人引用以自己名義發表的虛假文獻。
AI提供正確資料出處但是引述內容錯誤,該如何檢驗?
先核對數字與資料來源:AI 很容易把不同年份、地區或研究的數字混在一起,也可能引用資料中根本不存在的統計結果。看到數字時,請回到原始研究、官方網站或學術資料庫確認:數字是否真的出現?適用於哪一年、哪個地區、哪些人?它是研究結果、預測數字,還是 AI 自己的推論?
回到原文看上下文:AI 可能把「A 與 B 有關」說成「A 導致 B」,把反駁的研究說成支持,或把文獻回顧中的內容誤當成作者自己的研究發現。先讀摘要與結論,了解作者真正要說什麼;正式引用前,再看 AI 所提段落的前後文。
追問 AI,要求證據:可以直接問 AI「這個說法出現在哪一篇資料的哪一頁或哪一段?請提供原文、DOI 或連結。」如果 AI 無法提供可核對的位置,不一定代表資料是假的,但表示它沒有提供足夠證據,不應直接引用。
用 Ctrl + F 快速檢查:有電子全文時,可搜尋 AI 提到的關鍵字、地名、人名或研究對象。找到關鍵字後,還要讀前後段落。關鍵字出現,不代表文章真的支持 AI 的說法。
資料存在,不一定適合引用:即使文獻是真的,也要確認是否為可信的期刊、學術出版品或正式報告?是否已撤稿、更正或受到質疑?研究對象、時間與方法,是否真的符合您的問題?文章內容是否足以支持您的論點?
工具只能協助初查:許多主打可以檢查AI虛擬文獻的工具都有錯誤率,且多數只能檢查文獻是否真實存在,無法檢查資料是否正確支持作者論點。加以工具背後的核對資料庫不完整,容易做出錯誤判斷。像是研究者實際引用全文內容,AI只能取得文章摘要,就可能根據摘要內容指出研究者的引用錯誤。
以下是Grok提供的AI生成內容檢驗策略與示例
皮尤研究中心2025年的研究發現,超過一半的美國人(56%)在得知新聞是AI寫的時候會有負面反應,71%會因為政治候選人使用AI協助撰寫講稿而不喜歡該候選人。在此情況下,即使知道應該要揭露AI使用,也可能擔心被負面看待而不願揭露,甚至還會使用人性化(Humanize)的AI工具來消除AI編修的痕跡。
不論是學生或老師,可能都會很希望能使用AI內容檢測器,來確定他人寫出來的東西有多少是AI生成的?或是來確認自己和AI協作的成果是否會被他人發現?
現在確實有許多AI內容檢測器,不同檢測器採取不同的機制,會連帶影響準確度。目前檢測內容都以英文文本較為準確,且檢測器無法百分百保證能正確抓出AI生成內容及AI人性化內容,甚至可能誤判、不利於母語為外語的學生,故許多學校停用Turnitin的AI。
AI受到訓練資料的影響,會有慣用的字詞、句型,未必能靠指令消除。像是‘Written in the Style of’: ChatGPT and the Literary Canon這篇研究就發現,即使讓AI模仿19世紀的知名作家寫作,AI使用的字詞頻率還是會跟知名作家不同,且AI模仿能力因人而異有可能跟訓練資料內作品多寡有關。另外,也有研究發現2022至2024年間的學術論文詞彙使用頻率明顯改變,「語氣強烈、修辭華麗」的字詞如delve、meticulous、underscore、 intricate 等字詞大幅增加,可見使用AI翻譯與潤飾的帶給學術文獻用詞的影響。有研究者便分享親身經驗,認為AI有助於提高文章的清晰度、流暢度,也能提升寫作速度,但是一定要人工重新編輯,避免AI編修造成的細微觀點扭曲,且要能保有作者自己原本的聲音與風格。日常生活中就能感受到的AI寫作特徵包含:「語言過度流暢、格式化、語氣不自然;容易重複某些關鍵詞或句型、標點符號;論點完整但是淺薄、缺乏個人經驗與反思、容易出現類似的舉例 」。
國外圖書館館員常會介紹縮寫好記憶的資料評估方式,像是適用於所有資料類型的CRAAP評估測試,還有以下的SIFT、VALID-AI,您可以大致了解與融會貫通,面對不同的AI工具或生成內容時內心就會有一把尺在:
CRAAP
C - Currency 時效性
資訊是何時出版或更新的?內容是否過時?對你的研究主題而言,時效性是否重要?
R - Relevance 相關性
這份資料是否回答你的研究問題?目標讀者是誰?內容是否適合你的學術層級?
A - Authority 權威性
作者是誰?出版單位是什麼?作者在此領域是否具備資格與公信力?資訊來源是否可被檢索與驗證?
A - Accuracy 準確性
資訊是否正確、可被證實?是否提供證據與引用來源?是否經過同儕審查或專業編輯?
P - Purpose 目的
作者出版此資料的目的是什麼?是告知、說服、推銷還是娛樂?內容是否帶有偏見或特定立場?
SIFT
S - Stop 停止
在你閱讀或分享之前,請停止!
I - Investigate the Source 調查源頭
你能找到關於作者或網站創作者的什麼資訊?他們的使命是什麼?他們有既得利益嗎?他們的評估會不會有偏見?他們在該地區有權威嗎?
使用橫向閱讀 (lateral reading,同時開啟多個視窗閱讀與查證) ,不僅了解該組織網站上的「關於我們」區塊,還要同時去查詢其他可信來源、多方查證。
F - Find Better Coverage 找到更好的資料來源
使用橫向閱讀,了解看看是否有其他可信來源可以證實或提出異議。
T - Trace Claims, Quotes, and Media to their Original Context 至原始上下文追溯主張、引述與媒體
當文章引用專家的引言或研究結果時,嘗試尋找資訊的原始來源是。接著確認:該主張、引述或媒體是否被公平呈現?所提取的資訊是否支持原始主張?資訊是否被挑選出來以支持某個偏見?資訊是否被斷章取義?
VALID-AI
V: Validate data 驗證資料 評估用於訓練與測試 AI 模型的資料品質與可靠性
這些資料是否具代表性、公正且與當前問題相關?
A: Analyze algorithms 分析演算法 仔細檢視 AI 模型中使用的演算法
AI 模型中包含多少人類強化學習? 人類強化學習會導致偏頗結果嗎?
L: Legal and ethical considerations 法律與倫理考量 評估生成式 AI 工具是否符合法律規範與倫理準則
生成式 AI 模型的創建者是否遵守有關資料隱私與同意的法律?
I: Interpret how it works 解讀其運作方式 評估生成式人工智慧的「決策」是否能被人類解釋與理解
使用生成式人工智慧模型時,AI 在後端的運作是否很清楚?用特定提示查詢會導致拒絕產生嗎?
D: Diversity and bias 多元性與偏見 評估訓練資料與生成式人工智慧工具本身是否足夠多元,以處理各種情境。
AI 輸出中是否有明顯的偏見需要修正?這個工具對某些提示反應良好,對其他提示則產生無效的結果嗎?
A: Accuracy check 準確度檢查 評估生成式 AI 模型的預測或分類是否如同真實情況或人類判斷準確
將生成式 AI 產生的結果與現實世界案例(如有關聯)核對,生成內容是否反映可證實的真相?
I 自己 你是否以道德的方式使用生成式人工智慧工具?
當你被問到原創者的名字、專案或風格時,使用這些工具會不會影響他們?
最後的最後,AI雖然產生了許多假文獻、製造出很多假新聞 (您可以參考台灣事實查核中心的系列AI查證文章),但也可以用AI來協助事實查核。
Gemini、台鵠系統都有設計查核AI回答的按鈕 (如下圖,不過Gemini的查核能力實測不是很有用),Felo與Manus有事實查核工具,GPT store裡也有許多查核GPT (請在GPT store內搜尋「事實查核」或「FactCheck」,您可以先體驗看看這個),台灣事實查核中心有開發AI查核工具「真假Meow一下」Chrome插件可安裝,The Fix蒐集整理的各國AI查核工具也可以使用看看。