生成式 AI 的本質是機率預測，非事實查詢，且訓練資料不透明，存在數據偏見，導致 AI 生成的內容常有「看似合理但完全錯誤」的現象（幻覺，Hallucination）。

應對方式：

• 保持懷疑精神，不要全盤接收 AI 提供的資料，務必進行人工查核與驗證。

• 利用圖書館資源或其他可信的資訊管道驗證資料是否真實存在以及內容正確性。

• 建議使用由圖書館所訂購的學術資料庫內建 AI 工具。

• 改為主動提供原始文獻讓 AI 整理、分析，而非讓 AI 憑空生成。

• 注意資料新穎性，確認生成式 AI 工具模型訓練資料的日期覆蓋範圍。

目前主流的生成式 AI 工具平台可能會預設收集使用者輸入或上傳的的提示詞（Prompt）、對話紀錄、文件，用於模型訓練，若輸入機敏資訊（如個人資料、醫療紀錄、尚未公開發表的研究成果、商業機密），日後恐被模型輸出給其他使用者，或駭客繞過安全機制，取得其系統內儲存的機敏資料。

應對方式：

• 主動瞭解 AI 平台的隱私政策，關閉「資料訓練」功能或手動刪除對話紀錄，以保護個人隱私。

• 不要輸入個人或他人機敏隱私資料，包含尚未公開發表的研究成果，若必要請先做去識別化、模糊化等處理。

目前主流學術出版規範普遍認為 AI 不能成為作者、無法對研究結果負責亦無法承擔學術責任，且生成式 AI 工具訓練資料不透明，未經授權使用受著作權保護作品進行模型訓練是否合法仍存在爭議，因此 AI 生成的內容很可能與既有著作相似，致使產生抄襲、侵犯著作財產權、違反學術倫理等疑慮。使用 AI 工具協助文稿潤飾或翻譯，亦可能被 AI 辨識工具偵測為 AI 代筆。

應對方式：

• 逐一確認生成式 AI 提供的文獻或數據是否真實存在，可要求 AI 提供原始來源，或利用圖書館資源以及其他可信資料管道進行查核。 

• 不要將機敏研究資料上傳到 AI 平台，例如：包含個人資料的問卷內容、訪談逐字稿、醫療紀錄、未發表的數據或研究成果。

• 研究責任由作者完全承擔，因此不要讓 AI 取代思考或判斷，務必反覆驗證 AI 提供的內容。

• 遵守 AI 協作、引用相關規定。請先確認本校以及各學術出版社對 AI 工具所制定的使用規範與限制。

• 主動揭露在寫作過程中 AI 使用情形，讓審查者、指導者、讀者知道 AI 在研究中扮演的角色。 

國立臺北大學生成式AI用於學術暨產學研究發展之參考指引

教育部學倫中心—AI世代的學術寫作指南