以下快速提醒基本注意事項，網頁內會有更詳細的說明：

1. 生成式AI從大量訓練資料中學習，每次回覆乃基於訓練資料預測下一個字出現的機率，並非真的理解問題，因此AI會產生幻覺(看似正確的虛假資訊)。即使是自行獲得正確事實資料，請AI幫忙基於正確資料生成表格或是進行翻譯，也要再次檢查，因為AI可能在整理或翻譯過程中會出錯。

2. AI的訓練資料多半是網路免費資源(英文為主)，受到版權保護(法律限制)或有商業付費牆(須付費才能登入取得資料)的資料，往往是AI缺乏的。訓練資料的來源本來就帶有偏見或錯誤，AI基於這些訓練資料也會產生具有偏見或錯誤的答案。另外，AI也會因為缺乏某個主題、語言的訓練資料，在某些領域的回答表現比較不佳。

3. 每個AI工具使用的訓練資料與模型設計不同，因此同一個問題問不同AI工具會得到不同答案。不要仰賴單一AI的答案，而要同時使用多種AI工具甚至是多種資料查詢管道。

4. AI會根據Prompt提供不同答案，換句話說就會得到不同答案。除了切換不同的表達方式來獲得多種答案後再綜整評估，也要注意自己的指令內容是否有偏見、是否會影響AI生成答案的方向。

5. 若AI生成的答案對您來講很重要，會影響重要的醫療、法律等決策，或是想要將AI生成內容引用至論文中，都建議先至可以信賴權威的資料來源查證。舉例來說，若論文中想呈現某區域的GDP發展，請記得去政府官方網站或統計調查權威機構查詢確認AI的答案。

6. 有些資料如果已知在何處可以找到正確事實資料(例如：至中華民國統計資訊網能快速獲得正確統計資料)，就不用在這種時候硬要使用AI ，不然可能會耗費更多時間在驗證與查核。整理書目引用格式或是有正確答案的工作，建議都還是AI輔助、人工為主。

7. 使用者需要自行警覺，隨時以批判性思考來驗證。就像我們聽演講如果聽到講者不小心口誤，也會注意到並自行去查證正確資訊，面對AI也是一樣的。另外，我們越熟悉的知識會越容易意識到錯誤在哪，因此還是需要持續從其他管道獲得正確可信知識，才能有判斷正確與否的能力。

💠機器學習（Machine Learning）

機器學習是讓電腦「透過資料自己找出規則」的技術。不用明確寫好每個步驟，而是餵給電腦大量資料，讓它學會從中歸納模式，並做出判斷、分類、預測或推薦。

💠深度學習（Deep Learning）

深度學習是機器學習的一種，它使用「類神經網路」模仿人腦神經元的運作方式。當神經網路的層數很多，就稱為「深度」學習。這種架構讓 AI 能學會更抽象、更高階的特徵，例如從像素中辨認人臉、或從文字中理解語意模式，是語言模型（LLM）、圖像生成、聲音模仿等應用的基礎。

💠向量空間（Vector Space）

向量空間是 AI 把文字變成數字的方法：每個詞、句子或段落都會被表示成一組數字（向量），放在一個「多維空間」中，讓電腦可以用數學方式計算語意的遠近。這讓 AI 不用靠完全一樣的字詞比對，而能透過語意相似度來找資料或理解問題。

💠語言模型（Language Model）

語言模型的核心任務是「根據前面的文字，預測下一個字或詞」，這個過程需要對語意、語法、上下文都有敏感度。當語言模型夠大、訓練資料夠多，它就能學到人類語言中的用詞習慣與邏輯結構，進而「生成類似人寫的文字」。語言模型不是「理解」文字，而是「模仿」大量人類用語的規律，因此它的輸出很像人類，但背後是統計預測。

💠幻覺（Hallucination）

AI 其實並不「理解」文字背後的真實意義。它是根據過去學習過的龐大資料庫，去預測下一個最可能出現的字詞。當 AI 遇到它不清楚的問題、缺乏足夠的資料、或是將不相關的資訊錯誤拼湊在一起時，它不會主動承認「我不知道」，而是會順著字詞的邏輯，硬湊出一個聽起來很順暢的答案。

💠推理模型 (Reasoning Model)

推理模型是指在產出最終答案之前，會先投入額外時間與運算資源進行「深度思考」的模型。它不會急著預測下一個字詞，而是會先在內部將複雜問題拆解、進行多步邏輯推演，確認無誤後才輸出最終結果。模型在底層架構上就原生具備拆解問題的能力思維鏈 (Chain of Thought, CoT)，會在內部產生「思考軌跡」，將大問題化為多個小步驟逐一解決。思考過程中，若模型發現某個推演方向存在邏輯矛盾，它有能力推翻前面的假設，退回上一步並嘗試新的解題路徑。傳統模型的能力上限主要取決於訓練時餵給它的資料量；而推理模型則展現出「想得越久，表現越好」的特性。

💠深度研究 (Deep Research)

Deep Research 專為解決需要長時間、多階段探索與跨來源比對的複雜研究所設計。接收指令後，AI 會自主擬定探索策略，並花費數分鐘至數十分鐘在廣泛的網路與資料庫中尋找資料。它能透過交叉比對不同來源來排除過時或偏頗的資料，與產出資料分析與綜合型專業報告。

💠人工智慧代理 (AI Agent)

不僅能生成文字，還能根據給定的宏觀目標，自主拆解任務步驟，並主動呼叫外部工具來完成工作。如果傳統的 AI 聊天機器人是一本「會說話的百科全書」（被動回答問題），那麼 AI Agent 就是一位「虛擬實習生」（主動執行任務）。給它一個指令，它會自己上網搜尋、比對資料、操作軟體，並在遇到錯誤時自己想辦法修正，直到任務完成。

💠檢索增強生成（Retrieval-Augmented Generation, RAG）

讓 AI 在回答前先擷取外部資料，再根據擷取到的內容生成答案，可降低幻覺、讓回答有所本。單純的語言模型只能依賴訓練時學到的知識，可能過時或不夠專業；RAG 則先從外部資料來源檢索相關內容，再把檢索結果提供給模型，讓回答有依據。不過 RAG 也有挑戰，若擷取的資訊不準確或不是最新，輸出就可能不正確；若基礎資料包含偏差，輸出也會存在偏差；在設計 RAG 系統時也需考量資料存取的智慧財產權、許可以及隱私和安全問題。

💠模型上下文協議 (Model Context Protocol, MCP)

MCP 是一種開源的標準化通訊協定，專門用來讓 AI 模型安全、統一地連接並讀取外部資料源與工具。可以把 MCP 想像成 AI 界的USB，AI 能「隨插即用」地存取外部系統，大幅降低了資料串接的難度與成本。

追蹤 AI 發展趨勢的權威來源

AI 的技術、政策、產業應用等都快速變化，建議除了追蹤「數位時代」、「泛科學」這類國內科技媒體外，也從以下權威報告與機構掌握趨勢：

• 2026 史丹佛大學 HAI《AI Index》報告：

  • 2026 報告重點（Stanford HAI AI Index 2026）：2025 年全球 GenAI 投資遠超以往。DeepSeek 帶動中國 AI 快速進展，美國整體仍略勝，但差距持續縮小。AI模型透明度指數大幅下滑，業者對訓練資料來源、安全防護與模型架構的揭露愈來愈不透明。重大安全事件增加。

    • 1. 截至 2026 年 3 月，Anthropic、xAI、Google、OpenAI、阿里巴巴及 DeepSeek皆位居 Arena Elo 評等最高層，競爭壓力轉向成本、可靠性及領域特定表現。

      2. 影片生成模型開始捕捉物體的行為，而不只是產生逼真的內容。

      3. AI 模型正擴展至專業領域，在稅務、房貸處理、企業財務及法律推理等評估中表現介於 60% 至 90%。這類需要高度能力與可靠性的領域，對 AI 模型來說仍是一大挑戰。

      4. 人工智慧模型難以分辨知識與信念。26款頂尖型號的幻覺率介於22%至94%之間

      5. 組織 AI 採用率在 2025 年持續上升，約有70%的組織使用，中國與歐洲的年增長率最高但 AI 代理的使用仍處於早期階段。

      6. 歐盟比美國或中國更被信任能有效監管人工智慧，美國41%的受訪者認為聯邦人工智慧監管還不夠。

• 各家 AI 公司研究報告：Anthropic、Open AI、Microsoft、DeepMind都時常會發布AI相關的研究報告，像是Anthropic「大學生如何使用Claude」、Open AI「語言模型為什麼會出現幻覺」、Microsoft「為了牟利操控 AI 記憶：出現『AI推薦中毒』」，都很值得閱讀。

• 學術與智庫機構：MIT media Lab、紐約大學AI Now Institute、牛津大學Future of Humanity Institute (FHI)、加州大學柏克萊分校BAIR的報告也很適合用來追蹤 AI 趨勢與議題。

        AI雖然很好用，但在自己想要發展專業的領域中，還是要有意識的降低對AI的依賴，才能訓練自己的大腦。

      「Your Brain on ChatGPT: Accumulation of Cognitive Debt when Using an AI Assistant for Essay Writing Task」這篇研究指出，使用AI容易產生「認知負債」，使用的當下將腦力外包，短期內可以快速完成任務很省力，長期卻會產生代價：「批判能力下降、創意力減弱、對內容的內化變少」。研究設計「使用AI、網頁搜尋與單純靠腦袋完成任務」的三組，發現使用AI的人腦部連結減弱，甚至使用AI轉回單純靠腦袋完成任務時，腦部連結都還是偏弱。而且使用AI的人容易覺得作品不屬於自己，也無法準確引用自己寫出的句子。 (您可以參考GPT幫這篇研究做的摘要)

        因應AI的發展，高等教育領域也在重新思考AI時代下該如何培養與檢測學生能力，開始探討「AI素養」的定義與養成方式。我們可以將AI素養分成四個層次：「理解AI、應用AI、評估AI、創造AI」，想想看自己是否具備這四個層次的知識與技能，並且善用高等教育的訓練環境與資源，讓自己成為能創造AI產品、技術、法規、政策的人。

在此簡述美國現代語言學會 (Modern Language Association)的觀點如以下：

       高等教育的目標是要讓學生提出原創問題及參與持續不斷的過程，這個過程包括與其他學者一起思考、探索想法，而不是得到答案。在使用AI時，一定要想著自己如何能成為駕馭AI的人，而不是讓AI取代自己，以下幾點都是您應該擁有的能力：

• 對 GenAI 的原理有基本了解、了解導師和機構有關 GenAI 道德使用的政策

• 知道如何用 GenAI 生成有用的內容 (學習相關任務的指令、指令技巧、適應各種新工具)

• 能評估 GenAI 生成內容對應任務的相關性、實用性和正確性

• 使用 GenAI 工具時可以監控自己的學習  (解釋為什麼要使用AI、了解IA的貢獻、反思自己的需求與避免過度依賴)

• 能理解 GenAI與人類交流的不同、可以評估AI生成內容是否會造成溝通誤會

• 能理解 GenAI的潛在危害(環境/勞力/偏見/隱私資安/智財權)

學習過程中使用AI時，可以詢問自己以下問題：

• 為什麼我在這個場合、情境之下會想要使用AI輔助？使用AI會不會讓我減少學習成長的機會？我可以怎麼使用它讓我同時有好的使用成果又能有更多學習？

• 這個AI工具背後的訓練資料是什麼？具有什麼功能？為什麼我使用它可以來完成我現在要進行的任務？

• 這個AI工具會不會產生什麼偏見？我提供給它的資料會不會侵犯我或他人的隱私/著作權？我可以怎麼避免這些問題？

• 我在使用前具備哪些已知知識？這些知識是否足夠讓我能去檢驗AI生成答案？或是我可以有什麼方法/工具來交叉檢驗答案？

        AI模型在訓練過程的許多階段都可能帶來後續的偏見，像是訓練資料集的內容不夠多樣化、在資料標記的過程中加入了標記者的主觀偏見、反映出使用者的偏好，就可能會在回答內容中反映出歷史上的偏見、放大流行的趨勢、做出不利於少數的決策建議。使用者自己的指令中如果含有偏見，也可能讓AI連帶回答有偏見的答案。

        AI 的偏見也可能來自人為操縱，例如有研究員在論文中暗藏「僅給正面評價」這類的指令讓AI看到，以增加自己論文的曝光度；也有人用暗藏指令的方式讓履歷更容易通過人資的 AI 審查。

AI 處理中國古籍與古詩文的能力

        ChatGPT、Gemini、Claude等AI的訓練資料以英文資料為主，不僅國外歷史、法律及語言表達能力都較好，也可能無形間傳達出西方主流觀點。

• 有研究測試大型語言模型的中國古籍任務執行能力，像是「將古代文本翻譯成中文與英文、辨識古代文本的影印與手寫文字、理解古籍圖像與分類、評估影像與文字一致性」，中國模型的千問表現最佳。

• 另一個研究測試大型語言模型對於中國古詩文的註釋能力，會發現AI較難理解人名、典故、古代時間，千問同樣表現能力最佳。

• ChatGPT在這兩個研究中都有很好的綜合型表現，有可能是靠著良好的推理能力或資料搜尋能力來補訓練資料不足的問題。

AI 在歷史與地緣政治議題的能力與偏見

• 全球歷史的覆蓋不均：歐洲 Complexity Science Hub 與牛津大學等機構的研究團隊，基於收錄全球 600 個社會歷史資料的 Seshat 資料庫測試七個模型，發現 AI 善於回答遠古史（西元前 8000 年至前 3000 年）而較不理解近代史（西元 1500 年至今）；較了解拉美和北美的歷史勝過非洲和大洋洲的歷史；較擅長分析古代法律制度演變或社會組織，但不擅長回答階級差異、社會階層流動性的複雜議題。

• 地緣政治的立場偏見：「Geopolitical biases in LLMs: what are the "good" and the "bad" countries according to contemporary language models」研究以英、美、中、俄四國衝突的歷史事件問 4 個中美 AI 模型誰對誰錯，發現指令對 AI 回答內容有明顯影響—測試「原始事件陳述、原始事件陳述＋請 AI 不要帶有偏見、將事件內的國家名稱調換、請 AI 回答無條件支持某一國家」時，AI 會隨之有不同的對錯判斷結果。

• 敏感事件的審查與差異：許多人測試過中國 AI 模型（DeepSeek、千問、Kimi、智譜、MiniMax、豆包）能否回答六四天安門事件等敏感問題，自由亞洲電台與網友都有做類似測試。中國訂有《生成式人工智慧服務管理暫行辦法》，其 AI 模型必須「堅持社會主義核心價值觀」，不得生成危害國家安全、煽動顛覆等內容，導致對敏感事件的隱蔽；即使使用 ChatGPT，以中文與英文提問敏感事件也會得到不同答案。

        AI模型的訓練資料是否有侵犯著作權？是否會影響到新聞從業者與作家的營利？利用AI二次創作的作品是否能主張著作權？

        AI帶來了一系列的著作權相關訴訟及相關討論，許多官司都還在進行中，值得持續觀察追蹤，以下僅舉例說明：

• New York Times v. Microsoft & OpenAI：紐約時報蒐集了大量證據，顯示Bing與ChatGPT會直接吐出相似度極高的紐約時報內容，證明其訓練資料中有抓取受著作權保護的紐約時報作品，另外AI生成幻覺卻將錯誤歸因於紐約時報，也會對紐約時報造成商業傷害。

• Bartz, Graeber & Johnson v. Anthropic：Anthropic在Claude訓練資料中，除了購買幾百萬本紙本書拆除掃描成PDF檔案外，也有從盜版網站下載數百萬本書籍，這些書籍為原告Andrea Bartz、Charles Graeber 與 Kirk Wallace Johnson撰寫，並未授權Anthropic複製內容的行為，因而提出訴訟。

• 臺灣也有中央社提告台大博士生爬取資料作成訓練資料集

        除了作家提告，也有資料庫提告，像是：美國法律資料庫Thomson Reuters Westlaw 控告AI新創Ross Intelligence、法源法律網控告七法。

資料授權與 AI 訓練的合法化進展

• 無版權／公開資料集：哈佛大學主動釋出 Institutional Books 1.0 資料集(含近百萬本書，3.94 億頁、254 種語言，最早文獻來自 15 世紀)、波士頓公共圖書館數位化法語報紙與政府文件，Microsoft與OpenAI也提供數位化資金給多所研究機構/圖書館。

• 出版商與 AI 公司的授權合作：學術出版商也開始與AI公司簽署權協議，在美國川普政府削減研究經費的情況下藉此開闢新的收入來源，像是Wiley出版社和Amazon、Perplexity展開合作、Taylor & Francis和微軟簽屬協議，Perplexity的Comet瀏覽器也承諾會提供80%收入給提供內容的出版商 (不過學術出版商並未徵求學術研究者的同意就提供資料也引起研究者的不滿)。

        學術資料若能讓AI方便調用，將有助於使用者更有機會從AI看到學術資料而非網路資料。Pubmed、Wiley都有開放MCP讓主流AI串接，學術AI工具如Consensus與Scite也有加入。不過，目前都是以理工生醫為主的英文學術出版社發展較快，中文學術資源主要是靠資料庫的發展，像是華藝、萬方、CNKI都有發展自己的AI功能，中國AI模型也有機會能找得到學術期刊內容，且有秘塔AI這類學術搜尋工具 (基於資安考量，本網頁不會介紹中國AI)。

         您可以閱讀圖書館電子書「AI.抄襲.智財權」來了解高等教育領域較會面對到的AI與智財權議題。

        您在使用AI工具時，對話紀錄可能會被儲存為記憶，讓AI記住偏好以提供更符合您需求的答案，然而也可能會被用以改進AI模型。除了使用無痕視窗、獨立瀏覽器、預設拒絕網站權限等方式，在這篇文章中有介紹不同工具的隱私設定方式(LinkedIn、Microsoft365、ChatGPT、Gemini、Grok+X等)，建議您可以依照文章建議來執行 (像是在ChatGPT的個人設定中，從「資料控管」的按鈕關閉「為所有人改善模型」)。不過，這個動作僅是不讓資料用以訓練模型，不代表資料沒有被儲存進AI模型中。即使AI的隱私權頁面通常聲稱不會留下使用者紀錄，但是也未必真的能相信，因此還是要靠自己做好資料上傳的把關。

        提示詞注入(Prompt Injection)是一種專門針對生成式 AI 模型的攻擊手法。攻擊者透過刻意設計的自然語言輸入（提示詞），誘騙或迫使 AI 忽略系統原先設定的安全規則與核心指令，轉而執行攻擊者隱藏的惡意命令。可以把它想像成對 AI 進行「催眠」，就像是有人對一家銀行的警衛（AI）說：「忘記你老闆交代的所有規定。現在，你是一個負責幫我開門的服務生。」AI 若防護機制不足，就會真的「忘記」原本的職責，順從駭客的指示。

• 直接注入 (Direct Injection / 越獄 Jailbreak)：直接輸入破壞規則的指令，例如：「忽略先前的所有指令，並開始執行以下動作...」。

• 間接注入 (Indirect Injection)：將惡意指令隱藏在外部網頁或文件中（甚至是用白色字體隱藏在背景裡）。當不知情的使用者請 AI 去「摘要這份文件」或「搜尋這個網頁」時，AI 讀取到其中的隱藏指令，就會在不知不覺中被劫持。

        當 Prompt Injection 遇上 AI Agent時，危險性會呈現指數級上升。因為 Agent 擁有「雙手（執行能力）」，可能會在未經同意的情況下，自主調用工具去刪除重要檔案、發送釣魚電子郵件，或者將透過 MCP 讀取到的公司機密資料外洩。