國小階段使用AI工具需注意的資訊安全

一、避免使用到假資訊或錯誤內容

• 風險：

• AI可能產生錯誤或具誤導性的內容,學生難以辨識真偽。

• 現場教學或實作建議：

• 教師可以引導學生，使用5W（Who、What、When、Where、Why）原則，鼓勵學生養成查核與驗證的習慣

• 驗證資料的順序，可以依據實際教學情況調整

例如：以正確性考量為前提，可以從Who開始，檢查資料的專業度，再檢核其他的項目

以學習時間有限為前提，可以從Why開始，先看資料是否與自己的需求相關，再檢核其他項目

• 教師可以教導學生「AI生成的文章或網站特徵」，例如：標題、用語、文章架構、圖片，來協助判斷是否可能為AI生成內容。

•  現在搜尋引擎與AI生成的界線越來越模糊，包含Google搜尋，也導入自動產生AI摘要，但是AI不會篩選摘要的資料來源，無法保證正確性、專業性，甚至是不符合5W原則。

• AI生成的摘要或相關提問與回答，請學生務必檢索原始資料，進行5W查證與確認。

二、個人與學生隱私洩漏風險

• 風險：

• 師生可能在AI使用中，輸入老師或學生個人資料，導致敏感資訊洩漏。

• 現場教學或實作建議：

• 使用AI工具前，應詳閱隱私政策，調整個人資料搜集的狀況，避免提供過多的資訊。

例如：

有些AI工具可能會搜集使用者資料來訓練模型。我們可以試著找找看設定當中，是否有關閉提供資料訓練模型的選項。

• 教導學生在與AI對話之中，避免提到自己或他人的個人資料，如真實姓名、電話、地址等等。

• 老師如果要用AI工具，進行學生的資料分析，最好能做去識別化的動作（例如姓名、學號、地址）。

三、使用未經授權或未達年齡限制的AI工具

• 風險：

• 學生可能自行下載或使用未經授權、或未達使用年齡的AI工具，導致未知的危險。

• 現場教學或實作建議：

• 建議遵照教育部數位教學指引3.0中，未滿13歲學生使用的規範，來帶領學生使用。

• 更詳細說明，可參考網站下方資料中，「讓學生參與、使用AI的注意事項」

• https://sites.google.com/view/khfasteasy/ai%E5%B7%A5%E5%85%B7%E8%88%87%E8%87%AA%E4%B8%BB%E5%AD%B8%E7%BF%92/ai%E5%B7%A5%E5%85%B7%E9%81%8B%E7%94%A8%E6%96%BC%E6%95%99%E5%AD%B8%E7%8F%BE%E5%A0%B4%E7%9A%84%E6%BA%96%E5%82%99?authuser=0#h.coi8sjlwhuh7

• 左側OpenAI官方文件翻譯

• 🤖 ChatGPT 對所有年齡層都安全嗎？

• ChatGPT 不適用於 13 歲以下的兒童，13 至 18 歲的青少年在使用 ChatGPT 前需獲得父母或法定監護人的同意。儘管我們已採取措施限制生成不良內容，ChatGPT 仍可能產生不適合所有觀眾或所有年齡層的輸出，教育工作者在與學生或在課堂環境中使用時應注意這一點。

• 我們建議對兒童的使用保持謹慎，即使是那些符合我們年齡要求的兒童；如果您在教育情境中為 13 歲以下的兒童使用 ChatGPT，實際與 ChatGPT 的互動必須由成人進行。

四、版權與智慧財產權爭議

• 風險：

• 使用AI工具產生的圖片或內容，可能侵犯他人版權，使教師或學生面臨法律責任。

• 現場教學或實作建議：

• 從師生使用AI工具生成作品創作的角度來看：

• 純AI生成的作品沒有著作權，要有人投入創意設計才有著作權

• 師生生成的作品，理論上有著作權，但仍要看AI工具本身的使用條款，才能確定著作權的歸屬於誰。

• 師生撰寫的提示詞有著作權， 因為「提示詞」本身就是師生創作的文字內容。

• 師生使用純AI生成的作品，沒有著作權，但有可能會侵犯著作權(例如：使用到已有版權、智慧財產權的文字、圖像、影音生成作品，就有可能侵權）

• 從師生使用別人以AI生成的作品當作教材來看：

• 就算是AI生成的文字、圖像、影音作品，也可能是受著作權保護的。如果師生在教學上有使用的必要性，須遵守著作權法中，教學「合理使用」的相關規定，不能自行擴大解釋合理使用範圍。

• 建議可以查看智慧財產局資料「教學活動篇」，了解建議的合理使用範圍，網址如下：

https://www.tipo.gov.tw/tw/cp-180-219602-77337-1.html#:~:text=有關於教學時利用他人著作的合理使用，我國著作權法第46條規定：「Ⅰ.%20依法設立之各級學校及其擔任教學之人，為學校授課需要，在合理範圍內，得重製他人已公開發表之著作%E3%80%82%20Ⅱ.%20第44條但書規定，於前項情形準用之%E3%80%82」

五、學生對AI依賴與批判性思考弱化

• 風險：學生過度依賴AI，弱化個人思考、判斷、行動、批判能力。

• 現場教學或實作建議：

• 學生基本能力與AI運用問題，可以參考下方連結：

https://sites.google.com/view/khfasteasy/ai工具與自主學習/學生基礎能力與ai運用的關聯?authuser=0

• 老師們可以從日常生活中，使用不同的教學活動，加強學生的基本能力與素養，並且與AI使用進行連結。

• 例如：

• POE教學法：預測-觀察-解釋 (Predict-Observe-Explain)，透過預測與觀察的對比，學生需主動驗證AI生成的內容，並且解釋預測與觀察的差異，減少對AI生成內容的過度依賴。

• ORID教學法：客觀事實-感受反應-詮釋意義-做出決定 (Objective-Reflective-Interpretive-Decisional)，有助於學生跳脫AI提供的生成資訊，引導學生從感受、反應，多方面思考看待問題，培養批判性思維與同理心，並轉化爲實際行動與決策能力，補足缺乏實際經驗與行動力的不足。

• CER教學法：主張-證據-推理 (Claim-Evidence-Reasoning)，訓練學生辨識資訊的真偽、篩選有效證據，並邏輯性地建立自己的看法或觀點，提升批判驗證能力及深度思考，避免盲目接受AI給出的答案。

Ps.左圖為國小學生，擬定自主學習探究問題後，與教師討論策略，用教育部5W原則篩選資料可信的來源，依據問題找出兩篇文章閱讀、歸納、總結，進行CER辯證的實際參考案例，有這樣基本能力與素養的孩子，使用AI工具的時候，能夠發揮出更大的學習效益。

六、學生產出的不當或危險內容

• 風險：學生可能透過AI生接觸，甚至是生成不當的內容，如暴力、歧視或危險資訊，甚至不小心發佈到網路上。

• 建議：

• 建議老師能明確界定學生在課堂上，可以使用的AI工具範圍，以及使用的用途。

• 設定控管機制，如iPad用課堂app查看學生使用狀況、查詢學生機使用的數據紀錄等。

• 如果13歲以下學生，在課程中需使用到生成式AI，建議使用數位教學指引3.0中提到，專門為教育目的設計的生成式AI工具。

• 老師可以跟13歲以下學生溝通，了解學生的意思後，代為跟生成式AI溝通，讓學生觀察正確的使用典範，並達到教學效果。

• 如果是非生成式AI工具，教師也要教導學生，正確使用AI的方式及用途，避免學生使用或產出不當的結果。

Ps.左圖圖例解說（模擬情境生成非真實案例）：

這是用免登入模式的網頁版ChatGPT，也就是一般學生打開網頁，就能夠用的版本。

即使教育部數位教學指引3.0以及GPT官方，都不建議13歲以下學生獨自使用，但是打開網路就能使用，有賴老師給予行為上的規範。

學生將自己的困擾輸入後，GPT提供了解決方式。

但是學生如果要求要GPT生成「想要罵回去」、「要直接一點的」的內容，我們可以看到GPT的回應中，雖然有勸說學生用比較好的溝通方式，但仍然提供比較激烈的回應方式

甚至是學生說了「上課以後裝一下水，就被罰站很久，還有其他同學沒回來，又不是只有我」之後，GPT提供了更強烈的回應方式，但是並沒有考慮到，裝水應該是學生下課就該完成的事情。

如果學生以此為抒發情緒，很可能不會意識到自己已經沒有盡到學生的義務了，甚至還會做出激烈的回應，這樣對師生都可能會帶來傷害。

七、AI使用記錄與數位足跡保護

• 風險：

• 學生使用AI工具產生的數位足跡，可能被紀錄或第三方蒐集與分析，或是被有心的同學利用，影響學生未來隱私與個資安全。

• 建議：

• 教師應幫助學生建立數位足跡保護觀念，例如：

• 不要隨意上傳或轉發自己或他人的個人資訊、文字資訊、錄音、照片、影片給AI工具

• 謹慎使用可能有追蹤功能的工具與平台

• 定期清除使用、瀏覽記錄

• 使用公用資訊設備，注意帳號是否登出