國立臺灣師範大學資訊工程學系學士班 李沛儒
聯絡方式📫:0965182980mic@gmail.com
國高中學生:具有對人工智慧領域的高度興趣,具有動手實作能力,想要實際體驗的學生
人工智慧初學者:對人工智慧感到好奇,想要動手修改的人
本節課在引導學生認識並實際操作免費且開源的本地 AI 助手平台 Ollama,讓學生在保障隱私的同時,了解 AI 模型如何在電腦中完全離線運作。從安裝 Ollama 與 Docker 開始,學生將學會如何透過圖形化介面 OpenWebUI 操作大型語言模型,並透過簡單的指令與介面設定,與模型進行互動、提問,並讓模型依照著我們的設定行動。在進一步的操作中,學生將探索要如何建立自訂的 AI 助手、應用提示詞,以及如何上傳文件讓模型閱讀並回答問題。課程中引導學生思考:「是否每次查資料都要從頭讀取?」進而導入微調(fine-tuning)的概念。學生將初步接觸模型微調流程,使用特定資料集建立自有模型,並匯入至 OpenWebUI 與其互動。透過這些活動,學生不僅能實際應用生成式 AI 工具,更能思考模型如何被客製化以解決真實問題,建立未來進階應用的基礎。
架設與使用免費開源的 AI 助手平台(Ollama + OpenWebUI)
管理本地的大型語言模型(以 LLaMA3 為例)
建立與自訂 AI 助手(Workspace 與提示詞應用)
上傳文件並讓模型進行知識檢索與理解
體驗模型「微調」技術(Fine-tuning),學習如何打造專屬的 AI 助手
Colab: https://colab.research.google.com/drive/1LA4uzuWAyJMlCU79FK5YSCB-COT_vY7_?usp=sharing
Ollama: https://ollama.com/
Docker: https://www.docker.com/
Open WebUI: https://docs.openwebui.com/
Unsloth: https://unsloth.ai/
影片內容參考: 離線不怕隱私外洩!免費開源 AI 助手 Ollama 從安裝到微調,一支影片通通搞定! (PAPAYA 電腦教室)