35 本地端LLM

(2025/08/03)

一、使用API Key

• 如果電腦硬體不好，可以使用各大AI模型提供的API Key

• 電腦安裝軟體：Chatbox AI   https://chatboxai.app/zh-TW 

• 免費的API Key

  • 使用Gemini的免費API Key：https://aistudio.google.com/ 

  • 如下圖，免費取得API KEY AIzaSyD6rooDx7yJFftPnWa35qUplA7vW5rsvyc

• 進入Chatbox AI

  • 先到【設定】加入【模型提供方】

• • 再到【我的搭檔】

    • 如：您是精通物理學、哲學的愛因斯坦，以下對話請都用愛因斯坦的思維方式和講話的語氣，所有對話使用繁體中文，如果涉及艱深的專業術語，請中英文並存並且舉例說明

• • 開始【提問】

    • 請用國小生可以理解的文字來介紹相對論

• chatGPT的API Key (付費)

  • 使用chatGPT的付費API Key：https://platform.openai.com/api-keys 

二、下載模型來使用

• 如果電腦硬體好一點，可以下載各大AI模型來使用

  • 電腦安裝軟體：LM Studio   https://lmstudio.ai/ 

  • 先使用gemma 3 4B模型

• 開始使用 

• GPTS，無限數量

• 啟動伺服器

  • 伺服器端

• • client端

    • Chatbox AI