CH10 大語言模型應用程式安全實務：提示注入攻擊和防禦手法

前言

10.1 大型語言模型演進與技術革新

10.1.1 大型語言模型應用程式發展生命週期（LLMOps）

10.1.2 大型語言模型安全威脅概述

10.2 提示注入攻擊：潛藏在大語言模型中的致命漏洞

10.2.1 何謂提示注入

10.2.2 有哪些類型的提示注入

10.2.3 真實案例

10.2.4 如何防範提示注入

10.3 結論

10.3.1 確保大型語言模型安全的關鍵實務

10.3.2 對企業的重要性與未來的戰略佈局

蔡凱翔

趨勢科技資深架構師，專精於大型語言模型應用程式開發與安全實務、雲端架構設計、大型軟體架構設計，以及DevOps實務。他目前主要負責趨勢科技的大語言模型應用程式開發與安全框架。

徐亨

資深軟體工程師，擁有超過5年雲端後端與 SaaS 平台開發經驗，擅長構建穩定、可觀察且具擴展性的系統架構。近來專注於 AI 助手與大型語言模型（LLM）相關應用，具備將生成式 AI 技術落地並整合進實際產品的豐富經驗。目前任職於趨勢科技，開發內容涵蓋 LLM 基礎設施部署、代理式架構設計，到知識圖譜整合等，致力於推動企業資安與 AI 技術創新。