利用APS (Activation Path Similarity) 提升用於大語言模型的 LoRA Adapter DPA (Data Poisoning Attack) 偵測
無須使用線上或本地大語言模型進行DPA偵測．
大幅降低偵測受到 BadNet Sleeper, VPI (Visible Poisoning Injection) 等 DPA 的偵測時間．
提升受到 BadNet Sleeper, VPI 等 DPA 的偵測精確度．
所提出的APS可應用於本地 LoRA Fine-tuning、QLoRA或是Fed LLM (Federated Large Larguage Models)
以聯邦學習實現大語言模型間知識共享
在異質數據環境中實現大語言模型(Large Larguage Models, LLMs) 間的聯邦學習(Federated Learning, FL)。
通過在FL LLM Client上進行模型LoRA(Low-Rank Adaptation)微調，FL LLM Client將LoRA參數上傳到FL伺服器上進行融合，取代以往直接上傳資料集原始數據資料，保護了用戶數據隱私．
有效提升大語言模型(Large Language Models)在 Dense 與MoE 的資源利用效率，Dense LLM可在近於原模型的運算效率下約降低15%的vRAM需求，而MoE LLM可在近於原模型的運算效率下約降低75%的vRAM需求．
聯邦學習下對抗式攻擊之偵測與防禦
隨著人工智慧的發展，其安全性也成為了一個重要的問題。對抗式攻擊依目標可分為針對性攻擊（將輸出篡改為特定內容）與無針對性攻擊（僅誘導模型出錯）．尤其在大語言模型下，攻擊者也可以通過精心構造的提示詞，模型執行其原本不應執行的操作．
聯邦學習(Federated Learning, FL)通過在本地設備上進行模型訓練，然後將更新後的模型參數匯總到中央伺服器上，雖能保護用戶數據的隱私，但對於生成對抗式攻擊，FL缺乏有效的偵測與防禦機制．
本實驗室提出針對生成對抗式攻擊之偵測演算法，在不影響聯邦學習效率且不額外訓練入侵偵測模型的前提下，能有效的偵測與防禦生成對抗式攻擊．
以異質聯邦深度學習應用於工業物聯網之入侵偵測系統
適用於工業物聯網(Industrial Internet of Things, IIoT)環境中，其中可能包括來自不同設備、傳感器或系統的數據 ，建構成全異質之數據環境。
聯邦學習(Federated Learning, FL)通過在本地設備上進行模型訓練，然後將更新後的模型參數匯總到中央伺服器上，從而保護了用戶數據的隱私．
實驗室提出之架構能提升在分佈式數據上的深度學習模型性能。由於這些工業物聯網資料集具有完全不同的特徵(Features)項目、數量與入侵攻擊樣本 。
能有效提升全局模型的辨識能力，無需使用GAN等技術，能有效的達成知識分享。
透過提前停止(Early Stop)的機制，當全局模型的準確率達到設定的目標便提前停止訓練，以減少訓練時間以及資源消耗。