以聯邦學習實現大語言模型間知識共享
在異質數據環境中實現大語言模型(Large Larguage Models, LLMs) 間的聯邦學習(Federated Learning, FL)。
通過在FL LLM Client上進行模型LoRA(Low-Rank Adaptation)微調，FL LLM Client將LoRA參數上傳到FL伺服器上進行融合，取代以往直接上傳資料集原始數據資料，保護了用戶數據隱私．
異質資料集具有完全不同的特徵(Features)項目、數量與知識種類，本實驗室提出之異質FL架構藉由知識共享能有效提升LLM全局模型的辨識能力，能有效的達成知識分享。
聯邦學習下對抗式攻擊之偵測與防禦
隨著人工智慧的發展，其安全性也成為了一個重要的問題。對抗式攻擊依目標可分為針對性攻擊（將輸出篡改為特定內容）與無針對性攻擊（僅誘導模型出錯）．尤其在大語言模型下，攻擊者也可以通過精心構造的提示詞，模型執行其原本不應執行的操作．
聯邦學習(Federated Learning, FL)通過在本地設備上進行模型訓練，然後將更新後的模型參數匯總到中央伺服器上，雖能保護用戶數據的隱私，但對於生成對抗式攻擊，FL缺乏有效的偵測與防禦機制．
本實驗室提出針對生成對抗式攻擊之偵測演算法，在不影響聯邦學習效率且不額外訓練入侵偵測模型的前提下，能有效的偵測與防禦生成對抗式攻擊．
以異質聯邦深度學習應用於工業物聯網之入侵偵測系統
適用於工業物聯網(Industrial Internet of Things, IIoT)環境中，其中可能包括來自不同設備、傳感器或系統的數據 ，建構成全異質之數據環境。
聯邦學習(Federated Learning, FL)通過在本地設備上進行模型訓練，然後將更新後的模型參數匯總到中央伺服器上，從而保護了用戶數據的隱私．
實驗室提出之架構能提升在分佈式數據上的深度學習模型性能。由於這些工業物聯網資料集具有完全不同的特徵(Features)項目、數量與入侵攻擊樣本 。
能有效提升全局模型的辨識能力，無需使用GAN等技術，能有效的達成知識分享。
透過提前停止(Early Stop)的機制，當全局模型的準確率達到設定的目標便提前停止訓練，以減少訓練時間以及資源消耗。