傳統的 Von Neumann 架構在大量資料運算時,需要不斷將資料在處理器與記憶體之間搬移,造成效能瓶頸並消耗大量能源。隨著 人工智慧時代的來臨,這種「資料搬移」問題更成為系統效能的主要限制。
本實驗室積極投入 記憶體內運算(Compute-in-Memory, CIM) 架構的研究,這是一種在記憶體中直接進行運算的新興技術,可有效減少資料搬移並大幅提升能源效率。我們的貢獻涵蓋多個面向:在 設計自動化工具(EDA)方面,開發了Device-NN model協同模擬框架、系統層級效能/功耗模型、模型映射演算法,以及 CIM–神經網路協同最佳化方法;在 架構設計方面,提出了能有效利用細粒度稀疏性的新型 CIM 運算引擎。