這邊我會跟著大家說明我是如何進入聯邦學習
我會進入聯邦學習領域,主要是我學習分散式架構的時候,發現這是一個還不錯的領域很有趣的,同時未來5G世代在IOT也會有重大的相關發展,現在跳入正式一個不錯的時間點。
P1 為技術方法簡介,P2 則為技術實際演練
Federated Learning is privacy-preserving model training in heterogeneous, distributed networks(Decenter).
聯邦學習(Federate Learning)為一種新興的機器學習架構。
統計問題以及資料隱匿性,傳輸效能,三個部分是目前Federate Learning 研究的方向。
而本文會對其的前世今身以及未來展望去做說明。
因為3c時代divice的效能越來越強大,可以提供很個人的計算或是推薦,所以科學家就做了許多實驗。
Privacy ML + 去中心化+分散式系統 =>>> 聯邦學習就產生
聯邦學習分成三種
縱向:用戶資料多
橫向:類別資料多
遷移 (類似oneshotlearning )
運用
資料隱匿性: 私人用戶資料該如何訓練模型並且上傳雲端
統計: Local device 大大提高了模型更個人化
傳輸效能:目前現有的架構就會
統計類別問題
非常態分布資料(NoneIID):不同的設備的效能不一樣,所以每個設備獲取的資料量也會不一樣(ex i6 跟i13每秒能處理的數據量不一樣,所以拿到的數據當然會有差別嘍)
不同樣的模型如何可以提高ACC
傳輸問題
資料或是模型過於巨大連帶會造成,傳輸效率下降
資料隱匿性
測漏問題:我們該如何去知道資料的是具有秘密的
加密問題Hash():如何去加密
模型應用
這邊就很廣了CV,NLP,RecSYS ,Hardware ... 還有好多可以等待我們去慢慢發覺。
未來會想要深入在統計類以及模型部分以及應用,下一篇我將會講解FED最時常會使用到的演算法 Avg方法。