Large-Scale Federated Learning on Heterogeneous Systems

(이종 시스템 기반 대형 연합 학습)

• 휴대폰과 같은 엣지 디바이스들로 구성된 현실적인 분산 학습 환경에서 효과적으로 사용할 수 있는 연합 학습 알고리즘 연구.

• 수치최적화 효율성과 하드웨어 자원 효율성을 동시에 고려한 실용적인 분산 학습법 연구.

• 부분 모델 훈련, 자동 모델 동기화 주기조절 등과 같은 새로운 방법론을 제시.

• We tackle large-scale federated learning problems considering realistic distributed and heterogeneous learning environments such as a variety of mobile phones.

• Our research aims to design distributed learning strategies that jointly consider numerical optimization efficiency and hardware resource utilization.

• We break a convention of homogeneous local models across clients and pursue novel and promising solutions such as partial model training for federated learning.

System-Aware Distributed Optimization Algorithms for Efficient Deep Learning

(효율적인 딥러닝을 위한 시스템-인지 분산 최적화)

• 대량의 정보를 효율적으로 분석하기 위한 인공신경망 병렬 훈련 알고리즘 연구.

• 특히,  인공신경망 병렬 훈련 시 프로세스 사이의 통신 비용을 최소화할 수 있는 다양한 알고리즘 연구 및 개발.

• 인공신경망이 가지는 다양한 내부 데이터를 분석하고, 그 특성을 기반으로 효과적인 병렬 훈련법 디자인.

• We study parallel neural network training algorithms for large-scale data analysis.

• Especially, we focus on how to reduce the communication cost in data-parallel training.

• Our research aims to better understand the internal mechanisms of neural networks and design efficient distributed learning strategies based on such understandings.

Applied Machine Learning / Deep Learning for Electronic Materials Design and Analysis

(머신러닝 기반 반도체 및 전자소재 분석)

• 다양한 반도체 소자들을 분석 및 디자인하는데 사용될 수 있는 머신러닝 / 딥러닝 기술을 개발.

• 타분야(물리, 재료과학 등) 연구자들과의 협동연구를 통해 머신러닝 알고리즘을 실제 과학 응용분야 문제에 적용하여 데이터를 분석하고 새로운 insight을 도출.

• We develop machine learning / deep learning solutions for analyzing and designing new complex oxide heterostructures.

• By collaborating with domain scientists such as Physicists and Material Scientists, we develop machine learning software solutions to critical domain problems and extract insights from scientific big data.