김예찬 (yechankim@gm.gist.ac.kr)

과학기술정보통신부, GIST

• 머신러닝 모델을 학습하기 위해서는 많은 양의 supervised data가 필요하며, 따라서 이러한 supervised data를 모으기 위해서는 매우 높은 annotation비용이 발생함 

• Annotation이 없는 데이터를 활용한 학습 방법을 연구하기 위한 unsupervised 학습 방식이 세계적으로 경쟁적으로 연구되고 있으며, 그 중에서도 self-supervised learning은 unsupervised 학습 방식의 효율성으로 인해 많이 연구되고 있음 

• 그러나 기존에 개발된 contrastive learning 등 self-supervised 학습 방법들은 image, video나 language 등에만 적용되어 왔으며, 기존에 연구된 방법들은 다른 모달리티(예, RF 신호)에서 적용했을 경우 성능이 크게 저하되는 문제가 있어, 널리 사용하기 어려움

• 게다가 성공적인 self-supervised 학습 모델들은 크기가 커서 작은 장치에 탑재하여 AI를 널리 deploy하기 어렵다는 문제가 있으며, 이를 해결하기 위해 모델을 경량화 하는 연구들도 진행되고 있으나, self-supervised 학습을 위한 경량화 방법은 거의 연구되지 않은 상황임

• 새로운 모달리티로의 일반화와 경량 모델에서의 self-supervised 학습 방법은 기술적으로 매우 도전적인 주제로 아직까지 세계적으로 성공 사례가 없는 원천기술임

Contrastive Learning 기반 비지도 학습을 multi-modal 및 resource-limited device로 확장할 수 있는 알고리즘 연구

1. Multi-modal self-supervised learning 방법 연구 

2. Resource efficient self-supervised learning 방법 연구

3. Multi-modal resource efficient self-supervised learning 방법 연구

GIST-MIT 공동연구

1. 새로운 modality로 적용한 self-supervised learning framework을 개발

2. Unsupervised 학습 방법의 적용 범위를 크게 넓히는 원천 기술 확보

3. AI의 적용 범위를 크게 넓혀서 기술의 보급을 확대하고 산업 전반에 AI의 적용 진입 장벽을 낮추어 AI의 민주화(democratize)에 기여