Next-generation Computing Systems Laboratory

"CXL 인터페이스 기반의 다중 GPU 환경을 위한,
확장가능한 Near-Far 메모리 아키텍처" 연구

Large Language Model (LLM)을 넘어서, Artificial General Intelligence (AGI) 시대에 다가감에 따라, Deep Learning 모델들의 학습과 추론을 위해서 막대한 규모의 GPU 자원 활용이 중요하다.

본 연구는 다중 GPU 환경에서의 메모리 병목 현상을 해소하기 위해,

(1) 차세대 비휘발성 메모리 소자 (eNVM) 및 스토리지급 메모리 (Stoage Class Memory; SCM) 기반의 Far Memory와

(2) 높은 대역폭 및 낮은 지연시간을 가지는 HBM 기반의 Near Memory 시스템으로 구성된 Near-Far Memory Architecture를 설계하고자 한다.

이를 통해, 확장 가능한 Near-Far 메모리 구조를 Multi-GPU 환경에 적용하여 LLM 구동 및 Heterogeneous Computing 환경에서의 시스템 성능을 대폭 향상하는 것을 목표로 한다.

[관련 연구 프로젝트]

• A Smart Near-Far Memory Architecture for Data-intensive Workloads

  • Yonsei-Samsung Joint Research Program, Samsung Electronics (2021 - Present)

  • PI: Prof. Bernd Burgstaller, Yonsei (공동 연구 수행 中)

"xPU 및 다중 계층 메모리 시스템 기반의 초고성능 이종컴퓨팅 시스템 구축" 연구

본 연구는 xPU (CPU, GPU, NPU, DPU, QPU, NDPU ...) 및 다중 계층 메모리 (Near-Far Memory & Pooled Memory with CXL) 기반의 이종 컴퓨팅 구조 설계, 관리 기법 및 프로그래밍 모델 수립 등 다양한 관점에서의 초고성능 이종컴퓨팅 시스템 구축과 관련된 연구를 수행하고자 한다.

이를 통해, 연산, 메모리, NoC 등 다양한 측면에서의 병목 현상을 해소하여, 다양한 분야의 응용프로그램들을 원활히 수행할 수 있는 궁극의 HPC 시스템의 달성을 목표로 한다.

[관련 연구 프로젝트]

• 지역지능화 혁신인재양성사업 (GrandICT/ITRC), IITP (2022 ~ 2029)

  • ICT융합연구센터 (Lead-PI: 김지현 교수님): [Link]

  • 공동연구: 경북대학교 컴퓨터학부 남덕윤 교수님 (세부과제 PI @HPC lab)

[관련 분야]

• Computer Architecture, Algorithm, Compiler

• Programming Model

• Processing-in-Memory, Neural Processing Unit

"신뢰성 및 확장성이 보장된 양자 컴퓨팅 기법" 연구

IBM의 Quantum Processor가 1000-qubit을 넘어서는 수준에 이른 지금, 양자컴퓨팅 영역에서의 가장 중요한 화두는 더 많은 큐비트의 확장이 아닌, 주어진 qubit를 제대로 활용하여 올바른 결과를 얻을 수 있는 가에 있다.

본 연구에서는 기존 NISQ Quantum Computer의 취약점을 보완하여, 확장가능하면서도 신뢰성이 높은 양자컴퓨팅 기술에 관한 기법을 고안하고자 한다.

[관련 연구 프로젝트]

• TBA

[관련 활동]

• 2024 IBM Quantum Leadership Training Program: 임정훈 학생 수료!

[관련 분야]

• Computer Architecture, Quantum Computing (NISQ)

• Quantum Algorithm, Compiler