◼ 시간 : 09:30 - 10:30

◼ 제목 : 생성형 AI와 보안

◼ 연사 :  이재구 (국민대학교)

◼ 강의 개요 :  chatGPT, Deffusion 등의 최근 다양한 분야에서 대두되고 있는 생성형 AI에 대한 기본적인 소개와 현재 연구개발 진행 상황 및 한계점, 나아가 보안 분야 관점에서     어떻게 대응하면 좋을지 함께 생각해보고자 합니다.

◼ Bio :  

- 국민대학교 소프트웨어/인공지능 (2018~)

- SK텔레콤 DATA 기술원 (2018)

- LG전자 CTO 부문 SW 선행연구개발

- 서울대학교 전기컴퓨터공학 박사

◼ 시간 : 10:40 - 11:20

◼ 제목 : Graph Neural Network 기반 침해공격 분석 및 해석

◼ 연사 : 이태진 (호서대학교)

◼ 강의 개요 : AI는 보안분야를 비롯하여 전산업분야에 널리 사용되고 있다. 보안분야에서는 악성코드, 보안관제, 네트워크 보안, 취약점 분석 등에 여러 연구가 진행되었는데, 분석재료가 되는 데이터는 tabular, sequence 보다는 상호작용을 가지고 있는 graph 형태가 더 적합할때가 많다. 본 강의에서는 Graph Neural Network 기반의 분석방법과 EDR/XDR, Network, Threat Intelligence 등에서의 적용사례들을 알아보고, 그러한 AI판단에 대한 XAI 해석을 제시하고자 한다.

◼ Bio : 

- 호서대학교 부교수(2017~현재)

- KISA R&D 팀장(2003~2017)

- 호서대 AISW중심대학사업 산학교육본부장

- 한국정보보호학회 이사

- TTA PG503 의장

◼ 시간 : 11:20 - 12:00

◼ 제목 : 금융분야 AI 보안 가이드라인

◼ 연사 : 송은지

◼ 강의 개요 : 본 강좌에서는 금융분야 AI 보안 가이드라인의 발간 배경 및 주요 내용을 살펴보고, 이를 통해 금융분야 AI 도입 시 보안 고려사항에 대한 이해를 돕는다. 또한, 본 강좌에서는 AI 시스템 대상 적대적 공격 유형과 전통적인 보안대책과의 차이점을 살펴본다.

◼ Bio : 

- (2015 ~ 현재) 금융보안원

- (2009 ~ 2015) 금융결제원

- KAIST 학사(2009), UCSD 석사(2023)

◼ 시간 : 13:00 - 14:30

◼ 제목 : 거대언어 모델과 보안: ChatGPT에서 LLM까지

◼ 연사 : 고우영(국가보안기술연구소)

◼ 강의 개요 : 거대언어모델은 최근 다양한 분야에서 큰 주목을 받고 있습니다. 특히 OpenAI의 ChatGPT는 자연어 이해와 생성 능력에서 높은 수준의 성능을 보여주고 있습니다. 그러나 거대언어모델은 한계, 악용, 보안과 같은 어두운 면도 많습니다. 본 강의에서는 거대언어모델과 보안에 대해 알아봅니다. 우선 거대언어모델이 무엇인지, 어떻게 사용하는지, 어떤 효과가 있는지, 학습 및 구축하는 방법 등 거대언어모델에 대해 깊게 파헤쳐 봅니다. 그리고 거대언어모델이 보안에 미치는 영향에 대해 거대언어모델 악용 사례, 탐지, 보안에 대해 다룹니다.

◼ Bio : 

- (2017~현재) 국가보안기술연구소 선임연구원

- (2015~2017) 국방과학연구소 연구원

◼ 시간 : 14:40 - 15:20

◼ 제목 : 최신 생성모델 기반의 프라이버시 보호 기술

◼ 연사 : 배호 (이화여자대학교)

◼ 강의 개요 : 초거대 인공지능 기술 활용 경쟁이 심화하는 가운데, 차등정보보호 기술 기반의 프라이버시 보호 기술은 데이터를 보호하고 조직.기업 간 데이터를 공유하지 못하는 사일로 현상을 효과적으로 해소할 수 있는 기술이다. 글로벌 빅테크 기업들도 해당 기술 고도화에 힘쓰고 있다. 본 강좌에서는 차등정보보호 기술 기반의 최신 생성모델 기반의 프라이버시 보호 기술을 소개한다.

◼ Bio : 

- (2021~현재) 이화여자대학교 교수

- (2012~2016) SAP Labs Korea 연구원

- (2010~2012) 시큐아이 연구원

- 서울대학교 공학박사

◼ 시간 : 15:20 - 16:00

◼ 제목 : Explainable AI: Foundations and Applications

◼ 연사 : 김진규 (고려대학교)

◼ 강의 개요 : 설명 가능한 AI(XAI, Explainable Artificial Intelligent)는 기존 딥러닝 기반 모델의 결과 도출 과정을 사용자가 이해할 수 있는 방법을 통해 설명해줄 수 있는 방법론이며, 최근 발전하고 있는 AI모델을 해석하고, 이를 통해 AI알고리즘의 신뢰성을 높이기 위한 방법으로 학계와 산업계에서 다양한 관심을 받고 있다. 본 강연에서는 학계와 산업계에서 제안된 설명 가능한 AI모델이 어떻게 동작하며, 그 효과 및 영향에 대해서 살펴볼 예정이다.

◼ Bio : 

- (2021 ~ 현재) 고려대학교 컴퓨터학과 조교수

- (2020 ~ 2021) 미국 Waymo LLC Research Scientist

- (2010 ~ 2014) LG Display 연구소 주임연구원

- UC Berkeley Computer Science 박사

◼ 시간 : 16:10 - 16:50

◼ 제목 : 자동화된 보안관제를 위한 AI/ML 학습데이터 및 탐지모델 구축 사례

◼ 연사 : 이준 (한국과학기술정보연구원)

◼ 강의 개요 : AI기술은 보안 전분야에서 활발히 도입되고 있습니다. 특히 보안관제센터(SOC)에서는 보안관제원 중심의 수동 관제체계에서, 많은 양으로 늘어난 트래픽과 위협행위의 효율적인 처리 및 탐지를 위하여 AI 기술을 활용한 자동화 관제체계로의 변화를 꾀하고 있습니다. 본 강의에서는 과학기술정보통신부 산하기관의 실시간 보안관제를 담당하고 있는 KISTI 과학기술사이버안전센터에서 활용중인 AI 기술 개발사례에 대하여 살펴봅니다. 구체적으로 IDS로부터 데이터를 수집·분석하여 데이터셋을 구축하는 방법과 이를 활용한 탐지모델의 구축 및 성능향상에 대한 일련의 과정을 소개합니다.

◼ Bio : 

- (2017~2019) 일본산업기술종합연구소 인공지능연구센터 박사후연구원

- (2019~현재) KISTI 과학기술보안연구센터 융합보안연구팀장