Deep Learning III

0. 기말고사 일정

12월 12일(목) 2:30~4:20 / 314호 (3학년), 311호(4학년)

시험범위 : 7강 순환신경망과 언어모델 ~ 13강 seq2seq

150점 만점

1. 교재

밑바닥부터 시작하는 딥러닝 2

(저자 : 사이토 고키, 번역 : 개앞맵시,  출판사 : 한빛미디어)

2. 필수 링크

밑바닥부터 시작하는 딥러닝 2 코드

아나콘다

점프 투 파이썬

3. 강의

1강. 시소러스와 동시발생행렬

2강. 동시발생행렬 개선 (정보이론과 SVD)

3강. word2vec 프로토타입

4강. embedding층과 embedding dot층

5강. sigmoid with loss층과 negative sampling

6강. king - man + woman = queen

7강. 순환신경망과 언어모델

8강. RNN층의 시간에 대한 역전파

9강. RNN 언어모델의 구현과 학습

10강. LSTM

11강. RNN 언어모델의 개선 (LSTM, multi-layer, dropout, weight tying)

12강. 문장 생성

13강. seq2seq (기계번역과 챗봇의 원리)

4. 추천글

쉽게 씌어진 word2vec

딥러닝에 시간을 더하다, 유르겐 슈미트후버 I

딥러닝에 시간을 더하다, 유르겐 슈미트후버 II

5. 추천 영상

민선: 딥러닝이 자연어처리에 가장 효과적인 이유

MIT 딥러닝 강의: Recurrent Neural Networks

남주한: 음악 인공지능의 현재와 미래 

우정잉: AI랑 키배

우정잉: 튜링 테스트

옥냥이: 보컬 AI

안될과학 랩미팅 (남세동) 1

안될과학 랩미팅 (남세동) 2

안될과학 랩미팅 (남세동) 3

6. 강의 자료