Deep Learning III

0. 중간고사

일시 : 4월 22일(수) 10:30 ~ 12:20

장소 : 504호 (19학번, 21학번), 311호 (그외학번)

시험범위 : 1강 시소러스와 동시발행행렬 ~ 6강 king - man + woman = queen

기출문제, 연습문제와 비슷하게 출제됩니다. 

1. 교재

밑바닥부터 시작하는 딥러닝 2

(저자 : 사이토 고키, 번역 : 개앞맵시,  출판사 : 한빛미디어)

2. 필수 링크

밑바닥부터 시작하는 딥러닝 2 코드

아나콘다

점프 투 파이썬

3. 강의

1강. 시소러스와 동시발생행렬

2강. 동시발생행렬 개선 (정보이론과 SVD)

3강. word2vec 프로토타입

4강. embedding층과 embedding dot층

5강. sigmoid with loss층과 negative sampling

6강. king - man + woman = queen

7강. 순환신경망과 언어모델

8강. RNN층의 시간에 대한 역전파

9강. RNN 언어모델의 구현과 학습

10강. LSTM

11강. RNN 언어모델의 개선 (LSTM, multi-layer, dropout, weight tying)

12강. 문장 생성

13강. seq2seq (기계번역과 챗봇의 원리)

4. 추천글

쉽게 씌어진 word2vec

딥러닝에 시간을 더하다, 유르겐 슈미트후버 I

딥러닝에 시간을 더하다, 유르겐 슈미트후버 II

5. 추천 영상

BlackBoard AI: Cosine similarity explained 

BlackBoard AI: How AI turns words into vectors

MIT 딥러닝 강의: Recurrent Neural Networks

남주한: 음악 인공지능의 현재와 미래 

우정잉: AI랑 키배

우정잉: 튜링 테스트

옥냥이: 보컬 AI

안될과학 랩미팅 (남세동) 1

안될과학 랩미팅 (남세동) 2

안될과학 랩미팅 (남세동) 3

6. 강의 자료