Deep Learning II

1. 교재

밑바닥부터 시작하는 딥러닝 (6장부터)

(저자 : 사이토 고키, 번역 : 개앞맵시,  출판사 : 한빛미디어)


2. 필수 링크

밑바닥부터 시작하는 딥러닝 코드

아나콘다

점프 투 파이썬


3. 강의

 1강. optimizer: SGD

 2강. optimizer: Momentum, NAG

 3강. optimizer: AdaGrad, RMSProp

 4강. optimizer: Adam

 5강. 옵티마이저 벤치마크

 6강. Xavier/He 초기값

 7강. 배치 정규화

 8강. 과적합

 9강. 심층신경망 구현

 10강. 하이퍼파라미터 튜닝

 11강. 텐서

 12강. 행렬의 합성곱

 13강. 텐서의 합성곱

 14강. max pooling

 15강. im2col

 16강. 합성곱층 역전파

 17강. max pooling층 역전파

 18강. 합성곱 신경망 구현

 

4. 추천 글

 BEOMSU KIM'S BLOG: Gradient Descent Optimization Algorithms 정리

 야사와 만화로 배우는 인공지능: 학습 못지않게 타고난 바도 중요하다 - 딥러닝 초기화

 야사와 만화로 배우는 인공지능: 딥러닝 - 압도적 무공을 보여주다, 알렉스넷

 madrabbit7: 정의를 따라 구현한 합성곱과 im2col로 구현한 합성곱의 속도 비교


5. 추천 영상

 스탠포드 딥러닝 강의: Training Neural Networks I

 스탠포드 딥러닝 강의: Training Neural Networks II

 합성곱과 im2col  애니메이션

 Intuitive ML: How Convolutional Neural Networks work

 Intuitive ML: What is Pooling?

 카오스 사이언스: 컴퓨터 비전과 딥러닝의 현재와 미래 | 한보형

 이오: 암, 인공지능이 바꿀 새로운 미래

 TED: How computers learn to recognize objects instantly | Joseph Redmon


6. 강의 자료

7. 연습