正規化(Normalization)

★深層学習に用いる正規化の方法

（大きく「標準化」と「白色化」に分けられる）

• バッチ正規化(BN)

• 主成分分析（PCA）

• 特異値分解（SVD）

• ゼロ位相成分分析（ZCA）

• 局所的応答正規化（LRN）

• 大域コントラスト正規化（GCN）

• 局所コントラスト正規化（LCN）

★Batch Normalization

Normalizing the input or output of the activation functions in a hidden layer.

- Make neural networks more stable by protecting against outlier weights.

- Enable higher learning rates.

- Reduce overfitting.