Métodos de otimização numérica clássicos envolvendo o vetor gradiente e a matriz Hessiana. Aprendizagem supervisionada e não-supervisionada. Projeto e treinamento de árvores de decisão através de aprendizagem supervisonada. Arquiteturas de redes neurais clássicas: Perceptron multicamadas, redes com funções de ativação de base radial, redes de Hopfield e Máquinas de Boltzmann. Definição matemática de um aproximador universal de funções. Modelagem de sistemas dinâmicos utilizando redes neurais. Redes neurais rasas e profundas. Implementação do algoritmo da retro-propagação. Funções de ativação Sigmóides, ReLU (Rectified Linear Unit) e Softmax. As principais arquiteturas de redes neurais profundas: redes de convolução e redes de crenças profundas. Introdução à aprendizagem por reforço profunda.
[01] - S. Haykin, Neural networks: a comprehensive foundation. 2nd ed., New Jersey: Prentice-Hall, Inc., 1999.
[02] - I. Goodfellow, Y. Bengio, and A. Courville, Deep learning. Cambridge, MA: MIT Press, 2017.
[03] - J. M. Zurada, Introduction to artificial neural system. West Pub. Co., 1992.