Redes neurais e deep learning

HW 1 - Artigo Deep Learning

• Data entrega 09/03

• Ler o artigo Deep Learning, da Nature https://www.nature.com/articles/nature14539

• Fazer um resumo com no máximo 300 palavras

• Enviar por email

HW 2 - Artigo Review/Survey da área de interesse

• Data entrega 10/03

• Procurar um artigo do tipo review ou survey que aplicações de machine learning / pattern recognition / deep learning na área de pesquisa de vcs.

• Apresentar na próxima aula o artigo achado, destacando os pontos mais interessantes (+-7min)

• Dica: usar o Mendeley ou Google Scholar para melhores resultados

HW 3 - Artigo Boas práticas em ML

• Data entrega 17/03

• Ler o artigo de boas práticas em ML 

• Fazer um resumo com no máximo 300 palavras

• Enviar por email

HW 4 - Simulação perceptron

• Data entrega 23/03

• Com base na aula L03, simule o funcionamento de um perceptron com as seguintes entradas (simular até o loss da época ser zero):

x1 x2 Class

0 1 0

2 0 0

1 1 1

2 1 1

• Os pesos iniciais devem ser w0=-1.5, w1=0 e w2=2

• Desenhe um scaterplot dos pontos (exemplo slide 26/27)

• Calcule e desenhe sobre o scaterplot a reta de decisão (hiperplano) obtida (exemplo no slide 32)

• A nota 10 está reservada a aqueles que conseguirem chegar no resultado correto

• Vc pode fazer tudo no papel, fotografar resolução e enviar as imagens por email

HW 5 - Simulação regressão logística

• Data entrega 07/04

• Repita o HW4, simulando o funcionamento de um classificador do tipo regressão logistica. com as seguintes entradas:

x1 x2 Class

0 1 0

2 0 0

1 1 1

2 1 1

• A regressão logistica é, basicamente, um perceptron com função de ativação logistica, a atualização dos pesos é feita via gradiente descendente, algo muito parecido com perceptron, porém agora os erros não são mais binários.

• Simule 4 épocas, apresentando em cada uma delas o loss acumulado (soma das 4 amostras) e a acurácia final (quantidade de acertos)

• Os pesos iniciais devem ser w0=-1.5, w1=0 e w2=2 

• Considera a taxa de aprendizado de 0.5

• Desenhe um scaterplot dos pontos (exemplo slide 26/27)

• Calcule e desenhe sobre o scaterplot a reta de decisão (hiperplano) obtida (exemplo no slide 32)

• A nota 10 está reservada a aqueles que conseguirem chegar no resultado correto

• Vc pode fazer tudo no papel, fotografar resolução e enviar as imagens por email

HW6 - Modelo Deep Learning

• Data entrega 11/05

• Utilizar a base de dados CIFAR100 e ambiente google Colab

• Criar uma rede convolucional. Vc deve definir o número de camadas, filtros e kernel, como vc quiser. Inspire-se nos modelos LeNet, AlexNet, VGG e outras vistos em sala. Utilize como exemplo os códigos keras que estão na pasta L13 do github

• Treinar a rede na base de treino

• Testar a rede na base de teste

• Medir acurácia

• Compartilhar o código para avaliação

HW7 - Modelo Deep Learning 2

• Data entrega 11/05

• Utilizar a base de dados CIFAR100 e ambiente google Colab

• Com base no HW6, adicionar melhorias na rede, tais como, 

  • Dropout, Pooling, GlobalPooling, Skipconnections (Resnet), Towers (Inseption), Convoluções 1x1

• Treinar a rede na base de treino

• Testar a rede na base de teste (espera-se resultado melhor que o HW6)

• Medir acurácia

• Compartilhar o código para avaliação

HW8 - Transfer Learning

• Data entrega 18/05

• Criar uma rede convolucional, usando dessa vez um modelo pré-treinado com transferlearning

• Re-treine as duas aultimas camadas da rede 

• Qual rede e qual conjunto de pesos vc irá usar é de escolhla livre

• Testar a rede na base de teste (espera-se resultado melhor que o HW7)

• Medir acurácia

• Compartilhar o código para avaliação