Álgebra Linear II
Universidade Federal do Rio de Janeiro MAE125 Turma 14799 2° período de 2021
Universidade Federal do Rio de Janeiro MAE125 Turma 14799 2° período de 2021
Álgebra Linear é, hoje (exagerando um pouco, talvez), a Matemática que @s engenheir@s usam. Este curso é a sua chance de aprender o básico do assunto
A ideia é seguir o livro Introduction to Applied Linear Algebra, de Stephen Boyd e Lieven Vandenberghe, disponível em livre acesso na internet (minha experiência é: baixem, pois a promoção pode ser por tempo limitado). É um livro escrito por engenheiros para engenheir@s. Pretendo fazer os 13 primeiros capítulos, um por semana (o livro tem 19). Embora o texto tenha uma pegada computacional, vou fazer apenas teoria. Recomendo fortemente, a quem puder, que ponha a mão na programação (que não é difícil).
O material disponível inclui, também, uma playlist no You Tube, com as aulas do próprio Boyd (curso ENGR108 Introduction to Matrix Methods, em Stanford), em 2020 (o curso está sendo dado de novo neste momento, com base no mesmo material). Recomendo que assistam. Para cada capítulo do livro, o Boyd gravou cerca de uma hora de vídeos (alguns maiores, outros menores). Não basta assistir às aulas (às dele e às minhas), é preciso estudar o texto, que apresenta muitos exemplos interessantes.
Na primeira semana darei duas aulas síncronas.
Nas semanas seguintes teremos uma aula síncrona às terças e um teste, a ser entregue até às 17:00 da quinta.
link google meet: https://meet.google.com/mdi-zfdr-egh
Monitoria: Monitor Marcos Oliveira
link do grupo para monitoria
https://chat.whatsapp.com/I8vVR3LL87L70kpRTklnXd
Caso haja necessidade para encontros síncronos, os horários são na parte da manhã, de 8 as 10, segundas e terças.
link do meet de segunda-feira: https://meet.google.com/ueg-zbhs-rky
link do meet de terça-feira:
https://meet.google.com/jdg-mzce-atz
Não tenho condições de coibir fraudes. Se você preferir passar sem aprender, terá os anos pela frente para descobrir que perdeu uma oportunidade que talvez não se apresente de novo. A vida é sua.
A nota final será a média aritmética das 10 melhores notas obtidas nos testes.
Aulas: terças-feiras, das 15:00 às 17:00
link google meet: https://meet.google.com/mdi-zfdr-egh
Monitoria
link do grupo para monitoria: https://chat.whatsapp.com/I8vVR3LL87L70kpRTklnXd
Caso haja necessidade para encontros síncronos com o monitor, os horários são na parte da manhã, de 8 as 10, segundas e terças. Link do meet de segunda-feira: https://meet.google.com/ueg-zbhs-rky. Link do meet de terça-feira: https://meet.google.com/jdg-mzce-atz
Programa do Curso
Parte I: VETORES
Semana 1
1 Vectors 3
1.1 Vectors . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3
1.2 Vector addition . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 11
1.3 Scalar-vector multiplication . . . . . . . . . . . . . . . . . . . . . 15
1.4 Inner product . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 19
1.5 Complexity of vector computations . . . . . . . . . . . . . 22
Exercises . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 25
Semana 2
2 Linear functions 29
2.1 Linear functions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 29
2.2 Taylor approximation . . . . . . . . . . . . . . . . . . . . . . . . . . . 35
2.3 Regression model . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 38
Exercises . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 42
Semana 3
3 Norm and distance 45
3.1 Norm . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 45
3.2 Distance . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 48
3.3 Standard deviation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 52
3.4 Angle . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 56
3.5 Complexity . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 63
Exercises . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 64
Semana 4
4 Clustering 69
4.1 Clustering . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 69
4.2 A clustering objective . . . . . . . . . . . . . . . . . . . . . . . . . . . 72
4.3 The k-means algorithm . . . . . . . . . . . . . . . . . . . . . . . . . . 74
4.4 Examples . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 79
4.5 Applications . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 85
Exercises . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 87
Semana 5
5 Linear independence 89
5.1 Linear dependence . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 89
5.2 Basis . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 91
5.3 Orthonormal vectors . . . . . . . . . . . . . . . . . . . . . . . . . . . . 95
5.4 Gram–Schmidt algorithm . . . . . . . . . . . . . . . . . . . . . . . . 97
Exercises . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 103
Parte II: MATRIZES
Semana 6
6 Matrices 107
6.1 Matrices . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 107
6.2 Zero and identity matrices . . . . . . . . . . . . . . . . . . . . . 113
6.3 Transpose, addition, and norm . . . . . . . . . . . . . . . . . 115
6.4 Matrix-vector multiplication . . . . . . . . . . . . . . . . . . . 118
6.5 Complexity . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 122
Exercises . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 124
Semana 7
7 Matrix examples 129
7.1 Geometric transformations . . . . . . . . . . . . . . . . . . . . 129
7.2 Selectors . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 131
7.3 Incidence matrix . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 132
7.4 Convolution . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 136
Exercises . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 144
Semana 8
8 Linear equations 147
8.1 Linear and affine functions . . . . . . . . . . . . . . . . . . . . . 147
8.2 Linear function models . . . . . . . . . . . . . . . . . . . . . . . . 150
8.3 Systems of linear equations . . . . . . . . . . . . . . . . . . . . 152
Exercises . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 159
Semana 9
9 Linear dynamical systems 163
9.1 Linear dynamical systems . . . . . . . . . . . . . . . . . . . . . . 163
9.2 Population dynamics . . . . . . . . . . . . . . . . . . . . . . . . . . . 164
9.3 Epidemic dynamics . . . . . . . . . . . . . . . . . . . . . . . . . . . . 168
9.4 Motion of a mass . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 169
9.5 Supply chain dynamics . . . . . . . . . . . . . . . . . . . . . . . . . 171
Exercises . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 174
Semana 10
10 Matrix multiplication 177
10.1 Matrix-matrix multiplication . . . . . . . . . . . . . . . . . . 177
10.2 Composition of linear functions . . . . . . . . . . . . . . 183
10.3 Matrix power . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 186
10.4 QR factorization . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 189
Exercises . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 191
Semana 11
11 Matrix inverses 199
11.1 Left and right inverses . . . . . . . . . . . . . . . . . . . . . . . . 199
11.2 Inverse . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 202
11.3 Solving linear equations . . . . . . . . . . . . . . . . . . . . . . 207
11.4 Examples . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 210
11.5 Pseudo-inverse . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 214
Exercises . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 217
Parte III: MÍNIMOS QUADRADOS
Semana 12
12 Least squares 225
12.1 Least squares problem . . . . . . . . . . . . . . . . . . . . . . . . 225
12.2 Solution . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 227
12.3 Solving least squares problems . . . . . . . . . . . . . . . 231
12.4 Examples . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 234
Exercises . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 239
Semana 13
13 Least squares data fitting 245
13.1 Least squares data fitting . . . . . . . . . . . . . . . . . . . . . 245
13.2 Validation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 260
13.3 Feature engineering . . . . . . . . . . . . . . . . . . . . . . . . . . 269
Exercises . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 279
Usaremos como referência básica o curso de Stephen Boyd ministrado na Universidade de Stanford. Neste link você encontrará o livro de Boyd & Vandenberghe, as videoaulas do Boyd e mais algumas coisas (exercícios adicionais, tutoriais de Julia e de Python)
Aulas de Felipe Acker deste ano, em vídeo, a serem carregadas ao longo do período
Monitoria: link do grupo para monitoria https://chat.whatsapp.com/I8vVR3LL87L70kpRTklnXd
Soluções dos exercícios do Boyd & Vandenberghe
Videos de Felipe Acker (anos anteriores)
Páginas de anos anteriores (com mais material, inclusive outros textos)