Álgebra Linear é, hoje (exagerando um pouco, talvez), a Matemática que @s engenheir@s usam. Este curso é a sua chance de aprender o básico do assunto

A ideia é seguir o livro Introduction to Applied Linear Algebra, de Stephen Boyd e Lieven Vandenberghe, disponível em livre acesso na internet (minha experiência é: baixem, pois a promoção pode ser por tempo limitado). É um livro escrito por engenheiros para engenheir@s. Pretendo fazer os 13 primeiros capítulos, um por semana (o livro tem 19). Embora o texto tenha uma pegada computacional, vou fazer apenas teoria. Recomendo fortemente, a quem puder, que ponha a mão na programação (que não é difícil).

O material disponível inclui, também, uma playlist no You Tube, com as aulas do próprio Boyd (curso ENGR108 Introduction to Matrix Methods, em Stanford), em 2020 (o curso está sendo dado de novo neste momento, com base no mesmo material). Recomendo que assistam. Para cada capítulo do livro, o Boyd gravou cerca de uma hora de vídeos (alguns maiores, outros menores). Não basta assistir às aulas (às dele e às minhas), é preciso estudar o texto, que apresenta muitos exemplos interessantes.

Na primeira semana darei duas aulas síncronas.

Nas semanas seguintes teremos uma aula síncrona às terças e um teste, a ser entregue até às 17:00 da quinta.

link google meet: https://meet.google.com/mdi-zfdr-egh

Monitoria: Monitor Marcos Oliveira

link do grupo para monitoria

https://chat.whatsapp.com/I8vVR3LL87L70kpRTklnXd

Caso haja necessidade para encontros síncronos, os horários são na parte da manhã, de 8 as 10, segundas e terças.

link do meet de segunda-feira: https://meet.google.com/ueg-zbhs-rky

link do meet de terça-feira:

https://meet.google.com/jdg-mzce-atz

Não tenho condições de coibir fraudes. Se você preferir passar sem aprender, terá os anos pela frente para descobrir que perdeu uma oportunidade que talvez não se apresente de novo. A vida é sua.

A nota final será a média aritmética das 10 melhores notas obtidas nos testes.

Aulas: terças-feiras, das 15:00 às 17:00

link google meet: https://meet.google.com/mdi-zfdr-egh

Monitoria

link do grupo para monitoria: https://chat.whatsapp.com/I8vVR3LL87L70kpRTklnXd

Caso haja necessidade para encontros síncronos com o monitor, os horários são na parte da manhã, de 8 as 10, segundas e terças. Link do meet de segunda-feira: https://meet.google.com/ueg-zbhs-rky. Link do meet de terça-feira: https://meet.google.com/jdg-mzce-atz

Programa do Curso

Parte I: VETORES

Semana 1

1 Vectors 3

1.1 Vectors . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3

1.2 Vector addition . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 11

1.3 Scalar-vector multiplication . . . . . . . . . . . . . . . . . . . . . 15

1.4 Inner product . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 19

1.5 Complexity of vector computations . . . . . . . . . . . . . 22

Exercises . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 25

Semana 2

2 Linear functions 29

2.1 Linear functions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 29

2.2 Taylor approximation . . . . . . . . . . . . . . . . . . . . . . . . . . . 35

2.3 Regression model . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 38

Exercises . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 42

Semana 3

3 Norm and distance 45

3.1 Norm . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 45

3.2 Distance . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 48

3.3 Standard deviation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 52

3.4 Angle . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 56

3.5 Complexity . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 63

Exercises . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 64

Semana 4

4 Clustering 69

4.1 Clustering . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 69

4.2 A clustering objective . . . . . . . . . . . . . . . . . . . . . . . . . . . 72

4.3 The k-means algorithm . . . . . . . . . . . . . . . . . . . . . . . . . . 74

4.4 Examples . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 79

4.5 Applications . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 85

Exercises . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 87

Semana 5

5 Linear independence 89

5.1 Linear dependence . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 89

5.2 Basis . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 91

5.3 Orthonormal vectors . . . . . . . . . . . . . . . . . . . . . . . . . . . . 95

5.4 Gram–Schmidt algorithm . . . . . . . . . . . . . . . . . . . . . . . . 97

Exercises . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 103

Parte II: MATRIZES

Semana 6

6 Matrices 107

6.1 Matrices . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 107

6.2 Zero and identity matrices . . . . . . . . . . . . . . . . . . . . . 113

6.3 Transpose, addition, and norm . . . . . . . . . . . . . . . . . 115

6.4 Matrix-vector multiplication . . . . . . . . . . . . . . . . . . . 118

6.5 Complexity . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 122

Exercises . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 124

Semana 7

7 Matrix examples 129

7.1 Geometric transformations . . . . . . . . . . . . . . . . . . . . 129

7.2 Selectors . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 131

7.3 Incidence matrix . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 132

7.4 Convolution . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 136

Exercises . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 144

Semana 8

8 Linear equations 147

8.1 Linear and affine functions . . . . . . . . . . . . . . . . . . . . . 147

8.2 Linear function models . . . . . . . . . . . . . . . . . . . . . . . . 150

8.3 Systems of linear equations . . . . . . . . . . . . . . . . . . . . 152

Exercises . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 159

Semana 9

9 Linear dynamical systems 163

9.1 Linear dynamical systems . . . . . . . . . . . . . . . . . . . . . . 163

9.2 Population dynamics . . . . . . . . . . . . . . . . . . . . . . . . . . . 164

9.3 Epidemic dynamics . . . . . . . . . . . . . . . . . . . . . . . . . . . . 168

9.4 Motion of a mass . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 169

9.5 Supply chain dynamics . . . . . . . . . . . . . . . . . . . . . . . . . 171

Exercises . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 174

Semana 10

10 Matrix multiplication 177

10.1 Matrix-matrix multiplication . . . . . . . . . . . . . . . . . . 177

10.2 Composition of linear functions . . . . . . . . . . . . . . 183

10.3 Matrix power . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 186

10.4 QR factorization . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 189

Exercises . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 191

Semana 11

11 Matrix inverses 199

11.1 Left and right inverses . . . . . . . . . . . . . . . . . . . . . . . . 199

11.2 Inverse . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 202

11.3 Solving linear equations . . . . . . . . . . . . . . . . . . . . . . 207

11.4 Examples . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 210

11.5 Pseudo-inverse . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 214

Exercises . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 217

Parte III: MÍNIMOS QUADRADOS

Semana 12

12 Least squares 225

12.1 Least squares problem . . . . . . . . . . . . . . . . . . . . . . . . 225

12.2 Solution . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 227

12.3 Solving least squares problems . . . . . . . . . . . . . . . 231

12.4 Examples . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 234

Exercises . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 239

Semana 13

13 Least squares data fitting 245

13.1 Least squares data fitting . . . . . . . . . . . . . . . . . . . . . 245

13.2 Validation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 260

13.3 Feature engineering . . . . . . . . . . . . . . . . . . . . . . . . . . 269

Exercises . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 279

Usaremos como referência básica o curso de Stephen Boyd ministrado na Universidade de Stanford. Neste link você encontrará o livro de Boyd & Vandenberghe, as videoaulas do Boyd e mais algumas coisas (exercícios adicionais, tutoriais de Julia e de Python)

Aulas de Felipe Acker deste ano, em vídeo, a serem carregadas ao longo do período

Testes

Monitoria: link do grupo para monitoria https://chat.whatsapp.com/I8vVR3LL87L70kpRTklnXd

Soluções dos exercícios do Boyd & Vandenberghe

Videos de Felipe Acker (anos anteriores)

Páginas de anos anteriores (com mais material, inclusive outros textos)