Mathematics for ai

Nella prima parte del corso verranno introdotti i concetti elementari du algebra lienare e probabilità necessari a presentare la analisi in componenti principali (PCA), un metodo che permette di estrarre pochi dati importanti da un gran numero di dati.

La seconda parte del corso sarà dedicata all'ottimizzazione.

Ulteriori argomenti saranno discussi a seconda del tempo rimasto e degli interessi degli studenti.

Più in dettaglio:

Algebra lineare: matrici, vettori,autovalori e autovettori, diagonalizzazione.
Elementi di probabilità: distribuzione Gaussiana, covarianza, PCA.

Calcolo differenziale e ottimizzazione:
richiami delle principali idee del calcolo in una variabile: derivate, massimi e minimi di funzioni di una variabile.

Calcolo in più di una variabile: derivate parziali, gradiente, massimi e minimi di una funzione di più variabili. Massimi e minimi vincolati, moltiplicatori di Lagrange

Ottimizzazione convessa: insiemi convessi, funzioni convesse, sottoderivate e sottogradienti.




Linear Algebra: Eigenvalues, eigenvectors, diagonalization and spectral theorem. Positive definite matrices, singular value decomposition.
Multivariate calculus: Partial derivatives, differential, Jacobian matrix, Hessian matrix, Taylor's theorem.
Optimization: Unconstrained critical points and characterization through Hessian matrix. Gradient descent, Newton's method. Implicit function theorem, constrained critical points, Lagrange multipliers.
Convex optimization: Convex sets, convex functions. Subderivatives and subgradients. Legendre transform and duality.
Linear and nonlinear dimensionality reduction techniques: Linear projectors, principal component analysis, independent component analysis, kernel principal component analysis.
Fourier transform and series: Fourier series for periodic functions, Fourier transform of continuous and discrete signals. Definitions and basic properties, inversion and differentiation, convolutions.