Data mining and computational statistics
A.A. 2020/2021
Obiettivi formativi
This is an introductory course to basic techniques and applications in finance and economics of Data Mining and Computational Statistics, also in the more general framework of data science. We will allow students to develop programming skills using the R software in the Data Mining part, and the OpenBUGS software for Bayesian Markov Chain Monte Carlo random variable generation. Students will acquire independence in studying Data Mining & Computational Statistics subjects and will be able to solve practical problems in economic and financial data analysis.
Risultati apprendimento attesi
At the end of the course students will be able to perform machine learning techniques and algorithms and use them in economic and financial applications. Specifically, students will be familiar with supervised and unsupervised models. In particular, in the supervised framework students will be able to perform advanced regression models like the ridge and lasso regression, classification techniques like the Bayes classifier, the K-NN classifier and the logistic model, whereas in the unsupervised framework students will become familiar with dimensional reduction techniques and cluster analysis. More sophisticated techniques like decision tree-based classification will be presented to the students. In Computational statistics, resampling techniques, random number and random variable generation and numerical integration will be part of the acquired knowledge the students will have at the end of the course.
Periodo: Terzo trimestre
Modalità di valutazione: Esame
Giudizio di valutazione: voto verbalizzato in trentesimi
Corso singolo
Questo insegnamento non può essere seguito come corso singolo. Puoi trovare gli insegnamenti disponibili consultando il catalogo corsi singoli.
Programma e organizzazione didattica
Edizione unica
Periodo
Terzo trimestre
Il corso e le esercitazioni, se necessario per l'emergenza sanitaria, si svolgeranno da remoto in modalità sincrona attraverso la piattaforma Microsoft Teams. Le registrazioni ed eventuali ulteriori materiali di riferimento saranno disponibili su ARIEL.
L'esame sarà costituito da un test scritto della durata di 30 minuti, con 15 domande a scelta multipla, che se necessario si svolgerà a distanza attraverso la piattaforma exam.net, e da una relazione (5-8 pagine) su un argomento specifico assegnato durante il corso, da consegnare via e-mail alla docente. Per i frequentanti si tratterà di un lavoro di gruppo (max 5 persone); per i non frequentanti si tratterà di una relazione individuale. Il voto è determinato per 2/3 dal test e per 1/3 dalla relazione. A discrezione del docente gli studenti potranno essere interrogati sulla relazione consegnata.
L'esame sarà costituito da un test scritto della durata di 30 minuti, con 15 domande a scelta multipla, che se necessario si svolgerà a distanza attraverso la piattaforma exam.net, e da una relazione (5-8 pagine) su un argomento specifico assegnato durante il corso, da consegnare via e-mail alla docente. Per i frequentanti si tratterà di un lavoro di gruppo (max 5 persone); per i non frequentanti si tratterà di una relazione individuale. Il voto è determinato per 2/3 dal test e per 1/3 dalla relazione. A discrezione del docente gli studenti potranno essere interrogati sulla relazione consegnata.
Programma
(0) Introduzione al software R.
(i) Revisione dei metodi di verosimiglianza;
(ii) Introduzione al data mining e differenza tra dati osservazionali e sperimentali.
(iii) Analisi esplorativa e visualizzazione di dati.
(iv) Metodi supervisionati vs. non supervisionati: introduzione.
(v) Metodi parametrici vs. non parametrici: introduzione.
(vi) Regressione lineare multipla.
(vii) L'importanza di pianificare le indagini e la tecnica ANOVA.
(viii) Nozioni introduttive di disegno ottimo: la matrice d'informazione; le funzioni criterio; disegni esatti e continui.
(ix) Algoritmi per il calcolo di disegni ottimi.
(x) Metodi di classificazione: regressione logistica, analisi discriminante lineare e metodo dei vicini K-più vicini. Il classificatore di Bayes.
(xi) Metodi di ricampionamento: cross validation e bootstrap.
(xii) Metodi di contrazione: regressione ridge, lasso e altri metodi di regularization.
(xiii) Spline di regressione e regressione locale.
(xiv) Metodi basati su alberi decisionali: random forest, bagging and boosting. Support vector machine (cenni)
(xv) Apprendimento non supervisionato: Analisi in componenti principali.
(xvi) Clustering.
Se c'è tempo:
(xvii) Metodi statistici computer-intensive: panoramica.
(xviii) Numeri pseudo-casuali e generazione di variabili.
(xix) Metodi Monte Carlo per l'integrazione numerica.
(xx) Inferenza basata sulla simulazione.
(i) Revisione dei metodi di verosimiglianza;
(ii) Introduzione al data mining e differenza tra dati osservazionali e sperimentali.
(iii) Analisi esplorativa e visualizzazione di dati.
(iv) Metodi supervisionati vs. non supervisionati: introduzione.
(v) Metodi parametrici vs. non parametrici: introduzione.
(vi) Regressione lineare multipla.
(vii) L'importanza di pianificare le indagini e la tecnica ANOVA.
(viii) Nozioni introduttive di disegno ottimo: la matrice d'informazione; le funzioni criterio; disegni esatti e continui.
(ix) Algoritmi per il calcolo di disegni ottimi.
(x) Metodi di classificazione: regressione logistica, analisi discriminante lineare e metodo dei vicini K-più vicini. Il classificatore di Bayes.
(xi) Metodi di ricampionamento: cross validation e bootstrap.
(xii) Metodi di contrazione: regressione ridge, lasso e altri metodi di regularization.
(xiii) Spline di regressione e regressione locale.
(xiv) Metodi basati su alberi decisionali: random forest, bagging and boosting. Support vector machine (cenni)
(xv) Apprendimento non supervisionato: Analisi in componenti principali.
(xvi) Clustering.
Se c'è tempo:
(xvii) Metodi statistici computer-intensive: panoramica.
(xviii) Numeri pseudo-casuali e generazione di variabili.
(xix) Metodi Monte Carlo per l'integrazione numerica.
(xx) Inferenza basata sulla simulazione.
Prerequisiti
È richiesta una buona conoscenza degli argomenti statistici di base insieme ad alcune nozioni di matematica, in particolare l'algebra lineare. Alcune conoscenze sulla programmazione informatica sono benvenute ma non essenziali.
Metodi didattici
La lezione frontale sarà in gran parte svolta alla lavagna, perché gli argomenti trattati richiedono attenzione e riflessione da parte degli studenti. Si cercherà di lavorare in modo interattivo con gli studenti stimolandone gli interventi sia orali che scritti alla lavagna.
Oltre alle lezioni ci saranno 20 ore di esercitazioni, dove vengono svolte applicazioni dei concetti presentati a lezione attraverso l'uso del software R.
Oltre alle lezioni ci saranno 20 ore di esercitazioni, dove vengono svolte applicazioni dei concetti presentati a lezione attraverso l'uso del software R.
Materiale di riferimento
Main textbooks:
(i) An Introduction to Statistical Learning, with applications in R (2013) di G. James, D. Witten, T. Hastie, R. Tibshirani, Springer.
(ii) Optimum experimental designs (1992) di A.C Atkinson e A.N Donev, Clarendon Press.
(iii) Introducing Monte Carlo Statistical Methods with R (2010) di C.P. Robert, G. Casella, Springer.
Letture suggerite:
(i) The Elements of Statistical Learning, 2nd edition (2009), T. Hastie, R. Tibshirani, J. Friedman, Springer.
(ii) Machine Learning: a Probabilistic Perspective (2012), K.P. Murphy, The MIT Press.
(iii) Monte Carlo Statistical Methods (2004) by C.P. Robert, G. Casella, Springer.
Ulteriori letture saranno suggerite durante l'espletamento del corso.
(i) An Introduction to Statistical Learning, with applications in R (2013) di G. James, D. Witten, T. Hastie, R. Tibshirani, Springer.
(ii) Optimum experimental designs (1992) di A.C Atkinson e A.N Donev, Clarendon Press.
(iii) Introducing Monte Carlo Statistical Methods with R (2010) di C.P. Robert, G. Casella, Springer.
Letture suggerite:
(i) The Elements of Statistical Learning, 2nd edition (2009), T. Hastie, R. Tibshirani, J. Friedman, Springer.
(ii) Machine Learning: a Probabilistic Perspective (2012), K.P. Murphy, The MIT Press.
(iii) Monte Carlo Statistical Methods (2004) by C.P. Robert, G. Casella, Springer.
Ulteriori letture saranno suggerite durante l'espletamento del corso.
Modalità di verifica dell’apprendimento e criteri di valutazione
L'esame consiste per due terzi in un test scritto della durata di 30 minuti, con 15 domande a scelta multipla, e per un terzo nella preparazione di una relazione (5-8 pagine) su un argomento specifico assegnato durante il corso, da consegnare via e-mail alla docente. Per i frequentanti si tratterà di un lavoro di gruppo (max 5 persone); per i non frequentanti si tratterà di una relazione individuale. A discrezione del docente gli studenti potranno essere interrogati sulla relazione consegnata.
SECS-S/01 - STATISTICA - CFU: 9
Esercitazioni: 40 ore
Lezioni: 40 ore
Lezioni: 40 ore
Docenti:
Lanteri Alessandro, Tommasi Chiara
Docente/i
Ricevimento:
Mercoledì dalle 9:00 alle 12:00 (controllare la bacheca su ARIEL per eventuali cambiamenti).
Ufficio n.35, III piano di via Conservatorio