Data mining and computational statistics
A.A. 2022/2023
Obiettivi formativi
This is an introductory course to basic techniques and applications in finance and economics of Data Mining and Computational Statistics, also in the more general framework of data science. We will allow students to develop programming skills using the R software in the Data Mining part, and the OpenBUGS software for Bayesian Markov Chain Monte Carlo random variable generation. Students will acquire independence in studying Data Mining & Computational Statistics subjects and will be able to solve practical problems in economic and financial data analysis.
Risultati apprendimento attesi
At the end of the course students will be able to perform machine learning techniques and algorithms and use them in economic and financial applications. Specifically, students will be familiar with supervised and unsupervised models. In particular, in the supervised framework students will be able to perform advanced regression models like the ridge and lasso regression, classification techniques like the Bayes classifier, the K-NN classifier and the logistic model, whereas in the unsupervised framework students will become familiar with dimensional reduction techniques and cluster analysis. More sophisticated techniques like decision tree-based classification will be presented to the students. In Computational statistics, resampling techniques, random number and random variable generation and numerical integration will be part of the acquired knowledge the students will have at the end of the course.
Periodo: Terzo trimestre
Modalità di valutazione: Esame
Giudizio di valutazione: voto verbalizzato in trentesimi
Corso singolo
Questo insegnamento non può essere seguito come corso singolo. Puoi trovare gli insegnamenti disponibili consultando il catalogo corsi singoli.
Programma e organizzazione didattica
Edizione unica
Responsabile
Periodo
Terzo trimestre
Programma
(0) Introduzione al software R.
(i) Revisione dei metodi di verosimiglianza;
(ii) Introduzione al data mining e differenza tra dati osservazionali e sperimentali.
(iii) Analisi esplorativa e visualizzazione di dati.
(iv) Metodi supervisionati vs. non supervisionati: introduzione.
(v) Metodi parametrici vs. non parametrici: introduzione.
(vi) Regressione lineare multipla.
(vii) L'importanza di pianificare le indagini e la tecnica ANOVA.
(viii) Nozioni introduttive di disegno ottimo: la matrice d'informazione; le funzioni criterio; disegni esatti e continui.
(ix) Algoritmi per il calcolo di disegni ottimi.
(x) Metodi di classificazione: regressione logistica, analisi discriminante lineare e metodo dei vicini K-più vicini. Il classificatore di Bayes.
(xi) Metodi di ricampionamento: cross validation e bootstrap.
(xii) Metodi di contrazione: regressione ridge, lasso e altri metodi di regularization.
(xiii) Spline di regressione e regressione locale.
(xiv) Metodi basati su alberi decisionali: random forest, bagging and boosting. Support vector machine (cenni)
(xv) Apprendimento non supervisionato: Analisi in componenti principali.
(xvi) Clustering.
Se c'è tempo:
(xvii) Metodi statistici computer-intensive: panoramica.
(xviii) Numeri pseudo-casuali e generazione di variabili.
(xix) Metodi Monte Carlo per l'integrazione numerica.
(xx) Inferenza basata sulla simulazione.
(i) Revisione dei metodi di verosimiglianza;
(ii) Introduzione al data mining e differenza tra dati osservazionali e sperimentali.
(iii) Analisi esplorativa e visualizzazione di dati.
(iv) Metodi supervisionati vs. non supervisionati: introduzione.
(v) Metodi parametrici vs. non parametrici: introduzione.
(vi) Regressione lineare multipla.
(vii) L'importanza di pianificare le indagini e la tecnica ANOVA.
(viii) Nozioni introduttive di disegno ottimo: la matrice d'informazione; le funzioni criterio; disegni esatti e continui.
(ix) Algoritmi per il calcolo di disegni ottimi.
(x) Metodi di classificazione: regressione logistica, analisi discriminante lineare e metodo dei vicini K-più vicini. Il classificatore di Bayes.
(xi) Metodi di ricampionamento: cross validation e bootstrap.
(xii) Metodi di contrazione: regressione ridge, lasso e altri metodi di regularization.
(xiii) Spline di regressione e regressione locale.
(xiv) Metodi basati su alberi decisionali: random forest, bagging and boosting. Support vector machine (cenni)
(xv) Apprendimento non supervisionato: Analisi in componenti principali.
(xvi) Clustering.
Se c'è tempo:
(xvii) Metodi statistici computer-intensive: panoramica.
(xviii) Numeri pseudo-casuali e generazione di variabili.
(xix) Metodi Monte Carlo per l'integrazione numerica.
(xx) Inferenza basata sulla simulazione.
Prerequisiti
È richiesta una buona conoscenza degli argomenti statistici di base insieme ad alcune nozioni di matematica, in particolare l'algebra lineare. Alcune conoscenze sulla programmazione informatica sono benvenute ma non essenziali.
Metodi didattici
La lezione frontale sarà in gran parte svolta alla lavagna, perché gli argomenti trattati richiedono attenzione e riflessione da parte degli studenti. Si cercherà di lavorare in modo interattivo con gli studenti stimolandone gli interventi sia orali che scritti alla lavagna.
Oltre alle lezioni ci saranno 20 ore di esercitazioni, dove vengono svolte applicazioni dei concetti presentati a lezione attraverso l'uso del software R.
Oltre alle lezioni ci saranno 20 ore di esercitazioni, dove vengono svolte applicazioni dei concetti presentati a lezione attraverso l'uso del software R.
Materiale di riferimento
Testi principali:
(i) An Introduction to Statistical Learning, with applications in R (2013) by G. James, D. Witten, T. Hastie, R. Tibshirani, Springer.
(ii) Optimum experimental designs (1992) by A.C Atkinson and A.N Donev, Clarendon Press.
(iii) Introducing Monte Carlo Statistical Methods with R (2010) by C.P. Robert, G. Casella, Springer.
Suggested reading for insights into some topics in main textbooks:
(i) The Elements of Statistical Learning, 2nd edition (2009), T. Hastie, R. Tibshirani, J. Friedman, Springer.
(ii) Machine Learning: a Probabilistic Perspective (2012), K.P. Murphy, The MIT Press.
(iii) Monte Carlo Statistical Methods (2004) by C.P. Robert, G. Casella, Springer.
Ulteriori letture saranno suggerite durante l'espletamento del corso.
(i) An Introduction to Statistical Learning, with applications in R (2013) by G. James, D. Witten, T. Hastie, R. Tibshirani, Springer.
(ii) Optimum experimental designs (1992) by A.C Atkinson and A.N Donev, Clarendon Press.
(iii) Introducing Monte Carlo Statistical Methods with R (2010) by C.P. Robert, G. Casella, Springer.
Suggested reading for insights into some topics in main textbooks:
(i) The Elements of Statistical Learning, 2nd edition (2009), T. Hastie, R. Tibshirani, J. Friedman, Springer.
(ii) Machine Learning: a Probabilistic Perspective (2012), K.P. Murphy, The MIT Press.
(iii) Monte Carlo Statistical Methods (2004) by C.P. Robert, G. Casella, Springer.
Ulteriori letture saranno suggerite durante l'espletamento del corso.
Modalità di verifica dell’apprendimento e criteri di valutazione
L'esame consiste in un test scritto della durata di 30 minuti, con 15 domande a scelta multipla, e nella preparazione di una relazione (5-6 pagine) su un argomento specifico assegnato durante il corso, da consegnare via e-mail alla docente. Per i frequentanti si tratterà di un lavoro di gruppo (max 5 persone) da svolgere durante il corso; per i non frequentanti si tratterà di una relazione individuale da inviare il giorno dell'esame (il testo verrà messo a disposizione su ARIEL una settimana prima). A discrezione del docente gli studenti potranno essere interrogati sulla relazione consegnata.
SECS-S/01 - STATISTICA - CFU: 9
Esercitazioni: 20 ore
Lezioni: 40 ore
Lezioni: 40 ore
Docenti:
Bodini Matteo, Tommasi Chiara
Siti didattici
Docente/i
Ricevimento:
Da concordare su appuntamento
Stanza 37 (3° piano) oppure Microsoft Teams
Ricevimento:
Mercoledì dalle 9:00 alle 12:00 (controllare la bacheca su ARIEL per eventuali cambiamenti).
Ufficio n.35, III piano di via Conservatorio