Course Syllabus
Obiettivi formativi
L’obiettivo dell’insegnamento è quello di fornire le basi teoriche e applicative dei modelli lineari dinamici per serie storiche e di machine learning forecasting. Si illustreranno i fondamenti della teoria della previsione, la forma state space e i metodi di filtraggio collegati, oltre alle tecniche di machine learning utili per prevedere serie storiche complesse.
Il corso viene impartito in modalità blended learning con videolezioni e lezioni frontali in laboratorio informatico. Tutti i modelli vengono implementati su dati e problemi economici reali usando l’ambiente open source R.
L'insegnamento completa la preparazione statistico-economica degli studenti di tutti i percorsi del corso di laurea magistrale, fornendo strumenti statistici per lavorare con serie storiche macroeconomiche, aziendali, finanziarie e di altra natura.
Al termine dell'insegnamento, i risultati di apprendimento attesi sono i seguenti:
Conoscenza e capacità di comprensione (DdD 1): Lo studente sarà in grado di costruire modelli lineari dinamici ad-hoc per prevedere e filtrare serie storiche reali. Inoltre, sarà in grado di utilizzare metodi di machine learning a fini di previsione di serie storiche e di produrre le features più adatte affinché tali modelli apprendano alcune caratteristiche delle serie storiche quali trend e stagionalità.
Conoscenza e capacità di comprensione applicate (DdD 2): Lo studente sarà in grado di utilizzare in modo avanzato il linguaggio R e i pacchetti relativi alla forma state space e ad alcuni modelli di machine learning per implementare soluzioni a problemi reali.
Autonomia di giudizio (DdD 3): Lo studente saprà analizzare criticamente i risultati dei modelli, valutandone l'accuratezza e la coerenza rispetto agli obiettivi.
Abilità comunicative (DdD 4): Lo studente acquisirà la capacità di comunicare i risultati delle analisi a esperti del settore utilizzando un linguaggio tecnico appropriato, sia in italiano sia in inglese
Capacità di apprendere (DdD 5): Lo studente svilupperà le competenze necessarie per approfondire autonomamente nuovi modelli e procedure computazionali indispensabili per l'attività professionale di statistico e forecaster.
Contenuti sintetici
- Teoria della previsione
- Forma state space dei modelli lineari dinamici e filtro di Kalman
- Modelli UCM
- Machine learning per forecasting
- Applicazioni a dati reali con R
Programma esteso
- Previsore ottimo
- Previsore lineare ottimo
- Forma state space / modelli lineari dinamici
- Principali componenti dei modelli UCM (trend, ciclo, stagionalità)
- Modelli ARIMA e UCM in forma state space
- Filtro di Kalman e stima di massima verosimiglianza
- Inizializzazione delle variabili di stato
- Smoothing delle variabili di stato e dei disturbi
- Principali algoritmi di machine learning (ML)
- Problemi di estrapolazione di molti algoritmi di ML e soluzioni
- La costruzione delle features temporali per i modelli di ML
- Esercizi e casi di studio usando R
Prerequisiti
Buone conoscenze di inferenza statistica, algebra matriciale e fondamenti di serie storiche (processi stazionari, processi integrati, modelli ARIMA).
Conoscenze di base di R.
Metodi didattici
Il corso viene impartito in modalità blended learning: il 50% dell'insegnamento avviene in presenza (in laboratorio) e il 50% avviene in remoto per mezzo di video-lezioni, applicazioni web, test ed esercizi on-line e forum di domande e risposte.
Le lezioni in presenza sono sempre in laboratorio e rendono operativa, per mezzo di applicazioni a dati reali, la teoria acquisita autonomamente dallo studente per mezzo delle videolezioni, del manuale e degli altri ausili didattici presenti nella pagina elearning. Inoltre, le lezioni in presenza sono l'occasione per gli studenti di esporre i propri dubbi e proporre le proprie domande su quanto appreso autonomamente, in modo che il docente possa fornire spiegazioni alternative per quanto non sia risultato chiaro.
La durata delle lezioni in presenza è di due o tre ore per un totale complessivo di 23 ore.
Le videolezioni sono di didattica erogativa, e diversi questionari di autovalutazione e web-app permettono di verificare e migliorare l'apprendimento. Le lezioni in presenza sono un mix di didattica erogativa (circa il 30%) e didattica interattiva (circa il 70%).
L'insegnamento è erogato in lingua inglese.
Modalità di verifica dell'apprendimento
L'esame si compone di una prova scritta su domande teoriche ed esercizi (durata 1 ora) e di una prova pratica in laboratorio usando R (durata 1 ora). Il risultato di ciascuna prova concorre al 50% del voto finale.
Dettaglio delle prove:
- Prova scritta: verifica le conoscenze teoriche relative alla teoria della previsione, ai modelli a componenti non osservabili, alla forma state space e al machine learning forecasting attraverso cinque domande aperte. Le risposte concorrono con il medesimo peso alla valutazione dello scritto.
- Prova pratica: richiede la costruzione e stima di modelli su una serie storica fornita, inclusa la produzione delle diagnostiche richieste.
- Progetto di gruppo: il docente può proporre agli studenti frequentanti di sostituire la prova pratica con un progetto originale di gruppo.
Competenze valutate:
Capacità di comprensione teorica della modellistica state space e dell'uso dei modelli di machine learning per il forecasting (DdD 1).
Abilità nel risolvere problemi di previsione ed estrazione di segnali tramite codice R (DdD 2).
Capacità di analisi critica e diagnostica dei risultati (DdD 3).
Criteri di valutazione e graduazione del voto: La valutazione tiene conto della precisione delle risposte teoriche (50%) e della corretta implementazione e interpretazione dei modelli statistici nella prova pratica (50%). L'eccellenza (30 e lode) richiede il pieno raggiungimento di tutti gli obiettivi formativi e una particolare padronanza nell'uso degli strumenti computazionali.
Prove in itinere: Non sono previste prove parziali obbligatorie durante il corso, ma agli studenti frequentanti possono essere proposti esercizi facoltativi da fare a casa che possono contribuire al voto finale.
Testi di riferimento
Pelagatti (2015) Time Series Modelling with Unobserved Components, Chapman and Hall/CRC (scaricabile gratuitamente sotto indirizzo IP di Bicocca)
Hyndman, R.J., & Athanasopoulos, G. (2018) Forecasting: principles and practice, 2nd edition, OTexts: Melbourne, Australia. OTexts.com/fpp2
Appunti del docente per la parte di machine learning forecasting
Periodo di erogazione dell'insegnamento
IV ciclo (maggio - giugno)
Lingua di insegnamento
Italiano
Learning objectives
The objective of the course is to provide the theoretical and applied foundations of dynamic linear models for time series and machine learning forecasting. The fundamentals of forecasting theory, the state space form, and related filtering methods will be illustrated, in addition to machine learning techniques useful for forecasting complex time series.
The course is delivered in blended learning mode, combining video lectures with face-to-face sessions in a computer laboratory. All models are implemented on real economic data and problems using the open-source R environment.
The teaching completes the statistical-economic preparation of students across all tracks of the Master's degree program, providing statistical tools for working with macroeconomic, corporate, financial, and other types of time series.
Upon completion of the course, the expected learning outcomes are as follows:
Knowledge and understanding (DdD 1): Students will be able to build ad-hoc dynamic linear models to forecast and filter real-world time series. Furthermore, they will be able to use machine learning methods for time series forecasting and produce the most suitable features to allow these models to learn characteristics such as trends and seasonality.
Applying knowledge and understanding (DdD 2): Students will be able to use the R language and packages related to the state space form and machine learning models at an advanced level to implement solutions to real problems.
Making judgements (DdD 3): Students will be able to critically analyze model results, evaluating their accuracy and consistency with respect to the stated objectives.
Communication skills (DdD 4): Students will acquire the ability to communicate analysis results to industry experts using appropriate technical language, in both Italian and English.
Learning skills (DdD 5): Students will develop the skills necessary to independently explore new models and computational procedures essential for the professional activity of statisticians and forecasters.
Contents
- Prediction theory
- State space form of dynamic linear models and Kalman filtering
- Unobserved Component Models
- Machine learning forecasting
- Real world applications with R/KFAS
Detailed program
- Optimal predictor
- Optimal linear predictor
- State-space form / Dynamic linear models
- Unobserved Components Models (UCM) (trend, cycle, seasonality)
- ARIMA and UCM models in state-space form
- Kalman filter and maximum likelihood estimation
- Initialization of state variables
- Smoothing of state variables and disturbances
- Main machine learning (ML) algorithms
- Extrapolation problems of many ML algorithms and solutions
- Construction of temporal features for ML models
- Exercises and case studies using R
Prerequisites
Knowledge of statistical inference and matrix algebra, as well as the fundamentals of time series analysis (stationary processes, integrated processes, ARIMA).
Fundamentals of R.
Teaching methods
The course is taught in blended learning mode: 50% of the teaching takes place in person (in the laboratory) and 50% takes place remotely through video lectures, web applications, online tests and exercises, and Q&A forums.
In-person lessons are always held in the laboratory and operationalize, through applications to real-world data, the theory acquired independently by the student via video lectures, the textbook, and other teaching aids available on the e-learning page. Furthermore, in-person sessions provide an opportunity for students to express their doubts and ask questions about what they have learned independently, allowing the instructor to provide alternative explanations for anything that remains unclear
The duration of in-person lessons is two or three hours, for a total of 23 hours.
Video lectures consist of delivery-based teaching, and various self-assessment questionnaires and web-apps allow for the verification and improvement of learning.
In-person lessons are a mix of delivery-based teaching (approximately 30%) and interactive teaching (approximately 70%).
The lessons are taught in English.
Assessment methods
The exam consists of a written test on theoretical questions and exercises (1-hour duration) and a practical lab exam using R (1-hour duration). Each part accounts for 50% of the final grade.
Details of the parts:
- Written test: assesses theoretical knowledge regarding forecasting theory, unobserved component models, the state-space form, and machine learning forecasting through five open-ended questions. Each question carries equal weight in the written assessment.
- Practical test: requires building and estimating models on a provided time series, including generating the required diagnostics.
- Group project: the instructor may offer attending students the option to replace the practical test with an original group project.
Assessed skills:
Theoretical understanding of state-space modeling and the use of machine learning models for forecasting (DdD 1).
Ability to solve forecasting and signal extraction problems using R code (DdD 2).
Critical analysis and diagnostic skills regarding results (DdD 3).
Evaluation and grading criteria: The assessment considers the accuracy of theoretical answers (50%) and the correct implementation and interpretation of statistical models in the practical test (50%). Excellence (30 cum laude) requires full achievement of all learning objectives and exceptional mastery of computational tools.
In-itinere tests: No mandatory mid-term tests are provided during the course; however, attending students may be offered optional home assignments that can contribute to the final grade.
Textbooks and Reading Materials
Pelagatti (2015) Time Series Modelling with Unobserved Components, Chapman and Hall/CRC (freely available under IP address of Bicocca)
Hyndman, R.J., & Athanasopoulos, G. (2018) Forecasting: principles and practice, 2nd edition, OTexts: Melbourne, Australia. OTexts.com/fpp2
Notes of the instructor for the machine learning forecasting part
Semester
4th term (May - June)
Teaching language
Italian
Staff
-
Matteo Maria Pelagatti