- Probability Theory
- Summary
Course Syllabus
Obiettivi
L'insegnamento si propone di fornire allo studente gli strumenti e i concetti di base del calcolo delle probabilità, illustrandone alcune applicazioni. Al termine del corso lo studente avrà acquisito le seguenti:
- conoscenze: linguaggio, definizioni ed enunciati dei risultati fondamentali della teoria della probabilità;
- competenze: comprensione operativa delle principali tecniche dimostrative;
- abilità:
capacità di applicare le nozioni teoriche per la risoluzione di esercizi e l'analisi di problemi.
Contenuti sintetici
- Spazi di probabilità
- Variabili aleatorie
- Convergenza e teoremi limite
- Introduzione alle catene di Markov
- Esempi di modelli probabilistici
Programma esteso
1. Spazi di probabilità
- Introduzione alla probabilità: modelli matematici per un esperimento aleatorio
- Assiomi della probabilità
- Proprietà di base della probabilità, continuità dal basso e dall'alto
- Calcolo combinatorio e spazi di probabilità uniformi
- Probabilità condizionale, teorema di Bayes
- Indipendenza di eventi, prove ripetute e indipendenti
2. Variabili aleatorie
- Richiami di teoria della misura
- Distribuzioni notevoli sulla retta reale, discrete e continue
- Variabili aleatorie
- Leggi marginali e legge congiunta
- Indipendenza di variabili aleatorie
- Trasformazioni di variabili aleatorie
- Valore medio, varianza e covarianza
- Spazi Lp, disuguaglianze (Jensen, Cauchy-Schwarz, Hölder)
- Coefficiente di correlazione e regressione lineare (cenni)
3. Convergenza e teoremi limite
- Richiami sui teoremi di convergenza in teoria dell'integrazione
- Lemma di Borel-Cantelli
- Legge debole e forte dei grandi numeri
- Nozioni di convergenza per successioni di variabili aleatorie (q.c., in probabilità, in Lp)
- Convergenza debole di probabilità, convergenza in legge di variabili aleatorie
- Legge dei piccoli numeri (convergenza della distribuzione binomiale alla Poisson)
- Teorema limite centrale attraverso il principio di Lindeberg
- Teorema limite centrale attraverso le funzioni caratteristiche (cenni)
- Il metodo dell'approssimazione normale
- Indipendenza di sigma-algebre, legge 0-1 di Kolmogorov
4. Introduzione alle catene di Markov
- Introduzione ai processi stocastici, leggi finito-dimensionali
- Catene di Markov, matrice di transizione, proprietà di Markov
- Stati ricorrenti e transitori, misure invarianti e reversibili
- Teoremi di convergenza (cenni): teorema di convergenza all'equilibrio, legge dei grandi numeri
- Probabilità di assorbimento (cenni)
- Passeggiate aleatorie su grafi (cenni)
5. Esempi di modelli probabilistici (presentati in parallelo alla teoria)
- Paradossi classici (compleanni, Monty-Hall, Borel, Bertrand)
- Permutazioni aleatorie e punti fissi
- Proprietà di concentrazione del volume in alte dimensioni
- Il teorema di approssimazione di Weierstrass e la legge dei grandi numeri
- Simulazione di variabili aleatorie, il metodo Monte Carlo
- La passeggiata aleatoria semplice in una e più dimensioni
- Rovina del giocatore
- L'algoritmo PageRank
Prerequisiti
Le conoscenze, competenze e abilità impartite negli insegnamenti dei primi due anni, in particolare Algebra Lineare, Analisi 1 e 2, Teoria della Misura.
Modalità didattica
Lezioni ed esercitazioni frontali in aula, articolate in:
- lezioni teoriche (10 cfu) in cui si fornisce la conoscenza di definizioni, risultati ed esempi rilevanti, in parallelo alle competenze relative alla loro comprensione;
- esercitazioni (2 cfu) in cui si forniscono abilità necessaire per applicare le conoscenze e competenze teoriche alla risoluzione di esercizi.
Materiale didattico
Libri di riferimento
- F. Caravenna, P. Dai Pra. Probabilità. Un'introduzione attraverso modelli e applicazioni. Springer-Verlag Italia, Milano (2013).
- D. Williams. Probability with Martingales. Cambridge University Press (1991).
Altro materiale didattico (disponibile sulla pagina e-learning del corso)
- Dispense del docente su argomenti specifici
- Fogli di esercizi settimanali (con soluzioni dettagliate)
- Testi delle prove scritte degli anni passati (con soluzioni dettagliate)
- Elenco delle dimostrazioni per la prova orale
Periodo di erogazione dell'insegnamento
Terzo anno, primo semestre
Modalità di verifica del profitto e valutazione
Prova scritta - o prove parziali - e prova orale, con le modalità descritte qui sotto. Gli aspetti valutati in ciascuna prova sono l'esattezza delle risposte, la creatività, la precisione, la chiarezza espositiva. Ci saranno 5 appelli d'esame (due a febbraio, uno a giugno, uno a luglio, uno a settembre).
- La prova scritta ha una durata di tre ore e riceve una valutazione in trentesimi. Nella prova vengono valutate abilità pratiche (soluzione di esercizi) oltre che conoscenze e competenze teoriche (definizioni, esempi e controesempi). La prova scritta risulta superata col punteggio minimo di 15/30 e permette di accedere alla prova orale.
- A metà e alla fine del corso sono previste due prove parziali scritte, della durata di un'ora e mezza ciascuna, valutate in quindicesimi. Il superamento di entrambe le prove parziali col punteggio minimo di 7,5/15 equivale al superamento della prova scritta (con la "somma" dei punteggi ottenuti) e permette di accedere alla prova orale.
- La prova orale ha una durata di 30-45 minuti e riceve una valutazione in trentesimi. Può essere sostenuta (dopo avere superato la prova scritta) in un appello qualsiasi dello stesso anno accademico. Nella prova viene valutata la conoscenza di una selezione di dimostrazioni e la conoscenza operativa delle nozioni del corso. La prova orale risulta superata col punteggio minimo di 15/30.
- La valutazione finale risulta dalla media delle valutazioni della prova scritta e della prova orale. L'esame risulta superato col punteggio minimo di 18/30.
Esonero dalla prova orale. Chi supera la prova scritta con un punteggio compreso tra 20/30 e 27/30 può rinunciare a sostenere la prova orale, registrando il voto ottenuto nella prova scritta; con un punteggio superiore a 27/30 è ancora possibile rinunciare a sostenere la prova orale, ma in questo caso il voto registrato sarà di 27/30; infine, con un punteggio inferiore a 20/30, è necessario sostenere la prova orale.
Orario di ricevimento
Fissato all'inizio del corso e riportato sulla pagina e-learning.
Aims
The course aims at providing students with the basic concepts and tools of probability theory, together with an illustration of some applications. At the end of the course students will have acquired the following:
- knowledge: language, definitions and statements of the fundamental results in probability theory;
- competence: operational understanding of the main proof techniques;
- skills: ability to apply theoretical notions to the solution of exercises and the analysis of problems.
Contents
- Probability spaces
- Random variables
- Convergence of random variables
- Introduction to Markov chains
- Examples of probability models
Detailed program
1. Probability spaces
- Introduction to probability: mathematical models for a random experiment
- Axioms of probability
- Basic properties of probability, continuity from above and below
- Combinatorics, uniform probability spaces
- Conditional probability, Bayes theorem
- Independence of events, Bernoulli trials
2. Random variables
- Reminders of measure theory
- Important distributions, discrete and continuous, on the real line
- Random variables
- Marginal laws and joint law
- Independence of random variables
- Transformations of random variables
- Expected value, variance and covariance
- Lp spaces, inequalities (Jensen, Cauchy-Schwarz, Hölder)
- Correlation coefficient and linear regression (hints)
3. Convergence of random variables
- Reminder on convergence theorems in the theory of integration
- Borel-Cantelli lemma
- Weak and strong law of large numbers
- Notions of convergence for sequences of random variables (a.s., in probability, in Lp)
- Weak convergence of probabilities, convergence in law of random variables
- Law of small numers (weak convergence of the binomial to the Poisson distribution)
- Central limit theorem via Lindeberg's principle
- Central limit theorem via characteristic functions (hints)
- The method of normal approximation
- Independence of sigma-algebras, Kolmogorov's 0-1 law
4. Introduction to Markov chains
- Introduction to stochastic processes, finite-dimensional distributions
- Markov chains, transition matrix, Markov property
- Recurrent and transient states, invariant and reversible measures
- Convergence theorem (hints): convergence to equilibrium, law of large numbers
- Absorption probabilities (hints)
- Random walks on graphs (hints)
5. Examples of probability models (presented alongside the theory)
- Classical paradoxes (birthdays, Monty-Hall, Borel, Bertrand)
- Random permutation and fixed points
- Concentration properties of volume in high-dimensions
- Weierstrass' approximation theorem and the law of large numbers
- Simulation of random variables, the Monte Carlo method
- Simple random walk in one and more dimensions
- Gambler's ruin
- The PageRank algorithm
Prerequisites
The knowledge, competences and skills taught in the courses of the first two years, in particular Linear Algebra, Analysis 1 and 2 (= calculus in one and more variables), Measure Theory.
Teaching form
Lectures and recitations in the classroom, divided into:
- theoretical lectures (10 ects) focused on the knoledge of definitions, results and relevant examples, as well as the competences linked to their comprehension;
- recitations (2 ects) focused on the skills necessary to apply the theoretical knoledge and competencies to the solution of exercises.
The course is given in Italian.
Textbook and teaching resource
Reference textbooks
- F. Caravenna, P. Dai Pra. Probabilità. Un'introduzione attraverso modelli e applicazioni. Springer-Verlag Italia, Milano (2013).
- D. Williams. Probability with Martingales. Cambridge University Press (1991).
Other dydactical material (available on the e-learning page of the course)
- Notes by the teacher on specific arguments
- Weekly exercise sheets (with detailed solutions)
- Written exams from previous years (with detailed solutions)
- List of proofs for the oral examination
Semester
Third year, First (Fall) Semester.
Assessment method
Written examination (or midterms) and oral examination, with the rules described in the sequel. The aspects that will be evaluated are the correctness of the answers, the creativity, the precision, the clarity of exposition. There will be 5 exam sessions (two in February, one in June, one in July, one in September).
- The written examination lasts 3 hours and gets a mark out of 30. This examination tests practical skills (solving exercises) and also theotetical knoledge and competencies (definitions, examples and counter-examples). The written examination is passed with a minimal mark of 15/30 and allows to be admitted to the oral examination.
- In the middle and at the end of the course there will be two midterm
written exams, which last 1.5 hours each and get a mark out of 15. Passing both midterms with a minimal mark of 7,5/15 is equivalent to passing the written examination (with the "sum" of the marks) and allows to be admitted to the oral examination.
- The oral examination lasts 30-45 minutes and gets a mark out of 30. It can be given (after passing the written examination) in any exam session of the same academic year. The oral examination tests the knowledge of a selection of proofs as well as a working knowledge of the notions of the course. The oral examinations is passed with a minimal mark of 15/30.
- The final mark results from the average between the marks of the written and oral examinations. The exam is passed with a minimal mark of 18/30.
Exemption from the oral examination. Passing the written examination with a mark in the range 20-27/30 allows to be exempted from the oral examination, the final mark being equal to the mark obtained in the written examination; with a mark greater than 27/30 it is still possible to be exempted from the oral examination, however the final mark in this case will be 27/30; finally, with a mark smaller than 20/30 it is necessary to take the oral examination.
Office hours
To be fixed at the beginning of the course and communicated in the e-learning page.
Key information
Staff
-
Elena Bandini
-
Francesco Caravenna