Teoria dell'informazione e della trasmissione
A.A. 2023/2024
Obiettivi formativi
L'insegnamento si prefigge di fornire agli studenti un'approfondita conoscenza della teoria dell'informazione secondo Claude Shannon. Inoltre, verranno presentate le necessarie nozioni di teoria dei codici
Risultati apprendimento attesi
Al termine dell'insegnamento gli studenti saranno in grado di: (1) Descrivere e rappresentare in modo appropriato le sorgenti di informazione; (2) trasmettere l'informazione su un canale (rumoroso)
Periodo: Primo semestre
Modalità di valutazione: Esame
Giudizio di valutazione: voto verbalizzato in trentesimi
Corso singolo
Questo insegnamento può essere seguito come corso singolo.
Programma e organizzazione didattica
Edizione unica
Responsabile
Periodo
Primo semestre
Programma
Introduzione al corso e nozioni matematiche basilari. Modello di canale con e senza rumore. Modello di sorgente. Codifica della sorgente. Codice univocamente decodificabile. Codice istantaneo. Disuguaglianza di Kraft. Codice di Shannon/Fano. Esempi di codice ottale, esadecimale e ASCII. Codice per la rilevazione dell'errore. Rumore bianco. Bit di parità. Rilevazione burst di errori. Compromessi tra ridondanza e capacità di rilevazione degli errori, Codici a ripetizione. Codici di Hamming. Compressione dei dati. Codice di Huffman. I due teoremi di Shannon. Entropia e le sue proprietà. Informazione mutua. Capacità del canale e le sue proprietà. Limiti nella capacità di trasmissione. BCH. Codici Reed-Solomon. Codici ciclici. Codici crittografici post-quantum.
Prerequisiti
Per una migliore comprensione degli argomenti che verranno trattati sono gradite conoscenze di base di statistica e matematica del discreto
Metodi didattici
Lezioni frontali. La modalità di frequenza dell'insegnamento non è obbligatoria ma fortemente consigliata.
Materiale di riferimento
La pagina web https://aviscontic1.ariel.ctu.unimi.it/ vi ridirigerà semplicemente qui: http://www.di.unimi.it/visconti/
Riferimenti bibliografici:
* STEFAN M. MOSER, PO-NING CHEN, A Student's Guide to Coding and Information Theory, Cambridge University Press
* Thomas Cover, Joy Thomas, Elements of Information Theory, Wiley
* Jiri Adamek, Foundations of Coding, Wiley
* Richard Hamming, Coding and Information Theory, Prentice-Hall
Ulteriore materiale integrativo (se usato in aula) sarà pubblicato sul sito web dell'insegnamento.
Riferimenti bibliografici:
* STEFAN M. MOSER, PO-NING CHEN, A Student's Guide to Coding and Information Theory, Cambridge University Press
* Thomas Cover, Joy Thomas, Elements of Information Theory, Wiley
* Jiri Adamek, Foundations of Coding, Wiley
* Richard Hamming, Coding and Information Theory, Prentice-Hall
Ulteriore materiale integrativo (se usato in aula) sarà pubblicato sul sito web dell'insegnamento.
Modalità di verifica dell’apprendimento e criteri di valutazione
L'esame consiste di una prova orale (discussione). Tale prova mira ad accertare le conoscenze dello studente sia sugli aspetti teorici della materia (es. Teoremi di Shannon) sia sul quelli applicativi (es. codici per la rilevazione e la correzione degli errori). La discussione orale verte su tutti gli argomenti trattati in aula. La valutazione, espressa in trentesimi, tiene conto del livello di padronanza degli argomenti, della chiarezza espositiva e della proprietà di linguaggio.
Docente/i
Ricevimento:
Controllare le informazini presenti sulla pagina personale del docente.
Stanza 5008 -- Quinto Piano, Dipartimento di Informatica, via Celoria 18, Milano.