.dsy:it. (http://www.dsy.it/forum/)
- Teoria dell'informazione e della trasmissione (http://www.dsy.it/forum/forumdisplay.php?forumid=236)
-- {2003/2004}[Diario del Corso]Informazione e Trasmissione (http://www.dsy.it/forum/showthread.php?threadid=9181)

[Diario del Corso]Informazione e Trasmissione

"Informazione e Trasmissione" è un corso fondamentale per la Laurea Specialistica in Informatica. Seguono alcune informazioni generali sul corso.


Docente: A. Pagnoni
Sito web di riferimento: www.apagnoni.com

Orari EFFETTIVI di lezione:
Lunedì 14.00 - 15.30
Mercoledì 16.30 - 18.00 (esercitazioni) e 18.15 - 19.00 (lezione)
Venerdì 18.00 - 19.30

in aula BETA.


Struttura:
Il corso è composto di due moduli, ciascuno di 6 cfu.
La prima parte, dal titolo "teoria dell'informazione" è FONDAMENTALE per il corso di laurea specialistica in Informatica.
La seconda parte, dal titolo "codici", è invece un complementare.

Modalità di Esame:
L'esame per il primo modulo è fissato per il 19 aprile.
L'esame per il secondo modulo è fissato per il 11 giugno.
Si tratta, in entrambi i casi, di uno scritto. Se si ottiene un punteggio maggiore o uguale a 28, per poterlo verbalizzare occorre sostenere anche un esame orale.

Materiale didattico:
Per i frequentanti, le slides e gli appunti presi a lezione sono sufficienti.
Per i non frequentanti, sul sito web sono indicati alcuni libri di testo adatti alla preparazione dell'esame (particolarmente indicati il n. 4 e il n.3)

Prerequisiti Matematici:
Sono richieste conoscenze di
- analisi e probabilità, per il primo modulo
- algebra e geometria, per il secondo modulo

__________________
The man in black fled across the desert and the gunslinger followed.

Lezione del 01-03-04

Introduzione al corso:

- Introduzione alla teoria di Shannon
- Modello di Shannon
- Canali
- Sorgenti
- Quantità di Informazione

__________________
The man in black fled across the desert and the gunslinger followed.

Lezione del 3-3-04

Argomenti trattati nella lezione di oggi:

- Esercizi sulla quantità di informazione

__________________
The man in black fled across the desert and the gunslinger followed.

Lezione del 5-3-04

Argomenti trattati nella lezione di oggi:

- Funzione Entropia
- Teorema: H(s) <= log q e sua dimostrazione
- Diseguaglianza di Gibbs e sua dimostrazione
- Codifica di Sorgente

__________________
The man in black fled across the desert and the gunslinger followed.

Lezione del 8-3-04

Argomenti trattati nella lezione di oggi:

- Albero radicato di ordine r
- Rappresentazione di codici tramite alberi radicati
- Codice efficiente
- Codice ottimale
- Codice istantaneo
- Codice univocamente decodificabile
- Procedimento di Sardinas-Patterson

__________________
The man in black fled across the desert and the gunslinger followed.

Lezione del 10-3-04

Argomenti trattati nella lezione di oggi:

- Procedimento di Sardinas-Patterson (cont.)
- Teorema di Kraft e sua dimostrazione
- Teorema di McMillan e sua dimostrazione

Attenzione: La lezione di esercitazione si terrà venerdì 12 marzo a partire dalle ore 17.30 (anziché dalle 18.00).

Per le lezioni di esercitazione, mi sembra inutile scrivere un post. Posterò solo le informazioni relative alle lezioni "di teoria"

__________________
The man in black fled across the desert and the gunslinger followed.

Lezione del 15-03-04

Argomenti trattati nella lezione di oggi:

- Algoritmo di Huffman: utilizzo e dimostrazione

__________________
The man in black fled across the desert and the gunslinger followed.

Lezione del 17-03-04

Argomenti trattati nella lezione di oggi:

- Metodo dei moltiplicatori di Lagrange per minimizzare la lunghezza media di un codice che mantenga l'univoca decodificabilià e che sia efficiente --> risultato: formula dell'entropia

__________________
The man in black fled across the desert and the gunslinger followed.

Lezione del 19-03-04

Argomenti trattati nella lezione di oggi:

- H <= L(C) + dim.
- Codici di Shannon-Fano + dim.

__________________
The man in black fled across the desert and the gunslinger followed.

Lezione del 22-03-04

Argomenti trattati nella lezione di oggi:

- Estensione N-esima di una sorgente + dim.
- H(S^n) = n*H(S) (+ dim)
- Primo teorema di Shannon
- Introduzione ai canali

__________________
The man in black fled across the desert and the gunslinger followed.

Avviso: La lezione di domani, venerdì 26 marzo, è sospesa (cfr. www.apagnoni.it).

__________________
The man in black fled across the desert and the gunslinger followed.

Lezione del 24-03-04

Argomenti trattati nella lezione di oggi:

- Cenni di calcolo delle probabilità: densità bivariate e congiunte, formula di Bayes

__________________
The man in black fled across the desert and the gunslinger followed.

Lezione del 29-03-04

Argomenti trattati nella lezione di oggi:

- Irrilevanza
- Equivocazione
- Entropia congiunta della sorgente e del ricevente
- Introduzione ai codici correttori

__________________
The man in black fled across the desert and the gunslinger followed.

Lezione del 31-03-04

Argomenti trattati nella lezione di oggi:

- Legami tra transinformazione, equivocazione, irrilevanza, entropia della sorgente ed entropia del ricevente
- Teorema: la transinformazione è >= 0 (+ dim)
- Capacità di Canale

__________________
The man in black fled across the desert and the gunslinger followed.

Lezione del 2-4-04

Argomenti trattati nella lezione di oggi:

- Codici correttori:
* spazi lineari
* distanza di Hamming
* messaggi legali ed illegali
* funzionamento dei codici correttori

Attenzione: La lezione di lunedì 5 aprile inizierà con 15 minuti di anticipo, quindi alle 13.45.

__________________
The man in black fled across the desert and the gunslinger followed.