Homepage  Il progetto dsy.it è l'unofficial support site dei corsi di laurea del Dipartimento di Scienze dell'Informazione e del Dipartimento di Informatica e Comunicazione della Statale di Milano. E' un servizio degli studenti per gli studenti, curato in modo no-profit da un gruppo di essi. I nostri servizi comprendono aree di discussione per ogni Corso di Laurea, un'area download per lo scambio file, una raccolta di link e un motore di ricerca, il supporto agli studenti lavoratori, il forum hosting per Professori e studenti, i blog, e molto altro...
In questa sezione è indicizzato in textonly il contenuto del nostro forum


.dsy:it. .dsy:it. Archive > Didattica > Corsi N - Z > Teoria dell'informazione e della trasmissione
 
{2003/2004}[Diario del Corso]Informazione e Trasmissione
Clicca QUI per vedere il messaggio nel forum
Bulma
"Informazione e Trasmissione" è un corso fondamentale per la Laurea Specialistica in Informatica. Seguono alcune informazioni generali sul corso.


Docente: A. Pagnoni
Sito web di riferimento: www.apagnoni.com

Orari EFFETTIVI di lezione:
Lunedì 14.00 - 15.30
Mercoledì 16.30 - 18.00 (esercitazioni) e 18.15 - 19.00 (lezione)
Venerdì 18.00 - 19.30

in aula BETA.


Struttura:
Il corso è composto di due moduli, ciascuno di 6 cfu.
La prima parte, dal titolo "teoria dell'informazione" è FONDAMENTALE per il corso di laurea specialistica in Informatica.
La seconda parte, dal titolo "codici", è invece un complementare.

Modalità di Esame:
L'esame per il primo modulo è fissato per il 19 aprile.
L'esame per il secondo modulo è fissato per il 11 giugno.
Si tratta, in entrambi i casi, di uno scritto. Se si ottiene un punteggio maggiore o uguale a 28, per poterlo verbalizzare occorre sostenere anche un esame orale.

Materiale didattico:
Per i frequentanti, le slides e gli appunti presi a lezione sono sufficienti.
Per i non frequentanti, sul sito web sono indicati alcuni libri di testo adatti alla preparazione dell'esame (particolarmente indicati il n. 4 e il n.3)

Prerequisiti Matematici:
Sono richieste conoscenze di
- analisi e probabilità, per il primo modulo
- algebra e geometria, per il secondo modulo

Bulma
Introduzione al corso:

- Introduzione alla teoria di Shannon
- Modello di Shannon
- Canali
- Sorgenti
- Quantità di Informazione

Bulma
Argomenti trattati nella lezione di oggi:

- Esercizi sulla quantità di informazione

Bulma
Argomenti trattati nella lezione di oggi:

- Funzione Entropia
- Teorema: H(s) <= log q e sua dimostrazione
- Diseguaglianza di Gibbs e sua dimostrazione
- Codifica di Sorgente

Bulma
Argomenti trattati nella lezione di oggi:

- Albero radicato di ordine r
- Rappresentazione di codici tramite alberi radicati
- Codice efficiente
- Codice ottimale
- Codice istantaneo
- Codice univocamente decodificabile
- Procedimento di Sardinas-Patterson

Bulma
Argomenti trattati nella lezione di oggi:

- Procedimento di Sardinas-Patterson (cont.)
- Teorema di Kraft e sua dimostrazione
- Teorema di McMillan e sua dimostrazione

Attenzione: La lezione di esercitazione si terrà venerdì 12 marzo a partire dalle ore 17.30 (anziché dalle 18.00).

Per le lezioni di esercitazione, mi sembra inutile scrivere un post. Posterò solo le informazioni relative alle lezioni "di teoria" :)

Bulma
Argomenti trattati nella lezione di oggi:

- Algoritmo di Huffman: utilizzo e dimostrazione

Bulma
Argomenti trattati nella lezione di oggi:

- Metodo dei moltiplicatori di Lagrange per minimizzare la lunghezza media di un codice che mantenga l'univoca decodificabilià e che sia efficiente --> risultato: formula dell'entropia

Bulma
Argomenti trattati nella lezione di oggi:

- H <= L(C) + dim.
- Codici di Shannon-Fano + dim.

Bulma
Argomenti trattati nella lezione di oggi:

- Estensione N-esima di una sorgente + dim.
- H(S^n) = n*H(S) (+ dim)
- Primo teorema di Shannon
- Introduzione ai canali

Bulma
Avviso: La lezione di domani, venerdì 26 marzo, è sospesa (cfr. www.apagnoni.it).

Bulma
Argomenti trattati nella lezione di oggi:

- Cenni di calcolo delle probabilità: densità bivariate e congiunte, formula di Bayes

Bulma
Argomenti trattati nella lezione di oggi:

- Irrilevanza
- Equivocazione
- Entropia congiunta della sorgente e del ricevente
- Introduzione ai codici correttori

Bulma
Argomenti trattati nella lezione di oggi:

- Legami tra transinformazione, equivocazione, irrilevanza, entropia della sorgente ed entropia del ricevente
- Teorema: la transinformazione è >= 0 (+ dim)
- Capacità di Canale

Bulma
Argomenti trattati nella lezione di oggi:

- Codici correttori:
* spazi lineari
* distanza di Hamming
* messaggi legali ed illegali
* funzionamento dei codici correttori

Attenzione: La lezione di lunedì 5 aprile inizierà con 15 minuti di anticipo, quindi alle 13.45.

Bulma
Argomenti trattati nella lezione di oggi:

- Secondo teorema di Shannon e dimostrazione
- Canale uniforme in ingresso, uniforme in uscita, canale binario simmetrico

Bulma
Durante la lezione di oggi, la docente ha chiarito dubbi riguardo agli argomenti del corso.

Ricordo che Lunedì 19 aprile si terrà l'esame scritto per il corso di Informazione e Trasmissione. Ricordate di portare la calcolatrice!!!

Venerdì 16 alle ore 17.30, sempre in aula beta, si terrà l'esercitazione in preparazione all'esame.

L'esame sarà costituito da almeno un esercizio e da una dimostrazione (esclusa quella del secondo teorema di Shannon). Per gli esercizi, è richiesto di indicare e giustificare ogni passaggio (in altre parole, non basta riportare soltanto il risultato finale).
In bocca al lupo! :)

Bulma
Vi ricordo che l'esame si terrà lunedì 19 aprile, alle ore 13.30, in aula beta.
In bocca al lupo a tutti! :ciao:

Wally
Bulma, grazie per l'aggiornamento del "diario di bordo", mi è servito tantissimo adesso che ho dovuto riordinare tutto il disordine dei miei appunti sparsi... grazie!! continua così!!!

Per il resto, ho un dubbio: il secondo teorema di Shannon (quello dell'ultima lezione) lo metterà nel compito? voi lo state studiando?
Volevo saltare almeno quel pezzettino [oddio, pezzettino... 3 pagine fitte fitte di appunti!!] e non essendoci stato alla penultima lezione magari l'Anastasia aveva dato qualche dritta o no?

Ah, per chi si è perso l'ultima lezione l'esercitatore ha indicato questo sito dove ci sono un po' di esercizi con le soluzioni http://ssli.ee.washington.edu/courses/it/hw3_sol.pdf.

In bocca al lupo a tutti!

CREPI!!!
e comunque in bocca al lupo anche a te..

ciao

Bulma
Originally posted by Bulma
L'esame sarà costituito da almeno un esercizio e da una dimostrazione (esclusa quella del secondo teorema di Shannon).


Mi auto-quoto :D
Io gli ho dato comunque un'occhiata, ma la docente ha detto esplicitamente che non l'avrebbe richiesto. :ciao:

Wally
oooooooops... allora passerò la sera ad auto-insultarmi!

Bulma
Sono usciti i risultati per l'esame del corso Informazione e Trasmissione. Li trovate sul sito web del corso, insieme alle informazioni per la verbalizzazione! :ciao:

Powered by: vbHome (lite) v4.1 and vBulletin v2.3.1 - Copyright ©2000 - 2002, Jelsoft Enterprises Limited
Mantained by dsy crew (email) | Collabora con noi | Segnalaci un bug | Archive | Regolamento |Licenze | Thanks | Syndacate