Iniziamo con un problema [VENTO CHE SOFFIA] Alice e Bob vivono in due case sugli alberi che distano fra loro e non sono in linea di vista E hanno bisogno di comunicare Decidono perciò di stendere un filo fra le loro case Tendono il filo e connettono due barattoli di latta alle estremità che consentono loro di trasmettere la loro voce esilmente lungo il filo [BOB - CONFUSAMENTE] "Pronto?" [BOB - CONFUSAMENTE] "Pronto? Non ti sento" [ALICE - CONFUSAMENTE] "Io ti sento appena" [ALICE - CONFUSAMENTE] 1, 2, 3, 4, 5 Ma c'è un problema: il rumore [o disturbo lungo la linea] Quantunque c'è vento forte diventa impossibile percepire il segnale rispetto al rumore Alice e Bob devono trovare un modo per aumentare il livello d'energia, l'intensità del segnale per distinguerlo e separarlo dal rumore Bob ha un'idea Basta che pizzichino il filo cosa molto più facile da rilevare anche in presenza di rumore Ma così facendo si presenta loro un nuovo problema Come possono codificare il messaggio attraverso delle pizzicate? Dato che vogliono giocare ad un gioco da tavola a distanza si occupano innanzitutto dei messaggi più comuni il risultato del lancio di due dadi In questo caso, i messaggi che invieranno possono essere considerati come la selezione fra un insieme finito di 'simboli' ovvero, gli 11 risultati possibili che chiamiamo la 'sorgente discreta' Dapprima decidono d'usare il metodo più semplice Trasmettono il risultato come numero di pizzicate Ovverosia, per inviare il risultato '3', pizzicato il filo tre volte per inviare '9' lo pizzicano nove volte '12' sono dodici pizzicate Tuttavia, si rendono presto conto che in questo modo impiegano più tempo del dovuto Provando, trovano che il massima velocità con cui possono pizzicare il filo è due volte al secondo Se accelerano al di là di questo valore, finiscono col confondersi Due pizzicate al secondo rappresentano il 'tasso', o ritmo ovvero la 'capacità' del canale di trasmettere informazione [SUONO DELLE PIZZICATE] Possiamo osservare che il risultato più comune è 7 Ci vogliono 3.5 secondi per spedire il numero 7 [SUONO DI 7 PIZZICATE] Alice allora si rende conto che possono far meglio adottando una diversa strategia di codifica Basta osservare che la probabilità dei vari numeri segue uno schema semplice C'è un solo modo d'ottenere un 2 ci sono due modi d'ottenere un 3 tre modi d'ottenere un 4 quattro modi d'ottenere un 5 cinque modi d'ottenere un 6 sei modi d'ottenere un 7 il risultato più comune cinque modi d'ottenere un 8 quatro modi d'ottenere un 9 e così via sino al 12 Questo grafico mostra il numero di modi in cui possiamo ottenere i vari risultati L'andamento è evidente Ora, trasformiamo il grafico in 'numero di pizzicate in funzione di ciascun simbolo' Alice procede con l'assegnare al risultato più comune, 7, il segnale più breve, una pizzicata [SUONO DI UNA PIZZICATA] Quindi associa al risultato successivo in ordine di probabilità e, in caso di parità, ne sceglie uno a caso Nel nostro esempio, sceglie di rappresentare 6 con due pizzicate 8 con tre pizzicate 5 con quattro pizzicate 9 con cinque pizzicate e così via, sino a raggiungere il 12 al quale assegna undici pizzicate Ora, il risultato più comune, 7, può essere trasmesso in meno d'un secondo un enorme miglioramento Questa semplice modifica nella codifica permette loro, in media, di spedire una maggiore quantità d'informazione nell'unità di tempo Si dimostra che tale strategia di codifica è ottima per un caso del genere nel senso che è impossibile fare meglio nel caso si debba comunicare l'esito del lancio di due dadi - usando pizzicate Eppure, dopo aver praticato questo metodo per un po' Bob ha un'altra illuminazione [SUONO PIZZICATE ALL'INVERSO] [PIZZICATE AL RALLENTATORE - SENZA SUONO]