Video falsi di persone reali - e come scoprirli

Pensate di essere bravi a scoprire video falsi, dove gente famosa dice frasi mai dette nella vita reale? Guardate come vengono realizzati in questo sorprendente talk e demo tecnologica. Lo scienziato informatico Supasorn Suwajanakorn rivela come, da studente universitario, ha usato l'intelligenza artificiale e la rappresentazione 3D per creare video di persone, falsi ma realistici, sincronizzati con l'audio. Un intervento per saperne di più sia sulle implicazioni etiche, che sulle potenzialità di questa tecnologia, oltre che sui passi intrapresi per combatterne l'uso improprio.

Guardate queste immagini.

Ditemi quale Obama è reale.

(Video) Barack Obama: Gli aiuti
alle famiglie per la casa,

gli investimenti per l'alta tecnologia,

energia pulita

ed infrastrutture che creano
nuove opportunità di lavoro.

Supason Auwajanakorn: Qual è?

La risposta è: neanche uno.

(Risate)

Neanche uno di questi è reale.

Lasciate che vi racconti
come ci siamo arrivati.

L'ispirazione per questo lavoro

mi è venuta da un progetto volto
a preservare l'ultima chance

di approfondire l'Olocausto,
grazie al racconto dei sopravvissuti.

Si chiama 'New Dimensions in Testimony'

e vi permette di conversare

con l'ologramma
di un reale superstite dell'Olocausto.

(Video) Uomo: Com'è sopravvissuto
all'Olocausto?

(Video) Ologramma:
Come sono sopravvissuto?

Sono sopravvissuto,

io credo,

per un disegno della provvidenza.

SS: Queste risposte erano state registrate
in precedenza in uno studio.

Eppure l'effetto è sorprendente.

Ci si sente davvero legati alla sua storia
e a lui come persona.

Penso che ci sia qualcosa di speciale
nelle interazioni umane

che le rende più profonde

e intime

rispetto a quanto possano insegnare
libri, conferenze o film.

Ho visto questo filmato
e ho cominciato a chiedermi:

possiamo creare una rappresentazione 3D
come questa per chiunque?

Una rappresentazione 3D che vede,
parla e agisce come le persone?

Ho deciso di scoprire se lo si poteva fare

e alla fine sono arrivato
ad una nuova soluzione

che può creare un un modello di persona
usando nient'altro che questi:

foto e video esistenti di una persona.

Se si possono sfruttare
questo tipo di informazioni passive,

foto e video che sono in circolazione,

questo è il modo per riprodurre chiunque.

A proposito, lui è Richard Feynman,

che, oltre ad aver vinto
il premio Nobel per la fisica,

era anche un insegnante leggendario.

Non sarebbe grandioso
se potessimo riportarlo indietro

a tenere le sue lezioni
ed ispirare milioni di ragazzi,

non solo in lingua inglese
ma in tutte le altre lingue?

O se potessimo chiedere consiglio ai nonni
e sentire le loro parole di conforto

anche se non sono più con noi?

O forse, utilizzando questo strumento,
scrittori, vivi o no,

potrebbero leggere tutti i loro libri
ad alta voce a chiunque fosse interessato.

Le possibilità sono infinite

e, a mio parere,
la questione è appassionante.

Ad oggi, funziona in questo modo.

Primo, introduciamo una nuova tecnica

che può ricostruire un modello facciale 3D
altamente accurato da qualsiasi immagine

senza mai eseguire
la scansione 3D della persona.

Questa è la stessa rappresentazione
partendo da differenti angolazioni.

Funziona anche con i video,

eseguendo lo stesso algoritmo
su ogni fotogramma video

e generando una rappresentazione 3D
in movimento.

Questa è la stessa rappresentazione
da diverse angolazioni.

In effetti, tale tecnica
è molto complessa,

ma il fulcro è che andremo ad analizzare

preliminarmente un grande numero
di immagini della persona.

Per George W. Bush,
basta cercare foto su Google

e da quelle possiamo creare
un modello medio,

una rappresentazione definita, iterativa
per recuperare l'espressione

nei minimi dettagli,
come grinze e rughe d'espressione.

Ciò che affascina

è che la raccolta fotografica
può derivare dalle vostre tipiche foto.

Non è importante l'espressione

o dove sono state scattate le foto.

Ciò che importa è averne molte.

E qui non abbiamo ancora i colori,

quindi sviluppiamo
una nuova tecnica di fusione

che perfeziona il metodo a media singola

e produce strutture facciali
e colori nitidi.

Ciò può essere fatto per ogni espressione.

Ora abbiamo il controllo
del modello di una persona

che viene gestito
tramite una sequenza di foto statiche.

Notate come le rughe vanno e vengono
in base all'espressione,

Possiamo anche usare un video
per ottenere la rappresentazione 3D.

(Video) Daniel Craig: Giusto,
ma in qualche modo,

siamo riusciti ad attrarre
persone più interessanti.

SS: Ecco un'altra demo divertente.

Quello che vedete qui
sono modelli controllabili di persone

che ho costruito dalle loro foto
su internet.

Trasferendo il movimento
dal video in ingresso,

possiamo gestire tutto il gruppo.

George W. Bush: È difficile
far approvare questa legge,

perché ci sono troppi emendamenti,

e il percorso legislativo
può essere insidioso.

(Applausi)

SS: Per fare un passo indietro,

il nostro obiettivo ultimo, piuttosto,
è catturare le loro tipicità espressive

o il modo unico in cui ciascuna
di queste persone parla e sorride.

Per farlo, possiamo insegnare ai computer

a imitare il modo in cui uno parla

mostrando solo la ripresa video
di quella persona?

Quello che ho fatto, è stato
far guardare al computer

14 ore di discorsi tenuti da Barack Obama.

Questo è ciò che possiamo produrre
solo con il suo audio.

(Video) BO: I risultati sono chiari.

Le imprese americane hanno creato
14,5 milioni di nuovi posti di lavoro

per 75 mesi di fila.

SS: Qui abbiamo sintetizzato
solo la zona della bocca,

in questo modo.

Le sequenze lineari usano una rete neurale

per convertire un input audio
in questi punti della labbra.

(Video) BO: È grazie al nostro lavoro,
o grazie a Medicare, o Medicaid.

SS: Dopo sintetizziamo la struttura,
miglioriamo dettagli e dentatura,

e li uniamo alla testa e allo sfondo,
presi da un video sorgente.

(Video) BO: Per le donne checkup gratuiti,

e non dovranno pagare di più
solo per il fatto di essere donne.

I giovani potranno rimanere
a carico dei genitori fino a 26 anni.

SS: Penso che questi risultati
siano realistici ed intriganti,

ma allo stesso tempo fanno paura,
persino a me.

Il nostro obiettivo era un modello 3D
accurato, non una falsificazione.

Ciò che mi preoccupa
è l'abuso che potrebbe derivarne.

Le persone si occupano di questo
problema da molto tempo,

da quando Photoshop apparve
per la prima volta sul mercato.

Come ricercatore, sto anche lavorando
su una tecnologia di contromisura,

e faccio parte di un progetto
in corso alla AI Foundation,

che usa un mix di apprendimento automatico
e moderatori umani

per scoprire immagini e video falsi,

combattendo contro il mio stesso lavoro.

Uno dei dispositivi prossimi al lancio
si chiama 'Reality Defender',

un'estensione delle funzioni del browser
in grado di segnalare contenuti falsi

in automatico, direttamente nel browser.

(Applausi)

Nonostante questo, tuttavia,

i video falsi
possono arrecare molti danni,

persino prima che qualcuno
abbia l'opportunità di verificarli,

quindi è molto importante
che rendiamo tutti consapevoli

di ciò che è attualmente possibile

così da partire dal presupposto giusto
ed essere critici su ciò che vediamo.

Manca ancora molto prima di poter
creare modelli completi di una persona

e prima di poter garantire
la sicurezza di questa tecnologia.

Ma sono pieno
di entusiasmo e speranza,

perché se usato bene e attentamente,

questo strumento può far sì
che il nostro impatto positivo sul mondo

possa essere fortemente accresciuto

e contribuire a plasmare il futuro
nel modo in cui vogliamo che sia.

Grazie.

(Applausi)