-
Gli algoritmi non sono obiettivi.
-
L'IA e molte delle nuove tecnologie
stanno perpetuando i pregiudizi.
-
Loro non predicono il futuro,
loro causano il futuro.
-
CONTINUANDO LA CONVERSAZIONE
-
IL DILEMMA SOCIALE
-
Passo molto del mio tempo
pensando ai pregiudizi,
-
perché sono fatta così.
-
E inoltre, l'incapacità del governo
-
di comprendere queste questioni
-
porta alla mancanza di normative
e leggi che aiutino
-
ad attenuare alcuni dei problemi
che abbiamo già visto con l'IA.
-
Gli algoritmi non sono obbiettivi.
-
Gli algoritmi sono ottimizzati
per una strana definizione di successo.
-
Utilizzano dati storici
per predire i successi futuri.
-
La gente crede ciecamente
-
che gli algoritmi siano
giusti e obbiettivi per natura
-
e forse perché
credono in questa lealtà
-
non mettono in dubbio l'algoritmo.
-
Quindi, quando l'algoritmo
si mostra razzista come i dati
-
che vi inseriamo,
-
riproduce esattamente i modelli
che vorremmo evitasse.
-
I sistemi stanno introducendo
tonnellate di informazioni senza contesto,
-
senza storia e persino
senza questioni politiche,
-
economiche e sociali.
-
Quindi ci sono maggiori probabilità
che un sistema di IA
-
incarni questi pregiudizi
o che addirittura li peggiori.
-
Esistono quattro tipi di algoritmo
-
che credo vengano utilizzati indebitamente
-
e questo potrebbe causare
gravi danni alla società.
-
Le quattro categorie sono:
-
Finanziario.
-
Sono algoritmi che decidono
-
se la gente comprerà
un'assicurazione e a quanto,
-
se avrà delle buone carte di credito,
-
se otterrà l'ipoteca,
-
se troverà una casa.
-
Se apri il sito web
di una carta di credito,
-
non avrai informazioni
sulle carte di credito.
-
Ti studiano e ti analizzano
-
e sono loro a mostrarti
che carta di credito fa per te.
-
La seconda categoria
ha a che vedere con la libertà.
-
Come sei sorvegliato?
-
Per quanto tempo vai in carcere?
-
Sei stato in carcere
in attesa di processo?
-
La terza categoria riguarda
i mezzi di sostentamento:
-
il tuo lavoro.
-
Ottieni un colloquio
per il lavoro richiesto?
-
Hai trovato lavoro?
-
Hai ricevuto un aumento di stipendio?
-
Qual è il tuo orario di lavoro?
-
Un esempio che attirò
l'attenzione dei mezzi di comunicazione
-
era un algoritmo di contrattazione
-
che favorì in modo spropositato
le persone che si chiamavano "Jared"
-
e che giocavano a lacrosse, perché
-
la maggior parte delle persone
con un buon rendimento in quell'azienda
-
avevano queste due cose in comune.
-
E la quarta categoria
è l'informazione stessa.
-
Come si ottiene l'informazione?
-
In cosa crediamo?
-
Informazione politica, principalemente.
-
Queste cose sono algoritmi adesso.
-
A volte sono ingiuste.
-
Altre volte illegali.
-
Però non abbiamo scoperto come applicare
le nostre leggi contro la discriminazione.
-
La distopia che mi preoccupa è che...
-
non noi freniamo
gli oscuri e pericolosi algoritmi.
-
"Ehi, ti stiamo seguendo
dalla tua nascita.
-
Sappiamo che
-
hai avuto un'infanzia infelice,
-
in un quartiere dove molta gente
non ha avuto successo e...
-
Prevediamo che non avrai successo.
-
Non solo questo,
-
ma faremo il possibile affinché accada".
-
Non andrai in una buona università.
-
Né otterrai un buon lavoro
-
e nemmeno un prestito.
-
Perché questo fanno
realmente gli algoritmi.
-
Non predicono il futuro,
loro causano il futuro.
-
IL DILEMMA SOCIALE
-
IL NOSTRO DILEMMA SOCIALE
