Opasnost od UI čudnija je nego što mislite
-
0:02 - 0:05Dakle, umjetna inteligencija
-
0:05 - 0:08poznata je po remećenju
svih vrsta industrija. -
0:09 - 0:11Što je sa sladoledima?
-
0:12 - 0:16Koje nevjerojatne vrste novih okusa
bismo mogli napraviti -
0:16 - 0:19uz sposobnosti napredne
umjetne inteligencije? -
0:19 - 0:23Dakle, udružila sam se s timom programera
iz Srednje škole "Kealing" -
0:23 - 0:25kako bih pronašla odgovor na ovo pitanje.
-
0:25 - 0:31Oni su skupili preko 1600
postojećih okusa sladoleda -
0:31 - 0:36i zajedno smo ih stavili u algoritam
kako bismo vidjeli što će proizvesti. -
0:36 - 0:40I evo nekoliko okusa koje je UI smislila.
-
0:40 - 0:42[Pauza za smeće od bundeve]
-
0:42 - 0:43(Smijeh)
-
0:43 - 0:46[Ljiga od kikiriki maslaca]
-
0:46 - 0:48[Bolest kreme od jagoda]
-
0:48 - 0:50(Smijeh)
-
0:50 - 0:55Ovi okusi nisu ukusni onoliko koliko
smo se nadali da bi mogli biti. -
0:55 - 0:57Dakle, pitanje je: Što se dogodilo?
-
0:57 - 0:58Što je pošlo po zlu?
-
0:58 - 1:00Pokušava li nas UI ubiti?
-
1:01 - 1:05Ili pokušava napraviti ono što smo
tražili, ali se pojavio problem? -
1:07 - 1:09U filmovima, kada nešto s UI pođe po zlu,
-
1:09 - 1:12obično je to zato što je UI odlučila
-
1:12 - 1:14kako ne želi više izvršavati naredbe ljude
-
1:14 - 1:17i kako ima svoje ciljeve, molim lijepo.
-
1:17 - 1:20U stvarnosti, ipak, UI koju imamo
-
1:20 - 1:23nije ni blizu toliko pametna
za takvo nešto. -
1:23 - 1:26Računalna moć joj je otprilike veličine
-
1:26 - 1:27gliste
-
1:27 - 1:30ili možda najviše jedne pčele,
-
1:31 - 1:33a zapravo, vjerojatno i manja.
-
1:33 - 1:35Stalno učimo nove stvari o mozgu
-
1:35 - 1:40koje potvrđuju koliko zapravo naša UI
nije ni blizu pravog mozga. -
1:40 - 1:45Današnja UI može obaviti zadatak kao što
je identificiranje pješaka na slici, -
1:45 - 1:48ali nema predodžbu toga što je pješak,
-
1:48 - 1:53osim što je skup linija,
tekstura i stvari. -
1:54 - 1:56Ne zna što je zapravo čovjek.
-
1:57 - 2:00Dakle, hoće li današnja UI učiniti
ono što od nje tražimo? -
2:00 - 2:02Hoće ako može,
-
2:02 - 2:04ali možda neće moći napraviti ono što
mi zapravo želimo. -
2:04 - 2:07Recimo da pokušavate učiniti da UI
-
2:07 - 2:10uzme ovu skupinu dijelova robota
-
2:10 - 2:14i sastavi ih u nekakvog robota da dođe
od točke A do točke B. -
2:14 - 2:16Ako pokušate riješiti problem
-
2:16 - 2:19tako da napišete tradicionalan
kompjutorski program, -
2:19 - 2:22dali biste programu upute korak po korak
-
2:22 - 2:23kako da uzme dijelove
-
2:23 - 2:26i sastavi ih u robota s nogama,
-
2:26 - 2:29a onda kako da upotrijebi te noge
da dođe do točke B. -
2:29 - 2:32Ali kada koristite UI
za rješavanje problema, -
2:32 - 2:33to ide drugačije.
-
2:33 - 2:35Ne kažete joj kako da riješi problem,
-
2:35 - 2:37samo joj date cilj,
-
2:37 - 2:40a ona mora sama zaključiti, kroz sustav
pokušaja i pogrešaka, -
2:40 - 2:42kako doći do tog cilja.
-
2:42 - 2:46Ispada kako UI ovaj problem
nastoji riješiti -
2:46 - 2:48radeći ovo:
-
2:48 - 2:51sastavi se u toranj i onda se sruši
-
2:51 - 2:53i sleti na točku B.
-
2:53 - 2:56Tehnički, ovo rješava problem.
-
2:56 - 2:58Tehnički, došla je do točke B.
-
2:58 - 3:02Opasnost od UI nije
što će se pobuniti protiv nas, -
3:02 - 3:06nego što će napraviti točno ono
što od nje tražimo. -
3:07 - 3:09Tako da pitanje rada s UI postaje:
-
3:09 - 3:13Kako postaviti problem tako da zapravo
napravi ono što mi želimo? -
3:15 - 3:18Ovim malim robotom ovdje upravlja UI.
-
3:18 - 3:21UI smislila je dizajn za noge robota
-
3:21 - 3:25i onda pronašla način kako ih iskoristiti
da prijeđe sve ove prepreke. -
3:25 - 3:28Ali kada je David Ha postavio ovaj
eksperiment, -
3:28 - 3:31morao ga je postaviti s veoma, veoma
čvrstim ograničenjima -
3:31 - 3:34u vezi toga koliko velike noge
UI smije napraviti, -
3:34 - 3:36inače...
-
3:43 - 3:47(Smijeh)
-
3:49 - 3:52I tehnički, došla je do kraja tog
slijeda prepreka. -
3:52 - 3:57Dakle, vidite koliko je teško dobiti da
UI napravi nešto jednostavno kao hodanje. -
3:57 - 4:01Gledajući kako UI ovo radi možete reći,
OK, nije fer, -
4:01 - 4:04ne možeš biti samo visoki toranj
i srušiti se, -
4:04 - 4:07moraš zapravo upotrijebiti noge
za hodanje. -
4:07 - 4:10A ispada kako ni to ne upali svaki puta.
-
4:10 - 4:13Posao je ove UI da se kreće brzo.
-
4:13 - 4:17Nisu joj rekli da mora trčati dok je
okrenuta prema naprijed -
4:17 - 4:19ili da ne smije koristiti ruke.
-
4:19 - 4:24Ovo dobijete kada kažete UI
da se kreće brzo, -
4:24 - 4:28dobijete salta i čudna hodanja.
-
4:28 - 4:29To je uobičajeno.
-
4:30 - 4:33Kao i što je trzanje po podu dok je
skupljena na hrpu. -
4:33 - 4:34(Smijeh)
-
4:35 - 4:38Tako da po mom mišljenju, znate što bi
trebalo biti puno čudnije? -
4:39 - 4:40"Terminator" roboti.
-
4:40 - 4:44Hakiranje "Matrice" još je jedna stvar
koju će UI napraviti ako joj date priliku. -
4:44 - 4:47Tako da ako stavite UI u simulaciju,
-
4:47 - 4:51naučit će kako napraviti stvari kao što su
hakiranje u matematičke pogreške simulacije -
4:51 - 4:53i upotrijebiti ih za energiju.
-
4:53 - 4:58Ili će skužiti kako se kretati brže tražeći
greške kako bi prošla ispod površine. -
4:58 - 5:00Kada radite s UI,
-
5:00 - 5:02nije kao da radite s drugim čovjekom,
-
5:02 - 5:06više je kao da radite s nekakvom čudnom
silom prirode. -
5:07 - 5:11I veoma je jednostavno slučajno dati UI
da riješi krivi problem, -
5:11 - 5:16a to često ne shvatimo dok nešto
ne pođe po zlu. -
5:16 - 5:18Evo eksperimenta koji sam napravila
-
5:18 - 5:22u kojem sam htjela da UI kopira
boje za slikanje, -
5:22 - 5:23kako bi izmislila nove boje,
-
5:23 - 5:26kada joj damo popis
kao što je ovaj lijevo. -
5:27 - 5:29I evo što je UI smislila.
-
5:30 - 5:33[Sindis kakica, Govnasto, Patiti, Siva stidna]
(okvirna značenja) -
5:33 - 5:37(Smijeh)
-
5:39 - 5:41Dakle tehnički,
-
5:41 - 5:43napravila je ono što sam je tražila.
-
5:43 - 5:46Mislila sam da sam je tražila
lijepa imena za boje, -
5:46 - 5:49ali ono što sam je zapravo tražila
-
5:49 - 5:52je da samo imitira vrste kombinacije slova
-
5:52 - 5:54koje je vidjela u originalu.
-
5:54 - 5:57I nisam joj rekla ništa o tome
što riječi znače -
5:57 - 5:59ili o tome kako bi mogle postojati riječi
-
5:59 - 6:02koje bi trebala izbjegavati
u ovim bojama za slikanje. -
6:03 - 6:07Dakle njezin cijeli svijet sastoji se od
podataka koje joj dam. -
6:07 - 6:11Kao i s okusima sladoleda, ne zna
ni za što drugo. -
6:12 - 6:14Tako da zapravo kroz podatke
-
6:14 - 6:18često UI slučajno govorimo
da napravi krivu stvar. -
6:19 - 6:22Ovo je riba linjak.
-
6:22 - 6:24Bila je grupa istraživača
-
6:24 - 6:27koja je trenirala UI da pronađe
linjaka na slikama. -
6:27 - 6:29Ali kada su je upitali
-
6:29 - 6:32koji je dio slike zapravo koristila
da pronađe ribu, -
6:32 - 6:34evo što je pokazala.
-
6:35 - 6:37Da, to su ljudski prsti.
-
6:37 - 6:39Zašto bi tražila ljudske prste
-
6:39 - 6:41ako nastoji pronaći ribu?
-
6:42 - 6:45Pa, ispada kako je linjak
trofejna riba, -
6:45 - 6:49tako da je na većini slika riba
koje je UI vidjela -
6:49 - 6:50tijekom treninga,
-
6:50 - 6:52ova riba izgledala ovako.
-
6:52 - 6:53(Smijeh)
-
6:53 - 6:57I nije znala kako prsti nisu dio ribe.
-
6:59 - 7:03Tako da vidite zašto je toliko teško
dizajnirati UI -
7:03 - 7:06koja zapravo razumije u što gleda.
-
7:06 - 7:09I zato je dizajniranje
prepoznavanja slike -
7:09 - 7:11u samovozećim autima toliko teško,
-
7:11 - 7:13i zašto je toliko pogrešaka u
samovozećim autima -
7:14 - 7:16zato što se UI zbunila.
-
7:16 - 7:20Želim vam pričati o primjeru iz 2016.
-
7:20 - 7:25Dogodila se smrtna nesreća kada je netko
koristio Teslin autopilot, -
7:25 - 7:28ali umjesto da su ga koristili na
autocesti za što je i bio napravljen, -
7:28 - 7:31koristili su ga na gradskim ulicama.
-
7:31 - 7:32I ono što se dogodilo je
-
7:32 - 7:36da je kamion izletio pred auto
i auto nije zakočio. -
7:37 - 7:41UI definitivno je bila trenirana
da prepozna kamion na slikama. -
7:41 - 7:43Ali izgleda kako je ono
što se dogodilo bilo -
7:43 - 7:46da je UI trenirana da prepozna kamione
u vožnji autocestom -
7:46 - 7:49gdje biste očekivali vidjeti kamion
sa stražnje strane. -
7:49 - 7:53Stranice kamiona nisu ono što bi
se trebalo vidjeti na autocesti, -
7:53 - 7:56tako da kad je UI vidjela ovaj kamion,
-
7:56 - 8:01izgleda kako ga je vjerojatno
prepoznala kao znak na cesti -
8:01 - 8:03i zbog toga, kao sigurno za proći ispod.
-
8:04 - 8:07Evo pogreška UI na drugom polju.
-
8:07 - 8:10Amazon je nedavno morao odustati od
algoritma za razvrstavanje životopisa -
8:10 - 8:11na kojem su radili,
-
8:11 - 8:15kada su otkrili kako je algoritam naučio
diskriminirati žene. -
8:15 - 8:18Ono što se dogodilo je da su ga trenirali
na primjerima životopisa -
8:18 - 8:20ljudi koje su ranije zaposlili.
-
8:20 - 8:24A iz tih je primjera UI naučila
izbjegavati životopise ljudi -
8:24 - 8:26koji su išli na ženske fakultete
-
8:26 - 8:29ili koji su imali riječ "žena" negdje
unutar životopisa, -
8:29 - 8:34kao u "ženska nogometna momčad" ili
"Društvo žena inženjera". -
8:34 - 8:38UI nije znala kako nije trebala kopirati
ovu osobitu stvar -
8:38 - 8:40koju je vidjela da ljudi rade.
-
8:40 - 8:43I tehnički, učinila je ono
što su je tražili. -
8:43 - 8:46Samo su je slučajno tražili
da napravi krivu stvar. -
8:47 - 8:50A ovo se s UI stalno događa.
-
8:50 - 8:54Može biti destruktivna a da i ne zna.
-
8:54 - 8:59Tako da UI koje preporučuju nove
sadržaje na Facebooku, YouTubeu, -
8:59 - 9:02optimizirane su da povećaju
broj klikova i pregleda. -
9:02 - 9:06A nažalost, jedan način na koji se ovo
može raditi -
9:06 - 9:10je preporučiti sadržaj teorija urote
ili netrpeljivosti. -
9:11 - 9:16UI same po sebi nemaju predodžbu
što taj sadržaj zapravo je -
9:16 - 9:20i nemaju predodžbu o tome koje bi
posljedice mogle biti -
9:20 - 9:22kada se preporučuje ovaj sadržaj.
-
9:22 - 9:24Tako da kada radimo s UI,
-
9:24 - 9:29na nama je da izbjegavamo probleme.
-
9:29 - 9:31A izbjegavanjem toga da stvari krenu
u krivom smjeru -
9:31 - 9:35može doći do drevnog problema
komunikacije -
9:35 - 9:39gdje mi kao ljudi moramo naučiti
kako komunicirati s UI. -
9:39 - 9:43Moramo naučiti za što je UI sposobna,
a za što nije, -
9:43 - 9:46i razumjeti kako, sa svojim minijaturnim
mozgom gliste, -
9:46 - 9:50UI zapravo ne razumije
što želimo od nje da napravi. -
9:51 - 9:54Dakle, drugim riječima, moramo se
pripremiti na rad s UI -
9:54 - 10:00koja nije svemoguća i sveznajuća
UI iz znanstvene fantastike. -
10:00 - 10:02Moramo se pripremiti na rad s UI
-
10:02 - 10:06koju zapravo imamo u sadašnjosti.
-
10:06 - 10:10A sadašnja UI je već dovoljno čudna.
-
10:10 - 10:11Hvala.
-
10:11 - 10:16(Pljesak)
- Title:
- Opasnost od UI čudnija je nego što mislite
- Speaker:
- Janelle Shane
- Description:
-
Opasnost od umjetne inteligencije ne leži u tome što će se ona pobuniti protiv nas, nego što će napraviti točno ono što od nje tražimo, kaže istraživačica UI Janelle Shane. Dok dijeli čudne, ponekad uznemiravajuće nepodopštine algoritama UI koja pokušava riješiti ljudske probleme -- kao što su stvaranje novih okusa sladoleda ili prepoznavanja auta na cesti -- Shane pokazuje zašto UI još uvijek nije na razini pravog mozga.
- Video Language:
- English
- Team:
- closed TED
- Project:
- TEDTalks
- Duration:
- 10:28
Sanda L approved Croatian subtitles for The danger of AI is weirder than you think | ||
Sanda L edited Croatian subtitles for The danger of AI is weirder than you think | ||
Sanda L accepted Croatian subtitles for The danger of AI is weirder than you think | ||
Sanda L edited Croatian subtitles for The danger of AI is weirder than you think | ||
Sanda L edited Croatian subtitles for The danger of AI is weirder than you think | ||
Nina Bassi edited Croatian subtitles for The danger of AI is weirder than you think | ||
Nina Bassi edited Croatian subtitles for The danger of AI is weirder than you think | ||
Nina Bassi edited Croatian subtitles for The danger of AI is weirder than you think |