Pericolul IA este mai ciudat decât credeți
-
0:02 - 0:05Deci, inteligența artificială
-
0:05 - 0:08e cunoscută pentru perturbarea
multor tipurilor de industrii. -
0:09 - 0:11Dar cum rămâne cu înghețata?
-
0:12 - 0:16Ce fel de arome năucitoare noi
am putea să generăm -
0:16 - 0:19cu puterea
unei inteligențe artificiale avansate? -
0:19 - 0:23Am făcut echipă cu un grup de programatori
de la Kealing Middle School -
0:23 - 0:25pentru a afla răspunsul
la această întrebare. -
0:25 - 0:31Au colectat peste 1.600
de arome existente de înghețată, -
0:31 - 0:36pe care le-am introdus într-un algoritm
pentru a vedea ce va genera. -
0:36 - 0:40Iată câteva dintre aromele
pe care le-a generat IA. -
0:40 - 0:42[Gunoi de Dovleac Crăpat]
-
0:42 - 0:43(Râsete)
-
0:43 - 0:46[Mocirlă de Unt de Arahide]
-
0:47 - 0:48[Boală de Cremă de Căpșuni]
-
0:48 - 0:50(Râsete)
-
0:50 - 0:55Aceste arome nu sunt delicioase,
așa cum am fi sperat că vor fi. -
0:55 - 0:57Deci, întrebarea e: ce s-a întâmplat?
-
0:57 - 0:58Ce a mers rău?
-
0:58 - 1:00Încearcă IA să ne omoare?
-
1:01 - 1:05Sau încearcă să facă ceea ce i-am cerut,
dar a existat o problemă? -
1:07 - 1:09În filme, când ceva
nu merge bine cu IA, -
1:09 - 1:12este de obicei pentru că IA a decis
-
1:12 - 1:14că nu mai vrea să se supună oamenilor,
-
1:14 - 1:17și are propriile ei obiective,
mulțumesc foarte mult. -
1:17 - 1:20În viața reală însă,
IA pe care o avem de fapt -
1:21 - 1:23nu este destul de inteligentă pentru asta.
-
1:23 - 1:26Are puterea de calcul aproximativă
-
1:26 - 1:27cu a unui vierme de pământ,
-
1:27 - 1:30sau poate cel mult
cu a unei singure albine, -
1:31 - 1:33și de fapt, probabil poate mai puțin.
-
1:33 - 1:35Învățăm constant lucruri noi despre creier
-
1:35 - 1:40care clarifică faptul că IA
nu poate concura cu creierele reale. -
1:40 - 1:45IA curentă poate realiza
identificarea unui pieton dintr-o imagine, -
1:45 - 1:48dar nu are un concept
despre ce este pietonul -
1:48 - 1:53dincolo de faptul că este
o colecție de linii, texturi și lucruri. -
1:54 - 1:56Nu știe ce este de fapt un om.
-
1:57 - 2:00Deci, IA din zilele noastre
va face ceea ce îi cerem să facă? -
2:00 - 2:02O va face dacă va putea,
-
2:02 - 2:04dar s-ar putea să nu facă
ceea ce ne dorim de fapt. -
2:04 - 2:07Deci, să spunem
că încercați să faceți IA -
2:07 - 2:10să ia aceste părți ale unui robot
-
2:10 - 2:14și să le asambleze într-un fel de robot
pentru a merge din punctul A în punctul B. -
2:14 - 2:16Dacă ați încerca
să rezolvați această problemă -
2:16 - 2:19prin scrierea unui program
în stil tradițional, -
2:19 - 2:22îi veți da programului
instrucțiuni pas cu pas, -
2:22 - 2:24despre cum să ia aceste părți,
-
2:24 - 2:26cum să le asambleze
într-un robot cu picioare -
2:26 - 2:29și apoi cum să folosească acele picioare
pentru a merge până în punctul B. -
2:29 - 2:32Dar când utilizați IA
pentru a rezolva problema, -
2:32 - 2:33e diferit.
-
2:33 - 2:35Nu îi spuneți cum să rezolve problema,
-
2:35 - 2:37îi dați doar obiectivul,
-
2:37 - 2:40și trebuie să-și dea seama singură
prin încercări și greșeli -
2:40 - 2:42cum să atingă acel obiectiv.
-
2:42 - 2:46Și se dovedește că modul în care IA tinde
să rezolve această problemă specifică -
2:46 - 2:48este făcând astfel:
-
2:48 - 2:51le asamblează într-un turn care apoi cade
-
2:51 - 2:53și aterizează în punctul B.
-
2:53 - 2:56Și practic, asta rezolvă problema.
-
2:56 - 2:58Practic, a ajuns în punctul B.
-
2:58 - 3:02Pericolul IA nu este
că se va revolta împotriva noastră, -
3:02 - 3:06ci că va face
exact ceea ce îi cerem să facă. -
3:07 - 3:09Atunci întrebarea devine:
-
3:09 - 3:13cum să formulăm problema
astfel încât să facă exact ce ne dorim? -
3:15 - 3:18Deci, acest mic robot de aici
este controlat de IA. -
3:18 - 3:21IA a creat un design
pentru picioarele robotului -
3:21 - 3:25și apoi a înțeles cum să le folosească
pentru a trece peste toate obstacolele. -
3:25 - 3:28Dar când David Ha
a creat acest experiment, -
3:28 - 3:31a trebuit să-l stabilească
cu limite foarte, foarte stricte -
3:31 - 3:34despre cât de mari
i-a fost permis IA să facă picioarele, -
3:34 - 3:36pentru că altfel...
-
3:43 - 3:47(Râsete)
-
3:49 - 3:52Și tehnic vorbind, a ajuns
la sfârșitul acelei curse cu obstacole. -
3:52 - 3:57Vedeți cât de greu e să faceți IA
să facă ceva simplu ca mersul. -
3:57 - 4:01Deci, văzând că IA face asta, e posibil
să spuneți: bine, dar nu e corect. -
4:01 - 4:04Nu poate fi înalt
cât un turn și doar să cadă, -
4:04 - 4:07trebuie să-și folosească
picioarele pentru a merge. -
4:07 - 4:10Și se pare că nici asta
nu funcționează întotdeauna. -
4:10 - 4:13Scopul acestei IA
a fost să se miște repede. -
4:13 - 4:17Nu i-au spus că trebuie să meargă înainte
-
4:17 - 4:19sau că nu-și putea folosi brațele.
-
4:19 - 4:24Asta obțineți atunci când
antrenați IA pentru a se deplasa rapid, -
4:24 - 4:28obțineți tumbe sau mers ciudat.
-
4:28 - 4:29Este ceva foarte comun.
-
4:30 - 4:33La fel e și târâirea de-a lungul podelei.
-
4:33 - 4:34(Râsete)
-
4:35 - 4:38În opinia mea, ce ar putea fi
mult mai ciudat -
4:39 - 4:40sunt roboții „Terminator”.
-
4:40 - 4:44Spargerea „Matrix-ului” e un alt lucru
pe care IA îl va face dacă-i dați șansa. -
4:44 - 4:47Deci, dacă antrenați o IA într-o simulare,
-
4:47 - 4:51va învăța să facă lucruri precum folosirea
erorilor matematice ale simulării -
4:51 - 4:53și să le recolteze pentru energie.
-
4:53 - 4:58Sau va învăța cum să se miște mai repede
aruncându-se în mod repetat pe podea. -
4:58 - 5:00Când lucrați cu IA,
-
5:00 - 5:02e mai puțin ca și cum ați lucra cu alt om
-
5:02 - 5:06și mai mult ca și cum ați lucra
cu un fel de forță ciudată a naturii. -
5:07 - 5:11Și e foarte ușor să-i dați IA
problema greșită spre rezolvare, -
5:11 - 5:16și de multe ori nu ne dăm seama de asta
până când ceva nu a mers greșit. -
5:16 - 5:18Iată un experiment pe care l-am făcut,
-
5:18 - 5:22unde am vrut ca IA să copieze culorile,
-
5:22 - 5:23și să inventeze noi culori,
-
5:23 - 5:26având în vedere
o listă precum cea din stânga. -
5:27 - 5:30Și iată cu ce a venit IA.
-
5:30 - 5:34[Sindis Poop, Turdly, Suffer, Grey Pubic]
-
5:34 - 5:37(Râsete)
-
5:39 - 5:41Deci tehnic,
-
5:41 - 5:43a făcut ceea ce i-am cerut.
-
5:43 - 5:46Am crezut că i-am cerut,
nume frumoase de culori, -
5:46 - 5:49dar ceea ce i-am cerut de fapt
-
5:49 - 5:52a fost doar să imite
tipurile de combinații de litere -
5:52 - 5:54pe care le văzuse în original.
-
5:54 - 5:57Și nu i-am spus nimic
despre ce înseamnă acele cuvinte, -
5:57 - 5:59sau că există poate câteva cuvinte
-
5:59 - 6:02cărora ar trebui să le evite
utilizarea în aceste culori. -
6:03 - 6:07Deci întreaga ei lume
sunt datele pe care i le-am dat. -
6:07 - 6:11Ca și în cazul aromelor de înghețată,
nu știe nimic altceva. -
6:12 - 6:14Deci, prin intermediul datelor
-
6:14 - 6:18deseori îi spunem accidental
IA să facă un lucru greșit. -
6:19 - 6:22Acesta este un pește numit lin.
-
6:22 - 6:24Și a existat un grup de cercetători
-
6:24 - 6:27care au instruit IA
pentru a identifica acest lin în imagini. -
6:27 - 6:29Dar atunci când au întrebat-o
-
6:29 - 6:32ce parte a imaginii folosea
pentru identificarea peștilor, -
6:32 - 6:34iată ce a răspuns.
-
6:35 - 6:37Da, acestea sunt degete umane.
-
6:37 - 6:39De ce ar fi căutat degete umane
-
6:39 - 6:41dacă încearcă să identifice un pește?
-
6:42 - 6:45Ei bine, s-a descoperit
că lin-ul este un pește trofeu, -
6:45 - 6:49și astfel, într-o mulțime de poze
pe care IA le-a văzut cu acest pește -
6:49 - 6:50în timpul antrenamentului,
-
6:50 - 6:52peștele arăta așa.
-
6:52 - 6:53(Râsete)
-
6:53 - 6:57Și nu știa că degetele
nu fac parte din pește. -
6:59 - 7:03Așa că vedeți de ce e
atât de greu să construiești o IA -
7:03 - 7:06care poate înțelege ce privește.
-
7:06 - 7:09De asta realizarea
recunoașterii imaginilor -
7:09 - 7:11în mașinile fără șofer e atât de grea,
-
7:11 - 7:13și de ce atâtea defecțiuni
ale autovehiculului -
7:14 - 7:16au loc pentru că IA s-a zăpăcit.
-
7:16 - 7:20Vreau să vorbesc
despre un exemplu din 2016. -
7:20 - 7:25A avut loc un accident mortal când cineva
a folosit o Tesla pilotată de o IA, -
7:25 - 7:28dar în loc să o folosească pe autostradă
așa cum a fost proiectată, -
7:28 - 7:31au folosit-o pe străzile orașului.
-
7:31 - 7:32Și ce s-a întâmplat a fost
-
7:32 - 7:36că un camion a trecut
prin fața mașinii, iar mașina nu a frânat. -
7:37 - 7:41IA a fost cu siguranță instruită
să recunoască camioanele în imagini. -
7:41 - 7:43Dar ceea ce pare să se fi întâmplat
-
7:43 - 7:47e că IA a fost instruită
să recunoască camioanele pe autostradă, -
7:47 - 7:49unde te-ai aștepta
să vezi camioanele din spate. -
7:49 - 7:53Venirea camioanelor din lateral
nu e de așteptat pe o autostradă, -
7:53 - 7:56și atunci când IA a văzut acest camion,
-
7:56 - 8:01l-a recunoscut ca fiind
cel mai probabil un semn rutier -
8:01 - 8:04și, prin urmare,
în regulă să treci pe sub el. -
8:04 - 8:07Iată o greșeală a IA dintr-un alt domeniu.
-
8:07 - 8:10Recent Amazon a trebuit să renunțe
la un algoritm de sortare a CV-urilor -
8:10 - 8:11cu care lucrau
-
8:11 - 8:15când au descoperit că algoritmul
învățase să discrimineze femeile. -
8:15 - 8:18Ceea ce s-a întâmplat a fost
că au instruit-o pe exemple de CV-uri -
8:18 - 8:20ale oamenilor
pe care îi angajaseră în trecut. -
8:20 - 8:24Și din aceste exemple,
IA a învățat să evite CV-urile persoanelor -
8:24 - 8:26care au învățat în licee de fete
-
8:26 - 8:29sau cele care aveau cuvântul
„femeie” undeva în CV-ul lor, -
8:29 - 8:34ca în „echipa de fotbal feminin”
sau „Societatea Femeilor Inginer.” -
8:34 - 8:38IA nu știa că nu trebuia
să copieze acest lucru -
8:38 - 8:40așa cum i-a văzut pe oameni că fac.
-
8:40 - 8:43Și tehnic, a făcut ce i-au cerut să facă.
-
8:43 - 8:46I-au cerut din greșeală
să facă un lucru greșit. -
8:47 - 8:50Și acest lucru
se întâmplă tot timpul cu IA. -
8:50 - 8:54IA poate fi cu adevărat
distructivă fără să știe. -
8:54 - 8:59Deci, IA care recomandă conținut nou
pe Facebook, pe YouTube, -
8:59 - 9:02e optimizată pentru a crește
numărul de clicuri și vizualizări. -
9:02 - 9:06Și, din păcate, un mod prin care fac asta
-
9:06 - 9:10e prin recomandarea unui conținut
conspiraționist sau bigot. -
9:11 - 9:16IA în sine nu înțelege
ce e acest conținut, -
9:16 - 9:20și nu, nu înțelege nici
care ar putea fi consecințele -
9:20 - 9:22recomandării acestui tip de conținut.
-
9:22 - 9:24Deci, atunci când lucrăm cu IA,
-
9:24 - 9:29depinde de noi să evităm probleme.
-
9:29 - 9:31Și evitând ca lucrurile să nu meargă bine,
-
9:31 - 9:35asta ar putea să ne ducă
la vechea problemă de comunicare, -
9:35 - 9:39unde noi, ca oameni, trebuie să învățăm
cum să comunicăm cu IA. -
9:39 - 9:43Trebuie să învățăm ce e capabilă
să facă IA și ce nu e, -
9:43 - 9:46și să înțelegem că având un creier
mic de vierme, -
9:46 - 9:50IA nu înțelege cu adevărat
ce încercăm să-i cerem să facă. -
9:51 - 9:54Deci, cu alte cuvinte,
trebuie să fim pregătiți să lucrăm cu IA -
9:54 - 10:00care nu e acea IA super competentă,
atotștiutoare a științifico-fantasticului. -
10:00 - 10:03Trebuie să ne pregătim să lucrăm cu IA
-
10:03 - 10:06pe care o avem de fapt în zilele noastre.
-
10:06 - 10:10Iar IA actuală este destul de ciudată.
-
10:10 - 10:11Vă mulțumesc!
-
10:11 - 10:16(Aplauze)
- Title:
- Pericolul IA este mai ciudat decât credeți
- Speaker:
- Janelle Shane
- Description:
-
Pericolul inteligenței artificiale nu constă în faptul că se va răzvrăti împotriva noastră, ci că va face exact ceea ce noi îi cerem să facă, spune cercetătorul IA, Janelle Shane. Împărtășind cei mai ciudați, uneori alarmanți, algoritmi de IA, în timp ce încearcă să rezolve probleme umane, cum ar fi crearea de noi arome de înghețată sau recunoașterea mașinilor pe drum, Shane ne arată de ce IA nu se compară cu creierele reale.
- Video Language:
- English
- Team:
- closed TED
- Project:
- TEDTalks
- Duration:
- 10:28
Bianca-Ioanidia Mirea approved Romanian subtitles for The danger of AI is weirder than you think | ||
Bianca-Ioanidia Mirea edited Romanian subtitles for The danger of AI is weirder than you think | ||
Mirel-Gabriel Alexa accepted Romanian subtitles for The danger of AI is weirder than you think | ||
Mirel-Gabriel Alexa edited Romanian subtitles for The danger of AI is weirder than you think | ||
Mirel-Gabriel Alexa edited Romanian subtitles for The danger of AI is weirder than you think | ||
Dănuț Vornicu edited Romanian subtitles for The danger of AI is weirder than you think | ||
Dănuț Vornicu edited Romanian subtitles for The danger of AI is weirder than you think |