0:00:01.765,0:00:04.765
Deci, inteligența artificială

0:00:04.789,0:00:08.318
e cunoscută pentru perturbarea[br]multor tipurilor de industrii.

0:00:08.961,0:00:11.004
Dar cum rămâne cu înghețata?

0:00:11.879,0:00:15.518
Ce fel de arome năucitoare noi[br]am putea să generăm

0:00:15.542,0:00:18.518
cu puterea [br]unei inteligențe artificiale avansate?

0:00:19.011,0:00:23.172
Am făcut echipă cu un grup de programatori[br]de la Kealing Middle School

0:00:23.196,0:00:25.437
pentru a afla răspunsul[br]la această întrebare.

0:00:25.461,0:00:30.542
Au colectat peste 1.600 [br]de arome existente de înghețată,

0:00:30.566,0:00:36.088
pe care le-am introdus într-un algoritm[br]pentru a vedea ce va genera.

0:00:36.112,0:00:39.865
Iată câteva dintre aromele [br]pe care le-a generat IA.

0:00:40.444,0:00:41.915
[Gunoi de Dovleac Crăpat]

0:00:41.939,0:00:43.341
(Râsete)

0:00:43.365,0:00:45.834
[Mocirlă de Unt de Arahide]

0:00:46.822,0:00:48.165
[Boală de Cremă de Căpșuni]

0:00:48.189,0:00:50.315
(Râsete)

0:00:50.339,0:00:54.936
Aceste arome nu sunt delicioase, [br]așa cum am fi sperat că vor fi.

0:00:54.960,0:00:56.978
Deci, întrebarea e: ce s-a întâmplat?

0:00:56.978,0:00:58.242
Ce a mers rău?

0:00:58.266,0:01:00.225
Încearcă IA să ne omoare?

0:01:01.027,0:01:05.337
Sau încearcă să facă ceea ce i-am cerut,[br]dar a existat o problemă?

0:01:06.567,0:01:09.031
În filme, când ceva[br]nu merge bine cu IA,

0:01:09.055,0:01:11.767
este de obicei pentru că IA a decis

0:01:11.791,0:01:14.063
că nu mai vrea să se supună oamenilor,

0:01:14.087,0:01:16.710
și are propriile ei obiective, [br]mulțumesc foarte mult.

0:01:17.266,0:01:20.482
În viața reală însă,[br]IA pe care o avem de fapt

0:01:20.506,0:01:22.549
nu este destul de inteligentă pentru asta.

0:01:22.781,0:01:25.763
Are puterea de calcul aproximativă

0:01:25.787,0:01:27.103
cu a unui vierme de pământ,

0:01:27.103,0:01:30.490
sau poate cel mult [br]cu a unei singure albine,

0:01:30.514,0:01:32.729
și de fapt, probabil poate mai puțin.

0:01:32.753,0:01:35.347
Învățăm constant lucruri noi despre creier

0:01:35.371,0:01:39.731
care clarifică faptul că IA [br]nu poate concura cu creierele reale.

0:01:39.755,0:01:45.418
IA curentă poate realiza [br]identificarea unui pieton dintr-o imagine,

0:01:45.442,0:01:48.425
dar nu are un concept [br]despre ce este pietonul

0:01:48.449,0:01:53.273
dincolo de faptul că este [br]o colecție de linii, texturi și lucruri.

0:01:53.792,0:01:56.313
Nu știe ce este de fapt un om.

0:01:56.822,0:02:00.104
Deci, IA din zilele noastre[br]va face ceea ce îi cerem să facă?

0:02:00.128,0:02:01.722
O va face dacă va putea,

0:02:01.746,0:02:04.472
dar s-ar putea să nu facă[br]ceea ce ne dorim de fapt.

0:02:04.496,0:02:06.911
Deci, să spunem [br]că încercați să faceți IA

0:02:06.935,0:02:09.554
să ia aceste părți ale unui robot

0:02:09.578,0:02:13.775
și să le asambleze într-un fel de robot [br]pentru a merge din punctul A în punctul B.

0:02:13.799,0:02:16.280
Dacă ați încerca[br]să rezolvați această problemă

0:02:16.304,0:02:18.705
prin scrierea unui program[br]în stil tradițional,

0:02:18.705,0:02:22.096
îi veți da programului [br]instrucțiuni pas cu pas,

0:02:22.120,0:02:23.579
despre cum să ia aceste părți,

0:02:23.579,0:02:25.880
cum să le asambleze [br]într-un robot cu picioare

0:02:25.904,0:02:29.436
și apoi cum să folosească acele picioare [br]pentru a merge până în punctul B.

0:02:29.446,0:02:31.781
Dar când utilizați IA[br]pentru a rezolva problema,

0:02:31.805,0:02:32.979
e diferit.

0:02:33.003,0:02:35.385
Nu îi spuneți cum să rezolve problema,

0:02:35.409,0:02:36.888
îi dați doar obiectivul,

0:02:36.912,0:02:40.174
și trebuie să-și dea seama singură [br]prin încercări și greșeli

0:02:40.198,0:02:41.682
cum să atingă acel obiectiv.

0:02:42.254,0:02:46.356
Și se dovedește că modul în care IA tinde[br]să rezolve această problemă specifică

0:02:46.380,0:02:47.864
este făcând astfel:

0:02:47.888,0:02:51.255
le asamblează într-un turn care apoi cade

0:02:51.279,0:02:53.106
și aterizează în punctul B.

0:02:53.130,0:02:55.959
Și practic, asta rezolvă problema.

0:02:55.983,0:02:57.622
Practic, a ajuns în punctul B.

0:02:57.646,0:03:01.911
Pericolul IA nu este [br]că se va revolta împotriva noastră,

0:03:01.935,0:03:06.209
ci că va face [br]exact ceea ce îi cerem să facă.

0:03:06.876,0:03:09.374
Atunci întrebarea devine:

0:03:09.398,0:03:13.226
cum să formulăm problema [br]astfel încât să facă exact ce ne dorim?

0:03:14.726,0:03:18.032
Deci, acest mic robot de aici[br]este controlat de IA.

0:03:18.056,0:03:20.870
IA a creat un design [br]pentru picioarele robotului

0:03:20.894,0:03:24.972
și apoi a înțeles cum să le folosească [br]pentru a trece peste toate obstacolele.

0:03:24.996,0:03:27.737
Dar când David Ha [br]a creat acest experiment,

0:03:27.761,0:03:30.617
a trebuit să-l stabilească [br]cu limite foarte, foarte stricte

0:03:30.641,0:03:33.933
despre cât de mari [br]i-a fost permis IA să facă picioarele,

0:03:33.957,0:03:35.507
pentru că altfel...

0:03:43.058,0:03:46.989
(Râsete)

0:03:48.563,0:03:52.308
Și tehnic vorbind, a ajuns [br]la sfârșitul acelei curse cu obstacole.

0:03:52.332,0:03:57.274
Vedeți cât de greu e să faceți IA[br]să facă ceva simplu ca mersul.

0:03:57.298,0:04:01.118
Deci, văzând că IA face asta, e posibil[br]să spuneți: bine, dar nu e corect.

0:04:01.142,0:04:03.722
Nu poate fi înalt [br]cât un turn și doar să cadă,

0:04:03.746,0:04:07.181
trebuie să-și folosească[br]picioarele pentru a merge.

0:04:07.205,0:04:09.964
Și se pare că nici asta [br]nu funcționează întotdeauna.

0:04:09.988,0:04:12.747
Scopul acestei IA [br]a fost să se miște repede.

0:04:13.115,0:04:16.708
Nu i-au spus că trebuie să meargă înainte

0:04:16.732,0:04:18.990
sau că nu-și putea folosi brațele.

0:04:19.487,0:04:24.105
Asta obțineți atunci când[br]antrenați IA pentru a se deplasa rapid,

0:04:24.129,0:04:27.663
obțineți tumbe sau mers ciudat.

0:04:27.687,0:04:29.087
Este ceva foarte comun.

0:04:29.667,0:04:32.846
La fel e și târâirea de-a lungul podelei.

0:04:32.870,0:04:34.460
(Râsete)

0:04:35.241,0:04:38.495
În opinia mea, ce ar putea fi[br]mult mai ciudat

0:04:38.519,0:04:39.915
sunt roboții „Terminator”.

0:04:40.206,0:04:44.011
Spargerea „Matrix-ului” e un alt lucru[br]pe care IA îl va face dacă-i dați șansa.

0:04:44.035,0:04:46.552
Deci, dacă antrenați o IA într-o simulare,

0:04:46.576,0:04:50.689
va învăța să facă lucruri precum folosirea[br]erorilor matematice ale simulării

0:04:50.713,0:04:52.920
și să le recolteze pentru energie.

0:04:52.944,0:04:58.419
Sau va învăța cum să se miște mai repede [br]aruncându-se în mod repetat pe podea.

0:04:58.443,0:05:00.028
Când lucrați cu IA,

0:05:00.052,0:05:02.441
e mai puțin ca și cum ați lucra cu alt om

0:05:02.465,0:05:06.094
și mai mult ca și cum ați lucra [br]cu un fel de forță ciudată a naturii.

0:05:06.562,0:05:11.185
Și e foarte ușor să-i dați IA[br]problema greșită spre rezolvare,

0:05:11.209,0:05:15.747
și de multe ori nu ne dăm seama de asta[br]până când ceva nu a mers greșit.

0:05:16.242,0:05:18.322
Iată un experiment pe care l-am făcut,

0:05:18.346,0:05:21.528
unde am vrut ca IA să copieze culorile,

0:05:21.552,0:05:23.298
și să inventeze noi culori,

0:05:23.322,0:05:26.309
având în vedere [br]o listă precum cea din stânga.

0:05:26.798,0:05:29.802
Și iată cu ce a venit IA.

0:05:29.826,0:05:33.983
[Sindis Poop, Turdly, Suffer, Grey Pubic]

0:05:33.983,0:05:37.223
(Râsete)

0:05:39.177,0:05:41.063
Deci tehnic,

0:05:41.087,0:05:42.951
a făcut ceea ce i-am cerut.

0:05:42.975,0:05:46.283
Am crezut că i-am cerut,[br]nume frumoase de culori,

0:05:46.307,0:05:48.614
dar ceea ce i-am cerut de fapt

0:05:48.638,0:05:51.724
a fost doar să imite[br]tipurile de combinații de litere

0:05:51.748,0:05:53.653
pe care le văzuse în original.

0:05:53.677,0:05:56.775
Și nu i-am spus nimic [br]despre ce înseamnă acele cuvinte,

0:05:56.799,0:05:59.359
sau că există poate câteva cuvinte

0:05:59.383,0:06:02.272
cărora ar trebui să le evite [br]utilizarea în aceste culori.

0:06:03.141,0:06:06.635
Deci întreaga ei lume [br]sunt datele pe care i le-am dat.

0:06:06.659,0:06:10.687
Ca și în cazul aromelor de înghețată, [br]nu știe nimic altceva.

0:06:12.491,0:06:14.129
Deci, prin intermediul datelor

0:06:14.153,0:06:18.197
deseori îi spunem accidental [br]IA să facă un lucru greșit.

0:06:18.694,0:06:21.726
Acesta este un pește numit lin.

0:06:21.750,0:06:23.565
Și a existat un grup de cercetători

0:06:23.589,0:06:27.463
care au instruit IA [br]pentru a identifica acest lin în imagini.

0:06:27.487,0:06:28.913
Dar atunci când au întrebat-o

0:06:28.913,0:06:32.233
ce parte a imaginii folosea[br]pentru identificarea peștilor,

0:06:32.257,0:06:33.615
iată ce a răspuns.

0:06:35.203,0:06:37.392
Da, acestea sunt degete umane.

0:06:37.416,0:06:39.475
De ce ar fi căutat degete umane

0:06:39.499,0:06:41.420
dacă încearcă să identifice un pește?

0:06:42.126,0:06:45.290
Ei bine, s-a descoperit [br]că lin-ul este un pește trofeu,

0:06:45.314,0:06:49.125
și astfel, într-o mulțime de poze [br]pe care IA le-a văzut cu acest pește

0:06:49.149,0:06:50.420
în timpul antrenamentului,

0:06:50.420,0:06:51.814
peștele arăta așa.

0:06:51.838,0:06:53.473
(Râsete)

0:06:53.497,0:06:56.827
Și nu știa că degetele [br]nu fac parte din pește.

0:06:58.808,0:07:02.928
Așa că vedeți de ce e[br]atât de greu să construiești o IA

0:07:02.952,0:07:06.271
care poate înțelege ce privește.

0:07:06.295,0:07:09.157
De asta realizarea [br]recunoașterii imaginilor

0:07:09.181,0:07:11.248
în mașinile fără șofer e atât de grea,

0:07:11.272,0:07:13.477
și de ce atâtea defecțiuni [br]ale autovehiculului

0:07:13.501,0:07:16.386
au loc pentru că IA s-a zăpăcit.

0:07:16.410,0:07:20.418
Vreau să vorbesc [br]despre un exemplu din 2016.

0:07:20.442,0:07:24.897
A avut loc un accident mortal când cineva[br]a folosit o Tesla pilotată de o IA,

0:07:24.921,0:07:28.335
dar în loc să o folosească pe autostradă [br]așa cum a fost proiectată,

0:07:28.359,0:07:30.564
au folosit-o pe străzile orașului.

0:07:31.149,0:07:32.444
Și ce s-a întâmplat a fost

0:07:32.444,0:07:35.834
că un camion a trecut [br]prin fața mașinii, iar mașina nu a frânat.

0:07:36.507,0:07:41.269
IA a fost cu siguranță instruită [br]să recunoască camioanele în imagini.

0:07:41.293,0:07:43.362
Dar ceea ce pare să se fi întâmplat

0:07:43.362,0:07:46.563
e că IA a fost instruită [br]să recunoască camioanele pe autostradă,

0:07:46.563,0:07:49.316
unde te-ai aștepta [br]să vezi camioanele din spate.

0:07:49.340,0:07:52.760
Venirea camioanelor din lateral [br]nu e de așteptat pe o autostradă,

0:07:52.784,0:07:56.239
și atunci când IA a văzut acest camion,

0:07:56.263,0:08:01.090
l-a recunoscut ca fiind [br]cel mai probabil un semn rutier

0:08:01.114,0:08:03.777
și, prin urmare,[br]în regulă să treci pe sub el.

0:08:04.114,0:08:06.694
Iată o greșeală a IA dintr-un alt domeniu.

0:08:06.718,0:08:10.178
Recent Amazon a trebuit să renunțe[br]la un algoritm de sortare a CV-urilor

0:08:10.202,0:08:11.422
cu care lucrau

0:08:11.446,0:08:14.898
când au descoperit că algoritmul [br]învățase să discrimineze femeile.

0:08:14.898,0:08:18.094
Ceea ce s-a întâmplat a fost[br]că au instruit-o pe exemple de CV-uri

0:08:18.118,0:08:20.360
ale oamenilor [br]pe care îi angajaseră în trecut.

0:08:20.384,0:08:24.407
Și din aceste exemple, [br]IA a învățat să evite CV-urile persoanelor

0:08:24.431,0:08:26.457
care au învățat în licee de fete

0:08:26.481,0:08:29.287
sau cele care aveau cuvântul [br]„femeie” undeva în CV-ul lor,

0:08:29.311,0:08:33.887
ca în „echipa de fotbal feminin” [br]sau „Societatea Femeilor Inginer.”

0:08:33.911,0:08:37.885
IA nu știa că nu trebuia [br]să copieze acest lucru

0:08:37.909,0:08:39.887
așa cum i-a văzut pe oameni că fac.

0:08:39.911,0:08:43.088
Și tehnic, a făcut ce i-au cerut să facă.

0:08:43.112,0:08:45.909
I-au cerut din greșeală [br]să facă un lucru greșit.

0:08:46.653,0:08:49.548
Și acest lucru [br]se întâmplă tot timpul cu IA.

0:08:50.120,0:08:53.711
IA poate fi cu adevărat [br]distructivă fără să știe.

0:08:53.735,0:08:58.813
Deci, IA care recomandă conținut nou [br]pe Facebook, pe YouTube,

0:08:58.837,0:09:02.376
e optimizată pentru a crește [br]numărul de clicuri și vizualizări.

0:09:02.400,0:09:05.836
Și, din păcate, un mod prin care fac asta

0:09:05.860,0:09:10.363
e prin recomandarea unui conținut[br]conspiraționist sau bigot.

0:09:10.902,0:09:16.204
IA în sine nu înțelege[br]ce e acest conținut,

0:09:16.228,0:09:19.623
și nu, nu înțelege nici[br]care ar putea fi consecințele

0:09:19.647,0:09:21.756
recomandării acestui tip de conținut.

0:09:22.296,0:09:24.307
Deci, atunci când lucrăm cu IA,

0:09:24.331,0:09:28.513
depinde de noi să evităm probleme.

0:09:28.537,0:09:30.860
Și evitând ca lucrurile să nu meargă bine,

0:09:30.884,0:09:35.410
asta ar putea să ne ducă [br]la vechea problemă de comunicare,

0:09:35.434,0:09:39.179
unde noi, ca oameni, trebuie să învățăm[br]cum să comunicăm cu IA.

0:09:39.203,0:09:43.242
Trebuie să învățăm ce e capabilă[br]să facă IA și ce nu e,

0:09:43.266,0:09:46.352
și să înțelegem că având un creier[br]mic de vierme,

0:09:46.376,0:09:50.389
IA nu înțelege cu adevărat [br]ce încercăm să-i cerem să facă.

0:09:51.148,0:09:54.469
Deci, cu alte cuvinte, [br]trebuie să fim pregătiți să lucrăm cu IA

0:09:54.493,0:09:59.751
care nu e acea IA super competentă,[br]atotștiutoare a științifico-fantasticului.

0:09:59.775,0:10:02.637
Trebuie să ne pregătim să lucrăm cu IA

0:10:02.661,0:10:05.599
pe care o avem de fapt în zilele noastre.

0:10:05.623,0:10:09.828
Iar IA actuală este destul de ciudată.

0:10:09.852,0:10:11.042
Vă mulțumesc!

0:10:11.066,0:10:16.291
(Aplauze)