WEBVTT

00:00:01.765 --> 00:00:04.765
Deci, inteligența artificială

00:00:04.789 --> 00:00:08.318
e cunoscută pentru perturbarea
multor tipurilor de industrii.

00:00:08.961 --> 00:00:11.004
Dar cum rămâne cu înghețata?

00:00:11.879 --> 00:00:15.518
Ce fel de arome năucitoare noi
am putea să generăm

00:00:15.542 --> 00:00:18.518
cu puterea 
unei inteligențe artificiale avansate?

00:00:19.011 --> 00:00:23.172
Am făcut echipă cu un grup de programatori
de la Kealing Middle School

00:00:23.196 --> 00:00:25.437
pentru a afla răspunsul
la această întrebare.

00:00:25.461 --> 00:00:30.542
Au colectat peste 1.600 
de arome existente de înghețată,

00:00:30.566 --> 00:00:36.088
pe care le-am introdus într-un algoritm
pentru a vedea ce va genera.

00:00:36.112 --> 00:00:39.865
Iată câteva dintre aromele 
pe care le-a generat IA.

NOTE Paragraph

00:00:40.444 --> 00:00:41.915
[Gunoi de Dovleac Crăpat]

NOTE Paragraph

00:00:41.939 --> 00:00:43.341
(Râsete)

NOTE Paragraph

00:00:43.365 --> 00:00:45.834
[Mocirlă de Unt de Arahide]

NOTE Paragraph

00:00:46.822 --> 00:00:48.165
[Boală de Cremă de Căpșuni]

NOTE Paragraph

00:00:48.189 --> 00:00:50.315
(Râsete)

NOTE Paragraph

00:00:50.339 --> 00:00:54.936
Aceste arome nu sunt delicioase, 
așa cum am fi sperat că vor fi.

00:00:54.960 --> 00:00:56.978
Deci, întrebarea e: ce s-a întâmplat?

00:00:56.978 --> 00:00:58.242
Ce a mers rău?

00:00:58.266 --> 00:01:00.225
Încearcă IA să ne omoare?

00:01:01.027 --> 00:01:05.337
Sau încearcă să facă ceea ce i-am cerut,
dar a existat o problemă?

NOTE Paragraph

00:01:06.567 --> 00:01:09.031
În filme, când ceva
nu merge bine cu IA,

00:01:09.055 --> 00:01:11.767
este de obicei pentru că IA a decis

00:01:11.791 --> 00:01:14.063
că nu mai vrea să se supună oamenilor,

00:01:14.087 --> 00:01:16.710
și are propriile ei obiective, 
mulțumesc foarte mult.

00:01:17.266 --> 00:01:20.482
În viața reală însă,
IA pe care o avem de fapt

00:01:20.506 --> 00:01:22.549
nu este destul de inteligentă pentru asta.

00:01:22.781 --> 00:01:25.763
Are puterea de calcul aproximativă

00:01:25.787 --> 00:01:27.103
cu a unui vierme de pământ,

00:01:27.103 --> 00:01:30.490
sau poate cel mult 
cu a unei singure albine,

00:01:30.514 --> 00:01:32.729
și de fapt, probabil poate mai puțin.

00:01:32.753 --> 00:01:35.347
Învățăm constant lucruri noi despre creier

00:01:35.371 --> 00:01:39.731
care clarifică faptul că IA 
nu poate concura cu creierele reale.

00:01:39.755 --> 00:01:45.418
IA curentă poate realiza 
identificarea unui pieton dintr-o imagine,

00:01:45.442 --> 00:01:48.425
dar nu are un concept 
despre ce este pietonul

00:01:48.449 --> 00:01:53.273
dincolo de faptul că este 
o colecție de linii, texturi și lucruri.

00:01:53.792 --> 00:01:56.313
Nu știe ce este de fapt un om.

00:01:56.822 --> 00:02:00.104
Deci, IA din zilele noastre
va face ceea ce îi cerem să facă?

00:02:00.128 --> 00:02:01.722
O va face dacă va putea,

00:02:01.746 --> 00:02:04.472
dar s-ar putea să nu facă
ceea ce ne dorim de fapt.

NOTE Paragraph

00:02:04.496 --> 00:02:06.911
Deci, să spunem 
că încercați să faceți IA

00:02:06.935 --> 00:02:09.554
să ia aceste părți ale unui robot

00:02:09.578 --> 00:02:13.775
și să le asambleze într-un fel de robot 
pentru a merge din punctul A în punctul B.

00:02:13.799 --> 00:02:16.280
Dacă ați încerca
să rezolvați această problemă

00:02:16.304 --> 00:02:18.705
prin scrierea unui program
în stil tradițional,

00:02:18.705 --> 00:02:22.096
îi veți da programului 
instrucțiuni pas cu pas,

00:02:22.120 --> 00:02:23.579
despre cum să ia aceste părți,

00:02:23.579 --> 00:02:25.880
cum să le asambleze 
într-un robot cu picioare

00:02:25.904 --> 00:02:29.436
și apoi cum să folosească acele picioare 
pentru a merge până în punctul B.

00:02:29.446 --> 00:02:31.781
Dar când utilizați IA
pentru a rezolva problema,

00:02:31.805 --> 00:02:32.979
e diferit.

00:02:33.003 --> 00:02:35.385
Nu îi spuneți cum să rezolve problema,

00:02:35.409 --> 00:02:36.888
îi dați doar obiectivul,

00:02:36.912 --> 00:02:40.174
și trebuie să-și dea seama singură 
prin încercări și greșeli

00:02:40.198 --> 00:02:41.682
cum să atingă acel obiectiv.

00:02:42.254 --> 00:02:46.356
Și se dovedește că modul în care IA tinde
să rezolve această problemă specifică

00:02:46.380 --> 00:02:47.864
este făcând astfel:

00:02:47.888 --> 00:02:51.255
le asamblează într-un turn care apoi cade

00:02:51.279 --> 00:02:53.106
și aterizează în punctul B.

00:02:53.130 --> 00:02:55.959
Și practic, asta rezolvă problema.

00:02:55.983 --> 00:02:57.622
Practic, a ajuns în punctul B.

00:02:57.646 --> 00:03:01.911
Pericolul IA nu este 
că se va revolta împotriva noastră,

00:03:01.935 --> 00:03:06.209
ci că va face 
exact ceea ce îi cerem să facă.

00:03:06.876 --> 00:03:09.374
Atunci întrebarea devine:

00:03:09.398 --> 00:03:13.226
cum să formulăm problema 
astfel încât să facă exact ce ne dorim?

NOTE Paragraph

00:03:14.726 --> 00:03:18.032
Deci, acest mic robot de aici
este controlat de IA.

00:03:18.056 --> 00:03:20.870
IA a creat un design 
pentru picioarele robotului

00:03:20.894 --> 00:03:24.972
și apoi a înțeles cum să le folosească 
pentru a trece peste toate obstacolele.

00:03:24.996 --> 00:03:27.737
Dar când David Ha 
a creat acest experiment,

00:03:27.761 --> 00:03:30.617
a trebuit să-l stabilească 
cu limite foarte, foarte stricte

00:03:30.641 --> 00:03:33.933
despre cât de mari 
i-a fost permis IA să facă picioarele,

00:03:33.957 --> 00:03:35.507
pentru că altfel...

NOTE Paragraph

00:03:43.058 --> 00:03:46.989
(Râsete)

NOTE Paragraph

00:03:48.563 --> 00:03:52.308
Și tehnic vorbind, a ajuns 
la sfârșitul acelei curse cu obstacole.

00:03:52.332 --> 00:03:57.274
Vedeți cât de greu e să faceți IA
să facă ceva simplu ca mersul.

NOTE Paragraph

00:03:57.298 --> 00:04:01.118
Deci, văzând că IA face asta, e posibil
să spuneți: bine, dar nu e corect.

00:04:01.142 --> 00:04:03.722
Nu poate fi înalt 
cât un turn și doar să cadă,

00:04:03.746 --> 00:04:07.181
trebuie să-și folosească
picioarele pentru a merge.

00:04:07.205 --> 00:04:09.964
Și se pare că nici asta 
nu funcționează întotdeauna.

00:04:09.988 --> 00:04:12.747
Scopul acestei IA 
a fost să se miște repede.

00:04:13.115 --> 00:04:16.708
Nu i-au spus că trebuie să meargă înainte

00:04:16.732 --> 00:04:18.990
sau că nu-și putea folosi brațele.

00:04:19.487 --> 00:04:24.105
Asta obțineți atunci când
antrenați IA pentru a se deplasa rapid,

00:04:24.129 --> 00:04:27.663
obțineți tumbe sau mers ciudat.

00:04:27.687 --> 00:04:29.087
Este ceva foarte comun.

00:04:29.667 --> 00:04:32.846
La fel e și târâirea de-a lungul podelei.

NOTE Paragraph

00:04:32.870 --> 00:04:34.460
(Râsete)

NOTE Paragraph

00:04:35.241 --> 00:04:38.495
În opinia mea, ce ar putea fi
mult mai ciudat

00:04:38.519 --> 00:04:39.915
sunt roboții „Terminator”.

00:04:40.206 --> 00:04:44.011
Spargerea „Matrix-ului” e un alt lucru
pe care IA îl va face dacă-i dați șansa.

00:04:44.035 --> 00:04:46.552
Deci, dacă antrenați o IA într-o simulare,

00:04:46.576 --> 00:04:50.689
va învăța să facă lucruri precum folosirea
erorilor matematice ale simulării

00:04:50.713 --> 00:04:52.920
și să le recolteze pentru energie.

00:04:52.944 --> 00:04:58.419
Sau va învăța cum să se miște mai repede 
aruncându-se în mod repetat pe podea.

00:04:58.443 --> 00:05:00.028
Când lucrați cu IA,

00:05:00.052 --> 00:05:02.441
e mai puțin ca și cum ați lucra cu alt om

00:05:02.465 --> 00:05:06.094
și mai mult ca și cum ați lucra 
cu un fel de forță ciudată a naturii.

00:05:06.562 --> 00:05:11.185
Și e foarte ușor să-i dați IA
problema greșită spre rezolvare,

00:05:11.209 --> 00:05:15.747
și de multe ori nu ne dăm seama de asta
până când ceva nu a mers greșit.

NOTE Paragraph

00:05:16.242 --> 00:05:18.322
Iată un experiment pe care l-am făcut,

00:05:18.346 --> 00:05:21.528
unde am vrut ca IA să copieze culorile,

00:05:21.552 --> 00:05:23.298
și să inventeze noi culori,

00:05:23.322 --> 00:05:26.309
având în vedere 
o listă precum cea din stânga.

00:05:26.798 --> 00:05:29.802
Și iată cu ce a venit IA.

NOTE Paragraph

00:05:29.826 --> 00:05:33.983
[Sindis Poop, Turdly, Suffer, Grey Pubic]

NOTE Paragraph

00:05:33.983 --> 00:05:37.223
(Râsete)

NOTE Paragraph

00:05:39.177 --> 00:05:41.063
Deci tehnic,

00:05:41.087 --> 00:05:42.951
a făcut ceea ce i-am cerut.

00:05:42.975 --> 00:05:46.283
Am crezut că i-am cerut,
nume frumoase de culori,

00:05:46.307 --> 00:05:48.614
dar ceea ce i-am cerut de fapt

00:05:48.638 --> 00:05:51.724
a fost doar să imite
tipurile de combinații de litere

00:05:51.748 --> 00:05:53.653
pe care le văzuse în original.

00:05:53.677 --> 00:05:56.775
Și nu i-am spus nimic 
despre ce înseamnă acele cuvinte,

00:05:56.799 --> 00:05:59.359
sau că există poate câteva cuvinte

00:05:59.383 --> 00:06:02.272
cărora ar trebui să le evite 
utilizarea în aceste culori.

00:06:03.141 --> 00:06:06.635
Deci întreaga ei lume 
sunt datele pe care i le-am dat.

00:06:06.659 --> 00:06:10.687
Ca și în cazul aromelor de înghețată, 
nu știe nimic altceva.

NOTE Paragraph

00:06:12.491 --> 00:06:14.129
Deci, prin intermediul datelor

00:06:14.153 --> 00:06:18.197
deseori îi spunem accidental 
IA să facă un lucru greșit.

00:06:18.694 --> 00:06:21.726
Acesta este un pește numit lin.

00:06:21.750 --> 00:06:23.565
Și a existat un grup de cercetători

00:06:23.589 --> 00:06:27.463
care au instruit IA 
pentru a identifica acest lin în imagini.

00:06:27.487 --> 00:06:28.913
Dar atunci când au întrebat-o

00:06:28.913 --> 00:06:32.233
ce parte a imaginii folosea
pentru identificarea peștilor,

00:06:32.257 --> 00:06:33.615
iată ce a răspuns.

00:06:35.203 --> 00:06:37.392
Da, acestea sunt degete umane.

00:06:37.416 --> 00:06:39.475
De ce ar fi căutat degete umane

00:06:39.499 --> 00:06:41.420
dacă încearcă să identifice un pește?

00:06:42.126 --> 00:06:45.290
Ei bine, s-a descoperit 
că lin-ul este un pește trofeu,

00:06:45.314 --> 00:06:49.125
și astfel, într-o mulțime de poze 
pe care IA le-a văzut cu acest pește

00:06:49.149 --> 00:06:50.420
în timpul antrenamentului,

00:06:50.420 --> 00:06:51.814
peștele arăta așa.

NOTE Paragraph

00:06:51.838 --> 00:06:53.473
(Râsete)

NOTE Paragraph

00:06:53.497 --> 00:06:56.827
Și nu știa că degetele 
nu fac parte din pește.

NOTE Paragraph

00:06:58.808 --> 00:07:02.928
Așa că vedeți de ce e
atât de greu să construiești o IA

00:07:02.952 --> 00:07:06.271
care poate înțelege ce privește.

00:07:06.295 --> 00:07:09.157
De asta realizarea 
recunoașterii imaginilor

00:07:09.181 --> 00:07:11.248
în mașinile fără șofer e atât de grea,

00:07:11.272 --> 00:07:13.477
și de ce atâtea defecțiuni 
ale autovehiculului

00:07:13.501 --> 00:07:16.386
au loc pentru că IA s-a zăpăcit.

00:07:16.410 --> 00:07:20.418
Vreau să vorbesc 
despre un exemplu din 2016.

00:07:20.442 --> 00:07:24.897
A avut loc un accident mortal când cineva
a folosit o Tesla pilotată de o IA,

00:07:24.921 --> 00:07:28.335
dar în loc să o folosească pe autostradă 
așa cum a fost proiectată,

00:07:28.359 --> 00:07:30.564
au folosit-o pe străzile orașului.

00:07:31.149 --> 00:07:32.444
Și ce s-a întâmplat a fost

00:07:32.444 --> 00:07:35.834
că un camion a trecut 
prin fața mașinii, iar mașina nu a frânat.

00:07:36.507 --> 00:07:41.269
IA a fost cu siguranță instruită 
să recunoască camioanele în imagini.

00:07:41.293 --> 00:07:43.362
Dar ceea ce pare să se fi întâmplat

00:07:43.362 --> 00:07:46.563
e că IA a fost instruită 
să recunoască camioanele pe autostradă,

00:07:46.563 --> 00:07:49.316
unde te-ai aștepta 
să vezi camioanele din spate.

00:07:49.340 --> 00:07:52.760
Venirea camioanelor din lateral 
nu e de așteptat pe o autostradă,

00:07:52.784 --> 00:07:56.239
și atunci când IA a văzut acest camion,

00:07:56.263 --> 00:08:01.090
l-a recunoscut ca fiind 
cel mai probabil un semn rutier

00:08:01.114 --> 00:08:03.777
și, prin urmare,
în regulă să treci pe sub el.

NOTE Paragraph

00:08:04.114 --> 00:08:06.694
Iată o greșeală a IA dintr-un alt domeniu.

00:08:06.718 --> 00:08:10.178
Recent Amazon a trebuit să renunțe
la un algoritm de sortare a CV-urilor

00:08:10.202 --> 00:08:11.422
cu care lucrau

00:08:11.446 --> 00:08:14.898
când au descoperit că algoritmul 
învățase să discrimineze femeile.

00:08:14.898 --> 00:08:18.094
Ceea ce s-a întâmplat a fost
că au instruit-o pe exemple de CV-uri

00:08:18.118 --> 00:08:20.360
ale oamenilor 
pe care îi angajaseră în trecut.

00:08:20.384 --> 00:08:24.407
Și din aceste exemple, 
IA a învățat să evite CV-urile persoanelor

00:08:24.431 --> 00:08:26.457
care au învățat în licee de fete

00:08:26.481 --> 00:08:29.287
sau cele care aveau cuvântul 
„femeie” undeva în CV-ul lor,

00:08:29.311 --> 00:08:33.887
ca în „echipa de fotbal feminin” 
sau „Societatea Femeilor Inginer.”

00:08:33.911 --> 00:08:37.885
IA nu știa că nu trebuia 
să copieze acest lucru

00:08:37.909 --> 00:08:39.887
așa cum i-a văzut pe oameni că fac.

00:08:39.911 --> 00:08:43.088
Și tehnic, a făcut ce i-au cerut să facă.

00:08:43.112 --> 00:08:45.909
I-au cerut din greșeală 
să facă un lucru greșit.

NOTE Paragraph

00:08:46.653 --> 00:08:49.548
Și acest lucru 
se întâmplă tot timpul cu IA.

00:08:50.120 --> 00:08:53.711
IA poate fi cu adevărat 
distructivă fără să știe.

00:08:53.735 --> 00:08:58.813
Deci, IA care recomandă conținut nou 
pe Facebook, pe YouTube,

00:08:58.837 --> 00:09:02.376
e optimizată pentru a crește 
numărul de clicuri și vizualizări.

00:09:02.400 --> 00:09:05.836
Și, din păcate, un mod prin care fac asta

00:09:05.860 --> 00:09:10.363
e prin recomandarea unui conținut
conspiraționist sau bigot.

00:09:10.902 --> 00:09:16.204
IA în sine nu înțelege
ce e acest conținut,

00:09:16.228 --> 00:09:19.623
și nu, nu înțelege nici
care ar putea fi consecințele

00:09:19.647 --> 00:09:21.756
recomandării acestui tip de conținut.

NOTE Paragraph

00:09:22.296 --> 00:09:24.307
Deci, atunci când lucrăm cu IA,

00:09:24.331 --> 00:09:28.513
depinde de noi să evităm probleme.

00:09:28.537 --> 00:09:30.860
Și evitând ca lucrurile să nu meargă bine,

00:09:30.884 --> 00:09:35.410
asta ar putea să ne ducă 
la vechea problemă de comunicare,

00:09:35.434 --> 00:09:39.179
unde noi, ca oameni, trebuie să învățăm
cum să comunicăm cu IA.

00:09:39.203 --> 00:09:43.242
Trebuie să învățăm ce e capabilă
să facă IA și ce nu e,

00:09:43.266 --> 00:09:46.352
și să înțelegem că având un creier
mic de vierme,

00:09:46.376 --> 00:09:50.389
IA nu înțelege cu adevărat 
ce încercăm să-i cerem să facă.

00:09:51.148 --> 00:09:54.469
Deci, cu alte cuvinte, 
trebuie să fim pregătiți să lucrăm cu IA

00:09:54.493 --> 00:09:59.751
care nu e acea IA super competentă,
atotștiutoare a științifico-fantasticului.

00:09:59.775 --> 00:10:02.637
Trebuie să ne pregătim să lucrăm cu IA

00:10:02.661 --> 00:10:05.599
pe care o avem de fapt în zilele noastre.

00:10:05.623 --> 00:10:09.828
Iar IA actuală este destul de ciudată.

NOTE Paragraph

00:10:09.852 --> 00:10:11.042
Vă mulțumesc!

NOTE Paragraph

00:10:11.066 --> 00:10:16.291
(Aplauze)