1 00:00:01,765 --> 00:00:04,765 Deci, inteligența artificială 2 00:00:04,789 --> 00:00:08,318 e cunoscută pentru perturbarea multor tipurilor de industrii. 3 00:00:08,961 --> 00:00:11,004 Dar cum rămâne cu înghețata? 4 00:00:11,879 --> 00:00:15,518 Ce fel de arome năucitoare noi am putea să generăm 5 00:00:15,542 --> 00:00:18,518 cu puterea unei inteligențe artificiale avansate? 6 00:00:19,011 --> 00:00:23,172 Am făcut echipă cu un grup de programatori de la Kealing Middle School 7 00:00:23,196 --> 00:00:25,437 pentru a afla răspunsul la această întrebare. 8 00:00:25,461 --> 00:00:30,542 Au colectat peste 1.600 de arome existente de înghețată, 9 00:00:30,566 --> 00:00:36,088 pe care le-am introdus într-un algoritm pentru a vedea ce va genera. 10 00:00:36,112 --> 00:00:39,865 Iată câteva dintre aromele pe care le-a generat IA. 11 00:00:40,444 --> 00:00:41,915 [Gunoi de Dovleac Crăpat] 12 00:00:41,939 --> 00:00:43,341 (Râsete) 13 00:00:43,365 --> 00:00:45,834 [Mocirlă de Unt de Arahide] 14 00:00:46,822 --> 00:00:48,165 [Boală de Cremă de Căpșuni] 15 00:00:48,189 --> 00:00:50,315 (Râsete) 16 00:00:50,339 --> 00:00:54,936 Aceste arome nu sunt delicioase, așa cum am fi sperat că vor fi. 17 00:00:54,960 --> 00:00:56,978 Deci, întrebarea e: ce s-a întâmplat? 18 00:00:56,978 --> 00:00:58,242 Ce a mers rău? 19 00:00:58,266 --> 00:01:00,225 Încearcă IA să ne omoare? 20 00:01:01,027 --> 00:01:05,337 Sau încearcă să facă ceea ce i-am cerut, dar a existat o problemă? 21 00:01:06,567 --> 00:01:09,031 În filme, când ceva nu merge bine cu IA, 22 00:01:09,055 --> 00:01:11,767 este de obicei pentru că IA a decis 23 00:01:11,791 --> 00:01:14,063 că nu mai vrea să se supună oamenilor, 24 00:01:14,087 --> 00:01:16,710 și are propriile ei obiective, mulțumesc foarte mult. 25 00:01:17,266 --> 00:01:20,482 În viața reală însă, IA pe care o avem de fapt 26 00:01:20,506 --> 00:01:22,549 nu este destul de inteligentă pentru asta. 27 00:01:22,781 --> 00:01:25,763 Are puterea de calcul aproximativă 28 00:01:25,787 --> 00:01:27,103 cu a unui vierme de pământ, 29 00:01:27,103 --> 00:01:30,490 sau poate cel mult cu a unei singure albine, 30 00:01:30,514 --> 00:01:32,729 și de fapt, probabil poate mai puțin. 31 00:01:32,753 --> 00:01:35,347 Învățăm constant lucruri noi despre creier 32 00:01:35,371 --> 00:01:39,731 care clarifică faptul că IA nu poate concura cu creierele reale. 33 00:01:39,755 --> 00:01:45,418 IA curentă poate realiza identificarea unui pieton dintr-o imagine, 34 00:01:45,442 --> 00:01:48,425 dar nu are un concept despre ce este pietonul 35 00:01:48,449 --> 00:01:53,273 dincolo de faptul că este o colecție de linii, texturi și lucruri. 36 00:01:53,792 --> 00:01:56,313 Nu știe ce este de fapt un om. 37 00:01:56,822 --> 00:02:00,104 Deci, IA din zilele noastre va face ceea ce îi cerem să facă? 38 00:02:00,128 --> 00:02:01,722 O va face dacă va putea, 39 00:02:01,746 --> 00:02:04,472 dar s-ar putea să nu facă ceea ce ne dorim de fapt. 40 00:02:04,496 --> 00:02:06,911 Deci, să spunem că încercați să faceți IA 41 00:02:06,935 --> 00:02:09,554 să ia aceste părți ale unui robot 42 00:02:09,578 --> 00:02:13,775 și să le asambleze într-un fel de robot pentru a merge din punctul A în punctul B. 43 00:02:13,799 --> 00:02:16,280 Dacă ați încerca să rezolvați această problemă 44 00:02:16,304 --> 00:02:18,705 prin scrierea unui program în stil tradițional, 45 00:02:18,705 --> 00:02:22,096 îi veți da programului instrucțiuni pas cu pas, 46 00:02:22,120 --> 00:02:23,579 despre cum să ia aceste părți, 47 00:02:23,579 --> 00:02:25,880 cum să le asambleze într-un robot cu picioare 48 00:02:25,904 --> 00:02:29,436 și apoi cum să folosească acele picioare pentru a merge până în punctul B. 49 00:02:29,446 --> 00:02:31,781 Dar când utilizați IA pentru a rezolva problema, 50 00:02:31,805 --> 00:02:32,979 e diferit. 51 00:02:33,003 --> 00:02:35,385 Nu îi spuneți cum să rezolve problema, 52 00:02:35,409 --> 00:02:36,888 îi dați doar obiectivul, 53 00:02:36,912 --> 00:02:40,174 și trebuie să-și dea seama singură prin încercări și greșeli 54 00:02:40,198 --> 00:02:41,682 cum să atingă acel obiectiv. 55 00:02:42,254 --> 00:02:46,356 Și se dovedește că modul în care IA tinde să rezolve această problemă specifică 56 00:02:46,380 --> 00:02:47,864 este făcând astfel: 57 00:02:47,888 --> 00:02:51,255 le asamblează într-un turn care apoi cade 58 00:02:51,279 --> 00:02:53,106 și aterizează în punctul B. 59 00:02:53,130 --> 00:02:55,959 Și practic, asta rezolvă problema. 60 00:02:55,983 --> 00:02:57,622 Practic, a ajuns în punctul B. 61 00:02:57,646 --> 00:03:01,911 Pericolul IA nu este că se va revolta împotriva noastră, 62 00:03:01,935 --> 00:03:06,209 ci că va face exact ceea ce îi cerem să facă. 63 00:03:06,876 --> 00:03:09,374 Atunci întrebarea devine: 64 00:03:09,398 --> 00:03:13,226 cum să formulăm problema astfel încât să facă exact ce ne dorim? 65 00:03:14,726 --> 00:03:18,032 Deci, acest mic robot de aici este controlat de IA. 66 00:03:18,056 --> 00:03:20,870 IA a creat un design pentru picioarele robotului 67 00:03:20,894 --> 00:03:24,972 și apoi a înțeles cum să le folosească pentru a trece peste toate obstacolele. 68 00:03:24,996 --> 00:03:27,737 Dar când David Ha a creat acest experiment, 69 00:03:27,761 --> 00:03:30,617 a trebuit să-l stabilească cu limite foarte, foarte stricte 70 00:03:30,641 --> 00:03:33,933 despre cât de mari i-a fost permis IA să facă picioarele, 71 00:03:33,957 --> 00:03:35,507 pentru că altfel... 72 00:03:43,058 --> 00:03:46,989 (Râsete) 73 00:03:48,563 --> 00:03:52,308 Și tehnic vorbind, a ajuns la sfârșitul acelei curse cu obstacole. 74 00:03:52,332 --> 00:03:57,274 Vedeți cât de greu e să faceți IA să facă ceva simplu ca mersul. 75 00:03:57,298 --> 00:04:01,118 Deci, văzând că IA face asta, e posibil să spuneți: bine, dar nu e corect. 76 00:04:01,142 --> 00:04:03,722 Nu poate fi înalt cât un turn și doar să cadă, 77 00:04:03,746 --> 00:04:07,181 trebuie să-și folosească picioarele pentru a merge. 78 00:04:07,205 --> 00:04:09,964 Și se pare că nici asta nu funcționează întotdeauna. 79 00:04:09,988 --> 00:04:12,747 Scopul acestei IA a fost să se miște repede. 80 00:04:13,115 --> 00:04:16,708 Nu i-au spus că trebuie să meargă înainte 81 00:04:16,732 --> 00:04:18,990 sau că nu-și putea folosi brațele. 82 00:04:19,487 --> 00:04:24,105 Asta obțineți atunci când antrenați IA pentru a se deplasa rapid, 83 00:04:24,129 --> 00:04:27,663 obțineți tumbe sau mers ciudat. 84 00:04:27,687 --> 00:04:29,087 Este ceva foarte comun. 85 00:04:29,667 --> 00:04:32,846 La fel e și târâirea de-a lungul podelei. 86 00:04:32,870 --> 00:04:34,460 (Râsete) 87 00:04:35,241 --> 00:04:38,495 În opinia mea, ce ar putea fi mult mai ciudat 88 00:04:38,519 --> 00:04:39,915 sunt roboții „Terminator”. 89 00:04:40,206 --> 00:04:44,011 Spargerea „Matrix-ului” e un alt lucru pe care IA îl va face dacă-i dați șansa. 90 00:04:44,035 --> 00:04:46,552 Deci, dacă antrenați o IA într-o simulare, 91 00:04:46,576 --> 00:04:50,689 va învăța să facă lucruri precum folosirea erorilor matematice ale simulării 92 00:04:50,713 --> 00:04:52,920 și să le recolteze pentru energie. 93 00:04:52,944 --> 00:04:58,419 Sau va învăța cum să se miște mai repede aruncându-se în mod repetat pe podea. 94 00:04:58,443 --> 00:05:00,028 Când lucrați cu IA, 95 00:05:00,052 --> 00:05:02,441 e mai puțin ca și cum ați lucra cu alt om 96 00:05:02,465 --> 00:05:06,094 și mai mult ca și cum ați lucra cu un fel de forță ciudată a naturii. 97 00:05:06,562 --> 00:05:11,185 Și e foarte ușor să-i dați IA problema greșită spre rezolvare, 98 00:05:11,209 --> 00:05:15,747 și de multe ori nu ne dăm seama de asta până când ceva nu a mers greșit. 99 00:05:16,242 --> 00:05:18,322 Iată un experiment pe care l-am făcut, 100 00:05:18,346 --> 00:05:21,528 unde am vrut ca IA să copieze culorile, 101 00:05:21,552 --> 00:05:23,298 și să inventeze noi culori, 102 00:05:23,322 --> 00:05:26,309 având în vedere o listă precum cea din stânga. 103 00:05:26,798 --> 00:05:29,802 Și iată cu ce a venit IA. 104 00:05:29,826 --> 00:05:33,983 [Sindis Poop, Turdly, Suffer, Grey Pubic] 105 00:05:33,983 --> 00:05:37,223 (Râsete) 106 00:05:39,177 --> 00:05:41,063 Deci tehnic, 107 00:05:41,087 --> 00:05:42,951 a făcut ceea ce i-am cerut. 108 00:05:42,975 --> 00:05:46,283 Am crezut că i-am cerut, nume frumoase de culori, 109 00:05:46,307 --> 00:05:48,614 dar ceea ce i-am cerut de fapt 110 00:05:48,638 --> 00:05:51,724 a fost doar să imite tipurile de combinații de litere 111 00:05:51,748 --> 00:05:53,653 pe care le văzuse în original. 112 00:05:53,677 --> 00:05:56,775 Și nu i-am spus nimic despre ce înseamnă acele cuvinte, 113 00:05:56,799 --> 00:05:59,359 sau că există poate câteva cuvinte 114 00:05:59,383 --> 00:06:02,272 cărora ar trebui să le evite utilizarea în aceste culori. 115 00:06:03,141 --> 00:06:06,635 Deci întreaga ei lume sunt datele pe care i le-am dat. 116 00:06:06,659 --> 00:06:10,687 Ca și în cazul aromelor de înghețată, nu știe nimic altceva. 117 00:06:12,491 --> 00:06:14,129 Deci, prin intermediul datelor 118 00:06:14,153 --> 00:06:18,197 deseori îi spunem accidental IA să facă un lucru greșit. 119 00:06:18,694 --> 00:06:21,726 Acesta este un pește numit lin. 120 00:06:21,750 --> 00:06:23,565 Și a existat un grup de cercetători 121 00:06:23,589 --> 00:06:27,463 care au instruit IA pentru a identifica acest lin în imagini. 122 00:06:27,487 --> 00:06:28,913 Dar atunci când au întrebat-o 123 00:06:28,913 --> 00:06:32,233 ce parte a imaginii folosea pentru identificarea peștilor, 124 00:06:32,257 --> 00:06:33,615 iată ce a răspuns. 125 00:06:35,203 --> 00:06:37,392 Da, acestea sunt degete umane. 126 00:06:37,416 --> 00:06:39,475 De ce ar fi căutat degete umane 127 00:06:39,499 --> 00:06:41,420 dacă încearcă să identifice un pește? 128 00:06:42,126 --> 00:06:45,290 Ei bine, s-a descoperit că lin-ul este un pește trofeu, 129 00:06:45,314 --> 00:06:49,125 și astfel, într-o mulțime de poze pe care IA le-a văzut cu acest pește 130 00:06:49,149 --> 00:06:50,420 în timpul antrenamentului, 131 00:06:50,420 --> 00:06:51,814 peștele arăta așa. 132 00:06:51,838 --> 00:06:53,473 (Râsete) 133 00:06:53,497 --> 00:06:56,827 Și nu știa că degetele nu fac parte din pește. 134 00:06:58,808 --> 00:07:02,928 Așa că vedeți de ce e atât de greu să construiești o IA 135 00:07:02,952 --> 00:07:06,271 care poate înțelege ce privește. 136 00:07:06,295 --> 00:07:09,157 De asta realizarea recunoașterii imaginilor 137 00:07:09,181 --> 00:07:11,248 în mașinile fără șofer e atât de grea, 138 00:07:11,272 --> 00:07:13,477 și de ce atâtea defecțiuni ale autovehiculului 139 00:07:13,501 --> 00:07:16,386 au loc pentru că IA s-a zăpăcit. 140 00:07:16,410 --> 00:07:20,418 Vreau să vorbesc despre un exemplu din 2016. 141 00:07:20,442 --> 00:07:24,897 A avut loc un accident mortal când cineva a folosit o Tesla pilotată de o IA, 142 00:07:24,921 --> 00:07:28,335 dar în loc să o folosească pe autostradă așa cum a fost proiectată, 143 00:07:28,359 --> 00:07:30,564 au folosit-o pe străzile orașului. 144 00:07:31,149 --> 00:07:32,444 Și ce s-a întâmplat a fost 145 00:07:32,444 --> 00:07:35,834 că un camion a trecut prin fața mașinii, iar mașina nu a frânat. 146 00:07:36,507 --> 00:07:41,269 IA a fost cu siguranță instruită să recunoască camioanele în imagini. 147 00:07:41,293 --> 00:07:43,362 Dar ceea ce pare să se fi întâmplat 148 00:07:43,362 --> 00:07:46,563 e că IA a fost instruită să recunoască camioanele pe autostradă, 149 00:07:46,563 --> 00:07:49,316 unde te-ai aștepta să vezi camioanele din spate. 150 00:07:49,340 --> 00:07:52,760 Venirea camioanelor din lateral nu e de așteptat pe o autostradă, 151 00:07:52,784 --> 00:07:56,239 și atunci când IA a văzut acest camion, 152 00:07:56,263 --> 00:08:01,090 l-a recunoscut ca fiind cel mai probabil un semn rutier 153 00:08:01,114 --> 00:08:03,777 și, prin urmare, în regulă să treci pe sub el. 154 00:08:04,114 --> 00:08:06,694 Iată o greșeală a IA dintr-un alt domeniu. 155 00:08:06,718 --> 00:08:10,178 Recent Amazon a trebuit să renunțe la un algoritm de sortare a CV-urilor 156 00:08:10,202 --> 00:08:11,422 cu care lucrau 157 00:08:11,446 --> 00:08:14,898 când au descoperit că algoritmul învățase să discrimineze femeile. 158 00:08:14,898 --> 00:08:18,094 Ceea ce s-a întâmplat a fost că au instruit-o pe exemple de CV-uri 159 00:08:18,118 --> 00:08:20,360 ale oamenilor pe care îi angajaseră în trecut. 160 00:08:20,384 --> 00:08:24,407 Și din aceste exemple, IA a învățat să evite CV-urile persoanelor 161 00:08:24,431 --> 00:08:26,457 care au învățat în licee de fete 162 00:08:26,481 --> 00:08:29,287 sau cele care aveau cuvântul „femeie” undeva în CV-ul lor, 163 00:08:29,311 --> 00:08:33,887 ca în „echipa de fotbal feminin” sau „Societatea Femeilor Inginer.” 164 00:08:33,911 --> 00:08:37,885 IA nu știa că nu trebuia să copieze acest lucru 165 00:08:37,909 --> 00:08:39,887 așa cum i-a văzut pe oameni că fac. 166 00:08:39,911 --> 00:08:43,088 Și tehnic, a făcut ce i-au cerut să facă. 167 00:08:43,112 --> 00:08:45,909 I-au cerut din greșeală să facă un lucru greșit. 168 00:08:46,653 --> 00:08:49,548 Și acest lucru se întâmplă tot timpul cu IA. 169 00:08:50,120 --> 00:08:53,711 IA poate fi cu adevărat distructivă fără să știe. 170 00:08:53,735 --> 00:08:58,813 Deci, IA care recomandă conținut nou pe Facebook, pe YouTube, 171 00:08:58,837 --> 00:09:02,376 e optimizată pentru a crește numărul de clicuri și vizualizări. 172 00:09:02,400 --> 00:09:05,836 Și, din păcate, un mod prin care fac asta 173 00:09:05,860 --> 00:09:10,363 e prin recomandarea unui conținut conspiraționist sau bigot. 174 00:09:10,902 --> 00:09:16,204 IA în sine nu înțelege ce e acest conținut, 175 00:09:16,228 --> 00:09:19,623 și nu, nu înțelege nici care ar putea fi consecințele 176 00:09:19,647 --> 00:09:21,756 recomandării acestui tip de conținut. 177 00:09:22,296 --> 00:09:24,307 Deci, atunci când lucrăm cu IA, 178 00:09:24,331 --> 00:09:28,513 depinde de noi să evităm probleme. 179 00:09:28,537 --> 00:09:30,860 Și evitând ca lucrurile să nu meargă bine, 180 00:09:30,884 --> 00:09:35,410 asta ar putea să ne ducă la vechea problemă de comunicare, 181 00:09:35,434 --> 00:09:39,179 unde noi, ca oameni, trebuie să învățăm cum să comunicăm cu IA. 182 00:09:39,203 --> 00:09:43,242 Trebuie să învățăm ce e capabilă să facă IA și ce nu e, 183 00:09:43,266 --> 00:09:46,352 și să înțelegem că având un creier mic de vierme, 184 00:09:46,376 --> 00:09:50,389 IA nu înțelege cu adevărat ce încercăm să-i cerem să facă. 185 00:09:51,148 --> 00:09:54,469 Deci, cu alte cuvinte, trebuie să fim pregătiți să lucrăm cu IA 186 00:09:54,493 --> 00:09:59,751 care nu e acea IA super competentă, atotștiutoare a științifico-fantasticului. 187 00:09:59,775 --> 00:10:02,637 Trebuie să ne pregătim să lucrăm cu IA 188 00:10:02,661 --> 00:10:05,599 pe care o avem de fapt în zilele noastre. 189 00:10:05,623 --> 00:10:09,828 Iar IA actuală este destul de ciudată. 190 00:10:09,852 --> 00:10:11,042 Vă mulțumesc! 191 00:10:11,066 --> 00:10:16,291 (Aplauze)