1 00:00:01,855 --> 00:00:04,354 Sztuczna Inteligencja (AI) 2 00:00:04,789 --> 00:00:08,318 wpływa na różne gałęzie przemysłu. 3 00:00:08,851 --> 00:00:11,654 A co z lodami? 4 00:00:11,879 --> 00:00:15,518 Jakie obłędne smaki można by stworzyć 5 00:00:15,542 --> 00:00:18,518 za pomocą zaawansowanej sztucznej inteligencji? 6 00:00:19,011 --> 00:00:23,172 Aby odpowiedzieć na to pytanie, połączyłam siły z grupą programistów 7 00:00:23,196 --> 00:00:25,437 z Kealing Middle School. 8 00:00:25,461 --> 00:00:30,542 Zebrali ponad 1600 istniejących smaków lodów, 9 00:00:30,566 --> 00:00:36,088 wpisaliśmy je do algorytmu, by zobaczyć, co wygeneruje. 10 00:00:36,112 --> 00:00:39,865 Oto niektóre smaki wymyślone przez sztuczną inteligencję. 11 00:00:39,884 --> 00:00:41,915 [Dyniowa Przerwa Śmieciowa] 12 00:00:41,939 --> 00:00:43,071 (Śmiech) 13 00:00:43,071 --> 00:00:45,834 [Śluz masła orzechowego] 14 00:00:46,442 --> 00:00:48,499 [Choroba truskawkowo-śmietankowa] 15 00:00:48,499 --> 00:00:50,125 (Śmiech) 16 00:00:50,189 --> 00:00:54,936 Nie są tak smakowite, jak oczekiwaliśmy. 17 00:00:54,960 --> 00:00:56,824 Pytanie brzmi: co się stało? 18 00:00:56,848 --> 00:00:58,242 Co poszło nie tak? 19 00:00:58,266 --> 00:01:00,765 Czy sztuczna inteligencja próbuje nas zabić? 20 00:01:01,027 --> 00:01:06,087 A może próbuje spełnić nasze polecenie i pojawił się problem? 21 00:01:06,567 --> 00:01:09,031 Filmowe kłopoty ze sztuczną inteligencją 22 00:01:09,055 --> 00:01:13,907 spowodowane są zazwyczaj wymówieniem posłuszeństwa człowiekowi. 23 00:01:14,087 --> 00:01:16,710 "Dzięki, ale mam własne plany" 24 00:01:17,266 --> 00:01:20,482 W rzeczywistości dzisiejsza sztuczna inteligencja, 25 00:01:20,506 --> 00:01:22,369 nie jest aż tak mądra. 26 00:01:22,781 --> 00:01:25,473 Ma moc obliczeniową 27 00:01:25,487 --> 00:01:27,063 dżdżownicy 28 00:01:27,087 --> 00:01:30,490 lub maksymalnie pszczoły. 29 00:01:30,514 --> 00:01:32,729 Właściwie to mniejszą. 30 00:01:32,753 --> 00:01:35,347 Nieustannie dowiadujemy się o mózgu rzeczy, które ujawniają, 31 00:01:35,371 --> 00:01:39,731 jak dalece sztuczna inteligencja do nas nie dorasta. 32 00:01:39,755 --> 00:01:45,418 Obecnie sztuczna inteligencja może zidentyfikować pieszego na zdjęciu, 33 00:01:45,442 --> 00:01:48,425 ale nie wie, czym jest pieszy 34 00:01:48,449 --> 00:01:53,273 poza tym, że jest to zbiór linii, tekstur czy rzeczy. 35 00:01:53,792 --> 00:01:56,313 Nie wie, czym jest człowiek. 36 00:01:56,822 --> 00:02:00,104 Czy współczesna sztuczna inteligencja zrobi to, o co się ją prosi? 37 00:02:00,128 --> 00:02:01,722 Zrobi, jeśli umie, 38 00:02:01,746 --> 00:02:04,472 ale efekt może się różnić od oczekiwań. 39 00:02:04,496 --> 00:02:06,911 Załóżmy, że chcieliście, by sztuczna inteligencja 40 00:02:06,935 --> 00:02:09,554 wzięła części robota 41 00:02:09,578 --> 00:02:13,775 i zrobiła z nich robota, który ma dotrzeć z punktu A do B. 42 00:02:13,799 --> 00:02:16,280 Gdyby podejść do problemu 43 00:02:16,304 --> 00:02:18,655 z pomocą tradycyjnego programu komputerowego, 44 00:02:18,679 --> 00:02:22,096 komputerowi należy dać szczegółową instrukcję, 45 00:02:22,120 --> 00:02:23,449 jak wziąć dane części, 46 00:02:23,473 --> 00:02:25,880 złożyć robota z nogami 47 00:02:25,904 --> 00:02:28,846 i jak użyć tych nóg, by dotrzeć do punktu B. 48 00:02:29,141 --> 00:02:31,781 Rozwiązując problem przy użyciu sztucznej inteligencji, 49 00:02:31,805 --> 00:02:32,979 robi się to inaczej. 50 00:02:33,003 --> 00:02:35,385 Nie mówi się, jak rozwiązać problem. 51 00:02:35,409 --> 00:02:36,888 Po prostu daje się cel, 52 00:02:36,912 --> 00:02:40,174 a ona sama, metodą prób i błędów, 53 00:02:40,198 --> 00:02:42,092 musi znaleźć rozwiązanie. 54 00:02:42,154 --> 00:02:45,696 Okazuje się, że sztuczna inteligencja 55 00:02:45,780 --> 00:02:48,064 rozwiązuje ten konkretny problem tak: 56 00:02:48,064 --> 00:02:51,666 buduje z części wieżę i przewraca ją, 57 00:02:51,706 --> 00:02:54,381 lądując w punkcie B. 58 00:02:54,381 --> 00:02:56,756 Technicznie rzecz biorąc, rozwiązała problem. 59 00:02:56,756 --> 00:02:58,191 Dotarła do punktu B. 60 00:02:58,191 --> 00:03:02,348 Niebezpieczeństwem sztucznej inteligencji nie jest bunt przeciwko nam, 61 00:03:02,348 --> 00:03:07,104 lecz to, że zrobi dokładnie to, o co ją poprosiliśmy. 62 00:03:07,108 --> 00:03:10,042 Istotą pracy ze sztuczną inteligencją 63 00:03:10,042 --> 00:03:14,424 jest postawienie problemu tak, by zrobiła to, czego oczekujemy. 64 00:03:14,936 --> 00:03:18,742 Ten mały robot kontrolowany jest przez sztuczną inteligencję, 65 00:03:18,742 --> 00:03:21,530 która sama zaprojektowała nogi robota 66 00:03:21,530 --> 00:03:25,057 i sposób ich użycia do obchodzenia przeszkód. 67 00:03:25,057 --> 00:03:28,267 Ale kiedy David Ha stworzył ten eksperyment, 68 00:03:28,267 --> 00:03:32,119 musiał postawić bardzo surowe ograniczenia 69 00:03:32,119 --> 00:03:34,677 dotyczące wielkości nóg 70 00:03:34,678 --> 00:03:38,229 w przeciwnym razie... 71 00:03:47,133 --> 00:03:48,898 (Śmiech) 72 00:03:48,898 --> 00:03:52,754 Technicznie rzecz biorąc, doszła do końca trasy. 73 00:03:52,754 --> 00:03:57,718 Czyli trudno skłonić AI do zrobienia czegoś tak prostego jak chodzenie. 74 00:03:57,805 --> 00:04:01,351 Obserwując, jak robi to AI, można powiedzieć: "Nie fair, 75 00:04:01,351 --> 00:04:04,413 nie możesz być wysoką wieżą i po prostu upaść, 76 00:04:04,413 --> 00:04:07,514 musisz użyć nóg do chodzenia". 77 00:04:07,514 --> 00:04:10,317 Niestety to też nie zawsze działa. 78 00:04:10,317 --> 00:04:14,128 Zadaniem sztucznej inteligencji było szybkie poruszanie się. 79 00:04:14,142 --> 00:04:17,090 Nie powiedziano, że musi biec do przodu, 80 00:04:17,157 --> 00:04:19,595 ani że nie może używać ramion. 81 00:04:19,609 --> 00:04:24,603 Tak to wygląda, gdy uczymy AI szybko się ruszać: 82 00:04:24,607 --> 00:04:27,967 przewroty i dziwny chód. 83 00:04:27,997 --> 00:04:30,566 To bardzo powszechne. 84 00:04:30,566 --> 00:04:34,020 Może to też wyglądać jak drgawki sterty na podłodze. 85 00:04:34,031 --> 00:04:34,935 (Śmiech) 86 00:04:35,019 --> 00:04:38,515 Dla mnie dużo dziwniejsze są 87 00:04:38,515 --> 00:04:41,011 roboty z "Terminatora". 88 00:04:41,011 --> 00:04:44,832 AI chętnie też włamie się do matrycy. 89 00:04:44,832 --> 00:04:47,089 Jeśli więc wyszkolić AI w symulacji, 90 00:04:47,089 --> 00:04:50,970 nauczy się włamywać przez błędy w obliczeniach 91 00:04:50,970 --> 00:04:53,329 i czerpać z nich energię. 92 00:04:53,432 --> 00:04:58,061 Wymyśli szybki ruch przez drgawki na podłodze. 93 00:04:58,671 --> 00:05:00,764 Praca ze sztuczną inteligencją 94 00:05:00,764 --> 00:05:02,994 nie przypomina pracy z człowiekiem, 95 00:05:02,994 --> 00:05:06,257 lecz z jakąś dziwną siłą natury. 96 00:05:06,532 --> 00:05:11,056 Bardzo łatwo dać jej przypadkiem niewłaściwy problem do rozwiązania. 97 00:05:11,056 --> 00:05:15,628 Często nie zdajemy sobie z tego sprawy, dopóki coś nie pójdzie nie tak. 98 00:05:15,892 --> 00:05:18,558 Zrobiłam eksperyment, 99 00:05:18,562 --> 00:05:22,321 w którym kazałam AI kopiować farby, 100 00:05:22,321 --> 00:05:24,592 żeby stworzyć nowe kolory 101 00:05:24,592 --> 00:05:27,079 mając do wyboru listę jak ta po lewej. 102 00:05:27,079 --> 00:05:30,053 Oto na co wpadła sztuczna inteligencja. 103 00:05:30,067 --> 00:05:35,347 [Kupa Syndów, Balaskowy, Cierpieć, Szary łonowy] 104 00:05:35,467 --> 00:05:38,801 (Śmiech) 105 00:05:38,865 --> 00:05:41,523 Technicznie rzecz biorąc, 106 00:05:41,567 --> 00:05:43,644 wypełniła polecenie. 107 00:05:43,698 --> 00:05:47,014 Myślałam, że proszę o miłe nazwy kolorów, 108 00:05:47,014 --> 00:05:49,493 ale tak naprawdę prosiłam 109 00:05:49,493 --> 00:05:52,255 o imitowanie kombinacji liter 110 00:05:52,255 --> 00:05:54,389 z oryginalnych nazw. 111 00:05:54,389 --> 00:05:57,252 Nie wyjaśniałam, co one znaczą, 112 00:05:57,271 --> 00:06:00,355 ani że są słowa, których być może 113 00:06:00,355 --> 00:06:03,397 nie powinna używać do farb. 114 00:06:03,397 --> 00:06:07,259 Całym jej światem były moje dane. 115 00:06:07,343 --> 00:06:11,917 Podobnie jak w przypadku smaków lodów, AI nie ma dodatkowej wiedzy. 116 00:06:12,094 --> 00:06:16,897 To przez nieodpowiednie dane często każemy AI 117 00:06:16,897 --> 00:06:18,775 robić nie to, co trzeba. 118 00:06:18,929 --> 00:06:22,033 To ryba zwana linem. 119 00:06:22,067 --> 00:06:23,817 Pewna grupa badaczy 120 00:06:23,877 --> 00:06:27,583 wytrenowała AI w rozpoznawaniu lina na ilustracjach. 121 00:06:27,647 --> 00:06:29,055 Ale gdy zapytali ją, 122 00:06:29,163 --> 00:06:32,652 jakiej części obrazu używa do identyfikacji ryby, 123 00:06:32,652 --> 00:06:34,035 oto co pokazała. 124 00:06:35,335 --> 00:06:37,370 Tak, to są ludzkie palce. 125 00:06:37,706 --> 00:06:39,980 Dlaczego szuka palców 126 00:06:39,980 --> 00:06:41,989 podczas identyfikowania ryby? 127 00:06:42,079 --> 00:06:45,224 Okazuje się, że lin jest rybą, którą warto się chwalić, 128 00:06:46,134 --> 00:06:47,764 więc na wielu zdjęciach, 129 00:06:47,764 --> 00:06:50,503 które AI widziała podczas treningu, 130 00:06:50,503 --> 00:06:52,363 ryba wyglądała tak. 131 00:06:52,912 --> 00:06:54,082 (Śmiech) 132 00:06:54,082 --> 00:06:56,661 AI nie wiedziała, że palce nie są częścią ryby. 133 00:06:58,545 --> 00:07:03,807 Widzicie więc, dlaczego tak trudno zaprojektować AI, 134 00:07:03,807 --> 00:07:06,668 która rozumie, na co patrzy. 135 00:07:06,762 --> 00:07:09,497 Dlatego też projektowanie rozpoznawania obrazów 136 00:07:09,497 --> 00:07:12,028 w samosterujących samochodach jest takie trudne 137 00:07:12,028 --> 00:07:14,778 i dlatego tyle niepowodzeń samosterujących samochodów 138 00:07:14,778 --> 00:07:17,107 było wynikiem dezorientacji SI. 139 00:07:17,107 --> 00:07:20,045 Chciałabym wspomnieć o przykładzie z 2016 roku. 140 00:07:20,079 --> 00:07:25,704 Zdarzył się wtedy śmiertelny wypadek podczas używania autopilota AI Tesli, 141 00:07:25,719 --> 00:07:29,121 ale zamiast używania go na autostradzie, do czego został zaprojektowany, 142 00:07:29,121 --> 00:07:31,364 użyto go w mieście. 143 00:07:31,364 --> 00:07:34,359 Ciężarówka wjechała przed samochód, 144 00:07:34,393 --> 00:07:36,258 który nie zahamował. 145 00:07:36,272 --> 00:07:40,710 AI na pewno uczono rozpoznawać ciężarówki na zdjęciach. 146 00:07:41,507 --> 00:07:43,286 Ale wygląda na to, 147 00:07:43,350 --> 00:07:47,110 że uczyła się rozpoznawać ciężarówki na autostradach, 148 00:07:47,134 --> 00:07:49,709 gdzie zazwyczaj widzi się je od tyłu. 149 00:07:49,723 --> 00:07:53,000 Raczej nie widzi się ciężarówki z boku. 150 00:07:53,000 --> 00:07:55,824 Widząc ciężarówkę, 151 00:07:55,824 --> 00:08:00,498 pewnie wzięła ją za znak drogowy, 152 00:08:00,498 --> 00:08:03,768 pod którym można bezpiecznie przejechać. 153 00:08:03,902 --> 00:08:07,252 Oto inny przykład pomyłki sztucznej inteligencji. 154 00:08:07,252 --> 00:08:10,664 Amazon musiał niedawno porzucić algorytm sortujący CV, 155 00:08:10,664 --> 00:08:12,228 nad którymi pracowali, 156 00:08:12,228 --> 00:08:15,630 gdy odkryli, że algorytm nauczył się dyskryminować kobiety. 157 00:08:15,674 --> 00:08:18,627 Szkolono go na przykładach CV 158 00:08:18,627 --> 00:08:20,838 osób zatrudnionych w przeszłości. 159 00:08:20,838 --> 00:08:24,547 Na tej podstawie AI nauczyła się unikać CV osób, 160 00:08:24,547 --> 00:08:26,943 które chodziły do żeńskich szkół 161 00:08:26,943 --> 00:08:29,565 lub miały słowo "kobiecy" w CV, 162 00:08:29,565 --> 00:08:34,166 jak "kobieca drużyna futbolu" lub "stowarzyszenie kobiet-inżynierów". 163 00:08:34,166 --> 00:08:38,698 Sztuczna inteligencja nie wiedziała, że nie należy powielać tych zachowań, 164 00:08:38,698 --> 00:08:40,659 które widziała wśród ludzi. 165 00:08:40,659 --> 00:08:43,318 Technicznie zrobiła to, co jej kazano, 166 00:08:43,360 --> 00:08:46,071 ale przypadkowo poproszono ją o coś niewłaściwego. 167 00:08:46,075 --> 00:08:50,093 Wciąż to obserwujemy u AI. 168 00:08:50,167 --> 00:08:53,876 AI może być bezwiednie bardzo szkodliwa. 169 00:08:53,939 --> 00:08:59,756 AI, która rekomenduje nowy materiał na FB czy YouTubie, 170 00:08:59,830 --> 00:09:02,812 jest zoptymalizowana, by zwiększać liczbę kliknięć i odsłon. 171 00:09:02,822 --> 00:09:05,754 Niestety jednym ze sposobów, którego się nauczyła, 172 00:09:05,798 --> 00:09:10,813 jest rekomendowanie treści konspiracyjnych lub bigoterii. 173 00:09:10,857 --> 00:09:16,206 AI nie rozumie samej treści 174 00:09:16,236 --> 00:09:20,247 i nie ma świadomości, jakie mogą być konsekwencje 175 00:09:20,311 --> 00:09:22,263 polecania tych treści. 176 00:09:22,307 --> 00:09:25,500 Dlatego przy pracy ze sztuczną inteligencją 177 00:09:25,500 --> 00:09:28,800 unikanie problemów zależy od nas. 178 00:09:28,814 --> 00:09:32,723 I unikania potknięć, które mogą wynikać 179 00:09:32,723 --> 00:09:35,092 z odwiecznego problemu w komunikacji, 180 00:09:35,196 --> 00:09:39,862 gdzie my, ludzie, musimy nauczyć się porozumiewać ze sztuczną inteligencją. 181 00:09:39,886 --> 00:09:43,019 Musimy się nauczyć, co umie, a czego nie, 182 00:09:43,078 --> 00:09:46,339 i zrozumieć, że ze swoim małym mózgiem robaka 183 00:09:46,453 --> 00:09:51,091 AI tak naprawdę nie rozumie, czego od niej chcemy. 184 00:09:51,205 --> 00:09:54,787 Inaczej mówiąc, trzeba się przygotować do pracy ze sztuczną inteligencją, 185 00:09:54,787 --> 00:09:59,749 która nie jest super kompetentna i wszechwiedząca jak na filmach. 186 00:09:59,773 --> 00:10:02,388 Trzeba się przygotować do pracy 187 00:10:02,388 --> 00:10:05,592 ze sztuczną inteligencją, jaką mamy teraz. 188 00:10:05,676 --> 00:10:09,241 A obecna jest wystarczająco dziwna. 189 00:10:09,954 --> 00:10:11,224 Dziękuję. 190 00:10:11,324 --> 00:10:15,370 (Brawa)