0:00:01.855,0:00:04.354
Sztuczna Inteligencja (AI)

0:00:04.789,0:00:08.318
wpływa na różne gałęzie przemysłu.

0:00:08.851,0:00:11.654
A co z lodami?

0:00:11.879,0:00:15.518
Jakie obłędne smaki można by stworzyć

0:00:15.542,0:00:18.518
za pomocą zaawansowanej[br]sztucznej inteligencji?

0:00:19.011,0:00:23.172
Aby odpowiedzieć na to pytanie,[br]połączyłam siły z grupą programistów

0:00:23.196,0:00:25.437
z Kealing Middle School.

0:00:25.461,0:00:30.542
Zebrali ponad 1600[br]istniejących smaków lodów,

0:00:30.566,0:00:36.088
wpisaliśmy je do algorytmu, [br]by zobaczyć, co wygeneruje.

0:00:36.112,0:00:39.865
Oto niektóre smaki[br]wymyślone przez sztuczną inteligencję.

0:00:39.884,0:00:41.915
[Dyniowa Przerwa Śmieciowa]

0:00:41.939,0:00:43.071
(Śmiech)

0:00:43.071,0:00:45.834
[Śluz masła orzechowego]

0:00:46.442,0:00:48.499
[Choroba truskawkowo-śmietankowa]

0:00:48.499,0:00:50.125
(Śmiech)

0:00:50.189,0:00:54.936
Nie są tak smakowite, jak oczekiwaliśmy.

0:00:54.960,0:00:56.824
Pytanie brzmi: co się stało?

0:00:56.848,0:00:58.242
Co poszło nie tak?

0:00:58.266,0:01:00.765
Czy sztuczna inteligencja[br]próbuje nas zabić?

0:01:01.027,0:01:06.087
A może próbuje spełnić nasze polecenie[br]i pojawił się problem?

0:01:06.567,0:01:09.031
Filmowe kłopoty ze sztuczną inteligencją

0:01:09.055,0:01:13.907
spowodowane są zazwyczaj[br]wymówieniem posłuszeństwa człowiekowi.

0:01:14.087,0:01:16.710
"Dzięki, ale mam własne plany"

0:01:17.266,0:01:20.482
W rzeczywistości dzisiejsza[br]sztuczna inteligencja,

0:01:20.506,0:01:22.369
nie jest aż tak mądra.

0:01:22.781,0:01:25.473
Ma moc obliczeniową

0:01:25.487,0:01:27.063
dżdżownicy

0:01:27.087,0:01:30.490
lub maksymalnie pszczoły.

0:01:30.514,0:01:32.729
Właściwie to mniejszą.

0:01:32.753,0:01:35.347
Nieustannie dowiadujemy się[br]o mózgu rzeczy, które ujawniają,

0:01:35.371,0:01:39.731
jak dalece sztuczna inteligencja[br]do nas nie dorasta.

0:01:39.755,0:01:45.418
Obecnie sztuczna inteligencja może [br]zidentyfikować pieszego na zdjęciu,

0:01:45.442,0:01:48.425
ale nie wie, czym jest pieszy

0:01:48.449,0:01:53.273
poza tym, że jest to zbiór linii,[br]tekstur czy rzeczy.

0:01:53.792,0:01:56.313
Nie wie, czym jest człowiek.

0:01:56.822,0:02:00.104
Czy współczesna sztuczna inteligencja[br]zrobi to, o co się ją prosi?

0:02:00.128,0:02:01.722
Zrobi, jeśli umie,

0:02:01.746,0:02:04.472
ale efekt może się różnić od oczekiwań.

0:02:04.496,0:02:06.911
Załóżmy, że chcieliście,[br]by sztuczna inteligencja

0:02:06.935,0:02:09.554
wzięła części robota

0:02:09.578,0:02:13.775
i zrobiła z nich robota,[br]który ma dotrzeć z punktu A do B.

0:02:13.799,0:02:16.280
Gdyby podejść do problemu

0:02:16.304,0:02:18.655
z pomocą tradycyjnego[br]programu komputerowego,

0:02:18.679,0:02:22.096
komputerowi należy dać[br]szczegółową instrukcję,

0:02:22.120,0:02:23.449
jak wziąć dane części,

0:02:23.473,0:02:25.880
złożyć robota z nogami

0:02:25.904,0:02:28.846
i jak użyć tych nóg,[br]by dotrzeć do punktu B.

0:02:29.141,0:02:31.781
Rozwiązując problem[br]przy użyciu sztucznej inteligencji,

0:02:31.805,0:02:32.979
robi się to inaczej.

0:02:33.003,0:02:35.385
Nie mówi się, jak rozwiązać problem.

0:02:35.409,0:02:36.888
Po prostu daje się cel,

0:02:36.912,0:02:40.174
a ona sama, metodą prób i błędów,

0:02:40.198,0:02:42.092
musi znaleźć rozwiązanie.

0:02:42.154,0:02:45.696
Okazuje się, że sztuczna inteligencja

0:02:45.780,0:02:48.064
rozwiązuje ten konkretny problem tak:

0:02:48.064,0:02:51.666
buduje z części wieżę i przewraca ją,

0:02:51.706,0:02:54.381
lądując w punkcie B.

0:02:54.381,0:02:56.756
Technicznie rzecz biorąc,[br]rozwiązała problem.

0:02:56.756,0:02:58.191
Dotarła do punktu B.

0:02:58.191,0:03:02.348
Niebezpieczeństwem sztucznej inteligencji[br]nie jest bunt przeciwko nam,

0:03:02.348,0:03:07.104
lecz to, że zrobi dokładnie to,[br]o co ją poprosiliśmy.

0:03:07.108,0:03:10.042
Istotą pracy ze sztuczną inteligencją

0:03:10.042,0:03:14.424
jest postawienie problemu tak,[br]by zrobiła to, czego oczekujemy.

0:03:14.936,0:03:18.742
Ten mały robot kontrolowany jest[br]przez sztuczną inteligencję,

0:03:18.742,0:03:21.530
która sama zaprojektowała nogi robota

0:03:21.530,0:03:25.057
i sposób ich użycia[br]do obchodzenia przeszkód.

0:03:25.057,0:03:28.267
Ale kiedy David Ha [br]stworzył ten eksperyment,

0:03:28.267,0:03:32.119
musiał postawić bardzo surowe ograniczenia

0:03:32.119,0:03:34.677
dotyczące wielkości nóg

0:03:34.678,0:03:38.229
w przeciwnym razie...

0:03:47.133,0:03:48.898
(Śmiech)

0:03:48.898,0:03:52.754
Technicznie rzecz biorąc,[br]doszła do końca trasy.

0:03:52.754,0:03:57.718
Czyli trudno skłonić AI do zrobienia[br]czegoś tak prostego jak chodzenie.

0:03:57.805,0:04:01.351
Obserwując, jak robi to AI,[br]można powiedzieć: "Nie fair,

0:04:01.351,0:04:04.413
nie możesz być wysoką wieżą[br]i po prostu upaść,

0:04:04.413,0:04:07.514
musisz użyć nóg do chodzenia".

0:04:07.514,0:04:10.317
Niestety to też nie zawsze działa.

0:04:10.317,0:04:14.128
Zadaniem sztucznej inteligencji[br]było szybkie poruszanie się.

0:04:14.142,0:04:17.090
Nie powiedziano, że musi biec do przodu,

0:04:17.157,0:04:19.595
ani że nie może używać ramion.

0:04:19.609,0:04:24.603
Tak to wygląda,[br]gdy uczymy AI szybko się ruszać:

0:04:24.607,0:04:27.967
przewroty i dziwny chód.

0:04:27.997,0:04:30.566
To bardzo powszechne.

0:04:30.566,0:04:34.020
Może to też wyglądać[br]jak drgawki sterty na podłodze.

0:04:34.031,0:04:34.935
(Śmiech)

0:04:35.019,0:04:38.515
Dla mnie dużo dziwniejsze są

0:04:38.515,0:04:41.011
roboty z "Terminatora".

0:04:41.011,0:04:44.832
AI chętnie też włamie się do matrycy.

0:04:44.832,0:04:47.089
Jeśli więc wyszkolić AI w symulacji,

0:04:47.089,0:04:50.970
nauczy się włamywać[br]przez błędy w obliczeniach

0:04:50.970,0:04:53.329
i czerpać z nich energię.

0:04:53.432,0:04:58.061
Wymyśli szybki ruch[br]przez drgawki na podłodze.

0:04:58.671,0:05:00.764
Praca ze sztuczną inteligencją

0:05:00.764,0:05:02.994
nie przypomina pracy z człowiekiem,

0:05:02.994,0:05:06.257
lecz z jakąś dziwną siłą natury.

0:05:06.532,0:05:11.056
Bardzo łatwo dać jej przypadkiem[br]niewłaściwy problem do rozwiązania.

0:05:11.056,0:05:15.628
Często nie zdajemy sobie z tego sprawy,[br]dopóki coś nie pójdzie nie tak.

0:05:15.892,0:05:18.558
Zrobiłam eksperyment,

0:05:18.562,0:05:22.321
w którym kazałam AI kopiować farby,

0:05:22.321,0:05:24.592
żeby stworzyć nowe kolory

0:05:24.592,0:05:27.079
mając do wyboru listę jak ta po lewej.

0:05:27.079,0:05:30.053
Oto na co wpadła sztuczna inteligencja.

0:05:30.067,0:05:35.347
[Kupa Syndów, Balaskowy,[br]Cierpieć, Szary łonowy]

0:05:35.467,0:05:38.801
(Śmiech)

0:05:38.865,0:05:41.523
Technicznie rzecz biorąc,

0:05:41.567,0:05:43.644
wypełniła polecenie.

0:05:43.698,0:05:47.014
Myślałam, że proszę o miłe nazwy kolorów,

0:05:47.014,0:05:49.493
ale tak naprawdę prosiłam

0:05:49.493,0:05:52.255
o imitowanie kombinacji liter

0:05:52.255,0:05:54.389
z oryginalnych nazw.

0:05:54.389,0:05:57.252
Nie wyjaśniałam, co one znaczą,

0:05:57.271,0:06:00.355
ani że są słowa, których być może

0:06:00.355,0:06:03.397
nie powinna używać do farb.

0:06:03.397,0:06:07.259
Całym jej światem były moje dane.

0:06:07.343,0:06:11.917
Podobnie jak w przypadku smaków lodów,[br]AI nie ma dodatkowej wiedzy.

0:06:12.094,0:06:16.897
To przez nieodpowiednie dane[br]często każemy AI

0:06:16.897,0:06:18.775
robić nie to, co trzeba.

0:06:18.929,0:06:22.033
To ryba zwana linem.

0:06:22.067,0:06:23.817
Pewna grupa badaczy

0:06:23.877,0:06:27.583
wytrenowała AI w rozpoznawaniu[br]lina na ilustracjach.

0:06:27.647,0:06:29.055
Ale gdy zapytali ją,

0:06:29.163,0:06:32.652
jakiej części obrazu[br]używa do identyfikacji ryby,

0:06:32.652,0:06:34.035
oto co pokazała.

0:06:35.335,0:06:37.370
Tak, to są ludzkie palce.

0:06:37.706,0:06:39.980
Dlaczego szuka palców

0:06:39.980,0:06:41.989
podczas identyfikowania ryby?

0:06:42.079,0:06:45.224
Okazuje się, że lin jest rybą,[br]którą warto się chwalić,

0:06:46.134,0:06:47.764
więc na wielu zdjęciach,

0:06:47.764,0:06:50.503
które AI widziała podczas treningu,

0:06:50.503,0:06:52.363
ryba wyglądała tak.

0:06:52.912,0:06:54.082
(Śmiech)

0:06:54.082,0:06:56.661
AI nie wiedziała,[br]że palce nie są częścią ryby.

0:06:58.545,0:07:03.807
Widzicie więc, dlaczego[br]tak trudno zaprojektować AI,

0:07:03.807,0:07:06.668
która rozumie, na co patrzy.

0:07:06.762,0:07:09.497
Dlatego też projektowanie[br]rozpoznawania obrazów

0:07:09.497,0:07:12.028
w samosterujących samochodach[br]jest takie trudne

0:07:12.028,0:07:14.778
i dlatego tyle niepowodzeń[br]samosterujących samochodów

0:07:14.778,0:07:17.107
było wynikiem dezorientacji SI.

0:07:17.107,0:07:20.045
Chciałabym wspomnieć[br]o przykładzie z 2016 roku.

0:07:20.079,0:07:25.704
Zdarzył się wtedy śmiertelny wypadek[br]podczas używania autopilota AI Tesli,

0:07:25.719,0:07:29.121
ale zamiast używania go na autostradzie,[br]do czego został zaprojektowany,

0:07:29.121,0:07:31.364
użyto go w mieście.

0:07:31.364,0:07:34.359
Ciężarówka wjechała przed samochód,

0:07:34.393,0:07:36.258
który nie zahamował.

0:07:36.272,0:07:40.710
AI na pewno uczono rozpoznawać[br]ciężarówki na zdjęciach.

0:07:41.507,0:07:43.286
Ale wygląda na to,

0:07:43.350,0:07:47.110
że uczyła się rozpoznawać[br]ciężarówki na autostradach,

0:07:47.134,0:07:49.709
gdzie zazwyczaj widzi się je od tyłu.

0:07:49.723,0:07:53.000
Raczej nie widzi się ciężarówki z boku.

0:07:53.000,0:07:55.824
Widząc ciężarówkę,

0:07:55.824,0:08:00.498
pewnie wzięła ją za znak drogowy,

0:08:00.498,0:08:03.768
pod którym można bezpiecznie przejechać.

0:08:03.902,0:08:07.252
Oto inny przykład pomyłki[br]sztucznej inteligencji.

0:08:07.252,0:08:10.664
Amazon musiał niedawno porzucić[br]algorytm sortujący CV,

0:08:10.664,0:08:12.228
nad którymi pracowali,

0:08:12.228,0:08:15.630
gdy odkryli, że algorytm nauczył się[br]dyskryminować kobiety.

0:08:15.674,0:08:18.627
Szkolono go na przykładach CV

0:08:18.627,0:08:20.838
osób zatrudnionych w przeszłości.

0:08:20.838,0:08:24.547
Na tej podstawie[br]AI nauczyła się unikać CV osób,

0:08:24.547,0:08:26.943
które chodziły do żeńskich szkół

0:08:26.943,0:08:29.565
lub miały słowo "kobiecy" w CV,

0:08:29.565,0:08:34.166
jak "kobieca drużyna futbolu"[br]lub "stowarzyszenie kobiet-inżynierów".

0:08:34.166,0:08:38.698
Sztuczna inteligencja nie wiedziała, [br]że nie należy powielać tych zachowań,

0:08:38.698,0:08:40.659
które widziała wśród ludzi.

0:08:40.659,0:08:43.318
Technicznie zrobiła to, co jej kazano,

0:08:43.360,0:08:46.071
ale przypadkowo poproszono ją[br]o coś niewłaściwego.

0:08:46.075,0:08:50.093
Wciąż to obserwujemy u AI.

0:08:50.167,0:08:53.876
AI może być bezwiednie bardzo szkodliwa.

0:08:53.939,0:08:59.756
AI, która rekomenduje[br]nowy materiał na FB czy YouTubie,

0:08:59.830,0:09:02.812
jest zoptymalizowana,[br]by zwiększać liczbę kliknięć i odsłon.

0:09:02.822,0:09:05.754
Niestety jednym ze sposobów,[br]którego się nauczyła,

0:09:05.798,0:09:10.813
jest rekomendowanie treści [br]konspiracyjnych lub bigoterii.

0:09:10.857,0:09:16.206
AI nie rozumie samej treści

0:09:16.236,0:09:20.247
i nie ma świadomości,[br]jakie mogą być konsekwencje

0:09:20.311,0:09:22.263
polecania tych treści.

0:09:22.307,0:09:25.500
Dlatego przy pracy[br]ze sztuczną inteligencją

0:09:25.500,0:09:28.800
unikanie problemów zależy od nas.

0:09:28.814,0:09:32.723
I unikania potknięć, które mogą wynikać

0:09:32.723,0:09:35.092
z odwiecznego problemu w komunikacji,

0:09:35.196,0:09:39.862
gdzie my, ludzie, musimy nauczyć się[br]porozumiewać ze sztuczną inteligencją.

0:09:39.886,0:09:43.019
Musimy się nauczyć, co umie, a czego nie,

0:09:43.078,0:09:46.339
i zrozumieć, że ze swoim[br]małym mózgiem robaka

0:09:46.453,0:09:51.091
AI tak naprawdę nie rozumie,[br]czego od niej chcemy.

0:09:51.205,0:09:54.787
Inaczej mówiąc, trzeba się przygotować[br]do pracy ze sztuczną inteligencją,

0:09:54.787,0:09:59.749
która nie jest super kompetentna[br]i wszechwiedząca jak na filmach.

0:09:59.773,0:10:02.388
Trzeba się przygotować do pracy

0:10:02.388,0:10:05.592
ze sztuczną inteligencją, jaką mamy teraz.

0:10:05.676,0:10:09.241
A obecna jest wystarczająco dziwna.

0:10:09.954,0:10:11.224
Dziękuję.

0:10:11.324,0:10:15.370
(Brawa)