WEBVTT

00:00:01.855 --> 00:00:04.354
Sztuczna Inteligencja (AI)

00:00:04.789 --> 00:00:08.318
wpływa na różne gałęzie przemysłu.

00:00:08.851 --> 00:00:11.654
A co z lodami?

00:00:11.879 --> 00:00:15.518
Jakie obłędne smaki można by stworzyć

00:00:15.542 --> 00:00:18.518
za pomocą zaawansowanej
sztucznej inteligencji?

00:00:19.011 --> 00:00:23.172
Aby odpowiedzieć na to pytanie,
połączyłam siły z grupą programistów

00:00:23.196 --> 00:00:25.437
z Kealing Middle School.

00:00:25.461 --> 00:00:30.542
Zebrali ponad 1600
istniejących smaków lodów,

00:00:30.566 --> 00:00:36.088
wpisaliśmy je do algorytmu, 
by zobaczyć, co wygeneruje.

00:00:36.112 --> 00:00:39.865
Oto niektóre smaki
wymyślone przez sztuczną inteligencję.

NOTE Paragraph

00:00:39.884 --> 00:00:41.915
[Dyniowa Przerwa Śmieciowa]

NOTE Paragraph

00:00:41.939 --> 00:00:43.071
(Śmiech)

NOTE Paragraph

00:00:43.071 --> 00:00:45.834
[Śluz masła orzechowego]

NOTE Paragraph

00:00:46.442 --> 00:00:48.499
[Choroba truskawkowo-śmietankowa]

NOTE Paragraph

00:00:48.499 --> 00:00:50.125
(Śmiech)

NOTE Paragraph

00:00:50.189 --> 00:00:54.936
Nie są tak smakowite, jak oczekiwaliśmy.

00:00:54.960 --> 00:00:56.824
Pytanie brzmi: co się stało?

00:00:56.848 --> 00:00:58.242
Co poszło nie tak?

00:00:58.266 --> 00:01:00.765
Czy sztuczna inteligencja
próbuje nas zabić?

00:01:01.027 --> 00:01:06.087
A może próbuje spełnić nasze polecenie
i pojawił się problem?

NOTE Paragraph

00:01:06.567 --> 00:01:09.031
Filmowe kłopoty ze sztuczną inteligencją

00:01:09.055 --> 00:01:13.907
spowodowane są zazwyczaj
wymówieniem posłuszeństwa człowiekowi.

00:01:14.087 --> 00:01:16.710
"Dzięki, ale mam własne plany"

00:01:17.266 --> 00:01:20.482
W rzeczywistości dzisiejsza
sztuczna inteligencja,

00:01:20.506 --> 00:01:22.369
nie jest aż tak mądra.

00:01:22.781 --> 00:01:25.473
Ma moc obliczeniową

00:01:25.487 --> 00:01:27.063
dżdżownicy

00:01:27.087 --> 00:01:30.490
lub maksymalnie pszczoły.

00:01:30.514 --> 00:01:32.729
Właściwie to mniejszą.

00:01:32.753 --> 00:01:35.347
Nieustannie dowiadujemy się
o mózgu rzeczy, które ujawniają,

00:01:35.371 --> 00:01:39.731
jak dalece sztuczna inteligencja
do nas nie dorasta.

00:01:39.755 --> 00:01:45.418
Obecnie sztuczna inteligencja może 
zidentyfikować pieszego na zdjęciu,

00:01:45.442 --> 00:01:48.425
ale nie wie, czym jest pieszy

00:01:48.449 --> 00:01:53.273
poza tym, że jest to zbiór linii,
tekstur czy rzeczy.

00:01:53.792 --> 00:01:56.313
Nie wie, czym jest człowiek.

00:01:56.822 --> 00:02:00.104
Czy współczesna sztuczna inteligencja
zrobi to, o co się ją prosi?

00:02:00.128 --> 00:02:01.722
Zrobi, jeśli umie,

00:02:01.746 --> 00:02:04.472
ale efekt może się różnić od oczekiwań.

NOTE Paragraph

00:02:04.496 --> 00:02:06.911
Załóżmy, że chcieliście,
by sztuczna inteligencja

00:02:06.935 --> 00:02:09.554
wzięła części robota

00:02:09.578 --> 00:02:13.775
i zrobiła z nich robota,
który ma dotrzeć z punktu A do B.

00:02:13.799 --> 00:02:16.280
Gdyby podejść do problemu

00:02:16.304 --> 00:02:18.655
z pomocą tradycyjnego
programu komputerowego,

00:02:18.679 --> 00:02:22.096
komputerowi należy dać
szczegółową instrukcję,

00:02:22.120 --> 00:02:23.449
jak wziąć dane części,

00:02:23.473 --> 00:02:25.880
złożyć robota z nogami

00:02:25.904 --> 00:02:28.846
i jak użyć tych nóg,
by dotrzeć do punktu B.

00:02:29.141 --> 00:02:31.781
Rozwiązując problem
przy użyciu sztucznej inteligencji,

00:02:31.805 --> 00:02:32.979
robi się to inaczej.

00:02:33.003 --> 00:02:35.385
Nie mówi się, jak rozwiązać problem.

00:02:35.409 --> 00:02:36.888
Po prostu daje się cel,

00:02:36.912 --> 00:02:40.174
a ona sama, metodą prób i błędów,

00:02:40.198 --> 00:02:42.092
musi znaleźć rozwiązanie.

00:02:42.154 --> 00:02:45.696
Okazuje się, że sztuczna inteligencja

00:02:45.780 --> 00:02:48.064
rozwiązuje ten konkretny problem tak:

00:02:48.064 --> 00:02:51.666
buduje z części wieżę i przewraca ją,

00:02:51.706 --> 00:02:54.381
lądując w punkcie B.

00:02:54.381 --> 00:02:56.756
Technicznie rzecz biorąc,
rozwiązała problem.

00:02:56.756 --> 00:02:58.191
Dotarła do punktu B.

00:02:58.191 --> 00:03:02.348
Niebezpieczeństwem sztucznej inteligencji
nie jest bunt przeciwko nam,

00:03:02.348 --> 00:03:07.104
lecz to, że zrobi dokładnie to,
o co ją poprosiliśmy.

00:03:07.108 --> 00:03:10.042
Istotą pracy ze sztuczną inteligencją

NOTE Paragraph

00:03:10.042 --> 00:03:14.424
jest postawienie problemu tak,
by zrobiła to, czego oczekujemy.

00:03:14.936 --> 00:03:18.742
Ten mały robot kontrolowany jest
przez sztuczną inteligencję,

00:03:18.742 --> 00:03:21.530
która sama zaprojektowała nogi robota

00:03:21.530 --> 00:03:25.057
i sposób ich użycia
do obchodzenia przeszkód.

00:03:25.057 --> 00:03:28.267
Ale kiedy David Ha 
stworzył ten eksperyment,

00:03:28.267 --> 00:03:32.119
musiał postawić bardzo surowe ograniczenia

00:03:32.119 --> 00:03:34.677
dotyczące wielkości nóg

NOTE Paragraph

00:03:34.678 --> 00:03:38.229
w przeciwnym razie...

NOTE Paragraph

00:03:47.133 --> 00:03:48.898
(Śmiech)

00:03:48.898 --> 00:03:52.754
Technicznie rzecz biorąc,
doszła do końca trasy.

NOTE Paragraph

00:03:52.754 --> 00:03:57.718
Czyli trudno skłonić AI do zrobienia
czegoś tak prostego jak chodzenie.

00:03:57.805 --> 00:04:01.351
Obserwując, jak robi to AI,
można powiedzieć: "Nie fair,

00:04:01.351 --> 00:04:04.413
nie możesz być wysoką wieżą
i po prostu upaść,

00:04:04.413 --> 00:04:07.514
musisz użyć nóg do chodzenia".

00:04:07.514 --> 00:04:10.317
Niestety to też nie zawsze działa.

00:04:10.317 --> 00:04:14.128
Zadaniem sztucznej inteligencji
było szybkie poruszanie się.

00:04:14.142 --> 00:04:17.090
Nie powiedziano, że musi biec do przodu,

00:04:17.157 --> 00:04:19.595
ani że nie może używać ramion.

00:04:19.609 --> 00:04:24.603
Tak to wygląda,
gdy uczymy AI szybko się ruszać:

00:04:24.607 --> 00:04:27.967
przewroty i dziwny chód.

00:04:27.997 --> 00:04:30.566
To bardzo powszechne.

NOTE Paragraph

00:04:30.566 --> 00:04:34.020
Może to też wyglądać
jak drgawki sterty na podłodze.

NOTE Paragraph

00:04:34.031 --> 00:04:34.935
(Śmiech)

00:04:35.019 --> 00:04:38.515
Dla mnie dużo dziwniejsze są

00:04:38.515 --> 00:04:41.011
roboty z "Terminatora".

00:04:41.011 --> 00:04:44.832
AI chętnie też włamie się do matrycy.

00:04:44.832 --> 00:04:47.089
Jeśli więc wyszkolić AI w symulacji,

00:04:47.089 --> 00:04:50.970
nauczy się włamywać
przez błędy w obliczeniach

00:04:50.970 --> 00:04:53.329
i czerpać z nich energię.

00:04:53.432 --> 00:04:58.061
Wymyśli szybki ruch
przez drgawki na podłodze.

00:04:58.671 --> 00:05:00.764
Praca ze sztuczną inteligencją

00:05:00.764 --> 00:05:02.994
nie przypomina pracy z człowiekiem,

00:05:02.994 --> 00:05:06.257
lecz z jakąś dziwną siłą natury.

NOTE Paragraph

00:05:06.532 --> 00:05:11.056
Bardzo łatwo dać jej przypadkiem
niewłaściwy problem do rozwiązania.

00:05:11.056 --> 00:05:15.628
Często nie zdajemy sobie z tego sprawy,
dopóki coś nie pójdzie nie tak.

00:05:15.892 --> 00:05:18.558
Zrobiłam eksperyment,

00:05:18.562 --> 00:05:22.321
w którym kazałam AI kopiować farby,

00:05:22.321 --> 00:05:24.592
żeby stworzyć nowe kolory

NOTE Paragraph

00:05:24.592 --> 00:05:27.079
mając do wyboru listę jak ta po lewej.

NOTE Paragraph

00:05:27.079 --> 00:05:30.053
Oto na co wpadła sztuczna inteligencja.

NOTE Paragraph

00:05:30.067 --> 00:05:35.347
[Kupa Syndów, Balaskowy,
Cierpieć, Szary łonowy]

00:05:35.467 --> 00:05:38.801
(Śmiech)

00:05:38.865 --> 00:05:41.523
Technicznie rzecz biorąc,

00:05:41.567 --> 00:05:43.644
wypełniła polecenie.

00:05:43.698 --> 00:05:47.014
Myślałam, że proszę o miłe nazwy kolorów,

00:05:47.014 --> 00:05:49.493
ale tak naprawdę prosiłam

00:05:49.493 --> 00:05:52.255
o imitowanie kombinacji liter

00:05:52.255 --> 00:05:54.389
z oryginalnych nazw.

00:05:54.389 --> 00:05:57.252
Nie wyjaśniałam, co one znaczą,

00:05:57.271 --> 00:06:00.355
ani że są słowa, których być może

00:06:00.355 --> 00:06:03.397
nie powinna używać do farb.

NOTE Paragraph

00:06:03.397 --> 00:06:07.259
Całym jej światem były moje dane.

00:06:07.343 --> 00:06:11.917
Podobnie jak w przypadku smaków lodów,
AI nie ma dodatkowej wiedzy.

00:06:12.094 --> 00:06:16.897
To przez nieodpowiednie dane
często każemy AI

00:06:16.897 --> 00:06:18.775
robić nie to, co trzeba.

00:06:18.929 --> 00:06:22.033
To ryba zwana linem.

00:06:22.067 --> 00:06:23.817
Pewna grupa badaczy

00:06:23.877 --> 00:06:27.583
wytrenowała AI w rozpoznawaniu
lina na ilustracjach.

00:06:27.647 --> 00:06:29.055
Ale gdy zapytali ją,

00:06:29.163 --> 00:06:32.652
jakiej części obrazu
używa do identyfikacji ryby,

00:06:32.652 --> 00:06:34.035
oto co pokazała.

00:06:35.335 --> 00:06:37.370
Tak, to są ludzkie palce.

00:06:37.706 --> 00:06:39.980
Dlaczego szuka palców

00:06:39.980 --> 00:06:41.989
podczas identyfikowania ryby?

00:06:42.079 --> 00:06:45.224
Okazuje się, że lin jest rybą,
którą warto się chwalić,

00:06:46.134 --> 00:06:47.764
więc na wielu zdjęciach,

NOTE Paragraph

00:06:47.764 --> 00:06:50.503
które AI widziała podczas treningu,

NOTE Paragraph

00:06:50.503 --> 00:06:52.363
ryba wyglądała tak.

NOTE Paragraph

00:06:52.912 --> 00:06:54.082
(Śmiech)

00:06:54.082 --> 00:06:56.661
AI nie wiedziała,
że palce nie są częścią ryby.

00:06:58.545 --> 00:07:03.807
Widzicie więc, dlaczego
tak trudno zaprojektować AI,

00:07:03.807 --> 00:07:06.668
która rozumie, na co patrzy.

00:07:06.762 --> 00:07:09.497
Dlatego też projektowanie
rozpoznawania obrazów

00:07:09.497 --> 00:07:12.028
w samosterujących samochodach
jest takie trudne

00:07:12.028 --> 00:07:14.778
i dlatego tyle niepowodzeń
samosterujących samochodów

00:07:14.778 --> 00:07:17.107
było wynikiem dezorientacji SI.

00:07:17.107 --> 00:07:20.045
Chciałabym wspomnieć
o przykładzie z 2016 roku.

00:07:20.079 --> 00:07:25.704
Zdarzył się wtedy śmiertelny wypadek
podczas używania autopilota AI Tesli,

00:07:25.719 --> 00:07:29.121
ale zamiast używania go na autostradzie,
do czego został zaprojektowany,

00:07:29.121 --> 00:07:31.364
użyto go w mieście.

00:07:31.364 --> 00:07:34.359
Ciężarówka wjechała przed samochód,

00:07:34.393 --> 00:07:36.258
który nie zahamował.

00:07:36.272 --> 00:07:40.710
AI na pewno uczono rozpoznawać
ciężarówki na zdjęciach.

00:07:41.507 --> 00:07:43.286
Ale wygląda na to,

00:07:43.350 --> 00:07:47.110
że uczyła się rozpoznawać
ciężarówki na autostradach,

00:07:47.134 --> 00:07:49.709
gdzie zazwyczaj widzi się je od tyłu.

00:07:49.723 --> 00:07:53.000
Raczej nie widzi się ciężarówki z boku.

00:07:53.000 --> 00:07:55.824
Widząc ciężarówkę,

NOTE Paragraph

00:07:55.824 --> 00:08:00.498
pewnie wzięła ją za znak drogowy,

00:08:00.498 --> 00:08:03.768
pod którym można bezpiecznie przejechać.

00:08:03.902 --> 00:08:07.252
Oto inny przykład pomyłki
sztucznej inteligencji.

00:08:07.252 --> 00:08:10.664
Amazon musiał niedawno porzucić
algorytm sortujący CV,

00:08:10.664 --> 00:08:12.228
nad którymi pracowali,

00:08:12.228 --> 00:08:15.630
gdy odkryli, że algorytm nauczył się
dyskryminować kobiety.

00:08:15.674 --> 00:08:18.627
Szkolono go na przykładach CV

00:08:18.627 --> 00:08:20.838
osób zatrudnionych w przeszłości.

00:08:20.838 --> 00:08:24.547
Na tej podstawie
AI nauczyła się unikać CV osób,

00:08:24.547 --> 00:08:26.943
które chodziły do żeńskich szkół

00:08:26.943 --> 00:08:29.565
lub miały słowo "kobiecy" w CV,

00:08:29.565 --> 00:08:34.166
jak "kobieca drużyna futbolu"
lub "stowarzyszenie kobiet-inżynierów".

00:08:34.166 --> 00:08:38.698
Sztuczna inteligencja nie wiedziała, 
że nie należy powielać tych zachowań,

00:08:38.698 --> 00:08:40.659
które widziała wśród ludzi.

NOTE Paragraph

00:08:40.659 --> 00:08:43.318
Technicznie zrobiła to, co jej kazano,

00:08:43.360 --> 00:08:46.071
ale przypadkowo poproszono ją
o coś niewłaściwego.

00:08:46.075 --> 00:08:50.093
Wciąż to obserwujemy u AI.

00:08:50.167 --> 00:08:53.876
AI może być bezwiednie bardzo szkodliwa.

00:08:53.939 --> 00:08:59.756
AI, która rekomenduje
nowy materiał na FB czy YouTubie,

00:08:59.830 --> 00:09:02.812
jest zoptymalizowana,
by zwiększać liczbę kliknięć i odsłon.

00:09:02.822 --> 00:09:05.754
Niestety jednym ze sposobów,
którego się nauczyła,

00:09:05.798 --> 00:09:10.813
jest rekomendowanie treści 
konspiracyjnych lub bigoterii.

00:09:10.857 --> 00:09:16.206
AI nie rozumie samej treści

NOTE Paragraph

00:09:16.236 --> 00:09:20.247
i nie ma świadomości,
jakie mogą być konsekwencje

00:09:20.311 --> 00:09:22.263
polecania tych treści.

00:09:22.307 --> 00:09:25.500
Dlatego przy pracy
ze sztuczną inteligencją

00:09:25.500 --> 00:09:28.800
unikanie problemów zależy od nas.

00:09:28.814 --> 00:09:32.723
I unikania potknięć, które mogą wynikać

00:09:32.723 --> 00:09:35.092
z odwiecznego problemu w komunikacji,

00:09:35.196 --> 00:09:39.862
gdzie my, ludzie, musimy nauczyć się
porozumiewać ze sztuczną inteligencją.

00:09:39.886 --> 00:09:43.019
Musimy się nauczyć, co umie, a czego nie,

00:09:43.078 --> 00:09:46.339
i zrozumieć, że ze swoim
małym mózgiem robaka

00:09:46.453 --> 00:09:51.091
AI tak naprawdę nie rozumie,
czego od niej chcemy.

00:09:51.205 --> 00:09:54.787
Inaczej mówiąc, trzeba się przygotować
do pracy ze sztuczną inteligencją,

00:09:54.787 --> 00:09:59.749
która nie jest super kompetentna
i wszechwiedząca jak na filmach.

00:09:59.773 --> 00:10:02.388
Trzeba się przygotować do pracy

NOTE Paragraph

00:10:02.388 --> 00:10:05.592
ze sztuczną inteligencją, jaką mamy teraz.

NOTE Paragraph

00:10:05.676 --> 00:10:09.241
A obecna jest wystarczająco dziwna.

00:10:09.954 --> 00:10:11.224
Dziękuję.

00:10:11.324 --> 00:10:15.370
(Brawa)