Groźba sztucznej inteligencji jest dziwniejsza niż myślisz
-
0:02 - 0:04Sztuczna Inteligencja (AI)
-
0:05 - 0:08wpływa na różne gałęzie przemysłu.
-
0:09 - 0:12A co z lodami?
-
0:12 - 0:16Jakie obłędne smaki można by stworzyć
-
0:16 - 0:19za pomocą zaawansowanej
sztucznej inteligencji? -
0:19 - 0:23Aby odpowiedzieć na to pytanie,
połączyłam siły z grupą programistów -
0:23 - 0:25z Kealing Middle School.
-
0:25 - 0:31Zebrali ponad 1600
istniejących smaków lodów, -
0:31 - 0:36wpisaliśmy je do algorytmu,
by zobaczyć, co wygeneruje. -
0:36 - 0:40Oto niektóre smaki
wymyślone przez sztuczną inteligencję. -
0:40 - 0:42[Dyniowa Przerwa Śmieciowa]
-
0:42 - 0:43(Śmiech)
-
0:43 - 0:46[Śluz masła orzechowego]
-
0:46 - 0:48[Choroba truskawkowo-śmietankowa]
-
0:48 - 0:50(Śmiech)
-
0:50 - 0:55Nie są tak smakowite, jak oczekiwaliśmy.
-
0:55 - 0:57Pytanie brzmi: co się stało?
-
0:57 - 0:58Co poszło nie tak?
-
0:58 - 1:01Czy sztuczna inteligencja
próbuje nas zabić? -
1:01 - 1:06A może próbuje spełnić nasze polecenie
i pojawił się problem? -
1:07 - 1:09Filmowe kłopoty ze sztuczną inteligencją
-
1:09 - 1:14spowodowane są zazwyczaj
wymówieniem posłuszeństwa człowiekowi. -
1:14 - 1:17"Dzięki, ale mam własne plany"
-
1:17 - 1:20W rzeczywistości dzisiejsza
sztuczna inteligencja, -
1:21 - 1:22nie jest aż tak mądra.
-
1:23 - 1:25Ma moc obliczeniową
-
1:25 - 1:27dżdżownicy
-
1:27 - 1:30lub maksymalnie pszczoły.
-
1:31 - 1:33Właściwie to mniejszą.
-
1:33 - 1:35Nieustannie dowiadujemy się
o mózgu rzeczy, które ujawniają, -
1:35 - 1:40jak dalece sztuczna inteligencja
do nas nie dorasta. -
1:40 - 1:45Obecnie sztuczna inteligencja może
zidentyfikować pieszego na zdjęciu, -
1:45 - 1:48ale nie wie, czym jest pieszy
-
1:48 - 1:53poza tym, że jest to zbiór linii,
tekstur czy rzeczy. -
1:54 - 1:56Nie wie, czym jest człowiek.
-
1:57 - 2:00Czy współczesna sztuczna inteligencja
zrobi to, o co się ją prosi? -
2:00 - 2:02Zrobi, jeśli umie,
-
2:02 - 2:04ale efekt może się różnić od oczekiwań.
-
2:04 - 2:07Załóżmy, że chcieliście,
by sztuczna inteligencja -
2:07 - 2:10wzięła części robota
-
2:10 - 2:14i zrobiła z nich robota,
który ma dotrzeć z punktu A do B. -
2:14 - 2:16Gdyby podejść do problemu
-
2:16 - 2:19z pomocą tradycyjnego
programu komputerowego, -
2:19 - 2:22komputerowi należy dać
szczegółową instrukcję, -
2:22 - 2:23jak wziąć dane części,
-
2:23 - 2:26złożyć robota z nogami
-
2:26 - 2:29i jak użyć tych nóg,
by dotrzeć do punktu B. -
2:29 - 2:32Rozwiązując problem
przy użyciu sztucznej inteligencji, -
2:32 - 2:33robi się to inaczej.
-
2:33 - 2:35Nie mówi się, jak rozwiązać problem.
-
2:35 - 2:37Po prostu daje się cel,
-
2:37 - 2:40a ona sama, metodą prób i błędów,
-
2:40 - 2:42musi znaleźć rozwiązanie.
-
2:42 - 2:46Okazuje się, że sztuczna inteligencja
-
2:46 - 2:48rozwiązuje ten konkretny problem tak:
-
2:48 - 2:52buduje z części wieżę i przewraca ją,
-
2:52 - 2:54lądując w punkcie B.
-
2:54 - 2:57Technicznie rzecz biorąc,
rozwiązała problem. -
2:57 - 2:58Dotarła do punktu B.
-
2:58 - 3:02Niebezpieczeństwem sztucznej inteligencji
nie jest bunt przeciwko nam, -
3:02 - 3:07lecz to, że zrobi dokładnie to,
o co ją poprosiliśmy. -
3:07 - 3:10Istotą pracy ze sztuczną inteligencją
-
3:10 - 3:14jest postawienie problemu tak,
by zrobiła to, czego oczekujemy. -
3:15 - 3:19Ten mały robot kontrolowany jest
przez sztuczną inteligencję, -
3:19 - 3:22która sama zaprojektowała nogi robota
-
3:22 - 3:25i sposób ich użycia
do obchodzenia przeszkód. -
3:25 - 3:28Ale kiedy David Ha
stworzył ten eksperyment, -
3:28 - 3:32musiał postawić bardzo surowe ograniczenia
-
3:32 - 3:35dotyczące wielkości nóg
-
3:35 - 3:38w przeciwnym razie...
-
3:47 - 3:49(Śmiech)
-
3:49 - 3:53Technicznie rzecz biorąc,
doszła do końca trasy. -
3:53 - 3:58Czyli trudno skłonić AI do zrobienia
czegoś tak prostego jak chodzenie. -
3:58 - 4:01Obserwując, jak robi to AI,
można powiedzieć: "Nie fair, -
4:01 - 4:04nie możesz być wysoką wieżą
i po prostu upaść, -
4:04 - 4:08musisz użyć nóg do chodzenia".
-
4:08 - 4:10Niestety to też nie zawsze działa.
-
4:10 - 4:14Zadaniem sztucznej inteligencji
było szybkie poruszanie się. -
4:14 - 4:17Nie powiedziano, że musi biec do przodu,
-
4:17 - 4:20ani że nie może używać ramion.
-
4:20 - 4:25Tak to wygląda,
gdy uczymy AI szybko się ruszać: -
4:25 - 4:28przewroty i dziwny chód.
-
4:28 - 4:31To bardzo powszechne.
-
4:31 - 4:34Może to też wyglądać
jak drgawki sterty na podłodze. -
4:34 - 4:35(Śmiech)
-
4:35 - 4:39Dla mnie dużo dziwniejsze są
-
4:39 - 4:41roboty z "Terminatora".
-
4:41 - 4:45AI chętnie też włamie się do matrycy.
-
4:45 - 4:47Jeśli więc wyszkolić AI w symulacji,
-
4:47 - 4:51nauczy się włamywać
przez błędy w obliczeniach -
4:51 - 4:53i czerpać z nich energię.
-
4:53 - 4:58Wymyśli szybki ruch
przez drgawki na podłodze. -
4:59 - 5:01Praca ze sztuczną inteligencją
-
5:01 - 5:03nie przypomina pracy z człowiekiem,
-
5:03 - 5:06lecz z jakąś dziwną siłą natury.
-
5:07 - 5:11Bardzo łatwo dać jej przypadkiem
niewłaściwy problem do rozwiązania. -
5:11 - 5:16Często nie zdajemy sobie z tego sprawy,
dopóki coś nie pójdzie nie tak. -
5:16 - 5:19Zrobiłam eksperyment,
-
5:19 - 5:22w którym kazałam AI kopiować farby,
-
5:22 - 5:25żeby stworzyć nowe kolory
-
5:25 - 5:27mając do wyboru listę jak ta po lewej.
-
5:27 - 5:30Oto na co wpadła sztuczna inteligencja.
-
5:30 - 5:35[Kupa Syndów, Balaskowy,
Cierpieć, Szary łonowy] -
5:35 - 5:39(Śmiech)
-
5:39 - 5:42Technicznie rzecz biorąc,
-
5:42 - 5:44wypełniła polecenie.
-
5:44 - 5:47Myślałam, że proszę o miłe nazwy kolorów,
-
5:47 - 5:49ale tak naprawdę prosiłam
-
5:49 - 5:52o imitowanie kombinacji liter
-
5:52 - 5:54z oryginalnych nazw.
-
5:54 - 5:57Nie wyjaśniałam, co one znaczą,
-
5:57 - 6:00ani że są słowa, których być może
-
6:00 - 6:03nie powinna używać do farb.
-
6:03 - 6:07Całym jej światem były moje dane.
-
6:07 - 6:12Podobnie jak w przypadku smaków lodów,
AI nie ma dodatkowej wiedzy. -
6:12 - 6:17To przez nieodpowiednie dane
często każemy AI -
6:17 - 6:19robić nie to, co trzeba.
-
6:19 - 6:22To ryba zwana linem.
-
6:22 - 6:24Pewna grupa badaczy
-
6:24 - 6:28wytrenowała AI w rozpoznawaniu
lina na ilustracjach. -
6:28 - 6:29Ale gdy zapytali ją,
-
6:29 - 6:33jakiej części obrazu
używa do identyfikacji ryby, -
6:33 - 6:34oto co pokazała.
-
6:35 - 6:37Tak, to są ludzkie palce.
-
6:38 - 6:40Dlaczego szuka palców
-
6:40 - 6:42podczas identyfikowania ryby?
-
6:42 - 6:45Okazuje się, że lin jest rybą,
którą warto się chwalić, -
6:46 - 6:48więc na wielu zdjęciach,
-
6:48 - 6:51które AI widziała podczas treningu,
-
6:51 - 6:52ryba wyglądała tak.
-
6:53 - 6:54(Śmiech)
-
6:54 - 6:57AI nie wiedziała,
że palce nie są częścią ryby. -
6:59 - 7:04Widzicie więc, dlaczego
tak trudno zaprojektować AI, -
7:04 - 7:07która rozumie, na co patrzy.
-
7:07 - 7:09Dlatego też projektowanie
rozpoznawania obrazów -
7:09 - 7:12w samosterujących samochodach
jest takie trudne -
7:12 - 7:15i dlatego tyle niepowodzeń
samosterujących samochodów -
7:15 - 7:17było wynikiem dezorientacji SI.
-
7:17 - 7:20Chciałabym wspomnieć
o przykładzie z 2016 roku. -
7:20 - 7:26Zdarzył się wtedy śmiertelny wypadek
podczas używania autopilota AI Tesli, -
7:26 - 7:29ale zamiast używania go na autostradzie,
do czego został zaprojektowany, -
7:29 - 7:31użyto go w mieście.
-
7:31 - 7:34Ciężarówka wjechała przed samochód,
-
7:34 - 7:36który nie zahamował.
-
7:36 - 7:41AI na pewno uczono rozpoznawać
ciężarówki na zdjęciach. -
7:42 - 7:43Ale wygląda na to,
-
7:43 - 7:47że uczyła się rozpoznawać
ciężarówki na autostradach, -
7:47 - 7:50gdzie zazwyczaj widzi się je od tyłu.
-
7:50 - 7:53Raczej nie widzi się ciężarówki z boku.
-
7:53 - 7:56Widząc ciężarówkę,
-
7:56 - 8:00pewnie wzięła ją za znak drogowy,
-
8:00 - 8:04pod którym można bezpiecznie przejechać.
-
8:04 - 8:07Oto inny przykład pomyłki
sztucznej inteligencji. -
8:07 - 8:11Amazon musiał niedawno porzucić
algorytm sortujący CV, -
8:11 - 8:12nad którymi pracowali,
-
8:12 - 8:16gdy odkryli, że algorytm nauczył się
dyskryminować kobiety. -
8:16 - 8:19Szkolono go na przykładach CV
-
8:19 - 8:21osób zatrudnionych w przeszłości.
-
8:21 - 8:25Na tej podstawie
AI nauczyła się unikać CV osób, -
8:25 - 8:27które chodziły do żeńskich szkół
-
8:27 - 8:30lub miały słowo "kobiecy" w CV,
-
8:30 - 8:34jak "kobieca drużyna futbolu"
lub "stowarzyszenie kobiet-inżynierów". -
8:34 - 8:39Sztuczna inteligencja nie wiedziała,
że nie należy powielać tych zachowań, -
8:39 - 8:41które widziała wśród ludzi.
-
8:41 - 8:43Technicznie zrobiła to, co jej kazano,
-
8:43 - 8:46ale przypadkowo poproszono ją
o coś niewłaściwego. -
8:46 - 8:50Wciąż to obserwujemy u AI.
-
8:50 - 8:54AI może być bezwiednie bardzo szkodliwa.
-
8:54 - 9:00AI, która rekomenduje
nowy materiał na FB czy YouTubie, -
9:00 - 9:03jest zoptymalizowana,
by zwiększać liczbę kliknięć i odsłon. -
9:03 - 9:06Niestety jednym ze sposobów,
którego się nauczyła, -
9:06 - 9:11jest rekomendowanie treści
konspiracyjnych lub bigoterii. -
9:11 - 9:16AI nie rozumie samej treści
-
9:16 - 9:20i nie ma świadomości,
jakie mogą być konsekwencje -
9:20 - 9:22polecania tych treści.
-
9:22 - 9:26Dlatego przy pracy
ze sztuczną inteligencją -
9:26 - 9:29unikanie problemów zależy od nas.
-
9:29 - 9:33I unikania potknięć, które mogą wynikać
-
9:33 - 9:35z odwiecznego problemu w komunikacji,
-
9:35 - 9:40gdzie my, ludzie, musimy nauczyć się
porozumiewać ze sztuczną inteligencją. -
9:40 - 9:43Musimy się nauczyć, co umie, a czego nie,
-
9:43 - 9:46i zrozumieć, że ze swoim
małym mózgiem robaka -
9:46 - 9:51AI tak naprawdę nie rozumie,
czego od niej chcemy. -
9:51 - 9:55Inaczej mówiąc, trzeba się przygotować
do pracy ze sztuczną inteligencją, -
9:55 - 10:00która nie jest super kompetentna
i wszechwiedząca jak na filmach. -
10:00 - 10:02Trzeba się przygotować do pracy
-
10:02 - 10:06ze sztuczną inteligencją, jaką mamy teraz.
-
10:06 - 10:09A obecna jest wystarczająco dziwna.
-
10:10 - 10:11Dziękuję.
-
10:11 - 10:15(Brawa)
- Title:
- Groźba sztucznej inteligencji jest dziwniejsza niż myślisz
- Speaker:
- Janelle Shane
- Description:
-
„Sztuczna inteligencja nie jest groźna dlatego, że kiedyś się przeciw nam zbuntuje, ale dlatego, że zrobi dokładnie to, o co poprosimy” - mówi Janelle Shane, badaczka zajmująca się sztuczną inteligencją. Dzieląc się dziwnymi, czasami zaskakująco błahymi algorytmami używanymi do rozwiązywania problemów ludzi - jak tworzenie nowych smaków lodów czy rozpoznawanie samochodów na ulicy - Shane pokazuje, dlaczego sztuczna inteligencja nie dorównuje jeszcze prawdziwym mózgom.
- Video Language:
- English
- Team:
- closed TED
- Project:
- TEDTalks
- Duration:
- 10:28
Rysia Wand approved Polish subtitles for The danger of AI is weirder than you think | ||
Rysia Wand edited Polish subtitles for The danger of AI is weirder than you think | ||
Rysia Wand accepted Polish subtitles for The danger of AI is weirder than you think | ||
Rysia Wand edited Polish subtitles for The danger of AI is weirder than you think | ||
Rysia Wand edited Polish subtitles for The danger of AI is weirder than you think | ||
Kornelia Szyszka edited Polish subtitles for The danger of AI is weirder than you think | ||
Kornelia Szyszka edited Polish subtitles for The danger of AI is weirder than you think | ||
Kornelia Szyszka edited Polish subtitles for The danger of AI is weirder than you think |