Return to Video

Groźba sztucznej inteligencji jest dziwniejsza niż myślisz

  • 0:02 - 0:04
    Sztuczna Inteligencja (AI)
  • 0:05 - 0:08
    wpływa na różne gałęzie przemysłu.
  • 0:09 - 0:12
    A co z lodami?
  • 0:12 - 0:16
    Jakie obłędne smaki można by stworzyć
  • 0:16 - 0:19
    za pomocą zaawansowanej
    sztucznej inteligencji?
  • 0:19 - 0:23
    Aby odpowiedzieć na to pytanie,
    połączyłam siły z grupą programistów
  • 0:23 - 0:25
    z Kealing Middle School.
  • 0:25 - 0:31
    Zebrali ponad 1600
    istniejących smaków lodów,
  • 0:31 - 0:36
    wpisaliśmy je do algorytmu,
    by zobaczyć, co wygeneruje.
  • 0:36 - 0:40
    Oto niektóre smaki
    wymyślone przez sztuczną inteligencję.
  • 0:40 - 0:42
    [Dyniowa Przerwa Śmieciowa]
  • 0:42 - 0:43
    (Śmiech)
  • 0:43 - 0:46
    [Śluz masła orzechowego]
  • 0:46 - 0:48
    [Choroba truskawkowo-śmietankowa]
  • 0:48 - 0:50
    (Śmiech)
  • 0:50 - 0:55
    Nie są tak smakowite, jak oczekiwaliśmy.
  • 0:55 - 0:57
    Pytanie brzmi: co się stało?
  • 0:57 - 0:58
    Co poszło nie tak?
  • 0:58 - 1:01
    Czy sztuczna inteligencja
    próbuje nas zabić?
  • 1:01 - 1:06
    A może próbuje spełnić nasze polecenie
    i pojawił się problem?
  • 1:07 - 1:09
    Filmowe kłopoty ze sztuczną inteligencją
  • 1:09 - 1:14
    spowodowane są zazwyczaj
    wymówieniem posłuszeństwa człowiekowi.
  • 1:14 - 1:17
    "Dzięki, ale mam własne plany"
  • 1:17 - 1:20
    W rzeczywistości dzisiejsza
    sztuczna inteligencja,
  • 1:21 - 1:22
    nie jest aż tak mądra.
  • 1:23 - 1:25
    Ma moc obliczeniową
  • 1:25 - 1:27
    dżdżownicy
  • 1:27 - 1:30
    lub maksymalnie pszczoły.
  • 1:31 - 1:33
    Właściwie to mniejszą.
  • 1:33 - 1:35
    Nieustannie dowiadujemy się
    o mózgu rzeczy, które ujawniają,
  • 1:35 - 1:40
    jak dalece sztuczna inteligencja
    do nas nie dorasta.
  • 1:40 - 1:45
    Obecnie sztuczna inteligencja może
    zidentyfikować pieszego na zdjęciu,
  • 1:45 - 1:48
    ale nie wie, czym jest pieszy
  • 1:48 - 1:53
    poza tym, że jest to zbiór linii,
    tekstur czy rzeczy.
  • 1:54 - 1:56
    Nie wie, czym jest człowiek.
  • 1:57 - 2:00
    Czy współczesna sztuczna inteligencja
    zrobi to, o co się ją prosi?
  • 2:00 - 2:02
    Zrobi, jeśli umie,
  • 2:02 - 2:04
    ale efekt może się różnić od oczekiwań.
  • 2:04 - 2:07
    Załóżmy, że chcieliście,
    by sztuczna inteligencja
  • 2:07 - 2:10
    wzięła części robota
  • 2:10 - 2:14
    i zrobiła z nich robota,
    który ma dotrzeć z punktu A do B.
  • 2:14 - 2:16
    Gdyby podejść do problemu
  • 2:16 - 2:19
    z pomocą tradycyjnego
    programu komputerowego,
  • 2:19 - 2:22
    komputerowi należy dać
    szczegółową instrukcję,
  • 2:22 - 2:23
    jak wziąć dane części,
  • 2:23 - 2:26
    złożyć robota z nogami
  • 2:26 - 2:29
    i jak użyć tych nóg,
    by dotrzeć do punktu B.
  • 2:29 - 2:32
    Rozwiązując problem
    przy użyciu sztucznej inteligencji,
  • 2:32 - 2:33
    robi się to inaczej.
  • 2:33 - 2:35
    Nie mówi się, jak rozwiązać problem.
  • 2:35 - 2:37
    Po prostu daje się cel,
  • 2:37 - 2:40
    a ona sama, metodą prób i błędów,
  • 2:40 - 2:42
    musi znaleźć rozwiązanie.
  • 2:42 - 2:46
    Okazuje się, że sztuczna inteligencja
  • 2:46 - 2:48
    rozwiązuje ten konkretny problem tak:
  • 2:48 - 2:52
    buduje z części wieżę i przewraca ją,
  • 2:52 - 2:54
    lądując w punkcie B.
  • 2:54 - 2:57
    Technicznie rzecz biorąc,
    rozwiązała problem.
  • 2:57 - 2:58
    Dotarła do punktu B.
  • 2:58 - 3:02
    Niebezpieczeństwem sztucznej inteligencji
    nie jest bunt przeciwko nam,
  • 3:02 - 3:07
    lecz to, że zrobi dokładnie to,
    o co ją poprosiliśmy.
  • 3:07 - 3:10
    Istotą pracy ze sztuczną inteligencją
  • 3:10 - 3:14
    jest postawienie problemu tak,
    by zrobiła to, czego oczekujemy.
  • 3:15 - 3:19
    Ten mały robot kontrolowany jest
    przez sztuczną inteligencję,
  • 3:19 - 3:22
    która sama zaprojektowała nogi robota
  • 3:22 - 3:25
    i sposób ich użycia
    do obchodzenia przeszkód.
  • 3:25 - 3:28
    Ale kiedy David Ha
    stworzył ten eksperyment,
  • 3:28 - 3:32
    musiał postawić bardzo surowe ograniczenia
  • 3:32 - 3:35
    dotyczące wielkości nóg
  • 3:35 - 3:38
    w przeciwnym razie...
  • 3:47 - 3:49
    (Śmiech)
  • 3:49 - 3:53
    Technicznie rzecz biorąc,
    doszła do końca trasy.
  • 3:53 - 3:58
    Czyli trudno skłonić AI do zrobienia
    czegoś tak prostego jak chodzenie.
  • 3:58 - 4:01
    Obserwując, jak robi to AI,
    można powiedzieć: "Nie fair,
  • 4:01 - 4:04
    nie możesz być wysoką wieżą
    i po prostu upaść,
  • 4:04 - 4:08
    musisz użyć nóg do chodzenia".
  • 4:08 - 4:10
    Niestety to też nie zawsze działa.
  • 4:10 - 4:14
    Zadaniem sztucznej inteligencji
    było szybkie poruszanie się.
  • 4:14 - 4:17
    Nie powiedziano, że musi biec do przodu,
  • 4:17 - 4:20
    ani że nie może używać ramion.
  • 4:20 - 4:25
    Tak to wygląda,
    gdy uczymy AI szybko się ruszać:
  • 4:25 - 4:28
    przewroty i dziwny chód.
  • 4:28 - 4:31
    To bardzo powszechne.
  • 4:31 - 4:34
    Może to też wyglądać
    jak drgawki sterty na podłodze.
  • 4:34 - 4:35
    (Śmiech)
  • 4:35 - 4:39
    Dla mnie dużo dziwniejsze są
  • 4:39 - 4:41
    roboty z "Terminatora".
  • 4:41 - 4:45
    AI chętnie też włamie się do matrycy.
  • 4:45 - 4:47
    Jeśli więc wyszkolić AI w symulacji,
  • 4:47 - 4:51
    nauczy się włamywać
    przez błędy w obliczeniach
  • 4:51 - 4:53
    i czerpać z nich energię.
  • 4:53 - 4:58
    Wymyśli szybki ruch
    przez drgawki na podłodze.
  • 4:59 - 5:01
    Praca ze sztuczną inteligencją
  • 5:01 - 5:03
    nie przypomina pracy z człowiekiem,
  • 5:03 - 5:06
    lecz z jakąś dziwną siłą natury.
  • 5:07 - 5:11
    Bardzo łatwo dać jej przypadkiem
    niewłaściwy problem do rozwiązania.
  • 5:11 - 5:16
    Często nie zdajemy sobie z tego sprawy,
    dopóki coś nie pójdzie nie tak.
  • 5:16 - 5:19
    Zrobiłam eksperyment,
  • 5:19 - 5:22
    w którym kazałam AI kopiować farby,
  • 5:22 - 5:25
    żeby stworzyć nowe kolory
  • 5:25 - 5:27
    mając do wyboru listę jak ta po lewej.
  • 5:27 - 5:30
    Oto na co wpadła sztuczna inteligencja.
  • 5:30 - 5:35
    [Kupa Syndów, Balaskowy,
    Cierpieć, Szary łonowy]
  • 5:35 - 5:39
    (Śmiech)
  • 5:39 - 5:42
    Technicznie rzecz biorąc,
  • 5:42 - 5:44
    wypełniła polecenie.
  • 5:44 - 5:47
    Myślałam, że proszę o miłe nazwy kolorów,
  • 5:47 - 5:49
    ale tak naprawdę prosiłam
  • 5:49 - 5:52
    o imitowanie kombinacji liter
  • 5:52 - 5:54
    z oryginalnych nazw.
  • 5:54 - 5:57
    Nie wyjaśniałam, co one znaczą,
  • 5:57 - 6:00
    ani że są słowa, których być może
  • 6:00 - 6:03
    nie powinna używać do farb.
  • 6:03 - 6:07
    Całym jej światem były moje dane.
  • 6:07 - 6:12
    Podobnie jak w przypadku smaków lodów,
    AI nie ma dodatkowej wiedzy.
  • 6:12 - 6:17
    To przez nieodpowiednie dane
    często każemy AI
  • 6:17 - 6:19
    robić nie to, co trzeba.
  • 6:19 - 6:22
    To ryba zwana linem.
  • 6:22 - 6:24
    Pewna grupa badaczy
  • 6:24 - 6:28
    wytrenowała AI w rozpoznawaniu
    lina na ilustracjach.
  • 6:28 - 6:29
    Ale gdy zapytali ją,
  • 6:29 - 6:33
    jakiej części obrazu
    używa do identyfikacji ryby,
  • 6:33 - 6:34
    oto co pokazała.
  • 6:35 - 6:37
    Tak, to są ludzkie palce.
  • 6:38 - 6:40
    Dlaczego szuka palców
  • 6:40 - 6:42
    podczas identyfikowania ryby?
  • 6:42 - 6:45
    Okazuje się, że lin jest rybą,
    którą warto się chwalić,
  • 6:46 - 6:48
    więc na wielu zdjęciach,
  • 6:48 - 6:51
    które AI widziała podczas treningu,
  • 6:51 - 6:52
    ryba wyglądała tak.
  • 6:53 - 6:54
    (Śmiech)
  • 6:54 - 6:57
    AI nie wiedziała,
    że palce nie są częścią ryby.
  • 6:59 - 7:04
    Widzicie więc, dlaczego
    tak trudno zaprojektować AI,
  • 7:04 - 7:07
    która rozumie, na co patrzy.
  • 7:07 - 7:09
    Dlatego też projektowanie
    rozpoznawania obrazów
  • 7:09 - 7:12
    w samosterujących samochodach
    jest takie trudne
  • 7:12 - 7:15
    i dlatego tyle niepowodzeń
    samosterujących samochodów
  • 7:15 - 7:17
    było wynikiem dezorientacji SI.
  • 7:17 - 7:20
    Chciałabym wspomnieć
    o przykładzie z 2016 roku.
  • 7:20 - 7:26
    Zdarzył się wtedy śmiertelny wypadek
    podczas używania autopilota AI Tesli,
  • 7:26 - 7:29
    ale zamiast używania go na autostradzie,
    do czego został zaprojektowany,
  • 7:29 - 7:31
    użyto go w mieście.
  • 7:31 - 7:34
    Ciężarówka wjechała przed samochód,
  • 7:34 - 7:36
    który nie zahamował.
  • 7:36 - 7:41
    AI na pewno uczono rozpoznawać
    ciężarówki na zdjęciach.
  • 7:42 - 7:43
    Ale wygląda na to,
  • 7:43 - 7:47
    że uczyła się rozpoznawać
    ciężarówki na autostradach,
  • 7:47 - 7:50
    gdzie zazwyczaj widzi się je od tyłu.
  • 7:50 - 7:53
    Raczej nie widzi się ciężarówki z boku.
  • 7:53 - 7:56
    Widząc ciężarówkę,
  • 7:56 - 8:00
    pewnie wzięła ją za znak drogowy,
  • 8:00 - 8:04
    pod którym można bezpiecznie przejechać.
  • 8:04 - 8:07
    Oto inny przykład pomyłki
    sztucznej inteligencji.
  • 8:07 - 8:11
    Amazon musiał niedawno porzucić
    algorytm sortujący CV,
  • 8:11 - 8:12
    nad którymi pracowali,
  • 8:12 - 8:16
    gdy odkryli, że algorytm nauczył się
    dyskryminować kobiety.
  • 8:16 - 8:19
    Szkolono go na przykładach CV
  • 8:19 - 8:21
    osób zatrudnionych w przeszłości.
  • 8:21 - 8:25
    Na tej podstawie
    AI nauczyła się unikać CV osób,
  • 8:25 - 8:27
    które chodziły do żeńskich szkół
  • 8:27 - 8:30
    lub miały słowo "kobiecy" w CV,
  • 8:30 - 8:34
    jak "kobieca drużyna futbolu"
    lub "stowarzyszenie kobiet-inżynierów".
  • 8:34 - 8:39
    Sztuczna inteligencja nie wiedziała,
    że nie należy powielać tych zachowań,
  • 8:39 - 8:41
    które widziała wśród ludzi.
  • 8:41 - 8:43
    Technicznie zrobiła to, co jej kazano,
  • 8:43 - 8:46
    ale przypadkowo poproszono ją
    o coś niewłaściwego.
  • 8:46 - 8:50
    Wciąż to obserwujemy u AI.
  • 8:50 - 8:54
    AI może być bezwiednie bardzo szkodliwa.
  • 8:54 - 9:00
    AI, która rekomenduje
    nowy materiał na FB czy YouTubie,
  • 9:00 - 9:03
    jest zoptymalizowana,
    by zwiększać liczbę kliknięć i odsłon.
  • 9:03 - 9:06
    Niestety jednym ze sposobów,
    którego się nauczyła,
  • 9:06 - 9:11
    jest rekomendowanie treści
    konspiracyjnych lub bigoterii.
  • 9:11 - 9:16
    AI nie rozumie samej treści
  • 9:16 - 9:20
    i nie ma świadomości,
    jakie mogą być konsekwencje
  • 9:20 - 9:22
    polecania tych treści.
  • 9:22 - 9:26
    Dlatego przy pracy
    ze sztuczną inteligencją
  • 9:26 - 9:29
    unikanie problemów zależy od nas.
  • 9:29 - 9:33
    I unikania potknięć, które mogą wynikać
  • 9:33 - 9:35
    z odwiecznego problemu w komunikacji,
  • 9:35 - 9:40
    gdzie my, ludzie, musimy nauczyć się
    porozumiewać ze sztuczną inteligencją.
  • 9:40 - 9:43
    Musimy się nauczyć, co umie, a czego nie,
  • 9:43 - 9:46
    i zrozumieć, że ze swoim
    małym mózgiem robaka
  • 9:46 - 9:51
    AI tak naprawdę nie rozumie,
    czego od niej chcemy.
  • 9:51 - 9:55
    Inaczej mówiąc, trzeba się przygotować
    do pracy ze sztuczną inteligencją,
  • 9:55 - 10:00
    która nie jest super kompetentna
    i wszechwiedząca jak na filmach.
  • 10:00 - 10:02
    Trzeba się przygotować do pracy
  • 10:02 - 10:06
    ze sztuczną inteligencją, jaką mamy teraz.
  • 10:06 - 10:09
    A obecna jest wystarczająco dziwna.
  • 10:10 - 10:11
    Dziękuję.
  • 10:11 - 10:15
    (Brawa)
Title:
Groźba sztucznej inteligencji jest dziwniejsza niż myślisz
Speaker:
Janelle Shane
Description:

„Sztuczna inteligencja nie jest groźna dlatego, że kiedyś się przeciw nam zbuntuje, ale dlatego, że zrobi dokładnie to, o co poprosimy” - mówi Janelle Shane, badaczka zajmująca się sztuczną inteligencją. Dzieląc się dziwnymi, czasami zaskakująco błahymi algorytmami używanymi do rozwiązywania problemów ludzi - jak tworzenie nowych smaków lodów czy rozpoznawanie samochodów na ulicy - Shane pokazuje, dlaczego sztuczna inteligencja nie dorównuje jeszcze prawdziwym mózgom.

more » « less
Video Language:
English
Team:
TED
Project:
TEDTalks
Duration:
10:28

Polish subtitles

Revisions