Groźba sztucznej inteligencji jest dziwniejsza niż myślisz

„Sztuczna inteligencja nie jest groźna dlatego, że kiedyś się przeciw nam zbuntuje, ale dlatego, że zrobi dokładnie to, o co poprosimy” - mówi Janelle Shane, badaczka zajmująca się sztuczną inteligencją. Dzieląc się dziwnymi, czasami zaskakująco błahymi algorytmami używanymi do rozwiązywania problemów ludzi - jak tworzenie nowych smaków lodów czy rozpoznawanie samochodów na ulicy - Shane pokazuje, dlaczego sztuczna inteligencja nie dorównuje jeszcze prawdziwym mózgom.

Sztuczna Inteligencja (AI)

wpływa na różne gałęzie przemysłu.

A co z lodami?

Jakie obłędne smaki można by stworzyć

za pomocą zaawansowanej
sztucznej inteligencji?

Aby odpowiedzieć na to pytanie,
połączyłam siły z grupą programistów

z Kealing Middle School.

Zebrali ponad 1600
istniejących smaków lodów,

wpisaliśmy je do algorytmu,
by zobaczyć, co wygeneruje.

Oto niektóre smaki
wymyślone przez sztuczną inteligencję.

[Dyniowa Przerwa Śmieciowa]

(Śmiech)

[Śluz masła orzechowego]

[Choroba truskawkowo-śmietankowa]

(Śmiech)

Nie są tak smakowite, jak oczekiwaliśmy.

Pytanie brzmi: co się stało?

Co poszło nie tak?

Czy sztuczna inteligencja
próbuje nas zabić?

A może próbuje spełnić nasze polecenie
i pojawił się problem?

Filmowe kłopoty ze sztuczną inteligencją

spowodowane są zazwyczaj
wymówieniem posłuszeństwa człowiekowi.

"Dzięki, ale mam własne plany"

W rzeczywistości dzisiejsza
sztuczna inteligencja,

nie jest aż tak mądra.

Ma moc obliczeniową

dżdżownicy

lub maksymalnie pszczoły.

Właściwie to mniejszą.

Nieustannie dowiadujemy się
o mózgu rzeczy, które ujawniają,

jak dalece sztuczna inteligencja
do nas nie dorasta.

Obecnie sztuczna inteligencja może
zidentyfikować pieszego na zdjęciu,

ale nie wie, czym jest pieszy

poza tym, że jest to zbiór linii,
tekstur czy rzeczy.

Nie wie, czym jest człowiek.

Czy współczesna sztuczna inteligencja
zrobi to, o co się ją prosi?

Zrobi, jeśli umie,

ale efekt może się różnić od oczekiwań.

Załóżmy, że chcieliście,
by sztuczna inteligencja

wzięła części robota

i zrobiła z nich robota,
który ma dotrzeć z punktu A do B.

Gdyby podejść do problemu

z pomocą tradycyjnego
programu komputerowego,

komputerowi należy dać
szczegółową instrukcję,

jak wziąć dane części,

złożyć robota z nogami

i jak użyć tych nóg,
by dotrzeć do punktu B.

Rozwiązując problem
przy użyciu sztucznej inteligencji,

robi się to inaczej.

Nie mówi się, jak rozwiązać problem.

Po prostu daje się cel,

a ona sama, metodą prób i błędów,

musi znaleźć rozwiązanie.

Okazuje się, że sztuczna inteligencja

rozwiązuje ten konkretny problem tak:

buduje z części wieżę i przewraca ją,

lądując w punkcie B.

Technicznie rzecz biorąc,
rozwiązała problem.

Dotarła do punktu B.

Niebezpieczeństwem sztucznej inteligencji
nie jest bunt przeciwko nam,

lecz to, że zrobi dokładnie to,
o co ją poprosiliśmy.

Istotą pracy ze sztuczną inteligencją

jest postawienie problemu tak,
by zrobiła to, czego oczekujemy.

Ten mały robot kontrolowany jest
przez sztuczną inteligencję,

która sama zaprojektowała nogi robota

i sposób ich użycia
do obchodzenia przeszkód.

Ale kiedy David Ha
stworzył ten eksperyment,

musiał postawić bardzo surowe ograniczenia

dotyczące wielkości nóg

w przeciwnym razie...

(Śmiech)

Technicznie rzecz biorąc,
doszła do końca trasy.

Czyli trudno skłonić AI do zrobienia
czegoś tak prostego jak chodzenie.

Obserwując, jak robi to AI,
można powiedzieć: "Nie fair,

nie możesz być wysoką wieżą
i po prostu upaść,

musisz użyć nóg do chodzenia".

Niestety to też nie zawsze działa.

Zadaniem sztucznej inteligencji
było szybkie poruszanie się.

Nie powiedziano, że musi biec do przodu,

ani że nie może używać ramion.

Tak to wygląda,
gdy uczymy AI szybko się ruszać:

przewroty i dziwny chód.

To bardzo powszechne.

Może to też wyglądać
jak drgawki sterty na podłodze.

(Śmiech)

Dla mnie dużo dziwniejsze są

roboty z "Terminatora".

AI chętnie też włamie się do matrycy.

Jeśli więc wyszkolić AI w symulacji,

nauczy się włamywać
przez błędy w obliczeniach

i czerpać z nich energię.

Wymyśli szybki ruch
przez drgawki na podłodze.

Praca ze sztuczną inteligencją

nie przypomina pracy z człowiekiem,

lecz z jakąś dziwną siłą natury.

Bardzo łatwo dać jej przypadkiem
niewłaściwy problem do rozwiązania.

Często nie zdajemy sobie z tego sprawy,
dopóki coś nie pójdzie nie tak.

Zrobiłam eksperyment,

w którym kazałam AI kopiować farby,

żeby stworzyć nowe kolory

mając do wyboru listę jak ta po lewej.

Oto na co wpadła sztuczna inteligencja.

[Kupa Syndów, Balaskowy,
Cierpieć, Szary łonowy]

(Śmiech)

Technicznie rzecz biorąc,

wypełniła polecenie.

Myślałam, że proszę o miłe nazwy kolorów,

ale tak naprawdę prosiłam

o imitowanie kombinacji liter

z oryginalnych nazw.

Nie wyjaśniałam, co one znaczą,

ani że są słowa, których być może

nie powinna używać do farb.

Całym jej światem były moje dane.

Podobnie jak w przypadku smaków lodów,
AI nie ma dodatkowej wiedzy.

To przez nieodpowiednie dane
często każemy AI

robić nie to, co trzeba.

To ryba zwana linem.

Pewna grupa badaczy

wytrenowała AI w rozpoznawaniu
lina na ilustracjach.

Ale gdy zapytali ją,

jakiej części obrazu
używa do identyfikacji ryby,

oto co pokazała.

Tak, to są ludzkie palce.

Dlaczego szuka palców

podczas identyfikowania ryby?

Okazuje się, że lin jest rybą,
którą warto się chwalić,

więc na wielu zdjęciach,

które AI widziała podczas treningu,

ryba wyglądała tak.

(Śmiech)

AI nie wiedziała,
że palce nie są częścią ryby.

Widzicie więc, dlaczego
tak trudno zaprojektować AI,

która rozumie, na co patrzy.

Dlatego też projektowanie
rozpoznawania obrazów

w samosterujących samochodach
jest takie trudne

i dlatego tyle niepowodzeń
samosterujących samochodów

było wynikiem dezorientacji SI.

Chciałabym wspomnieć
o przykładzie z 2016 roku.

Zdarzył się wtedy śmiertelny wypadek
podczas używania autopilota AI Tesli,

ale zamiast używania go na autostradzie,
do czego został zaprojektowany,

użyto go w mieście.

Ciężarówka wjechała przed samochód,

który nie zahamował.

AI na pewno uczono rozpoznawać
ciężarówki na zdjęciach.

Ale wygląda na to,

że uczyła się rozpoznawać
ciężarówki na autostradach,

gdzie zazwyczaj widzi się je od tyłu.

Raczej nie widzi się ciężarówki z boku.

Widząc ciężarówkę,

pewnie wzięła ją za znak drogowy,

pod którym można bezpiecznie przejechać.

Oto inny przykład pomyłki
sztucznej inteligencji.

Amazon musiał niedawno porzucić
algorytm sortujący CV,

nad którymi pracowali,

gdy odkryli, że algorytm nauczył się
dyskryminować kobiety.

Szkolono go na przykładach CV

osób zatrudnionych w przeszłości.

Na tej podstawie
AI nauczyła się unikać CV osób,

które chodziły do żeńskich szkół

lub miały słowo "kobiecy" w CV,

jak "kobieca drużyna futbolu"
lub "stowarzyszenie kobiet-inżynierów".

Sztuczna inteligencja nie wiedziała,
że nie należy powielać tych zachowań,

które widziała wśród ludzi.

Technicznie zrobiła to, co jej kazano,

ale przypadkowo poproszono ją
o coś niewłaściwego.

Wciąż to obserwujemy u AI.

AI może być bezwiednie bardzo szkodliwa.

AI, która rekomenduje
nowy materiał na FB czy YouTubie,

jest zoptymalizowana,
by zwiększać liczbę kliknięć i odsłon.

Niestety jednym ze sposobów,
którego się nauczyła,

jest rekomendowanie treści
konspiracyjnych lub bigoterii.

AI nie rozumie samej treści

i nie ma świadomości,
jakie mogą być konsekwencje

polecania tych treści.

Dlatego przy pracy
ze sztuczną inteligencją

unikanie problemów zależy od nas.

I unikania potknięć, które mogą wynikać

z odwiecznego problemu w komunikacji,

gdzie my, ludzie, musimy nauczyć się
porozumiewać ze sztuczną inteligencją.

Musimy się nauczyć, co umie, a czego nie,

i zrozumieć, że ze swoim
małym mózgiem robaka

AI tak naprawdę nie rozumie,
czego od niej chcemy.

Inaczej mówiąc, trzeba się przygotować
do pracy ze sztuczną inteligencją,

która nie jest super kompetentna
i wszechwiedząca jak na filmach.

Trzeba się przygotować do pracy

ze sztuczną inteligencją, jaką mamy teraz.

A obecna jest wystarczająco dziwna.

Dziękuję.

(Brawa)