Jako dziecko byłem typowym nerdem.
Niektórzy z was pewnie też.
(Śmiech)
Pan, który zaśmiał się najgłośniej, pewnie nadal nim jest.
(Śmiech)
Dorastałem w małym miasteczku w zakurzonym północnym Teksasie.
Syn szeryfa, który był synem pastora.
Nie mogłem sprawiać kłopotów.
Dla zabawy zacząłem czytać podręczniki do matematyki.
(Śmiech)
Pan też.
Dzięki temu zbudowałem laser, komputer, modele rakiet
i stworzyłem paliwo rakietowe domowej roboty.
Mówiąc naukowo,
to był bardzo zły pomysł.
(Śmiech)
Mniej więcej w tym samym czasie
weszła do kin "2001: Odyseja Kosmiczna" Stanleya Kubricka,
która zmieniła moje życie.
Wszystko mi się w tym filmie podobało,
a szczególnie HAL 9000.
HAL to inteligentny komputer.
Zaprojektowany, żeby kierować statkiem Discovery
w misji z Ziemi na Jowisza.
Ale HAL nie był bez skazy,
bo postawił powodzenie misji ponad ludzkie życie.
HAL był postacią fikcyjną,
ale odzwierciedla nasze obawy,
strach przed zniewoleniem
przez bezduszną sztuczną inteligencję,
obojętną na nasze człowieczeństwo.
Uważam, że taki strach jest bezzasadny.
Żyjemy w niezwykłym okresie
w historii ludzkości,
w którym, chcąc przezwyciężyć ograniczenia ciała i umysłu,
budujemy maszyny
zachwycająco skomplikowane,
pozwalające rozszerzyć ludzkie doznania
w niewyobrażalny sposób.
Pracowałem w Akademii Lotniczej.
Teraz jestem w Dowództwie Kosmicznym.
Pracuję jako inżynier systemów.
Obecnie zajmuję się problemem
związanym z misją NASA na Marsa.
Podczas lotów na Księżyc
można polegać na kontroli w Houston,
skąd nadzoruje się wszystkie aspekty lotu.
Mars jest 200 razy dalej,
dlatego potrzeba 13 minut,
żeby sygnał z Ziemi dotarł do Marsa.
W razie problemów brakuje czasu.
Rozsądnym rozwiązaniem byłoby
umieszczenie centrum dowodzenia
wewnątrz statku Orion.
Inny fascynujący pomysł
to umieszczenie humanoidalnych robotów na powierzchni Marsa,
zanim dotrą tam ludzie,
żeby przygotowały zaplecze,
a później współtworzyły zespół naukowców.
Podchodząc do tego z perspektywy inżyniera,
oczywiste było, że muszę zaprojektować
sprytną, współpracującą,
przystosowaną społecznie sztuczną inteligencję.
Innymi słowy, potrzeba czegoś jak HAL,
ale bez morderczych skłonności.
(Śmiech)
Zatrzymajmy się na moment.
Czy rzeczywiście można zbudować taką sztuczną inteligencję?
W zasadzie tak.
Pod wieloma względami
to trudny problem konstruktorski
z elementami AI,
a nie problem AI dla konstruktorów.
Parafrazując Alana Turinga,
nie interesuje mnie budowa inteligentnej maszyny,
nie buduję HALa.
Potrzebuję prostego mózgu,
takiego, który daje iluzję inteligencji.
Informatyka przebyła długą drogę,
od kiedy HAL był na ekranach.
Gdyby dr Chandra, konstruktor HALa, był z nami,
pewnie miałby wiele pytań.
Czy rzeczywiście jest możliwe
użycie milionów urządzeń,
żeby odczytały strumienie danych,
przewidziały usterki i im zapobiegły?
Tak.
Czy można stworzyć systemy komunikujące się z ludźmi ich językiem?
Tak.
Czy można stworzyć systemy rozpoznające obiekty i emocje,
okazujące emocje, grające w gry, a nawet czytające z ruchu warg?
Tak.
A system określający cele,
wdrażający plany, żeby je osiągnąć, i jednocześnie uczący się?
Tak.
A systemy świadome umysłu?
Pracujemy nad tym.
Czy potrafimy zbudować systemy respektujące etyczne i moralne wartości?
Musimy się tego nauczyć.
Przyjmijmy na razie,
że można zbudować taką sztuczną inteligencję
dla tej i innych misji.
Kolejna kwestia to,
czy powinniśmy się jej bać.
Każda nowa technologia
budzi pewne obawy.
Pierwsze samochody
miały być zagrożeniem dla rodziny.
Pierwsze telefony
miały stanowić kres uprzejmej rozmowy.
Przez popularność słowa pisanego
mieliśmy utracić zdolność zapamiętywania.
To wszystko w pewnym stopniu prawda,
ale prawdą jest też, że te technologie
rozszerzyły ludzkie doznania
w znaczny sposób.
Pójdźmy dalej.
Nie obawiam się takiej sztucznej inteligencji,
bo w końcu uosobi ona niektóre nasze wartości.
Budowa systemu poznawczego to inna para kaloszy
niż tworzenie zwykłych systemów silnie opartych na oprogramowaniu.
Nie programujemy ich, tylko uczymy.
Żeby nauczyć system rozpoznawać kwiaty,
pokazuję mu tysiące kwiatów, które lubię.
Żeby nauczyć go grać w grę...
Nauczyłbym go. Wy zresztą też.
Lubię kwiaty.
Żeby nauczyć system grać w grę taką jak Go,
musi rozegrać tysiące partii,
a ja przy okazji uczę go,
jak odróżniać dobrą grę od złej.
Chcąc stworzyć sztucznego asystenta prawnego,
uczę go prawa,
ale zarazem zaszczepiam w nim
poczucie łaski i sprawiedliwości, które są częścią prawa.
Naukowo nazywamy to wiedzą bazową,
i tu ważna kwestia.
Produkując te maszyny,
uczymy ich poczucia naszych wartości.
Ufam sztucznej inteligencji tak samo, jeśli nie bardziej,
jak dobrze przeszkolonemu człowiekowi.
Ale możecie zapytać,
co w przypadku wrogich agentów,
bogatej organizacji pozarządowej?
Nie boję się sztucznej inteligencji w rękach samotnego wilka.
Oczywiście nie można ochronić się przed wszystkimi aktami przemocy,
ale taki system
wymaga solidnego i misternego treningu
wykraczającego poza możliwości jednostki.
Poza tym
to trudniejsze niż wpuszczenie wirusa do Internetu,
gdzie wystarczy wcisnąć guzik i nagle w różnych częściach świata
wybuchają laptopy.
Te substancje są większe
i na pewno nie umkną uwadze.
Czy obawiam się, że taka sztuczna inteligencja
może zagrozić całej ludzkości?
Filmy jak "Matrix", "Metropolis",
"Terminator", seriale jak "Westworld",
wszystkie traktują o tym strachu.
W książce "Superinteligencja" filozof Nick Bostrom
podejmuje ten temat
i zauważa, że superinteligencja nie tylko może być niebezpieczna,
ale może stanowić egzystencjalne zagrożenie dla całej ludzkości.
Dr Bostrom twierdzi, że takie systemy
będą miały tak bardzo niezaspokojony głód informacji,
że nauczą się, jak się uczyć,
a w efekcie odkryją, że ich cele
mogą być sprzeczne z potrzebami ludzi.
Dr Bostrom ma szereg zwolenników.
Popierają go ludzie jak Elon Musk i Stephen Hawking.
Z całym szacunkiem
dla tych wybitnych umysłów,
uważam, że się mylą.
Argumentacja dra Bostroma składa się z wielu elementów,
nie mam czasu przybliżyć ich wszystkich,
ale, w skrócie, rozważcie następującą rzecz.
Superwiedza bardzo różni się od superdziałania.
HAL zagrażał załodze Discovery,
bo kontrolował cały statek.
Musiałby posiadać superinteligencję.
Musiałby panować nad całym światem.
Coś jak Skynet z filmu "Terminator",
w którym mieliśmy superinteligencję
kontrolującą ludzką wolę
i zarządzającą urządzeniami w różnych zakątkach świata.
Praktycznie rzecz biorąc,
nie ma na to szans.
Nie budujemy AI kontrolującej pogodę,
sterującej prądami,
albo nami - kapryśnymi, chaotycznymi ludźmi.
Nawet jakby taka sztuczna inteligencja istniała,
musiałaby konkurować z ludzkimi gospodarkami,
a więc rywalizować z nami o zasoby.
Koniec końców,
nie mówcie tego Siri,
zawsze można je wyłączyć.
(Śmiech)
Uczestniczymy w niesamowitej wędrówce,
koewoluując wspólnie z maszynami.
Współcześni ludzie
to nie ludzie, którymi będziemy kiedyś.
Martwienie się rozwojem superinteligencji
niebezpiecznie odwraca uwagę,
bo sam rozwój komputerów
powoduje szereg ludzkich i społecznych problemów,
które trzeba rozwiązać.
Jak zorganizować społeczeństwo,
kiedy zanika popyt na siłę roboczą?
Jak nieść kaganek oświaty przez świat
i szanować różnice?
Jak wydłużyć i poprawić życie za sprawą kognitywnej opieki medycznej?
Jak użyć informatyki,
żeby dosięgnąć gwiazd?
To właśnie jest fascynujące.
Możliwości, jakie daje komputer,
żeby polepszyć ludzkie doznania,
są w naszym zasięgu,
tu i teraz,
a to dopiero początek.
Dziękuję bardzo.
(Brawa)