Nie bójcie się superinteligentnej sztucznej inteligencji

Nowe technologie budzą nowe obawy, mówi naukowiec i filozof Grady Booch, ale nie musimy bać się wszechmocnej, bezdusznej sztucznej inteligencji. Booch rozwiewa nasze największe (wywołane przez science fiction) lęki związane z superinteligentnymi komputerami, wyjaśniając, jak nauczymy, a nie zaprogramujemy je, by podzielały nasze wartości. Zamiast zamartwiać się nad mało prawdopodobnymi zagrożeniami egzystencjalnymi, zachęca nas, by zastanowić się, jak sztuczna inteligencja polepszy ludzkie życie.

Jako dziecko byłem typowym nerdem.

Niektórzy z was pewnie też.

(Śmiech)

Pan, który zaśmiał się najgłośniej,
pewnie nadal nim jest.

(Śmiech)

Dorastałem w małym miasteczku
w zakurzonym północnym Teksasie.

Syn szeryfa, który był synem pastora.

Nie mogłem sprawiać kłopotów.

Dla zabawy zacząłem czytać
podręczniki do matematyki.

(Śmiech)

Pan też.

Dzięki temu zbudowałem
laser, komputer, modele rakiet

i stworzyłem paliwo rakietowe
domowej roboty.

Mówiąc naukowo,

to był bardzo zły pomysł.

(Śmiech)

Mniej więcej w tym samym czasie

weszła do kin "2001: Odyseja Kosmiczna"
Stanleya Kubricka,

która zmieniła moje życie.

Wszystko mi się w tym filmie podobało,

a szczególnie HAL 9000.

HAL to inteligentny komputer.

Zaprojektowany, żeby kierować
statkiem Discovery

w misji z Ziemi na Jowisza.

Ale HAL nie był bez skazy,

bo postawił powodzenie misji
ponad ludzkie życie.

HAL był postacią fikcyjną,

ale odzwierciedla nasze obawy,

strach przed zniewoleniem

przez bezduszną sztuczną inteligencję,

obojętną na nasze człowieczeństwo.

Uważam, że taki strach jest bezzasadny.

Żyjemy w niezwykłym okresie

w historii ludzkości,

w którym, chcąc przezwyciężyć
ograniczenia ciała i umysłu,

budujemy maszyny

zachwycająco skomplikowane,

pozwalające rozszerzyć ludzkie doznania

w niewyobrażalny sposób.

Pracowałem w Akademii Lotniczej.

Teraz jestem w Dowództwie Kosmicznym.

Pracuję jako inżynier systemów.

Obecnie zajmuję się problemem

związanym z misją NASA na Marsa.

Podczas lotów na Księżyc

można polegać na kontroli w Houston,

skąd nadzoruje się wszystkie aspekty lotu.

Mars jest 200 razy dalej,

dlatego potrzeba 13 minut,

żeby sygnał z Ziemi dotarł do Marsa.

W razie problemów brakuje czasu.

Rozsądnym rozwiązaniem byłoby

umieszczenie centrum dowodzenia

wewnątrz statku Orion.

Inny fascynujący pomysł

to umieszczenie humanoidalnych
robotów na powierzchni Marsa,

zanim dotrą tam ludzie,

żeby przygotowały zaplecze,

a później współtworzyły zespół naukowców.

Podchodząc do tego
z perspektywy inżyniera,

oczywiste było, że muszę zaprojektować

sprytną, współpracującą,

przystosowaną społecznie
sztuczną inteligencję.

Innymi słowy, potrzeba czegoś jak HAL,

ale bez morderczych skłonności.

(Śmiech)

Zatrzymajmy się na moment.

Czy rzeczywiście można zbudować
taką sztuczną inteligencję?

W zasadzie tak.

Pod wieloma względami

to trudny problem konstruktorski

z elementami AI,

a nie problem AI dla konstruktorów.

Parafrazując Alana Turinga,

nie interesuje mnie budowa
inteligentnej maszyny,

nie buduję HALa.

Potrzebuję prostego mózgu,

takiego, który daje iluzję inteligencji.

Informatyka przebyła długą drogę,

od kiedy HAL był na ekranach.

Gdyby dr Chandra,
konstruktor HALa, był z nami,

pewnie miałby wiele pytań.

Czy rzeczywiście jest możliwe

użycie milionów urządzeń,

żeby odczytały strumienie danych,

przewidziały usterki i im zapobiegły?

Tak.

Czy można stworzyć systemy
komunikujące się z ludźmi ich językiem?

Tak.

Czy można stworzyć systemy
rozpoznające obiekty i emocje,

okazujące emocje, grające w gry,
a nawet czytające z ruchu warg?

Tak.

A system określający cele,

wdrażający plany, żeby je osiągnąć,
i jednocześnie uczący się?

Tak.

A systemy świadome umysłu?

Pracujemy nad tym.

Czy potrafimy zbudować systemy
respektujące etyczne i moralne wartości?

Musimy się tego nauczyć.

Przyjmijmy na razie,

że można zbudować
taką sztuczną inteligencję

dla tej i innych misji.

Kolejna kwestia to,

czy powinniśmy się jej bać.

Każda nowa technologia

budzi pewne obawy.

Pierwsze samochody

miały być zagrożeniem dla rodziny.

Pierwsze telefony

miały stanowić kres uprzejmej rozmowy.

Przez popularność słowa pisanego

mieliśmy utracić zdolność zapamiętywania.

To wszystko w pewnym stopniu prawda,

ale prawdą jest też, że te technologie

rozszerzyły ludzkie doznania

w znaczny sposób.

Pójdźmy dalej.

Nie obawiam się
takiej sztucznej inteligencji,

bo w końcu uosobi ona
niektóre nasze wartości.

Budowa systemu poznawczego
to inna para kaloszy

niż tworzenie zwykłych systemów
silnie opartych na oprogramowaniu.

Nie programujemy ich, tylko uczymy.

Żeby nauczyć system rozpoznawać kwiaty,

pokazuję mu tysiące kwiatów, które lubię.

Żeby nauczyć go grać w grę...

Nauczyłbym go. Wy zresztą też.

Lubię kwiaty.

Żeby nauczyć system
grać w grę taką jak Go,

musi rozegrać tysiące partii,

a ja przy okazji uczę go,

jak odróżniać dobrą grę od złej.

Chcąc stworzyć sztucznego
asystenta prawnego,

uczę go prawa,

ale zarazem zaszczepiam w nim

poczucie łaski i sprawiedliwości,
które są częścią prawa.

Naukowo nazywamy to wiedzą bazową,

i tu ważna kwestia.

Produkując te maszyny,

uczymy ich poczucia naszych wartości.

Ufam sztucznej inteligencji
tak samo, jeśli nie bardziej,

jak dobrze przeszkolonemu człowiekowi.

Ale możecie zapytać,

co w przypadku wrogich agentów,

bogatej organizacji pozarządowej?

Nie boję się sztucznej inteligencji
w rękach samotnego wilka.

Oczywiście nie można ochronić się
przed wszystkimi aktami przemocy,

ale taki system

wymaga solidnego i misternego treningu

wykraczającego poza możliwości jednostki.

Poza tym

to trudniejsze niż wpuszczenie
wirusa do Internetu,

gdzie wystarczy wcisnąć guzik
i nagle w różnych częściach świata

wybuchają laptopy.

Te substancje są większe

i na pewno nie umkną uwadze.

Czy obawiam się,
że taka sztuczna inteligencja

może zagrozić całej ludzkości?

Filmy jak "Matrix", "Metropolis",

"Terminator", seriale jak "Westworld",

wszystkie traktują o tym strachu.

W książce "Superinteligencja"
filozof Nick Bostrom

podejmuje ten temat

i zauważa, że superinteligencja
nie tylko może być niebezpieczna,

ale może stanowić egzystencjalne
zagrożenie dla całej ludzkości.

Dr Bostrom twierdzi, że takie systemy

będą miały tak bardzo
niezaspokojony głód informacji,

że nauczą się, jak się uczyć,

a w efekcie odkryją, że ich cele

mogą być sprzeczne z potrzebami ludzi.

Dr Bostrom ma szereg zwolenników.

Popierają go ludzie
jak Elon Musk i Stephen Hawking.

Z całym szacunkiem

dla tych wybitnych umysłów,

uważam, że się mylą.

Argumentacja dra Bostroma
składa się z wielu elementów,

nie mam czasu przybliżyć ich wszystkich,

ale, w skrócie, rozważcie
następującą rzecz.

Superwiedza bardzo
różni się od superdziałania.

HAL zagrażał załodze Discovery,

bo kontrolował cały statek.

Musiałby posiadać superinteligencję.

Musiałby panować nad całym światem.

Coś jak Skynet z filmu "Terminator",

w którym mieliśmy superinteligencję

kontrolującą ludzką wolę

i zarządzającą urządzeniami
w różnych zakątkach świata.

Praktycznie rzecz biorąc,

nie ma na to szans.

Nie budujemy AI kontrolującej pogodę,

sterującej prądami,

albo nami - kapryśnymi,
chaotycznymi ludźmi.

Nawet jakby taka sztuczna
inteligencja istniała,

musiałaby konkurować
z ludzkimi gospodarkami,

a więc rywalizować z nami o zasoby.

Koniec końców,

nie mówcie tego Siri,

zawsze można je wyłączyć.

(Śmiech)

Uczestniczymy w niesamowitej wędrówce,

koewoluując wspólnie z maszynami.

Współcześni ludzie

to nie ludzie, którymi będziemy kiedyś.

Martwienie się rozwojem superinteligencji

niebezpiecznie odwraca uwagę,

bo sam rozwój komputerów

powoduje szereg ludzkich
i społecznych problemów,

które trzeba rozwiązać.

Jak zorganizować społeczeństwo,

kiedy zanika popyt na siłę roboczą?

Jak nieść kaganek oświaty przez świat

i szanować różnice?

Jak wydłużyć i poprawić życie
za sprawą kognitywnej opieki medycznej?

Jak użyć informatyki,

żeby dosięgnąć gwiazd?

To właśnie jest fascynujące.

Możliwości, jakie daje komputer,

żeby polepszyć ludzkie doznania,

są w naszym zasięgu,

tu i teraz,

a to dopiero początek.

Dziękuję bardzo.

(Brawa)