[Script Info]
Title: 
[Events]
Format: Layer, Start, End, Style, Name, MarginL, MarginR, MarginV, Effect, Text
Dialogue: 0,0:00:01.00,0:00:03.22,Default,,0000,0000,0000,,Będę mówić o porażce intuicji,
Dialogue: 0,0:00:03.24,0:00:05.45,Default,,0000,0000,0000,,której tak wielu z nas doznaje.
Dialogue: 0,0:00:05.48,0:00:08.52,Default,,0000,0000,0000,,To niemożność dostrzegania\Npewnego rodzaju niebezpieczeństwa.
Dialogue: 0,0:00:09.36,0:00:11.10,Default,,0000,0000,0000,,Przedstawię scenariusz,
Dialogue: 0,0:00:11.12,0:00:14.38,Default,,0000,0000,0000,,który moim zdaniem jest\Nzarówno przerażający,
Dialogue: 0,0:00:14.40,0:00:16.47,Default,,0000,0000,0000,,jak i prawdopodobny,
Dialogue: 0,0:00:16.84,0:00:18.50,Default,,0000,0000,0000,,a to kiepskie połączenie,
Dialogue: 0,0:00:18.52,0:00:20.06,Default,,0000,0000,0000,,jak się okazuje.
Dialogue: 0,0:00:20.08,0:00:22.54,Default,,0000,0000,0000,,A jednak, zamiast strachu,\Nwiększość z was poczuje,
Dialogue: 0,0:00:22.56,0:00:24.87,Default,,0000,0000,0000,,że to, o czym mowa, jest nawet fajne.
Dialogue: 0,0:00:25.20,0:00:27.91,Default,,0000,0000,0000,,Będę mówić, jak postępy
Dialogue: 0,0:00:27.91,0:00:29.63,Default,,0000,0000,0000,,w tworzeniu sztucznej inteligencji
Dialogue: 0,0:00:29.63,0:00:31.92,Default,,0000,0000,0000,,mogą nas zniszczyć.
Dialogue: 0,0:00:31.92,0:00:34.84,Default,,0000,0000,0000,,Tak naprawdę trudno,\Nżeby nas nie zniszczyły
Dialogue: 0,0:00:34.84,0:00:37.36,Default,,0000,0000,0000,,lub nie zainspirowały do samozniszczenia.
Dialogue: 0,0:00:37.40,0:00:39.26,Default,,0000,0000,0000,,Jeśli, podobnie jak ja,
Dialogue: 0,0:00:39.28,0:00:41.94,Default,,0000,0000,0000,,uważacie, że fajnie jest\Nmyśleć o tych sprawach,
Dialogue: 0,0:00:41.96,0:00:45.34,Default,,0000,0000,0000,,jesteście częścią problemu.
Dialogue: 0,0:00:45.36,0:00:47.85,Default,,0000,0000,0000,,To powinno was martwić.
Dialogue: 0,0:00:47.92,0:00:50.58,Default,,0000,0000,0000,,Gdybym starał się was przekonać,
Dialogue: 0,0:00:50.60,0:00:54.02,Default,,0000,0000,0000,,że czeka nas globalny głód,
Dialogue: 0,0:00:54.04,0:00:57.10,Default,,0000,0000,0000,,wynikający ze zmian klimatycznych \Nlub innej katastrofy,
Dialogue: 0,0:00:57.12,0:01:00.54,Default,,0000,0000,0000,,i że wasze prawnuki, bądź ich prawnuki
Dialogue: 0,0:01:00.56,0:01:03.05,Default,,0000,0000,0000,,mogą tak żyć,
Dialogue: 0,0:01:03.20,0:01:05.16,Default,,0000,0000,0000,,zapewne nie pomyślelibyście:
Dialogue: 0,0:01:05.44,0:01:06.78,Default,,0000,0000,0000,,"Interesujące.
Dialogue: 0,0:01:06.80,0:01:09.06,Default,,0000,0000,0000,,Podoba mi się ta prelekcja".
Dialogue: 0,0:01:09.20,0:01:10.82,Default,,0000,0000,0000,,Głód nie jest zabawny.
Dialogue: 0,0:01:11.80,0:01:15.18,Default,,0000,0000,0000,,Natomiast śmierć spowodowana\Nscience fiction - owszem.
Dialogue: 0,0:01:15.20,0:01:18.92,Default,,0000,0000,0000,,W pracach nad SI\Nnajbardziej martwi mnie to,
Dialogue: 0,0:01:18.92,0:01:22.80,Default,,0000,0000,0000,,że nasza emocjonalna reakcja\Njest nieadekwatna
Dialogue: 0,0:01:22.80,0:01:25.28,Default,,0000,0000,0000,,do niebezpieczeństwa, przed jakim stoimy.
Dialogue: 0,0:01:25.28,0:01:29.28,Default,,0000,0000,0000,,Sam nie potrafię zdobyć się \Nna taką reakcję, a o niej mówię.
Dialogue: 0,0:01:30.12,0:01:32.82,Default,,0000,0000,0000,,To tak, jakbyśmy mieli \Ndo wyboru dwoje drzwi.
Dialogue: 0,0:01:32.84,0:01:34.30,Default,,0000,0000,0000,,Za drzwiami numer jeden
Dialogue: 0,0:01:34.31,0:01:37.42,Default,,0000,0000,0000,,przestajemy pracować nad budową\Ninteligentnych maszyn.
Dialogue: 0,0:01:37.44,0:01:41.46,Default,,0000,0000,0000,,Ulepszanie sprzętu komputerowego\Ni oprogramowania ustaje.
Dialogue: 0,0:01:41.48,0:01:44.48,Default,,0000,0000,0000,,Zastanówmy się, co mogłoby być przyczyną.
Dialogue: 0,0:01:45.08,0:01:48.74,Default,,0000,0000,0000,,Biorąc pod uwagę, jak cenne są\Ninteligencja i automatyka,
Dialogue: 0,0:01:48.76,0:01:52.28,Default,,0000,0000,0000,,będziemy nadal jak się da\Nulepszać technologię.
Dialogue: 0,0:01:53.20,0:01:55.26,Default,,0000,0000,0000,,Co mogłoby nas powstrzymać?
Dialogue: 0,0:01:55.80,0:01:58.32,Default,,0000,0000,0000,,Wojna atomowa na pełną skalę?
Dialogue: 0,0:01:59.00,0:02:00.99,Default,,0000,0000,0000,,Globalna pandemia?
Dialogue: 0,0:02:02.32,0:02:04.17,Default,,0000,0000,0000,,Uderzenie asteroidy?
Dialogue: 0,0:02:05.64,0:02:08.07,Default,,0000,0000,0000,,Justin Bieber jako prezydent USA?
Dialogue: 0,0:02:08.07,0:02:10.86,Default,,0000,0000,0000,,(Śmiech)
Dialogue: 0,0:02:12.76,0:02:16.68,Default,,0000,0000,0000,,Coś musiałoby zniszczyć znaną cywilizację.
Dialogue: 0,0:02:17.36,0:02:21.66,Default,,0000,0000,0000,,Tylko wyjątkowo zła sytuacja
Dialogue: 0,0:02:21.68,0:02:24.90,Default,,0000,0000,0000,,uniemożliwiłaby nam dokonywania\Nulepszeń technologicznych
Dialogue: 0,0:02:24.90,0:02:26.26,Default,,0000,0000,0000,,na stałe,
Dialogue: 0,0:02:26.28,0:02:28.30,Default,,0000,0000,0000,,pokolenie za pokoleniem.
Dialogue: 0,0:02:28.32,0:02:30.29,Default,,0000,0000,0000,,To chyba najgorsza rzecz,
Dialogue: 0,0:02:30.29,0:02:32.58,Default,,0000,0000,0000,,jaka mogłaby przydarzyć się ludzkości.
Dialogue: 0,0:02:32.58,0:02:34.31,Default,,0000,0000,0000,,Jedyną alternatywą jest to,
Dialogue: 0,0:02:34.31,0:02:36.18,Default,,0000,0000,0000,,co kryje się za drzwiami numer dwa:
Dialogue: 0,0:02:36.20,0:02:39.34,Default,,0000,0000,0000,,dalsze udoskonalanie\Ninteligentnych maszyn,
Dialogue: 0,0:02:39.36,0:02:40.96,Default,,0000,0000,0000,,rok po roku.
Dialogue: 0,0:02:41.72,0:02:45.36,Default,,0000,0000,0000,,W pewnym momencie stworzymy\Nmaszyny mądrzejsze od nas,
Dialogue: 0,0:02:46.08,0:02:48.70,Default,,0000,0000,0000,,a takie maszyny
Dialogue: 0,0:02:48.72,0:02:50.70,Default,,0000,0000,0000,,zaczną ulepszać siebie same.
Dialogue: 0,0:02:50.72,0:02:53.46,Default,,0000,0000,0000,,Dojdziemy do tego,\Nco matematyk IJ Good nazywa
Dialogue: 0,0:02:53.48,0:02:55.26,Default,,0000,0000,0000,,"eksplozją inteligencji",
Dialogue: 0,0:02:55.28,0:02:57.71,Default,,0000,0000,0000,,a ten proces może wymknąć spod kontroli.
Dialogue: 0,0:02:58.12,0:03:00.94,Default,,0000,0000,0000,,Często przedstawiają to takie karykatury,
Dialogue: 0,0:03:00.96,0:03:02.02,Default,,0000,0000,0000,,jako obawę
Dialogue: 0,0:03:02.02,0:03:05.54,Default,,0000,0000,0000,,przed atakiem armii złośliwych robotów.
Dialogue: 0,0:03:05.54,0:03:08.18,Default,,0000,0000,0000,,Ale to nie jest najbardziej\Nprawdopodobny scenariusz.
Dialogue: 0,0:03:08.20,0:03:13.06,Default,,0000,0000,0000,,Maszyny nie staną się nagle złośliwe.
Dialogue: 0,0:03:13.08,0:03:15.84,Default,,0000,0000,0000,,Problemem może być raczej to,\Nże będziemy budować maszyny
Dialogue: 0,0:03:15.84,0:03:17.100,Default,,0000,0000,0000,,tak dalece kompetentniejsze od nas,
Dialogue: 0,0:03:17.100,0:03:21.58,Default,,0000,0000,0000,,że najmniejsza rozbieżność\Nmiędzy ich celami i naszymi
Dialogue: 0,0:03:21.60,0:03:23.56,Default,,0000,0000,0000,,może nas zniszczyć.
Dialogue: 0,0:03:23.96,0:03:26.59,Default,,0000,0000,0000,,Weźmy nasz stosunek do mrówek.
Dialogue: 0,0:03:26.59,0:03:28.26,Default,,0000,0000,0000,,Nie nienawidzimy ich.
Dialogue: 0,0:03:28.28,0:03:30.34,Default,,0000,0000,0000,,Nie chcemy im specjalnie zaszkodzić.
Dialogue: 0,0:03:30.36,0:03:32.74,Default,,0000,0000,0000,,Czasami nawet staramy się\Nim nie zaszkodzić.
Dialogue: 0,0:03:32.76,0:03:34.78,Default,,0000,0000,0000,,Omijamy je na chodniku.
Dialogue: 0,0:03:34.80,0:03:36.94,Default,,0000,0000,0000,,Ale gdy ich obecność
Dialogue: 0,0:03:36.96,0:03:39.46,Default,,0000,0000,0000,,poważnie kłóci się z naszym celem,
Dialogue: 0,0:03:39.48,0:03:41.96,Default,,0000,0000,0000,,jak przy budowie budynku,
Dialogue: 0,0:03:41.98,0:03:44.16,Default,,0000,0000,0000,,niszczymy je bez skrupułów.
Dialogue: 0,0:03:44.48,0:03:47.42,Default,,0000,0000,0000,,Istnieje obawa, że kiedyś\Nskonstruujemy maszyny,
Dialogue: 0,0:03:47.44,0:03:50.18,Default,,0000,0000,0000,,świadome, czy też nie,
Dialogue: 0,0:03:50.20,0:03:53.35,Default,,0000,0000,0000,,które potraktują nas\Nz podobnym lekceważeniem.
Dialogue: 0,0:03:53.76,0:03:56.52,Default,,0000,0000,0000,,Pewnie dla wielu z was uzna,\Nże posuwam się za daleko.
Dialogue: 0,0:03:57.36,0:04:03.36,Default,,0000,0000,0000,,Niektórzy pewnie wątpią,\Nże superinteligentna SI jest możliwa,
Dialogue: 0,0:04:03.36,0:04:05.42,Default,,0000,0000,0000,,a co dopiero nieunikniona.
Dialogue: 0,0:04:05.43,0:04:09.02,Default,,0000,0000,0000,,Jednak wtedy musicie znaleźć\Nwady następujących założeń.
Dialogue: 0,0:04:09.04,0:04:10.75,Default,,0000,0000,0000,,Założenia są trzy.
Dialogue: 0,0:04:11.80,0:04:16.52,Default,,0000,0000,0000,,Inteligencja dotyczy przetwarzania\Ninformacji w systemach fizycznych.
Dialogue: 0,0:04:17.32,0:04:19.94,Default,,0000,0000,0000,,Właściwie to więcej niż założenie.
Dialogue: 0,0:04:19.96,0:04:23.42,Default,,0000,0000,0000,,Wbudowaliśmy już pewną SI do maszyn
Dialogue: 0,0:04:23.44,0:04:25.52,Default,,0000,0000,0000,,i wiele z nich działa
Dialogue: 0,0:04:25.53,0:04:28.12,Default,,0000,0000,0000,,na poziomie nadludzkiej inteligencji.
Dialogue: 0,0:04:28.84,0:04:31.07,Default,,0000,0000,0000,,Tylko krok może nas dzielić
Dialogue: 0,0:04:31.07,0:04:34.47,Default,,0000,0000,0000,,od osiągnięcia czegoś, co nazywane\Njest "generalną inteligencją".
Dialogue: 0,0:04:34.47,0:04:37.92,Default,,0000,0000,0000,,To zdolność elastycznego myślenia\Nna przekroju wielu dziedzin,
Dialogue: 0,0:04:37.92,0:04:40.90,Default,,0000,0000,0000,,co potrafi ludzki mózg, prawda?
Dialogue: 0,0:04:40.92,0:04:44.86,Default,,0000,0000,0000,,Tu w środku są głównie atomy
Dialogue: 0,0:04:44.88,0:04:49.38,Default,,0000,0000,0000,,i o ile budujemy z atomów systemy,
Dialogue: 0,0:04:49.40,0:04:52.10,Default,,0000,0000,0000,,wykazujące coraz bardziej\Ninteligentne zachowanie,
Dialogue: 0,0:04:52.12,0:04:54.66,Default,,0000,0000,0000,,to, jeśli nam nic nie przeszkodzi,
Dialogue: 0,0:04:54.68,0:04:58.25,Default,,0000,0000,0000,,w końcu uda nam się\Nstworzyć ogólną inteligencję
Dialogue: 0,0:04:58.25,0:04:59.40,Default,,0000,0000,0000,,w maszynach.
Dialogue: 0,0:04:59.40,0:05:03.06,Default,,0000,0000,0000,,Trzeba sobie uświadomić,\Nże tempo postępu nie ma znaczenia,
Dialogue: 0,0:05:03.08,0:05:06.26,Default,,0000,0000,0000,,bo każde tempo doprowadzi\Ndo strefy końcowej.
Dialogue: 0,0:05:06.28,0:05:10.06,Default,,0000,0000,0000,,Nie potrzeba prawa Moore'a \Nani gwałtownego postępu.
Dialogue: 0,0:05:10.08,0:05:12.23,Default,,0000,0000,0000,,Wystarczy nie przestawać.
Dialogue: 0,0:05:13.48,0:05:16.40,Default,,0000,0000,0000,,To drugie założenie: nie przestaniemy.
Dialogue: 0,0:05:17.00,0:05:20.45,Default,,0000,0000,0000,,Będziemy nadal udoskonalać\Ninteligentne maszyny.
Dialogue: 0,0:05:21.00,0:05:25.38,Default,,0000,0000,0000,,A biorąc pod uwagę wartość inteligencji...
Dialogue: 0,0:05:25.40,0:05:28.94,Default,,0000,0000,0000,,Inteligencja jest albo źródłem\Nwszystkiego, co cenimy,
Dialogue: 0,0:05:28.96,0:05:31.74,Default,,0000,0000,0000,,albo zabezpiecza wszystko, co cenimy.
Dialogue: 0,0:05:31.76,0:05:33.97,Default,,0000,0000,0000,,Jest naszym najcenniejszym zasobem.
Dialogue: 0,0:05:33.97,0:05:35.76,Default,,0000,0000,0000,,Dlatego nie chcemy się jej pozbywać.
Dialogue: 0,0:05:35.77,0:05:38.94,Default,,0000,0000,0000,,Mamy problemy, które rozpaczliwie\Npotrzebują rozwiązania.
Dialogue: 0,0:05:38.96,0:05:42.16,Default,,0000,0000,0000,,Szukamy leków na chorobę\NAlzheimera i raka,
Dialogue: 0,0:05:42.96,0:05:46.90,Default,,0000,0000,0000,,chcemy zrozumieć systemy gospodarcze,\Nwalczyć ze zmianami klimatycznymi.
Dialogue: 0,0:05:46.92,0:05:49.20,Default,,0000,0000,0000,,Zrobimy to, jeśli tylko się da.
Dialogue: 0,0:05:49.21,0:05:52.49,Default,,0000,0000,0000,,Pociąg już odjechał, nie ma odwrotu.
Dialogue: 0,0:05:53.88,0:05:59.34,Default,,0000,0000,0000,,Daleko nam również\Ndo osiągnięcia szczytu inteligencji.
Dialogue: 0,0:05:59.36,0:06:01.64,Default,,0000,0000,0000,,Nawet się do tego nie zbliżamy.
Dialogue: 0,0:06:01.64,0:06:03.58,Default,,0000,0000,0000,,To naprawdę bardzo istotne.
Dialogue: 0,0:06:03.58,0:06:05.98,Default,,0000,0000,0000,,Właśnie dlatego\Nsytuacja jest tak niepewna,
Dialogue: 0,0:06:06.00,0:06:10.04,Default,,0000,0000,0000,,a przeczucia co do ryzyka tak zawodne.
Dialogue: 0,0:06:11.12,0:06:14.54,Default,,0000,0000,0000,,Kto był najmądrzejszym\Nczłowiekiem w historii?
Dialogue: 0,0:06:14.64,0:06:18.06,Default,,0000,0000,0000,,Prawie każdy zapewne pomyślał\No Johnie von Neumannie.
Dialogue: 0,0:06:18.08,0:06:21.42,Default,,0000,0000,0000,,Neumann za takiego uchodził
Dialogue: 0,0:06:21.44,0:06:25.50,Default,,0000,0000,0000,,nawet wśród największych\Nmatematyków i fizyków swoich czasów,
Dialogue: 0,0:06:25.52,0:06:27.46,Default,,0000,0000,0000,,to dość dobrze udokumentowane.
Dialogue: 0,0:06:27.48,0:06:30.80,Default,,0000,0000,0000,,Nawet jeśli tylko połowa opowieści\No nim jest w połowie prawdą,
Dialogue: 0,0:06:30.80,0:06:32.86,Default,,0000,0000,0000,,nie ma wątpliwości, że był jednym
Dialogue: 0,0:06:32.86,0:06:35.34,Default,,0000,0000,0000,,z najmądrzejszych ludzi w historii.
Dialogue: 0,0:06:35.35,0:06:38.11,Default,,0000,0000,0000,,Zastanówmy się nad spektrum inteligencji.
Dialogue: 0,0:06:38.32,0:06:40.47,Default,,0000,0000,0000,,Tutaj mamy Johna von Neumanna.
Dialogue: 0,0:06:41.56,0:06:43.34,Default,,0000,0000,0000,,Tutaj nas.
Dialogue: 0,0:06:44.12,0:06:45.42,Default,,0000,0000,0000,,A tu mamy kurczaka.
Dialogue: 0,0:06:45.44,0:06:46.93,Default,,0000,0000,0000,,(Śmiech)
Dialogue: 0,0:06:46.93,0:06:48.62,Default,,0000,0000,0000,,Przepraszam, kurczak jest tutaj.
Dialogue: 0,0:06:48.64,0:06:49.90,Default,,0000,0000,0000,,(Śmiech)
Dialogue: 0,0:06:49.92,0:06:53.68,Default,,0000,0000,0000,,Nie ma co przygnębiać\Ntą prelekcją bez potrzeby.
Dialogue: 0,0:06:53.68,0:06:55.66,Default,,0000,0000,0000,,(Śmiech)
Dialogue: 0,0:06:56.34,0:06:59.82,Default,,0000,0000,0000,,Wydaje się jednak prawdopodobne,\Nże spektrum inteligencji
Dialogue: 0,0:06:59.84,0:07:02.96,Default,,0000,0000,0000,,rozciąga się znacznie dalej,\Nniż można to sobie wyobrazić.
Dialogue: 0,0:07:03.88,0:07:07.10,Default,,0000,0000,0000,,A jeśli tworzymy maszyny\Ninteligentniejsze od nas,
Dialogue: 0,0:07:07.12,0:07:08.47,Default,,0000,0000,0000,,pewnie będą chciały
Dialogue: 0,0:07:08.47,0:07:11.60,Default,,0000,0000,0000,,to spektrum poznać na sposoby,\Njakich nie możemy sobie wyobrazić,
Dialogue: 0,0:07:11.61,0:07:14.90,Default,,0000,0000,0000,,i przewyższyć nas na sposoby,\Njakich nie możemy sobie wyobrazić.
Dialogue: 0,0:07:15.00,0:07:16.27,Default,,0000,0000,0000,,Trzeba zdać sobie sprawę,
Dialogue: 0,0:07:16.27,0:07:19.36,Default,,0000,0000,0000,,że prawda tego faktu wynika\Nz samej prędkości postępu.
Dialogue: 0,0:07:19.36,0:07:24.42,Default,,0000,0000,0000,,Powiedzmy, że skonstruowano\Nsuperinteligentną SI,
Dialogue: 0,0:07:24.44,0:07:27.90,Default,,0000,0000,0000,,która nie jest bystrzejsza\Nod przeciętnego zespołu naukowców
Dialogue: 0,0:07:27.92,0:07:30.22,Default,,0000,0000,0000,,na Stanford czy MIT.
Dialogue: 0,0:07:30.24,0:07:33.22,Default,,0000,0000,0000,,Obwody elektroniczne funkcjonują\Nokoło miliona razy szybciej
Dialogue: 0,0:07:33.24,0:07:34.50,Default,,0000,0000,0000,,niż biochemiczne,
Dialogue: 0,0:07:34.52,0:07:37.66,Default,,0000,0000,0000,,zatem maszyna powinna myśleć\Nmilion razy szybciej
Dialogue: 0,0:07:37.68,0:07:39.36,Default,,0000,0000,0000,,niż umysły, które je zbudowały.
Dialogue: 0,0:07:39.36,0:07:42.68,Default,,0000,0000,0000,,Po tygodniu pracy\Nosiągnie intelektualnie to,
Dialogue: 0,0:07:42.68,0:07:45.76,Default,,0000,0000,0000,,nad czym ludzkość pracowała 20 000 lat,
Dialogue: 0,0:07:46.40,0:07:49.08,Default,,0000,0000,0000,,i tak tydzień za tygodniem.
Dialogue: 0,0:07:49.64,0:07:52.74,Default,,0000,0000,0000,,Jak można pojąć,\Na tym bardziej ograniczyć,
Dialogue: 0,0:07:52.76,0:07:55.42,Default,,0000,0000,0000,,umysł robiący tego rodzaju postępy?
Dialogue: 0,0:07:56.84,0:07:58.98,Default,,0000,0000,0000,,Inna niepokojąca sprawa.
Dialogue: 0,0:07:59.00,0:08:04.12,Default,,0000,0000,0000,,Wyobraźmy sobie najlepszy\Nmożliwy scenariusz.
Dialogue: 0,0:08:04.12,0:08:07.50,Default,,0000,0000,0000,,Zaprojektowano superinteligentną SI,
Dialogue: 0,0:08:07.50,0:08:10.14,Default,,0000,0000,0000,,która nie budzi obaw\Njeśli chodzi o bezpieczeństwo.
Dialogue: 0,0:08:10.14,0:08:12.86,Default,,0000,0000,0000,,Projekt jest idealny.
Dialogue: 0,0:08:12.88,0:08:15.10,Default,,0000,0000,0000,,Prawie jak wyrocznia
Dialogue: 0,0:08:15.12,0:08:17.14,Default,,0000,0000,0000,,spełniająca wszystkie oczekiwania.
Dialogue: 0,0:08:17.16,0:08:21.21,Default,,0000,0000,0000,,Idealne rozwiązanie\Ndla oszczędności pracy.
Dialogue: 0,0:08:21.68,0:08:24.11,Default,,0000,0000,0000,,Może zaprojektować i zbudować urządzenie
Dialogue: 0,0:08:24.13,0:08:25.90,Default,,0000,0000,0000,,do wykonania każdej fizycznej pracy,
Dialogue: 0,0:08:25.92,0:08:27.72,Default,,0000,0000,0000,,zasilane przez światło słoneczne,
Dialogue: 0,0:08:27.73,0:08:30.10,Default,,0000,0000,0000,,po kosztach surowców.
Dialogue: 0,0:08:30.12,0:08:33.38,Default,,0000,0000,0000,,Mowa zatem o końcu ludzkiego znoju,
Dialogue: 0,0:08:33.40,0:08:36.57,Default,,0000,0000,0000,,ale też o końcu większości\Nprac intelektualnych.
Dialogue: 0,0:08:37.20,0:08:40.26,Default,,0000,0000,0000,,Co zatem pozostaje\Ndla człekokształtnych jak my?
Dialogue: 0,0:08:40.28,0:08:44.36,Default,,0000,0000,0000,,Będziemy mieć pewnie dużo czasu\Nna grę w frisbee i masaże.
Dialogue: 0,0:08:45.84,0:08:48.70,Default,,0000,0000,0000,,Dodać trochę LSD i kiepskie ciuchy
Dialogue: 0,0:08:48.72,0:08:50.90,Default,,0000,0000,0000,,i cały świat będzie jak zlot hipisów.
Dialogue: 0,0:08:50.92,0:08:53.10,Default,,0000,0000,0000,,(Śmiech)
Dialogue: 0,0:08:54.32,0:08:57.11,Default,,0000,0000,0000,,To może brzmieć zachęcająco,
Dialogue: 0,0:08:57.28,0:08:59.66,Default,,0000,0000,0000,,ale co się stanie
Dialogue: 0,0:08:59.68,0:09:02.42,Default,,0000,0000,0000,,w obecnym porządku\Nekonomicznym i politycznym?
Dialogue: 0,0:09:02.44,0:09:04.86,Default,,0000,0000,0000,,Prawdopodobnie doświadczymy
Dialogue: 0,0:09:04.88,0:09:09.02,Default,,0000,0000,0000,,nierówności majątkowych i bezrobocia,
Dialogue: 0,0:09:09.04,0:09:10.72,Default,,0000,0000,0000,,na niespotykanym poziomie.
Dialogue: 0,0:09:10.73,0:09:13.40,Default,,0000,0000,0000,,Jeśli zabraknie woli oddania\Nnowo zdobytego bogactwa
Dialogue: 0,0:09:13.41,0:09:15.63,Default,,0000,0000,0000,,na użytek całej ludzkości,
Dialogue: 0,0:09:15.64,0:09:19.26,Default,,0000,0000,0000,,kilku miliarderów będzie zdobić\Nokładki magazynów,
Dialogue: 0,0:09:19.28,0:09:22.32,Default,,0000,0000,0000,,rzucając resztę świata na pastwę losu.
Dialogue: 0,0:09:22.32,0:09:24.62,Default,,0000,0000,0000,,Co zrobiliby Rosjanie czy Chińczycy
Dialogue: 0,0:09:24.64,0:09:27.38,Default,,0000,0000,0000,,na wieść, że firma w Dolinie Krzemowej
Dialogue: 0,0:09:27.39,0:09:30.02,Default,,0000,0000,0000,,stworzyła superinteligentną SI?
Dialogue: 0,0:09:30.04,0:09:32.90,Default,,0000,0000,0000,,Ta maszyna umiałaby przecież \Nprowadzić wojny,
Dialogue: 0,0:09:32.92,0:09:35.14,Default,,0000,0000,0000,,tak naziemną jak i cybernetyczną,
Dialogue: 0,0:09:35.16,0:09:37.51,Default,,0000,0000,0000,,z niespotykaną dotąd mocą.
Dialogue: 0,0:09:37.91,0:09:40.22,Default,,0000,0000,0000,,To scenariusz typu\N"zwycięzca bierze wszystko".
Dialogue: 0,0:09:40.22,0:09:43.22,Default,,0000,0000,0000,,6-miesięczna przewaga\Nnad konkurencją w tej dziedzinie
Dialogue: 0,0:09:43.23,0:09:45.94,Default,,0000,0000,0000,,równa się przewadze 500 000 lat,
Dialogue: 0,0:09:45.96,0:09:47.46,Default,,0000,0000,0000,,minimum.
Dialogue: 0,0:09:47.48,0:09:52.22,Default,,0000,0000,0000,,Nawet zwykłe pogłoski\No tego rodzaju przełomie
Dialogue: 0,0:09:52.24,0:09:54.62,Default,,0000,0000,0000,,mogą spowodować panikę.
Dialogue: 0,0:09:54.64,0:09:59.62,Default,,0000,0000,0000,,Najbardziej przeraża mnie teraz
Dialogue: 0,0:10:00.36,0:10:04.66,Default,,0000,0000,0000,,sposób, w jaki naukowcy SI
Dialogue: 0,0:10:04.68,0:10:06.86,Default,,0000,0000,0000,,starają się nas uspakajać.
Dialogue: 0,0:10:07.00,0:10:10.46,Default,,0000,0000,0000,,Najczęstszym argumentem\Nza odrzuceniem obaw jest czas.
Dialogue: 0,0:10:10.48,0:10:12.58,Default,,0000,0000,0000,,Że to wszystko bardzo odległe,
Dialogue: 0,0:10:12.58,0:10:15.32,Default,,0000,0000,0000,,że to kwestia 50 lub 100 lat.
Dialogue: 0,0:10:15.72,0:10:17.00,Default,,0000,0000,0000,,Jeden naukowiec powiedział,
Dialogue: 0,0:10:17.01,0:10:18.58,Default,,0000,0000,0000,,"Martwić się o bezpieczeństwo SI,
Dialogue: 0,0:10:18.60,0:10:21.81,Default,,0000,0000,0000,,to jak martwić się\No przeludnienie na Marsie ".
Dialogue: 0,0:10:21.86,0:10:23.84,Default,,0000,0000,0000,,To w Dolinie Krzemowej odpowiednik
Dialogue: 0,0:10:23.84,0:10:26.14,Default,,0000,0000,0000,,"Nie zaprzątaj tym\Nswojej ślicznej główki".
Dialogue: 0,0:10:26.16,0:10:27.50,Default,,0000,0000,0000,,(Śmiech)
Dialogue: 0,0:10:27.52,0:10:29.42,Default,,0000,0000,0000,,Nikt nie zdaje się zauważać,
Dialogue: 0,0:10:29.44,0:10:32.06,Default,,0000,0000,0000,,że odwoływanie się do horyzontu czasowego
Dialogue: 0,0:10:32.08,0:10:34.66,Default,,0000,0000,0000,,nie ma żadnego znaczenia.
Dialogue: 0,0:10:34.68,0:10:37.94,Default,,0000,0000,0000,,Jeśli inteligencja jest tylko\Nkwestią przetwarzania informacji,
Dialogue: 0,0:10:37.96,0:10:40.62,Default,,0000,0000,0000,,a my nadal będziemy udoskonalać maszyny,
Dialogue: 0,0:10:40.64,0:10:44.03,Default,,0000,0000,0000,,w końcu stworzymy jakąś\Nformę superinteligencji.
Dialogue: 0,0:10:44.32,0:10:49.05,Default,,0000,0000,0000,,Nie wiadomo,\Nile zajmie stworzenie warunków,
Dialogue: 0,0:10:49.05,0:10:51.07,Default,,0000,0000,0000,,aby to zrobić bezpiecznie.
Dialogue: 0,0:10:52.20,0:10:53.54,Default,,0000,0000,0000,,Pozwólcie, że powtórzę.
Dialogue: 0,0:10:53.54,0:10:57.34,Default,,0000,0000,0000,,Nie wiadomo, jak długo potrwa
Dialogue: 0,0:10:57.36,0:11:00.64,Default,,0000,0000,0000,,stworzenie warunków,\Naby to zrobić bezpiecznie.
Dialogue: 0,0:11:00.92,0:11:04.38,Default,,0000,0000,0000,,Trudno nie zauważyć, że 50 lat\Nma już inną miarę.
Dialogue: 0,0:11:04.40,0:11:06.86,Default,,0000,0000,0000,,Oto 50 lat w miesiącach.
Dialogue: 0,0:11:06.88,0:11:09.11,Default,,0000,0000,0000,,Oto, jak długo mamy iPhone.
Dialogue: 0,0:11:09.44,0:11:12.04,Default,,0000,0000,0000,,Oto, jak długo "Simpsonowie"\Nlecą w telewizji.
Dialogue: 0,0:11:12.68,0:11:15.24,Default,,0000,0000,0000,,Pięćdziesiąt lat to niewiele,
Dialogue: 0,0:11:15.24,0:11:19.26,Default,,0000,0000,0000,,by stawić czoła największemu wyzwaniu,\Njakie czeka nasz gatunek.
Dialogue: 0,0:11:19.64,0:11:23.66,Default,,0000,0000,0000,,A my nie umiemy nawet\Nwłaściwie zareagować na coś,
Dialogue: 0,0:11:23.68,0:11:26.38,Default,,0000,0000,0000,,co niemal na pewno nadchodzi.
Dialogue: 0,0:11:26.40,0:11:30.38,Default,,0000,0000,0000,,Informatyk Stuart Russell pięknie to ujął:
Dialogue: 0,0:11:30.40,0:11:35.30,Default,,0000,0000,0000,,"Wyobraźmy sobie\Nwiadomość od obcej cywilizacji,
Dialogue: 0,0:11:35.32,0:11:37.02,Default,,0000,0000,0000,,która brzmi:
Dialogue: 0,0:11:37.04,0:11:38.58,Default,,0000,0000,0000,,"Ziemianie,
Dialogue: 0,0:11:38.60,0:11:41.67,Default,,0000,0000,0000,,dolecimy do waszej planety w ciągu 50 lat.
Dialogue: 0,0:11:41.67,0:11:43.38,Default,,0000,0000,0000,,Przygotujcie się".
Dialogue: 0,0:11:43.40,0:11:47.66,Default,,0000,0000,0000,,Pewnie zaczęlibyśmy\Nodliczanie do ich przyjazdu,
Dialogue: 0,0:11:47.68,0:11:51.85,Default,,0000,0000,0000,,sprawa byłaby pilna.
Dialogue: 0,0:11:52.44,0:11:54.54,Default,,0000,0000,0000,,Mówią nam, żeby się nie martwić,
Dialogue: 0,0:11:54.56,0:11:57.58,Default,,0000,0000,0000,,bo maszyny na pewno będą\Npodzielać nasze wartości,
Dialogue: 0,0:11:57.60,0:12:00.22,Default,,0000,0000,0000,,ponieważ będą dosłownie\Nprzedłużeniem nas samych.
Dialogue: 0,0:12:00.24,0:12:02.06,Default,,0000,0000,0000,,Wszczepi się nam je do mózgów,
Dialogue: 0,0:12:02.08,0:12:04.93,Default,,0000,0000,0000,,a my będziemy ich układem limbicznym.
Dialogue: 0,0:12:05.12,0:12:06.56,Default,,0000,0000,0000,,Weźmy pod uwagę,
Dialogue: 0,0:12:06.57,0:12:10.60,Default,,0000,0000,0000,,że najbezpieczniejsze\Ni najrozsądniejsze zalecenie
Dialogue: 0,0:12:11.12,0:12:14.47,Default,,0000,0000,0000,,to wszczepić tę technologię\Nbezpośrednio do mózgu.
Dialogue: 0,0:12:14.60,0:12:17.98,Default,,0000,0000,0000,,Może to rzeczywiście najbezpieczniejszy\Ni najrozsądniejszy sposób,
Dialogue: 0,0:12:18.00,0:12:21.06,Default,,0000,0000,0000,,ale zazwyczaj względy bezpieczeństwa\Ndotyczące technologii
Dialogue: 0,0:12:21.08,0:12:24.74,Default,,0000,0000,0000,,należy wypracować\Nprzed umieszczeniem jej w głowie.
Dialogue: 0,0:12:24.76,0:12:26.78,Default,,0000,0000,0000,,(Śmiech)
Dialogue: 0,0:12:26.80,0:12:32.14,Default,,0000,0000,0000,,Większym problemem jest to że, budowa\Nsamodzielnej superinteligentnej SI
Dialogue: 0,0:12:32.16,0:12:33.92,Default,,0000,0000,0000,,wydaje się łatwiejsza
Dialogue: 0,0:12:33.93,0:12:35.74,Default,,0000,0000,0000,,niż budowa superinteligentnej SI
Dialogue: 0,0:12:35.74,0:12:37.90,Default,,0000,0000,0000,,i skompletowanie\Nbadań neurobiologicznych
Dialogue: 0,0:12:37.90,0:12:41.18,Default,,0000,0000,0000,,pozwalających na bezproblemowe\Nsprzężenie jej z umysłem.
Dialogue: 0,0:12:41.18,0:12:44.19,Default,,0000,0000,0000,,Zaangażowane przedsiębiorstwa i rządy
Dialogue: 0,0:12:44.19,0:12:47.66,Default,,0000,0000,0000,,uważają to za rywalizację,
Dialogue: 0,0:12:47.68,0:12:50.50,Default,,0000,0000,0000,,gdzie wygrany zyskuje cały świat,
Dialogue: 0,0:12:50.50,0:12:53.50,Default,,0000,0000,0000,,pod warunkiem, że nie zniszczy\Nwszystkiego w ostatniej chwili,
Dialogue: 0,0:12:53.51,0:12:56.06,Default,,0000,0000,0000,,więc nie trudno zgadnąć,\Nże to, co łatwiej osiągnąć,
Dialogue: 0,0:12:56.08,0:12:58.56,Default,,0000,0000,0000,,zostanie zrobione w pierwszej kolejności.
Dialogue: 0,0:12:58.56,0:13:01.42,Default,,0000,0000,0000,,Niestety, nie mam \Nrozwiązania tego problemu.
Dialogue: 0,0:13:01.44,0:13:04.06,Default,,0000,0000,0000,,Zalecałbym jednak zacząć się\Nnad tym zastanawiać.
Dialogue: 0,0:13:04.08,0:13:06.46,Default,,0000,0000,0000,,Potrzeba nam czegoś w rodzaju\NProjektu Manhattan
Dialogue: 0,0:13:06.48,0:13:08.50,Default,,0000,0000,0000,,odnośnie sztucznej inteligencji.
Dialogue: 0,0:13:08.52,0:13:10.98,Default,,0000,0000,0000,,Nie chodzi o zbudowanie jej,\Nbo to jest nieuchronne,
Dialogue: 0,0:13:10.98,0:13:15.14,Default,,0000,0000,0000,,ale by zrozumieć,\Njak uniknąć wyścigu zbrojeń
Dialogue: 0,0:13:15.14,0:13:18.14,Default,,0000,0000,0000,,i zbudować ją w sposób\Nzgodny z naszym interesem.
Dialogue: 0,0:13:18.16,0:13:20.34,Default,,0000,0000,0000,,Kiedy mowa o superinteligentnej SI,
Dialogue: 0,0:13:20.35,0:13:22.58,Default,,0000,0000,0000,,która sama może się udoskonalać,
Dialogue: 0,0:13:22.60,0:13:27.22,Default,,0000,0000,0000,,mamy tylko jedną szansę na stworzenie\Nodpowiednich warunków początkowych
Dialogue: 0,0:13:27.24,0:13:29.45,Default,,0000,0000,0000,,i nawet wtedy będziemy musieli liczyć się
Dialogue: 0,0:13:29.45,0:13:33.22,Default,,0000,0000,0000,,z konsekwencjami ekonomicznymi\Ni politycznymi tworzenia tych warunków.
Dialogue: 0,0:13:33.76,0:13:35.82,Default,,0000,0000,0000,,Ale w momencie, gdy przyznamy
Dialogue: 0,0:13:35.84,0:13:40.32,Default,,0000,0000,0000,,że przetwarzanie informacji\Njest źródłem inteligencji,
Dialogue: 0,0:13:40.72,0:13:46.15,Default,,0000,0000,0000,,że odpowiedni system obliczeniowy\Njest podstawą inteligencji
Dialogue: 0,0:13:46.36,0:13:50.88,Default,,0000,0000,0000,,i przyznamy, że chcemy\Nte systemy ciągle udoskonalać,
Dialogue: 0,0:13:51.28,0:13:55.74,Default,,0000,0000,0000,,przyznamy też, że horyzont poznania\Nprawdopodobnie znacznie przekracza
Dialogue: 0,0:13:55.76,0:13:57.63,Default,,0000,0000,0000,,naszą obecną wiedzę,
Dialogue: 0,0:13:57.92,0:13:59.43,Default,,0000,0000,0000,,będziemy musieli przyznać,
Dialogue: 0,0:13:59.43,0:14:02.89,Default,,0000,0000,0000,,że będzie to proces tworzenia\Npewnego rodzaju boga.
Dialogue: 0,0:14:03.40,0:14:04.98,Default,,0000,0000,0000,,Teraz jest odpowiedni czas,
Dialogue: 0,0:14:05.00,0:14:08.10,Default,,0000,0000,0000,,by upewnić się, że będzie to bóg,\Nz którym da się żyć.
Dialogue: 0,0:14:08.12,0:14:09.48,Default,,0000,0000,0000,,Dziękuję bardzo.
Dialogue: 0,0:14:09.48,0:14:14.77,Default,,0000,0000,0000,,(Brawa)