[Script Info]
Title: 
[Events]
Format: Layer, Start, End, Style, Name, MarginL, MarginR, MarginV, Effect, Text
Dialogue: 0,0:00:01.00,0:00:03.22,Default,,0000,0000,0000,,Ik kom praten over een gebrek aan intuïtie
Dialogue: 0,0:00:03.24,0:00:04.84,Default,,0000,0000,0000,,waar velen van ons aan lijden.
Dialogue: 0,0:00:05.18,0:00:08.52,Default,,0000,0000,0000,,Het is eigenlijk een gebrek om \Neen bepaald soort gevaar aan te voelen.
Dialogue: 0,0:00:09.36,0:00:11.10,Default,,0000,0000,0000,,Ik ga een scenario beschrijven
Dialogue: 0,0:00:11.12,0:00:14.38,Default,,0000,0000,0000,,dat volgens mij zowel angstaanjagend
Dialogue: 0,0:00:14.40,0:00:16.16,Default,,0000,0000,0000,,als waarschijnlijk is,
Dialogue: 0,0:00:16.84,0:00:18.50,Default,,0000,0000,0000,,en dat is geen goede combinatie,
Dialogue: 0,0:00:18.52,0:00:20.06,Default,,0000,0000,0000,,zoals zal blijken.
Dialogue: 0,0:00:20.08,0:00:21.67,Default,,0000,0000,0000,,Toch, in plaats van bang te zijn,
Dialogue: 0,0:00:21.67,0:00:24.80,Default,,0000,0000,0000,,vinden de meesten van jullie\Ndat eerder cool.
Dialogue: 0,0:00:25.27,0:00:28.38,Default,,0000,0000,0000,,Ik ga uitleggen waarom \Nde vooruitgang die we boeken
Dialogue: 0,0:00:28.38,0:00:29.98,Default,,0000,0000,0000,,in artificiële intelligentie, AI,
Dialogue: 0,0:00:29.98,0:00:31.92,Default,,0000,0000,0000,,ons uiteindelijk zou kunnen vernietigen.
Dialogue: 0,0:00:31.92,0:00:35.14,Default,,0000,0000,0000,,Ik vind het erg moeilijk \Nom te zien hoe AI ons niet zal vernietigen
Dialogue: 0,0:00:35.14,0:00:37.56,Default,,0000,0000,0000,,of ons inspireren \Nom onszelf te vernietigen.
Dialogue: 0,0:00:37.56,0:00:39.25,Default,,0000,0000,0000,,Als je een beetje als ik bent,
Dialogue: 0,0:00:39.25,0:00:41.94,Default,,0000,0000,0000,,vind je het toch leuk\Nom over deze dingen na te denken.
Dialogue: 0,0:00:41.96,0:00:45.34,Default,,0000,0000,0000,,Dat antwoord is een deel van het probleem.
Dialogue: 0,0:00:45.36,0:00:47.75,Default,,0000,0000,0000,,Dat antwoord zou je moeten verontrusten.
Dialogue: 0,0:00:47.92,0:00:50.58,Default,,0000,0000,0000,,Als ik er jullie in deze talk \Nvan zou overtuigen
Dialogue: 0,0:00:50.60,0:00:54.02,Default,,0000,0000,0000,,dat we wellicht op een wereldwijde \Nhongersnood afstevenen,
Dialogue: 0,0:00:54.04,0:00:57.10,Default,,0000,0000,0000,,door klimaatverandering \Nof een andere ramp,
Dialogue: 0,0:00:57.12,0:01:00.54,Default,,0000,0000,0000,,en dat jullie kleinkinderen\Nof hun kleinkinderen,
Dialogue: 0,0:01:00.56,0:01:02.86,Default,,0000,0000,0000,,zeer waarschijnlijk \Nzo'n leven zouden leiden,
Dialogue: 0,0:01:03.20,0:01:04.40,Default,,0000,0000,0000,,zou je niet denken,
Dialogue: 0,0:01:05.44,0:01:06.78,Default,,0000,0000,0000,,"Interessant.
Dialogue: 0,0:01:06.80,0:01:08.00,Default,,0000,0000,0000,,Leuke TED Talk."
Dialogue: 0,0:01:09.20,0:01:10.72,Default,,0000,0000,0000,,Hongersnood is niet leuk.
Dialogue: 0,0:01:11.80,0:01:14.80,Default,,0000,0000,0000,,Daarentegen is doodgaan \Ndoor sciencefiction wel leuk.
Dialogue: 0,0:01:15.06,0:01:17.34,Default,,0000,0000,0000,,Eén van de dingen \Ndie me het meest zorgen baren
Dialogue: 0,0:01:17.34,0:01:19.03,Default,,0000,0000,0000,,over de huidige ontwikkeling van AI
Dialogue: 0,0:01:19.03,0:01:23.30,Default,,0000,0000,0000,,is dat we niet in staat lijken om \Nde juiste emotionele reactie op te wekken
Dialogue: 0,0:01:23.32,0:01:25.14,Default,,0000,0000,0000,,op de gevaren die op ons afkomen.
Dialogue: 0,0:01:25.16,0:01:28.36,Default,,0000,0000,0000,,Ik voel deze reactie ook niet, \Nen ik geef nog wel deze talk.
Dialogue: 0,0:01:30.12,0:01:32.82,Default,,0000,0000,0000,,Het is alsof we voor twee deuren staan.
Dialogue: 0,0:01:32.84,0:01:33.96,Default,,0000,0000,0000,,Achter deur nummer één
Dialogue: 0,0:01:33.96,0:01:36.92,Default,,0000,0000,0000,,houden we op met het maken \Nvan steeds intelligentere machines.
Dialogue: 0,0:01:37.19,0:01:38.90,Default,,0000,0000,0000,,Onze computerhardware en -software
Dialogue: 0,0:01:38.90,0:01:41.67,Default,,0000,0000,0000,,stopt gewoon met beter worden,\Nom wat voor reden dan ook.
Dialogue: 0,0:01:41.67,0:01:44.48,Default,,0000,0000,0000,,Denk er even over na \Nwaarom dit zou kunnen gebeuren.
Dialogue: 0,0:01:45.08,0:01:48.74,Default,,0000,0000,0000,,Omdat intelligentie en automatisering \Nzo waardevol zijn,
Dialogue: 0,0:01:48.76,0:01:52.82,Default,,0000,0000,0000,,zullen we doorgaan met onze technologie \Nte verbeteren als we enigszins kunnen.
Dialogue: 0,0:01:53.20,0:01:54.87,Default,,0000,0000,0000,,Wat kan ons tegenhouden?
Dialogue: 0,0:01:55.80,0:01:57.60,Default,,0000,0000,0000,,Een mondiale nucleaire oorlog?
Dialogue: 0,0:01:59.00,0:02:00.56,Default,,0000,0000,0000,,Een wereldwijde pandemie?
Dialogue: 0,0:02:02.32,0:02:03.64,Default,,0000,0000,0000,,Een asteroïde-inslag?
Dialogue: 0,0:02:05.64,0:02:07.95,Default,,0000,0000,0000,,Justin Bieber president \Nvan de Verenigde Staten?
Dialogue: 0,0:02:07.95,0:02:10.52,Default,,0000,0000,0000,,(Gelach)
Dialogue: 0,0:02:12.76,0:02:16.68,Default,,0000,0000,0000,,Het gaat om iets dat onze huidige \Nbeschaving zou moeten vernietigen.
Dialogue: 0,0:02:17.36,0:02:21.66,Default,,0000,0000,0000,,Je moet je voorstellen \Nhoe erg het zou moeten zijn
Dialogue: 0,0:02:21.68,0:02:25.02,Default,,0000,0000,0000,,om ons tegen te houden\Nonze technologie te verbeteren,
Dialogue: 0,0:02:25.04,0:02:26.26,Default,,0000,0000,0000,,blijvend,
Dialogue: 0,0:02:26.28,0:02:28.30,Default,,0000,0000,0000,,generatie na generatie.
Dialogue: 0,0:02:28.32,0:02:30.14,Default,,0000,0000,0000,,Bijna per definitie is dit het ergste
Dialogue: 0,0:02:30.14,0:02:32.67,Default,,0000,0000,0000,,dat ooit gebeurd is\Nin de menselijke geschiedenis.
Dialogue: 0,0:02:32.67,0:02:33.82,Default,,0000,0000,0000,,Het enige alternatief
Dialogue: 0,0:02:33.84,0:02:36.18,Default,,0000,0000,0000,,is wat er achter deur nummer twee ligt,
Dialogue: 0,0:02:36.20,0:02:39.34,Default,,0000,0000,0000,,namelijk dat we doorgaan \Nmet onze intelligente machines
Dialogue: 0,0:02:39.36,0:02:41.20,Default,,0000,0000,0000,,jaar na jaar na jaar te verbeteren.
Dialogue: 0,0:02:41.72,0:02:45.36,Default,,0000,0000,0000,,Op een bepaald moment zullen we \Nmachines bouwen die slimmer zijn dan wij,
Dialogue: 0,0:02:46.08,0:02:48.60,Default,,0000,0000,0000,,en zodra we machines \Nhebben die slimmer zijn dan wij,
Dialogue: 0,0:02:48.60,0:02:50.70,Default,,0000,0000,0000,,gaan ze zichzelf verder verbeteren.
Dialogue: 0,0:02:50.72,0:02:53.46,Default,,0000,0000,0000,,Dan lopen we het risico \Nop wat de wiskundige IJ Good
Dialogue: 0,0:02:53.48,0:02:55.26,Default,,0000,0000,0000,,een 'intelligentie-explosie' noemde:
Dialogue: 0,0:02:55.28,0:02:57.50,Default,,0000,0000,0000,,dat het proces niet meer \Nte beheersen valt.
Dialogue: 0,0:02:58.12,0:03:00.94,Default,,0000,0000,0000,,Daarvan werd vaak, zoals hier, \Neen karikatuur gemaakt:
Dialogue: 0,0:03:00.96,0:03:04.18,Default,,0000,0000,0000,,de angst dat legers \Nvan kwaadaardige robots
Dialogue: 0,0:03:04.20,0:03:05.46,Default,,0000,0000,0000,,ons zouden aanvallen.
Dialogue: 0,0:03:05.48,0:03:08.18,Default,,0000,0000,0000,,Maar dat is niet \Nhet meest waarschijnlijke scenario.
Dialogue: 0,0:03:08.20,0:03:13.06,Default,,0000,0000,0000,,Het is niet zo dat onze machines \Nspontaan boosaardig zullen worden.
Dialogue: 0,0:03:13.08,0:03:15.70,Default,,0000,0000,0000,,Het probleem is eigenlijk \Ndat we machines gaan bouwen
Dialogue: 0,0:03:15.72,0:03:17.78,Default,,0000,0000,0000,,die zo veel competenter zijn dan wij
Dialogue: 0,0:03:17.80,0:03:21.58,Default,,0000,0000,0000,,dat het geringste verschil \Ntussen hun doelen en de onze
Dialogue: 0,0:03:21.60,0:03:22.80,Default,,0000,0000,0000,,ons einde kan betekenen.
Dialogue: 0,0:03:23.96,0:03:26.34,Default,,0000,0000,0000,,Denk maar aan hoe we \Nons verhouden tot mieren.
Dialogue: 0,0:03:26.60,0:03:28.26,Default,,0000,0000,0000,,We haten ze niet.
Dialogue: 0,0:03:28.28,0:03:30.34,Default,,0000,0000,0000,,We zijn er niet op uit \Nom ze kwaad te doen.
Dialogue: 0,0:03:30.36,0:03:32.97,Default,,0000,0000,0000,,We nemen soms zelfs de moeite \Nom ze niet te schaden.
Dialogue: 0,0:03:32.97,0:03:34.78,Default,,0000,0000,0000,,We stappen over hen op de stoep.
Dialogue: 0,0:03:34.80,0:03:36.94,Default,,0000,0000,0000,,Maar wanneer hun aanwezigheid
Dialogue: 0,0:03:36.96,0:03:39.46,Default,,0000,0000,0000,,serieus in strijd is \Nmet één van onze doeleinden,
Dialogue: 0,0:03:39.48,0:03:41.96,Default,,0000,0000,0000,,laten we zeggen \Nbij de bouw van een gebouw als dit,
Dialogue: 0,0:03:41.98,0:03:44.38,Default,,0000,0000,0000,,vernietigen we ze \Nzonder er bij stil te staan.
Dialogue: 0,0:03:44.48,0:03:47.42,Default,,0000,0000,0000,,Het probleem is dat we op een dag \Nmachines gaan bouwen
Dialogue: 0,0:03:47.44,0:03:50.18,Default,,0000,0000,0000,,die, bewust of niet,
Dialogue: 0,0:03:50.20,0:03:52.98,Default,,0000,0000,0000,,ons met gelijkaardige \Nonverschilligheid gaan behandelen.
Dialogue: 0,0:03:53.76,0:03:56.96,Default,,0000,0000,0000,,Ik vermoed dat dit voor velen \Nvan jullie wat vergezocht lijkt.
Dialogue: 0,0:03:57.36,0:04:00.72,Default,,0000,0000,0000,,Ik wed dat er zijn die er aan twijfelen
Dialogue: 0,0:04:00.72,0:04:03.72,Default,,0000,0000,0000,,of superintelligente AI \Nüberhaupt mogelijk is,
Dialogue: 0,0:04:03.72,0:04:05.38,Default,,0000,0000,0000,,laat staan onvermijdelijk.
Dialogue: 0,0:04:05.40,0:04:09.02,Default,,0000,0000,0000,,Maar dan moet je de fout vinden \Nin één van de volgende veronderstellingen.
Dialogue: 0,0:04:09.04,0:04:10.62,Default,,0000,0000,0000,,Er zijn er slechts drie.
Dialogue: 0,0:04:11.80,0:04:16.52,Default,,0000,0000,0000,,Intelligentie is een kwestie van \Ninformatieverwerking in fysische systemen.
Dialogue: 0,0:04:17.32,0:04:19.94,Default,,0000,0000,0000,,Eigenlijk is dit iets meer \Ndan een veronderstelling.
Dialogue: 0,0:04:19.96,0:04:23.42,Default,,0000,0000,0000,,We hebben al beperkte intelligentie \Ningebouwd in onze machines
Dialogue: 0,0:04:23.44,0:04:25.46,Default,,0000,0000,0000,,en veel van die machines werken al
Dialogue: 0,0:04:25.48,0:04:28.12,Default,,0000,0000,0000,,op een bovenmenselijk \Nniveau van intelligentie.
Dialogue: 0,0:04:28.84,0:04:30.82,Default,,0000,0000,0000,,We weten dat loutere materie
Dialogue: 0,0:04:30.82,0:04:34.06,Default,,0000,0000,0000,,aanleiding kan geven tot wat \N'algemene intelligentie' wordt genoemd,
Dialogue: 0,0:04:34.08,0:04:37.74,Default,,0000,0000,0000,,het vermogen om flexibel te denken \Nop meerdere domeinen,
Dialogue: 0,0:04:37.76,0:04:40.90,Default,,0000,0000,0000,,omdat onze hersenen dat kunnen.
Dialogue: 0,0:04:40.92,0:04:44.86,Default,,0000,0000,0000,,Ik bedoel, er zijn hier alleen maar atomen
Dialogue: 0,0:04:44.88,0:04:49.38,Default,,0000,0000,0000,,en zolang we systemen \Nvan atomen blijven bouwen
Dialogue: 0,0:04:49.40,0:04:52.10,Default,,0000,0000,0000,,die steeds intelligenter\Ngedrag gaan vertonen,
Dialogue: 0,0:04:52.12,0:04:54.66,Default,,0000,0000,0000,,zullen we uiteindelijk, \Ntenzij iets ons tegenhoudt,
Dialogue: 0,0:04:54.68,0:04:58.06,Default,,0000,0000,0000,,algemene intelligentie creëren
Dialogue: 0,0:04:58.08,0:04:59.38,Default,,0000,0000,0000,,in onze machines.
Dialogue: 0,0:04:59.40,0:05:03.06,Default,,0000,0000,0000,,Het maakt niet uit \Nhoe snel we vooruitgaan,
Dialogue: 0,0:05:03.08,0:05:06.26,Default,,0000,0000,0000,,want elke vooruitgang \Nbrengt ons dichter bij het eindpunt.
Dialogue: 0,0:05:06.28,0:05:10.06,Default,,0000,0000,0000,,Vergeet de wet van Moore,\Nexponentiële vooruitgang is niet nodig.
Dialogue: 0,0:05:10.08,0:05:12.10,Default,,0000,0000,0000,,We hoeven alleen maar door te gaan.
Dialogue: 0,0:05:13.48,0:05:16.40,Default,,0000,0000,0000,,De tweede veronderstelling\Nis dat we zullen blijven doorgaan.
Dialogue: 0,0:05:17.00,0:05:19.76,Default,,0000,0000,0000,,We zullen onze intelligente \Nmachines blijven verbeteren.
Dialogue: 0,0:05:21.00,0:05:25.38,Default,,0000,0000,0000,,En gezien de waarde van intelligentie --
Dialogue: 0,0:05:25.40,0:05:28.94,Default,,0000,0000,0000,,ik bedoel, intelligentie is ofwel de bron \Nvan alles wat we waarderen
Dialogue: 0,0:05:28.96,0:05:31.74,Default,,0000,0000,0000,,of ze moet alles beschermen\Nwat we waarderen.
Dialogue: 0,0:05:31.76,0:05:34.02,Default,,0000,0000,0000,,Het is ons waardevolste hulpmiddel.
Dialogue: 0,0:05:34.04,0:05:35.58,Default,,0000,0000,0000,,Dus we willen dit doen.
Dialogue: 0,0:05:35.60,0:05:38.94,Default,,0000,0000,0000,,We hebben problemen \Ndie we nodig moeten oplossen.
Dialogue: 0,0:05:38.96,0:05:42.16,Default,,0000,0000,0000,,We willen ziektes \Nals Alzheimer en kanker genezen.
Dialogue: 0,0:05:43.06,0:05:46.90,Default,,0000,0000,0000,,We willen economische systemen begrijpen \Nen onze klimaatwetenschap verbeteren.
Dialogue: 0,0:05:46.92,0:05:49.18,Default,,0000,0000,0000,,Dus zullen we dit doen, als we kunnen.
Dialogue: 0,0:05:49.20,0:05:52.49,Default,,0000,0000,0000,,De trein is al vertrokken \Nen er is geen houden aan.
Dialogue: 0,0:05:53.88,0:05:59.34,Default,,0000,0000,0000,,Tot slot staan we waarschijnlijk niet \Nop een piek van intelligentie,
Dialogue: 0,0:05:59.36,0:06:01.16,Default,,0000,0000,0000,,of ook maar ergens in de buurt ervan.
Dialogue: 0,0:06:01.64,0:06:03.54,Default,,0000,0000,0000,,En dit is echt het cruciale inzicht.
Dialogue: 0,0:06:03.56,0:06:05.98,Default,,0000,0000,0000,,Dit maakt onze situatie zo precair
Dialogue: 0,0:06:06.00,0:06:10.04,Default,,0000,0000,0000,,en dit maakt onze intuïties \Nover de risico's zo onbetrouwbaar.
Dialogue: 0,0:06:11.12,0:06:13.84,Default,,0000,0000,0000,,Beschouw de slimste mens \Ndie ooit heeft geleefd.
Dialogue: 0,0:06:14.64,0:06:18.06,Default,,0000,0000,0000,,Op bijna ieders lijstje \Nstaat hier John von Neumann.
Dialogue: 0,0:06:18.08,0:06:21.42,Default,,0000,0000,0000,,Ik bedoel, de indruk die von Neumann \Nmaakte op de mensen om hem heen,
Dialogue: 0,0:06:21.44,0:06:25.50,Default,,0000,0000,0000,,inclusief de grootste wiskundigen \Nen fysici van zijn tijd,
Dialogue: 0,0:06:25.52,0:06:27.46,Default,,0000,0000,0000,,is redelijk goed gedocumenteerd.
Dialogue: 0,0:06:27.48,0:06:31.26,Default,,0000,0000,0000,,Als slechts de helft van de verhalen \Nover hem half waar zijn,
Dialogue: 0,0:06:31.28,0:06:32.50,Default,,0000,0000,0000,,dan kan het niet anders
Dialogue: 0,0:06:32.52,0:06:34.98,Default,,0000,0000,0000,,dan dat hij één \Nvan de slimste mensen ooit was.
Dialogue: 0,0:06:35.00,0:06:37.52,Default,,0000,0000,0000,,Bekijk dit spectrum \Nvan intelligentie eens.
Dialogue: 0,0:06:38.32,0:06:40.29,Default,,0000,0000,0000,,Hier hebben we John von Neumann.
Dialogue: 0,0:06:41.56,0:06:42.89,Default,,0000,0000,0000,,En dan hebben we jou en mij.
Dialogue: 0,0:06:44.12,0:06:45.42,Default,,0000,0000,0000,,En dan hebben we een kip.
Dialogue: 0,0:06:45.44,0:06:47.38,Default,,0000,0000,0000,,(Gelach)
Dialogue: 0,0:06:47.40,0:06:48.62,Default,,0000,0000,0000,,Sorry, een kip.
Dialogue: 0,0:06:48.64,0:06:49.90,Default,,0000,0000,0000,,(Gelach)
Dialogue: 0,0:06:49.92,0:06:53.66,Default,,0000,0000,0000,,Ik moet dit gesprek niet \Ndeprimerender maken dan nodig.
Dialogue: 0,0:06:53.68,0:06:55.28,Default,,0000,0000,0000,,(Gelach)
Dialogue: 0,0:06:56.34,0:07:00.04,Default,,0000,0000,0000,,Het lijkt echter uiterst waarschijnlijk \Ndat het spectrum van intelligentie
Dialogue: 0,0:07:00.04,0:07:02.96,Default,,0000,0000,0000,,veel verder reikt \Ndan we op dit moment beseffen.
Dialogue: 0,0:07:04.04,0:07:07.06,Default,,0000,0000,0000,,Als we machines bouwen \Ndie intelligenter zijn dan wij,
Dialogue: 0,0:07:07.06,0:07:09.79,Default,,0000,0000,0000,,gaan ze hoogstwaarschijnlijk \Ndit spectrum verkennen
Dialogue: 0,0:07:09.79,0:07:11.30,Default,,0000,0000,0000,,op een onvoorstelbare manier
Dialogue: 0,0:07:11.32,0:07:14.31,Default,,0000,0000,0000,,en ons onvoorstelbaar overtreffen.
Dialogue: 0,0:07:15.00,0:07:19.34,Default,,0000,0000,0000,,Het is belangrijk te beseffen dat \Ndit al waar is voor de snelheid alleen.
Dialogue: 0,0:07:19.36,0:07:24.42,Default,,0000,0000,0000,,Stel dat we zojuist\Neen superintelligente AI hadden gemaakt
Dialogue: 0,0:07:24.44,0:07:27.90,Default,,0000,0000,0000,,die niet slimmer was \Ndan een gemiddeld team van onderzoekers
Dialogue: 0,0:07:27.92,0:07:30.22,Default,,0000,0000,0000,,aan Stanford en MIT.
Dialogue: 0,0:07:30.24,0:07:33.44,Default,,0000,0000,0000,,Elektronische schakelingen werken \Nongeveer een miljoen keer sneller
Dialogue: 0,0:07:33.44,0:07:34.50,Default,,0000,0000,0000,,dan biochemische.
Dialogue: 0,0:07:34.52,0:07:37.77,Default,,0000,0000,0000,,Dus zou deze machine ongeveer \Neen miljoen keer sneller moeten denken
Dialogue: 0,0:07:37.77,0:07:39.50,Default,,0000,0000,0000,,dan de geesten die ze ontwierpen.
Dialogue: 0,0:07:39.52,0:07:41.18,Default,,0000,0000,0000,,Laat ze één week lopen
Dialogue: 0,0:07:41.20,0:07:45.76,Default,,0000,0000,0000,,en ze zal voor 20 000 jaar intellectuele \Narbeid op menselijk niveau uitvoeren,
Dialogue: 0,0:07:46.40,0:07:48.36,Default,,0000,0000,0000,,week na week na week.
Dialogue: 0,0:07:49.64,0:07:52.74,Default,,0000,0000,0000,,Hoe kunnen we een verstand \Ndat dit soort vooruitgang maakt
Dialogue: 0,0:07:52.76,0:07:55.04,Default,,0000,0000,0000,,nog begrijpen, laat staan beheersen?
Dialogue: 0,0:07:56.84,0:07:59.39,Default,,0000,0000,0000,,Wat, eerlijk gezegd, \Nook nog verontrustend is:
Dialogue: 0,0:08:00.04,0:08:03.98,Default,,0000,0000,0000,,stel je even het beste scenario voor.
Dialogue: 0,0:08:04.00,0:08:08.18,Default,,0000,0000,0000,,Veronderstel dat we \Neen superintelligente AI ontwerpen
Dialogue: 0,0:08:08.20,0:08:09.55,Default,,0000,0000,0000,,die absoluut veilig is.
Dialogue: 0,0:08:09.55,0:08:12.86,Default,,0000,0000,0000,,We vinden gelijk het perfecte ontwerp.
Dialogue: 0,0:08:12.88,0:08:15.10,Default,,0000,0000,0000,,Het is alsof we \Neen orakel hebben gekregen
Dialogue: 0,0:08:15.12,0:08:17.14,Default,,0000,0000,0000,,dat zich precies zoals bedoeld gedraagt.
Dialogue: 0,0:08:17.16,0:08:20.88,Default,,0000,0000,0000,,Deze machine zou het perfecte \Narbeidsbesparende apparaat zijn.
Dialogue: 0,0:08:21.68,0:08:24.33,Default,,0000,0000,0000,,Het kan de machine ontwerpen \Ndie de machine kan bouwen
Dialogue: 0,0:08:24.33,0:08:25.90,Default,,0000,0000,0000,,die elk fysiek werk aankan,
Dialogue: 0,0:08:25.92,0:08:27.38,Default,,0000,0000,0000,,aangedreven door zonlicht,
Dialogue: 0,0:08:27.40,0:08:30.10,Default,,0000,0000,0000,,min of meer voor de kosten \Nvan de grondstoffen.
Dialogue: 0,0:08:30.12,0:08:33.38,Default,,0000,0000,0000,,Gedaan met alle menselijk geploeter!
Dialogue: 0,0:08:33.40,0:08:36.20,Default,,0000,0000,0000,,Maar ook het einde \Nvan de meeste intellectuele arbeid.
Dialogue: 0,0:08:37.20,0:08:40.26,Default,,0000,0000,0000,,Wat gaan apen zoals wij \Nin deze omstandigheden doen?
Dialogue: 0,0:08:40.28,0:08:44.36,Default,,0000,0000,0000,,Nou ja, we zouden vrij zijn om frisbee \Nte spelen en elkaar massages te geven.
Dialogue: 0,0:08:45.84,0:08:48.70,Default,,0000,0000,0000,,Gooi er nog wat LSD \Nen rare kleren tegenaan
Dialogue: 0,0:08:48.72,0:08:51.37,Default,,0000,0000,0000,,en de hele wereld wordt \Néén groot Burning Man-festival.
Dialogue: 0,0:08:51.37,0:08:53.16,Default,,0000,0000,0000,,(Gelach)
Dialogue: 0,0:08:54.32,0:08:56.32,Default,,0000,0000,0000,,Nu klinkt dat misschien best goed,
Dialogue: 0,0:08:57.28,0:08:59.66,Default,,0000,0000,0000,,maar vraag jezelf eens af\Nwat er zou gebeuren
Dialogue: 0,0:08:59.68,0:09:02.42,Default,,0000,0000,0000,,onder onze huidige economische \Nen politieke orde.
Dialogue: 0,0:09:02.44,0:09:05.10,Default,,0000,0000,0000,,Het lijkt waarschijnlijk \Ndat we getuige zouden zijn
Dialogue: 0,0:09:05.10,0:09:09.02,Default,,0000,0000,0000,,van een niveau van ongelijke verdeling \Nvan rijkdom en werkloosheid
Dialogue: 0,0:09:09.04,0:09:10.69,Default,,0000,0000,0000,,die we nooit eerder hebben gezien.
Dialogue: 0,0:09:10.69,0:09:13.18,Default,,0000,0000,0000,,Zonder bereidheid om \Ndeze nieuwe rijkdom
Dialogue: 0,0:09:13.20,0:09:15.14,Default,,0000,0000,0000,,onmiddellijk met iedereen te delen,
Dialogue: 0,0:09:15.64,0:09:19.26,Default,,0000,0000,0000,,zullen enkele biljonairs de covers \Nvan onze zakenmagazines sieren
Dialogue: 0,0:09:19.28,0:09:22.23,Default,,0000,0000,0000,,terwijl de rest van de wereld \Nvrij zou zijn om te verhongeren.
Dialogue: 0,0:09:22.32,0:09:24.62,Default,,0000,0000,0000,,Wat zouden de Russen of de Chinezen doen
Dialogue: 0,0:09:24.64,0:09:27.26,Default,,0000,0000,0000,,als ze hoorden \Ndat een bedrijf in Silicon Valley
Dialogue: 0,0:09:27.28,0:09:30.02,Default,,0000,0000,0000,,op het punt stond \Neen superintelligente AI te maken?
Dialogue: 0,0:09:30.04,0:09:32.90,Default,,0000,0000,0000,,Deze machine zou in staat zijn \Ntot het voeren van oorlog,
Dialogue: 0,0:09:32.92,0:09:35.14,Default,,0000,0000,0000,,hetzij op aarde of in cyberspace,
Dialogue: 0,0:09:35.16,0:09:36.84,Default,,0000,0000,0000,,met ongekende kracht.
Dialogue: 0,0:09:38.12,0:09:39.98,Default,,0000,0000,0000,,Dit is een winnaar-pakt-alles-scenario.
Dialogue: 0,0:09:40.00,0:09:43.14,Default,,0000,0000,0000,,Zes maanden voorsprong op de concurrentie
Dialogue: 0,0:09:43.16,0:09:45.94,Default,,0000,0000,0000,,komt overeen met 500 000 jaar voorsprong,
Dialogue: 0,0:09:45.96,0:09:47.46,Default,,0000,0000,0000,,op z'n minst.
Dialogue: 0,0:09:47.48,0:09:52.22,Default,,0000,0000,0000,,Dus het lijkt erop dat zelfs louter \Ngeruchten van dit soort doorbraak
Dialogue: 0,0:09:52.24,0:09:54.88,Default,,0000,0000,0000,,ertoe kunnen leiden \Ndat het mensdom wild zal worden.
Dialogue: 0,0:09:54.88,0:09:57.54,Default,,0000,0000,0000,,Eén van de meest angstaanjagende dingen,
Dialogue: 0,0:09:57.56,0:10:00.34,Default,,0000,0000,0000,,naar mijn mening,
Dialogue: 0,0:10:00.36,0:10:04.66,Default,,0000,0000,0000,,zijn het soort dingen \Ndie AI-onderzoekers zeggen
Dialogue: 0,0:10:04.68,0:10:06.63,Default,,0000,0000,0000,,wanneer ze ons gerust willen stellen.
Dialogue: 0,0:10:07.00,0:10:10.46,Default,,0000,0000,0000,,Waar we ons vooral \Ngeen zorgen over moeten maken, is tijd.
Dialogue: 0,0:10:10.48,0:10:12.54,Default,,0000,0000,0000,,Dit is nog allemaal ver weg, weet je.
Dialogue: 0,0:10:12.56,0:10:15.00,Default,,0000,0000,0000,,Waarschijnlijk nog 50 of 100 jaar weg.
Dialogue: 0,0:10:15.53,0:10:16.98,Default,,0000,0000,0000,,Eén onderzoeker heeft gezegd:
Dialogue: 0,0:10:17.00,0:10:18.58,Default,,0000,0000,0000,,"Piekeren over AI-veiligheid
Dialogue: 0,0:10:18.60,0:10:21.26,Default,,0000,0000,0000,,is net als je zorgen maken \Nover overbevolking op Mars."
Dialogue: 0,0:10:22.12,0:10:23.74,Default,,0000,0000,0000,,Dit is de Silicon Valley-versie
Dialogue: 0,0:10:23.76,0:10:26.14,Default,,0000,0000,0000,,van 'breek er je mooie hoofdje niet over'.
Dialogue: 0,0:10:26.16,0:10:27.50,Default,,0000,0000,0000,,(Gelach)
Dialogue: 0,0:10:27.52,0:10:29.42,Default,,0000,0000,0000,,Niemand lijkt te merken
Dialogue: 0,0:10:29.44,0:10:31.97,Default,,0000,0000,0000,,dat verwijzen naar de tijdshorizon
Dialogue: 0,0:10:31.97,0:10:34.26,Default,,0000,0000,0000,,een totale 'non sequitur' is,\Neen onjuist gevolg.
Dialogue: 0,0:10:34.26,0:10:37.94,Default,,0000,0000,0000,,Als intelligentie alleen maar \Neen kwestie van informatieverwerking is,
Dialogue: 0,0:10:37.96,0:10:40.62,Default,,0000,0000,0000,,en we onze machines \Nmaar blijven verbeteren,
Dialogue: 0,0:10:40.64,0:10:43.84,Default,,0000,0000,0000,,zullen we een bepaalde vorm \Nvan superintelligentie produceren.
Dialogue: 0,0:10:44.32,0:10:47.98,Default,,0000,0000,0000,,We hebben geen idee \Nhoe lang het zal duren
Dialogue: 0,0:10:48.00,0:10:50.76,Default,,0000,0000,0000,,om de voorwaarden te creëren \Nom dat veilig te doen.
Dialogue: 0,0:10:52.20,0:10:53.50,Default,,0000,0000,0000,,Ik zeg het nog eens.
Dialogue: 0,0:10:53.52,0:10:57.34,Default,,0000,0000,0000,,We hebben geen idee \Nhoe lang het zal duren
Dialogue: 0,0:10:57.36,0:11:00.01,Default,,0000,0000,0000,,om de voorwaarden te creëren \Nom dat veilig te doen.
Dialogue: 0,0:11:00.92,0:11:04.70,Default,,0000,0000,0000,,Mocht het je nog niet zijn opgevallen: \N50 jaar is niet meer wat ooit was.
Dialogue: 0,0:11:04.70,0:11:06.86,Default,,0000,0000,0000,,Dit is 50 jaar in maanden.
Dialogue: 0,0:11:06.88,0:11:08.72,Default,,0000,0000,0000,,Zo lang hebben we de iPhone al.
Dialogue: 0,0:11:09.44,0:11:12.04,Default,,0000,0000,0000,,Dit is hoe lang 'The Simpsons' \Nal op televisie zijn.
Dialogue: 0,0:11:12.68,0:11:14.82,Default,,0000,0000,0000,,Vijftig jaar is niet zo heel veel tijd
Dialogue: 0,0:11:14.82,0:11:17.13,Default,,0000,0000,0000,,om één van de grootste \Nuitdagingen aan te pakken
Dialogue: 0,0:11:17.13,0:11:19.64,Default,,0000,0000,0000,,waarmee het mensdom \Nooit zal worden geconfronteerd.
Dialogue: 0,0:11:19.64,0:11:23.66,Default,,0000,0000,0000,,We lijken er niet in te slagen om \Nde juiste emotionele reactie te hebben
Dialogue: 0,0:11:23.68,0:11:26.93,Default,,0000,0000,0000,,op iets waarvan we alle reden hebben \Nte geloven dat het komt.
Dialogue: 0,0:11:26.93,0:11:30.38,Default,,0000,0000,0000,,De computerwetenschapper Stuart Russell \Nheeft hier een mooie analogie.
Dialogue: 0,0:11:30.40,0:11:35.30,Default,,0000,0000,0000,,Hij zei, stel je voor dat we een bericht \Nvan een buitenaardse beschaving ontvangen,
Dialogue: 0,0:11:35.32,0:11:37.02,Default,,0000,0000,0000,,dat luidt:
Dialogue: 0,0:11:37.04,0:11:38.58,Default,,0000,0000,0000,,"Mensen van de Aarde,
Dialogue: 0,0:11:38.60,0:11:40.96,Default,,0000,0000,0000,,binnen 50 jaar komen \Nwe naar jullie planeet.
Dialogue: 0,0:11:41.80,0:11:43.38,Default,,0000,0000,0000,,Hou je gereed."
Dialogue: 0,0:11:43.40,0:11:47.66,Default,,0000,0000,0000,,En dan gewoon de maanden aftellen \Ntot aan de landing van het moederschip?
Dialogue: 0,0:11:47.68,0:11:50.68,Default,,0000,0000,0000,,We zouden een beetje \Nmeer urgentie voelen dan we nu doen.
Dialogue: 0,0:11:52.58,0:11:54.93,Default,,0000,0000,0000,,Waarom we ons ook\Ngeen zorgen zouden hoeven maken,
Dialogue: 0,0:11:54.93,0:11:57.41,Default,,0000,0000,0000,,is dat deze machines sowieso \Nonze waarden delen,
Dialogue: 0,0:11:57.41,0:12:00.22,Default,,0000,0000,0000,,omdat ze letterlijk uitbreidingen \Nvan onszelf zullen zijn.
Dialogue: 0,0:12:00.24,0:12:02.28,Default,,0000,0000,0000,,Ze zullen worden geënt op onze hersenen,
Dialogue: 0,0:12:02.28,0:12:04.70,Default,,0000,0000,0000,,en wij zullen in wezen \Nhun limbisch systeem worden.
Dialogue: 0,0:12:05.12,0:12:06.54,Default,,0000,0000,0000,,Overweeg even
Dialogue: 0,0:12:06.56,0:12:09.74,Default,,0000,0000,0000,,dat de veiligste \Nen enige verstandige weg vooruit,
Dialogue: 0,0:12:09.76,0:12:11.10,Default,,0000,0000,0000,,de aanbevolen weg,
Dialogue: 0,0:12:11.12,0:12:14.13,Default,,0000,0000,0000,,is om deze technologie \Ndirect in onze hersenen te implanteren.
Dialogue: 0,0:12:14.60,0:12:17.98,Default,,0000,0000,0000,,Dit kan in feite de veiligste \Nen enige voorzichtige weg vooruit zijn,
Dialogue: 0,0:12:18.00,0:12:22.53,Default,,0000,0000,0000,,maar meestal moet iemand zich toch\Nvolkomen veilig voelen bij een technologie
Dialogue: 0,0:12:22.53,0:12:24.74,Default,,0000,0000,0000,,voordat hij ze in zijn hoofd steekt.
Dialogue: 0,0:12:24.76,0:12:26.78,Default,,0000,0000,0000,,(Gelach)
Dialogue: 0,0:12:26.80,0:12:32.14,Default,,0000,0000,0000,,Het dieperliggende probleem is dat \Nsuperintelligente AI op zich bouwen
Dialogue: 0,0:12:32.16,0:12:33.90,Default,,0000,0000,0000,,waarschijnlijk gemakkelijker lijkt
Dialogue: 0,0:12:33.92,0:12:35.78,Default,,0000,0000,0000,,dan superintelligente AI bouwen
Dialogue: 0,0:12:35.80,0:12:37.58,Default,,0000,0000,0000,,én de neurowetenschappen voltooien
Dialogue: 0,0:12:37.60,0:12:40.77,Default,,0000,0000,0000,,die ons toelaten onze geest \Ner naadloos mee te integreren.
Dialogue: 0,0:12:40.80,0:12:43.98,Default,,0000,0000,0000,,Gezien het feit dat de bedrijven \Nen overheden die dit werk doen
Dialogue: 0,0:12:44.00,0:12:47.66,Default,,0000,0000,0000,,waarschijnlijk denken \Nmet een race bezig te zijn,
Dialogue: 0,0:12:47.68,0:12:50.94,Default,,0000,0000,0000,,en omdat deze race winnen \Nneerkomt op de wereld winnen,
Dialogue: 0,0:12:50.96,0:12:53.42,Default,,0000,0000,0000,,gesteld dat je hem niet direct vernietigt,
Dialogue: 0,0:12:53.44,0:12:56.30,Default,,0000,0000,0000,,dan lijkt het waarschijnlijk \Ndat alles wat gemakkelijker is,
Dialogue: 0,0:12:56.30,0:12:57.74,Default,,0000,0000,0000,,voorrang zal krijgen.
Dialogue: 0,0:12:58.56,0:13:01.42,Default,,0000,0000,0000,,Ik heb helaas geen andere oplossing \Nvoor dit probleem
Dialogue: 0,0:13:01.44,0:13:04.06,Default,,0000,0000,0000,,dan de aanbeveling dat we er \Nover moeten gaan nadenken.
Dialogue: 0,0:13:04.08,0:13:06.46,Default,,0000,0000,0000,,Ik denk aan iets als een Manhattan Project
Dialogue: 0,0:13:06.48,0:13:08.50,Default,,0000,0000,0000,,over kunstmatige intelligentie.
Dialogue: 0,0:13:08.52,0:13:11.26,Default,,0000,0000,0000,,Niet om het te bouwen, \Nwant dat gaan we sowieso doen,
Dialogue: 0,0:13:11.28,0:13:14.62,Default,,0000,0000,0000,,maar om te begrijpen \Nhoe een wapenwedloop te voorkomen
Dialogue: 0,0:13:14.64,0:13:18.14,Default,,0000,0000,0000,,en het zo te bouwen \Ndat het onze belangen dient.
Dialogue: 0,0:13:18.16,0:13:20.30,Default,,0000,0000,0000,,Als je over superintelligente AI praat
Dialogue: 0,0:13:20.32,0:13:22.58,Default,,0000,0000,0000,,die zichzelf kan aanpassen,
Dialogue: 0,0:13:22.60,0:13:25.41,Default,,0000,0000,0000,,lijkt het erop dat we \Nmaar één kans hebben
Dialogue: 0,0:13:25.41,0:13:27.24,Default,,0000,0000,0000,,om de beginvoorwaarden goed te krijgen
Dialogue: 0,0:13:27.24,0:13:29.30,Default,,0000,0000,0000,,en zelfs dan zullen we moeten leren omgaan
Dialogue: 0,0:13:29.32,0:13:33.13,Default,,0000,0000,0000,,met de economische en politieke \Ngevolgen van die goede beginvoorwaarden.
Dialogue: 0,0:13:33.76,0:13:35.82,Default,,0000,0000,0000,,Maar zodra we toegeven
Dialogue: 0,0:13:35.84,0:13:39.84,Default,,0000,0000,0000,,dat informatieverwerking \Nde bron van intelligentie is,
Dialogue: 0,0:13:40.72,0:13:45.52,Default,,0000,0000,0000,,dat een geschikt computersysteem \Naan de basis van intelligentie ligt,
Dialogue: 0,0:13:46.36,0:13:50.12,Default,,0000,0000,0000,,en we toegeven dat we deze systemen \Nonafgebroken zullen blijven verbeteren,
Dialogue: 0,0:13:51.28,0:13:55.74,Default,,0000,0000,0000,,en dat de kennishorizon \Nwaarschijnlijk veel verder reikt
Dialogue: 0,0:13:55.76,0:13:57.18,Default,,0000,0000,0000,,dan we nu weten,
Dialogue: 0,0:13:58.00,0:13:59.34,Default,,0000,0000,0000,,dan moeten we toegeven
Dialogue: 0,0:13:59.36,0:14:02.00,Default,,0000,0000,0000,,dat we bezig zijn een soort god te maken.
Dialogue: 0,0:14:03.40,0:14:05.03,Default,,0000,0000,0000,,Daarom moeten we er nu voor zorgen
Dialogue: 0,0:14:05.03,0:14:07.13,Default,,0000,0000,0000,,dat het een god is \Nwaarmee we kunnen leven.
Dialogue: 0,0:14:08.12,0:14:09.66,Default,,0000,0000,0000,,Dankjewel.
Dialogue: 0,0:14:09.68,0:14:14.77,Default,,0000,0000,0000,,(Applaus)