WEBVTT

00:00:01.000 --> 00:00:02.809
کریس اندرسن: نیک بوستروم.

00:00:02.833 --> 00:00:06.809
خوب، تو تا الان نظرات عجیب
و غریب زیادی داشته ای.

00:00:06.833 --> 00:00:08.559
فکر کنم چند دهه قبل است،

00:00:08.583 --> 00:00:11.518
پیشنهاد دادی که ممکن است همه ما
در یک شبیه سازی زندگی کنیم،

00:00:11.542 --> 00:00:13.351
یا شاید می کردیم.

00:00:13.375 --> 00:00:14.726
این اواخر،

00:00:14.750 --> 00:00:19.351
مثال های کاملا زنده ای ترسیم کردی
از اینکه چطور هوش مصنوعی عمومی

00:00:19.375 --> 00:00:21.208
می تواند به شکل وحشتناکی اشتباه باشد.

00:00:21.750 --> 00:00:23.143
و حالا امسال،

00:00:23.167 --> 00:00:25.393
در حال نشرِ

00:00:25.417 --> 00:00:29.351
مقاله ای هستی که
فرضیات دنیایِ آسیب پذیر نام دارد.

00:00:29.375 --> 00:00:33.958
و کار امروز عصر ما تهیه
یک بروشور راهنما برای آن است.

00:00:34.417 --> 00:00:36.250
پس بیا تا انجامش دهیم.

00:00:36.833 --> 00:00:38.625
این فرضیات چه هستند؟

NOTE Paragraph

00:00:40.000 --> 00:00:42.434
نیک بوستروم: سعی می کند تا درباره

00:00:42.458 --> 00:00:45.542
نوعی از ویژگی های ساختاری
وضعیت موجود انسان بیاندیشد.

00:00:47.125 --> 00:00:49.476
تو از استعاره گلدان خوشت می آید،

00:00:49.500 --> 00:00:51.393
پس از آن برای مثال استفاده می کنم.

00:00:51.417 --> 00:00:55.768
یک گلدان بزرگ پر از توپ را تصور کن

00:00:55.792 --> 00:00:59.750
که نمایشگر نظرات، راهکارها
و فناوری های ممکن است.

00:01:00.833 --> 00:01:04.559
می توانی تاریخ خلاقیت انسان را

00:01:04.583 --> 00:01:08.393
به شکل بردن دست در گلدان و بیرون
آوردن توپ یکی پس از دیگری تصور کنی،

00:01:08.417 --> 00:01:11.643
و تاثیر کلی آن تا حالا
بسیار مفید بوده، درست؟

00:01:11.667 --> 00:01:14.393
تا حالا توپ های
سفید خیلی خوبی را درآورده ایم،

00:01:14.417 --> 00:01:17.292
انواع توپ های خاکستری،
که چیزهای درهم خوب و بدی هستند.

00:01:18.042 --> 00:01:21.000
و تا حالا هیچ توپ سیاهی بیرون نیامده --

00:01:22.292 --> 00:01:27.768
فناوری که به شکل دائمی، تمدنی
که پیدایش کند را نابود می کند.

00:01:27.792 --> 00:01:31.193
این مقاله سعی دارد تا بررسی کند
که چه چیزی ممکن است یک توپ سیاه باشد.

NOTE Paragraph

00:01:31.193 --> 00:01:32.893
ک.ا: پس تعریف شما از این توپ

00:01:32.917 --> 00:01:36.601
چیزی است که همراهش نابودی حتمی تمدن است.

NOTE Paragraph

00:01:36.625 --> 00:01:41.934
ن.ب.: مگر آنکه از شرایطی که من اسمش
را نیمه-آشفته گذاشته ام خارج شویم.

00:01:41.958 --> 00:01:43.458
اما به شکلی، حتمی است.

NOTE Paragraph

00:01:44.333 --> 00:01:47.851
ک.ا.: پس شما برای این که
این نظریه قابل را قبول کنید

00:01:47.875 --> 00:01:49.893
انواع مثال های مخالف را می آورید

00:01:49.917 --> 00:01:52.851
تا نشان دهید تا حالا شانس آورده ایم،

00:01:52.875 --> 00:01:55.726
و ممکن بود که توپ مرگ
را بیرون می کشیدیم

00:01:55.750 --> 00:01:57.309
بدون آنکه خودمان حتی بفهمیم.

00:01:57.333 --> 00:01:59.625
گفته ای نقل شده، چه چیزی گفته شده؟

NOTE Paragraph

00:02:00.625 --> 00:02:03.309
ن.ب.: خوب، معنی اش نشان دادن

00:02:03.333 --> 00:02:05.434
سختی پیش بینی

00:02:05.458 --> 00:02:08.143
این است که اکتشافات بنیادی
ما را به کجا خواهند برد.

00:02:08.167 --> 00:02:11.226
ما هنوز این توانایی را نداریم.

00:02:11.250 --> 00:02:14.601
چون در توپ بیرون آوردن ماهر شده ایم،

00:02:14.625 --> 00:02:18.351
اما واقعا توانایی برگرداندن توپ
به گلدان را نداریم، غیر از این است؟

00:02:18.375 --> 00:02:20.902
می توانیم اختراع کنیم،
اما نمی توانیم حذف-اختراع کنیم.

00:02:21.583 --> 00:02:24.351
پس راهبرد ما، هم این که داریم،

00:02:24.375 --> 00:02:26.809
امیدواری به این است
که توپ سیاهی در گلدان نباشد.

NOTE Paragraph

00:02:26.833 --> 00:02:30.893
ک.ا.: پس وقتی بیرون آمد، بیرون آمده،
و نمی شود برش گرداند،

00:02:30.893 --> 00:02:32.528
و فکر می کنی که ما شانس آورده ایم.

00:02:32.528 --> 00:02:34.684
برایمان از اینها چند مثال بیاور.

00:02:34.708 --> 00:02:37.809
از انواع مختلف آسیب پذیری صحبت کرده ای.

NOTE Paragraph

00:02:37.833 --> 00:02:40.268
ن.ب : ساده ترین نوع آن برای فهمیدن

00:02:40.292 --> 00:02:43.434
فناوری است که به سادگی امکان می دهد

00:02:43.458 --> 00:02:45.583
تا مقادیر عظیمی از تخریب ایجاد شود.

00:02:47.375 --> 00:02:50.893
زیست شناسی مصنوعی ممکن است
نمونه ای حاصلخیز از این توپ سیاه باشد،

00:02:50.917 --> 00:02:53.601
اما خیلی چیزهای ممکن دیگر
هم می توانیم انجام دهیم --

00:02:53.625 --> 00:02:56.143
به مهندسی زمین شناسی
توجه کنید که بسیار عالی است، نه؟

00:02:56.167 --> 00:02:58.393
می توانیم با گرمایش جهانی مبارزه کنیم،

00:02:58.417 --> 00:03:00.559
اما نمی خواهی که خیلی هم ساده باشد،

00:03:00.583 --> 00:03:03.059
نباید که هر آدمی و مامان بزرگش مثلا

00:03:03.083 --> 00:03:06.143
این قدرت را داشته باشند که آب و هوای زمین
را به شدت تغییر دهند.

00:03:06.167 --> 00:03:09.726
یا شاید هم پهپادهای خودکار مرگبار،

00:03:09.750 --> 00:03:13.083
تولید انبوه شوند، ربات هایی به اندازه پشه
هجوم ربات های کشنده.

00:03:14.500 --> 00:03:17.226
فناوری نانو، هوش مصنوعی عمومی.

NOTE Paragraph

00:03:17.250 --> 00:03:18.793
ک.ا : در این مقاله عنوان کرده ای

00:03:18.793 --> 00:03:21.476
که این تنها از روی شانس است
که وقتی ما کشف کردیم

00:03:21.500 --> 00:03:24.934
که فناوری هسته ای می تواند بمب تولید کند،

00:03:24.958 --> 00:03:26.351
می توانست اینطور باشد

00:03:26.375 --> 00:03:28.226
که بمبی اختراع شود

00:03:28.250 --> 00:03:31.809
که منابع آن خیلی ساده تر باشد،
در دسترس همه.

NOTE Paragraph

00:03:31.833 --> 00:03:35.393
ن.ب: درسته، فکر کنید
به سال های ۱۹۳۰ برگردیم

00:03:35.417 --> 00:03:40.018
موقعی که توانستیم برای اولین بار
در فیزیک هسته ای پیشرفت هایی حاصل کنیم،

00:03:40.042 --> 00:03:43.726
عده ای از نوابغ فهمیدند که می شود یک
واکنش زنجیره ای هسته ای هم ایجاد کرد

00:03:43.750 --> 00:03:46.934
و بعد متوجه شدند
که این می تواند تبدیل به بمب شود.

00:03:46.958 --> 00:03:48.851
و بعد ما کمی کار بیشتر کردیم،

00:03:48.875 --> 00:03:51.601
و مشخص شد که چیزی
که برای ساختن بمب نیاز داری

00:03:51.625 --> 00:03:54.018
اورانیوم بسیار غنی شده یا پلوتونیم است،

00:03:54.042 --> 00:03:56.059
که تهیه این مواد بسیار سخت و مشکل است.

00:03:56.083 --> 00:03:58.351
به سانتریفیوژ های با سرعت
خیلی بالا نیاز داری،

00:03:58.375 --> 00:04:02.143
نیاز به راکتور دارید، مقادیر عظیم انرژی.

00:04:02.167 --> 00:04:03.976
اما حالا فرض کنید به جایش

00:04:04.000 --> 00:04:07.976
راه ساده ای وجود داشت
تا انرژی اتم را آزاد کنی.

00:04:08.000 --> 00:04:10.768
مثا اگر با پختن شن توی دستگاه مایکروویو

00:04:10.792 --> 00:04:12.059
یا چیزی شبیه به آن

00:04:12.083 --> 00:04:14.184
می توانستی انفجار هسته ای ایجاد کنی.

00:04:14.208 --> 00:04:16.351
این را می دانیم که
از لحاظ فیزیکی ممکن نیست.

00:04:16.375 --> 00:04:18.292
اما قبل از انجام محاسبات فیزیکی لازم

00:04:18.292 --> 00:04:20.483
از کجا می دانستی که نتیجه اش چه می شود؟

NOTE Paragraph

00:04:20.507 --> 00:04:22.083
ک.ا: اگرچه، نمی شود بحث کرد

00:04:22.083 --> 00:04:24.018
که تکامل حیات روی زمین

00:04:24.042 --> 00:04:27.309
به طور ضمنی به معنی محیطی ثابت است،

00:04:27.333 --> 00:04:31.518
و اگر ایجاد واکنش های
بزرگ هسته ای نسبتا ساده بود،

00:04:31.542 --> 00:04:33.400
زمین هیچ وقت ثابت نمی بود،

00:04:33.424 --> 00:04:34.976
و ما اصلا اینجا نبودیم.

NOTE Paragraph

00:04:35.000 --> 00:04:38.393
ن.ب: درسته، مگر آنکه چیزی باشد
که انجام عمدی اش ساده باشد

00:04:38.417 --> 00:04:41.268
اما به شکل اتفاقی انجام نشده باشد.

00:04:41.292 --> 00:04:43.126
مثل کارهایی که به سادگی انجام می دهیم،

00:04:43.126 --> 00:04:45.201
ما می توانیم ده قطعه چیزی
را روی هم بگذاریم،

00:04:45.201 --> 00:04:48.228
اما در طبیعت نمی توانی
دسته ای از ۱۰ قطعه روی هم پیدا کنی.

NOTE Paragraph

00:04:48.253 --> 00:04:50.230
ک.ا: بسیار خوب، پس این احتمالا همانی است

00:04:50.230 --> 00:04:51.893
که خیلی از ما بیشتر نگرانش هستیم،

00:04:51.917 --> 00:04:55.434
و بله، زیست شناسی مصنوعی
احتمالا سریعترین مسیری است

00:04:55.458 --> 00:04:58.476
که پیش بینی می کنیم
که در آینده نزدیک ما را به اینجا بیاورد.

NOTE Paragraph

00:04:58.500 --> 00:05:01.434
ن.ب: درسته، و توجه کن معنی اش چه بود

00:05:01.458 --> 00:05:05.101
اگر، مثلا، هر کسی در آشپزخانه اش
بعد از ظهر کاری می کرد که

00:05:05.125 --> 00:05:06.518
می توانست شهری را نابود کند.

00:05:06.542 --> 00:05:10.101
قابل تصور نیست که چطور تمدن های
امروزی که ما می شناسیم

00:05:10.125 --> 00:05:11.559
می توانستند باقی بمانند.

00:05:11.583 --> 00:05:14.101
چون در هر جمعیتی از یک میلیون نفر،

00:05:14.125 --> 00:05:16.809
همیشه کسی وجود دارد، که به هر دلیلی،

00:05:16.833 --> 00:05:18.917
بخواهد که از نیروی تخریب استفاده کند.

00:05:19.750 --> 00:05:22.893
پس اگر آن بازمانده از آخر دنیا

00:05:22.917 --> 00:05:24.987
بخواهد که شهری
را نابود کند، یا بدتر از آن،

00:05:24.987 --> 00:05:26.476
پس آن شهرها نابود می شوند.

NOTE Paragraph

00:05:26.500 --> 00:05:28.851
ک.ا: پس این نوع دیگری از آسیب پذیری است.

00:05:28.875 --> 00:05:30.518
برایمان توضیح بده.

NOTE Paragraph

00:05:30.542 --> 00:05:34.518
ن.ب: بله، علاوه بر این نمونه های
کاملا واضح از توپ های سیاه

00:05:34.542 --> 00:05:37.352
که می توانند چیزهای زیادی را منفجر کنند،

00:05:37.376 --> 00:05:41.809
انواع دیگر از راه ایجاد
مشوق های بد عمل می کنند

00:05:41.833 --> 00:05:44.059
تا انسانها کارهای مضری انجام دهند.

00:05:44.083 --> 00:05:48.184
اگر اسمش را نوع ۲-الف بگذاریم،

00:05:48.208 --> 00:05:52.726
درباره فناوری است که مشوق هایی
برای قدرت های بزرگ ایجاد می کند

00:05:52.750 --> 00:05:57.226
که از نیروی عظیم شان
برای تخریب استفاده کنند.

00:05:57.250 --> 00:06:00.083
سلاح های هسته ای
خیلی به این نزدیک هستند، نه؟

00:06:02.083 --> 00:06:05.143
کاری که ما کردیم، کمی
بیش از ۱۰ تریلیون دلار هزینه کردیم

00:06:05.167 --> 00:06:07.684
تا حدود ۷۰،۰۰۰ کلاهک هسته ای بسازیم

00:06:07.708 --> 00:06:10.143
و آنها را آماده شلیک قرار دهیم.

00:06:10.167 --> 00:06:12.434
و چند باری هم در طول جنگ سرد

00:06:12.458 --> 00:06:13.893
تقریبا همدیگر را از بین بردیم.

00:06:13.917 --> 00:06:17.222
دلیلش این نبود که خیلی از افراد
فکر می کردند که این کار خیلی خوبی است،

00:06:17.222 --> 00:06:19.870
بیایید ۱۰ تریلیون دلار خرج کنیم
تا خودمان را منفجر کنیم،

00:06:19.870 --> 00:06:22.684
اما مشوق ها به گونه ای بود
که خودمان را --

00:06:22.708 --> 00:06:24.018
می توانست خیلی بدتر باشد.

00:06:24.042 --> 00:06:26.476
فرض کنید که یک تهاجم
اولیه بدون مشکل انجام می شد.

00:06:26.500 --> 00:06:28.809
بعد ممکن بود وضعیت
خیلی پیچیده ای پیش بیاید،

00:06:28.833 --> 00:06:30.101
در شرایط بحران،

00:06:30.125 --> 00:06:32.602
تا مانع از پرتاب تمام
موشک های هسته ای بشویم.

00:06:32.626 --> 00:06:36.018
اگر مانعی نباشد، چون می ترسی
که طرف دیگر این کار را انجام دهد.

NOTE Paragraph

00:06:36.042 --> 00:06:37.851
ک.ا: درست، تضمین تخریب متقابل

00:06:37.875 --> 00:06:40.601
باعث شد تا دوران جنگ سرد نسبتا ثابت باشد،

00:06:40.625 --> 00:06:42.559
بدون آن، شاید حالا الان اینجا نبودیم.

NOTE Paragraph

00:06:42.583 --> 00:06:44.917
ن.ب: می توانست خیلی نامتعادل تر
از آنچه بود باشد.

00:06:44.917 --> 00:06:47.268
و می توانست مشخصات دیگر فناوری هم باشد.

00:06:47.292 --> 00:06:49.601
بستن پیمان های تسلیحاتی
می توانست سخت تر باشد،

00:06:49.625 --> 00:06:51.226
اگر بجای تسلیحات اتمی

00:06:51.250 --> 00:06:54.268
چیزهایی کوچکتر یا نامشخص تر بود.

NOTE Paragraph

00:06:54.292 --> 00:06:56.851
ک.ا: و مانند مشوق های بد
برای بازیگران قدرت،

00:06:56.875 --> 00:07:00.393
می توانی نگران مشوق های بد
برای همه ما باشی، اینجا در نوع ۲-ب.

NOTE Paragraph

00:07:00.417 --> 00:07:04.667
ن.ب.: درسته، اینجا می شود
مسئله گرمایش جهانی را در نظر گرفت.

00:07:06.958 --> 00:07:08.851
راحت طلبی های کوچک زیادی هستند

00:07:08.875 --> 00:07:11.159
که باعث می شوند ما کارهایی انجام دهیم

00:07:11.159 --> 00:07:13.934
که جداگانه هر کدام 
اثر خیلی زیادی ندارند، درست؟

00:07:13.958 --> 00:07:15.934
اما اگر میلیاردها نفر انجامش دهند،

00:07:15.958 --> 00:07:18.018
اثر تجمیعی آن، مخرب است.

00:07:18.042 --> 00:07:20.851
امروزه، گرمایش جهانی می توانست
خیلی از این بدتر باشد.

00:07:20.875 --> 00:07:23.851
ما مولفه حساسیت آب و هوا را داریم.

00:07:23.875 --> 00:07:27.518
این مولفه ای است که می گوید
چقدر گرمتر می شود

00:07:27.542 --> 00:07:30.226
اگر مقدار معینی گاز گلخانه ای منتشر کنی.

00:07:30.250 --> 00:07:32.643
اما، فرض کن به شکل دیگری بود

00:07:32.667 --> 00:07:35.184
اگر با همان میزان گاز گلخانه ای
که منتشر می کردیم،

00:07:35.208 --> 00:07:37.268
بجای افزایش دمای، مثلا،

00:07:37.292 --> 00:07:41.018
بین ۳ تا ۴/۵ درجه تا سال ۲۱۰۰،

00:07:41.042 --> 00:07:43.542
فرض کنید بین ۱۵ تا ۲۰ درجه می شد.

00:07:44.375 --> 00:07:46.934
اینطور، ممکن بود وضعیت
خیلی بدی داشته باشیم.

00:07:46.958 --> 00:07:50.101
یا فرض کنید که استفاده از انرژی های
تجدید پذیر خیلی مشکل تر بود.

00:07:50.125 --> 00:07:52.768
یا اینکه سوخت های
فسیلی بیشتری در زمین بود.

NOTE Paragraph

00:07:52.792 --> 00:07:55.434
ک.ا: آیا می شد دلیل آورد که در آن حالت --

00:07:55.458 --> 00:07:57.184
اگر کاری که امروز می کنیم

00:07:57.208 --> 00:08:01.768
موجب ۱۰ درجه تفاوت در مدت زمانی
که می توانستیم ببینیم می شد،

00:08:01.792 --> 00:08:05.476
واقعا بشریت تکانی به خودش
می داد و کاری می کرد.

00:08:05.500 --> 00:08:08.309
احمق هستیم. اما شاید نه آنقدر احمق.

00:08:08.333 --> 00:08:09.601
شاید هم هستیم.

NOTE Paragraph

00:08:09.625 --> 00:08:11.017
ن.ب: من اطمینان نمی کردم.

NOTE Paragraph

00:08:11.017 --> 00:08:13.101
(خنده حضار)

NOTE Paragraph

00:08:13.125 --> 00:08:14.983
می توانی ویژگی های دیگر را هم تصور کنی.

00:08:14.983 --> 00:08:20.351
همین حالا، تغییر به انرژی های
تجدید پذیر کمی مشکل است، درست،

00:08:20.375 --> 00:08:21.643
اما شدنی است.

00:08:21.667 --> 00:08:24.643
اما اگر خواص فیزیکی کمی متفاوت بود،

00:08:24.667 --> 00:08:27.458
ممکن بود این کارها
خیلی پر هزینه تر باشند.

NOTE Paragraph

00:08:28.375 --> 00:08:29.893
ک.ا: و تو چه نظری داری، نیک؟

00:08:29.917 --> 00:08:32.351
فکر می کنی با روی هم گذاشتن این احتمالات،

00:08:32.375 --> 00:08:36.643
که با این زمین، بشریتی که ما هستیم

00:08:36.667 --> 00:08:38.380
ما دنیایی آسیب پذیر هستیم؟

00:08:38.380 --> 00:08:40.667
که یک توپ مرگ در آینده ما وجود دارد؟

NOTE Paragraph

00:08:43.958 --> 00:08:45.226
ن.ب: پاسخ به آن سخت است.

00:08:45.250 --> 00:08:50.309
منظورم اینکه فکر می کنم احتمال زیادی دارد
که توپ های سیاه مختلفی در گلدان باشند،

00:08:50.333 --> 00:08:51.643
اینطور به نظر می رسد.

00:08:51.667 --> 00:08:54.059
اما ممکن است توپ های طلایی هم باشند

00:08:54.083 --> 00:08:57.559
که به ما در برابر توپ های سیاه کمک کنند.

00:08:57.583 --> 00:09:00.559
و نمی دانم که ترتیب
بیرون آمدنشان به چه صورت است.

NOTE Paragraph

00:09:00.583 --> 00:09:04.434
ک.ا: منظورم، یک انتقاد
محتمل فلسفی به این تفکر

00:09:04.458 --> 00:09:10.101
این است که به طور ضمنی این دید را
دارد که آینده اساسا تثبیت شده است.

00:09:10.125 --> 00:09:12.601
که یا این توپ آنجاست یا نیست.

00:09:12.625 --> 00:09:15.643
و به شکلی،

00:09:15.667 --> 00:09:18.268
این نگاهی به آینده نیست
که بخواهم باور کنم.

00:09:18.292 --> 00:09:20.643
می خواهم باور کنم که آینده قطعی نیست،

00:09:20.667 --> 00:09:22.601
که تصمیمات امروز ما معین می کنند

00:09:22.625 --> 00:09:24.833
که چه توپی را از گلدان بیرون می آوریم.

NOTE Paragraph

00:09:25.917 --> 00:09:29.684
ن.ب: منظورم این است،
که اگر همینطور نوآوری را ادامه دهیم،

00:09:29.708 --> 00:09:32.042
نهایتا همه توپ ها را بیرون خواهیم آورد.

00:09:32.875 --> 00:09:36.268
یعنی، فکر می کنم وجود مقدار کمی
جبرگرایی فناوری

00:09:36.292 --> 00:09:37.559
کاملا ممکن است.

00:09:37.583 --> 00:09:40.226
شبیه به اینکه، احتمال
کمی دارد که جامعه ای پیدا کنی

00:09:40.250 --> 00:09:43.083
که از سنگ چخماق
و هواپیمای جت با هم استفاده کند.

00:09:44.208 --> 00:09:48.268
اما اغلب می شود یک فناوری را به عنوان
مجموعه ای از ویژگی ها در نظر گرفت

00:09:48.292 --> 00:09:51.309
پس فناوری چیزی است که به ما
امکان انجام کارهای مختلف

00:09:51.333 --> 00:09:53.309
و دسترسی به نتایج گوناگون را می دهد.

00:09:53.333 --> 00:09:56.337
اینکه چطور از آن استفاده کنیم،
مسلما به انتخاب انسان بستگی دارد.

00:09:56.337 --> 00:09:58.851
اما اگر به این سه نوع
آسیب پذیری فکر کنیم،

00:09:58.875 --> 00:10:02.268
آنها فرضیات کاملا ضعیفی از انتخاب ما
در چگونه استفاده کردنشان اند.

00:10:02.292 --> 00:10:05.684
پس یک آسیب پذیری نوع ۱، مجددا، 
این نیروی عظیم مخرب،

00:10:05.708 --> 00:10:07.143
این فرض ضعیفی است

00:10:07.167 --> 00:10:09.559
که در میان میلیون ها انسان

00:10:09.583 --> 00:10:12.518
بعضی ها هستند که بخواهند
از آن برای تخریب استفاده کنند.

NOTE Paragraph

00:10:12.542 --> 00:10:14.976
ک.ا: برای من، تنها موضوع ناراحت کننده

00:10:15.000 --> 00:10:19.559
این است که واقعا ممکن است
ما نگاهی به داخل گلدان بیاندازیم

00:10:19.583 --> 00:10:23.101
که موجب شود واقعا
محکوم به بدبختی شویم.

00:10:23.125 --> 00:10:27.768
مثلا، اگر به قدرت مضاعف اعتقاد داشته باشی،

00:10:27.792 --> 00:10:30.059
که شتاب فناوری ذاتی است،

00:10:30.083 --> 00:10:32.518
که ما ابزارهایی می سازیم
که ما را قوی تر می کنند،

00:10:32.542 --> 00:10:35.184
پس زمانی به صحنه می آیی

00:10:35.208 --> 00:10:38.268
که یک نفر به تنهایی
می تواند حریف همه ما شود،

00:10:38.292 --> 00:10:41.143
و بعد انگار که ما شکست خورده ایم.

00:10:41.167 --> 00:10:44.101
این موضوعی خیلی نگران کننده نیست؟

NOTE Paragraph

00:10:44.125 --> 00:10:45.875
ن.ب: آه، بله.

NOTE Paragraph

00:10:46.708 --> 00:10:47.976
(خنده حضار)

NOTE Paragraph

00:10:48.000 --> 00:10:49.333
به نظرم --

00:10:50.875 --> 00:10:52.800
بله، ما بیشتر و بیشتر قدرت پیدا می کنیم،

00:10:52.800 --> 00:10:56.434
و استفاده از آن ساده و ساده تر می شود،

00:10:56.458 --> 00:11:00.018
ولی ما می توانیم فناوری هایی
هم بسازیم که به ما در کنترل آن

00:11:00.042 --> 00:11:02.353
که چطور مردم از این قدرت ها
استفاده کنند کمک کند.

NOTE Paragraph

00:11:02.353 --> 00:11:05.218
ک.ا: بگذار در موردش صحبت کنیم،
در مورد پاسخ به آن صحبت کنیم.

00:11:05.218 --> 00:11:07.268
فرض کن در نظر گرفتن همه حالت های ممکن

00:11:07.292 --> 00:11:09.393
که حالا آنجا است --

00:11:09.417 --> 00:11:13.143
تنها زیست شناسی مصنوعی نیست،
چیزهایی مثل نبرد سایبری،

00:11:13.167 --> 00:11:16.518
هوش مصنوعی، غیره و غیره. --

00:11:16.542 --> 00:11:21.059
آن چیزها احتمالا
آینده ما را محکوم می کنند.

00:11:21.083 --> 00:11:22.684
پاسخ های ممکن چه هستند؟

00:11:22.708 --> 00:11:27.601
تو درباره چهار پاسخ ممکن صحبت کرده ای.

NOTE Paragraph

00:11:27.625 --> 00:11:31.268
ن.ب: محدود کردن توسعه فناوری
به نظر امیدوار کننده نمی رسد،

00:11:31.292 --> 00:11:34.518
اگر منظورمان یک توقف عمومی
در پیشرفت فناوری است.

00:11:34.542 --> 00:11:36.093
فکر نمی کنم هیچ کدام شدنی باشند،

00:11:36.093 --> 00:11:38.727
هیچ کدام خواسته ما نیستند
حتی اگر بتوانیم انجامشان دهیم.

00:11:38.727 --> 00:11:41.184
به نظرم ممکن است در موضوعات محدودی

00:11:41.208 --> 00:11:43.934
بخواهی که توسعه فناوری کندتر باشد.

00:11:43.958 --> 00:11:47.351
فکر نکنم، توسعه سریعتر
تسلیحات زیستی را بخواهی،

00:11:47.375 --> 00:11:49.434
یا فرضا، جداسازی ایزوتوپ ها،

00:11:49.458 --> 00:11:51.708
که تولید تسلیحات هسته ای
را ساده تر می کند.

NOTE Paragraph

00:11:52.583 --> 00:11:55.893
ک.ا: به نظرم، معمولا
کاملا با آن همراه بودم.

00:11:55.917 --> 00:11:59.184
اما حالا واقعا می خواهم
دقیقه ای آن را کنار بگذارم.

00:11:59.208 --> 00:12:00.518
تنها به دلیل، اول از همه،

00:12:00.542 --> 00:12:03.226
اگر به تاریخ چند دهه اخیر نگاه کنی،

00:12:03.250 --> 00:12:06.809
می بینی، که همیشه تخت گاز
فشار به جلو با حداکثر سرعت بوده،

00:12:06.833 --> 00:12:08.684
اشکالی ندارد، این تنها انتخاب ماست.

00:12:08.708 --> 00:12:12.976
اما اگر به جهانی شدن
و شتاب سریع آن فکر کنی،

00:12:13.000 --> 00:12:16.434
اگر به راهبرد «تجربه
مادر علم است» توجه کنی

00:12:16.458 --> 00:12:18.518
و نتایجش را بررسی کنی،

00:12:18.542 --> 00:12:21.309
و بعد به توانایی ذاتی
زیست شناسی مصنوعی توجه کنی،

00:12:21.333 --> 00:12:25.768
مطمئن نیستم که باید سریع حرکت کنیم

00:12:25.792 --> 00:12:27.434
یا بدون هر گونه محدودیت

00:12:27.458 --> 00:12:30.768
به سمت جهانی که می توانی یک
چاپگر دی ان ای در هر خانه

00:12:30.792 --> 00:12:32.405
یا آزمایشگاه دبیرستان داشته باشی.

00:12:33.167 --> 00:12:34.851
محدودیت هایی وجود دارند، بله؟

NOTE Paragraph

00:12:34.875 --> 00:12:37.588
ن.ب: احتمالا وجود دارند، در بخش اول،
در امکان پذیر نبودن.

00:12:37.602 --> 00:12:39.726
اگر توقف اش را بخواهی،

00:12:39.750 --> 00:12:41.476
مشکل انجام شدنی بودن آن است.

00:12:41.500 --> 00:12:44.309
پس واقعا فایده ای ندارد
اگر نوعی از یک کشور --

NOTE Paragraph

00:12:44.333 --> 00:12:46.395
ک.ا: فایده ای ندارد
اگر یک کشور انجامش دهد،

00:12:46.395 --> 00:12:49.309
ولی ما قبلا معاهده هایی داشته ایم.

00:12:49.333 --> 00:12:52.684
روشی که واقعا
از خطر هسته ای عبور کرده ایم،

00:12:52.708 --> 00:12:53.976
با حرکت به سمتش بوده

00:12:54.000 --> 00:12:56.518
و عبور از مسیر دردناک مذاکرات.

00:12:56.542 --> 00:13:01.976
تعجب می کنم که آیا منطقی نیست
اگر به عنوان اولویتی جهانی،

00:13:02.000 --> 00:13:03.684
بخواهیم تلاش کنیم،

00:13:03.708 --> 00:13:06.417
مثلا، همین حالا مذاکره
برای قوانینی خیلی محکم را شروع کنیم

00:13:06.417 --> 00:13:09.101
که تحقیقات زیست شناسی
مصنوعی تا کجا ادامه یابد،

00:13:09.125 --> 00:13:11.976
که این چیزی نیست که بخواهید
به دست همه بدهید، نه؟

NOTE Paragraph

00:13:12.000 --> 00:13:13.809
ن.ب: من کاملا موافقم که --

00:13:13.833 --> 00:13:18.059
که این را می خواهیم، برای مثال،

00:13:18.083 --> 00:13:21.684
شاید داشتن دستگاه های ترکیب دی ان ای،

00:13:21.708 --> 00:13:25.268
وسیله ای نباشد که هر آزمایشگاه
دستگاهش را داشته باشد،

00:13:25.292 --> 00:13:26.768
شاید خدمات آن داشته باشد.

00:13:26.792 --> 00:13:29.309
شاید مثلا چهار یا پنج محل در جهان باشند

00:13:29.333 --> 00:13:32.851
که شما الگوی دیجیتال خود را می فرستید
و دی ان ای برایتان بر می گردد، درست؟

00:13:32.875 --> 00:13:34.643
و حالا این توانایی را دارید،

00:13:34.667 --> 00:13:37.059
که اگر روزی واقعا به نظر لازم رسید،

00:13:37.083 --> 00:13:39.434
محل های مشخصی برای خفه کردن داریم.

00:13:39.458 --> 00:13:42.976
پس به نظرم به دنبال
نوعی موقعیت خاص هستی،

00:13:43.000 --> 00:13:45.059
که بتوانی کنترلی محکمتر داشته باشی.

NOTE Paragraph

00:13:45.083 --> 00:13:46.726
ک.ا: به باور شما، اساسا،

00:13:46.750 --> 00:13:49.643
ما با عقب نگاه داشتن
موفقیتی بدست نمی آوریم.

00:13:49.667 --> 00:13:52.393
کسی، جایی --
کره شمالی، می دانی --

00:13:52.417 --> 00:13:55.934
کسی به آنجا می رسد و دانش را بدست می آورد،

00:13:55.958 --> 00:13:57.226
اگر آنجا باشد.

NOTE Paragraph

00:13:57.250 --> 00:13:59.601
ن.ب: در شرایط موجود قابل قبول است.

00:13:59.625 --> 00:14:01.559
تنها زیست شناسی مصنوعی هم نیست.

00:14:01.583 --> 00:14:04.101
به نظرم هر نوعی از تغییرات
جدید و عمیق در جهان

00:14:04.101 --> 00:14:05.727
می تواند تبدیل به یک توپ سیاه شود.

NOTE Paragraph

00:14:05.727 --> 00:14:07.823
ک.ا: بیا تا به شکل دیگری
از پاسخ نگاه کنیم.

NOTE Paragraph

00:14:07.823 --> 00:14:10.226
ن.ب: این هم، به نظرم،
تنها توانایی محدودی دارد.

00:14:10.250 --> 00:14:13.809
برای آسیب پذیری نوع ۱،

00:14:13.833 --> 00:14:18.184
منظورم اینکه اگر بتوانی
تعداد کسانی را کاهش دهی که انگیزه

00:14:18.208 --> 00:14:19.476
نابودی جهان را دارند،

00:14:19.500 --> 00:14:22.033
اگر تنها آنها به امکانات
و روش ها دسترسی داشته باشند ،

00:14:22.033 --> 00:14:22.996
چیز خوبی است.

NOTE Paragraph

00:14:22.996 --> 00:14:25.245
ک.ا: در این تصویری
که از ما می خواهی انجام دهیم

00:14:25.245 --> 00:14:27.498
به نظرت این پهپاد هایی
که دور دنیا پرواز می کنند

00:14:27.498 --> 00:14:28.726
با توانایی تشخیص چهره.

00:14:28.750 --> 00:14:31.643
اگر کسی را پیدا کردند
که رفتارهای جامعه ستیزانه دارد،

00:14:31.667 --> 00:14:33.851
باید با عشق نثارشان کرد، درمانشان کرد.

NOTE Paragraph

00:14:33.875 --> 00:14:35.892
ن.ب: فکر می کنم این مثل
تصویری ترکیبی است.

00:14:35.892 --> 00:14:39.809
حذف یا معنی، حبس و کشتن می دهد،

00:14:39.833 --> 00:14:42.851
یا می تواند تشویق کردن
به نگاه بهتری از جهان باشد.

00:14:42.875 --> 00:14:44.601
اما نکته اینجاست،

00:14:44.625 --> 00:14:46.768
فرض کنید که بی نهایت در این موفق باشید،

00:14:46.792 --> 00:14:50.101
و تعداد چنین افرادی را نصف کنید.

00:14:50.125 --> 00:14:52.232
و اگر بخواهید با تشویق
این کار را انجام دهید،

00:14:52.232 --> 00:14:54.848
مجبور به رقابت با همه انواع
نیروهای قدرتمند دیگر می شوید

00:14:54.848 --> 00:14:56.143
که مردم را تشویق،

00:14:56.167 --> 00:14:58.248
به صف بندی، دین،
سیستم های آموزشی می کنند.

00:14:58.248 --> 00:14:59.863
اما فرض کنید بتوانید نصفش کنید،

00:14:59.887 --> 00:15:02.143
فکر نمی کنم که خطر آن به نصف کاهش یابد.

00:15:02.167 --> 00:15:03.726
شاید پنج یا ۱۰ درصد.

NOTE Paragraph

00:15:03.750 --> 00:15:08.101
ک.ا: توصیه نمی کنی که ما آینده بشریت
را روی پاسخ دوم شرط بندی کنیم.

NOTE Paragraph

00:15:08.125 --> 00:15:11.417
ن.ب: به نظرم این کار خوبی است
که برای تشویق و تغییر افراد تلاش کنیم،

00:15:11.417 --> 00:15:14.143
اما نباید آن را به عنوان
تنها راه حفاظت بدانیم.

NOTE Paragraph

00:15:14.167 --> 00:15:15.434
ک.ا: سومی چطور؟

NOTE Paragraph

00:15:15.458 --> 00:15:18.351
ن.ب: به نظر من دو روش عمومی وجود دارد

00:15:18.375 --> 00:15:22.351
که برای رسیدن به توانایی تثبیت جهان

00:15:22.375 --> 00:15:25.351
در برابر طیف کاملی از نقاط ضعف
احتمالی قابل استفاده هستند.

00:15:25.375 --> 00:15:26.934
که احتمالا به هر دو نیازمندیم.

00:15:26.958 --> 00:15:31.476
یکی، توانایی است بی نهایت موثر

00:15:31.500 --> 00:15:33.268
در ایجاد نظم پیشگیرانه.

00:15:33.292 --> 00:15:34.816
به گونه ای که بتوانی رهگیری کنی.

00:15:34.840 --> 00:15:37.601
هرکسی را که خواست از این کارهای
خطرناک انجام دهد،

00:15:37.625 --> 00:15:40.309
بتوانی در لحظه پیدایشان کنی،
و جلویشان را بگیری.

00:15:40.333 --> 00:15:42.809
و این نیازمند نظارت فراگیر در همه جاست،

00:15:42.833 --> 00:15:45.208
همه باید همیشه تحت نظر باشند.

NOTE Paragraph

00:15:46.333 --> 00:15:48.893
ک.ا: این مثل فیلم «گزارش اقلیت» است،
اساسا، به شکلی.

NOTE Paragraph

00:15:48.917 --> 00:15:51.105
ن.ب: شاید الگوریتم های
هوش مصنوعی داشته باشی،

00:15:51.105 --> 00:15:55.292
مراکز بزرگ آزادی خواهی
که این را بررسی می کنند، غیره و غیره.

NOTE Paragraph

00:15:56.583 --> 00:16:00.976
ک.ا: می دانی که نظارت انبوه عمومی
این روزها موضوع خیلی محبوبی نیست؟

NOTE Paragraph

00:16:01.000 --> 00:16:02.250
(خنده حضار)

NOTE Paragraph

00:16:03.458 --> 00:16:05.268
ن.ب: بله، این وسیله کوچک اینجا،

00:16:05.292 --> 00:16:08.893
فرض کن این نوع از گردنبند
که باید همیشه ببندی

00:16:08.917 --> 00:16:10.917
با دوربین های تمام جهت.

00:16:11.792 --> 00:16:13.601
اما، برای اینکه بهتر جا بیفتد،

00:16:13.625 --> 00:16:16.149
اسمش را بگذار «پلاک آزادی»
یا چیزی مشابه آن.

NOTE Paragraph

00:16:16.173 --> 00:16:18.184
(خنده حضار)

NOTE Paragraph

00:16:18.208 --> 00:16:19.476
ک.ا: قبول.

00:16:19.500 --> 00:16:21.601
دوستان، این همان صحبتی است که باید باشد،

00:16:21.625 --> 00:16:25.184
به این دلیل است که چرا این صحبت
دیوانه کننده است.

NOTE Paragraph

00:16:25.208 --> 00:16:27.809
ن.ب: واقعا، بحث های زیادی است

00:16:27.833 --> 00:16:29.143
تنها در این مورد، مشخص است.

00:16:29.167 --> 00:16:31.643
مشکلات و مخاطراتی عظیم
همراهش است، درسته؟

00:16:31.667 --> 00:16:32.934
شاید به آن برگردیم.

00:16:32.958 --> 00:16:34.226
آن بعدی، آخری،

00:16:34.250 --> 00:16:36.809
توانایی ایجاد ثبات عمومی

00:16:36.833 --> 00:16:38.893
به نوعی اتصال یک شکاف
مدیریتی دیگر است.

00:16:38.917 --> 00:16:43.101
پس این نظارت نوعی
از مدیریت شکاف مدیریتی در سطح-خرد است.

00:16:43.125 --> 00:16:46.226
مثل، جلوگیری از از اینکه کسی
هیچوقت خطای خیلی بزرگی نکند.

00:16:46.250 --> 00:16:48.559
سپس، یک شکاف مدیریتی مشابه هم هست

00:16:48.583 --> 00:16:50.518
در سطح-کلان، سطحی جهانی.

00:16:50.542 --> 00:16:54.476
تو به توانایی و مطمئن بودن نیاز داری،

00:16:54.500 --> 00:16:57.309
تا مانع از بدترین نوع
عدم هماهنگی جهانی شوی،

00:16:57.333 --> 00:17:01.101
مانع از جنگ میان قدرت های بزرگ،

00:17:01.125 --> 00:17:02.458
مسابقات تسلیحاتی،

00:17:03.500 --> 00:17:05.708
مشکلات فاجعه آمیز مشترک،

00:17:07.667 --> 00:17:11.851
تا بتوانی با آسیب پذیری های
نوع ۲-الف مواجه شوی.

NOTE Paragraph

00:17:11.875 --> 00:17:13.809
ک.ا: مدیریت جهان عبارتی است

00:17:13.833 --> 00:17:16.059
که امروزه خیلی از مد افتاده،

00:17:16.083 --> 00:17:18.601
اما آیا می توانی اینطور
نتیجه بگیری که در طول تاریخ،

00:17:18.625 --> 00:17:19.893
تارخ بشریت،

00:17:19.917 --> 00:17:25.351
در هر مرحله از افزایش قدرت فناوری،

00:17:25.375 --> 00:17:28.601
انسان با سازماندهی دوباره،
قدرت را مرکزی کرده.

00:17:28.625 --> 00:17:32.059
برای مثال، وقتی که یک گروه جانی

00:17:32.083 --> 00:17:33.942
می توانند جامعه ای را در اختیار بگیرند،

00:17:33.942 --> 00:17:36.031
پاسخ این بود که شما یک کشور-ملت هستید

00:17:36.055 --> 00:17:38.489
و تو نیرو را مرکزی مردی،
مثل نیروی پلیس یا ارتش،

00:17:38.513 --> 00:17:40.143
پس، «نه نمی شود این کار را کرد.»

00:17:40.167 --> 00:17:44.726
شاید، منطقِ داشتن یک شخص یا گروه

00:17:44.750 --> 00:17:46.393
که بتواند بشریت را رها کند

00:17:46.417 --> 00:17:49.143
به معنی این است که زمانی
باید وارد این مسیر شویم،

00:17:49.167 --> 00:17:50.601
حداقل به شکلی، نه؟

NOTE Paragraph

00:17:50.625 --> 00:17:54.309
ن.ب: مسلما درست است
که اندازه سازمان های سیاسی افزایش یافته

00:17:54.333 --> 00:17:56.476
که در طول تاریخ بشر.

00:17:56.500 --> 00:17:58.518
معمولا شکارچی-گردآور بوده است، درست،

00:17:58.542 --> 00:18:01.476
و بعد رئیس قبیله، دولت-شهر، ملت،

00:18:01.500 --> 00:18:05.476
و حالا سازمان های بین المللی
و به همین شکل و صورت.

00:18:05.500 --> 00:18:07.018
حالا، می خواستم تا مطمئن شوم

00:18:07.042 --> 00:18:08.918
که این موقعیت را داشته ام که تاکید کنم

00:18:08.918 --> 00:18:10.684
مشخصا ضررهایی عظیم

00:18:10.708 --> 00:18:12.380
و حقیقتا، خطراتی سنگین وجود دارند،

00:18:12.380 --> 00:18:15.601
هم در نظارت سنگین عمومی
و هم در مدیریت جهانی.

00:18:15.625 --> 00:18:18.184
اشاره من تنها این است
که ما خوش شانسیم،

00:18:18.208 --> 00:18:20.893
جهان می توانست چنان باشد
که اینها تنها راه های

00:18:20.917 --> 00:18:22.434
بقا بعد از یک توپ سیاه باشند.

NOTE Paragraph

00:18:22.458 --> 00:18:24.976
ک.ا: منطق این نظریه،

00:18:25.000 --> 00:18:26.268
به نظر من،

00:18:26.292 --> 00:18:29.893
این است که باید تشخیص دهیم
که نمی شود همه چیز را با هم داشت.

00:18:29.917 --> 00:18:31.750
که نوعی از،

00:18:33.500 --> 00:18:36.476
رویای ساده لوحانه که خیلی از ما داشته ایم

00:18:36.500 --> 00:18:39.851
که فناوری همیشه یک نیروی خوبی خواهد بود،

00:18:39.875 --> 00:18:42.851
ادامه بده، توقف نکن،
تا می توانی تند برو

00:18:42.875 --> 00:18:45.226
و به بعضی از نتایج توجه نکن،

00:18:45.250 --> 00:18:46.934
واقعا دیگر امکان پذیر نیست.

00:18:46.958 --> 00:18:48.893
می توانیم آن را داشته باشیم.

00:18:48.917 --> 00:18:50.184
و اگر داشته باشیم،

00:18:50.208 --> 00:18:51.643
باید قبول کنیم

00:18:51.667 --> 00:18:54.226
بعضی از چیزهای ناراحت کننده ای
را که همراه آن است،

00:18:54.250 --> 00:18:56.630
که نوعی از بودن در آن
مسابقه تسلیحاتی با خودت است

00:18:56.630 --> 00:18:58.768
که اگر قدرت می خواهی،
بهتر است محدودش کنی،

00:18:58.792 --> 00:19:00.934
بهتر است بفهمی چطور محدودش کنی.

NOTE Paragraph

00:19:00.958 --> 00:19:04.434
ن.ب: به نظرم این یک انتخاب است،

00:19:04.458 --> 00:19:07.390
یک انتخاب خیلی وسوسه کننده،
از این نظر که انتخابی ساده تر است

00:19:07.390 --> 00:19:08.622
که ممکن است جواب هم بدهد،

00:19:08.622 --> 00:19:13.351
اما معنی اش این است که ما ذاتا
در بیرون آوردن توپ سیاه آسیب پذیریم.

00:19:13.375 --> 00:19:15.518
حالا، فکر کنم با کمی هماهنگی،

00:19:15.542 --> 00:19:18.268
مثلا، اگر بتوانی مشکل
این مدیریت کلان را حل کنی،

00:19:18.292 --> 00:19:19.893
و مدیریت خرد را حل کنی،

00:19:19.917 --> 00:19:22.226
می توانی توپ را از گلدان بیرون آوری

00:19:22.250 --> 00:19:24.518
و کلی مزیت بدست آورده ایم.

NOTE Paragraph

00:19:24.542 --> 00:19:27.976
ک.ا: اگر ما در یک شبیه سازی
زندگی می کنیم، این اهمیتی دارد؟

00:19:28.000 --> 00:19:29.473
برنامه را دوباره اجرا می کنیم.

NOTE Paragraph

00:19:29.473 --> 00:19:30.601
( خنده حضار)

NOTE Paragraph

00:19:30.625 --> 00:19:32.268
ن.ب.: پس ... من ...

NOTE Paragraph

00:19:32.292 --> 00:19:34.768
(خنده حضار)

00:19:34.792 --> 00:19:36.208
حواسم به این یکی نبود.

NOTE Paragraph

00:19:38.125 --> 00:19:39.393
ک.ا: شما چه نگاهی دارید؟

00:19:39.417 --> 00:19:44.226
با کنار هم گذاشتن همه این اجزاء،
احتمال محکوم به شکست بودنمان چقدر است؟

NOTE Paragraph

00:19:44.250 --> 00:19:46.208
(خنده حضار)

NOTE Paragraph

00:19:47.042 --> 00:19:49.434
عاشق خنده مردم هستم
وقتی این سوال را می پرسی.

NOTE Paragraph

00:19:49.458 --> 00:19:50.809
ن.ب: در سطح فردی،

00:19:50.833 --> 00:19:54.684
به نظر می رسد که به هر شکل محکوم هستیم،
تنها از دید زمانی،

00:19:54.708 --> 00:19:57.309
ما می پوسیم و پیر می شویم
و هه این چیزها، درست؟

NOTE Paragraph

00:19:57.333 --> 00:19:58.934
(خنده حضار)

NOTE Paragraph

00:19:58.958 --> 00:20:00.473
واقعا کمی پیچیده است.

00:20:00.473 --> 00:20:03.434
اگر بخواهی به شکلی تنظیمش کنی که،
بتوانی احتمالی هم به آن بدهی،

00:20:03.458 --> 00:20:04.726
اول، ما که هستیم؟

00:20:04.750 --> 00:20:07.476
اگر خیلی پیر هستید،
احتمالا به دلایل طبیعی خواهید مرد،

00:20:07.500 --> 00:20:09.851
اگر جوان هستید،
احتمالا به ۱۰۰ سالگی برسید --

00:20:09.875 --> 00:20:12.018
احتمال آن بستگی دارد از که بپرسید.

00:20:12.042 --> 00:20:16.268
بعد آن آستانه، یعنی، چه چیزی
را نابودی تمدن می دانیم؟

00:20:16.292 --> 00:20:21.934
در این مقاله، من نیازی
به یک فاجعه نابود کننده هستی

00:20:21.958 --> 00:20:23.393
برای به حساب آوردن نداشته ام.

00:20:23.417 --> 00:20:25.101
این تنها یک تعریف است.

00:20:25.125 --> 00:20:26.434
فرض کنید یک میلیارد کشته،

00:20:26.458 --> 00:20:28.518
یا کاهش ۵۰ درصدی تولید ناخالص ملی جهان،

00:20:28.542 --> 00:20:30.768
اما با توجه به آستانه ای
که شما تعریف می کنید،

00:20:30.792 --> 00:20:32.768
تخمین متفاوتی از احتمال بدست می آورید.

00:20:32.792 --> 00:20:37.309
اما فکر کنم شما بهتر است من را
به عنوان یک خوشبین ترسو کنار بگذارید.

NOTE Paragraph

00:20:37.333 --> 00:20:38.434
(خنده حضار)

NOTE Paragraph

00:20:38.458 --> 00:20:40.101
ک.ا: تو یک خوشبین ترسو هستی،

00:20:40.125 --> 00:20:44.393
که فکر کنم همین حالا کلی
ترسوی دیگر بوجود آوردی ....

00:20:44.417 --> 00:20:45.684
آدمهای.

NOTE Paragraph

00:20:45.708 --> 00:20:46.768
(خنده حضار)

NOTE Paragraph

00:20:46.792 --> 00:20:48.059
ن.ب.: در شبیه سازی.

NOTE Paragraph

00:20:48.083 --> 00:20:49.351
ک.ا: در شبیه سازی.

00:20:49.375 --> 00:20:51.313
نیک بوستروم، ذهن تو مرا شگفت زده می کند،

00:20:51.313 --> 00:20:54.090
خیلی متشکرم از اینکه
حالا ما را از روز روشن هم ترسانده ای.

NOTE Paragraph

00:20:54.090 --> 00:20:56.375
(تشویق حضار)