كيف تدمّر الحضارة نفسها، وأربع طرق لمنع ذلك

الإنسانية في طريقها لخلق "كرة سوداء"، اختراق تكنولوجي يمكنه تدميرنا جميعاً، كما يقول الفيلسوف نيك بوستروم. في هذه المحادثة الثاقبة والمفاجئة والمنيرة للقلب مع أمين TED كريس أندرسون، يحدد بوستروم نقاط الضعف التي يمكن أن نواجهها (أو متى)، دوامة اختراعاتنا خارجة عن سيطرتنا ونكتشف كيف يمكننا منع زوالنا في المستقبل.

كريس أندرسون: نيك بوستروم.

إذاً، لقد أعطيتنا الكثير
من الأفكار المجنونة من قبل.

أعتقد أنه منذ عقدين،

وضعت فكرة أننا ربّما نعيش في محاكاة،

أو ربّما من المحتمل كنا نعيش فيها.

في الآونة الأخيرة،

وضعت مثالاً حياً لكيفية
كون الذكاء الاصطناعي العام

يمكنه أن يكون خطأً رهيباً.

والآن في هذه السنة،

أنت على وشك نشر

بحث يعرض شيئاً يسمى فرضيات ضعف العالم.

وعملنا في هذه الأمسية هو توضيح ذلك.

لنفعلها.

ما هي هذه الفرضيات؟

نيك بوستروم: إنها محاولة التفكير

في بناء خصائص لشروط الإنسان المعاصر.

إذا أردت التعبير المجازي،

سأستعمل هذا المجاز لأشرح.

تصوّر جرّة كبيرة مملوءة بالكرات

تعرض أفكاراً وأساليب وتقنيات ممكنة،

يمكنك أن تفكر حول
اختراعات الإنسان عبر التاريخ

كعملية وصول إلى هذه الجرّة
وإخراج كرة بعد الأخرى،

والنتيجة حتى الآن كانت مفيدة،
أليس كذلك؟

لقد استخرجنا الكثير من الكرات البيضاء،

وبعض الكرات المصبوغة بالرمادي،
مختلفة التأثير.

حتى الآن لم نخرج الكرة السوداء...

التكنولوجيا التي تدمّر بثبات
الحضارة التي صنعتها.

يحاول البحث التفكير حول
ماهية هذه الكرات السوداء.

كريس أندرسون: إذن عرّفت هذه الكرات

كواحدة ممّا لا يمكن
تجنّبه في تدمير الحضارة.

نيك بوستروم: إلا إذا أخرجنا ما أسميه
الشرط الافتراضي الشبه فوضوي.

لكنه نوعاً ما افتراضي.

كريس أندرسون: إذن جعلت القضية مقنعة

بعرض بعض الأمثلة المخالفة

حيث ترى أننا إلى الآن محظوظون،

في كوننا ربّما نسحب كرة الموت

ونحن حتى لا نعرفها.

إذن، هذا المثل، ماذا يعنيه؟

نيك بوستروم: أظن أنه يعني توضيح

صعوبة بعد النظر

حول ما تقودنا إليه الاكتشافات الأساسية.

نحن فقط لا نملك هذه الإمكانية.

لأننا أصبحنا جيدين في استخراج الكرات،

لكننا لا نملك القدرة
على إرجاع الكرات إلى الجرّة.

يمكننا أن تخترع، لكن لا يمكننا ألا نخترع.

إذاً، استراتيجيتنا، وكأنها،

الأمل في عدم إخراج كرة سوداء من الجرّة.

كريس أندرسون: بمجرّد أن تخرج، فقد خرجت،
لا يمكنك إرجاعها،

أنت تعتقد أننا كنا محظوظين.

إذن حدثنا عن بعض الأمثلة.

الأمثلة المختلفة عن نقاط الضعف.

نيك بوستروم: أسهل طريقة للفهم

أن التكنولوجيا تجعل من السهولة بمكان

التسبب في كم هائل من التدمير.

البيولوجيا الاصطناعية من المحتمل أنها
مورد خصب لهذه الكرات السوداء،

لكن الكثير من الأشياء الأخرى،

فكر مثلاً في الهندسة الجيولوجية،
رائعة، صحيح؟

يمكننا مكافحة الاحتباس الحراري،

لكنك لا تريدها أن تكون في متناول الجميع،

أنت لا تريد لأي شخص مع جدته

أن يكون لديه القدرة للرفع من حرارة الأرض.

أو ربما طائرات بدون طيار قاتلة،

أو إنتاج هائل للروبوتات
القاتلة بحجم البعوضة.

النانوتكنولوجي، الذكاء الاصطناعي العام.

كريس أندرسون: جادلت في بحثك

أنها مسألة حظ عندما اكتشفنا

أن الطاقة الذرية يمكن أن تصنع القنبلة،

إذا كان هذا هو الحال

فمن الممكن أن تصنع قنبلة

بموارد أسهل بكثير ومتاحة للجميع.

نيك بوستروم: بالرجوع لسنة 1930

عندما حققنا لأول مرّة بعض
الانجازات في مجال الفيزياء النووية،

اكتشف بعض العباقرة أنه من الممكن
إنشاء مجموعة من التفاعلات الذرية

تقودنا نحو القنبلة.

وأنجزنا بعض العمل،

اتّضح أن صناعة القنبلة الذرية يتطلب

يورانيوم والبلاتينيوم عالي التخصيب،

وهي مواد من الصعب جداً الحصول عليها.

أنت بحاجة لأجهزة طرد مركزي،

تحتاج مفاعلات،
كميات هائلة من الطاقة.

لكن لنفرض أنه تبين بدلاً من ذلك

أن ثمة طريقة سهلة للحصول على طاقة الذرة.

ربما مثل تحميص الرمل في أفران الميكروويف

أو شيء من هذا القبيل

يمكنك خلق تفجير نووي.

فنحن نعلم أن هذا مستحيل فيزيائياً.

لكن قبل إنشائك للمتعلقات الفيزيائية

كيف يتضح لك ذلك؟

كريس أندرسون: رغم أنك لم تتمكن من النقاش

أن تطور الحياة على الأرض

يطبق نوعاً من بيئة مستقرة،

بحيث إذا حدثت تفاعلات نووية كبيرة
من المحتمل أنه من السهل،

أن تصبح الأرض غير مستقرة،

حيث أننا لن نكون هنا أبداً.

نيك بوستروم: نعم، إلا إذا كان هناك
شيئاً يسهل هذا الهدف

لكن هذا لن يحصل عشوائياً.

مثل الأشياء السهلة،

يمكنك أن تكدس عشرة طوابق فوق بعضها،

لكن في الطبيعة لا يمكن أن تجد عشرة طوابق
فوق بعضها.

كريس أندرسون: من المحتمل أن هذا

ما يخشاه الكثير منا،

ونعم، علم الأحياء الاصطناعية
من المحتمل أنه أسرع طريق

يمكننا التنبؤ به في المستقبل القريب.

نيك بوستروم: فكر في ما الذي يعنيه هذا

إذا قلنا، أن أي شخص يعمل بمطبخه في المساء

يمكنه تدمير مدينة.

من الصعب تصور الحضارة المعاصرة كما نعرفها

أن تتمكن من النجاة من هذا.

لأنه في أي مجتمع من مليون شخص،

سيختار دائماً البعض لأي سبب

أن يستعمل هذه القوة المدمرة.

إذا اختار هؤلاء المروعون

تدمير المدينة أو أسوأ،

ستتدمر عندها المدن.

كريس أندرسون: هذا نوع آخر من نقاط الضعف.

كلمنا عنه.

نيك بوستروم: بالإضافة إلى هذه
الأنواع الواضحة من الكرات السوداء

التي يمكنها أن تدمر الكثير من الأشياء،

تقوم أنواع أخرى بإنشاء محفزات سيئة

للبشر من أجل فعل أشياء ضارة.

نوع-2a، يمكننا أن نسميه هكذا،

وهو التفكير في بعض التكنولوجيا
التي تحفز القوى الكبرى

لاستعمال كميتها الهائلة
من القوة لإنشاء التدمير.

لذا الأسلحة النووية في الحقيقة
جد قريبة من هذا، أليس كذلك؟

ماذا فعلناه، أنفقنا 10 ترليون دولار

لبناء 70.000 رأس نووي

ووضعناها في حالة تأهب.

وهناك حالات كثيرة في الحرب الباردة

كدنا أن نفجر بعضنا.

إنها ليست فكرة الكثير من الناس
أنهم شعروا بأنها فكرة جيدة،

لننفق 10 ترليون دولار من أجل تفجير أنفسنا،

لكن المحفزات أننا وجدنا أنفسنا،

كان هذا من الممكن أن يسوء.

تخيل لو كانت هناك ضربة أولى آمنة.

كان من الممكن أن تكون خادعة.

في حالة أزمة،

للامتناع عن إطلاق كل الصواريخ النووية.

لا شيء آخر سوى الخوف من الجانب الآخر
أن يطلق الصواريخ النووية.

كريس أندرسون: حافظ الدمار المؤكد المتبادل

على توازن الحرب الباردة،

لولا هذا، ربما لم نكن هنا اليوم.

نيك بوستروم: كان من الممكن
أن يكون غير مستقر أكثر من ذلك.

ويمكن أن تكون تكنولوجيا أخرى.

من الممكن أن يكون أصعب من معاهدات التسليح،

إذا كان البديل عن الأسلحة النووية

أشياء أصغر أو شيء أقل تميزاً.

كريس أندرسون: مثل المحفزات السيئة
للقوى الفاعلة،

أنت أيضاً قلق من محفزات
سيئة لنا جميعا، نوع 2b هنا.

نيك بوستروم: هنا يمكننا أن نأخذ
حالة الاحتباس الحراري.

هناك الكثير من الفرص المناسبة

التي جعلتنا جميعاً نفعل أشياء

في فرديتها لن يكون لها أي تأثير، صحيح؟

لكن إذا كان المليارات من الناس يفعلونها،

تراكمياً، لديها تأثيرات مدمرة.

الآن، يمكن أن يكون
الاحتباس الحراري أسوأ بكثير.

لدينا معامل حساسية المناخ، أليس كذلك؟

هي معامل تخبرنا بحجم الحرارة المرتفعة

إذا نشرت كمية من غازات الاحتباس الحراري.

لنفرض أن هذه هي القضية

أن كمية الغاز المنبعثة التي ننشرها،

بدلاً من كون الحرارة ترتفع،

من 3 إلى 4.5 حتى سنة 2100،

فرضاً كانت بين 15 و20 درجة.

سنكون في وضع سيىء جداً.

أو لنفرض أن الطاقات
المتجددة كانت صعبة الإنجاز.

أو كان هناك وقود أحفوري أكثر في الأرضية.

كريس أندرسون: هل يمكن أن تجادل
إذا كانت القضية

إذا كان ما نفعله اليوم

أنتج فرقاً من 10 درجات في حياتنا،

على البشرية أن تفعل شيئاً حيال ذلك.

نحن أغبياء لكن ليس إلى هذه الدرجة.

أو ربما إلى هذه الدرجة.

نيك بوستروم: لا أراهن على ذلك.

(ضحك)

يمكنك أن تتصور ميزات أخرى.

الآن بالتحديد لا يمكننا التحول
نحو الطاقات المتجددة،

لكن يمكن أن نفعلها.

لكن ربما بفيزياء مختلفة قليلاً،

يمكن أن يكون فعل هذه الأشياء مكلفاً قليلاً

كريس أندرسون: ماذا ترى، نيك؟

هل تعتقد أن جمع هذه الإمكانيات مع بعض،

الأرض والإنسانية التي نحن عليها،

أننا متوجهون نحو عالم ضعيف؟

أن هناك كرة موت في المستقبل؟

نيك بوستروم: من الصعب الحكم.

أعتقد أن هناك عدة كرات سوداء في الجرة،

هذا ما تبدو عليه.

لكن هناك أيضاً كرات ذهبية

التي يمكن أن تساعدنا
للحماية ضد الكرات السوداء.

وأنا لا أعلم بأي نظام تخرج.

كريس أندرسون: أريد نقد فلسفي
ممكن لهذه الفكرة

التي يكمن أن يستقر عليها المستقبل

سواء كانت هناك كرات أم لا.

وفي هذا الطريق،

ليست فكرة عن المستقبل الذي أريد تصديقه.

أريد التصديق أن المستقبل غير محدد،

أن قراراتنا اليوم ستحدد

أي نوع من الكرات يمكننا أن نخرجها.

نيك بوستروم: إذا كنا فقط
مستمرون في الاختراع،

في النهاية سنخرج جميع الكرات.

أظن أن هناك ضعف في شكل تحديد التكنولوجيا

معقولة جداً،

مثلاً، من غير المحتمل أن تلتقي بمجتمع

يستعمل الفؤوس الحجرية والطائرات الخاصة.

لكن يمكنك التفكير في التكنولوجيا على أنها
مجموعة من إمكانيات الفعل.

إذاً التكنولوجيا هي التي تمكننا
من فعل أشياء مختلفة

وتحقيق إنجازات هامة في العالم.

كيف نستعملها، هذا راجع إلى الإنسان.

لكن إذا فكرنا في هذه
الأنواع الثلاثة من الضعف،

ستترك لنا افتراضات ضعيفة
حول كيفية الاختيار في استعمالها.

لذا، النوع-1 من الضعف، مرة أخرى،
القوة الهائلة للتدمير،

افتراض ضعيف إلى حد ما

أن نفكر في أن ملايين الناس

قد يكون منهم من يستعمل هذه القوة المدمرة.

كريس أندرسون: بالنسبة لي أكبر دليل مزعج

هو أننا في الحقيقة نملك
نظرة عما يوجد داخل الجرّة

تجعلنا في الحقيقة وكأننا
محكوم علينا بالفشل.

أعني، أنه إذا كنت تصدق بالقوة المتسارعة،

التي تسير بها التكنولوجيا،

حيث صنعنا الأدوات التي تجعلنا أكثر قوة،

عندها تصل إلى مرحلة

حيث يمكن لشخص واحد أن يدمرنا،

عندها يبدو أننا في مأزق.

أليس هذا الدليل يدق ناقوس الخطر؟

نيك بوستروم: نعم

(ضحك)

أظن...

نعم، أصبحا أكثر قوة،

ومن السهل استعمال هذه القوة،

لكن يمكننا أيضاً اختراع تقنيات
تساعدنا في الحفاظ على السيطرة

في كيفية استعمال الناس لهذه القوة.

كريس أندرسون: لنتكلم عن هذا،
عن الاستجابة.

مفترضين هذا التفكير حول الإمكانيات

الموجودة هناك الآن

ليس فقط مشروع سينبابو،
هناك حرب الإنترنت،

الذكاء الاصطناعي، إلخ، إلخ،

ربّما هناك خطر حقيقي على مستقبلنا.

ما هي الاستجابات الممكنة؟

وأنت تكلمت عن أربع احتمالات ممكنة.

نيك بوستروم: لا يبدو تقييد التطور
التكنولوجي واعداً،

إذا كنا نتحدث عن وقفة
عامة للتطور التكنولوجي.

أعتقد أنه ليس ممكناً،

ولا مرغوباً فيه
وحتى ولو كنا قادرين على ذلك.

أظن من الممكن وجود بعض المساحات المحدودة

حيث يمكنك إبطاء تطور التكنولوجيا.

أنت لا تريد، تطوراً
سريعاً في الأسلحة البيولوجية،

أو فصل النظائر،

التي ستجعل من السهل
إنشاء الأسلحة النووية.

كريس أندرسون: أنا متفق تماماً معك في هذا.

لكن أريد أن ندفع هذا للخلف لدقيقة.

لأننا، أولاً،

إذا نظرت إلى تاريخ العقود الأخيرة،

كان دائماً يدفع إلى الأمام بأقصى سرعة،

هذا خيارنا الوحيد.

لكن لو نظرت إلى العولمة
والتسارع حول هذا،

لو نظرت إلى استراتيجية
"تحرك بسرعة وحطم الأشياء"

ما الذي حصل لهذا،

ثم تنظر إلى احتمال
علم الأحياء الاصطناعية،

أنا لا أعلم هل يجب
أن نتحرك إلى الأمام بسرعة

دون أي نوع من التقييد

في عالم حيث يمكن أن يكون
في كل منزل طابعة حمض نووي

ومخبر عالي التقنية.

يجب أن يكون هناك بعض التقييد، أليس كذلك؟

نيك بوستروم: محتمل أن هناك الجزء الأول
وهو غير فعال.

إذا فكرت أنه سيكون مرغوباً إيقافه،

هناك مشكلة الجدوى من ذلك.

لذا لن يساعدنا إذا أمة...

كريس أندرسون: لن يساعدنا
إذا فعلتها أمة من الأمم،

لكن كانت هناك معاهدات من قبل.

هكذا نجونا من التهديد النووي،

حيث ذهبنا هناك

خلال العملية المؤلمة من التفاوض.

أنا فقط أتساءل، أليس منطقياً لنا،
كقضية عالمية،

أن نذهب ونحاول،

مثلاً، نبدأ في المفاوضة حول قواعد واضحة

لضبط أبحاث البيولوجيا،

هذا شيء لا تريد أن تعممه على الجميع،
أليس كذلك؟

نيك بوستروم: أنا متفق معك تماماً

في رغبتنا، مثلاً،

أن تكون آلة تصنيع الحمض النووي،

ليس شيئا متوفراً لتكون موجودة في كل مخبر،

لكن ربما كخدمة.

ربما يكون هناك أربعة
أو خمسة أماكن في العالم

حيث يمكنك أن ترسل نموذج رقمي
ثم تحصل على الحمض النووي، أليس كذلك؟

عندها ستكون لك القدرة،

إذا رأيت في يوم ما أنه من الضروري،

كنا نفضل، مجموعة محددة من نقاط الاختناق.

لذا أعتقد أن ما تريده البحث
عن فرص استثنائية،

حيث يمكنك تشديد الرقابة.

كريس أندرسون: تؤمن بشكل أساسي،

أننا لن نكون ناجحين بالتقييد.

كما تعلم سيقوم شخص ما في مكان ما
- كوريا الشماية -

بالذهاب هناك واكتشاف المعرفة،

إذا كان يمكن العثور عليها.

نيك بوستروم: يبدو هذا منطقياً
في الوضع الحالي.

إنها ليست مجرد أحياء تخليقية أيضاً.

أعني، أي شيء جذري،
يمكن للتغيير الجديد في العالم

أن يتحول لكرة سوداء.

كريس أندرسون: لننظر إلى رد فعل آخر ممكن.

نيك بوستروم: أعتقد أن هذه أيضاً له
إمكانية محدودة فقط.

مع ثغرة نوع-1 مرة أخرى،

بمعنى إذا كانت لديك المقدرة لتقليل
عدد الأشخاص المتحفزين

لتدمير العالم،

إذا تم الوصول إليهم وإلى وسائلهم،

سيكون هذا جيداً.

كريس أندرسون: في هذه الصورة
التي تطلب منا أن نفعل

تتخيل أن هذه الطائرات بدون طيار
تحلق حول العالم

مع برامج التعرف على الوجه.

عندما يكتشفوا شخصاً ما
يُظهر سلوكيات مختلة،

يمطرونهم بالحب ويصلحونهم.

نيك بوستروم: أعتقد أنها صورة هجينة.

يعني الإقصاء إما مثلاً الحبس أو القتل،

أو إقناعهم رؤية العالم بصورة أفضل.

لكن الفكرة هي،

لنفترض أنك ناجح جداً في ذلك،

واستطعت تقليل عدد هؤلاء الأشخاص للنصف.

وإذا أردت أن تقوم بذلك بالإقناع،

أنت تنافس القوى الأخرى كلها

التي تحاول إقناع الناس،

أحزاب، دين، نظام تعليم.

لكن لنفترض أنه أمكنك تقليلهم للنصف،

لا أعتقد أن الخطر سيقل للنصف.

ربما يقل 5 أو 10%.

كريس أندرسون: أنت لا توصي أن نغامر
بمستقبل البشرية في الاستجابة الثانية.

نيك بوستروم: أعتقد أنه من الجيد المحاولة
لردع وإقناع الأشخاص،

لكن بدون الاعتماد على ذلك
كوسيلة وحيدة لحمايتنا.

كريس أندرسون: ماذا عن الثالثة؟

نيك بوستروم: أعتقد بوجود طريقتين أساسيتين

يمكننا استخدامهما لتحقيق التوازن في العالم

ضد كل نقاط الضعف المحتملة.

وربما نحتاج لكليهما.

واحدة منهما هي القدرة الفعالة جداً

للقيام بأعمال الشرطة الوقائية.

بحيث يمكنك الاعتراض.

إذا قام أحد بفعل أمر خطير،

يمكنك اعتراضهم في الوقت المناسب ومنعهم.

هذا يتطلب مراقبة في كل مكان،

سيراقب الجميع في كل وقت.

كريس أندرسون: شكل من أشكال
"تقرير الأقلية".

نيك بوستروم: ربما يكون لديك
خوارزميات الذكاء الاصطناعي،

مراكز حرية كبرى الذين كانوا يراجعون، إلخ.

كريس أندرسون: تعلم أن مراقبة الجمهور
ليس مصطلحاً شائعاً الآن، أليس كذلك؟

(ضحك)

نيك بوستروم: نعم، لذا يوجد جهاز صغير هناك،

تخيل مثل نوع من القلادة سترتديها طول الوقت

بها آلة تصوير متعددة الاتجاهات.

لكن، لجعل الأمر أكثر جودة،

ما عليك سوى تسميتها "بطاقة الحرية"
أو شيء من هذا القبيل.

(ضحك)

كريس أندرسون: حسناً.

هذا هو الحوار، أصدقاء،

هذا هو السبب في أن مثل هذا الحوار مذهل.

نيك بوستروم: حقاً، هناك حوار كبير حول هذا

في حد ذاته، بوضوح.

هناك مشاكل ضخمة ومخاطر في هذا، أليس كذلك؟

يمكننا الرجوع لذلك.

لذا الآخر، النهائي،

القدرة العامة الأخرى على الاستقرار

هو نوع من سد فجوة حكم أخرى.

لذا المراقبة ستكون نوعاً
من فجوة الحكم على المستوى الجزئي،

مثل، منع أي شخص من القيام
بأي شيء غير قانوني.

ثم، يوجد فجوة حكم مقابلة

على المستوى الكلي، المستوى العالمي.

ستحتاج إلى القدرة، الثقة،

لمنع الأنواع الأسوأ
من فشل التنظيم العالمي،

لتجنب الحروب بين القوى العظمى،

سباقات الأسلحة،

المشاكل الشائعة الكارثية،

للتعامل مع نقاط ضعف نوع 2a.

كريس أندرسون: الحكم العالمي مصطلح

يخرج بالتأكيد من النمط الآن،

ولكن يمكن أن تجعل القضية أنه عبر التاريخ،

هو أن تاريخ الإنسانية

في كل مرحلة من زيادة القوة التكنولوجية،

أعاد الناس تنظيم ومركزة السلطة.

مثلاً، عندما يسيطر مجموعة من المجرمين

على المجتمع،

كان رد الفعل، لديك دولة قومية

وتقوم بتمركز القوة،
قوة شرطة أو جيش،

لذا ، "لا ، لا يمكنك فعل ذلك."

ربما المنطق لتملك شخص واحد أو مجموعة واحدة

قادرون على إخراج الإنسانية

يعني في مرحلة ما
أننا مضطرون للمضي في هذا الطريق،

على الأقل في شكل ما، أليس كذلك؟

نيك بوستروم: من المؤكد
أن مستوى التنظيم السياسي زاد

على مدار تاريخ البشرية.

أعتاد أن يكون قبلي،

ثم مشيخة، مدن، أمم،

الآن هناك منظمات عالمية وهكذا.

مرة أخرى، أريد فقط التأكد

لدي الفرصة للتأكد

أنه من الواضح أن هناك سلبيات ضخمة

وبالتأكيد، مخاطر هائلة،

لكلاً من المراقبة الجماهيرية
والحكم العالمي.

أريد فقط أن أشير أنه إذا كنا محظوظين

سيكون العالم مثل ذلك وستكون
هذه الطرق الوحيدة

لتستطيع النجاة من الكرة السوداء.

كريس أندرسون: منطق هذه النظرية،

كما يبدو لي،

أن علينا أن نعترف
أننا لا يمكنا الحصول عليها كلها.

هذا نوع ما،

يمكنني القول، حلم ساذج لدى الكثيرين

أن التكنولوجيا ستكون دائماً
قوة من أجل الخير،

استمر، لا تتوقف، أسرع بقدر إمكانك

ولا تعر اهتماماً لبعض العواقب،

هذا في الواقع ليس خياراً.

يمكنا أن نحظى بذلك.

إذا حظينا بذلك،

سيتوجب علينا قبول

بعض من نقاط الضعف الأخرى غير المريحة،

ونوع ما في سباق التسلح مع أنفسنا

تريد القوة، الأفضل أن تحد منها،

الأفضل لك اكتشاف كيفية الحد منها.

نيك بوستروم: أعتقد أنه خيار،

خيار مغري للغاية، إلى حد ما الخيار الأسهل

وربما ينجح،

لكن يعني بشكل أساسي عرضة
لاستخراج كرة سوداء.

الآن، أفكر بشكل منظم قليلاً،

مثل، إذا قمنا بحل مشكلة الحكم الكلي،

ومشكلة الحكم الجزئي،

وقتها يمكننا استخراج الكرات من الجرة

وسنستفيد كثيراً.

كريس أندرسون: أعني، إذا كنا
نعيش في محاكاة، هل يهم؟

نحن فقط ريبوت.

(ضحك)

نيك بوستروم: ثم... أنا...

(ضحك)

لا أتوقع حدوث ذلك.

كريس أندرسون: ما وجهة نظرك؟

وضع كل القطع معاً،
ما مدى احتمال أننا محكوم عليهم بالفشل؟

(ضحك)

أحب ضحك الناس عندما تسأل هذا السؤال.

نيك بوستروم: على المستوى الشخصي،

يبدو أننا من المحكوم عليهم بالفشل
على أي حال، فقط مع الخط الزمني،

نحن نتعفن ونتقدم في السن
وجميع هذه الأشياء، أليس كذلك؟

(ضحك)

هذا خادع قليلاً.

إذا أردت البدء،
يمكنك تربط الاحتمالات،

أولاً، من نحن؟

إذا كنت طاعن في السن،
ستموت بأسباب طبيعية غالباً،

إذا كنت صغير جداً،
ربما لديك 100 عام

وربما يعتمد الاحتمال على من تسأل.

ثم البداية، مثل، ماذا يهم كدمار حضاري؟

في الورقة لا أحتاج كارثة وجودية

من أجل الاهتمام.

هذه مجرد مسألة تعريفية،

أقول مليار قتيل،

أو تخفيض الناتج المحلي
الإجمالي العالمي بنسبة 50%،

لكن اعتماداً على ما تقوله عن البداية،

تحصل على تقييم احتمال مختلف.

لكن أخمن أنني أصبحت متفائلاً متخوفاً.

(ضحك)

كريس أندرسون: أنت متفائل خائف،

وأعتقد أنك نقلت خوفك لعدد كبير...

من الأشخاص.

(ضحك).

نيك بوستروم: في المحاكاة.

كريس أندرسون: في المحاكاة.

لقد أدهشتني نيك بوستروم،

شكراً لك لترويعنا.

(تصفيق)