سأقوم بالتحدث عن فشل الحدس
الذي يعاني معظمنا منه.
هو في الواقع الفشل في تحرِّي نوع محدد من الخطر.
سوف أقوم بوصف سيناريو
أظنه مخيفاً
ومن المرجح أن يحدث،
وهذا ليس مزيجاً جيداً،
كما سيبدو.
ومع ذلك، بدلاً من الخوف، سيشعر معظمكم
بأن ما أتحدُّث عنه مثير نوعاً ما.
سأقوم بوصف كيف أن المكاسب التي نحصل عليها
من الذكاء الاصطناعي
يمكن في النهاية أن تدمرنا.
وفي الواقع، أظنه من الصعب جداً أن نرى كيف أنها لن تدمرنا
أو تلهمنا أن ندمر أنفسنا.
ومع ذلك إذا كنتم تشبهونني في شيء
فستجدون أنه من الممتع التفكير بهذه الأشياء.
وتلك الإجابة هي جزء من المشكلة.
حسناً؟ تلك الإجابة يجب أن تُقلقكم.
وإذا كان عليَّ أن أقنعكم في هذه المحادثة
أنه من المرجح أننا سوف نعاني من مجاعة عالمية
إما بسبب تغيُّر المناخ، أو بسبب كارثة أخرى،
وأن أحفادكم، أو أحفادهم،
من المرجح جداً أن يعيشوا، هكذا
فلن يخطر ببالكم.
"مثير للاهتمام".
تعجبني محادثة TED هذه.
المجاعة ليست مسلية.
الموت عن طريق الخيال العلمي، من ناحية أخرى، مسلٍّ،
وأحد الأشياء التي تقلقني للغاية بسبب تطور الذكاء الاصطناعي عند هذه النقطة
هي أننا نبدو وكأننا غير قادرين على إبداء استجابة عاطفية ملائمة
للأخطار التي تنتظرنا.
أنا غير قادر على إبداء هذه الاستجابة، وأنا أقوم بهذه المحادثة.
يبدو الأمر وكأننا نقف أمام بابين.
خلف الباب رقم واحد،
نتوقف عن تحقيق التقدُّم في بناء الآليات الذكية.
معدات حاسوبنا وبرمجياته تتوقف عن التحسن لسببٍ ما وحسب.
خذوا الآن لحظة للتفكير لماذا قد يحدث ذلك.
أعني، بافتراض مدى نفع الذكاء والأتمتة،
فإننا سنستمر بتحسين التكنولوجيا الخاصة بنا إذا كان بإمكاننا أصلاً.
ما الذي قد يمنعنا من فعل هذا؟
حربٌ نووية على جميع المقاييس؟
وباء عالمي؟
اصطدام كويكب؟
أن يصبح جاستن بيبر رئيساً للولايات المتحدة؟
(ضحك)
الخلاصة هي، شيءٌ ما عليه تدمير الحضارة كما نعرفها.
عليكم تخيُّل كم عليه أن يكون سيئاً
لكي يمنعنا من تحقيق تحسينات في التكنولوجيا الخاصة بنا
بشكل دائم،
جيلاً بعد جيل.
تقريباً بالتعريف، هذا أسوأ شيء
يمكن أن يحصل في تاريخ البشرية.
لذا البديل الوحيد،
وهو الذي يوجد خلف الباب رقم اثنين،
هو أن نستمر بتحسين آلاتنا الذكية
سنة بعد سنة بعد سنة.
وعند نقطة معينة، سنبني آلياتٍ أذكى مما نحن عليه،
وحالما يصبح لدينا آليات أذكى مننا،
سوف تبدأ بتحسين نفسها.
وعندها سنواجه ما دعاه عالم الرياضيات IJ Good
"انفجاراً ذكائياً"
وأن العملية يمكن أن تفلت من بين أيدينا.
الآن، هذا يتم عمله كرسم كاريكاتيري، كما أفعل هنا
كخوفٍ من جيوش ميليشيا من الرجال الآليين
التي ستهاجمنا.
ولكن هذا ليس السيناريو الأكثر احتمالاً.
الأمر ليس أن آلياتنا ستصبح حاقدة بشكل عفوي
المقلق حقاً هو أننا نبني آليات
أكثر كفاءة مما نحن عليه
وأن أقل اختلاف بين أهدافها وأهدافنا
يمكن أن يدمرنا.
فقط فكروا بكيفية علاقتنا بالنمل
نحن لا نكرههم.
ولا نخرج عن طريقنا لنؤذيهم.
في الواقع، أحياناً نتحمل آلاماً لكي لا نؤذيهم.
نحن نمشي من فوقهم على الرصيف.
ولكن عندما يكون لوجودهم
تعارض جدِّي مع أحد أهدافنا،
لنقل مثلاً عند إنشاء بناء كهذا،
نقوم بإبادتهم بدون أي تأنيب ضمير.
والقلق من أننا يوماً ما سوف نبني آليات
والتي، سواءٌ كانت مدركة أم لا،
قد تعاملنا بمثل هذا الاستخفاف.
والآن، أنا أشك أن هذا أبعد ما يكون عن العديد منكم.
وأراهن على أن هنالك منكم من يشك أن الذكاء الاصطناعي الخارق الذكاء ممكن،
أو حتى محتوم.
ولكن مع ذلك يجب عليكم أن تجدوا شيئاً ما خاطئاً في أحد الافتراضات التالية.
وهنالك ثلاثة منهم.
الذكاء هو مسألة معالجة للمعلومات في الأنظمة الفيزيائية.
في الواقع، هذا أكثر بقليل من مجرد افتراض.
نحن قمنا مسبقاً ببناء ذكاء محدود في آلياتنا،
والعديد من هذه الآليات تقوم بالأداء
في مستوى الذكاء البشري الخارق أصلاً.
ونعلم أن المادة المجردة
بإمكانها أن تعطي زيادة لما يدعى "بالذكاء العام"،
القدرة على التفكير بمرونة في عدة مجالات،
لأن دماغنا قام بتدبر الأمر. صحيح؟
أنا أعني، هناك ذرات فقط هنا،
وطالما نستمر ببناء أنظمة من الذرات
والتي تُبدي سلوكاً متزايداً أكثر وأكثر من الذكاء
فإننا في النهاية، إلا إذا تمَّت مقاطعتنا،
في النهاية سوف نبني ذكاءً عاماً
في آلياتنا.
من المصيري أن ندرك أن معدل التطور لا يهم،
لأن أي تطور هو كافٍ لإيصالنا إلى منطقة النهاية.
لا نحتاج قانون Moore للاستمرار. لا نحتاج التطور الأسي.
نحتاج فقط لأن نستمر بالمضي قدماً
الافتراض الثاني هو أننا سنستمر بالمضي قدماً.
سنستمر بتحسين آلياتنا الذكية.
وبافتراض أهمية الذكاء --
أنا أعني، أن الذكاء هو إما مصدر لكل شيءٍ نقدِّره
أو أننا نحتاجه لحماية كل شيءٍ نقدُّره.
إنه المنبع الأكثر أهمية لدينا.
لذلك نحتاج لفعل التالي.
لدينا مشاكل نحن بحاجة ماسِّة لحلها.
نريد شفاء الأمراض كالزهايمر والسرطان.
نريد أن نفهم الأنظمة الاقتصادية. نريد تحسين علم المناخ الخاص بنا.
لذلك سنفعل ذلك، إذا استطعنا.
القطار غادر المحطة بالفعل، ولا يوجد مكابح لشدها.
وأخيراً، نحن لا نقف عند قمة الذكاء،
أو في أي مكان قريب منها، على ما يبدو،
وهذا حقاً هو البصيرة المصيرية.
هذا ما يجعل موقفنا متزعزعاً للغاية،
وهذا ما يجعل حدسنا بما يخص الخطورة لا يُعتمد عليه أبداً.
والآن، فكروا فقط بأذكى شخص عاش في أي وقتٍ مضى.
تقريباً على قائمة الجميع القصيرة يوجد John von Neumann.
أعني، الانطباع الذي تركه von Neumann على الناس المحيطين به،
وهذا يشمل أعظم علماء الرياضيات والفيزياء في عصره،
بالكاد تم توثيقه بشكل جيد.
إذا كانت نصف القصص فقط عنه نصف صحيحة،
فلا يوجد شك
أنه أحد أذكى الأشخاص الذين عاشوا في أي وقتٍ مضى.
لذلك باعتبار طيف الذكاء.
هنا لدينا John von Neumann.
وهنا لدينا أنتم وأنا.
وثم هنا لدينا دجاجة.
(ضحك)
آسف، دجاجة.
(ضحك)
لا يوجد سبب يجعلني أجعل هذه المحادثة أكثر إحباطاً مما يحتاجه الأمر.
(ضحك)
يبدو أنه ساحق على الأرجح، ومع ذلك، يمتد طيف الذكاء
أبعد بكثير مما نتصور حالياً،
وإذا قمنا ببناء آلات أذكى مما نحن عليه،
فهي على الأرجح ستستكشف الطيف
بطرقٍ لا نستطيع تخيلها،
وسف تتعدانا بطرقٍ لا يمكننا تخيلها.
ومن المهم أن ندرك أن هذا صحيح بخصوص تأثير السرعة وحدها.
صحيح؟ إذاً تخيلوا إذا بنينا ذكاءً صنعياً خارق الذكاء
ولم يكن أذكى من فريق الباحثين العادي الخاص بكم
في ستانفورد أو معهد ماساتشوستس للتكنولوجيا.
حسناً، الدارات الالكترونية تعمل بشكل أسرع بحوالي ملايين المرات
من تلك الكيميائية الحيوية،
لذا هذه الآلة يجب أن تفكر أسرع بملايين المرات
من العقول التي قامت ببنائها.
لذا إذا تركتها تعمل لمدة أسبوع،
فسوف تؤدي ما يعادل 20,000 سنة من العمل بمستوى الذكاء البشري،
أسبوع بعد أسبوع بعد أسبوع.
كيف بإمكاننا حتى أن نفهم، أو حتى أن نُقيّد،
عقلاً يصنع هذا النوع من التطور؟
والأمر الآخر المقلق، بصراحة،
هو أن، تخيل أفضل سيناريو.
إذاً تخيلوا أننا اكتشفنا تصميماً للذكاء الصنعي فائق الذكاء
وليس لديه مخاوف سلامة.
لدينا التصميم المثالي للمرة الأولى.
وكأنه تم تسليمنا نبوءة
تتصرَّف تماماً كما ينبغي عليها.
هذه الآلة ستكون المثلى لتوفير العمالة.
بإمكانها تصميم آلية ستقوم ببناء الآلة
التي بإمكانها القيام بأي عمل فيزيائي،
تعمل بضوء الشمس،
ومهما يكن من أجل كلفة المواد الخام.
إذاً نحن نتكلم عن نهاية الكدح البشري.
نحن أيضا نتكلم عن نهاية العمل الذكائي.
فماذا قد تفعل القرود أمثالنا في هذا الظرف؟
حسناً، سنكون متفرغين للعب بالصحن الطائر وتبادل الرسائل مع بعضنا.
أضف بعض الـLSD مع اختيارات اللباس المشكوك بأمرها،
وبإمكان العالم كله أن يصبح كفيلم Burning Man.
(ضحك)
حسناً، هذا قد يبدو جيداً جداً،
ولكن اسألوا أنفسكم ماذا قد يسبب هذا
لاقتصادنا الحالي ووضعنا السياسي؟
يبدو أننا سنشهد على الأرجح
مستوى من تفاوت الثروات والبطالة
الذي لم نشهده أبداً من قبل
غياب الرغبة لوضع هذه الثروة الجديدة فوراً
في خدمة جميع البشرية،
بعض أصحاب التريليونات سوف يُشرِّفون أغلفة مجلات أعمالنا
بينما يكون باقي العالم متفرغاً لكي يتضور جوعاً.
وماذا سيفعل الروس أو الصينيون
إذا سمعوا أن شركةً ما في Silicon Valley
كانت على وشك نشر الذكاء الا فائق الذكاء؟
هذه الآلة ستكون قادرة على شن حرب،
سواء كانت على الأرض أو على الإنترنت،
بقوة غير مسبوقة.
هذا السيناريو هو الذي يربح كل شيء
أن تكون متقدماً بستة أشهر على المنافسة في هذه الحالة
تعني أن تكون متقدماً بـ500,000 سنة،
بأقل حد.
وبالتالي يبدو أنه حتى الإشاعات المحضة بما يخص النوع من الاكتشافات
يمكن أن تجعل فصائلنا تهتاج.
والآن، أكثر الأشياء إخافة،
من وجهة نظري، في هذه اللحظة،
هي النوع من الأشياء التي يقولها باحثو الذكاء الاصطناعي عندما
يريدون أن يكونوا مُطمئِنين.
والسبب الأكثر شيوعاً الذي يُقال لنا ألا نقلق بسببه هو الوقت
هذا كله سيمر، ألا تعلم.
هذا من المحتمل بعد 50 أو 100 سنة.
قال أحد الباحثين،
"القلق بشأن سلامة الذكاء الاصطناعي
هو كالقلق بشأن زيادة التعداد السكاني على المريخ"
هذه نسخة Silicon Valley
من "لا تُقلق رأسك الجميل الصغير بهذا".
(ضحك)
لا يبدو أن أحداً يلاحظ
أن الإشارة للحد الزمني
ليس له عواقب بتاتاً.
إذا كان الذكاء هو مجرد مسألة معالجة معلومات،
ونحن نستمر بتحسين آلياتنا،
فسنقوم بإنتاج شكلٍ ما من الذكاء الفائق.
وليس لدينا فكرة كم سيستغرق هذا مننا
لخلق الشروط للقيام بذلك بأمان.
دعوني أقل ذلك مرة أخرى.
ليس لدينا فكرة كم سيستغرق الأمر مننا
لخلق الشروط للقيام بذلك بأمان.
وإذا لم تلاحظوا، لم تعد الخمسون سنة كما كانت عليه.
هذه 50 سنة في أشهر.
هذه المدة التي امتلكنا فيها الـiPhone
هذه المدة التي انعرض فيها The Simpsons على التلفاز
خمسون سنة هي ليست بالوقت الكثير
لمواجهة أحد أكبر التحديات الذي سيواجه لفصيلتنا.
مرة أخرى، يبدو أننا نفشل في امتلاك الاستجابة العاطفية الملائمة
لما يوجد لدينا أكثر من سبب للإيمكان بأنه قادم
عالم الحاسوب Stuart Russell لديه تحليل لطيف هنا.
هو يقول، تخيلوا أننا استلمنا رسالة من حضارة الفضائيين،
والتي كانت:
"سكان الأرض،
سوف نصل إلى كوكبكم خلال 50 سنة.
استعدوا."
والآن نقوم بالعد التنازلي للأشهر حتى تهبط السفينة الأم؟
سنشعر بالعجلة أكثر مما نفعل الآن بقليل.
يُقال لنا ألا نقلق لسببٍ آخر
هو أن هذه الآليات ليس بوسعها إلا مشاركتنا منافعها
لأنها ستكون حرفياً امتداداً لأنفسنا.
ستكون مُطعَّمة مع أدمغتنا،
ونحن سنصبح جوهرياً أنظمتها الحوفية.
الآن خذوا لحظة للتفكير
أن الطريق الوحيد الآمن والحكيم للأمام،
الذي يُنصح به،
هو زرع هذه التكنولوجيا مباشرةً في أدمغتنا.
قد يكون الطريق الوحيد الآمن والحكيم للأمام،
ولكن عادةً يكون للمرء مخاوف عن كون التكنولوجيا
مفهومة لحدٍّ ما قبل أن تدخلها داخل رأسك.
(ضحك)
المشكلة الأعمق أن بناء ذكاء اصطناعي فائق الذكاء بمفرده
يبدو على الأرجح أنه أسهل
من بناء ذكاء اصطناعي فائق الذكاء
وامتلاك علم الأعصاب الكامل
الذي يسمح لنا بمكاملة عقولنا معه بسلاسة.
وبافتراض أن الشركات والحكومات التي تقوم بهذا العمل
على الأرجح ستعي كونها في سباق ضد الآخرين جميعاً،
وبافتراض أن الفوز في هذا السباق هو الفوز بالعالم،
بفرض أنك لن تدمره في الشهر التالي،
فبالتالي يبدو على الأرجح أنه مهما يكن الأسهل فعله
سيتم الانتهاء منه أولاً.
الآن، لسوء الحظ، لا أمتلك حلاً لهذه المشكلة،
بمعزل عن توصية أن يفكِّر المزيد مننا به.
أظن أننا بحاجة شيء ما مثل "مشروع مانهاتن"
لموضوع الذكاء الاصطناعي.
ليس لبنائه، لأنني أظننا سنفعل ذلك حتماً،
ولكن لفهم كيفية تجنب سباق الأذرع
ولبنائه بطريقة منحازة مع اهتماماتنا.
عندما تتحدث عن ذكاء اصطناعي فائق الذكاء
يمكنه إحداث تغيير لنفسه،
يبدو أن لدينا فرصة واحدة للقيام بالشروط الابتدائية بشكل صحيح،
وحتى حينها سنكون بحاجة امتصاص
العواقب الاقتصادية والسياسية من القيام بها بشكل صحيح.
ولكن في اللحظة التي نعترف فيها
أن معالجة المعلومات هي مصدر الذكاء،
وأن بعض أنظمة الحاسوب الملائمة تُعبِّر عن أساس الذكاء،
ونعترف أننا سوف نحسِّن هذه الأنظمة باستمرار،
ونعترف أن أفق الإدراك على الأرجح يتجاوز
الذي نعرفه حالياً بكثير،
وبالتالي علينا الاعتراف
أننا في مرحلة بناء نوع ما من الآلهة.
الآن سيكون وقتاً جيداً
للتأكد من أنه إله نستطيع العيش معه.
شكراً جزيلاً لكم.
(تصفيق)