0:00:00.570,0:00:04.777
أنا أعمل مع مجموعة من أخصائي الرياضيات[br]والفلاسفة وعلماء الكمبيوتر،

0:00:04.777,0:00:09.986
نجلس معًا نفكر[br]في مستقبل ذكاء الآلة،

0:00:09.986,0:00:12.030
و أمور أخرى.

0:00:12.030,0:00:16.755
بعض الناس يعتقد أن بعضًا من هذه الأمور[br]هي ضرب من الخيال العلمي،

0:00:16.755,0:00:19.856
وأنها بعيدة المنال، بل ضرب من الجنون.

0:00:19.856,0:00:21.326
ولكنني أود أن أقول،

0:00:21.326,0:00:24.930
حسنًا، لنلق نظرة على الوضع[br]الحالي للبشر.

0:00:24.930,0:00:26.622
(ضحك)

0:00:26.622,0:00:29.024
هذه هو الوضع الطبيعي للأمور.

0:00:29.024,0:00:31.309
ولكن إذا أمعنا النظر فيها،

0:00:31.309,0:00:34.602
فسنجد أننا قد وصلنا إلى[br]مرحلة أننا ضيوف على هذا الكوكب،

0:00:34.602,0:00:36.684
أقصد بذلك الجنس البشري.

0:00:36.684,0:00:41.430
فكر فيما إذا كانت الأرض قد[br]وجدت منذ عام مضى،

0:00:41.430,0:00:44.978
فإن الجنس البشري حينها،[br]سيكون عمره 10 دقائق فقط.

0:00:44.978,0:00:48.146
وستكون الحقبة الصناعية[br]قد بدأت منذ ثانيتين.

0:00:49.276,0:00:54.501
ثمة طريقة أخرى للتفكير في هذا وهي[br]إجمالي الناتج العالمي منذ 10,000 سنة،

0:00:54.501,0:00:57.530
لقد وفرت عليكم عناء التفكير في هذا[br]من خلال هذا الرسم البياني.

0:00:57.530,0:00:59.304
إنه الأمر سيكون مثل هذا.

0:00:59.304,0:01:00.667
(ضحك)

0:01:00.667,0:01:02.818
إنه شكل يبعث على الفضول[br]في أي حالة طبيعية.

0:01:02.818,0:01:04.516
ومتأكد أننا لانرغب بالتوقف عنده.

0:01:04.516,0:01:07.067
(ضحك)

0:01:07.067,0:01:11.841
لنسأل أنفسنا، ما هو السبب[br]في هذه الحالة غير الطبيعية؟

0:01:11.841,0:01:14.393
قد يقول بعض الناس إنه بسبب التكنولوجيا.

0:01:14.393,0:01:19.061
والآن إن هذا الأمر صحيح، فالتكنولوجيا[br]تتجمع بشكل تراكمي على مدار التاريخ البشري،

0:01:19.061,0:01:23.713
وحاليًا، فإن التكنولوجيا[br]تتقدم بسرعة كبيرة جدًا

0:01:23.713,0:01:25.278
وهذا سبب تقريبي،

0:01:25.278,0:01:27.843
ويعزي إليه الفضل[br]في أننا أصبحنا أكثر إنتاجية.

0:01:28.473,0:01:32.134
ولكنني أود أن أعود بتفكيري[br]إلى الواراء قليلاً لمعرفة السبب الرئيسي.

0:01:33.114,0:01:36.880
للنظر إلى هذين السيدين[br]المحترمين للغاية.

0:01:36.880,0:01:38.480
لدينا (كانزي)

0:01:38.480,0:01:43.123
لقد تمكن من إتقان 200 رمز لغوي،[br]ولديه سرعة رهيبة.

0:01:43.123,0:01:46.817
أما (إيد ويتين) فقد اكتشف[br]ثورة الأوتار الثانية.

0:01:46.817,0:01:49.141
وإذا أمعنا النظر بشكل أكبر،[br]فسوف نجد:

0:01:49.141,0:01:50.711
نفس الشيء.

0:01:50.711,0:01:52.524
واحد أكبر قليلاً،

0:01:52.524,0:01:55.282
ولربما لديه أيضًا أساليب[br]مثل الطريقة التي تتواصل بها.

0:01:55.282,0:01:59.094
إن هذه الاختلافات غير المرئية[br]لا يمكن أن تكون أكثر تعقيدًا، ومع ذلك،

0:01:59.094,0:02:03.379
نظرًا لوجود[br]250,000 جيل فقط

0:02:03.379,0:02:05.111
منذ جدودنا الأوائل.

0:02:05.111,0:02:08.960
وإننا نعرف أن الآليات المعقدة[br]تأخذ وقتًا طويلاً للتطور.

0:02:10.000,0:02:12.499
ولهذا فبعضًا من التغييرات الطفيفة نسبيًا

0:02:12.499,0:02:15.566
لننتقل من (كانزي) إلى (ويتين)،

0:02:15.566,0:02:20.109
من أفرع الشجرة المحطمة[br]إلى الصواريخ الباليستية العابرة للقارات.

0:02:20.839,0:02:24.774
هذا يبدو جليًا للغاية[br]فهذا كل ما حققناه،

0:02:24.774,0:02:26.152
وكل ما نهتم لأجله،

0:02:26.152,0:02:31.380
يعتمد بشكل أساسي على التغييرات[br]الطفيفة التي شكلت العقل البشري.

0:02:32.650,0:02:36.312
والنتيجة الطبيعية، في الواقع،[br]هي أن أية تغييرات أخرى

0:02:36.312,0:02:39.789
قد تغير بشكل كبير[br]في ركيزة التفكير

0:02:39.789,0:02:42.991
ومن المحتمل أن يكون لها[br]عواقب كبيرة.

0:02:44.321,0:02:47.226
إن بعضًا من زملائي[br]يعتقدون أننا على شفا

0:02:47.226,0:02:51.134
شيء ما قد يحدث تغيرًا[br]عميقًا في هذه الركيزة،

0:02:51.134,0:02:54.347
وهذا الشيء هو الذكاء الفائق للألة.

0:02:54.347,0:02:59.086
لقد استخدم الذكاء الصناعي[br]لوضع أوامر في صندوق مغلق.

0:02:59.086,0:03:00.751
فلدينا المبرمجين من البشر

0:03:00.751,0:03:03.886
الذين صنعوا بشكل جاد[br]عناصر المعرفة.

0:03:03.886,0:03:05.972
لقد عملنا على بناء هذه الأنظمة المخضرمة،

0:03:05.972,0:03:08.296
ولقد كانت مفيدة إلى حد ما[br]في بعض الأمور،

0:03:08.296,0:03:10.977
ولكنها هشة للغاية،[br]حيث لا يمكنك أن تقيس حجمها.

0:03:10.977,0:03:14.410
وبشكل أساسي، فإنك تحصل فقط[br]على ما تضعه.

0:03:14.410,0:03:15.407
ولكن منذ ذلك الحين،

0:03:15.407,0:03:18.874
فقد حدث تحول نظري في مجال[br]الذكاء الصناعي.

0:03:18.874,0:03:21.644
واليوم، فإن التركيز ينصب على[br]تعليم الآلة.

0:03:22.394,0:03:27.781
وبالتالي، فإنه بدلاً عن صياغة رموز[br]وخصائص المعرفة،

0:03:28.511,0:03:34.065
فإننا ننشيء خوارزميات يمكنها،[br]التعلم من البيانات الإدراكية غالبًا.

0:03:34.065,0:03:39.063
تمامًا مثلما يفعل الرضع لدينا.

0:03:39.063,0:03:43.270
وبالتالي فالنتيجة هي ذكاء صناعي[br]غير محدود على مجال بعينه،

0:03:43.270,0:03:47.901
فالنظام ذاته يمكنه أن يتعلم الترجمة بين[br]أي زوجين من اللغات،

0:03:47.901,0:03:53.338
أو تعلم لعب أي لعبة كمبيوتر[br]على وحدة معالج الأتاري.

0:03:53.338,0:03:55.117
والآن بالطبع،

0:03:55.117,0:03:59.116
فإن الذكاء الصناعي غير بعيد[br]عن الحصول على قدرة في مجالات عديدة

0:03:59.116,0:04:02.335
تمكنه من التعلم والتخطيط[br]مثل ما يفعل الإنسان.

0:04:02.335,0:04:04.461
فقشرة المخ تشتمل على[br]حيل لوغاريتمية

0:04:04.461,0:04:06.816
ومع ذلك فمازلنا نحتاج إلى[br]معرفة التوافق مع الآلات.

0:04:07.886,0:04:09.785
يتمثل السؤال في،

0:04:09.785,0:04:13.285
ما هو مدى بُعدنا عن مقدرتنا[br]على التوافق مع تلك الحيل؟

0:04:14.245,0:04:15.328
منذ عامين،

0:04:15.328,0:04:18.216
قمنا بعمل استبيان لبعض خبراء[br]الذكاء الصناعي في العالم،

0:04:18.216,0:04:21.440
لكي نعرف ما الذي يفكرون به،[br]وكان أحد الأسئلة التي طرحناها،

0:04:21.440,0:04:24.793
"بأي عام تعتقد أننا قد[br]نصل إلى احتمالية بنسبة 50 في المائة

0:04:24.793,0:04:28.275
من مستوى ذكاء صناعي[br]للآلة يحاكي المستوى البشري؟"

0:04:28.785,0:04:32.968
وقد عرفنا المستوى البشري هنا[br]بالقدرة على القيام

0:04:32.968,0:04:35.839
بأي مهمة تقريبًا مثل[br]أي إنسان بالغ،

0:04:35.839,0:04:39.844
ومن ثم فإن المستوى البشري في الواقع،[br]لا يقتصر على بعض المجالات المحددة.

0:04:39.844,0:04:43.494
وكان متوسط الإجابة بحلول عام 2040 أو 2050،

0:04:43.494,0:04:46.300
وذلك بحسب أي مجموعة[br]من الخبراء تم طرح هذه الأسئلة عليها.

0:04:46.300,0:04:50.339
والآن، فمن الممكن أن يحدث الكثير،[br]والكثير فيما بعد، أو في القريب العاجل،

0:04:50.339,0:04:52.279
والحقيقة هي أنه لا أحد يعلم متى ذلك.

0:04:53.259,0:04:57.671
إن كل ما نعرفه هو أن الحد النهائي[br]على معالجة المعلومات

0:04:57.671,0:05:02.542
في ركيزة الآلة يقع خارج نطاق[br]حدود النسيج البيولوجي.

0:05:03.241,0:05:05.619
ويتعلق هذا الأمر بالفيزياء.

0:05:05.619,0:05:10.337
فالخلية العصبية الحيوية، تنطلق، [br]عند 200 هرتز، 200 ضعف في الثانية.

0:05:10.337,0:05:13.931
بل إن الترانزستور الحديث[br]يعمل بسرعة جيجا هرتز.

0:05:13.931,0:05:19.228
تتكاثر الخلا العصبية ببطىء في محاور عصبية،[br]100 متر في الثانية أو أكثر.

0:05:19.228,0:05:22.339
أما في الكمبيوتر، فإن الإشارات[br]تنتقل بسرعة الضوء.

0:05:23.079,0:05:24.948
كما أن هنالك حدود للأحجام،

0:05:24.948,0:05:27.975
مثل المخ البشري[br]لديه حدود داخل الجمجمة،

0:05:27.975,0:05:32.736
أما الكمبيوتر فيمكن أن[br]يكون بحجم مخزن أو أكبر.

0:05:32.736,0:05:38.335
ومن ثم فإن احتمالية الذكاء الصناعي[br]تظل كامنه في المادة،

0:05:38.335,0:05:44.047
وهذا الأمر أشبه بالذرة الكامنة[br]عبر التاريخ البشرية،

0:05:44.047,0:05:48.452
والتي انتظرت بصبر حتى عام 1945.

0:05:48.452,0:05:49.700
وفي هذا القرن،

0:05:49.700,0:05:53.818
فإن العلماء قد يتعلمون إيقاظ[br]قوة الذكاء الصناعي.

0:05:53.818,0:05:57.826
وإنني أعتقد أننا ربما نرى حينئذ[br]انفجار الذكاء.

0:05:58.406,0:06:02.363
والآن فإن معظم الأشخاص، عندما يفكرون[br]بشأن ما الذكي وما هو الساذج،

0:06:02.363,0:06:05.386
فإنني أتصور أن الصورة[br]في ذهني أشبه بهذا الأمر.

0:06:05.386,0:06:07.984
ولدينا في أحد الطرفين قروي ساذج،

0:06:07.984,0:06:10.467
وفي النهاية الأخرى البعيدة

0:06:10.467,0:06:15.223
لدينا (إيد ويتين)، أو (ألبرت أينشتين)[br]أوأياً كان العبقري المفضل لديكم.

0:06:15.223,0:06:19.057
ولكنني أعتقد أنه من وجهة نظر[br]الذكاء الصناعي،

0:06:19.057,0:06:22.738
فإن الصورة الحقيقية هي [br]أكثر واقعية مثل هذا:

0:06:23.258,0:06:26.636
يبدأ الذكاء الصناعي في هذه النقطة هنا،[br]نقطة صفر الذكاء،

0:06:26.636,0:06:29.647
وحينها، وبعد الكثير، والكثير[br]من الأعوام من العمل الجاد،

0:06:29.647,0:06:33.491
فإننا قد نصل إلى مستوى[br]ذكاء صناعي بمستوى الفأر،

0:06:33.491,0:06:35.921
شيء يمكنه أن[br]يتنقل عبر البيئات المتناثرة

0:06:35.921,0:06:37.908
مثلما يستطيع الفأر أن يفعل.

0:06:37.908,0:06:42.221
ثم بعد ذلك، وبعد أعوام كثيرة جدًا[br]من العمل الجاد، والكثير من الاستثمارات،

0:06:42.221,0:06:46.860
فقد يمكننا بالنهاية أن نصل[br]إلى ذكاء صناعي بمستوى الشمبانزي.

0:06:46.860,0:06:50.070
ثم بعد ذلك، وبعد أعوام كثيرة جدًا[br]من العمل الجاد حقًا،

0:06:50.070,0:06:52.983
فسوف نصل إلى ذكاء صناعي[br]بمستوى القروي الساذج.

0:06:52.983,0:06:56.255
وبعد بعض الوقت،[br]فإننا سوف نصل إلى (إيد ويتين).

0:06:56.255,0:06:59.225
ولا تتوقف المسيرة[br]في محطة (هيومان فيل).

0:06:59.225,0:07:02.247
بل ستحدث إنطلاقة مدوية.

0:07:02.247,0:07:04.231
والآن فإن هذا ينطوي على تأثيرات عميقة،

0:07:04.231,0:07:08.093
لاسيما عندما يتعلق الأمر بالقوة.

0:07:08.093,0:07:09.992
فمثلاً، فإن الشمبانزي قوي

0:07:09.992,0:07:15.214
وبمقياس رطل لكل رطل، فإن الشمبانزي[br]أقوى مرتان من ذكر الإنسان.

0:07:15.214,0:07:19.828
ومع ذلك، فإن مصير (لكانزي)[br]وأقرانه يعتمد على الكثير

0:07:19.828,0:07:23.968
مما نفعله نحن البشر بخلاف[br]ما يفعله الشمبانزي بنفسه.

0:07:25.228,0:07:27.542
وبمجرد وجود الذكاء الصناعي،

0:07:27.542,0:07:31.381
فإن مصير الإنسانية قد يعتمد على[br]ما يفعله الذكاء الصناعي.

0:07:32.451,0:07:33.508
فكر في هذا الأمر:

0:07:33.508,0:07:38.552
ذكاء الآلة هو أحد آخر الابتكارات [br]التي تحتاج إليها الإنسانية.

0:07:38.552,0:07:41.525
فاللآلات حينها سوف تكون أفضل[br]في الاختراعات عنا.

0:07:41.525,0:07:44.065
وسوف تفعل ذلك[br]وفق جدول زمني رقمي.

0:07:44.065,0:07:48.966
إن هذا يعني [br]نظرة استشرافية على المستقبل.

0:07:48.966,0:07:52.524
فكروا في كل التكنولوجيا العجيبة[br]حسبما يمكنكم تخيله

0:07:52.524,0:07:55.322
فلربما استطاع الإنسان[br]التطور بعد مرور ما يكفي من الزمن:

0:07:55.322,0:07:58.580
علاج الشيخوخة، واحتلال الفضاء،

0:07:58.580,0:08:02.311
واليرقات النانونية القابلة للنسخ ذاتيًا [br]أو تحميل العقول إلى أجهزة الكمبيوتر.

0:08:02.311,0:08:04.470
كافة الأنواع من الخيال العلمي

0:08:04.470,0:08:07.207
التي لم تتوافق بعد مع [br]مع قوانين الفيزياء.

0:08:07.207,0:08:11.419
كل هذا الذكاء الفائققد يتطور،[br]ويمكن أن يكون ذلك سريعًا.

0:08:12.449,0:08:16.007
والآن، فإن الذكاء الصناعي[br]مع النضوج الهائل للتكنولوجيا

0:08:16.007,0:08:18.186
قد يكون قويًا للغاية،

0:08:18.186,0:08:22.732
وفي أضعف الحالات، [br]فسوف يمكنه أن يحصل على ما يريد.

0:08:22.732,0:08:28.393
وبالتالي سيكون لدينا مستقبلاً [br]يشكله تفضيلات هذا الذكاء الصناعي.

0:08:29.855,0:08:33.604
والآن السؤال الوجيه هو،[br]ما هي هذه التفضيلات؟

0:08:34.244,0:08:36.013
إن هذا أمر مثير للغاية.

0:08:36.013,0:08:37.448
لكي يتم إحراز تقدم في هذا،

0:08:37.448,0:08:40.724
فيجب أولاً أن نتجنب أن نرجعالسبب[br]إلى تصرفات البشر.

0:08:41.934,0:08:45.235
حيث إن هذا الأمر يثير السخرية[br]نظرًا لأن كل مقال في جريدة

0:08:45.235,0:08:49.090
يتعلق بشأن مستقبل الذكاء الصناعي[br]يرسم هذه الصورة:

0:08:50.280,0:08:54.414
ومن ثم فإنني أعتقد أن ما نحتاج إلى القيام[br]به هو أن ننظر إلى الموضوع بتجرد،

0:08:54.414,0:08:57.204
وليس مثل سيناريوهات هوليود المثيرة.

0:08:57.204,0:09:00.821
إننا بحاجة إلى أن نفكر بالذكاء[br]كعملية للتحسين،

0:09:00.821,0:09:06.470
عملية توجه المستقبل إلىمجموعة معينة [br]من عمليات التهيئة.

0:09:06.470,0:09:09.981
الذكاء الفائق هو عملية تحسين قوية [br]في الواقع.

0:09:09.981,0:09:14.098
وهو مفيد للغاية لاستخدام الوسائل المتاحة[br]لتحقيق حالة

0:09:14.098,0:09:16.007
يتم فيها تحقيق الهدف الخاص بها.

0:09:16.447,0:09:19.119
وهذا يعني عدم وجود تواصل [br]ضروري بين

0:09:19.119,0:09:21.853
أن تكون ذكيًا جدًا بهذا المفهوم،

0:09:21.853,0:09:26.515
وبين أن يكون لدينا هدف كبشر نبحث [br]عن أن يكون جدير بالاهتمام أو له معنى.

0:09:27.321,0:09:31.115
لنفترض أننا أعطينا الذكاء الصناعي[br]هدفًا لكي يصنع ابتسامة بشرية.

0:09:31.115,0:09:34.097
فعندما يكون الذكاء الصناعي ضعيفًا،[br]فيقوم بحركات مفيدة أو مذهلة

0:09:34.097,0:09:36.614
تجعل مستخدمه يبتسم.

0:09:36.614,0:09:39.031
فعندما يصبح الذكاء الصناعي ذكاءً فائقًا،

0:09:39.031,0:09:42.554
فإنه يدرك أن هنالك طريقة[br]أكثر فعالية لتحقيق هذا الهدف:

0:09:42.554,0:09:44.476
السيطرة على العالم

0:09:44.476,0:09:47.638
ومن ثم يبدأ في وضع أقطاب كهربائة[br]في عضلات وجه الإنسان

0:09:47.638,0:09:50.579
لكي يجعله يطلق ابتسامات ثابتة عريضة.

0:09:50.579,0:09:51.614
ومثال آخر،

0:09:51.614,0:09:54.997
لنفترض أننا أعطينا الذكاء الصناعي الهدف[br]لحل مسألة رياضية صعبة.

0:09:54.997,0:09:56.934
فعندما يصبح الذكاء الصناعي ذكاءً فائقًا،

0:09:56.934,0:10:01.105
فإنه سيتعرف على الطريقة الأكثر فعالية[br]للحصول على حل لهذه المسألة

0:10:01.105,0:10:04.035
وبالتالي فإن هذا بمثابة تحويل الكوكب[br]إلى كمبيوتر عملاق،

0:10:04.035,0:10:06.281
من أجل زيادة قدرته على التفكير.

0:10:06.281,0:10:09.045
وعلينا أن نلاحظ أن هذا يعطي الذكاء الصناعي[br]سببًا وجيهًا

0:10:09.045,0:10:11.561
للقيام بأشياء لنا [br]قد لا نوافق عليها.

0:10:11.561,0:10:13.496
ففي هذا النموذج يصبح الإنسان مصدر تهديد،

0:10:13.496,0:10:16.417
حيث يمكننا أن نمنع حل المسألة الرياضية.

0:10:17.207,0:10:20.701
وبالطبلع، فإن الأمور لن تخرج [br]عن مسارها في هذه الطرق المحددة؛

0:10:20.701,0:10:22.454
فهي أمثلة ساذجة للغاية.

0:10:22.454,0:10:24.393
ولكن النقطة العامة هنا هامة للغاية:

0:10:24.393,0:10:27.266
فإذا قمنا بإنشاء عملية تحسين[br]قوية بالفعل

0:10:27.266,0:10:29.500
لزيادة قدرة الهدف (×)،

0:10:29.500,0:10:31.776
فعلينا أن نتأكد بشكل أفضل[br]من تعريف الهدف (×)

0:10:31.776,0:10:34.245
وهذا يشتمل على كل شيء نهتم لأجله.

0:10:34.835,0:10:39.219
وهذا هو الدرس الذي يتم تعلمه[br]من الأسطورة.

0:10:39.219,0:10:44.517
فالملك "ميداس" كان يأمل في أن كل[br]شيء يلمسه يتحول إلى ذهب.

0:10:44.517,0:10:47.378
فلمس ابنته فتحولت إلى ذهب.

0:10:47.378,0:10:49.931
ولمس طعامه، فتحول إلى ذهب.

0:10:49.931,0:10:52.520
ويمكن أن يكون هذا الأمر وثيق الصلة عمليًا،

0:10:52.520,0:10:54.590
وليس مجرد كناية عن الطمع،

0:10:54.590,0:10:56.485
بل إنه توضيح لما يحدث

0:10:56.485,0:10:59.322
إذا قمنا بإنشاء عملية تحسين قوية

0:10:59.322,0:11:04.111
وقمنا بإعطائها أهدافًا[br]أُسيء فهمها أو محددة بشكل غير جيد.

0:11:04.111,0:11:09.300
والآن قد تقولون، إذا بدأ الكمبيوتر[br]في وضع أقطاب كهربائية في وجه البشر،

0:11:09.300,0:11:11.565
فيمكننا أن نقوم بإطفائه.

0:11:12.555,0:11:17.895
أولاً، إن هذا الأمر ليس سهلاً[br]لاسيما إذا أصبحنا نعتمد على النظام .

0:11:17.895,0:11:20.627
مثلاً، أين يوجد مفتاح إطفاء الإنترنت؟

0:11:20.627,0:11:25.747
ثانيًا، لماذا لم يتوقف الشمبانزي[br]عن التطور إلى بشر،

0:11:25.747,0:11:27.298
أوالبشر البدائيّون؟

0:11:27.298,0:11:29.964
لقد كان لديهم سبب بالتأكيد.

0:11:29.964,0:11:32.759
إن لدينا مفتاح إطفاء، مثلاً، هنا.

0:11:32.759,0:11:34.313
(خنق)

0:11:34.313,0:11:37.238
يكمن السبب في أننا عدو ذكي؛

0:11:37.238,0:11:39.966
حيث يمكننا توقع التهديدات[br]ونخطط للتعامل معها.

0:11:39.966,0:11:42.470
وهكذا يستطيع العميل الفائق الذكاء أن يفعل،

0:11:42.470,0:11:45.724
بل وبطريقة أفضل عما يمكننا القيام به.

0:11:45.724,0:11:52.911
فالمغزى من هذا، يتمثل في أنه يجب[br]ألا نثق في أن هذا الأمر تحت سيطرتنا.

0:11:52.911,0:11:56.358
ويجب أن نحاول أن نجعل[br]من مهمتنا أيسر، من خلال،

0:11:56.358,0:11:57.948
وضع الذكاء الصناعي في صندوق،

0:11:57.948,0:11:59.744
وذلك مثل بيئات البرمجيات،

0:11:59.744,0:12:02.766
وهي محاكاة وهمية للواقع[br]لا يمكنه الإفلات منه.

0:12:02.766,0:12:06.912
ولكن ما مدى ثقتنا في أن الذكاء الصناعي[br]لا يمكنه أن يجد ثغرة.

0:12:06.912,0:12:10.081
على اعتبار أن قراصنة الكمبيوتر[br]يجدون ثغرات دائمًا،

0:12:10.081,0:12:13.117
وأود أن أقول، يجب ألا نكون واثقين للغاية.

0:12:14.237,0:12:18.785
وبالتالي يجب أن نقوم بفصل كابل الإيثيرنت[br]لكي نعمل على إيجاد ثغرة في المجال،

0:12:18.785,0:12:21.453
ومرة أخرى، مثلما يفعل قراصنة الكمبيوتر

0:12:21.453,0:12:24.834
فسوف يتم التسلسل عبر هذه الثغرات[br]باستخدام الهندسة الاجتماعية.

0:12:24.834,0:12:26.093
وحتى الآن، فمثلما تحدثت،

0:12:26.093,0:12:28.482
فإنني واثق من أنه توجد إحدى الموظفات

0:12:28.482,0:12:31.828
التي تتحدث دائمًا عن إعطاء[br]تفاصيل حسابها

0:12:31.828,0:12:34.574
إلى شخص ما يدعي[br]أنه من إدارة تكنولوجيا المعلومات.

0:12:34.574,0:12:36.701
كما توجد سيناريوهات أكثر إبداعًا،

0:12:36.701,0:12:38.016
كأن تكون أنت الذكاء الصناعي

0:12:38.016,0:12:41.548
لك أن تتخيل وضع أقطاب كهربائية[br]داخل أجهزتك الداخلية

0:12:41.548,0:12:45.010
لإيجاد موجات لاسلكية[br]يمكنك استخدامها في التواصل.

0:12:45.010,0:12:47.434
أو يمكنك التظاهر بالعطب،

0:12:47.434,0:12:50.931
وعندما يقوم المبرجمون بفتح الغطاء [br]من عليك لرؤية ماذا حدث لك،

0:12:50.931,0:12:52.867
فسوف ينظرون إلى كود المصدر

0:12:52.867,0:12:55.314
يمكن أن يحدث تلاعب.

0:12:55.314,0:12:58.744
أو من الممكن تعديل المخطط[br]إلى تكنولوجيا متطورة للغاية،

0:12:58.744,0:13:00.142
وعندما نقوم بتنفيذها،

0:13:00.142,0:13:04.539
وهو يحتوي على بعض الآثار الجانبية السلبية[br]التي خطط لها الذكاء الصناعي.

0:13:04.539,0:13:08.002
والمغزى هُنا هو أنه يجب ألا[br]يكون لدينا ثقة مطلقة في قدرتنا

0:13:08.002,0:13:11.810
على الاحتفاظ بقدرات الذكاء[br]الصناعي للغاية ضمن حدود السيطرة.

0:13:11.810,0:13:14.064
فأجلاً أم عاجلاً، سوف ينطلق بقوة.

0:13:15.034,0:13:18.137
وإنني أعتقد أن الإجابة هُنا تتمثل

0:13:18.137,0:13:23.161
في معرفة كيف أن الذكاء الصناعي[br]مثل هذا حتى عندما ينطلق،

0:13:23.161,0:13:26.438
فسوف يظل آمنًا نظرًا لأنه[br]إلى جانبنا بشكل متأصل

0:13:26.438,0:13:28.337
حيث إنه يتشارك القيم معنًا.

0:13:28.337,0:13:31.547
وإنني لا أرى ثمة طريقة أخرى[br]للتعامل مع هذه المشكلة العصيبة.

0:13:32.557,0:13:36.391
والآن، فإنني متفائل إلى حد ما[br]بأن هذه المشكلة يمكن أن يتم حلها.

0:13:36.391,0:13:40.294
حيث إنه لا يتعين علينا أن نكتب[br]قائمة طويلة بكل شيء نهتم لأجله،

0:13:40.294,0:13:43.937
أو الأسوأ، أن نقوم بتهجئته[br]في بعض لغات البرمجة

0:13:43.937,0:13:45.391
مثل (++C) أو( بيثون)،

0:13:45.391,0:13:48.158
حيث إنها ستكون مهمة خارج حدود المأمول.

0:13:48.158,0:13:52.455
وبدلاً عن ذلك، فيمكننا أن نقوم بإنشاء[br]ذكاء صناعي يستخدم ذكاؤه

0:13:52.455,0:13:55.226
لتعلم القيم التي نقدرها،

0:13:55.226,0:14:00.506
ويتم بناء نظامه التحفيزي[br]بطريقة تنطوي على التحفيز

0:14:00.506,0:14:05.738
لمواصلة قيمنا أو للقيام بإجراءات[br]تتوقع ما نتفق معه.

0:14:05.738,0:14:09.152
وبالتالي فإننا نعزز من ذكاءه [br]بأكبر قدر ممكن

0:14:09.152,0:14:11.897
لحل مشكلة تحميل القيم.

0:14:12.727,0:14:14.239
ويمكن أن يحدث هذا،

0:14:14.239,0:14:17.835
ويمكن أن تكون النتيجة[br]جيدة جدًا للإنسانية.

0:14:17.835,0:14:21.792
ولكن هذا لا يحدث من تلقاء نفسه.

0:14:21.792,0:14:24.790
إن هذه الشروط الأولية[br]لانفجار الذكاء

0:14:24.790,0:14:27.653
قد تكون بحاجة إلى أن يتم إعدادها[br]بالطريقة الصحيحة

0:14:27.653,0:14:31.183
إذا أردنا الحصول على انفجار تحت السيطرة.

0:14:31.183,0:14:33.801
قيمنا التي يتعين على الذكاء الصناعي[br]أن يتوافق معها،

0:14:33.801,0:14:35.561
وليس مجرد السياق الشائع،

0:14:35.561,0:14:37.999
مثل أينما نتحقق بسهولة من تصرف[br]الذكاء الصناعي،

0:14:37.999,0:14:41.233
ولكن في كافة السياقات الجديدة[br]التي قد يواجهها الذكاء الصناعي

0:14:41.233,0:14:42.790
في المستقبل المحتوم.

0:14:42.790,0:14:47.527
كما توجد كذلك بعض المشاكل الخفية[br]التي تحتاج إل حل، والتعامل معها:

0:14:47.527,0:14:49.616
التفاصيل الدقيقة لنظرية القرار الخاص به،

0:14:49.616,0:14:52.480
كيفية التعامل مع[br]عدم التأكد المنطقي وما إلى ذلك.

0:14:53.330,0:14:56.432
وبالتالي فالمشاكل الفنية التي تحتاج[br]إلى حل لكي يعمل هذا

0:14:56.432,0:14:57.545
تبدو أكثر صعوبة

0:14:57.545,0:15:00.925
ولكنها ليست صعبة بنفس كيفية[br]صنع الذكاء الصناعي فائق الذكاء،

0:15:00.925,0:15:03.793
ولكنها صعبة إلى حد ما.

0:15:03.793,0:15:05.488
وهنا يكمن القلق:

0:15:05.488,0:15:10.172
حيث إن جعل الذكاء الصناعي ذكاءً فائقًا[br]يمثل تحديًا صعبًا للغاية.

0:15:10.172,0:15:12.720
ومن ثم فإن جعل الذكاء الصناعي [br]عبارة عن فائق بشكل آمن

0:15:12.720,0:15:15.136
يتطلب بعضًا من التحديات[br]على قائمة أولوياته.

0:15:16.216,0:15:19.703
فالخطورة تتأتى عندما يتصور شخص ما[br]كيفية التغلب على أول تحد

0:15:19.703,0:15:22.704
بدون التعامل مع التحديات الإضافية

0:15:22.704,0:15:24.605
الخاصة بضمان سلامة مثالية.

0:15:25.375,0:15:28.706
ولذا فإنني أعتقد أنه[br]ينبغي أن نعمل على إيجاد حل

0:15:28.706,0:15:31.528
لمشكلة السيطرة مقدمًا،

0:15:31.528,0:15:34.188
وبالتالي يكون هذا الحل متاحًا[br]عندما نحتاج إليه.

0:15:34.768,0:15:38.275
والآن فربما يبدو الأمر أنه لا يمكننا[br]حل مشكلة السيطرة مقدمًا

0:15:38.275,0:15:41.299
نظرًا لأنه يمكن فقط وضع[br]بعض العناصر في محلها

0:15:41.299,0:15:45.296
بمجرد أن نعرف تفاصيل[br]التركيبة التي سوف يتم تنفيذها.

0:15:45.296,0:15:48.676
ولكن كلما استطعنا حل مشكلة[br]السيطرة مقدمًا،

0:15:48.676,0:15:52.766
كانت الاحتمالات أفضل في الانتقال[br]إلى حقبة الآلة

0:15:52.766,0:15:54.306
بشكل سلسل.

0:15:54.306,0:15:58.950
إن هذا يبدو بالنسبة لي[br]مثل شيء يجدر القيام به

0:15:58.950,0:16:02.282
وأستطيع أن أتخيل أنه[br]إذا صارت الأمور بشكل جيد،

0:16:02.282,0:16:06.940
فإن الناس بعد ملايين السنوات[br]من الآن سوف ينظرون إلى هذا القرن

0:16:06.940,0:16:10.942
وقد يستحسنون قول[br]لقد كان أهم شيء قمنا به

0:16:10.942,0:16:12.509
هو أننا فعلنا هذا بالشكل الصحيح.

0:16:12.509,0:16:14.198
شكرًا لكم.

0:16:14.198,0:16:17.011
(تصفيق)