0:00:00.000,0:00:04.765
الذكاء الاصطناعي

0:00:04.789,0:00:08.318
معروف بتعطيل جميع أنواع الصناعات.

0:00:08.961,0:00:11.004
ماذا عن الآيس كريم؟

0:00:11.879,0:00:15.518
ما هو نوع النكهات الجديدة المذهلة [br]التي يمكن صنعها

0:00:15.542,0:00:18.518
باستخدام قوة الذكاء الاصطناعي المتقدم؟

0:00:19.011,0:00:23.172
لذلك تعاونت مع مجموعة من المبرمجين[br]من مدرسة كيلينغ المتوسطة

0:00:23.196,0:00:25.437
لمعرفة إجابة هذا السؤال.

0:00:25.461,0:00:30.542
قاموا بجمع أكثر من 1600 نكهة [br]آيس كريم موجودة بالفعل

0:00:30.566,0:00:36.088
ثم قمنا معاً بإدخالهم إلى خوارزمية حسابية[br]لنرى ماذا قد ينتج.

0:00:36.112,0:00:39.865
وهنا لدينا بعض النكهات [br]التي توصل إليها الذكاء الاصطناعي.

0:00:40.444,0:00:41.915
(استراحة قمامة اليقطين)

0:00:41.939,0:00:43.341
ضحك

0:00:43.365,0:00:45.834
(صلصال زبدة الفول السوداني)

0:00:46.822,0:00:48.165
(مرض قشدة فراولة)

0:00:48.189,0:00:50.315
(ضحك)

0:00:50.339,0:00:54.936
هذه النكهات ليست لذيذة كما [br]كنا نأمل أن تكون.

0:00:54.960,0:00:56.824
لذا السؤال هو: ماذا حدث؟

0:00:56.848,0:00:58.242
ما الخطأ الذي حدث؟

0:00:58.266,0:01:00.225
هل الذكاء الاصطناعي يحاول قتلنا؟

0:01:01.027,0:01:05.337
أم أنه يحاول فعل ما نطلب منه[br]وقد كان هناك مشكلة ما؟

0:01:06.567,0:01:09.031
في الأفلام، عندما يحدث خطأ[br]مع الذكاء الاصطناعي

0:01:09.055,0:01:11.767
يكون عادة السبب أن الذكاء [br]الإصطناعي قد قرر

0:01:11.791,0:01:14.063
أنه لا يريد أن يطيع البشر بعد الآن

0:01:14.087,0:01:16.710
وأنه قد حصل على هدفه [br]وشكراً جزيلاً لكم.

0:01:17.266,0:01:20.482
في الحياة الواقعية، الذكاء الاصطناعي [br]الذي نمتلكه فعليا

0:01:20.506,0:01:22.369
ليس ذكياً بما يكفي لفعل ذلك.

0:01:22.781,0:01:25.763
إنه يمتلك القدرة الحاسوبية التقريبية

0:01:25.787,0:01:27.063
لدودة الأرض

0:01:27.087,0:01:30.490
أو ربما كحد أقصى لنحلة واحدة

0:01:30.514,0:01:32.729
وربما أقل من ذلك فعليا.

0:01:32.753,0:01:35.347
وحيث أننا نتعلم باستمرار أشياء جديدة[br]عن العقول

0:01:35.371,0:01:39.731
التي توضح كم أن الذكاء الاصطناعي[br]لا يرقى إلى مستوى العقول الحقيقية.

0:01:39.755,0:01:45.418
لذلك فإن الذكاء الاصصناعي هذه الأيام يمكنه[br]أن يقوم بمهمة مثل تحديد المارة في صورة

0:01:45.442,0:01:48.425
لكنه لا يدرك مفهوم المارة

0:01:48.449,0:01:53.273
عدا عن أنه مجموعة من الخطوط[br]والأخاديد وأشياء أخرى.

0:01:53.792,0:01:56.313
إنه لا يعلم ما هو الإنسان فعلياً.

0:01:56.822,0:02:00.104
لذا فإن السؤال: هل الذكاء الاصطناعي [br]هذه الأيام سوف يفعل ما نطلبه منه؟

0:02:00.128,0:02:01.722
إنه سوف يفعل عندما يستطيع

0:02:01.746,0:02:04.472
لكن ربما قد لا يفعل ماذا نريد نحن فعلياً.

0:02:04.496,0:02:06.911
دعنا نقول أنك كنت تحاول أن[br]تحصل على ذكاء اصطناعي

0:02:06.935,0:02:09.554
لتأخذ هذه المجموعة من أجزاء الروبوت

0:02:09.578,0:02:13.775
وتقوم بتجميعهم في نوع من الروبوت لتصل [br]من النقطة A إلى النقطة B.

0:02:13.799,0:02:16.280
الآن إذا كنت تحاول أن تجرب[br]وتحل هذه المشكلة

0:02:16.304,0:02:18.655
عن طريق كتابة برنامج حاسوبي[br]ذو طابع تقليدي

0:02:18.679,0:02:22.096
فإنك سوف تعطي البرنامج التعليمات[br]خطوة بخطوة

0:02:22.120,0:02:23.449
عن كيفية أخذ هذه الأجزاء

0:02:23.473,0:02:25.880
وكيفية تجميعها في روبوت[br]له أقدام

0:02:25.904,0:02:28.846
من ثم كيفية استخدام تلك الأرجل [br]في المشي إلى النقطة B.

0:02:29.441,0:02:31.781
لكن عندما تستخدم الذكاء الاصطناعي[br]لحل المشكلة

0:02:31.805,0:02:32.979
يحدث ذلك بطريقة مختلفة.

0:02:33.003,0:02:35.385
أنت لاتخبره كيف يمكن أن يحل المشكلة

0:02:35.409,0:02:36.888
أنت تعطيه فقط الهدف

0:02:36.912,0:02:40.174
وهو عليه أن يكتشف بنفسه [br]عن طريق التجربة والخطأ

0:02:40.198,0:02:41.682
كيفية الوصول إلى هذا الهدف.

0:02:42.254,0:02:46.356
ويتبين أن الطريقة التي يميل بها الذكاء [br]الاصطناعي لحل هذه المشكلة بالذات

0:02:46.380,0:02:47.864
تتم عن طريق فعل التالي

0:02:47.888,0:02:51.255
إنه يقوم بجمع نفسه في برج[br]ثم يسقط

0:02:51.279,0:02:53.106
ويهبط عند النقطة B.

0:02:53.130,0:02:55.959
وهذه الطريقة تحل المشكلة تقنياً.

0:02:55.983,0:02:57.622
وصل إلى النقطة B تقنياً.

0:02:57.646,0:03:01.911
خطر الذكاء الاصطناعي ليس [br]في أنه سوف يتمرد ضدنا

0:03:01.935,0:03:06.209
الخطر في أنه سوف يقوم بالضبط[br]بفعل ما نطلب منه.

0:03:06.876,0:03:09.374
وبذلك تصبح خدعة العمل مع الذكاء [br]الاصطناعي هي:

0:03:09.398,0:03:13.226
كيف نقوم بتنصيب المشكلة [br]كي يفعل ما نريد فعلياً؟

0:03:14.726,0:03:18.032
بذلك فإن هذا الروبوت الصغير هنا [br]يتم التحكم به بواسطة ذكاء اصطناعي.

0:03:18.056,0:03:20.870
توصل الذكاء الاصطناعي لتصميم [br]من أجل أرجل الروبوت

0:03:20.894,0:03:24.972
من ثم اكتشف كيفية استخدامهم[br]لتجاوز كل هذه العقبات.

0:03:24.996,0:03:27.737
ولكن عندما قام ديفيد ها [br]بإعداد هذه التجربة

0:03:27.761,0:03:30.617
كان عليه أن يضعها [br]مع قيود صارمة جدا جدا

0:03:30.641,0:03:33.933
على مدى حجم الذكاء الاصطناعي [br]المسموح لصنع الأرجل

0:03:33.957,0:03:35.507
لأنه على خلاف ذلك

0:03:43.058,0:03:46.989
(ضحك)

0:03:48.563,0:03:52.308
ومن الناحية التقنية [br]فإنه وصل إلى نهاية هذه العقبة.

0:03:52.332,0:03:57.274
إذن ترى مدى صعوبة الحصول على ذكاء[br]اصطناعي لفعل شيء ما بسيط مثل المشي فقط.

0:03:57.298,0:04:01.118
لذلك رؤية الذكاء الاصطناعي يفعل هذا[br]قد تقول حسناً هذا ليس عدلاً

0:04:01.142,0:04:03.722
لا يمكنك أن تكون برجاً طويلاً وتسقط

0:04:03.746,0:04:07.181
عليك مثلاً أن تستخدم الأرجل فعلياً للمشي.

0:04:07.205,0:04:09.964
ثم يتبين أنه أيضاً لا يجدي نفعأ دائماً.

0:04:09.988,0:04:12.747
كانت مهمة الذكاء الاصطناعي هذه [br]هي التحرك بسرعة.

0:04:13.115,0:04:16.708
لم يخبروها أنه كان عليها أن تتجه[br]نحو الأمام

0:04:16.732,0:04:18.990
أو أنها لا تستطيع استخدام ذراعيها.

0:04:19.487,0:04:24.105
لذلك هذا ما تحصل عليه عندما تدرب[br]الذكاء الاصطناعي ليتحرك بسرعة

0:04:24.129,0:04:27.663
قد تحصل على أشياء مثل الشقلبة [br]والمشي الرديء.

0:04:27.687,0:04:29.087
هذا شائع حقاً.

0:04:29.667,0:04:32.846
بذلك ترتعش على الأرض في كومة.

0:04:32.870,0:04:34.020
(ضحك)

0:04:35.241,0:04:38.495
لذلك برأيي أنت تعرف ما ينبغي [br]أن يكون أكثر غرابة

0:04:38.519,0:04:39.915
هو الروبوتات "المدمرة".

0:04:40.256,0:04:44.011
الشيء الآخر الذي سوف يفعله الذكاء الاصطناعي[br]إذا أعطيته فرصة هو اختراق "القالب".

0:04:44.035,0:04:46.552
لذلك إذا قمت بتدريب ذكاء اصطناعي[br]في محاكاة

0:04:46.576,0:04:50.689
فإنه سوف يتعلم كيف يخترق [br]أخطاء المحاكاة الحسابية

0:04:50.713,0:04:52.920
ويجمعهم للحصول على الطاقة.

0:04:52.944,0:04:58.419
أو أنه سوف يكتشف كيفية التحرك بشكل أسرع[br]عن طريق الاضطراب مراراً وتكراراً على الأرض

0:04:58.443,0:05:00.028
عندما تعمل مع ذكاء اصطناعي

0:05:00.052,0:05:02.441
فإنه أقل شبهاً من العمل مع إنسان آخر

0:05:02.465,0:05:06.094
وأكثر شبهاً بالعمل مع نوع ما [br]من القوى الغريبة للطبيعة.

0:05:06.562,0:05:11.185
ومن السهل حقاً أن تعطي الذكاء الاصطناعي[br]عن طريق الخطأ المشكلة الخاطئة ليحلها

0:05:11.209,0:05:15.747
ونحن لاندرك ذلك غالباًَ [br]حتى يحدث خطاً ما فعلياً.

0:05:16.242,0:05:18.322
هنا تجربة قمت بإعدادها

0:05:18.346,0:05:21.528
حيث أردت أن ينسخ الذكاء الاصطناعي[br]ألوان الطلاء

0:05:21.552,0:05:23.298
لأخترع ألوان طباعة جديدة

0:05:23.322,0:05:26.309
مع إعطاء القائمة مثل تلك الموجودة [br]على اليسار.

0:05:26.798,0:05:29.802
وهنا يظهر ما الذي أتى به الذكاء[br]الاصطناعي.

0:05:29.826,0:05:32.969
(سينديس بوب، توردلي، سفر، غراي ببليك)

0:05:32.993,0:05:37.223
(ضحك)

0:05:39.177,0:05:41.063
إذن من الناحية التقنية

0:05:41.087,0:05:42.951
قام بما طلبته منه.

0:05:42.975,0:05:46.283
اعتقدت أني كنت أسأله عن أسماء[br]ألوان طلاء جميلة مثلاً

0:05:46.307,0:05:48.614
لكن فعلياً ما كنت أطلب فعله

0:05:48.638,0:05:51.724
كان فقط أن يقلد أنواع مجموعات الحروف

0:05:51.748,0:05:53.653
التي رآها في النص الأصلي.

0:05:53.677,0:05:56.775
كما أني لم أخبره أي شيء عن معاني الكلمات

0:05:56.799,0:05:59.359
أو أن هناك ربما بعض الكلمات

0:05:59.383,0:06:02.272
التي ينبغي أن يتجنب استخدامها [br]في ألوان الطلاء هذه.

0:06:03.141,0:06:06.635
بذلك عالمه الكلي هو المعلومات[br]التي أعطيته إياها.

0:06:06.659,0:06:10.687
كما حدث مع تجربة نكهة الآيس كريم،[br]إنه لا يعرف عن أي شيء آخر.

0:06:12.491,0:06:14.129
ذلك عن طريق البيانات

0:06:14.153,0:06:18.197
التي غالباً نعطيها للذكاء الاصطناعي[br]عن طريق الخطأ ليفعل الشيء الخطأ.

0:06:18.694,0:06:21.726
هذه سمكة تدعى تنش.

0:06:21.750,0:06:23.565
وكان هناك مجموعة من الباحثيين

0:06:23.589,0:06:27.463
الذين دربوا ذكاء اصطناعي [br]على إيجاد هذه السمكة في الصور.

0:06:27.487,0:06:28.783
لكن بعد ذلك عندما سألوه

0:06:28.807,0:06:32.233
أي جزء من الصورة كان يستخدم فعلياً[br]لإيجاد السمكة

0:06:32.257,0:06:33.615
إليكم ما أبرزه.

0:06:35.203,0:06:37.392
نعم هذه أصابع بشرية.

0:06:37.416,0:06:39.475
لماذا قد يبحث عن أصابع بشرية

0:06:39.499,0:06:41.420
عندما يحاول إيجاد السمكة؟

0:06:42.126,0:06:45.290
حسناً هذا يوضح أن التنش هي سمكة تذكارية

0:06:45.314,0:06:49.125
لذا في العديد من الصور التي رأى فيها[br]الذكاء الاصطناعي هذه السمكة

0:06:49.149,0:06:50.300
خلال التدريب

0:06:50.324,0:06:51.814
بدت السمكة هكذا.

0:06:51.838,0:06:53.473
(ضحك)

0:06:53.497,0:06:56.827
كما أنه لم يكن يعلم أن الأصابع [br]ليست جزءاً من السمكة.

0:06:58.808,0:07:02.928
هكذا أنتم تفهمون سبب صعوبة تصميم[br]ذكاء اصطناعي

0:07:02.952,0:07:06.271
يستطيع أن يفهم فعلياً ما الذي ينظر اليه.

0:07:06.295,0:07:09.157
وهذا هو السبب في أن تصميم إدراك الصورة

0:07:09.181,0:07:11.248
في القيادة الذاتية للسيارات صعب للغاية.

0:07:11.272,0:07:13.477
كما أن العديد من أعطال السيارات [br]ذاتية القيادة

0:07:13.501,0:07:16.386
هو بسبب أن الذكاء الاصطناعي[br]اختلط عليه الأمر.

0:07:16.410,0:07:20.418
أريد أن أذكر مثال من عام 2016.

0:07:20.442,0:07:24.897
وقع حادث قاتل عندما كان يستخدم أحد ما [br]الطيار الآلي تسلا

0:07:24.921,0:07:28.335
ولكن بدلاً من استخدامه على الطريق السريع[br]كما كان مصمم له

0:07:28.359,0:07:30.564
استخدموه في شوارع المدينة.

0:07:31.239,0:07:32.414
وما حدث كان

0:07:32.438,0:07:35.834
أن شاحنة خرجت أمام السيارة وفشلت السيارة[br]في الضغط على المكابح.

0:07:36.507,0:07:41.269
تم تدريب الذكاء الاصطناعي الآن على التعرف[br]على الشاحنات في الصور بشكل قطعي.

0:07:41.293,0:07:43.438
لكن ما يبدو وكأنه حدث هو

0:07:43.462,0:07:46.393
أنه تم تدريبه للتعرف على الشاحنات[br]في الطريق السريع

0:07:46.417,0:07:49.316
حيث قد تتوقع رؤية الشاحنات من الخلف.

0:07:49.340,0:07:52.760
ليس من المفترض أن تقود الشاحنات [br]على الجانب في الطريق السريع

0:07:52.784,0:07:56.239
ولذلك عندما رأى الذكاء الاصطناعي[br]هذه الشاحنة

0:07:56.263,0:08:01.090
يبدو أنه أدرك أنها من المرجح أن تكون [br]علامة طريق

0:08:01.114,0:08:03.387
وبالتالي فهي آمنة للقيادة أسفلها.

0:08:04.114,0:08:06.694
وهنا خطأ للذكاء الاصطناعي من مجال مختلف.

0:08:06.718,0:08:10.178
اضطرت أمازون مؤخرًا إلى التخلي[br]عن خوارزمية فرز السيرة الذاتية

0:08:10.202,0:08:11.422
التي كانوا يعملون عليها

0:08:11.446,0:08:15.354
عندما اكتشفوا أن الخوارزمية تعلمت[br]التمييز ضد المرأة.

0:08:15.378,0:08:18.094
ما حدث هو أنهم تدربوا على عينات [br]من سير ذاتية

0:08:18.118,0:08:20.360
لأشخاص توظفوا في الماضي.

0:08:20.384,0:08:24.407
ومن هذه الأمثلة تعلم الذكاء الاصطناعي[br]أن يتجنب السير الذاتية لأشخاص

0:08:24.431,0:08:26.457
التحقوا بكليات للنساء

0:08:26.481,0:08:29.287
أو الذين لديهم كلمة "امرأة" في مكان ما[br]من سيرتهم الذاتية

0:08:29.311,0:08:33.887
كما في "فريق كرة القدم النسائي"[br]أو "جمعية النساء المهندسات".

0:08:33.911,0:08:37.885
لم يكن يعرف الذكاء الاصطناعي أنه لم يكن[br]من المفترض أن ينسخ هذا الشيء بالتحديد

0:08:37.909,0:08:39.887
حيث كان يرى البشر يفعلون.

0:08:39.911,0:08:43.088
ومن الناحية التقنية فقد قام بفعل[br]ما طلبوا منه

0:08:43.112,0:08:45.909
لكنهم فقط طلبوا أن يفعل الشيء الخطأ [br]عن طريق الخطأ.

0:08:46.653,0:08:49.548
وهذا يحدث دائماً مع الذكاء الاصطناعي.

0:08:50.120,0:08:53.711
الذكاء الاصطناعي يمكن أن يكون مدمراً حقاً[br]ولا يعرف ذلك.

0:08:53.735,0:08:58.813
لذلك فإن الذكاء الاصطناعي الذي يوصي بمحتوى[br]جديد في الفيسبوك أو على اليوتيوب

0:08:58.837,0:09:02.376
تم تحسينه لزيادة عدد النقرات والمشاهدات.

0:09:02.400,0:09:05.836
ولسوء الحظ إحدى الطرق [br]التي اكتشفوا فيها القيام بذلك

0:09:05.860,0:09:10.363
هي التوصية بمحتوى نظريات المؤامرة [br]أو التعصب.

0:09:10.902,0:09:16.204
لا يملك الذكاء الاصطناعي نفسه أي تصور [br]عن المضمون الفعلي للمحتوى

0:09:16.228,0:09:19.623
كما أنه ليس لديهم أي فكرة عما قد[br]تكون عليه عواقب

0:09:19.647,0:09:21.756
التوصية بهذا المحتوى.

0:09:22.296,0:09:24.307
لذلك عندما نعمل مع الذكاء الاصطناعي

0:09:24.331,0:09:28.513
يمكننا أن نتجنب المشاكل.

0:09:28.537,0:09:30.860
وتجنب أن تسير الأمور بشكل خاطىء

0:09:30.884,0:09:35.410
قد يرجع ذلك إلى مشكلة التواصل القديمة[br]

0:09:35.434,0:09:39.179
حيث يتعين علينا كبشر أن نتعلم كيفية [br]التواصل مع الذكاء الاصطناعي.

0:09:39.203,0:09:43.242
يجب علينا أن نتعلم ما يستطيع الذكاء [br]الاصطناعي فعله وما لايستطيع

0:09:43.266,0:09:46.352
وأن نفهم ذلك، بعقله الصغير جداً

0:09:46.376,0:09:50.389
لا يفهم الذكاء الاصطناعي حقاً ما نحاول[br]أن نطلب منه القيام به.

0:09:51.148,0:09:54.469
بمعنى آخر ، يجب أن نكون مستعدين للعمل[br]مع الذكاء الاصطناعى

0:09:54.493,0:09:59.751
ليس الذكاء الاصطناعي الفائق الكفاءة[br]والواعي كما في الخيال العلمي.

0:09:59.775,0:10:02.637
يجب علينا أن نكون مستعدين للعمل[br]مع ذكاء اصطناعى

0:10:02.661,0:10:05.599
لدينا بالفعل في وقتنا الحالي.

0:10:05.623,0:10:09.828
وفي الوقت الحاضر، الذكاء الاصطناعي [br]غريب بما فيه الكفاية.

0:10:09.852,0:10:11.042
شكراً لكم

0:10:11.066,0:10:16.291
(تصفيق)