Return to Video

خطر الذكاء الاصطناعي أكثر غرابة مما تعتقد

  • 0:00 - 0:05
    الذكاء الاصطناعي
  • 0:05 - 0:08
    معروف بتعطيل جميع أنواع الصناعات.
  • 0:09 - 0:11
    ماذا عن الآيس كريم؟
  • 0:12 - 0:16
    ما هو نوع النكهات الجديدة المذهلة
    التي يمكن صنعها
  • 0:16 - 0:19
    باستخدام قوة الذكاء الاصطناعي المتقدم؟
  • 0:19 - 0:23
    لذلك تعاونت مع مجموعة من المبرمجين
    من مدرسة كيلينغ المتوسطة
  • 0:23 - 0:25
    لمعرفة إجابة هذا السؤال.
  • 0:25 - 0:31
    قاموا بجمع أكثر من 1600 نكهة
    آيس كريم موجودة بالفعل
  • 0:31 - 0:36
    ثم قمنا معاً بإدخالهم إلى خوارزمية حسابية
    لنرى ماذا قد ينتج.
  • 0:36 - 0:40
    وهنا لدينا بعض النكهات
    التي توصل إليها الذكاء الاصطناعي.
  • 0:40 - 0:42
    (استراحة قمامة اليقطين)
  • 0:42 - 0:43
    ضحك
  • 0:43 - 0:46
    (صلصال زبدة الفول السوداني)
  • 0:47 - 0:48
    (مرض قشدة فراولة)
  • 0:48 - 0:50
    (ضحك)
  • 0:50 - 0:55
    هذه النكهات ليست لذيذة كما
    كنا نأمل أن تكون.
  • 0:55 - 0:57
    لذا السؤال هو: ماذا حدث؟
  • 0:57 - 0:58
    ما الخطأ الذي حدث؟
  • 0:58 - 1:00
    هل الذكاء الاصطناعي يحاول قتلنا؟
  • 1:01 - 1:05
    أم أنه يحاول فعل ما نطلب منه
    وقد كان هناك مشكلة ما؟
  • 1:07 - 1:09
    في الأفلام، عندما يحدث خطأ
    مع الذكاء الاصطناعي
  • 1:09 - 1:12
    يكون عادة السبب أن الذكاء
    الإصطناعي قد قرر
  • 1:12 - 1:14
    أنه لا يريد أن يطيع البشر بعد الآن
  • 1:14 - 1:17
    وأنه قد حصل على هدفه
    وشكراً جزيلاً لكم.
  • 1:17 - 1:20
    في الحياة الواقعية، الذكاء الاصطناعي
    الذي نمتلكه فعليا
  • 1:21 - 1:22
    ليس ذكياً بما يكفي لفعل ذلك.
  • 1:23 - 1:26
    إنه يمتلك القدرة الحاسوبية التقريبية
  • 1:26 - 1:27
    لدودة الأرض
  • 1:27 - 1:30
    أو ربما كحد أقصى لنحلة واحدة
  • 1:31 - 1:33
    وربما أقل من ذلك فعليا.
  • 1:33 - 1:35
    وحيث أننا نتعلم باستمرار أشياء جديدة
    عن العقول
  • 1:35 - 1:40
    التي توضح كم أن الذكاء الاصطناعي
    لا يرقى إلى مستوى العقول الحقيقية.
  • 1:40 - 1:45
    لذلك فإن الذكاء الاصصناعي هذه الأيام يمكنه
    أن يقوم بمهمة مثل تحديد المارة في صورة
  • 1:45 - 1:48
    لكنه لا يدرك مفهوم المارة
  • 1:48 - 1:53
    عدا عن أنه مجموعة من الخطوط
    والأخاديد وأشياء أخرى.
  • 1:54 - 1:56
    إنه لا يعلم ما هو الإنسان فعلياً.
  • 1:57 - 2:00
    لذا فإن السؤال: هل الذكاء الاصطناعي
    هذه الأيام سوف يفعل ما نطلبه منه؟
  • 2:00 - 2:02
    إنه سوف يفعل عندما يستطيع
  • 2:02 - 2:04
    لكن ربما قد لا يفعل ماذا نريد نحن فعلياً.
  • 2:04 - 2:07
    دعنا نقول أنك كنت تحاول أن
    تحصل على ذكاء اصطناعي
  • 2:07 - 2:10
    لتأخذ هذه المجموعة من أجزاء الروبوت
  • 2:10 - 2:14
    وتقوم بتجميعهم في نوع من الروبوت لتصل
    من النقطة A إلى النقطة B.
  • 2:14 - 2:16
    الآن إذا كنت تحاول أن تجرب
    وتحل هذه المشكلة
  • 2:16 - 2:19
    عن طريق كتابة برنامج حاسوبي
    ذو طابع تقليدي
  • 2:19 - 2:22
    فإنك سوف تعطي البرنامج التعليمات
    خطوة بخطوة
  • 2:22 - 2:23
    عن كيفية أخذ هذه الأجزاء
  • 2:23 - 2:26
    وكيفية تجميعها في روبوت
    له أقدام
  • 2:26 - 2:29
    من ثم كيفية استخدام تلك الأرجل
    في المشي إلى النقطة B.
  • 2:29 - 2:32
    لكن عندما تستخدم الذكاء الاصطناعي
    لحل المشكلة
  • 2:32 - 2:33
    يحدث ذلك بطريقة مختلفة.
  • 2:33 - 2:35
    أنت لاتخبره كيف يمكن أن يحل المشكلة
  • 2:35 - 2:37
    أنت تعطيه فقط الهدف
  • 2:37 - 2:40
    وهو عليه أن يكتشف بنفسه
    عن طريق التجربة والخطأ
  • 2:40 - 2:42
    كيفية الوصول إلى هذا الهدف.
  • 2:42 - 2:46
    ويتبين أن الطريقة التي يميل بها الذكاء
    الاصطناعي لحل هذه المشكلة بالذات
  • 2:46 - 2:48
    تتم عن طريق فعل التالي
  • 2:48 - 2:51
    إنه يقوم بجمع نفسه في برج
    ثم يسقط
  • 2:51 - 2:53
    ويهبط عند النقطة B.
  • 2:53 - 2:56
    وهذه الطريقة تحل المشكلة تقنياً.
  • 2:56 - 2:58
    وصل إلى النقطة B تقنياً.
  • 2:58 - 3:02
    خطر الذكاء الاصطناعي ليس
    في أنه سوف يتمرد ضدنا
  • 3:02 - 3:06
    الخطر في أنه سوف يقوم بالضبط
    بفعل ما نطلب منه.
  • 3:07 - 3:09
    وبذلك تصبح خدعة العمل مع الذكاء
    الاصطناعي هي:
  • 3:09 - 3:13
    كيف نقوم بتنصيب المشكلة
    كي يفعل ما نريد فعلياً؟
  • 3:15 - 3:18
    بذلك فإن هذا الروبوت الصغير هنا
    يتم التحكم به بواسطة ذكاء اصطناعي.
  • 3:18 - 3:21
    توصل الذكاء الاصطناعي لتصميم
    من أجل أرجل الروبوت
  • 3:21 - 3:25
    من ثم اكتشف كيفية استخدامهم
    لتجاوز كل هذه العقبات.
  • 3:25 - 3:28
    ولكن عندما قام ديفيد ها
    بإعداد هذه التجربة
  • 3:28 - 3:31
    كان عليه أن يضعها
    مع قيود صارمة جدا جدا
  • 3:31 - 3:34
    على مدى حجم الذكاء الاصطناعي
    المسموح لصنع الأرجل
  • 3:34 - 3:36
    لأنه على خلاف ذلك
  • 3:43 - 3:47
    (ضحك)
  • 3:49 - 3:52
    ومن الناحية التقنية
    فإنه وصل إلى نهاية هذه العقبة.
  • 3:52 - 3:57
    إذن ترى مدى صعوبة الحصول على ذكاء
    اصطناعي لفعل شيء ما بسيط مثل المشي فقط.
  • 3:57 - 4:01
    لذلك رؤية الذكاء الاصطناعي يفعل هذا
    قد تقول حسناً هذا ليس عدلاً
  • 4:01 - 4:04
    لا يمكنك أن تكون برجاً طويلاً وتسقط
  • 4:04 - 4:07
    عليك مثلاً أن تستخدم الأرجل فعلياً للمشي.
  • 4:07 - 4:10
    ثم يتبين أنه أيضاً لا يجدي نفعأ دائماً.
  • 4:10 - 4:13
    كانت مهمة الذكاء الاصطناعي هذه
    هي التحرك بسرعة.
  • 4:13 - 4:17
    لم يخبروها أنه كان عليها أن تتجه
    نحو الأمام
  • 4:17 - 4:19
    أو أنها لا تستطيع استخدام ذراعيها.
  • 4:19 - 4:24
    لذلك هذا ما تحصل عليه عندما تدرب
    الذكاء الاصطناعي ليتحرك بسرعة
  • 4:24 - 4:28
    قد تحصل على أشياء مثل الشقلبة
    والمشي الرديء.
  • 4:28 - 4:29
    هذا شائع حقاً.
  • 4:30 - 4:33
    بذلك ترتعش على الأرض في كومة.
  • 4:33 - 4:34
    (ضحك)
  • 4:35 - 4:38
    لذلك برأيي أنت تعرف ما ينبغي
    أن يكون أكثر غرابة
  • 4:39 - 4:40
    هو الروبوتات "المدمرة".
  • 4:40 - 4:44
    الشيء الآخر الذي سوف يفعله الذكاء الاصطناعي
    إذا أعطيته فرصة هو اختراق "القالب".
  • 4:44 - 4:47
    لذلك إذا قمت بتدريب ذكاء اصطناعي
    في محاكاة
  • 4:47 - 4:51
    فإنه سوف يتعلم كيف يخترق
    أخطاء المحاكاة الحسابية
  • 4:51 - 4:53
    ويجمعهم للحصول على الطاقة.
  • 4:53 - 4:58
    أو أنه سوف يكتشف كيفية التحرك بشكل أسرع
    عن طريق الاضطراب مراراً وتكراراً على الأرض
  • 4:58 - 5:00
    عندما تعمل مع ذكاء اصطناعي
  • 5:00 - 5:02
    فإنه أقل شبهاً من العمل مع إنسان آخر
  • 5:02 - 5:06
    وأكثر شبهاً بالعمل مع نوع ما
    من القوى الغريبة للطبيعة.
  • 5:07 - 5:11
    ومن السهل حقاً أن تعطي الذكاء الاصطناعي
    عن طريق الخطأ المشكلة الخاطئة ليحلها
  • 5:11 - 5:16
    ونحن لاندرك ذلك غالباًَ
    حتى يحدث خطاً ما فعلياً.
  • 5:16 - 5:18
    هنا تجربة قمت بإعدادها
  • 5:18 - 5:22
    حيث أردت أن ينسخ الذكاء الاصطناعي
    ألوان الطلاء
  • 5:22 - 5:23
    لأخترع ألوان طباعة جديدة
  • 5:23 - 5:26
    مع إعطاء القائمة مثل تلك الموجودة
    على اليسار.
  • 5:27 - 5:30
    وهنا يظهر ما الذي أتى به الذكاء
    الاصطناعي.
  • 5:30 - 5:33
    (سينديس بوب، توردلي، سفر، غراي ببليك)
  • 5:33 - 5:37
    (ضحك)
  • 5:39 - 5:41
    إذن من الناحية التقنية
  • 5:41 - 5:43
    قام بما طلبته منه.
  • 5:43 - 5:46
    اعتقدت أني كنت أسأله عن أسماء
    ألوان طلاء جميلة مثلاً
  • 5:46 - 5:49
    لكن فعلياً ما كنت أطلب فعله
  • 5:49 - 5:52
    كان فقط أن يقلد أنواع مجموعات الحروف
  • 5:52 - 5:54
    التي رآها في النص الأصلي.
  • 5:54 - 5:57
    كما أني لم أخبره أي شيء عن معاني الكلمات
  • 5:57 - 5:59
    أو أن هناك ربما بعض الكلمات
  • 5:59 - 6:02
    التي ينبغي أن يتجنب استخدامها
    في ألوان الطلاء هذه.
  • 6:03 - 6:07
    بذلك عالمه الكلي هو المعلومات
    التي أعطيته إياها.
  • 6:07 - 6:11
    كما حدث مع تجربة نكهة الآيس كريم،
    إنه لا يعرف عن أي شيء آخر.
  • 6:12 - 6:14
    ذلك عن طريق البيانات
  • 6:14 - 6:18
    التي غالباً نعطيها للذكاء الاصطناعي
    عن طريق الخطأ ليفعل الشيء الخطأ.
  • 6:19 - 6:22
    هذه سمكة تدعى تنش.
  • 6:22 - 6:24
    وكان هناك مجموعة من الباحثيين
  • 6:24 - 6:27
    الذين دربوا ذكاء اصطناعي
    على إيجاد هذه السمكة في الصور.
  • 6:27 - 6:29
    لكن بعد ذلك عندما سألوه
  • 6:29 - 6:32
    أي جزء من الصورة كان يستخدم فعلياً
    لإيجاد السمكة
  • 6:32 - 6:34
    إليكم ما أبرزه.
  • 6:35 - 6:37
    نعم هذه أصابع بشرية.
  • 6:37 - 6:39
    لماذا قد يبحث عن أصابع بشرية
  • 6:39 - 6:41
    عندما يحاول إيجاد السمكة؟
  • 6:42 - 6:45
    حسناً هذا يوضح أن التنش هي سمكة تذكارية
  • 6:45 - 6:49
    لذا في العديد من الصور التي رأى فيها
    الذكاء الاصطناعي هذه السمكة
  • 6:49 - 6:50
    خلال التدريب
  • 6:50 - 6:52
    بدت السمكة هكذا.
  • 6:52 - 6:53
    (ضحك)
  • 6:53 - 6:57
    كما أنه لم يكن يعلم أن الأصابع
    ليست جزءاً من السمكة.
  • 6:59 - 7:03
    هكذا أنتم تفهمون سبب صعوبة تصميم
    ذكاء اصطناعي
  • 7:03 - 7:06
    يستطيع أن يفهم فعلياً ما الذي ينظر اليه.
  • 7:06 - 7:09
    وهذا هو السبب في أن تصميم إدراك الصورة
  • 7:09 - 7:11
    في القيادة الذاتية للسيارات صعب للغاية.
  • 7:11 - 7:13
    كما أن العديد من أعطال السيارات
    ذاتية القيادة
  • 7:14 - 7:16
    هو بسبب أن الذكاء الاصطناعي
    اختلط عليه الأمر.
  • 7:16 - 7:20
    أريد أن أذكر مثال من عام 2016.
  • 7:20 - 7:25
    وقع حادث قاتل عندما كان يستخدم أحد ما
    الطيار الآلي تسلا
  • 7:25 - 7:28
    ولكن بدلاً من استخدامه على الطريق السريع
    كما كان مصمم له
  • 7:28 - 7:31
    استخدموه في شوارع المدينة.
  • 7:31 - 7:32
    وما حدث كان
  • 7:32 - 7:36
    أن شاحنة خرجت أمام السيارة وفشلت السيارة
    في الضغط على المكابح.
  • 7:37 - 7:41
    تم تدريب الذكاء الاصطناعي الآن على التعرف
    على الشاحنات في الصور بشكل قطعي.
  • 7:41 - 7:43
    لكن ما يبدو وكأنه حدث هو
  • 7:43 - 7:46
    أنه تم تدريبه للتعرف على الشاحنات
    في الطريق السريع
  • 7:46 - 7:49
    حيث قد تتوقع رؤية الشاحنات من الخلف.
  • 7:49 - 7:53
    ليس من المفترض أن تقود الشاحنات
    على الجانب في الطريق السريع
  • 7:53 - 7:56
    ولذلك عندما رأى الذكاء الاصطناعي
    هذه الشاحنة
  • 7:56 - 8:01
    يبدو أنه أدرك أنها من المرجح أن تكون
    علامة طريق
  • 8:01 - 8:03
    وبالتالي فهي آمنة للقيادة أسفلها.
  • 8:04 - 8:07
    وهنا خطأ للذكاء الاصطناعي من مجال مختلف.
  • 8:07 - 8:10
    اضطرت أمازون مؤخرًا إلى التخلي
    عن خوارزمية فرز السيرة الذاتية
  • 8:10 - 8:11
    التي كانوا يعملون عليها
  • 8:11 - 8:15
    عندما اكتشفوا أن الخوارزمية تعلمت
    التمييز ضد المرأة.
  • 8:15 - 8:18
    ما حدث هو أنهم تدربوا على عينات
    من سير ذاتية
  • 8:18 - 8:20
    لأشخاص توظفوا في الماضي.
  • 8:20 - 8:24
    ومن هذه الأمثلة تعلم الذكاء الاصطناعي
    أن يتجنب السير الذاتية لأشخاص
  • 8:24 - 8:26
    التحقوا بكليات للنساء
  • 8:26 - 8:29
    أو الذين لديهم كلمة "امرأة" في مكان ما
    من سيرتهم الذاتية
  • 8:29 - 8:34
    كما في "فريق كرة القدم النسائي"
    أو "جمعية النساء المهندسات".
  • 8:34 - 8:38
    لم يكن يعرف الذكاء الاصطناعي أنه لم يكن
    من المفترض أن ينسخ هذا الشيء بالتحديد
  • 8:38 - 8:40
    حيث كان يرى البشر يفعلون.
  • 8:40 - 8:43
    ومن الناحية التقنية فقد قام بفعل
    ما طلبوا منه
  • 8:43 - 8:46
    لكنهم فقط طلبوا أن يفعل الشيء الخطأ
    عن طريق الخطأ.
  • 8:47 - 8:50
    وهذا يحدث دائماً مع الذكاء الاصطناعي.
  • 8:50 - 8:54
    الذكاء الاصطناعي يمكن أن يكون مدمراً حقاً
    ولا يعرف ذلك.
  • 8:54 - 8:59
    لذلك فإن الذكاء الاصطناعي الذي يوصي بمحتوى
    جديد في الفيسبوك أو على اليوتيوب
  • 8:59 - 9:02
    تم تحسينه لزيادة عدد النقرات والمشاهدات.
  • 9:02 - 9:06
    ولسوء الحظ إحدى الطرق
    التي اكتشفوا فيها القيام بذلك
  • 9:06 - 9:10
    هي التوصية بمحتوى نظريات المؤامرة
    أو التعصب.
  • 9:11 - 9:16
    لا يملك الذكاء الاصطناعي نفسه أي تصور
    عن المضمون الفعلي للمحتوى
  • 9:16 - 9:20
    كما أنه ليس لديهم أي فكرة عما قد
    تكون عليه عواقب
  • 9:20 - 9:22
    التوصية بهذا المحتوى.
  • 9:22 - 9:24
    لذلك عندما نعمل مع الذكاء الاصطناعي
  • 9:24 - 9:29
    يمكننا أن نتجنب المشاكل.
  • 9:29 - 9:31
    وتجنب أن تسير الأمور بشكل خاطىء
  • 9:31 - 9:35
    قد يرجع ذلك إلى مشكلة التواصل القديمة
  • 9:35 - 9:39
    حيث يتعين علينا كبشر أن نتعلم كيفية
    التواصل مع الذكاء الاصطناعي.
  • 9:39 - 9:43
    يجب علينا أن نتعلم ما يستطيع الذكاء
    الاصطناعي فعله وما لايستطيع
  • 9:43 - 9:46
    وأن نفهم ذلك، بعقله الصغير جداً
  • 9:46 - 9:50
    لا يفهم الذكاء الاصطناعي حقاً ما نحاول
    أن نطلب منه القيام به.
  • 9:51 - 9:54
    بمعنى آخر ، يجب أن نكون مستعدين للعمل
    مع الذكاء الاصطناعى
  • 9:54 - 10:00
    ليس الذكاء الاصطناعي الفائق الكفاءة
    والواعي كما في الخيال العلمي.
  • 10:00 - 10:03
    يجب علينا أن نكون مستعدين للعمل
    مع ذكاء اصطناعى
  • 10:03 - 10:06
    لدينا بالفعل في وقتنا الحالي.
  • 10:06 - 10:10
    وفي الوقت الحاضر، الذكاء الاصطناعي
    غريب بما فيه الكفاية.
  • 10:10 - 10:11
    شكراً لكم
  • 10:11 - 10:16
    (تصفيق)
Title:
خطر الذكاء الاصطناعي أكثر غرابة مما تعتقد
Speaker:
جانيل شين
Description:

تقول جانيل شين، باحثة في الذكاء الاصطناعي، إن خطر الذكاء الاصطناعي لا يتمثل في أنه سوف يتمرد علينا، ولكن في أنه سوف يفعل بالضبط ما نطلبه منه. تعرض شين سبب عدم ارتقاء الذكاء الاصطناعي بعد لمستوى العقول الحقيقية من خلال مشاركة التصرفات الغريبة وبعض الأحيان المزعجة لخوارزميات الذكاء الاصطناعي عند محاولة حل المشاكل البشرية، مثل إيجاد نكهة جديدة من الآيس كريم أو التعرف على السيارات في الطريق.
more » « less
Video Language:
English
Team:
closed TED
Project:
TEDTalks
Duration:
10:28

Arabic subtitles

Revisions

Our website uses cookies for analysis purposes.