1
00:00:00,000 --> 00:00:04,765
الذكاء الاصطناعي

2
00:00:04,789 --> 00:00:08,318
معروف بتعطيل جميع أنواع الصناعات.

3
00:00:08,961 --> 00:00:11,004
ماذا عن الآيس كريم؟

4
00:00:11,879 --> 00:00:15,518
ما هو نوع النكهات الجديدة المذهلة 
التي يمكن صنعها

5
00:00:15,542 --> 00:00:18,518
باستخدام قوة الذكاء الاصطناعي المتقدم؟

6
00:00:19,011 --> 00:00:23,172
لذلك تعاونت مع مجموعة من المبرمجين
من مدرسة كيلينغ المتوسطة

7
00:00:23,196 --> 00:00:25,437
لمعرفة إجابة هذا السؤال.

8
00:00:25,461 --> 00:00:30,542
قاموا بجمع أكثر من 1600 نكهة 
آيس كريم موجودة بالفعل

9
00:00:30,566 --> 00:00:36,088
ثم قمنا معاً بإدخالهم إلى خوارزمية حسابية
لنرى ماذا قد ينتج.

10
00:00:36,112 --> 00:00:39,865
وهنا لدينا بعض النكهات 
التي توصل إليها الذكاء الاصطناعي.

11
00:00:40,444 --> 00:00:41,915
(استراحة قمامة اليقطين)

12
00:00:41,939 --> 00:00:43,341
ضحك

13
00:00:43,365 --> 00:00:45,834
(صلصال زبدة الفول السوداني)

14
00:00:46,822 --> 00:00:48,165
(مرض قشدة فراولة)

15
00:00:48,189 --> 00:00:50,315
(ضحك)

16
00:00:50,339 --> 00:00:54,936
هذه النكهات ليست لذيذة كما 
كنا نأمل أن تكون.

17
00:00:54,960 --> 00:00:56,824
لذا السؤال هو: ماذا حدث؟

18
00:00:56,848 --> 00:00:58,242
ما الخطأ الذي حدث؟

19
00:00:58,266 --> 00:01:00,225
هل الذكاء الاصطناعي يحاول قتلنا؟

20
00:01:01,027 --> 00:01:05,337
أم أنه يحاول فعل ما نطلب منه
وقد كان هناك مشكلة ما؟

21
00:01:06,567 --> 00:01:09,031
في الأفلام، عندما يحدث خطأ
مع الذكاء الاصطناعي

22
00:01:09,055 --> 00:01:11,767
يكون عادة السبب أن الذكاء 
الإصطناعي قد قرر

23
00:01:11,791 --> 00:01:14,063
أنه لا يريد أن يطيع البشر بعد الآن

24
00:01:14,087 --> 00:01:16,710
وأنه قد حصل على هدفه 
وشكراً جزيلاً لكم.

25
00:01:17,266 --> 00:01:20,482
في الحياة الواقعية، الذكاء الاصطناعي 
الذي نمتلكه فعليا

26
00:01:20,506 --> 00:01:22,369
ليس ذكياً بما يكفي لفعل ذلك.

27
00:01:22,781 --> 00:01:25,763
إنه يمتلك القدرة الحاسوبية التقريبية

28
00:01:25,787 --> 00:01:27,063
لدودة الأرض

29
00:01:27,087 --> 00:01:30,490
أو ربما كحد أقصى لنحلة واحدة

30
00:01:30,514 --> 00:01:32,729
وربما أقل من ذلك فعليا.

31
00:01:32,753 --> 00:01:35,347
وحيث أننا نتعلم باستمرار أشياء جديدة
عن العقول

32
00:01:35,371 --> 00:01:39,731
التي توضح كم أن الذكاء الاصطناعي
لا يرقى إلى مستوى العقول الحقيقية.

33
00:01:39,755 --> 00:01:45,418
لذلك فإن الذكاء الاصصناعي هذه الأيام يمكنه
أن يقوم بمهمة مثل تحديد المارة في صورة

34
00:01:45,442 --> 00:01:48,425
لكنه لا يدرك مفهوم المارة

35
00:01:48,449 --> 00:01:53,273
عدا عن أنه مجموعة من الخطوط
والأخاديد وأشياء أخرى.

36
00:01:53,792 --> 00:01:56,313
إنه لا يعلم ما هو الإنسان فعلياً.

37
00:01:56,822 --> 00:02:00,104
لذا فإن السؤال: هل الذكاء الاصطناعي 
هذه الأيام سوف يفعل ما نطلبه منه؟

38
00:02:00,128 --> 00:02:01,722
إنه سوف يفعل عندما يستطيع

39
00:02:01,746 --> 00:02:04,472
لكن ربما قد لا يفعل ماذا نريد نحن فعلياً.

40
00:02:04,496 --> 00:02:06,911
دعنا نقول أنك كنت تحاول أن
تحصل على ذكاء اصطناعي

41
00:02:06,935 --> 00:02:09,554
لتأخذ هذه المجموعة من أجزاء الروبوت

42
00:02:09,578 --> 00:02:13,775
وتقوم بتجميعهم في نوع من الروبوت لتصل 
من النقطة A إلى النقطة B.

43
00:02:13,799 --> 00:02:16,280
الآن إذا كنت تحاول أن تجرب
وتحل هذه المشكلة

44
00:02:16,304 --> 00:02:18,655
عن طريق كتابة برنامج حاسوبي
ذو طابع تقليدي

45
00:02:18,679 --> 00:02:22,096
فإنك سوف تعطي البرنامج التعليمات
خطوة بخطوة

46
00:02:22,120 --> 00:02:23,449
عن كيفية أخذ هذه الأجزاء

47
00:02:23,473 --> 00:02:25,880
وكيفية تجميعها في روبوت
له أقدام

48
00:02:25,904 --> 00:02:28,846
من ثم كيفية استخدام تلك الأرجل 
في المشي إلى النقطة B.

49
00:02:29,441 --> 00:02:31,781
لكن عندما تستخدم الذكاء الاصطناعي
لحل المشكلة

50
00:02:31,805 --> 00:02:32,979
يحدث ذلك بطريقة مختلفة.

51
00:02:33,003 --> 00:02:35,385
أنت لاتخبره كيف يمكن أن يحل المشكلة

52
00:02:35,409 --> 00:02:36,888
أنت تعطيه فقط الهدف

53
00:02:36,912 --> 00:02:40,174
وهو عليه أن يكتشف بنفسه 
عن طريق التجربة والخطأ

54
00:02:40,198 --> 00:02:41,682
كيفية الوصول إلى هذا الهدف.

55
00:02:42,254 --> 00:02:46,356
ويتبين أن الطريقة التي يميل بها الذكاء 
الاصطناعي لحل هذه المشكلة بالذات

56
00:02:46,380 --> 00:02:47,864
تتم عن طريق فعل التالي

57
00:02:47,888 --> 00:02:51,255
إنه يقوم بجمع نفسه في برج
ثم يسقط

58
00:02:51,279 --> 00:02:53,106
ويهبط عند النقطة B.

59
00:02:53,130 --> 00:02:55,959
وهذه الطريقة تحل المشكلة تقنياً.

60
00:02:55,983 --> 00:02:57,622
وصل إلى النقطة B تقنياً.

61
00:02:57,646 --> 00:03:01,911
خطر الذكاء الاصطناعي ليس 
في أنه سوف يتمرد ضدنا

62
00:03:01,935 --> 00:03:06,209
الخطر في أنه سوف يقوم بالضبط
بفعل ما نطلب منه.

63
00:03:06,876 --> 00:03:09,374
وبذلك تصبح خدعة العمل مع الذكاء 
الاصطناعي هي:

64
00:03:09,398 --> 00:03:13,226
كيف نقوم بتنصيب المشكلة 
كي يفعل ما نريد فعلياً؟

65
00:03:14,726 --> 00:03:18,032
بذلك فإن هذا الروبوت الصغير هنا 
يتم التحكم به بواسطة ذكاء اصطناعي.

66
00:03:18,056 --> 00:03:20,870
توصل الذكاء الاصطناعي لتصميم 
من أجل أرجل الروبوت

67
00:03:20,894 --> 00:03:24,972
من ثم اكتشف كيفية استخدامهم
لتجاوز كل هذه العقبات.

68
00:03:24,996 --> 00:03:27,737
ولكن عندما قام ديفيد ها 
بإعداد هذه التجربة

69
00:03:27,761 --> 00:03:30,617
كان عليه أن يضعها 
مع قيود صارمة جدا جدا

70
00:03:30,641 --> 00:03:33,933
على مدى حجم الذكاء الاصطناعي 
المسموح لصنع الأرجل

71
00:03:33,957 --> 00:03:35,507
لأنه على خلاف ذلك

72
00:03:43,058 --> 00:03:46,989
(ضحك)

73
00:03:48,563 --> 00:03:52,308
ومن الناحية التقنية 
فإنه وصل إلى نهاية هذه العقبة.

74
00:03:52,332 --> 00:03:57,274
إذن ترى مدى صعوبة الحصول على ذكاء
اصطناعي لفعل شيء ما بسيط مثل المشي فقط.

75
00:03:57,298 --> 00:04:01,118
لذلك رؤية الذكاء الاصطناعي يفعل هذا
قد تقول حسناً هذا ليس عدلاً

76
00:04:01,142 --> 00:04:03,722
لا يمكنك أن تكون برجاً طويلاً وتسقط

77
00:04:03,746 --> 00:04:07,181
عليك مثلاً أن تستخدم الأرجل فعلياً للمشي.

78
00:04:07,205 --> 00:04:09,964
ثم يتبين أنه أيضاً لا يجدي نفعأ دائماً.

79
00:04:09,988 --> 00:04:12,747
كانت مهمة الذكاء الاصطناعي هذه 
هي التحرك بسرعة.

80
00:04:13,115 --> 00:04:16,708
لم يخبروها أنه كان عليها أن تتجه
نحو الأمام

81
00:04:16,732 --> 00:04:18,990
أو أنها لا تستطيع استخدام ذراعيها.

82
00:04:19,487 --> 00:04:24,105
لذلك هذا ما تحصل عليه عندما تدرب
الذكاء الاصطناعي ليتحرك بسرعة

83
00:04:24,129 --> 00:04:27,663
قد تحصل على أشياء مثل الشقلبة 
والمشي الرديء.

84
00:04:27,687 --> 00:04:29,087
هذا شائع حقاً.

85
00:04:29,667 --> 00:04:32,846
بذلك ترتعش على الأرض في كومة.

86
00:04:32,870 --> 00:04:34,020
(ضحك)

87
00:04:35,241 --> 00:04:38,495
لذلك برأيي أنت تعرف ما ينبغي 
أن يكون أكثر غرابة

88
00:04:38,519 --> 00:04:39,915
هو الروبوتات "المدمرة".

89
00:04:40,256 --> 00:04:44,011
الشيء الآخر الذي سوف يفعله الذكاء الاصطناعي
إذا أعطيته فرصة هو اختراق "القالب".

90
00:04:44,035 --> 00:04:46,552
لذلك إذا قمت بتدريب ذكاء اصطناعي
في محاكاة

91
00:04:46,576 --> 00:04:50,689
فإنه سوف يتعلم كيف يخترق 
أخطاء المحاكاة الحسابية

92
00:04:50,713 --> 00:04:52,920
ويجمعهم للحصول على الطاقة.

93
00:04:52,944 --> 00:04:58,419
أو أنه سوف يكتشف كيفية التحرك بشكل أسرع
عن طريق الاضطراب مراراً وتكراراً على الأرض

94
00:04:58,443 --> 00:05:00,028
عندما تعمل مع ذكاء اصطناعي

95
00:05:00,052 --> 00:05:02,441
فإنه أقل شبهاً من العمل مع إنسان آخر

96
00:05:02,465 --> 00:05:06,094
وأكثر شبهاً بالعمل مع نوع ما 
من القوى الغريبة للطبيعة.

97
00:05:06,562 --> 00:05:11,185
ومن السهل حقاً أن تعطي الذكاء الاصطناعي
عن طريق الخطأ المشكلة الخاطئة ليحلها

98
00:05:11,209 --> 00:05:15,747
ونحن لاندرك ذلك غالباًَ 
حتى يحدث خطاً ما فعلياً.

99
00:05:16,242 --> 00:05:18,322
هنا تجربة قمت بإعدادها

100
00:05:18,346 --> 00:05:21,528
حيث أردت أن ينسخ الذكاء الاصطناعي
ألوان الطلاء

101
00:05:21,552 --> 00:05:23,298
لأخترع ألوان طباعة جديدة

102
00:05:23,322 --> 00:05:26,309
مع إعطاء القائمة مثل تلك الموجودة 
على اليسار.

103
00:05:26,798 --> 00:05:29,802
وهنا يظهر ما الذي أتى به الذكاء
الاصطناعي.

104
00:05:29,826 --> 00:05:32,969
(سينديس بوب، توردلي، سفر، غراي ببليك)

105
00:05:32,993 --> 00:05:37,223
(ضحك)

106
00:05:39,177 --> 00:05:41,063
إذن من الناحية التقنية

107
00:05:41,087 --> 00:05:42,951
قام بما طلبته منه.

108
00:05:42,975 --> 00:05:46,283
اعتقدت أني كنت أسأله عن أسماء
ألوان طلاء جميلة مثلاً

109
00:05:46,307 --> 00:05:48,614
لكن فعلياً ما كنت أطلب فعله

110
00:05:48,638 --> 00:05:51,724
كان فقط أن يقلد أنواع مجموعات الحروف

111
00:05:51,748 --> 00:05:53,653
التي رآها في النص الأصلي.

112
00:05:53,677 --> 00:05:56,775
كما أني لم أخبره أي شيء عن معاني الكلمات

113
00:05:56,799 --> 00:05:59,359
أو أن هناك ربما بعض الكلمات

114
00:05:59,383 --> 00:06:02,272
التي ينبغي أن يتجنب استخدامها 
في ألوان الطلاء هذه.

115
00:06:03,141 --> 00:06:06,635
بذلك عالمه الكلي هو المعلومات
التي أعطيته إياها.

116
00:06:06,659 --> 00:06:10,687
كما حدث مع تجربة نكهة الآيس كريم،
إنه لا يعرف عن أي شيء آخر.

117
00:06:12,491 --> 00:06:14,129
ذلك عن طريق البيانات

118
00:06:14,153 --> 00:06:18,197
التي غالباً نعطيها للذكاء الاصطناعي
عن طريق الخطأ ليفعل الشيء الخطأ.

119
00:06:18,694 --> 00:06:21,726
هذه سمكة تدعى تنش.

120
00:06:21,750 --> 00:06:23,565
وكان هناك مجموعة من الباحثيين

121
00:06:23,589 --> 00:06:27,463
الذين دربوا ذكاء اصطناعي 
على إيجاد هذه السمكة في الصور.

122
00:06:27,487 --> 00:06:28,783
لكن بعد ذلك عندما سألوه

123
00:06:28,807 --> 00:06:32,233
أي جزء من الصورة كان يستخدم فعلياً
لإيجاد السمكة

124
00:06:32,257 --> 00:06:33,615
إليكم ما أبرزه.

125
00:06:35,203 --> 00:06:37,392
نعم هذه أصابع بشرية.

126
00:06:37,416 --> 00:06:39,475
لماذا قد يبحث عن أصابع بشرية

127
00:06:39,499 --> 00:06:41,420
عندما يحاول إيجاد السمكة؟

128
00:06:42,126 --> 00:06:45,290
حسناً هذا يوضح أن التنش هي سمكة تذكارية

129
00:06:45,314 --> 00:06:49,125
لذا في العديد من الصور التي رأى فيها
الذكاء الاصطناعي هذه السمكة

130
00:06:49,149 --> 00:06:50,300
خلال التدريب

131
00:06:50,324 --> 00:06:51,814
بدت السمكة هكذا.

132
00:06:51,838 --> 00:06:53,473
(ضحك)

133
00:06:53,497 --> 00:06:56,827
كما أنه لم يكن يعلم أن الأصابع 
ليست جزءاً من السمكة.

134
00:06:58,808 --> 00:07:02,928
هكذا أنتم تفهمون سبب صعوبة تصميم
ذكاء اصطناعي

135
00:07:02,952 --> 00:07:06,271
يستطيع أن يفهم فعلياً ما الذي ينظر اليه.

136
00:07:06,295 --> 00:07:09,157
وهذا هو السبب في أن تصميم إدراك الصورة

137
00:07:09,181 --> 00:07:11,248
في القيادة الذاتية للسيارات صعب للغاية.

138
00:07:11,272 --> 00:07:13,477
كما أن العديد من أعطال السيارات 
ذاتية القيادة

139
00:07:13,501 --> 00:07:16,386
هو بسبب أن الذكاء الاصطناعي
اختلط عليه الأمر.

140
00:07:16,410 --> 00:07:20,418
أريد أن أذكر مثال من عام 2016.

141
00:07:20,442 --> 00:07:24,897
وقع حادث قاتل عندما كان يستخدم أحد ما 
الطيار الآلي تسلا

142
00:07:24,921 --> 00:07:28,335
ولكن بدلاً من استخدامه على الطريق السريع
كما كان مصمم له

143
00:07:28,359 --> 00:07:30,564
استخدموه في شوارع المدينة.

144
00:07:31,239 --> 00:07:32,414
وما حدث كان

145
00:07:32,438 --> 00:07:35,834
أن شاحنة خرجت أمام السيارة وفشلت السيارة
في الضغط على المكابح.

146
00:07:36,507 --> 00:07:41,269
تم تدريب الذكاء الاصطناعي الآن على التعرف
على الشاحنات في الصور بشكل قطعي.

147
00:07:41,293 --> 00:07:43,438
لكن ما يبدو وكأنه حدث هو

148
00:07:43,462 --> 00:07:46,393
أنه تم تدريبه للتعرف على الشاحنات
في الطريق السريع

149
00:07:46,417 --> 00:07:49,316
حيث قد تتوقع رؤية الشاحنات من الخلف.

150
00:07:49,340 --> 00:07:52,760
ليس من المفترض أن تقود الشاحنات 
على الجانب في الطريق السريع

151
00:07:52,784 --> 00:07:56,239
ولذلك عندما رأى الذكاء الاصطناعي
هذه الشاحنة

152
00:07:56,263 --> 00:08:01,090
يبدو أنه أدرك أنها من المرجح أن تكون 
علامة طريق

153
00:08:01,114 --> 00:08:03,387
وبالتالي فهي آمنة للقيادة أسفلها.

154
00:08:04,114 --> 00:08:06,694
وهنا خطأ للذكاء الاصطناعي من مجال مختلف.

155
00:08:06,718 --> 00:08:10,178
اضطرت أمازون مؤخرًا إلى التخلي
عن خوارزمية فرز السيرة الذاتية

156
00:08:10,202 --> 00:08:11,422
التي كانوا يعملون عليها

157
00:08:11,446 --> 00:08:15,354
عندما اكتشفوا أن الخوارزمية تعلمت
التمييز ضد المرأة.

158
00:08:15,378 --> 00:08:18,094
ما حدث هو أنهم تدربوا على عينات 
من سير ذاتية

159
00:08:18,118 --> 00:08:20,360
لأشخاص توظفوا في الماضي.

160
00:08:20,384 --> 00:08:24,407
ومن هذه الأمثلة تعلم الذكاء الاصطناعي
أن يتجنب السير الذاتية لأشخاص

161
00:08:24,431 --> 00:08:26,457
التحقوا بكليات للنساء

162
00:08:26,481 --> 00:08:29,287
أو الذين لديهم كلمة "امرأة" في مكان ما
من سيرتهم الذاتية

163
00:08:29,311 --> 00:08:33,887
كما في "فريق كرة القدم النسائي"
أو "جمعية النساء المهندسات".

164
00:08:33,911 --> 00:08:37,885
لم يكن يعرف الذكاء الاصطناعي أنه لم يكن
من المفترض أن ينسخ هذا الشيء بالتحديد

165
00:08:37,909 --> 00:08:39,887
حيث كان يرى البشر يفعلون.

166
00:08:39,911 --> 00:08:43,088
ومن الناحية التقنية فقد قام بفعل
ما طلبوا منه

167
00:08:43,112 --> 00:08:45,909
لكنهم فقط طلبوا أن يفعل الشيء الخطأ 
عن طريق الخطأ.

168
00:08:46,653 --> 00:08:49,548
وهذا يحدث دائماً مع الذكاء الاصطناعي.

169
00:08:50,120 --> 00:08:53,711
الذكاء الاصطناعي يمكن أن يكون مدمراً حقاً
ولا يعرف ذلك.

170
00:08:53,735 --> 00:08:58,813
لذلك فإن الذكاء الاصطناعي الذي يوصي بمحتوى
جديد في الفيسبوك أو على اليوتيوب

171
00:08:58,837 --> 00:09:02,376
تم تحسينه لزيادة عدد النقرات والمشاهدات.

172
00:09:02,400 --> 00:09:05,836
ولسوء الحظ إحدى الطرق 
التي اكتشفوا فيها القيام بذلك

173
00:09:05,860 --> 00:09:10,363
هي التوصية بمحتوى نظريات المؤامرة 
أو التعصب.

174
00:09:10,902 --> 00:09:16,204
لا يملك الذكاء الاصطناعي نفسه أي تصور 
عن المضمون الفعلي للمحتوى

175
00:09:16,228 --> 00:09:19,623
كما أنه ليس لديهم أي فكرة عما قد
تكون عليه عواقب

176
00:09:19,647 --> 00:09:21,756
التوصية بهذا المحتوى.

177
00:09:22,296 --> 00:09:24,307
لذلك عندما نعمل مع الذكاء الاصطناعي

178
00:09:24,331 --> 00:09:28,513
يمكننا أن نتجنب المشاكل.

179
00:09:28,537 --> 00:09:30,860
وتجنب أن تسير الأمور بشكل خاطىء

180
00:09:30,884 --> 00:09:35,410
قد يرجع ذلك إلى مشكلة التواصل القديمة


181
00:09:35,434 --> 00:09:39,179
حيث يتعين علينا كبشر أن نتعلم كيفية 
التواصل مع الذكاء الاصطناعي.

182
00:09:39,203 --> 00:09:43,242
يجب علينا أن نتعلم ما يستطيع الذكاء 
الاصطناعي فعله وما لايستطيع

183
00:09:43,266 --> 00:09:46,352
وأن نفهم ذلك، بعقله الصغير جداً

184
00:09:46,376 --> 00:09:50,389
لا يفهم الذكاء الاصطناعي حقاً ما نحاول
أن نطلب منه القيام به.

185
00:09:51,148 --> 00:09:54,469
بمعنى آخر ، يجب أن نكون مستعدين للعمل
مع الذكاء الاصطناعى

186
00:09:54,493 --> 00:09:59,751
ليس الذكاء الاصطناعي الفائق الكفاءة
والواعي كما في الخيال العلمي.

187
00:09:59,775 --> 00:10:02,637
يجب علينا أن نكون مستعدين للعمل
مع ذكاء اصطناعى

188
00:10:02,661 --> 00:10:05,599
لدينا بالفعل في وقتنا الحالي.

189
00:10:05,623 --> 00:10:09,828
وفي الوقت الحاضر، الذكاء الاصطناعي 
غريب بما فيه الكفاية.

190
00:10:09,852 --> 00:10:11,042
شكراً لكم

191
00:10:11,066 --> 00:10:16,291
(تصفيق)