Return to Video

كيف أقاوم التحيز في الخوارزميات

  • 0:01 - 0:04
    مرحبا أُدعى (جوي)،
    أَنظُم الشعر على الحاسوب
  • 0:04 - 0:09
    في مهمة لردع قوة ناشئة غير مرئية،
  • 0:09 - 0:12
    قوة أسميتها "النظرة المشفرَّة،"
  • 0:12 - 0:15
    مصطلح أطلقه عن تحيز الخوارزمية.
  • 0:15 - 0:20
    تحيز الخوارزمية مثل تحيز البشر
    يؤدي إلى الإجحاف.
  • 0:20 - 0:26
    برغم ذلك، الخوارزميات مثل الفيروسات
    يتفشى فيها التحيز على مستوى واسع
  • 0:26 - 0:27
    بخطى سريعة.
  • 0:28 - 0:32
    تحيز الخوارزمية قد يُفضِي إلى
    وقوع حوادث إقصائية
  • 0:32 - 0:34
    و ممارسات تمييزية.
  • 0:35 - 0:37
    دعوني أوضح ما أعنيه.
  • 0:37 - 0:39
    (فيديو): أهلا بالكاميرا.
    لدي وجه.
  • 0:40 - 0:42
    هل ترون وجهي؟
  • 0:42 - 0:44
    وجه بلا نظارات؟
  • 0:44 - 0:46
    تستطيع رؤية وجهها.
  • 0:46 - 0:48
    ماذا عن وجهي؟
  • 0:52 - 0:56
    لدي قناع. هل ترى قناعي؟
  • 0:56 - 0:59
    إذن كيف حدث هذا؟
  • 0:59 - 1:02
    لمَ أجلس أمام حاسوب
  • 1:02 - 1:03
    أضع قناعًا أبيض،
  • 1:03 - 1:07
    أحاول أن تكتشفني كاميرا ويب زهيدة؟
  • 1:07 - 1:09
    حسنا عندما لا أقاوم النظرة المشفرة
  • 1:09 - 1:11
    بصفتي شاعرة أستخدم التشفير،
  • 1:11 - 1:14
    أنا طالبة دراسات عليا في
    إم آي تي ميديا لاب،
  • 1:14 - 1:19
    و هناك لدي الفرصة للعمل على
    جميع أنواع المشروعات الغريبة،
  • 1:19 - 1:21
    بما في ذلك ( أسباير ميرور)،
  • 1:21 - 1:26
    مشروع قمت به لأرسم
    أقنعة رقْمية على انعكاسي.
  • 1:26 - 1:29
    لذا في الصباح إذا أردت
    الشعور بالقوة،
  • 1:29 - 1:30
    أستطيع أن أضع قناع أسد.
  • 1:30 - 1:34
    إذا أردت أن أرفع معنوياتي،
    قد أحصل على اقتباس.
  • 1:34 - 1:37
    لذا استخدمت برمجة موسعة
    للتعرف على الوجه
  • 1:37 - 1:38
    لبناء النظام،
  • 1:38 - 1:43
    لكني وجدت أنه من الصعب
    اختباره مالم أضع قناعًا.
  • 1:44 - 1:49
    لسوء الحظ واجهتني هذه المسألة من قبل.
  • 1:49 - 1:53
    عندما كنت طالبة في جامعة جورجيا
    التقنية أدرس علوم الحاسب،
  • 1:53 - 1:55
    اعتدت العمل على الروبوتات الاجتماعية،
  • 1:55 - 1:59
    و إحدى مهامي كانت أن أجعل روبوت
    يلعب بيكابو (لعبة الاختفاء)،
  • 1:59 - 2:01
    لعبة بسيطة لتناوب الأدوار
  • 2:01 - 2:05
    حيث يغطي الشخص وجهه
    عن شريكه ثم يكشفه قائلا، "بيكابو!"
  • 2:05 - 2:09
    المشكلة أن هذه اللعبة لا تعمل
    حقيقةً إذا لم أستطع رؤيتك،
  • 2:09 - 2:12
    و روبوتي لا يستطيع رؤيتي.
  • 2:12 - 2:16
    لكني استعنت بوجه زميلتي
    بالسكن لكي أنهي المشروع،
  • 2:16 - 2:17
    وقدمت المَهًمّة،
  • 2:17 - 2:21
    ووجدت أن شخصا آخر قد حل هذه المشكلة.
  • 2:22 - 2:24
    ليس بعد وقت طويل حينها،
  • 2:24 - 2:28
    كنت في هونغ كونغ لأجل
    مسابقة في ريادة الأعمال.
  • 2:28 - 2:31
    قرر المنظمون أن يأخذوا المشاركين
  • 2:31 - 2:33
    في جولة للشركات الناشئة المحلية.
  • 2:33 - 2:36
    إحدى هذه الشركات
    كان لديها روبوت اجتماعي،
  • 2:36 - 2:38
    و قرروا استخدام عرض توضيحي.
  • 2:38 - 2:41
    عمل العرض التوضيحي مع الجميع
    حتى جاء دوري،
  • 2:41 - 2:43
    ربما تستطيع تخيل الأمر.
  • 2:43 - 2:46
    لم يتعرف على وجهي.
  • 2:46 - 2:49
    سألت المطورين عما يحدث،
  • 2:49 - 2:54
    واتضح أننا استخدمنا نفس البرمجة
    العامة للتعرف على الوجه.
  • 2:54 - 2:56
    جبت نصف العالم،
  • 2:56 - 3:00
    لأعلم أن تحيز الخوارزمية
    يستطيع الانتقال بسرعة
  • 3:00 - 3:03
    قدر ما يأخذه الوقت لتحميل
    بعض الملفات من شبكة الانترنت.
  • 3:04 - 3:07
    إذن ما الذي يحدث؟
    لم لا يتعرف على وجهي؟
  • 3:07 - 3:10
    حسنا، علينا أن ننظر إلى كيفية
    تفعيل حاسة البصر عند الآلات.
  • 3:10 - 3:14
    يستخدم البصر الحاسوبي
    تقنيات خاصة بتعلم الآلة
  • 3:14 - 3:16
    للقيام بالتعرف على الوجه.
  • 3:16 - 3:19
    إذن يتفعل هذا بإنشاء جهاز
    تدريب مزود بأمثلة للأوجه.
  • 3:19 - 3:22
    هذا وجه. هذا وجه.
    هذا ليس بوجه.
  • 3:22 - 3:27
    وبمرور الوقت، يتعلم الحاسوب
    كيف يتعرف على وجوه أخرى.
  • 3:27 - 3:31
    برغم ذلك، إذا لم تكن أجهزة التدريب متنوعة،
  • 3:31 - 3:34
    ووجد وجه يختلف كثيرا عن النمط القائم
  • 3:34 - 3:36
    سيكون أصعب في التعرف عليه،
  • 3:36 - 3:38
    الأمر الذي حدث معي.
  • 3:38 - 3:40
    لكن لا تقلقوا -- هناك أخبار جيدة.
  • 3:40 - 3:43
    أجهزة التدريب لا تحقق إنجازًا من لاشيء.
  • 3:43 - 3:45
    نستطيع بالفعل أن ننشئهم.
  • 3:45 - 3:49
    إذن هناك فرصة لإنتاج أجهزة
    تدريب تمسح الطيف الكامل
  • 3:49 - 3:53
    التي تعكس صورا تُثري الإنسانية أكثر.
  • 3:53 - 3:55
    الآن قد رأيتم في أمثلتي
  • 3:55 - 3:57
    كيف أن الروبوتات الاجتماعية
  • 3:57 - 4:02
    كشفت لي الإقصاء المنتهج
    في تحيز الخوارزمية.
  • 4:02 - 4:06
    لكن قد يؤدي تحيز الخوارزمية
    إلى الممارسات التمييزية أيضا.
  • 4:07 - 4:09
    عبر الولايات المتحدة،
  • 4:09 - 4:13
    بدأت أقسام الشرطة في استخدام
    برمجة التعرف على الوجه
  • 4:13 - 4:16
    كسلاح لمكافحة الجريمة.
  • 4:16 - 4:18
    نشرت كلية حقوق جورج تاون تقريراً
  • 4:18 - 4:24
    يظهر أن بالغاً من كل اثنين في الولايات
    المتحدة -- حوالى 117 مليون نسمة --
  • 4:24 - 4:28
    توجد بصمة وجهه
    في شبكات التعرف على الوجه.
  • 4:28 - 4:33
    تتمكن أقسام الشرطة حالياً من تفحص
    هذه الشبكات بطريقة غير منظمة،
  • 4:33 - 4:37
    باستخدام خوارزميات لم يراع فيها الدقة.
  • 4:37 - 4:41
    حتى الآن لم يثبَت فشل التعرف على الوجه،
  • 4:41 - 4:45
    ويظل تصنيف الوجوه تحدياً مستمراً.
  • 4:45 - 4:47
    قد تكون رأيت هذا في فيسبوك.
  • 4:47 - 4:50
    أضحك كثيرا أنا وأصدقائي
    عندما نرى الآخرين
  • 4:50 - 4:52
    غير مصنَّفين في صورنا.
  • 4:52 - 4:58
    لكن عدم تحديد مجرماً
    مشتبهاً به ليس أمراً مضحكاً،
  • 4:58 - 5:01
    ولا انتهاكاً للحريات المدنية.
  • 5:01 - 5:04
    التعلم الآلي يستخدم في التعرف على الوجه،
  • 5:04 - 5:08
    لكنه أيضا يتجاوز حدود رؤية الحاسوب.
  • 5:09 - 5:13
    في كتابها، "أسلحة الدمار الحسابيّ،"
  • 5:13 - 5:20
    تحدثت عالمة البيانات (كاثي أونيل)
    عن هذه الأسلحة الصاعدة --
  • 5:20 - 5:24
    الخوارزميات الرائجة والغامضة والمدمرة
  • 5:24 - 5:27
    التي تُستخدم بتزايد في اتخاذ القرارات
  • 5:27 - 5:31
    التي تؤثر على نواحي أكثر في حياتنا.
  • 5:31 - 5:32
    إذن من يُوظَّف أو يُطرَد؟
  • 5:32 - 5:35
    هل تحصل على ذاك القرض؟
    هل تحصل على التأمين؟
  • 5:35 - 5:38
    هل قُبلت بالكلية التي أردتها؟
  • 5:38 - 5:42
    هل يدفع الجميع نفس السعرعن نفس المنتج
  • 5:42 - 5:44
    الذي اشتُرِي من نفس المنصة؟
  • 5:44 - 5:48
    بدأ مسؤولو تطبيق القانون
    في استخدام التعلم الآلي
  • 5:48 - 5:50
    لغرض الفاعلية في حفظ الأمن.
  • 5:50 - 5:54
    بعض القضاة يحددون درجات
    الخطر باستخدام الآلة لمعرفة
  • 5:54 - 5:58
    طول المدة التي سيقضيها الفرد في السجن.
  • 5:58 - 6:01
    بالتالي علينا أن نفكر مليًّا
    في هذه القرارات.
  • 6:01 - 6:02
    هل هي عادلة؟
  • 6:02 - 6:05
    و لقد رأينا أن تحيز الخوارزمية
  • 6:05 - 6:08
    لا يؤدي بالضرورة إلى نتائج عادلة دائما.
  • 6:08 - 6:10
    ما الذي يمكن فعله حيال هذا؟
  • 6:10 - 6:14
    حسنا، نستطيع البدء في
    إنتاج تشفير أكثر تضميناً
  • 6:14 - 6:17
    و نوظف ممارسات تشفير شاملة.
  • 6:17 - 6:19
    إن الناس هم من يبادروا.
  • 6:20 - 6:22
    لذا من يقوم بالتشفير له أهمية.
  • 6:22 - 6:26
    هل ننتج مجموعات للطيف
    الكامل بها أفراد متنوعين
  • 6:26 - 6:28
    من يستطيع فحص النقاط
    غير المرئية لبعضهم البعض؟
  • 6:28 - 6:32
    على الصعيد الفني،
    يوجد أهمية لكيفية التشفير.
  • 6:32 - 6:35
    هل نصنّع بعَدْل بينما نطور النظام؟
  • 6:36 - 6:38
    و في النهاية لمً نقوم بالتشفير.
  • 6:39 - 6:44
    لقد استخدمنا أدوات للإعداد الحاسوبي
    لكشف الثروة الهائلة.
  • 6:44 - 6:48
    لدينا الآن الفرصة لكشف جودة أكبر
  • 6:48 - 6:51
    إذا جعلنا من التغير الاجتماعي أولوية
  • 6:51 - 6:53
    و ليس كتفكير مؤجَّل.
  • 6:54 - 6:59
    و هذه الركائز الثلاثة التي
    ستشعل حركة التشفير.
  • 6:59 - 7:00
    من يشفر له أهمية،
  • 7:00 - 7:02
    كيف نشفر مهم
  • 7:02 - 7:04
    ولمِاذا نشفر مهم أيضا.
  • 7:04 - 7:07
    إذن لنتحول للتشفير
    نستطيع البدء بالتفكير في
  • 7:07 - 7:10
    بناء منصات تستطيع تحديد التحيز
  • 7:10 - 7:13
    بواسطة جمع خبرات الناس
    مثل تلك التي شاركتها،
  • 7:13 - 7:16
    أيضا التدقيق في البرمجة الحالية.
  • 7:16 - 7:20
    نستطيع أيضا إنشاء أدوات تدريب شاملة أكثر.
  • 7:20 - 7:23
    تخيل حملة بعنوان" سيلفي للتضمين"
  • 7:23 - 7:27
    حيث نستطيع جميعا مساعدة
    المطورين لاختبار و إنتاج
  • 7:27 - 7:29
    أجهزة تدريب أكثر شمولية.
  • 7:29 - 7:32
    و نستطيع التفكير بطريقة أكثر وعياً
  • 7:32 - 7:38
    تجاه التأثير الاجتماعي
    للتكنولوجيا التي نطورها.
  • 7:38 - 7:40
    لكي نفعل حركة التشفير،
  • 7:40 - 7:43
    أطللقت رابطة باسم العدالة الخوارزمية،
  • 7:43 - 7:49
    حيث يستطيع كل من يهتم بالعدل
    أن يكافح ضد النظرة المشفرة.
  • 7:49 - 7:52
    يمكنكم التبليغ عن التحيز على موقع
    codedgaze.com
  • 7:52 - 7:55
    وتطالب بالتدقيق وتصبح مُختبِراً
  • 7:55 - 7:57
    و تنضم للمحادثة الدائرة،
  • 7:57 - 8:00
    على وسْم #codegaze.
  • 8:01 - 8:03
    لذا أدعوكم للانضمام إليّ
  • 8:03 - 8:07
    في إيجاد عالم حيث تعمل فيه
    التكنولوجيا من أجل الجميع،
  • 8:07 - 8:09
    ليس البعض منا فحسب،
  • 8:09 - 8:14
    عالم حيث نقدّر التضمين
    و نركز على التغير الاجتماعي.
  • 8:14 - 8:15
    شكرا لكم.
  • 8:15 - 8:19
    (تصفيق)
  • 8:21 - 8:24
    لكن لدي سؤال واحد:
  • 8:24 - 8:26
    هل ستنضمون إلي في الكفاح؟
  • 8:26 - 8:27
    (ضحك)
  • 8:27 - 8:31
    (تصفيق)
Title:
كيف أقاوم التحيز في الخوارزميات
Speaker:
جوي بولمويني
Description:

طالبة متخرجة من إم آي تي تدعى جوي بولمويني كانت تعمل على برمجة خاصة بالتعرف على بصمة الوجه عندما لاحظت مشكلة ما: وهي أن البرمجة لم تتعرف على وجهها -- لأن من قام بتشفير الخوارزمية لم يقم بتعليم الآلة تحديد مستوى واسع من ألوان البشرة و تراكيب الوجه. الآن هي في مهمة لمكافحة التحيز في تعلم الآلة، وهي ظاهرة قامت بتسميتها "النظرة المشفرَّة." يعد هذا حديثًا منفتحًا عن الحاجة للمحاسبة في مجال التشفير... لأن الخوارزميات تستولي على المزيد والمزيد من النواحي في حياتنا.

more » « less
Video Language:
English
Team:
TED
Project:
TEDTalks
Duration:
08:46

Arabic subtitles

Revisions