Return to Video

البرمجة للعدالة هي البرمجة للجميع - جوي بولامويني | TEDxBeaconStree

  • 0:14 - 0:17
    أهلاً. اسمي جوي،
    وأنا بارعة في البرمجة.
  • 0:17 - 0:22
    أنا أعمل لإيقاف قوة خفية صاعدة.
  • 0:22 - 0:25
    قوة أُطلقُ عليها اسم: 'النظرة المبرمَجة'،
  • 0:25 - 0:28
    المصطلح اللذي أطلقه على التحيز الخوارزمي.
  • 0:28 - 0:33
    التحيز الخوارزمي، كحال التحيز البشري،
    يؤدي إلى عدم المساواة.
  • 0:33 - 0:39
    والخوارزميات البرمجية، كما الفيروسات،
    تنشر التحيز على نطاق واسع
  • 0:39 - 0:40
    بسرعة فائقة.
  • 0:41 - 0:45
    يؤدي التحيز الخوارزمي لتجارب إقصائية
  • 0:45 - 0:47
    وممارسات تمييزية وعنصرية.
  • 0:47 - 0:49
    دعوني أبين لكم ما أقصده.
  • 0:50 - 0:53
    (فيديو) جوي بولامويني: مرحبًا يا كاميرا.
    أنا لي وجه.
  • 0:53 - 0:55
    هل بإمكانك رؤية وجهي؟
  • 0:55 - 0:57
    وجهي الذي لا يحتوي أي نظارات؟
  • 0:58 - 1:00
    بإمكانك رؤية وجهها.
  • 1:01 - 1:03
    ماذا بشأن وجهي؟
  • 1:06 - 1:07
    (ضحك)
  • 1:07 - 1:10
    أضع قناعًا. هل بإمكانك رؤية القناع؟
  • 1:12 - 1:14
    جوي بولامويني: كيف حصل ذلك؟
  • 1:14 - 1:17
    لماذا أجلس أمام الحاسوب
  • 1:17 - 1:19
    مرتدية قناعًا أبيض
  • 1:19 - 1:23
    في محاولة لترصدني كاميرا رخيصة؟
  • 1:23 - 1:25
    في الأوقات التي لا أحارب فيها
    النظرة المبرمجة
  • 1:25 - 1:26
    كإنسانة بارعة في البرمجة،
  • 1:26 - 1:30
    أكون طالبة ماجستير لدى (MIT Media Lab).
  • 1:30 - 1:35
    وهناك تتسنى لي فرصة للعمل
    على العديد من المشاريع الغريبة،
  • 1:35 - 1:37
    كمشروع "أسباير ميرور"،
  • 1:37 - 1:42
    وهو مشروع أنشأته حتى أتمكن
    من وضع أقنعة افتراضية على انعكاسي.
  • 1:42 - 1:44
    فإذا أردت مثلًا أن أشعر بأنني قوية
    في الصباح،
  • 1:44 - 1:46
    يمكنني وضع قناع أسد.
  • 1:46 - 1:49
    أما إذا أردت رفع معنوياتي،
    ربما أقرأ اقتباسًا ما.
  • 1:49 - 1:52
    استخدمت برنامجًا عامًا للتعرف على الوجوه
  • 1:52 - 1:54
    لبناء نظام محوسب.
  • 1:54 - 1:59
    ولكن وجدت صعوبة بتجربته
    دون ارتداء قناع أبيض.
  • 2:00 - 2:04
    للأسف، لم تكن هذه المرة الأولى
    التي أواجه فيها هذه المشكلة.
  • 2:04 - 2:08
    عندما كنت طالبة بكالوريوس علوم حاسوب
    في معهد جورجيا التقني،
  • 2:08 - 2:11
    كنت أعمل على الروبوتات الاجتماعية.
  • 2:11 - 2:14
    وقد كانت إحدى مهامي أن أجعل الروبوت
    يلعب لعبة (peek-a-boo).
  • 2:14 - 2:16
    وهي لعبة تبادل أدوار بسيطة
  • 2:16 - 2:21
    يأخذ الأفراد فيها أدوارًا في تغطية وجوههم
    ومن ثم الكشف عنها وقول:"Peek-a-boo!".
  • 2:21 - 2:25
    تكمن المشكلة في أنه لا يمكن اللعب
    إذا لم تكن قادرًا على رؤيتي،
  • 2:25 - 2:28
    والروبوت خاصتي لم يستطع أن يراني.
  • 2:28 - 2:32
    لذلك قمت باستعارة وجه زميلتي في السكن
    لإتمام المشروع،
  • 2:32 - 2:33
    وسلّمت الواجب،
  • 2:33 - 2:37
    واعتقدت حينها بأنّ شخصًا آخر
    سيحل هذه المشكلة.
  • 2:37 - 2:40
    بعد فترة بسيطة،
  • 2:40 - 2:44
    كنت في هونغ كونغ
    للمشاركة في مسابقة ريادة أعمال.
  • 2:44 - 2:47
    قرر القائمون على المسابقة أخذ المشاركين
  • 2:47 - 2:49
    في جولة لزيارة المشاريع الناشئة المحلية.
  • 2:49 - 2:52
    أحد هذه المشاريع كان يتضمن
    روبوتًا اجتماعيًا،
  • 2:52 - 2:54
    وقرروا القيام بعرض تجريبي.
  • 2:54 - 2:57
    نجح العرض حتى أتى دوري،
  • 2:57 - 2:59
    ويمكنكم على الأرجح أن تحزروا ماذا حصل.
  • 2:59 - 3:02
    لم يستطع البرنامج التقاط وجهي.
  • 3:02 - 3:04
    استفسرت من المطورين عن السبب،
  • 3:04 - 3:10
    واتضح أننا استخدمنا
    برنامج التعرف على الوجوه نفسه.
  • 3:10 - 3:12
    في الجانب الآخر من العالم،
  • 3:12 - 3:16
    تعلمت أن التحيز الخوارزمي يستطيع التنقل
  • 3:16 - 3:19
    بسرعة تنزيل بعض الملفات من الإنترنت.
  • 3:20 - 3:23
    لنستوضح ما يحصل هنا إذن..
    لماذا لا يستطيع الجهاز التقاط وجهي؟
  • 3:23 - 3:26
    يجب علينا أن نتفحص الآلية المستخدمة
    لجعل الجهاز قادرًا على الرؤية.
  • 3:26 - 3:29
    رؤية الحاسب ترتكز على تقنيات تعلم الآلة
  • 3:29 - 3:31
    للتعرف على الوجوه.
  • 3:31 - 3:35
    يحدث هذا عبر إنشاء مجموعة من البيانات
    التدريبية التي تتكون من أمثلة وجوه مختلفة.
  • 3:35 - 3:38
    يعرف بين إذا كان هذا وجهًا أم لا.
  • 3:38 - 3:43
    وبعد فترة من الوقت تستطيع تعليم الحاسوب
    كيفية التعرف على وجوه أخرى.
  • 3:43 - 3:47
    ولكن في بعض الحالات،
    إذا كانت مجموعة البيانات غير متنوعة،
  • 3:47 - 3:52
    فلن يستطيع الحاسوب التعرف على الوجوه
    كثيرة الاختلاف،
  • 3:52 - 3:54
    وهذا بالضبط ما كان يحصل معي.
  • 3:54 - 3:56
    لكن لا تقلقوا. ثمة أخبار جيدة.
  • 3:56 - 3:59
    مجموعات البيانات التجريبية هذه
    لا تأتي من الفراغ.
  • 3:59 - 4:01
    يمكننا صنعهم بأنفسنا.
  • 4:01 - 4:05
    وهذا يخلق فرصة لصنع مجموعة بيانات
    متنوعة وتشمل الجميع
  • 4:05 - 4:09
    والتي تعكس صورة أوضح للبشرية.
  • 4:09 - 4:11
    كما رأيتم في الأمثلة التي ذكرتها
  • 4:11 - 4:13
    تعلمت عبر الروبوتات الاجتماعية
  • 4:13 - 4:17
    عن الإقصاء من خلال التحيز الخوارزمي.
  • 4:17 - 4:22
    ويمكن أن ينتج عن هذا التحيز الخوارزمي
    ممارسات عنصرية وتمييزية.
  • 4:23 - 4:25
    في كافة أنحاء الولايات المتحدة،
  • 4:25 - 4:29
    بدأت مراكز الشرطة
    باستخدام برامج التعرف على الوجوه
  • 4:29 - 4:31
    في محاربتها للجريمة.
  • 4:31 - 4:33
    كلية القانون في جامعة جورج تاون
    نشرت تقريرًا
  • 4:33 - 4:40
    أظهر أن واحدًا من كل شخصين في الولايات
    المتحدة، بمجموع 117 مليون شخص،
  • 4:40 - 4:44
    ظهرت وجوههم وحفظت على
    برامج التعرف على الوجوه.
  • 4:44 - 4:48
    يمكن حاليًا لمراكز الشرطة البحث في هذه
    البيانات دون أي رقابة أو تحكم،
  • 4:48 - 4:53
    باستخدام خوارزميات لم تُفحص دقتها.
  • 4:53 - 4:57
    ولكننا نعلم بأنها قابلة للخطأ،
  • 4:57 - 5:00
    وأن التعرف الصحيح على الوجوه بشكل دائم
    لا يزال يمثل أحد التحديات.
  • 5:00 - 5:03
    ربما شاهدتم ما يشبه ذلك على فيسبوك.
  • 5:03 - 5:06
    نجد من المضحك
  • 5:06 - 5:08
    أن يخطئ فيسبوك في تسمية الأشخاص في صورنا.
  • 5:08 - 5:14
    إنّ التعرف الخاطئ على مشتبه به
    ليس بالأمر المضحك.
  • 5:14 - 5:17
    كذلك الأمر عندما يحدث تعدٍّ
    على الحريات المدنية.
  • 5:17 - 5:20
    تُستخدم أساليب تعلم الآلة
    للتعرف على الوجوه.
  • 5:20 - 5:24
    وتنتشر هذه التقنيات في مجالات أخرى،
    بالإضافة إلى قدرة تحليل الرؤية أيضًا.
  • 5:25 - 5:31
    في كتابها "ويبونز أوف ماث دستركشن"
    للكاتبة: كاثي أونيل،
  • 5:31 - 5:36
    تتحدث عن ظهور خطر أسلحة الدمار الرياضية،
  • 5:36 - 5:40
    وهي الخوارزميات واسعة الانتشار
    والمدمرة وغامضة التأثير،
  • 5:40 - 5:43
    التي تُستخدم على نطاق أوسع
    لاتخاذ القرارات
  • 5:43 - 5:46
    التي تتحكم بجوانب مختلفة من الحياة.
  • 5:46 - 5:48
    من سيُوظّف أو يُطرد؟
  • 5:48 - 5:50
    هل ستحصل على ذلك القرض؟
    أو ذلك التأمين أم لا؟
  • 5:50 - 5:54
    هل سيقبلوننا في الكلية التي أردتها أم لا؟
  • 5:54 - 5:57
    هل سندفع نفس السعر للمنتَج نفسه،
  • 5:57 - 6:00
    والذي سوف نشتريه من نفس الموقع؟
  • 6:00 - 6:04
    كما بدأ استخدام تقنية تعلم الآلة
    لدى الجهات الأمنية
  • 6:04 - 6:06
    للتنبؤ بالخطر لغايات ضبط الأمن.
  • 6:06 - 6:10
    يستخدم بعض القضاة تقييم درجة الخطر
    الذي تولّده الآلة
  • 6:10 - 6:14
    في قرارهم حول الفترة التي يجب أن يقضيها
    الفرد في السجن.
  • 6:14 - 6:16
    علينا التمعن في كيفية
    اتخاذنا لتلك القرارات.
  • 6:16 - 6:18
    هل هي عادلة؟
  • 6:18 - 6:21
    كما رأينا أن التحيز الخوارزمي
  • 6:21 - 6:24
    لا ينتج عنه قرارات عادلة دائمًا.
  • 6:24 - 6:26
    ما الذي يمكننا فعله بهذا الشأن إذن؟
  • 6:26 - 6:30
    يمكننا البدء بكتابة برامج تأخذ الجميع
    بعين الاعتبار
  • 6:30 - 6:33
    وتوظيف ممارسات أكثر شموليةً في البرمجة.
  • 6:33 - 6:35
    وكل ذلك يبدأ بالأفراد.
  • 6:36 - 6:37
    لذلك فإنّ هوية المبرمج مهمة.
  • 6:38 - 6:42
    هل فريق البرمجة شامل للجميع
    ويضم أفرادًا بخبرات متنوعة
  • 6:42 - 6:44
    قادرين على تفقد نقاط الضعف لدى بعضهم؟
  • 6:44 - 6:48
    في الجانب التقني،
    الطريقة التي نُبرمج من خلالها مهمة.
  • 6:48 - 6:51
    هل نأخذ العدالة بعين الاعتبار
    أثناء تطويرنا للأنظمة؟
  • 6:51 - 6:54
    وأخيرًا، فإنّ الدافع الذي يقودنا
    للبرمجة مهم أيضًا.
  • 6:55 - 7:00
    لقد استخدمنا أدوات من صنع الحاسوب
    للحصول على ثروات طائلة.
  • 7:00 - 7:04
    لدينا الفرصة الآن لخلق مستوى
    جديد من العدالة،
  • 7:04 - 7:07
    إذا ما جعلنا من التطوير المجتمعي أولوية
  • 7:07 - 7:09
    عوضًا عن فكرة عارضة.
  • 7:10 - 7:14
    تلك هي الأسس الثلاثة
    لحركة "التشفير الشمولية".
  • 7:14 - 7:16
    معرفةُ مَن المبرمج مهمة،
  • 7:16 - 7:18
    ومعرفة كيفية البرمجة مهمة،
  • 7:18 - 7:20
    ومعرفتنا للدافع الذي يقودنا للبرمجة مهمة.
  • 7:20 - 7:23
    الخطوة الأولى في التشفير الشمولي
  • 7:23 - 7:26
    هي بناء منصات قادرة
    على رصد التحيز والعنصرية
  • 7:26 - 7:29
    عبر جمع خبرات الأشخاص الشبيهة بخبرتي،
  • 7:29 - 7:32
    وفحص البرامج الموجودة أصلًا.
  • 7:32 - 7:36
    كما نستطيع البدء بعمل مجموعات
    بيانات تدريبية أكثر شمولًا.
  • 7:36 - 7:39
    تخيل مثلًا حملة "سلفي لمحاربة التحيز"
  • 7:39 - 7:42
    والتي تمكن أي فرد منا من مساعدة المطورين
  • 7:42 - 7:45
    من اختبار مجموعات بيانات
    تدريبية شمولية وإنشائها.
  • 7:45 - 7:48
    كما يمكننا التفكير بشكل واعٍ
  • 7:48 - 7:53
    في الأثر المجتمعي للتقنية التي نصنعها.
  • 7:53 - 7:56
    لندفع حركة "التشفير الشمولي" نحو التحرك،
  • 7:56 - 7:59
    أسسنا "فريق العدالة الخوارزمي"،
  • 7:59 - 8:05
    حيث يمكن لكل من يهتم بشأن العدالة
    محاربة النظرة المشفرة.
  • 8:05 - 8:08
    على موقع codedgaze.com
    بإمكانك التبليغ عن التحيز
  • 8:08 - 8:10
    أو طلب عملية مراجعة لبرنامج
    أو أن تصبح فاحصًا للبرامج
  • 8:10 - 8:13
    والمشاركة في الحوار المستمر
  • 8:13 - 8:15
    على هاشتاغ #codedgaze.
  • 8:17 - 8:19
    أدعوكم لمشاركتي
  • 8:19 - 8:23
    في خلق عالمٍ حيث تعمل التكنولوجيا
    في صالحنا جميعًا
  • 8:23 - 8:25
    وليس فقط لفئة قليلة منا.
  • 8:25 - 8:29
    فلنعمل معًا لخلق عالم يحث على التضامن
    ويترأسه التطوير المجتمعي.
  • 8:29 - 8:31
    شكرًا لكم.
  • 8:31 - 8:36
    (تصفيق)
  • 8:37 - 8:40
    لكن لدي سؤال لكم:
  • 8:40 - 8:42
    هل ستشاركونني في النضال؟
  • 8:42 - 8:43
    (ضحك)
  • 8:43 - 8:47
    (تصفيق)
Title:
البرمجة للعدالة هي البرمجة للجميع - جوي بولامويني | TEDxBeaconStree
Description:

واجهت المبرمجة الرائعة جوي بولامويني مشكلة تتمثل في عدم قدرة خوارزميات التعرف على الوجه، على التعرف على وجهها إلا إذا ارتدت قناعًا أبيض. هذه إحدى الطرق البسيطة التي تعمل العنصرية على إقصاء البعض من المشاركة الفاعلة في الفرص التعليمية، فماذا فعلت جوي حيال هذا الأمر؟ قامت جوي ببدء تطبيقات للبرمجة التي تضم الجميع. بدأت جوي بثورة وستتأكد جوي من مشاركتك فيها.

جوي بولامويني مؤسسة حركة Code4Rights وباحثة خريجة مع the Civic Media group لدى MIT Media Lab. تعد جوي باحثة لدى : Rhodes, fulbrigh, Astronaut و Google Anita Borg، كما أنها متطوعة متميزة لدى مؤسسة Carter كمستشارة تكنولوجيا. بصفتها الرئيسة عن قسم التكنولوجيا لدى شركة Texturized لتطويرمنتجات الشعر وعملت لدى شركة Swift Tech Solutions المعنية بتوفير خدمات الإستشارة للتقنيات الصحية وبذلك تكون نمت جوي قدراتها في مجال تطوير البرمجيات عبر خدماتها لمجتمعات الأقليات في الولايات المتحدة وإثيوبيا ومالي ونيجيريا والنيجر. تعرفت جوي خلال فترة زمالتها مع الFullbright في زامبيا على العديد من المواطنين الفاعلين والذين يتحلون بالقدرات اللازمة لابتكار تكنولوجيا الخاصة بهم عبر مبادرة Zamrize.

تم تقديم هذه المحادثة في فعالية TEDx باستخدام تنسيق مؤتمر TED ولكن تم تنظيمه بشكل مستقل من قبل المجتمع المحلي. للتعرف على المزيد قم بزيارة http://ted.com/tedx

more » « less
Video Language:
English
Team:
TED
Project:
TEDxTalks
Duration:
09:02

Arabic subtitles

Revisions