0:00:13.961,0:00:17.119
أهلاً. اسمي جوي،[br]وأنا بارعة في البرمجة.

0:00:17.119,0:00:22.112
أنا أعمل لإيقاف قوة خفية صاعدة.

0:00:22.136,0:00:24.992
قوة أُطلقُ عليها اسم: 'النظرة المبرمَجة'،

0:00:25.016,0:00:28.325
المصطلح اللذي أطلقه على التحيز الخوارزمي.

0:00:28.349,0:00:32.649
التحيز الخوارزمي، كحال التحيز البشري،[br]يؤدي إلى عدم المساواة.

0:00:32.673,0:00:38.695
والخوارزميات البرمجية، كما الفيروسات،[br]تنشر التحيز على نطاق واسع

0:00:38.719,0:00:40.301
بسرعة فائقة.

0:00:40.863,0:00:45.250
يؤدي التحيز الخوارزمي لتجارب إقصائية

0:00:45.274,0:00:47.402
وممارسات تمييزية وعنصرية.

0:00:47.426,0:00:49.487
دعوني أبين لكم ما أقصده.

0:00:50.340,0:00:52.776
(فيديو) جوي بولامويني: مرحبًا يا كاميرا.[br]أنا لي وجه.

0:00:53.242,0:00:55.107
هل بإمكانك رؤية وجهي؟

0:00:55.131,0:00:56.756
وجهي الذي لا يحتوي أي نظارات؟

0:00:58.461,0:01:00.207
بإمكانك رؤية وجهها.

0:01:01.084,0:01:02.691
ماذا بشأن وجهي؟

0:01:05.874,0:01:07.054
(ضحك)

0:01:07.078,0:01:09.737
أضع قناعًا. هل بإمكانك رؤية القناع؟

0:01:11.914,0:01:14.279
جوي بولامويني: كيف حصل ذلك؟

0:01:14.303,0:01:17.444
لماذا أجلس أمام الحاسوب

0:01:17.468,0:01:18.892
مرتدية قناعًا أبيض

0:01:18.916,0:01:22.566
في محاولة لترصدني كاميرا رخيصة؟

0:01:22.590,0:01:24.881
في الأوقات التي لا أحارب فيها [br]النظرة المبرمجة

0:01:24.905,0:01:26.425
كإنسانة بارعة في البرمجة،

0:01:26.449,0:01:29.721
أكون طالبة ماجستير لدى (MIT Media Lab).

0:01:29.745,0:01:34.662
وهناك تتسنى لي فرصة للعمل[br]على العديد من المشاريع الغريبة،

0:01:34.686,0:01:36.713
كمشروع "أسباير ميرور"،

0:01:36.737,0:01:41.871
وهو مشروع أنشأته حتى أتمكن[br]من وضع أقنعة افتراضية على انعكاسي.

0:01:41.895,0:01:44.245
فإذا أردت مثلًا أن أشعر بأنني قوية[br]في الصباح،

0:01:44.269,0:01:45.703
يمكنني وضع قناع أسد.

0:01:45.727,0:01:49.223
أما إذا أردت رفع معنوياتي،[br]ربما أقرأ اقتباسًا ما.

0:01:49.247,0:01:52.236
استخدمت برنامجًا عامًا للتعرف على الوجوه

0:01:52.260,0:01:53.611
لبناء نظام محوسب.

0:01:53.635,0:01:58.738
ولكن وجدت صعوبة بتجربته[br]دون ارتداء قناع أبيض.

0:01:59.722,0:02:04.068
للأسف، لم تكن هذه المرة الأولى [br]التي أواجه فيها هذه المشكلة.

0:02:04.092,0:02:08.435
عندما كنت طالبة بكالوريوس علوم حاسوب [br]في معهد جورجيا التقني،

0:02:08.459,0:02:10.514
كنت أعمل على الروبوتات الاجتماعية.

0:02:10.538,0:02:14.315
وقد كانت إحدى مهامي أن أجعل الروبوت[br]يلعب لعبة (peek-a-boo).

0:02:14.339,0:02:16.272
وهي لعبة تبادل أدوار بسيطة

0:02:16.296,0:02:20.617
يأخذ الأفراد فيها أدوارًا في تغطية وجوههم[br]ومن ثم الكشف عنها وقول:"Peek-a-boo!".

0:02:20.741,0:02:25.170
تكمن المشكلة في أنه لا يمكن اللعب[br]إذا لم تكن قادرًا على رؤيتي،

0:02:25.194,0:02:27.693
والروبوت خاصتي لم يستطع أن يراني.

0:02:27.717,0:02:31.667
لذلك قمت باستعارة وجه زميلتي في السكن[br]لإتمام المشروع،

0:02:31.691,0:02:33.071
وسلّمت الواجب،

0:02:33.095,0:02:36.848
واعتقدت حينها بأنّ شخصًا آخر[br]سيحل هذه المشكلة.

0:02:37.499,0:02:39.502
بعد فترة بسيطة،

0:02:39.526,0:02:43.685
كنت في هونغ كونغ[br]للمشاركة في مسابقة ريادة أعمال.

0:02:44.169,0:02:46.863
قرر القائمون على المسابقة أخذ المشاركين

0:02:46.887,0:02:49.259
في جولة لزيارة المشاريع الناشئة المحلية.

0:02:49.283,0:02:51.998
أحد هذه المشاريع كان يتضمن [br]روبوتًا اجتماعيًا،

0:02:52.022,0:02:53.934
وقرروا القيام بعرض تجريبي.

0:02:53.958,0:02:56.938
نجح العرض حتى أتى دوري،

0:02:56.938,0:02:58.909
ويمكنكم على الأرجح أن تحزروا ماذا حصل.

0:02:58.909,0:03:01.874
لم يستطع البرنامج التقاط وجهي.

0:03:01.898,0:03:04.409
استفسرت من المطورين عن السبب،

0:03:04.433,0:03:09.966
واتضح أننا استخدمنا[br]برنامج التعرف على الوجوه نفسه.

0:03:09.990,0:03:11.640
في الجانب الآخر من العالم،

0:03:11.664,0:03:15.516
تعلمت أن التحيز الخوارزمي يستطيع التنقل

0:03:15.540,0:03:18.710
بسرعة تنزيل بعض الملفات من الإنترنت.

0:03:19.575,0:03:22.651
لنستوضح ما يحصل هنا إذن..[br]لماذا لا يستطيع الجهاز التقاط وجهي؟

0:03:22.675,0:03:26.031
يجب علينا أن نتفحص الآلية المستخدمة[br]لجعل الجهاز قادرًا على الرؤية.

0:03:26.055,0:03:29.464
رؤية الحاسب ترتكز على تقنيات تعلم الآلة

0:03:29.488,0:03:31.368
للتعرف على الوجوه.

0:03:31.392,0:03:35.289
يحدث هذا عبر إنشاء مجموعة من البيانات[br]التدريبية التي تتكون من أمثلة وجوه مختلفة.

0:03:35.313,0:03:38.131
يعرف بين إذا كان هذا وجهًا أم لا.

0:03:38.155,0:03:42.674
وبعد فترة من الوقت تستطيع تعليم الحاسوب[br]كيفية التعرف على وجوه أخرى.

0:03:42.698,0:03:46.687
ولكن في بعض الحالات،[br]إذا كانت مجموعة البيانات غير متنوعة،

0:03:46.687,0:03:51.757
فلن يستطيع الحاسوب التعرف على الوجوه[br]كثيرة الاختلاف،

0:03:51.757,0:03:53.720
وهذا بالضبط ما كان يحصل معي.

0:03:53.744,0:03:56.126
لكن لا تقلقوا. ثمة أخبار جيدة.

0:03:56.150,0:03:58.921
مجموعات البيانات التجريبية هذه [br]لا تأتي من الفراغ.

0:03:58.945,0:04:00.733
يمكننا صنعهم بأنفسنا.

0:04:00.757,0:04:04.933
وهذا يخلق فرصة لصنع مجموعة بيانات [br]متنوعة وتشمل الجميع

0:04:04.957,0:04:08.781
والتي تعكس صورة أوضح للبشرية.

0:04:08.805,0:04:11.026
كما رأيتم في الأمثلة التي ذكرتها

0:04:11.050,0:04:12.818
تعلمت عبر الروبوتات الاجتماعية

0:04:12.842,0:04:17.453
عن الإقصاء من خلال التحيز الخوارزمي.

0:04:17.477,0:04:22.292
ويمكن أن ينتج عن هذا التحيز الخوارزمي[br]ممارسات عنصرية وتمييزية.

0:04:23.207,0:04:24.720
في كافة أنحاء الولايات المتحدة،

0:04:24.744,0:04:28.942
بدأت مراكز الشرطة[br]باستخدام برامج التعرف على الوجوه

0:04:28.966,0:04:31.425
في محاربتها للجريمة.

0:04:31.425,0:04:33.486
كلية القانون في جامعة جورج تاون[br]نشرت تقريرًا

0:04:33.486,0:04:40.249
أظهر أن واحدًا من كل شخصين في الولايات [br]المتحدة، بمجموع 117 مليون شخص،

0:04:40.273,0:04:43.807
ظهرت وجوههم وحفظت على [br]برامج التعرف على الوجوه.

0:04:43.831,0:04:48.383
يمكن حاليًا لمراكز الشرطة البحث في هذه[br]البيانات دون أي رقابة أو تحكم،

0:04:48.407,0:04:52.693
باستخدام خوارزميات لم تُفحص دقتها.

0:04:52.717,0:04:56.581
ولكننا نعلم بأنها قابلة للخطأ،

0:04:56.605,0:05:00.304
وأن التعرف الصحيح على الوجوه بشكل دائم[br]لا يزال يمثل أحد التحديات.

0:05:00.304,0:05:02.514
ربما شاهدتم ما يشبه ذلك على فيسبوك.

0:05:02.514,0:05:05.582
نجد من المضحك

0:05:05.606,0:05:08.064
أن يخطئ فيسبوك في تسمية الأشخاص في صورنا.

0:05:08.088,0:05:13.679
إنّ التعرف الخاطئ على مشتبه به[br]ليس بالأمر المضحك.

0:05:13.703,0:05:16.530
كذلك الأمر عندما يحدث تعدٍّ[br]على الحريات المدنية.

0:05:16.554,0:05:19.759
تُستخدم أساليب تعلم الآلة[br]للتعرف على الوجوه.

0:05:19.783,0:05:24.288
وتنتشر هذه التقنيات في مجالات أخرى،[br]بالإضافة إلى قدرة تحليل الرؤية أيضًا.

0:05:25.096,0:05:31.476
في كتابها "ويبونز أوف ماث دستركشن"[br]للكاتبة: كاثي أونيل،

0:05:31.476,0:05:35.817
تتحدث عن ظهور خطر أسلحة الدمار الرياضية،

0:05:35.841,0:05:40.194
وهي الخوارزميات واسعة الانتشار [br]والمدمرة وغامضة التأثير،

0:05:40.218,0:05:43.116
التي تُستخدم على نطاق أوسع [br]لاتخاذ القرارات

0:05:43.116,0:05:46.383
التي تتحكم بجوانب مختلفة من الحياة.

0:05:46.407,0:05:48.277
من سيُوظّف أو يُطرد؟

0:05:48.301,0:05:50.413
هل ستحصل على ذلك القرض؟[br]أو ذلك التأمين أم لا؟

0:05:50.437,0:05:53.940
هل سيقبلوننا في الكلية التي أردتها أم لا؟

0:05:53.964,0:05:57.473
هل سندفع نفس السعر للمنتَج نفسه،

0:05:57.497,0:05:59.939
والذي سوف نشتريه من نفس الموقع؟

0:05:59.963,0:06:03.722
كما بدأ استخدام تقنية تعلم الآلة [br]لدى الجهات الأمنية

0:06:03.746,0:06:06.035
للتنبؤ بالخطر لغايات ضبط الأمن.

0:06:06.059,0:06:09.553
يستخدم بعض القضاة تقييم درجة الخطر[br]الذي تولّده الآلة

0:06:09.577,0:06:13.979
في قرارهم حول الفترة التي يجب أن يقضيها[br]الفرد في السجن.

0:06:13.979,0:06:16.457
علينا التمعن في كيفية[br]اتخاذنا لتلك القرارات.

0:06:16.481,0:06:17.663
هل هي عادلة؟

0:06:17.687,0:06:20.577
كما رأينا أن التحيز الخوارزمي

0:06:20.601,0:06:23.975
لا ينتج عنه قرارات عادلة دائمًا.

0:06:23.999,0:06:25.963
ما الذي يمكننا فعله بهذا الشأن إذن؟

0:06:25.987,0:06:29.667
يمكننا البدء بكتابة برامج تأخذ الجميع[br]بعين الاعتبار

0:06:29.691,0:06:32.681
وتوظيف ممارسات أكثر شموليةً في البرمجة.

0:06:32.705,0:06:35.014
وكل ذلك يبدأ بالأفراد.

0:06:35.538,0:06:37.499
لذلك فإنّ هوية المبرمج مهمة.

0:06:37.523,0:06:41.642
هل فريق البرمجة شامل للجميع[br]ويضم أفرادًا بخبرات متنوعة

0:06:41.666,0:06:44.077
قادرين على تفقد نقاط الضعف لدى بعضهم؟

0:06:44.101,0:06:47.646
في الجانب التقني،[br]الطريقة التي نُبرمج من خلالها مهمة.

0:06:47.670,0:06:51.321
هل نأخذ العدالة بعين الاعتبار[br]أثناء تطويرنا للأنظمة؟

0:06:51.345,0:06:54.258
وأخيرًا، فإنّ الدافع الذي يقودنا [br]للبرمجة مهم أيضًا.

0:06:54.615,0:06:59.698
لقد استخدمنا أدوات من صنع الحاسوب[br]للحصول على ثروات طائلة.

0:06:59.722,0:07:04.169
لدينا الفرصة الآن لخلق مستوى[br]جديد من العدالة،

0:07:04.193,0:07:07.123
إذا ما جعلنا من التطوير المجتمعي أولوية

0:07:07.147,0:07:09.317
عوضًا عن فكرة عارضة.

0:07:09.838,0:07:14.360
تلك هي الأسس الثلاثة[br]لحركة "التشفير الشمولية".

0:07:14.384,0:07:16.036
معرفةُ مَن المبرمج مهمة،

0:07:16.060,0:07:17.603
ومعرفة كيفية البرمجة مهمة،

0:07:17.627,0:07:19.650
ومعرفتنا للدافع الذي يقودنا للبرمجة مهمة.

0:07:19.674,0:07:22.773
الخطوة الأولى في التشفير الشمولي

0:07:22.797,0:07:25.961
هي بناء منصات قادرة[br]على رصد التحيز والعنصرية

0:07:25.985,0:07:29.063
عبر جمع خبرات الأشخاص الشبيهة بخبرتي،

0:07:29.087,0:07:32.157
وفحص البرامج الموجودة أصلًا.

0:07:32.181,0:07:35.946
كما نستطيع البدء بعمل مجموعات [br]بيانات تدريبية أكثر شمولًا.

0:07:35.970,0:07:38.773
تخيل مثلًا حملة "سلفي لمحاربة التحيز"

0:07:38.797,0:07:42.452
والتي تمكن أي فرد منا من مساعدة المطورين

0:07:42.476,0:07:44.569
من اختبار مجموعات بيانات[br]تدريبية شمولية وإنشائها.

0:07:45.132,0:07:47.960
كما يمكننا التفكير بشكل واعٍ

0:07:47.984,0:07:53.375
في الأثر المجتمعي للتقنية التي نصنعها.

0:07:53.399,0:07:55.792
لندفع حركة "التشفير الشمولي" نحو التحرك،

0:07:55.816,0:07:58.663
أسسنا "فريق العدالة الخوارزمي"،

0:07:58.687,0:08:04.559
حيث يمكن لكل من يهتم بشأن العدالة [br]محاربة النظرة المشفرة.

0:08:04.583,0:08:07.879
على موقع codedgaze.com[br]بإمكانك التبليغ عن التحيز

0:08:07.903,0:08:10.426
أو طلب عملية مراجعة لبرنامج[br]أو أن تصبح فاحصًا للبرامج

0:08:10.426,0:08:13.143
والمشاركة في الحوار المستمر

0:08:13.167,0:08:15.454
على هاشتاغ #codedgaze.

0:08:16.572,0:08:19.059
أدعوكم لمشاركتي

0:08:19.083,0:08:22.802
في خلق عالمٍ حيث تعمل التكنولوجيا [br]في صالحنا جميعًا

0:08:22.826,0:08:24.723
وليس فقط لفئة قليلة منا.

0:08:24.747,0:08:29.395
فلنعمل معًا لخلق عالم يحث على التضامن[br]ويترأسه التطوير المجتمعي.

0:08:29.419,0:08:30.594
شكرًا لكم.

0:08:30.618,0:08:35.912
(تصفيق)

0:08:36.763,0:08:39.617
لكن لدي سؤال لكم:

0:08:39.641,0:08:41.700
هل ستشاركونني في النضال؟

0:08:41.724,0:08:43.009
(ضحك)

0:08:43.033,0:08:46.720
(تصفيق)