أهلاً. اسمي جوي، وأنا بارعة في البرمجة.
أنا أعمل لإيقاف قوة خفية صاعدة.
قوة أُطلقُ عليها اسم: 'النظرة المبرمَجة'،
المصطلح اللذي أطلقه على التحيز الخوارزمي.
التحيز الخوارزمي، كحال التحيز البشري، يؤدي إلى عدم المساواة.
والخوارزميات البرمجية، كما الفيروسات، تنشر التحيز على نطاق واسع
بسرعة فائقة.
يؤدي التحيز الخوارزمي لتجارب إقصائية
وممارسات تمييزية وعنصرية.
دعوني أبين لكم ما أقصده.
(فيديو) جوي بولامويني: مرحبًا يا كاميرا. أنا لي وجه.
هل بإمكانك رؤية وجهي؟
وجهي الذي لا يحتوي أي نظارات؟
بإمكانك رؤية وجهها.
ماذا بشأن وجهي؟
(ضحك)
أضع قناعًا. هل بإمكانك رؤية القناع؟
جوي بولامويني: كيف حصل ذلك؟
لماذا أجلس أمام الحاسوب
مرتدية قناعًا أبيض
في محاولة لترصدني كاميرا رخيصة؟
في الأوقات التي لا أحارب فيها النظرة المبرمجة
كإنسانة بارعة في البرمجة،
أكون طالبة ماجستير لدى (MIT Media Lab).
وهناك تتسنى لي فرصة للعمل على العديد من المشاريع الغريبة،
كمشروع "أسباير ميرور"،
وهو مشروع أنشأته حتى أتمكن من وضع أقنعة افتراضية على انعكاسي.
فإذا أردت مثلًا أن أشعر بأنني قوية في الصباح،
يمكنني وضع قناع أسد.
أما إذا أردت رفع معنوياتي، ربما أقرأ اقتباسًا ما.
استخدمت برنامجًا عامًا للتعرف على الوجوه
لبناء نظام محوسب.
ولكن وجدت صعوبة بتجربته دون ارتداء قناع أبيض.
للأسف، لم تكن هذه المرة الأولى التي أواجه فيها هذه المشكلة.
عندما كنت طالبة بكالوريوس علوم حاسوب في معهد جورجيا التقني،
كنت أعمل على الروبوتات الاجتماعية.
وقد كانت إحدى مهامي أن أجعل الروبوت يلعب لعبة (peek-a-boo).
وهي لعبة تبادل أدوار بسيطة
يأخذ الأفراد فيها أدوارًا في تغطية وجوههم ومن ثم الكشف عنها وقول:"Peek-a-boo!".
تكمن المشكلة في أنه لا يمكن اللعب إذا لم تكن قادرًا على رؤيتي،
والروبوت خاصتي لم يستطع أن يراني.
لذلك قمت باستعارة وجه زميلتي في السكن لإتمام المشروع،
وسلّمت الواجب،
واعتقدت حينها بأنّ شخصًا آخر سيحل هذه المشكلة.
بعد فترة بسيطة،
كنت في هونغ كونغ للمشاركة في مسابقة ريادة أعمال.
قرر القائمون على المسابقة أخذ المشاركين
في جولة لزيارة المشاريع الناشئة المحلية.
أحد هذه المشاريع كان يتضمن روبوتًا اجتماعيًا،
وقرروا القيام بعرض تجريبي.
نجح العرض حتى أتى دوري،
ويمكنكم على الأرجح أن تحزروا ماذا حصل.
لم يستطع البرنامج التقاط وجهي.
استفسرت من المطورين عن السبب،
واتضح أننا استخدمنا برنامج التعرف على الوجوه نفسه.
في الجانب الآخر من العالم،
تعلمت أن التحيز الخوارزمي يستطيع التنقل
بسرعة تنزيل بعض الملفات من الإنترنت.
لنستوضح ما يحصل هنا إذن.. لماذا لا يستطيع الجهاز التقاط وجهي؟
يجب علينا أن نتفحص الآلية المستخدمة لجعل الجهاز قادرًا على الرؤية.
رؤية الحاسب ترتكز على تقنيات تعلم الآلة
للتعرف على الوجوه.
يحدث هذا عبر إنشاء مجموعة من البيانات التدريبية التي تتكون من أمثلة وجوه مختلفة.
يعرف بين إذا كان هذا وجهًا أم لا.
وبعد فترة من الوقت تستطيع تعليم الحاسوب كيفية التعرف على وجوه أخرى.
ولكن في بعض الحالات، إذا كانت مجموعة البيانات غير متنوعة،
فلن يستطيع الحاسوب التعرف على الوجوه كثيرة الاختلاف،
وهذا بالضبط ما كان يحصل معي.
لكن لا تقلقوا. ثمة أخبار جيدة.
مجموعات البيانات التجريبية هذه لا تأتي من الفراغ.
يمكننا صنعهم بأنفسنا.
وهذا يخلق فرصة لصنع مجموعة بيانات متنوعة وتشمل الجميع
والتي تعكس صورة أوضح للبشرية.
كما رأيتم في الأمثلة التي ذكرتها
تعلمت عبر الروبوتات الاجتماعية
عن الإقصاء من خلال التحيز الخوارزمي.
ويمكن أن ينتج عن هذا التحيز الخوارزمي ممارسات عنصرية وتمييزية.
في كافة أنحاء الولايات المتحدة،
بدأت مراكز الشرطة باستخدام برامج التعرف على الوجوه
في محاربتها للجريمة.
كلية القانون في جامعة جورج تاون نشرت تقريرًا
أظهر أن واحدًا من كل شخصين في الولايات المتحدة، بمجموع 117 مليون شخص،
ظهرت وجوههم وحفظت على برامج التعرف على الوجوه.
يمكن حاليًا لمراكز الشرطة البحث في هذه البيانات دون أي رقابة أو تحكم،
باستخدام خوارزميات لم تُفحص دقتها.
ولكننا نعلم بأنها قابلة للخطأ،
وأن التعرف الصحيح على الوجوه بشكل دائم لا يزال يمثل أحد التحديات.
ربما شاهدتم ما يشبه ذلك على فيسبوك.
نجد من المضحك
أن يخطئ فيسبوك في تسمية الأشخاص في صورنا.
إنّ التعرف الخاطئ على مشتبه به ليس بالأمر المضحك.
كذلك الأمر عندما يحدث تعدٍّ على الحريات المدنية.
تُستخدم أساليب تعلم الآلة للتعرف على الوجوه.
وتنتشر هذه التقنيات في مجالات أخرى، بالإضافة إلى قدرة تحليل الرؤية أيضًا.
في كتابها "ويبونز أوف ماث دستركشن" للكاتبة: كاثي أونيل،
تتحدث عن ظهور خطر أسلحة الدمار الرياضية،
وهي الخوارزميات واسعة الانتشار والمدمرة وغامضة التأثير،
التي تُستخدم على نطاق أوسع لاتخاذ القرارات
التي تتحكم بجوانب مختلفة من الحياة.
من سيُوظّف أو يُطرد؟
هل ستحصل على ذلك القرض؟ أو ذلك التأمين أم لا؟
هل سيقبلوننا في الكلية التي أردتها أم لا؟
هل سندفع نفس السعر للمنتَج نفسه،
والذي سوف نشتريه من نفس الموقع؟
كما بدأ استخدام تقنية تعلم الآلة لدى الجهات الأمنية
للتنبؤ بالخطر لغايات ضبط الأمن.
يستخدم بعض القضاة تقييم درجة الخطر الذي تولّده الآلة
في قرارهم حول الفترة التي يجب أن يقضيها الفرد في السجن.
علينا التمعن في كيفية اتخاذنا لتلك القرارات.
هل هي عادلة؟
كما رأينا أن التحيز الخوارزمي
لا ينتج عنه قرارات عادلة دائمًا.
ما الذي يمكننا فعله بهذا الشأن إذن؟
يمكننا البدء بكتابة برامج تأخذ الجميع بعين الاعتبار
وتوظيف ممارسات أكثر شموليةً في البرمجة.
وكل ذلك يبدأ بالأفراد.
لذلك فإنّ هوية المبرمج مهمة.
هل فريق البرمجة شامل للجميع ويضم أفرادًا بخبرات متنوعة
قادرين على تفقد نقاط الضعف لدى بعضهم؟
في الجانب التقني، الطريقة التي نُبرمج من خلالها مهمة.
هل نأخذ العدالة بعين الاعتبار أثناء تطويرنا للأنظمة؟
وأخيرًا، فإنّ الدافع الذي يقودنا للبرمجة مهم أيضًا.
لقد استخدمنا أدوات من صنع الحاسوب للحصول على ثروات طائلة.
لدينا الفرصة الآن لخلق مستوى جديد من العدالة،
إذا ما جعلنا من التطوير المجتمعي أولوية
عوضًا عن فكرة عارضة.
تلك هي الأسس الثلاثة لحركة "التشفير الشمولية".
معرفةُ مَن المبرمج مهمة،
ومعرفة كيفية البرمجة مهمة،
ومعرفتنا للدافع الذي يقودنا للبرمجة مهمة.
الخطوة الأولى في التشفير الشمولي
هي بناء منصات قادرة على رصد التحيز والعنصرية
عبر جمع خبرات الأشخاص الشبيهة بخبرتي،
وفحص البرامج الموجودة أصلًا.
كما نستطيع البدء بعمل مجموعات بيانات تدريبية أكثر شمولًا.
تخيل مثلًا حملة "سلفي لمحاربة التحيز"
والتي تمكن أي فرد منا من مساعدة المطورين
من اختبار مجموعات بيانات تدريبية شمولية وإنشائها.
كما يمكننا التفكير بشكل واعٍ
في الأثر المجتمعي للتقنية التي نصنعها.
لندفع حركة "التشفير الشمولي" نحو التحرك،
أسسنا "فريق العدالة الخوارزمي"،
حيث يمكن لكل من يهتم بشأن العدالة محاربة النظرة المشفرة.
على موقع codedgaze.com بإمكانك التبليغ عن التحيز
أو طلب عملية مراجعة لبرنامج أو أن تصبح فاحصًا للبرامج
والمشاركة في الحوار المستمر
على هاشتاغ #codedgaze.
أدعوكم لمشاركتي
في خلق عالمٍ حيث تعمل التكنولوجيا في صالحنا جميعًا
وليس فقط لفئة قليلة منا.
فلنعمل معًا لخلق عالم يحث على التضامن ويترأسه التطوير المجتمعي.
شكرًا لكم.
(تصفيق)
لكن لدي سؤال لكم:
هل ستشاركونني في النضال؟
(ضحك)
(تصفيق)