0:00:01.041,0:00:04.175
مرحبا أُدعى (جوي)، [br]أَنظُم الشعر على الحاسوب

0:00:04.199,0:00:09.192
في مهمة لردع قوة ناشئة غير مرئية،

0:00:09.216,0:00:12.072
قوة أسميتها "النظرة المشفرَّة،"

0:00:12.096,0:00:15.405
مصطلح أطلقه عن تحيز الخوارزمية.

0:00:15.429,0:00:19.729
تحيز الخوارزمية مثل تحيز البشر[br]يؤدي إلى الإجحاف.

0:00:19.753,0:00:25.775
برغم ذلك، الخوارزميات مثل الفيروسات[br]يتفشى فيها التحيز على مستوى واسع

0:00:25.799,0:00:27.381
بخطى سريعة.

0:00:27.943,0:00:32.330
تحيز الخوارزمية قد يُفضِي إلى [br]وقوع حوادث إقصائية

0:00:32.354,0:00:34.482
و ممارسات تمييزية.

0:00:34.506,0:00:36.567
دعوني أوضح ما أعنيه.

0:00:36.980,0:00:39.416
(فيديو): أهلا بالكاميرا.[br]لدي وجه.

0:00:40.162,0:00:42.026
هل ترون وجهي؟

0:00:42.051,0:00:43.676
وجه بلا نظارات؟

0:00:43.701,0:00:45.915
تستطيع رؤية وجهها.

0:00:46.237,0:00:48.482
ماذا عن وجهي؟

0:00:51.890,0:00:55.640
لدي قناع. هل ترى قناعي؟

0:00:56.474,0:00:58.839
إذن كيف حدث هذا؟

0:00:58.863,0:01:02.004
لمَ أجلس أمام حاسوب

0:01:02.028,0:01:03.452
أضع قناعًا أبيض،

0:01:03.476,0:01:07.126
أحاول أن تكتشفني كاميرا ويب زهيدة؟

0:01:07.150,0:01:09.441
حسنا عندما لا أقاوم النظرة المشفرة

0:01:09.465,0:01:10.985
بصفتي شاعرة أستخدم التشفير،

0:01:11.009,0:01:14.281
أنا طالبة دراسات عليا في [br]إم آي تي ميديا لاب،

0:01:14.305,0:01:19.222
و هناك لدي الفرصة للعمل على[br]جميع أنواع المشروعات الغريبة،

0:01:19.246,0:01:21.273
بما في ذلك ( أسباير ميرور)،

0:01:21.297,0:01:26.431
مشروع قمت به لأرسم[br]أقنعة رقْمية على انعكاسي.

0:01:26.455,0:01:28.805
لذا في الصباح إذا أردت [br]الشعور بالقوة،

0:01:28.829,0:01:30.263
أستطيع أن أضع قناع أسد.

0:01:30.287,0:01:33.783
إذا أردت أن أرفع معنوياتي،[br]قد أحصل على اقتباس.

0:01:33.807,0:01:36.796
لذا استخدمت برمجة موسعة[br]للتعرف على الوجه

0:01:36.820,0:01:38.171
لبناء النظام،

0:01:38.195,0:01:43.298
لكني وجدت أنه من الصعب [br]اختباره مالم أضع قناعًا.

0:01:44.282,0:01:48.628
لسوء الحظ واجهتني هذه المسألة من قبل.

0:01:48.652,0:01:52.955
عندما كنت طالبة في جامعة جورجيا [br]التقنية أدرس علوم الحاسب،

0:01:52.979,0:01:55.034
اعتدت العمل على الروبوتات الاجتماعية،

0:01:55.058,0:01:58.835
و إحدى مهامي كانت أن أجعل روبوت [br]يلعب بيكابو (لعبة الاختفاء)،

0:01:58.859,0:02:00.542
لعبة بسيطة لتناوب الأدوار

0:02:00.566,0:02:04.887
حيث يغطي الشخص وجهه[br]عن شريكه ثم يكشفه قائلا، "بيكابو!"

0:02:04.911,0:02:09.340
المشكلة أن هذه اللعبة لا تعمل[br]حقيقةً إذا لم أستطع رؤيتك،

0:02:09.364,0:02:11.863
و روبوتي لا يستطيع رؤيتي.

0:02:11.887,0:02:15.837
لكني استعنت بوجه زميلتي[br]بالسكن لكي أنهي المشروع،

0:02:15.861,0:02:17.241
وقدمت المَهًمّة،

0:02:17.265,0:02:21.018
ووجدت أن شخصا آخر قد حل هذه المشكلة.

0:02:21.669,0:02:23.672
ليس بعد وقت طويل حينها،

0:02:23.696,0:02:27.855
كنت في هونغ كونغ لأجل[br]مسابقة في ريادة الأعمال.

0:02:28.339,0:02:31.033
قرر المنظمون أن يأخذوا المشاركين

0:02:31.057,0:02:33.429
في جولة للشركات الناشئة المحلية.

0:02:33.453,0:02:36.168
إحدى هذه الشركات[br]كان لديها روبوت اجتماعي،

0:02:36.192,0:02:38.104
و قرروا استخدام عرض توضيحي.

0:02:38.128,0:02:41.108
عمل العرض التوضيحي مع الجميع[br]حتى جاء دوري،

0:02:41.132,0:02:43.055
ربما تستطيع تخيل الأمر.

0:02:43.079,0:02:46.044
لم يتعرف على وجهي.

0:02:46.068,0:02:48.579
سألت المطورين عما يحدث،

0:02:48.603,0:02:54.136
واتضح أننا استخدمنا نفس البرمجة[br]العامة للتعرف على الوجه.

0:02:54.160,0:02:55.810
جبت نصف العالم،

0:02:55.834,0:02:59.686
لأعلم أن تحيز الخوارزمية[br]يستطيع الانتقال بسرعة

0:02:59.710,0:03:02.880
قدر ما يأخذه الوقت لتحميل[br]بعض الملفات من شبكة الانترنت.

0:03:03.745,0:03:06.821
إذن ما الذي يحدث؟[br]لم لا يتعرف على وجهي؟

0:03:06.845,0:03:10.201
حسنا، علينا أن ننظر إلى كيفية[br]تفعيل حاسة البصر عند الآلات.

0:03:10.225,0:03:13.634
يستخدم البصر الحاسوبي [br]تقنيات خاصة بتعلم الآلة

0:03:13.658,0:03:15.538
للقيام بالتعرف على الوجه.

0:03:15.562,0:03:19.459
إذن يتفعل هذا بإنشاء جهاز[br]تدريب مزود بأمثلة للأوجه.

0:03:19.483,0:03:22.301
هذا وجه. هذا وجه. [br]هذا ليس بوجه.

0:03:22.325,0:03:26.844
وبمرور الوقت، يتعلم الحاسوب [br]كيف يتعرف على وجوه أخرى.

0:03:26.868,0:03:30.857
برغم ذلك، إذا لم تكن أجهزة التدريب متنوعة،

0:03:30.881,0:03:34.230
ووجد وجه يختلف كثيرا عن النمط القائم

0:03:34.254,0:03:35.903
سيكون أصعب في التعرف عليه،

0:03:35.927,0:03:37.890
الأمر الذي حدث معي.

0:03:37.914,0:03:40.296
لكن لا تقلقوا -- هناك أخبار جيدة.

0:03:40.320,0:03:43.091
أجهزة التدريب لا تحقق إنجازًا من لاشيء.

0:03:43.115,0:03:44.903
نستطيع بالفعل أن ننشئهم.

0:03:44.927,0:03:49.103
إذن هناك فرصة لإنتاج أجهزة [br]تدريب تمسح الطيف الكامل

0:03:49.127,0:03:52.951
التي تعكس صورا تُثري الإنسانية أكثر.

0:03:52.975,0:03:55.196
الآن قد رأيتم في أمثلتي

0:03:55.220,0:03:56.988
كيف أن الروبوتات الاجتماعية

0:03:57.012,0:04:01.623
كشفت لي الإقصاء المنتهج [br]في تحيز الخوارزمية.

0:04:01.647,0:04:06.462
لكن قد يؤدي تحيز الخوارزمية[br]إلى الممارسات التمييزية أيضا.

0:04:07.437,0:04:08.890
عبر الولايات المتحدة،

0:04:08.914,0:04:13.112
بدأت أقسام الشرطة في استخدام[br]برمجة التعرف على الوجه

0:04:13.136,0:04:15.595
كسلاح لمكافحة الجريمة.

0:04:15.619,0:04:17.632
نشرت كلية حقوق جورج تاون تقريراً

0:04:17.656,0:04:24.419
يظهر أن بالغاً من كل اثنين في الولايات [br]المتحدة -- حوالى 117 مليون نسمة --

0:04:24.443,0:04:27.977
توجد بصمة وجهه[br]في شبكات التعرف على الوجه.

0:04:28.001,0:04:32.553
تتمكن أقسام الشرطة حالياً من تفحص[br]هذه الشبكات بطريقة غير منظمة،

0:04:32.577,0:04:36.863
باستخدام خوارزميات لم يراع فيها الدقة.

0:04:36.887,0:04:40.751
حتى الآن لم يثبَت فشل التعرف على الوجه،

0:04:40.775,0:04:44.954
ويظل تصنيف الوجوه تحدياً مستمراً.

0:04:44.978,0:04:46.740
قد تكون رأيت هذا في فيسبوك.

0:04:46.764,0:04:49.752
أضحك كثيرا أنا وأصدقائي [br]عندما نرى الآخرين

0:04:49.776,0:04:52.234
غير مصنَّفين في صورنا.

0:04:52.258,0:04:57.849
لكن عدم تحديد مجرماً[br]مشتبهاً به ليس أمراً مضحكاً،

0:04:57.873,0:05:00.700
ولا انتهاكاً للحريات المدنية.

0:05:00.724,0:05:03.929
التعلم الآلي يستخدم في التعرف على الوجه،

0:05:03.953,0:05:08.458
لكنه أيضا يتجاوز حدود رؤية الحاسوب.

0:05:09.266,0:05:13.282
في كتابها، "أسلحة الدمار الحسابيّ،"

0:05:13.306,0:05:19.987
تحدثت عالمة البيانات (كاثي أونيل) [br]عن هذه الأسلحة الصاعدة --

0:05:20.011,0:05:24.364
الخوارزميات الرائجة والغامضة والمدمرة

0:05:24.388,0:05:27.352
التي تُستخدم بتزايد في اتخاذ القرارات

0:05:27.376,0:05:30.553
التي تؤثر على نواحي أكثر في حياتنا.

0:05:30.577,0:05:32.447
إذن من يُوظَّف أو يُطرَد؟

0:05:32.471,0:05:34.583
هل تحصل على ذاك القرض؟[br]هل تحصل على التأمين؟

0:05:34.607,0:05:38.110
هل قُبلت بالكلية التي أردتها؟

0:05:38.134,0:05:41.643
هل يدفع الجميع نفس السعرعن نفس المنتج

0:05:41.667,0:05:44.109
الذي اشتُرِي من نفس المنصة؟

0:05:44.133,0:05:47.892
بدأ مسؤولو تطبيق القانون[br]في استخدام التعلم الآلي

0:05:47.916,0:05:50.205
لغرض الفاعلية في حفظ الأمن.

0:05:50.229,0:05:53.723
بعض القضاة يحددون درجات[br]الخطر باستخدام الآلة لمعرفة

0:05:53.747,0:05:58.149
طول المدة التي سيقضيها الفرد في السجن.

0:05:58.173,0:06:00.627
بالتالي علينا أن نفكر مليًّا[br]في هذه القرارات.

0:06:00.651,0:06:01.833
هل هي عادلة؟

0:06:01.857,0:06:04.747
و لقد رأينا أن تحيز الخوارزمية

0:06:04.771,0:06:08.145
لا يؤدي بالضرورة إلى نتائج عادلة دائما.

0:06:08.169,0:06:10.133
ما الذي يمكن فعله حيال هذا؟

0:06:10.157,0:06:13.837
حسنا، نستطيع البدء في [br]إنتاج تشفير أكثر تضميناً

0:06:13.861,0:06:16.851
و نوظف ممارسات تشفير شاملة.

0:06:16.875,0:06:19.184
إن الناس هم من يبادروا.

0:06:19.708,0:06:21.669
لذا من يقوم بالتشفير له أهمية.

0:06:21.693,0:06:25.812
هل ننتج مجموعات للطيف[br]الكامل بها أفراد متنوعين

0:06:25.836,0:06:28.247
من يستطيع فحص النقاط[br]غير المرئية لبعضهم البعض؟

0:06:28.271,0:06:31.816
على الصعيد الفني،[br]يوجد أهمية لكيفية التشفير.

0:06:31.840,0:06:35.491
هل نصنّع بعَدْل بينما نطور النظام؟

0:06:35.515,0:06:38.428
و في النهاية لمً نقوم بالتشفير.

0:06:38.785,0:06:43.868
لقد استخدمنا أدوات للإعداد الحاسوبي[br]لكشف الثروة الهائلة.

0:06:43.892,0:06:48.339
لدينا الآن الفرصة لكشف جودة أكبر

0:06:48.363,0:06:51.293
إذا جعلنا من التغير الاجتماعي أولوية

0:06:51.317,0:06:53.487
و ليس كتفكير مؤجَّل.

0:06:54.008,0:06:58.530
و هذه الركائز الثلاثة التي[br]ستشعل حركة التشفير.

0:06:58.554,0:07:00.206
من يشفر له أهمية،

0:07:00.230,0:07:01.773
كيف نشفر مهم

0:07:01.797,0:07:03.820
ولمِاذا نشفر مهم أيضا.

0:07:03.844,0:07:06.943
إذن لنتحول للتشفير [br]نستطيع البدء بالتفكير في

0:07:06.967,0:07:10.131
بناء منصات تستطيع تحديد التحيز

0:07:10.155,0:07:13.233
بواسطة جمع خبرات الناس[br]مثل تلك التي شاركتها،

0:07:13.257,0:07:16.327
أيضا التدقيق في البرمجة الحالية.

0:07:16.351,0:07:20.116
نستطيع أيضا إنشاء أدوات تدريب شاملة أكثر.

0:07:20.140,0:07:22.943
تخيل حملة بعنوان" سيلفي للتضمين"

0:07:22.967,0:07:26.622
حيث نستطيع جميعا مساعدة [br]المطورين لاختبار و إنتاج

0:07:26.646,0:07:28.739
أجهزة تدريب أكثر شمولية.

0:07:29.302,0:07:32.130
و نستطيع التفكير بطريقة أكثر وعياً

0:07:32.154,0:07:37.545
تجاه التأثير الاجتماعي[br]للتكنولوجيا التي نطورها.

0:07:37.569,0:07:39.962
لكي نفعل حركة التشفير،

0:07:39.986,0:07:42.833
أطللقت رابطة باسم العدالة الخوارزمية،

0:07:42.857,0:07:48.729
حيث يستطيع كل من يهتم بالعدل[br]أن يكافح ضد النظرة المشفرة.

0:07:48.753,0:07:52.049
يمكنكم التبليغ عن التحيز على موقع[br]codedgaze.com

0:07:52.073,0:07:54.518
وتطالب بالتدقيق وتصبح مُختبِراً

0:07:54.542,0:07:57.313
و تنضم للمحادثة الدائرة،

0:07:57.337,0:07:59.624
على وسْم #codegaze.

0:08:00.742,0:08:03.229
لذا أدعوكم للانضمام إليّ

0:08:03.253,0:08:06.972
في إيجاد عالم حيث تعمل فيه[br]التكنولوجيا من أجل الجميع،

0:08:06.996,0:08:08.893
ليس البعض منا فحسب،

0:08:08.917,0:08:13.505
عالم حيث نقدّر التضمين[br]و نركز على التغير الاجتماعي.

0:08:13.529,0:08:14.704
شكرا لكم.

0:08:14.728,0:08:18.999
(تصفيق)

0:08:20.873,0:08:23.727
لكن لدي سؤال واحد:

0:08:23.751,0:08:25.810
هل ستنضمون إلي في الكفاح؟

0:08:25.834,0:08:27.119
(ضحك)

0:08:27.143,0:08:30.830
(تصفيق)