WEBVTT

00:00:00.529 --> 00:00:04.569
الخوارزميّات ليست موضوعيّة.

00:00:04.569 --> 00:00:08.179
الذكاء الإصطناعي وكثير من التقنيات
المُنْبثقة هي السبب في تكّريس الإنحياز.

00:00:08.179 --> 00:00:12.179
- إنها لا تتنبأ بالمستقبل.
إنها تخلق المستقبل.

00:00:12.179 --> 00:00:16.179
/ويتواصل النقاش:_
/المعضلة الإجتماعية

00:00:16.179 --> 00:00:20.179
/معضلة التمْييز

00:00:20.179 --> 00:00:22.299
أنا أُمضي كثيرٌ من الوقت
أُفكّر في التحيُّز،

00:00:22.299 --> 00:00:24.219
(رشيدة ريتشاردصن)
(مدرسة ريتغرس للقانون)

00:00:24.229 --> 00:00:26.719
(صندوق ماشال الألماني)
(معهد الذكاء الإصطناعي الآن)

00:00:26.719 --> 00:00:30.129
لكن هذه هي شخصيتي، ولكن أيضاً عدم مقدرة 
الحكومة على فهم هذه المواضيع

00:00:30.168 --> 00:00:34.168
ينتج عنه إفتقار للوائح والقوانين 
التي تُخفّف من أثر بعض المشاكل

00:00:34.168 --> 00:00:38.168
التي نراها حاليا في الذكاء الإصطناعي.

00:00:38.168 --> 00:00:42.168
- الخوارزميّات ليست موضوعيّة.

00:00:42.168 --> 00:00:45.028
(د. كاثي أونيل -عالمة بيانات)
(مؤلفة: "أسلحة الدمار الشامل)

00:00:45.028 --> 00:00:47.458
تم تحسين الخوارزميّات من أجلِ
بعض التعريف للنجاح.

00:00:47.458 --> 00:00:50.858
إنها تقوم بإستخدام البيانات التأريخية
لتتنبأ بالنجاح المُستقبلي.

00:00:50.858 --> 00:00:54.308
يعتقد الناس -وهم مُغمضي العيون-
أن الخوارزميّات بطبعها مُنْصِفة وموضوعية؛

00:00:54.308 --> 00:00:57.788
ولأنهم إلى حدٍ ما يعتقدون في ذاك الإنصاف،
فهم لا يشكّكون في الخوارزميّات.

00:00:57.788 --> 00:01:00.858
ولذلك عندما ينتهي المطاف بالخوارزميّات
بأنْ تتسم بصبغةٍ عنصريّة،

00:01:00.858 --> 00:01:03.798
كما هو الحال مع البيانات التي نُزوّدها بها؛

00:01:03.798 --> 00:01:07.798
فهي تُكّرس بدقة الأنماط التي كنا نتمنّى
أن نسمُو فوقها.

00:01:07.798 --> 00:01:11.798
- إن الأنظمة تلتهم أطناناً من المعلومات
من غير سِياق،

00:01:11.798 --> 00:01:17.118
وبدون التاريخ، وحتّى بدون التداعيات
السياسيّة والإقتصاديّة والإجتماعيّة؛

00:01:17.118 --> 00:01:21.118
وبالتالي يكون لديك إحتماليّة كبيرة
لذكاءٍ إصطناعي

00:01:21.118 --> 00:01:25.118
يُرسّخ هذه التحيُّزات
أو حتّى يجعلها أسوأ مما هي عليه.

00:01:26.265 --> 00:01:30.265
- هناك أربع فئات مِن الخوارزميّات التّي
أعتقد أنّه قد أُسئ إستخدامها،

00:01:30.265 --> 00:01:33.675
وذلك قد يُصيب المجمتع بضررٍ جسيم.

00:01:35.638 --> 00:01:39.638
الأربع فئات هي: /مالية، وهذه هي
الخوارزميّات التي تُقرّر عما إذا كان

00:01:39.638 --> 00:01:43.178
الناس سيحصلون على تأمين وكم سيدفعون!
وهل سيحصلون على بِطاقات إئتمانٍ جيّدة!

00:01:43.178 --> 00:01:47.178
وهل سيحصلون على قروضٍ عقاريّة!
وهل سيحصلون على سكن!

00:01:47.178 --> 00:01:50.948
(إستمارة وسعر التأمين-الأهلية للإستحقاق)
(سعر الفائدة للبطاقة-سعر الرهن العقاري)

00:01:50.948 --> 00:01:54.788
إذا ذهبت لموقع كروت الإئتمان على الإنترنت،
فلن تحصل على معلومات عن كروت الإئتمان؛

00:01:54.788 --> 00:01:58.788
بل يتم تقييمك والكشفَ عنك، ثم يعرضون
عليك البِطاقة الّتي يعتقدون أنك تستحقها.

00:01:58.788 --> 00:02:02.788
/الفئة الثانيّة مُتعلقة بالحريّات.
(إنفاذ القانون-الحبس قبل المحاكمة)

00:02:02.788 --> 00:02:05.508
(إختيار المُحلّفين-تقدير المخاطر)

00:02:05.508 --> 00:02:08.048
هل تعامَلَتَ معك الشرطة من قبْل؟
(الحريّات المدنية)

00:02:08.048 --> 00:02:11.528
/الفئة الثالثة هي مستلزمات المعيشة.
(التوظيف- إعلانات التوظيف-فحص الطلب)

00:02:11.528 --> 00:02:13.358
عملك.
(الفحص الأمني-المؤهلات-المعاينة)

00:02:13.358 --> 00:02:17.318
هل أجريت المعاينة للوظيفة الّتي تقدمت لها؟
((توقعات إنجازك للعمل-عرض العمل والتعويض)

00:02:17.318 --> 00:02:19.228
هل حصلت على الوظيفة؟
هل حصلت على علاوة؟

00:02:19.228 --> 00:02:20.648
ماهي ساعات عملك؟

00:02:20.648 --> 00:02:23.728
- واحد من الأمثلة الّتي حصلت على تغطية إعلاميّة:
كانت خوارزميّة توظيف

00:02:23.728 --> 00:02:27.478
تُحابي -بشكلٍ مُفرط- كلّ منْ كان
إسمه جيرّد "Jared" وكان يلعب

00:02:27.478 --> 00:02:30.678
"لكروس"، لأنّ معظم الأشخاص الذين كانوا
ذوي آداءٍ جيّد في تلك الشركة

00:02:30.678 --> 00:02:33.728
كانوا يتشاركون في تلك الواقعتين!

00:02:33.728 --> 00:02:36.598
/ثم الفئة الرابعة: وهي المعلومات نفسها.
(المعلومات)

00:02:36.598 --> 00:02:39.398
كيف نحصل على المعلومات؟
(التغذيّة الإخباريّة-التوصيات)

00:02:39.398 --> 00:02:41.448
بماذا نُؤمن؟
(الإعلانات السياسيّة المُوجهة)

00:02:41.448 --> 00:02:43.848
المعلومات السياسيّة على وجه الخصوص.

00:02:43.848 --> 00:02:46.448
كلّ هذه الأشياء هي خوارزميّات الآن.

00:02:46.448 --> 00:02:48.968
وغالباً ماتكون مُجحِفة. 
وعادةً تكون مخالفة للقانون.

00:02:48.968 --> 00:02:51.678
لكن قد توصلنا لكيفية إنفاذ قوانينا
الخاصة بمناهضة التمييز.

00:02:51.678 --> 00:02:53.768
الواقع المرير الذي يقلقني

00:02:53.768 --> 00:02:56.808
هو أنّنا لا نضع حداً للخوارزميّات
الضارّة ونعتمها.

00:02:58.918 --> 00:03:02.578
"مهلاً، نحن نقوم بتوصيفك منذ ميلادك، وقد لاحظنا
إنا نشأت فقيراً

00:03:03.701 --> 00:03:08.418
في حي لاينجح فيه الكثير من الناس. 
وسوف نتنبأ بأنّك لنْ تنجح.

00:03:08.418 --> 00:03:11.018
وليس فقط أنّنا سوف نتنبأ بأنّك لنْ تنجح،

00:03:11.018 --> 00:03:13.728
بل سوف نعمل على ألا تنجح."

00:03:13.728 --> 00:03:16.668
لذلك لنْ تتمكن من الذهاب 
لجامعة جيّدة.

00:03:16.668 --> 00:03:19.428
ولنْ تحصل على عمل جيّد.
ولنْ تحصل على قرضٍ حسُن.

00:03:19.428 --> 00:03:22.598
لأنّ هذا هو ماتفعله الخوارزميّات حقيقةً.

00:03:22.598 --> 00:03:26.028
إنها لا تتنبأ بالمستقبل.
إنّها تصنع المستقبل.

00:03:26.028 --> 00:03:30.028
/المعضلة الإجتماعيّة

00:03:30.028 --> 00:03:34.028
/معضلتنا الإجتماعيّة