1
00:00:00,529 --> 00:00:04,569
الخوارزميّات ليست موضوعيّة.

2
00:00:04,569 --> 00:00:08,179
الذكاء الإصطناعي وكثير من التقنيات
المُنْبثقة هي السبب في تكّريس الإنحياز.

3
00:00:08,179 --> 00:00:12,179
- إنها لا تتنبأ بالمستقبل.
إنها تخلق المستقبل.

4
00:00:12,179 --> 00:00:16,179
/ويتواصل النقاش:_
/المعضلة الإجتماعية

5
00:00:16,179 --> 00:00:20,179
/معضلة التمْييز

6
00:00:20,179 --> 00:00:22,299
أنا أُمضي كثيرٌ من الوقت
أُفكّر في التحيُّز،

7
00:00:22,299 --> 00:00:24,219
(رشيدة ريتشاردصن)
(مدرسة ريتغرس للقانون)

8
00:00:24,229 --> 00:00:26,719
(صندوق ماشال الألماني)
(معهد الذكاء الإصطناعي الآن)

9
00:00:26,719 --> 00:00:30,129
لكن هذه هي شخصيتي، ولكن أيضاً عدم مقدرة 
الحكومة على فهم هذه المواضيع

10
00:00:30,168 --> 00:00:34,168
ينتج عنه إفتقار للوائح والقوانين 
التي تُخفّف من أثر بعض المشاكل

11
00:00:34,168 --> 00:00:38,168
التي نراها حاليا في الذكاء الإصطناعي.

12
00:00:38,168 --> 00:00:42,168
- الخوارزميّات ليست موضوعيّة.

13
00:00:42,168 --> 00:00:45,028
(د. كاثي أونيل -عالمة بيانات)
(مؤلفة: "أسلحة الدمار الشامل)

14
00:00:45,028 --> 00:00:47,458
تم تحسين الخوارزميّات من أجلِ
بعض التعريف للنجاح.

15
00:00:47,458 --> 00:00:50,858
إنها تقوم بإستخدام البيانات التأريخية
لتتنبأ بالنجاح المُستقبلي.

16
00:00:50,858 --> 00:00:54,308
يعتقد الناس -وهم مُغمضي العيون-
أن الخوارزميّات بطبعها مُنْصِفة وموضوعية؛

17
00:00:54,308 --> 00:00:57,788
ولأنهم إلى حدٍ ما يعتقدون في ذاك الإنصاف،
فهم لا يشكّكون في الخوارزميّات.

18
00:00:57,788 --> 00:01:00,858
ولذلك عندما ينتهي المطاف بالخوارزميّات
بأنْ تتسم بصبغةٍ عنصريّة،

19
00:01:00,858 --> 00:01:03,798
كما هو الحال مع البيانات التي نُزوّدها بها؛

20
00:01:03,798 --> 00:01:07,798
فهي تُكّرس بدقة الأنماط التي كنا نتمنّى
أن نسمُو فوقها.

21
00:01:07,798 --> 00:01:11,798
- إن الأنظمة تلتهم أطناناً من المعلومات
من غير سِياق،

22
00:01:11,798 --> 00:01:17,118
وبدون التاريخ، وحتّى بدون التداعيات
السياسيّة والإقتصاديّة والإجتماعيّة؛

23
00:01:17,118 --> 00:01:21,118
وبالتالي يكون لديك إحتماليّة كبيرة
لذكاءٍ إصطناعي

24
00:01:21,118 --> 00:01:25,118
يُرسّخ هذه التحيُّزات
أو حتّى يجعلها أسوأ مما هي عليه.

25
00:01:26,265 --> 00:01:30,265
- هناك أربع فئات مِن الخوارزميّات التّي
أعتقد أنّه قد أُسئ إستخدامها،

26
00:01:30,265 --> 00:01:33,675
وذلك قد يُصيب المجمتع بضررٍ جسيم.

27
00:01:35,638 --> 00:01:39,638
الأربع فئات هي: /مالية، وهذه هي
الخوارزميّات التي تُقرّر عما إذا كان

28
00:01:39,638 --> 00:01:43,178
الناس سيحصلون على تأمين وكم سيدفعون!
وهل سيحصلون على بِطاقات إئتمانٍ جيّدة!

29
00:01:43,178 --> 00:01:47,178
وهل سيحصلون على قروضٍ عقاريّة!
وهل سيحصلون على سكن!

30
00:01:47,178 --> 00:01:50,948
(إستمارة وسعر التأمين-الأهلية للإستحقاق)
(سعر الفائدة للبطاقة-سعر الرهن العقاري)

31
00:01:50,948 --> 00:01:54,788
إذا ذهبت لموقع كروت الإئتمان على الإنترنت،
فلن تحصل على معلومات عن كروت الإئتمان؛

32
00:01:54,788 --> 00:01:58,788
بل يتم تقييمك والكشفَ عنك، ثم يعرضون
عليك البِطاقة الّتي يعتقدون أنك تستحقها.

33
00:01:58,788 --> 00:02:02,788
/الفئة الثانيّة مُتعلقة بالحريّات.
(إنفاذ القانون-الحبس قبل المحاكمة)

34
00:02:02,788 --> 00:02:05,508
(إختيار المُحلّفين-تقدير المخاطر)

35
00:02:05,508 --> 00:02:08,048
هل تعامَلَتَ معك الشرطة من قبْل؟
(الحريّات المدنية)

36
00:02:08,048 --> 00:02:11,528
/الفئة الثالثة هي مستلزمات المعيشة.
(التوظيف- إعلانات التوظيف-فحص الطلب)

37
00:02:11,528 --> 00:02:13,358
عملك.
(الفحص الأمني-المؤهلات-المعاينة)

38
00:02:13,358 --> 00:02:17,318
هل أجريت المعاينة للوظيفة الّتي تقدمت لها؟
((توقعات إنجازك للعمل-عرض العمل والتعويض)

39
00:02:17,318 --> 00:02:19,228
هل حصلت على الوظيفة؟
هل حصلت على علاوة؟

40
00:02:19,228 --> 00:02:20,648
ماهي ساعات عملك؟

41
00:02:20,648 --> 00:02:23,728
- واحد من الأمثلة الّتي حصلت على تغطية إعلاميّة:
كانت خوارزميّة توظيف

42
00:02:23,728 --> 00:02:27,478
تُحابي -بشكلٍ مُفرط- كلّ منْ كان
إسمه جيرّد "Jared" وكان يلعب

43
00:02:27,478 --> 00:02:30,678
"لكروس"، لأنّ معظم الأشخاص الذين كانوا
ذوي آداءٍ جيّد في تلك الشركة

44
00:02:30,678 --> 00:02:33,728
كانوا يتشاركون في تلك الواقعتين!

45
00:02:33,728 --> 00:02:36,598
/ثم الفئة الرابعة: وهي المعلومات نفسها.
(المعلومات)

46
00:02:36,598 --> 00:02:39,398
كيف نحصل على المعلومات؟
(التغذيّة الإخباريّة-التوصيات)

47
00:02:39,398 --> 00:02:41,448
بماذا نُؤمن؟
(الإعلانات السياسيّة المُوجهة)

48
00:02:41,448 --> 00:02:43,848
المعلومات السياسيّة على وجه الخصوص.

49
00:02:43,848 --> 00:02:46,448
كلّ هذه الأشياء هي خوارزميّات الآن.

50
00:02:46,448 --> 00:02:48,968
وغالباً ماتكون مُجحِفة. 
وعادةً تكون مخالفة للقانون.

51
00:02:48,968 --> 00:02:51,678
لكن قد توصلنا لكيفية إنفاذ قوانينا
الخاصة بمناهضة التمييز.

52
00:02:51,678 --> 00:02:53,768
الواقع المرير الذي يقلقني

53
00:02:53,768 --> 00:02:56,808
هو أنّنا لا نضع حداً للخوارزميّات
الضارّة ونعتمها.

54
00:02:58,918 --> 00:03:02,578
"مهلاً، نحن نقوم بتوصيفك منذ ميلادك، وقد لاحظنا
إنا نشأت فقيراً

55
00:03:03,701 --> 00:03:08,418
في حي لاينجح فيه الكثير من الناس. 
وسوف نتنبأ بأنّك لنْ تنجح.

56
00:03:08,418 --> 00:03:11,018
وليس فقط أنّنا سوف نتنبأ بأنّك لنْ تنجح،

57
00:03:11,018 --> 00:03:13,728
بل سوف نعمل على ألا تنجح."

58
00:03:13,728 --> 00:03:16,668
لذلك لنْ تتمكن من الذهاب 
لجامعة جيّدة.

59
00:03:16,668 --> 00:03:19,428
ولنْ تحصل على عمل جيّد.
ولنْ تحصل على قرضٍ حسُن.

60
00:03:19,428 --> 00:03:22,598
لأنّ هذا هو ماتفعله الخوارزميّات حقيقةً.

61
00:03:22,598 --> 00:03:26,028
إنها لا تتنبأ بالمستقبل.
إنّها تصنع المستقبل.

62
00:03:26,028 --> 00:03:30,028
/المعضلة الإجتماعيّة

63
00:03:30,028 --> 00:03:34,028
/معضلتنا الإجتماعيّة