-
الخوارزميّات ليست موضوعيّة.
-
الذكاء الإصطناعي وكثير من التقنيات
المُنْبثقة هي السبب في تكّريس الإنحياز.
-
- إنها لا تتنبأ بالمستقبل.
إنها تخلق المستقبل.
-
/ويتواصل النقاش:_
/المعضلة الإجتماعية
-
/معضلة التمْييز
-
أنا أُمضي كثيرٌ من الوقت
أُفكّر في التحيُّز،
-
(رشيدة ريتشاردصن)
(مدرسة ريتغرس للقانون)
-
(صندوق ماشال الألماني)
(معهد الذكاء الإصطناعي الآن)
-
لكن هذه هي شخصيتي، ولكن أيضاً عدم مقدرة
الحكومة على فهم هذه المواضيع
-
ينتج عنه إفتقار للوائح والقوانين
التي تُخفّف من أثر بعض المشاكل
-
التي نراها حاليا في الذكاء الإصطناعي.
-
- الخوارزميّات ليست موضوعيّة.
-
(د. كاثي أونيل -عالمة بيانات)
(مؤلفة: "أسلحة الدمار الشامل)
-
تم تحسين الخوارزميّات من أجلِ
بعض التعريف للنجاح.
-
إنها تقوم بإستخدام البيانات التأريخية
لتتنبأ بالنجاح المُستقبلي.
-
يعتقد الناس -وهم مُغمضي العيون-
أن الخوارزميّات بطبعها مُنْصِفة وموضوعية؛
-
ولأنهم إلى حدٍ ما يعتقدون في ذاك الإنصاف،
فهم لا يشكّكون في الخوارزميّات.
-
ولذلك عندما ينتهي المطاف بالخوارزميّات
بأنْ تتسم بصبغةٍ عنصريّة،
-
كما هو الحال مع البيانات التي نُزوّدها بها؛
-
فهي تُكّرس بدقة الأنماط التي كنا نتمنّى
أن نسمُو فوقها.
-
- إن الأنظمة تلتهم أطناناً من المعلومات
من غير سِياق،
-
وبدون التاريخ، وحتّى بدون التداعيات
السياسيّة والإقتصاديّة والإجتماعيّة؛
-
وبالتالي يكون لديك إحتماليّة كبيرة
لذكاءٍ إصطناعي
-
يُرسّخ هذه التحيُّزات
أو حتّى يجعلها أسوأ مما هي عليه.
-
- هناك أربع فئات مِن الخوارزميّات التّي
أعتقد أنّه قد أُسئ إستخدامها،
-
وذلك قد يُصيب المجمتع بضررٍ جسيم.
-
الأربع فئات هي: /مالية، وهذه هي
الخوارزميّات التي تُقرّر عما إذا كان
-
الناس سيحصلون على تأمين وكم سيدفعون!
وهل سيحصلون على بِطاقات إئتمانٍ جيّدة!
-
وهل سيحصلون على قروضٍ عقاريّة!
وهل سيحصلون على سكن!
-
(إستمارة وسعر التأمين-الأهلية للإستحقاق)
(سعر الفائدة للبطاقة-سعر الرهن العقاري)
-
إذا ذهبت لموقع كروت الإئتمان على الإنترنت،
فلن تحصل على معلومات عن كروت الإئتمان؛
-
بل يتم تقييمك والكشفَ عنك، ثم يعرضون
عليك البِطاقة الّتي يعتقدون أنك تستحقها.
-
/الفئة الثانيّة مُتعلقة بالحريّات.
(إنفاذ القانون-الحبس قبل المحاكمة)
-
(إختيار المُحلّفين-تقدير المخاطر)
-
هل تعامَلَتَ معك الشرطة من قبْل؟
(الحريّات المدنية)
-
/الفئة الثالثة هي مستلزمات المعيشة.
(التوظيف- إعلانات التوظيف-فحص الطلب)
-
عملك.
(الفحص الأمني-المؤهلات-المعاينة)
-
هل أجريت المعاينة للوظيفة الّتي تقدمت لها؟
((توقعات إنجازك للعمل-عرض العمل والتعويض)
-
هل حصلت على الوظيفة؟
هل حصلت على علاوة؟
-
ماهي ساعات عملك؟
-
- واحد من الأمثلة الّتي حصلت على تغطية إعلاميّة:
كانت خوارزميّة توظيف
-
تُحابي -بشكلٍ مُفرط- كلّ منْ كان
إسمه جيرّد "Jared" وكان يلعب
-
"لكروس"، لأنّ معظم الأشخاص الذين كانوا
ذوي آداءٍ جيّد في تلك الشركة
-
كانوا يتشاركون في تلك الواقعتين!
-
/ثم الفئة الرابعة: وهي المعلومات نفسها.
(المعلومات)
-
كيف نحصل على المعلومات؟
(التغذيّة الإخباريّة-التوصيات)
-
بماذا نُؤمن؟
(الإعلانات السياسيّة المُوجهة)
-
المعلومات السياسيّة على وجه الخصوص.
-
كلّ هذه الأشياء هي خوارزميّات الآن.
-
وغالباً ماتكون مُجحِفة.
وعادةً تكون مخالفة للقانون.
-
لكن قد توصلنا لكيفية إنفاذ قوانينا
الخاصة بمناهضة التمييز.
-
الواقع المرير الذي يقلقني
-
هو أنّنا لا نضع حداً للخوارزميّات
الضارّة ونعتمها.
-
"مهلاً، نحن نقوم بتوصيفك منذ ميلادك، وقد لاحظنا
إنا نشأت فقيراً
-
في حي لاينجح فيه الكثير من الناس.
وسوف نتنبأ بأنّك لنْ تنجح.
-
وليس فقط أنّنا سوف نتنبأ بأنّك لنْ تنجح،
-
بل سوف نعمل على ألا تنجح."
-
لذلك لنْ تتمكن من الذهاب
لجامعة جيّدة.
-
ولنْ تحصل على عمل جيّد.
ولنْ تحصل على قرضٍ حسُن.
-
لأنّ هذا هو ماتفعله الخوارزميّات حقيقةً.
-
إنها لا تتنبأ بالمستقبل.
إنّها تصنع المستقبل.
-
/المعضلة الإجتماعيّة
-
/معضلتنا الإجتماعيّة
