الخوارزميّات ليست موضوعيّة.
الذكاء الإصطناعي وكثير من التقنيات المُنْبثقة هي السبب في تكّريس الإنحياز.
- إنها لا تتنبأ بالمستقبل. إنها تخلق المستقبل.
/ويتواصل النقاش:_ /المعضلة الإجتماعية
/معضلة التمْييز
أنا أُمضي كثيرٌ من الوقت أُفكّر في التحيُّز،
(رشيدة ريتشاردصن) (مدرسة ريتغرس للقانون)
(صندوق ماشال الألماني) (معهد الذكاء الإصطناعي الآن)
لكن هذه هي شخصيتي، ولكن أيضاً عدم مقدرة الحكومة على فهم هذه المواضيع
ينتج عنه إفتقار للوائح والقوانين التي تُخفّف من أثر بعض المشاكل
التي نراها حاليا في الذكاء الإصطناعي.
- الخوارزميّات ليست موضوعيّة.
(د. كاثي أونيل -عالمة بيانات) (مؤلفة: "أسلحة الدمار الشامل)
تم تحسين الخوارزميّات من أجلِ بعض التعريف للنجاح.
إنها تقوم بإستخدام البيانات التأريخية لتتنبأ بالنجاح المُستقبلي.
يعتقد الناس -وهم مُغمضي العيون- أن الخوارزميّات بطبعها مُنْصِفة وموضوعية؛
ولأنهم إلى حدٍ ما يعتقدون في ذاك الإنصاف، فهم لا يشكّكون في الخوارزميّات.
ولذلك عندما ينتهي المطاف بالخوارزميّات بأنْ تتسم بصبغةٍ عنصريّة،
كما هو الحال مع البيانات التي نُزوّدها بها؛
فهي تُكّرس بدقة الأنماط التي كنا نتمنّى أن نسمُو فوقها.
- إن الأنظمة تلتهم أطناناً من المعلومات من غير سِياق،
وبدون التاريخ، وحتّى بدون التداعيات السياسيّة والإقتصاديّة والإجتماعيّة؛
وبالتالي يكون لديك إحتماليّة كبيرة لذكاءٍ إصطناعي
يُرسّخ هذه التحيُّزات أو حتّى يجعلها أسوأ مما هي عليه.
- هناك أربع فئات مِن الخوارزميّات التّي أعتقد أنّه قد أُسئ إستخدامها،
وذلك قد يُصيب المجمتع بضررٍ جسيم.
الأربع فئات هي: /مالية، وهذه هي الخوارزميّات التي تُقرّر عما إذا كان
الناس سيحصلون على تأمين وكم سيدفعون! وهل سيحصلون على بِطاقات إئتمانٍ جيّدة!
وهل سيحصلون على قروضٍ عقاريّة! وهل سيحصلون على سكن!
(إستمارة وسعر التأمين-الأهلية للإستحقاق) (سعر الفائدة للبطاقة-سعر الرهن العقاري)
إذا ذهبت لموقع كروت الإئتمان على الإنترنت، فلن تحصل على معلومات عن كروت الإئتمان؛
بل يتم تقييمك والكشفَ عنك، ثم يعرضون عليك البِطاقة الّتي يعتقدون أنك تستحقها.
/الفئة الثانيّة مُتعلقة بالحريّات. (إنفاذ القانون-الحبس قبل المحاكمة)
(إختيار المُحلّفين-تقدير المخاطر)
هل تعامَلَتَ معك الشرطة من قبْل؟ (الحريّات المدنية)
/الفئة الثالثة هي مستلزمات المعيشة. (التوظيف- إعلانات التوظيف-فحص الطلب)
عملك. (الفحص الأمني-المؤهلات-المعاينة)
هل أجريت المعاينة للوظيفة الّتي تقدمت لها؟ ((توقعات إنجازك للعمل-عرض العمل والتعويض)
هل حصلت على الوظيفة؟ هل حصلت على علاوة؟
ماهي ساعات عملك؟
- واحد من الأمثلة الّتي حصلت على تغطية إعلاميّة: كانت خوارزميّة توظيف
تُحابي -بشكلٍ مُفرط- كلّ منْ كان إسمه جيرّد "Jared" وكان يلعب
"لكروس"، لأنّ معظم الأشخاص الذين كانوا ذوي آداءٍ جيّد في تلك الشركة
كانوا يتشاركون في تلك الواقعتين!
/ثم الفئة الرابعة: وهي المعلومات نفسها. (المعلومات)
كيف نحصل على المعلومات؟ (التغذيّة الإخباريّة-التوصيات)
بماذا نُؤمن؟ (الإعلانات السياسيّة المُوجهة)
المعلومات السياسيّة على وجه الخصوص.
كلّ هذه الأشياء هي خوارزميّات الآن.
وغالباً ماتكون مُجحِفة. وعادةً تكون مخالفة للقانون.
لكن قد توصلنا لكيفية إنفاذ قوانينا الخاصة بمناهضة التمييز.
الواقع المرير الذي يقلقني
هو أنّنا لا نضع حداً للخوارزميّات الضارّة ونعتمها.
"مهلاً، نحن نقوم بتوصيفك منذ ميلادك، وقد لاحظنا إنا نشأت فقيراً
في حي لاينجح فيه الكثير من الناس. وسوف نتنبأ بأنّك لنْ تنجح.
وليس فقط أنّنا سوف نتنبأ بأنّك لنْ تنجح،
بل سوف نعمل على ألا تنجح."
لذلك لنْ تتمكن من الذهاب لجامعة جيّدة.
ولنْ تحصل على عمل جيّد. ولنْ تحصل على قرضٍ حسُن.
لأنّ هذا هو ماتفعله الخوارزميّات حقيقةً.
إنها لا تتنبأ بالمستقبل. إنّها تصنع المستقبل.
/المعضلة الإجتماعيّة
/معضلتنا الإجتماعيّة