إذا، اسمحوا لي أن أطرح عليكم سؤالًا:
كم شخصًا منكم كان قد شهد نوعًا من العنصرية أو التمييز الجنسي
فقط اليوم، في الأربع وعشرين ساعة الماضية؟
أو، دعوني أعيد صياغة السؤال:
كم منكم استخدم الإنترنت اليوم؟
(ضحك)
للأسف، هذان الأمران متشابهان على نحو كبير.
أنا عالمة حاسوب بالتدريب،
وأعمل على تصميم تكنولوجيا الذكاء الاصطناعي لتحسين عالمنا الحالي.
ولكن كلما عملت عليها أكثر، كلما أدركت أكثر
أن هذه التكنولوجيا في كثير من الأحيان تستخدم تحت ظل الكذب الموضوعي.
أحب الموضوعية؛
وقد درست الرياضيات وعلوم الحاسوب لأني أحبُ هذا الجانب.
هنالك مشاكل يصعب حلها بطبيعة الحال،
ولكنك تحصل على إجابة في نهاية المطاف،
وتتيقن أن الإجابة صائبة.
الذكاء الاصطناعي لا يشبه ذلك.
يُبنى الذكاء الاصطناعي على البيانات، والبيانات ليست حقيقة.
البيانات ليست الواقع.
وتبعد البيانات والذكاء الاصطناعي كل البعد عن الهدف.
دعوني أمدكم بمثال،
كيف يبدو المدير التنفيذي برأيكم؟
وفقاً لموقع جوجل،
هكذا يبدو.
هكذا يبدو المدير التنفيذي بحسب موقع جوجل.
يبدو كل هؤلاء الأشخاص كالمدراء التنفيذيين بالتأكيد،
لكن هناك أيضًا العديد من الأشخاص
الذين لا يبدون بهذا المظهر ولكنهم مدراء تنفيذيين.
ما ترونه هنا غير واقعي بل هو صورة نمطية.
أوضحت دراسة حديثة
أنهُ على الرَغم من وجود نسبة قدرها 25% من المدراء نساء،
ما ترونه في صور موقع جوجل يمثل فقط 11% من هؤلاء النساء.
وذلك ينطبق على كل المهن التي دُرست.
مثلت الصور القوالب النمطية الجنسية في الواقع.
فكيف لهذا الذكاء الاصطناعي الذي يُفترض أنه "ذكي"
القيام بهذه الأخطاء البسيطة؟
تكمن المشكلة في كل خطوة في الطريق،
منذ اللحظة التي نجمع بها البيانات حتى طريقتنا في تصميم الخوارزميات،
إلى كيفية قيامنا بتحليلها ونشرها واستخدامها.
كل خطوة من هذه الخطوات تحتاج إلى قرارات بشرية
وتحددها الدوافع البشرية.
نادرًا ما نتوقف ونسأل أنفسنا، من الذي يتخذ هذه القرارات؟
ومن هو المستفيد منها؟
ومن الذي يتم استبعاده؟
يحدث ذلك في كل أنحاء الإنترنت.
لنأخذ إعلانات الإنترنت كمثال لممارسة التمييز مرارًا وتكرارًا
في الإسكان والإقراض والعمل.
أظهرت دراسة حديثة أن الإعلانات للوظائف ذات رواتب مرتفعة
أكثر احتمالًا أن تعرض للرجال مقابل النساء بخمسة أضعاف،
واستثناء إعلانات الإسكان للشعوب الملونة.
يعرضون إعلانات شراء المنازل لفئات بيضاء من الجمهور بنسبة 75%،
بينما الإعلانات التي تستهدف الجماهير المنوعة تعرض منازل للإيجار.
بالنسبة لي، هذا أمر شخصي.
أنا امرأة لاتينية وأم.
هذا ليس العالم الذي أريده، إنه ليس العالم الذي أريده لأطفالي،
ومن المؤكد أنه ليس العالم الذي أريد أن أكون جزءًا من إعماره.
حين أدركت هذا، علمت أن يجب علي القيام بشيء ما،
وهذا ما كنت أعمل عليه في السنوات العديدة الأخيرة،
برفقة زملائي ومجتمع مُذهل من الباحثين
الذين يقومون ببناء هذا في جميع أنحاء العالم.
نحن نقوم بتعريف وتصميم تكنولوجيا الذكاء الاصطناعي
التي لا تعاني من مشاكل التمييز والتحيز.
إذًا فكروا في مثال المدير التنفيذي.
هذا ما ندعوه بمشكلة في الاختيار.
لدينا الكثير من البيانات والصور،
وعلينا اختيار البعض منهم.
وفي العالم الحقيقي لدينا مشاكل مشابهة.
لنقل أني صاحبة العمل وعلي توظيف بعض الأشخاص.
في حوزتي الكثير من المرشحين،
مع سيرتهم الذاتية ومقابلاتهم
ويجب علي أن أختار البعض منهم.
ولكن في العالم الحقيقي هنالك حمايات.
لو على سبيل المثال،
لدي 100 من المرشحين الذكور و100 من المرشحات الإناث،
إن قمت بتعيين 10 من هؤلاء المرشحين الذكور،
قانونيًا يجب أن يكون هناك سببًا منطقيًا جدًا
لعدم توظيفي 8 نساء على الأقل أيضًا.
فهل لنا أن نسأل الذكاء الاصطناعي أن يتبع القوانين ذاتها؟
وبشكل متزايد، نعم، نقدر.
إنها مجرد مسألة تغيير النظام.
يمكننا إنشاء ذكاء اصطناعي يُحاسب باستخدام نفس المعايير لدى الأشخاص
والشركات.
أتذكرون مدرائنا التنفيذين؟
يمكننا الانتقال من ذلك
إلى هذا.
يمكننا عبور الجسر من الصور النمطية إلى الواقع.
باستطاعتنا الانتقال من واقعنا الحالي
إلى الواقع الذي نريده لعالمنا.
الآن، هناك حلول تقنية
للإعلانات والكثير من مشاكل الذكاء الاصطناعي.
ولكنني لا أريد أن تظنوا أن هذا يكفي.
يُستخدم الذكاء الاصطناعي في مجتمعاتكم الآن،
في أقسام الشرطة والمكاتب الحكومية.
تستخدم لاتخاذ القرار بشأن القرض الذي تريده،
ولفحصك من الأمراض المحتملة
ولتقرر ما إذا كنت ستحصل على تلك الوظيفة.
يؤثر الذكاء الاصطناعي على حياتنا جميعًا
ويحدث كل ذلك إلى حد كبير بطريقة غير خاضعة للرقابة وغير منظمة.
على سبيل المثال،
تستخدم تقنية التعرف على الوجه في جميع أنحاء الولايات المتحدة،
في كل مكان ابتداءً من أقسام الشرطة إلى المراكز التجارية،
للمساعدة في تحديد هوية المجرمين.
هل تبدو أي من هذه الوجوه مألوفة؟
أظهر الاتحاد الأمريكي للحريات المدنية أن كل هؤلاء الأشخاص
تم التعرف عليهم بتقنية الذكاء الاصطناعي المتوفرة بأمازون بأنهم مجرمون معتقلون،
ولكن يجدر علي أن أقول أنهم حُددوا خطأً لأن جميعهم أعضاء في الكونغرس الأمريكي.
(ضحك)
الذكاء الاصطناعي يخطئ،
وتلك الأخطاء تؤثر على الأشخاص،
ابتداءً من الذي قيل لهم أنهم غير مصابين بالسرطان
ليكتشفوا فقط بعد فوات الأوان أن ذلك كان خطأً.
إلى أولئك الذين سُجنوا لفترات زمنية طويلة
بناء على توصيات خاطئة من تقنية الذكاء الاصطناعي.
إن هذه الأخطاء تخلف تأثيرًا على البشر.
هذه الأخطاء حقيقية.
وكما في الأمثلة السابقة،
نثبت أن هذه الأخطاء تؤدي إلى تفاقم التحيزات المجتمعية القائمة.
وسط أعضاء الكونجرس،
على الرغم من أن 20٪ فقط من الكونجرس
من ذوي البشرة الملونة.
تتضاعف احتمالية أن يشير النظام إلى هؤلاء
بكونهم مجرمون معتقلون.
علينا منع هذا الذكاء الاصطناعي ذو الموضوعية المزيفة
من إضفاء شرعية الأنظمة الاضطهادية.
ومرة أخرى، أريد أن أقول،
نعم هنالك مشاكل تقنية صعبة،
لكننا نعمل على ذلك؛ لدينا حلول.
أنا متأكدة من ذلك.
لكن التوصل إلى هذا الحل الفني لا يكفي.
ما نحتاج إليه هو الانتقال من هذه الحلول التقنية
إلى أنظمة العدالة.
يجب علينا أن نحاسب الذكاء الاصطناعي
كما نحاسب بعضنا البعض.
والأشخاص أمثالكم هم من يجعلون هذا حقيقة.
عندما يتعلق الأمر بالحكومات، في الأشهر القليلة الماضية وحدها،
سان فرانسيسكو وأوكلاند وسومرفيل في ماساتشوستس
أصدروا قوانين تمنع الحكومة من استخدام تقنية التعرف على الوجه.
هذا هو نتاج عمل أشخاص يذهبون إلى عملهم
ويجتمعون في المدينة ويكتبون الرسائل ويطرحون الأسئلة
ولا يخضعون لكل ما يقوله الذكاء الاصطناعي.
عندما يتعلق الأمر بالشركات،
يجب أن لا نقلل من قوة العمل الجماعي.
فبسبب الضغط العام،
توقفت الشركات الكبيرة عن استخدام الذكاء الاصطناعي.
ابتداءً من واتسن هيلث التي تخطئ بتشخيص مرضى السرطان،
إلى أداة شركة أمازون للتوظيف التي تميز ضد المرأة.
وقد ثبت أن الشركات الكبيرة تتراجع وتتوقف
عندما يكون هنالك احتجاج شعبي.
معاً يمكننا منع الذكاء الاصطناعي من أن يعيقنا،
أو ما هو أسوأ وأن يدفعنا إلى الوراء.
إن كنا حريصين باستخدامه،
وحاسبناه واستخدمناه استخدامًا حكيمًا،
عندها يمكن للذكاء الاصطناعي أن يرينا ليس العالم الذي نعيش فيه فحسب،
بل أيضًا العالم الذي نطمح إليه.
إن الإمكانيات مذهلة،
والأمر يعود لنا جميعًا فيجب علينا أن نتأكد من حدوثه.
شكراً لكم.
(تصفيق) (هتاف)