كل يوم، كل أسبوع،
نوافق على شروط وأحكام.
وعندما نفعل ذلك،
نزود الشركات بالحق القانوني
لفعل ما تريده بالبيانات الخاصة بنا
وبيانات أطفالنا.
ما يجعلنا نتساءل:
كم من البيانات التي نمنحها عن الأطفال،
وما هي آثارها؟
أنا عالمة أنثروبولوجيا،
وأيضاً أم لطفلتين صغيرتين.
وبدأ اهتمامي بهذا السؤال في 2015
عندما أدركت فجأة أن ثمّة
كميات هائلة لا يمكن تخيلها من تتبع البيانات
التي يتم إنتاجها وتجميعها عن الأطفال.
لذلك بدأت مشروعاً بحثياً،
والذي يسمى مواطن بيانات الطفل،
وأهدف إلى ملء الفراغ.
الآن ربما تفكر أنني ألومك
لنشر صور أطفالك على وسائل التواصل الاجتماعي،
لكن هذا ليس الهدف.
المشكلة أكبر بكثير مما يسمى بـ "المشاركة".
هذا عن الأنظمة وليس عن الأفراد.
لا تُلامون أنتم وعاداتكم.
لأول مرة في التاريخ،
نقوم بتتبع البيانات الفردية للأطفال
منذ وقت طويل قبل ولادتهم -
ومن لحظة الحمل أحياناً،
وخلال حياتهم بعد ذلك.
كما تعرفون، عندما يقرر الآباء الحمل،
يبحثون عبر الإنترنت عن "طرق الحمل"
أو يقومون بتحميل تطبيقات تتبع التبويض.
عندما يحصل الحمل،
ينشرون الموجات فوق الصوتية لأطفالهم على وسائل التواصل الاجتماعي،
يقومون بتحميل تطبيقات الحمل
أو استشارة دكتور جوجل لهذه الأشياء،
مثل، كما تعرفون-
عن "مخاطر الإجهاض عند الطيران"
أو "تشنجات البطن في وقت مبكر من الحمل."
أعلم لأنني فعلت ذلك -
مرات عديدة.
عندما يولد الطفل وبعد ذلك، يتتبعون كل قيلولة،
كل وجبة،
كل حدث في حياته على تقنيات مختلفة.
وتحول كل هذه التقنيات
البيانات الخاصة بصحة الطفل وسلوكه الأكثر خصوصية إلى ربح
بمشاركتها مع الآخرين.
لأبين لكم فكرة عمل هذا،
في 2019، نشرت المجلة الطبية البريطانية بحثاً يوضح
أن من كل 24 تطبيقاً خاصاً بالهاتف المحمول،
ينشر 19 منهم معلومات مع أطراف ثالثة.
وتقوم هذه الأطراف بمشاركة المعلومات مع 216 منظمة أخرى.
ومن هذه الـ 216 طرف رابع،
ينتمي 3 منهم فقط للقطاع الطبي.
الشركات الأخرى التي كان لها إمكانية الوصول لهذه البيانات هي شركات التقنية الكبرى
مثل جوجل أو فيسبوك أو أوراكل،
وهم شركات إعلان رقمية
وكان هناك أيضاً وكالة تقارير ائتمان المستهلك.
لذا ما فهمته صحيحاً:
الشركات الإعلانية ووكالات الائتمان لديها بالفعل بيانات عن الأطفال الصغار.
لكن تطبيقات الهاتف المحمول وبحث الإنترنت ووسائل التواصل الاجتماعي
في الحقيقة مجرد غيض من فيض،
لأنه يتم تعقب الأطفال بواسطة تقنيات متعددة
في حياتهم اليومية.
يتم تتبعهم من خلال التقنيات المنزلية والمساعدين الافتراضيين في منازلهم.
من خلال المنصات التعليمية
والتقنيات التعليمية في مدارسهم.
ومن خلال التسجيلات عبر الإنترنت
والبوابات الالكترونية في العيادات.
يتم تعقبهم من خلال ألعابهم المتصلة بالإنترنت،
ألعابهم على الإنترنت
والكثير والكثير من التقنيات الأخرى.
لذا أثناء قيامي بالبحث،
جاءني الكثير من الآباء وسألوني: "ماذا بعد؟
ما القضية إذا تم تعقب أطفالي؟
ليس لدينا ما نخفيه."
حسناً، إنه يهم.
يهم لأن الأفراد اليوم لا يتم تعقبهم فقط،
يتم أيضاً تصنيفهم حسب البيانات الخاصة بهم.
يتم استخدام الذكاء الصناعي والتحليلات التنبؤية
لتسخير أكبر قدر ممكن من البيانات
من مصادر مختلفة:
تاريخ العائلة وعادات الشراء وتعليقات وسائل التواصل الاجتماعي.
ثم يتم تجميع البيانات معاً
لاتخاذ قرارات مبنية على بيانات الفرد.
ويتم استخدام هذه التقنية في كل مكان.
تستخدمها البنوك لإقرار القروض.
ويستخدمها التأمين لتحديد الأقساط.
يستخدمها مسؤولو التوظيف وأرباب العمل
ليقرروا ما إذا كان أحد مناسباً للعمل أم لا.
وأيضاً تستخدمها الشرطة والمحاكم
لتحديد ما إذا كان أحدهم مجرماً محتملاً
أو من المحتمل أن يعيد ارتكاب الجريمة.
ليس لدينا أي معرفة أو سيطرة
على الطرق التي يقوم بها أولئك الذين يشترون بياناتنا ويبيعونها ويعالجونها
لتوصيف هويتنا وأطفالنا.
لكن هذه الملفات الشخصية يمكن أن تؤثر على حقوقنا بطرق ملحوظة.
لأوضح لكم بمثال،
نشرت نيويورك تايمز في 2018 أخباراً
أن البيانات التي تم تجميعها
خلال خدمات التخطيط الجامعي عبر الإنترنت -
التي ينجزها ملايين من أطفال المدارس الثانوية في جميع أنحاء الولايات المتحدة
والذين يبحثون عن برنامج جامعي أو منحة دراسية -
تم بيعها إلى وسطاء البيانات التعليمية.
الآن، كشف باحثون في فوردهام الذين درسوا وسطاء البيانات التعليمية
أن هذه الشركات وصفت أطفال لا تتجاوز أعمارهم العامين
على أساس فئات مختلفة:
العرق والدين والثراء،
الصعيد الاجتماعي
والعديد من الفئات العشوائية الأخرى.
ثم يبيعون هذه الملفات الشخصية مع اسم الطفل،
عنوان منزلهم وتفاصيل الاتصال بهم
لشركات مختلفة،
بما في ذلك المؤسسات التجارية والمهنية،
والقروض الدراسية
وشركات بطاقات الائتمان الطلابية.
لكسر الحواجز،
طلب الباحثون في فورهام من وسيط البيانات التعليمية
تزويدهم بقائمة الفتيات من 14 إلى 15 سنة
ممن كن مهتمات بخدمات تنظيم الأسرة.
وافق وسيط البيانات بتزويدهم بالقائمة.
لذا تخيل مدى خصوصية وتطفل هذا الأمر على أطفالنا.
لكن وسطاء بيانات التعليم مجرد مثال.
الحقيقة أنه تم توصيف أطفالنا بطرق لا نستطيع السيطرة عليها
ولكن هذا يمكنه التأثير على فرصهم في الحياة بصورة كبيرة.
لذا نريد أن نسأل أنفسنا:
هل نستطيع أن نثق في هذه التقنيات عندما يتعلق الأمر بتوصيف أطفالنا؟
هل يمكننا؟
إجابتي هي لا.
كعالمة أنثروبولوجيا،
أعتقد أنه يمكن للذكاء الصناعي والتحليلات التنبؤية أن يكونا رائعين
للتنبؤ بمسار المرض
أو محاربة تغير المناخ.
لكننا بحاجة إلى التخلي عن اعتقاد
أن هذه التقنيات يمكن أن تصنف البشر بشكل موضوعي
وأنه يمكننا الاعتماد عليهم لاتخاذ قرارات مبنية على البيانات
عن حياة الفرد.
إذ ليس باستطاعتهم توصيف البشر.
تتبع البيانات ليس مرآة لمن نحن.
يفكر الإنسان بشيء ويقول العكس،
يشعر بطريقة ويتصرف بشكل مختلف.
التنبؤات الخوارزمية أو الأساليب الرقمية
لا يمكن أن تفسر عدم إمكانية التنبؤ والتجربة الإنسانية المعقدة.
إضافة إلى هذا،
هذه التقنيات دائماً -
دائماً -
بطريقة أو بأخرى، منحازة.
الخوارزميات حسب التعريف مجموعات من القواعد أو الخطوات
تم تصميمها لتحقيق نتيجة محددة، أليس كذلك؟
لكن لا يمكن لهذه القواعد أو الخطوات أن تكون موضوعية،
لأنه تم تصميمها بواسطة البشر
ضمن سياق ثقافي محدد
وتتشكل بقيم ثقافية محددة.
لذا عندما تعمل الآلات،
تعمل من خوارزميات منحازة،
وغالبا ما يتعلمون من قواعد البيانات المتحيزة كذلك.
في الوقت الحالي، نحن نرى الأمثلة الأولية للتحيز الخوارزمي.
وبعض هذه الأمثلة صراحة مرعبة.
نشر معهد AI Now هذا العام في نيويورك تقريراً
كشف أن تقنيات الذكاء الصناعي
التي يتم استخدامها للشرطة التنبؤية
تم تغذيتها على بيانات "فاسدة".
تم جمع هذه البيانات في الأساس
خلال الفترات التاريخية من التحيز العنصري المعروف
وممارسات الشرطة غير الشفافة.
لأن هذه التقنيات يتم تغذيتها على بيانات فاسدة،
فهم ليسوا موضوعيين،
ونتائجها فقط تضخيم
لتحيز الشرطة والخطأ.
لذلك أعتقد أننا نواجه مشكلة أساسية
في مجتمعنا.
بدأنا نثق في التقنيات عندما يتعلق الأمر بتوصيف البشر.
نحن نعلم أنه في توصيف البشر،
هذه التقنيات دائماً منحازة
ولن تكون دقيقة أبداً.
لذا ما نحتاجه الآن هو في الواقع حل سياسي.
نحتاج أن تعترف الحكومات أن حقوق البيانات الخاصة بنا هي حقوقنا الإنسانية.
(تصفيق وهتاف)
حتى يحدث هذا، لا يمكننا أن نأمل في مستقبل أكثر عدلاً.
أخشى أن بناتي سوف يتعرضن
لجميع أنواع خوارزميات التمييز والخطأ.
ترون الفرق بيني وبين بناتي
هو أنه لا يوجد سجل عام لطفولتي.
بالتأكيد لا توجد قاعدة بيانات لجميع الأشياء المتهورة التي قمت بها
وفكرت فيها عندما كنت مراهقة.
(ضحك)
لكن هذا ربما مختلف لبناتي.
البيانات التي يتم جمعها منهن اليوم
يمكن استخدامها للحكم عليهن في المستقبل
ويمكن أن تحول دون تحقيق آمالهن وأحلامهن.
أعتقد أنه حان الوقت.
حان الوقت لكي نتحرك جميعاً.
حان الوقت لنبدأ العمل معاً
كأفراد،
كمنظمات وكمؤسسات،
نطالب بقدر أكبر من عدالة البيانات لنا
ولأطفالنا
قبل فوات الأوان.
شكراً لكم.
(تصفيق)