0:00:00.792,0:00:03.059
كل يوم، كل أسبوع،

0:00:03.083,0:00:05.268
نوافق على شروط وأحكام.

0:00:05.292,0:00:06.768
وعندما نفعل ذلك،

0:00:06.792,0:00:09.268
نزود الشركات بالحق القانوني

0:00:09.292,0:00:12.976
لفعل ما تريده بالبيانات الخاصة بنا

0:00:13.000,0:00:15.375
وبيانات أطفالنا.

0:00:16.792,0:00:19.768
ما يجعلنا نتساءل:

0:00:19.792,0:00:22.684
كم من البيانات التي نمنحها عن الأطفال،

0:00:22.708,0:00:24.708
وما هي آثارها؟

0:00:26.500,0:00:27.893
أنا عالمة أنثروبولوجيا،

0:00:27.917,0:00:30.518
وأيضاً أم لطفلتين صغيرتين.

0:00:30.542,0:00:35.018
وبدأ اهتمامي بهذا السؤال في 2015

0:00:35.042,0:00:37.768
عندما أدركت فجأة أن ثمّة

0:00:37.792,0:00:40.809
كميات هائلة لا يمكن تخيلها[br]من تتبع البيانات

0:00:40.833,0:00:44.000
التي يتم إنتاجها وتجميعها عن الأطفال.

0:00:44.792,0:00:46.768
لذلك بدأت مشروعاً بحثياً،

0:00:46.792,0:00:49.268
والذي يسمى مواطن بيانات الطفل،

0:00:49.292,0:00:51.417
وأهدف إلى ملء الفراغ.

0:00:52.583,0:00:55.601
الآن ربما تفكر أنني ألومك

0:00:55.625,0:00:58.393
لنشر صور أطفالك[br]على وسائل التواصل الاجتماعي،

0:00:58.417,0:01:00.559
لكن هذا ليس الهدف.

0:01:00.583,0:01:04.000
المشكلة أكبر بكثير مما يسمى بـ "المشاركة".

0:01:04.792,0:01:08.893
هذا عن الأنظمة وليس عن الأفراد.

0:01:08.917,0:01:11.208
لا تُلامون أنتم وعاداتكم.

0:01:12.833,0:01:15.684
لأول مرة في التاريخ،

0:01:15.708,0:01:18.268
نقوم بتتبع البيانات الفردية للأطفال

0:01:18.292,0:01:20.059
منذ وقت طويل قبل ولادتهم -

0:01:20.083,0:01:22.768
ومن لحظة الحمل أحياناً،

0:01:22.792,0:01:25.143
وخلال حياتهم بعد ذلك.

0:01:25.167,0:01:28.268
كما تعرفون، عندما يقرر الآباء الحمل،

0:01:28.292,0:01:31.268
يبحثون عبر الإنترنت عن "طرق الحمل"

0:01:31.292,0:01:34.042
أو يقومون بتحميل تطبيقات تتبع التبويض.

0:01:35.250,0:01:37.851
عندما يحصل الحمل،

0:01:37.875,0:01:41.018
ينشرون الموجات فوق الصوتية لأطفالهم[br]على وسائل التواصل الاجتماعي،

0:01:41.042,0:01:43.059
يقومون بتحميل تطبيقات الحمل

0:01:43.083,0:01:46.809
أو استشارة دكتور جوجل لهذه الأشياء،

0:01:46.833,0:01:48.351
مثل، كما تعرفون-

0:01:48.375,0:01:50.934
عن "مخاطر الإجهاض عند الطيران"

0:01:50.958,0:01:53.726
أو "تشنجات البطن في وقت مبكر من الحمل."

0:01:53.750,0:01:55.559
أعلم لأنني فعلت ذلك -

0:01:55.583,0:01:57.208
مرات عديدة.

0:01:58.458,0:02:01.268
عندما يولد الطفل وبعد ذلك،[br]يتتبعون كل قيلولة،

0:02:01.292,0:02:02.559
كل وجبة،

0:02:02.583,0:02:05.167
كل حدث في حياته على تقنيات مختلفة.

0:02:06.083,0:02:07.559
وتحول كل هذه التقنيات

0:02:07.583,0:02:13.726
البيانات الخاصة بصحة الطفل[br]وسلوكه الأكثر خصوصية إلى ربح

0:02:13.750,0:02:15.542
بمشاركتها مع الآخرين.

0:02:16.583,0:02:18.726
لأبين لكم فكرة عمل هذا،

0:02:18.750,0:02:23.934
في 2019، نشرت المجلة الطبية[br]البريطانية بحثاً يوضح

0:02:23.958,0:02:27.601
أن من كل 24 تطبيقاً خاصاً بالهاتف المحمول،

0:02:27.625,0:02:31.083
ينشر 19 منهم معلومات مع أطراف ثالثة.

0:02:32.083,0:02:37.917
وتقوم هذه الأطراف بمشاركة[br]المعلومات مع 216 منظمة أخرى.

0:02:38.875,0:02:42.309
ومن هذه الـ 216 طرف رابع،

0:02:42.333,0:02:45.476
ينتمي 3 منهم فقط للقطاع الطبي.

0:02:45.500,0:02:50.018
الشركات الأخرى التي كان لها إمكانية الوصول[br]لهذه البيانات هي شركات التقنية الكبرى

0:02:50.042,0:02:53.559
مثل جوجل أو فيسبوك أو أوراكل،

0:02:53.583,0:02:56.184
وهم شركات إعلان رقمية

0:02:56.208,0:03:00.333
وكان هناك أيضاً وكالة تقارير[br]ائتمان المستهلك.

0:03:01.125,0:03:02.559
لذا ما فهمته صحيحاً:

0:03:02.583,0:03:07.708
الشركات الإعلانية ووكالات الائتمان[br]لديها بالفعل بيانات عن الأطفال الصغار.

0:03:08.911,0:03:11.977
لكن تطبيقات الهاتف المحمول وبحث[br]الإنترنت ووسائل التواصل الاجتماعي

0:03:11.977,0:03:15.018
في الحقيقة مجرد غيض من فيض،

0:03:15.042,0:03:17.893
لأنه يتم تعقب الأطفال بواسطة تقنيات متعددة

0:03:17.917,0:03:19.643
في حياتهم اليومية.

0:03:19.667,0:03:23.809
يتم تتبعهم من خلال التقنيات المنزلية[br]والمساعدين الافتراضيين في منازلهم.

0:03:23.833,0:03:25.809
من خلال المنصات التعليمية

0:03:25.833,0:03:28.018
والتقنيات التعليمية في مدارسهم.

0:03:28.042,0:03:29.643
ومن خلال التسجيلات عبر الإنترنت

0:03:29.667,0:03:32.684
والبوابات الالكترونية في العيادات.

0:03:32.708,0:03:35.059
يتم تعقبهم من خلال ألعابهم[br]المتصلة بالإنترنت،

0:03:35.083,0:03:36.393
ألعابهم على الإنترنت

0:03:36.417,0:03:39.083
والكثير والكثير من التقنيات الأخرى.

0:03:40.250,0:03:41.893
لذا أثناء قيامي بالبحث،

0:03:41.917,0:03:46.059
جاءني الكثير من الآباء وسألوني: "ماذا بعد؟

0:03:46.083,0:03:49.000
ما القضية إذا تم تعقب أطفالي؟

0:03:50.042,0:03:51.375
ليس لدينا ما نخفيه."

0:03:52.958,0:03:54.458
حسناً، إنه يهم.

0:03:55.083,0:04:01.101
يهم لأن الأفراد اليوم لا يتم تعقبهم فقط،

0:04:01.125,0:04:05.226
يتم أيضاً تصنيفهم حسب البيانات الخاصة بهم.

0:04:05.250,0:04:09.059
يتم استخدام الذكاء الصناعي[br]والتحليلات التنبؤية

0:04:09.083,0:04:12.726
لتسخير أكبر قدر ممكن من البيانات

0:04:12.750,0:04:14.601
من مصادر مختلفة:

0:04:14.625,0:04:19.143
تاريخ العائلة وعادات الشراء[br]وتعليقات وسائل التواصل الاجتماعي.

0:04:19.167,0:04:21.018
ثم يتم تجميع البيانات معاً

0:04:21.042,0:04:23.792
لاتخاذ قرارات مبنية على بيانات الفرد.

0:04:24.792,0:04:28.226
ويتم استخدام هذه التقنية في كل مكان.

0:04:28.250,0:04:30.643
تستخدمها البنوك لإقرار القروض.

0:04:30.667,0:04:33.042
ويستخدمها التأمين لتحديد الأقساط.

0:04:34.008,0:04:36.514
يستخدمها مسؤولو التوظيف وأرباب العمل

0:04:36.574,0:04:39.875
ليقرروا ما إذا كان أحد مناسباً للعمل[br]أم لا.

0:04:40.750,0:04:43.851
وأيضاً تستخدمها الشرطة والمحاكم

0:04:43.875,0:04:47.393
لتحديد ما إذا كان أحدهم مجرماً محتملاً

0:04:47.417,0:04:50.042
أو من المحتمل أن يعيد ارتكاب الجريمة.

0:04:52.458,0:04:56.518
ليس لدينا أي معرفة أو سيطرة

0:04:56.542,0:05:00.184
على الطرق التي يقوم بها أولئك الذين[br]يشترون بياناتنا ويبيعونها ويعالجونها

0:05:00.208,0:05:02.917
لتوصيف هويتنا وأطفالنا.

0:05:03.625,0:05:07.667
لكن هذه الملفات الشخصية يمكن أن تؤثر[br]على حقوقنا بطرق ملحوظة.

0:05:08.917,0:05:11.125
لأوضح لكم بمثال،

0:05:13.792,0:05:17.851
نشرت نيويورك تايمز في 2018 أخباراً

0:05:17.875,0:05:19.851
أن البيانات التي تم تجميعها

0:05:19.875,0:05:22.934
خلال خدمات التخطيط الجامعي عبر الإنترنت -

0:05:22.958,0:05:27.684
التي ينجزها ملايين من أطفال المدارس[br]الثانوية في جميع أنحاء الولايات المتحدة

0:05:27.708,0:05:31.351
والذين يبحثون عن برنامج جامعي[br]أو منحة دراسية -

0:05:31.375,0:05:34.417
تم بيعها إلى وسطاء البيانات التعليمية.

0:05:35.792,0:05:41.226
الآن، كشف باحثون في فوردهام[br]الذين درسوا وسطاء البيانات التعليمية

0:05:41.250,0:05:46.476
أن هذه الشركات وصفت أطفال[br]لا تتجاوز أعمارهم العامين

0:05:46.500,0:05:49.559
على أساس فئات مختلفة:

0:05:49.583,0:05:53.768
العرق والدين والثراء،

0:05:53.792,0:05:55.851
الصعيد الاجتماعي

0:05:55.875,0:05:58.809
والعديد من الفئات العشوائية الأخرى.

0:05:58.833,0:06:03.851
ثم يبيعون هذه الملفات الشخصية[br]مع اسم الطفل،

0:06:03.875,0:06:06.684
عنوان منزلهم وتفاصيل الاتصال بهم

0:06:06.708,0:06:08.559
لشركات مختلفة،

0:06:08.583,0:06:11.042
بما في ذلك المؤسسات التجارية والمهنية،

0:06:12.083,0:06:13.351
والقروض الدراسية

0:06:13.375,0:06:15.125
وشركات بطاقات الائتمان الطلابية.

0:06:16.542,0:06:17.893
لكسر الحواجز،

0:06:17.917,0:06:21.726
طلب الباحثون في فورهام[br]من وسيط البيانات التعليمية

0:06:21.750,0:06:27.559
تزويدهم بقائمة الفتيات من 14 إلى 15 سنة

0:06:27.583,0:06:30.958
ممن كن مهتمات بخدمات تنظيم الأسرة.

0:06:32.208,0:06:34.684
وافق وسيط البيانات بتزويدهم بالقائمة.

0:06:34.708,0:06:39.583
لذا تخيل مدى خصوصية وتطفل[br]هذا الأمر على أطفالنا.

0:06:40.833,0:06:44.809
لكن وسطاء بيانات التعليم مجرد مثال.

0:06:44.833,0:06:49.518
الحقيقة أنه تم توصيف أطفالنا بطرق[br]لا نستطيع السيطرة عليها

0:06:49.542,0:06:52.958
ولكن هذا يمكنه التأثير على فرصهم[br]في الحياة بصورة كبيرة.

0:06:54.167,0:06:57.643
لذا نريد أن نسأل أنفسنا:

0:06:57.667,0:07:02.351
هل نستطيع أن نثق في هذه التقنيات[br]عندما يتعلق الأمر بتوصيف أطفالنا؟

0:07:02.375,0:07:03.625
هل يمكننا؟

0:07:05.708,0:07:06.958
إجابتي هي لا.

0:07:07.792,0:07:09.059
كعالمة أنثروبولوجيا،

0:07:09.083,0:07:12.851
أعتقد أنه يمكن للذكاء الصناعي[br]والتحليلات التنبؤية أن يكونا رائعين

0:07:12.875,0:07:14.893
للتنبؤ بمسار المرض

0:07:14.917,0:07:16.750
أو محاربة تغير المناخ.

0:07:18.000,0:07:19.643
لكننا بحاجة إلى التخلي عن اعتقاد

0:07:19.667,0:07:23.351
أن هذه التقنيات يمكن أن تصنف[br]البشر بشكل موضوعي

0:07:23.375,0:07:26.559
وأنه يمكننا الاعتماد عليهم[br]لاتخاذ قرارات مبنية على البيانات

0:07:26.583,0:07:28.476
عن حياة الفرد.

0:07:28.500,0:07:31.059
إذ ليس باستطاعتهم توصيف البشر.

0:07:31.083,0:07:34.434
تتبع البيانات ليس مرآة لمن نحن.

0:07:34.458,0:07:36.559
يفكر الإنسان بشيء ويقول العكس،

0:07:36.583,0:07:39.018
يشعر بطريقة ويتصرف بشكل مختلف.

0:07:39.042,0:07:41.518
التنبؤات الخوارزمية أو الأساليب الرقمية

0:07:41.542,0:07:46.708
لا يمكن أن تفسر عدم إمكانية التنبؤ[br]والتجربة الإنسانية المعقدة.

0:07:48.417,0:07:49.976
إضافة إلى هذا،

0:07:50.000,0:07:52.684
هذه التقنيات دائماً -

0:07:52.708,0:07:53.976
دائماً -

0:07:54.000,0:07:55.917
بطريقة أو بأخرى، منحازة.

0:07:57.125,0:08:02.184
الخوارزميات حسب التعريف مجموعات[br]من القواعد أو الخطوات

0:08:02.208,0:08:05.917
تم تصميمها لتحقيق نتيجة محددة، أليس كذلك؟

0:08:06.823,0:08:09.583
لكن لا يمكن لهذه القواعد أو الخطوات[br]أن تكون موضوعية،

0:08:09.583,0:08:11.726
لأنه تم تصميمها بواسطة البشر

0:08:11.750,0:08:13.476
ضمن سياق ثقافي محدد

0:08:13.500,0:08:16.000
وتتشكل بقيم ثقافية محددة.

0:08:16.667,0:08:18.393
لذا عندما تعمل الآلات،

0:08:18.417,0:08:20.667
تعمل من خوارزميات منحازة،

0:08:21.625,0:08:24.833
وغالبا ما يتعلمون من قواعد البيانات[br]المتحيزة كذلك.

0:08:25.833,0:08:29.559
في الوقت الحالي، نحن نرى[br]الأمثلة الأولية للتحيز الخوارزمي.

0:08:29.583,0:08:33.083
وبعض هذه الأمثلة صراحة مرعبة.

0:08:34.500,0:08:38.559
نشر معهد AI Now هذا العام[br]في نيويورك تقريراً

0:08:38.583,0:08:40.976
كشف أن تقنيات الذكاء الصناعي

0:08:41.000,0:08:44.476
التي يتم استخدامها للشرطة التنبؤية

0:08:44.500,0:08:47.625
تم تغذيتها على بيانات "فاسدة".

0:08:48.333,0:08:51.226
تم جمع هذه البيانات في الأساس

0:08:51.250,0:08:55.434
خلال الفترات التاريخية[br]من التحيز العنصري المعروف

0:08:55.458,0:08:57.708
وممارسات الشرطة غير الشفافة.

0:08:58.542,0:09:02.601
لأن هذه التقنيات يتم تغذيتها[br]على بيانات فاسدة،

0:09:02.625,0:09:04.059
فهم ليسوا موضوعيين،

0:09:04.083,0:09:08.601
ونتائجها فقط تضخيم

0:09:08.625,0:09:10.250
لتحيز الشرطة والخطأ.

0:09:13.167,0:09:16.309
لذلك أعتقد أننا نواجه مشكلة أساسية

0:09:16.333,0:09:17.976
في مجتمعنا.

0:09:18.000,0:09:22.792
بدأنا نثق في التقنيات عندما يتعلق[br]الأمر بتوصيف البشر.

0:09:23.750,0:09:26.268
نحن نعلم أنه في توصيف البشر،

0:09:26.292,0:09:29.101
هذه التقنيات دائماً منحازة

0:09:29.125,0:09:31.851
ولن تكون دقيقة أبداً.

0:09:31.875,0:09:34.809
لذا ما نحتاجه الآن هو في الواقع حل سياسي.

0:09:34.833,0:09:39.542
نحتاج أن تعترف الحكومات أن حقوق[br]البيانات الخاصة بنا هي حقوقنا الإنسانية.

0:09:40.292,0:09:44.375
(تصفيق وهتاف)

0:09:47.833,0:09:51.917
حتى يحدث هذا، لا يمكننا أن نأمل[br]في مستقبل أكثر عدلاً.

0:09:52.750,0:09:55.476
أخشى أن بناتي سوف يتعرضن

0:09:55.500,0:09:59.226
لجميع أنواع خوارزميات التمييز والخطأ.

0:09:59.250,0:10:01.643
ترون الفرق بيني وبين بناتي

0:10:01.667,0:10:04.851
هو أنه لا يوجد سجل عام لطفولتي.

0:10:04.875,0:10:08.893
بالتأكيد لا توجد قاعدة بيانات[br]لجميع الأشياء المتهورة التي قمت بها

0:10:08.917,0:10:11.059
وفكرت فيها عندما كنت مراهقة.

0:10:11.083,0:10:12.583
(ضحك)

0:10:13.833,0:10:16.583
لكن هذا ربما مختلف لبناتي.

0:10:17.292,0:10:20.476
البيانات التي يتم جمعها منهن اليوم

0:10:20.500,0:10:24.309
يمكن استخدامها للحكم عليهن في المستقبل

0:10:24.333,0:10:27.292
ويمكن أن تحول دون تحقيق آمالهن وأحلامهن.

0:10:28.583,0:10:30.101
أعتقد أنه حان الوقت.

0:10:30.125,0:10:31.559
حان الوقت لكي نتحرك جميعاً.

0:10:31.583,0:10:34.059
حان الوقت لنبدأ العمل معاً

0:10:34.083,0:10:35.518
كأفراد،

0:10:35.542,0:10:38.059
كمنظمات وكمؤسسات،

0:10:38.083,0:10:41.184
نطالب بقدر أكبر من عدالة البيانات لنا

0:10:41.208,0:10:42.601
ولأطفالنا

0:10:42.625,0:10:44.143
قبل فوات الأوان.

0:10:44.167,0:10:45.434
شكراً لكم.

0:10:45.458,0:10:46.875
(تصفيق)