فيديوهات كوابيس الأطفال على اليوتيوب وما خطب الإنترنت اليوم

يكشف جيمس برايدل الكاتب والفنان النقاب عن الجانب المظلم والغريب للإنترنت، حيث يخترق أشخاص مجهولون أو مجموعات على اليوتيوب عقول الأطفال الصغار في مقابل عائدات الإعلانات. بدءًا بفيديوهات "بيض المفاجآت" و"أغنية أصابع العائلة" إلى أن ينتهي الأمر بعمليات مزج تمت بطريقة لوغاريتمية لشخصيات معروفة من أفلام الكارتون في مواضع عنيفة، وهذه الفيديوهات تستغل عقول الأطفال الصغار وتُرعبها، إنها تخبرنا شيئا عن إلى أين يتجه العالم المعتمد على البيانات بشكل كبير. ويقول برايدل "نحتاج إلى أن نكف عن التفكير في التكنولوجيا كحل لكل مشاكلنا، ولكن نحتاج في التفكير فيها كمرشد يدلنا على ما هي تلك المشاكل بالفعل، لكي نبدأ بالتفكير بهم بشكل جيد والبدء في التصدي لهم"

أنا جيمس.

أنا كاتب وفنان،

وأعمل في مجال التكنولوجيا.

وأرسم بالحجم الطبيعي
هيكل الطائرات العسكرية بدون طيار

في شوارع المدينة حول العالم،

لكي يبدأ الناس في التفكير والفهم

ومن الصعب جدا الرؤية
والتفكير في التكنولوجيا

صنعت أشياءً مثل الشبكات العصبية
التي تُنبئ بنتيجة الانتخابات

اعتمادا على تقارير الطقس،

لأني مفتون بـ

ماهية الإمكانيات الفعلية
لهذه التكنولوجيا الجديدة والغريبة.

السنة الماضية، بنيت
سيارتي الذاتية القيادة.

ولكن لأني لا أثق بالتكنولوجيا،

صممت أيضا فخًّا لها.

(ضحك)

وأفعل هذه الأمور غالبا
لأني أجدها رائعة تماما،

ولكن أيضا لأني أظن
عندما نتحدث عن التكنولوجيا،

نتحدث بشكل كبير عن أنفسنا

وطريقة فهمنا للعالم.

وهنا قصة عن التكنولوجيا.

هذا هو فيديو "بيض المفاجآت".

إنه أساسا فيديو عن شخص ما
يفتح الكثير من بيض الشيكولاتة

ويُظهر الألعاب التي بداخلها للمشاهد.

وهذا هو. هذا كل شيء فعله ذلك طوال 7 دقائق.

وأودُّ أن تلاحظوا أمرين بشأنه.

أولا: هذا الفيديو حظى بـ 30 مليون مشاهدة.

(ضحك)

والشيء الآخر هو،

بثّته قناة تحظى بـ 6,3 مليون مشترك،

ليبلغ الإجمالي 8 مليار مشاهدة،

والأمر كله مجرد الكثير من الفيديوهات مثلها

30 مليون شخص يشاهدون رجلا
يفتح هذه البيضات.

يبدو الأمر غريبا، ولكن إذا بحثنا عن
"بيض المفاجآت" على اليوتيوب

ستجد هناك 10 مليون من هذه الفيديوهات،

وأظن إنها أقل من الأرقام الفعلية.

أظن أن هناك الكثير منها للغاية.

إذا واصلت البحث،
ستجد عددًا لا نهائيًا منها.

هناك الملايين من هذه الفيديوهات

بمزيج مفصّل ومتزايد من الماركات والمواد،

وهناك المزيد والمزيد منهم
يتم تحميلهم كل يوم.

هذا عالم غريب، أليس كذلك؟

ولكن الأمر هو أن البالغين
ليسوا مَن يشاهدوا هذه الفيديوهات.

إنهم الأطفال الصغار.

وهذه الفيديوهات يدمِنُها الأطفال الصغار.

هناك خطبٌ ما حول التكرار،

ويكشف لنا الدوبامين
المستمر الحقيقة،

أنها تجذبهم تماما لها.

والصغار يشاهدون هذه الفيديوهات
مرارًا وتكرارًا،

ويستغرقون ساعات طويلة في مشاهدتها.

وإذا حاولت إبعاد الشاشة عنهم

ستتوالى صرخاتهم.

إذا لم تصدقني ــ

ولقد شاهدت أشخاصا بالفعل
بين الجمهور يومئون برأسهم ــ

إذا لم تصدقني،
أجد شخصا لديه أطفالا واسألهم،

وستجدهم يعرفون أمر فيديوهات بيض المفاجآت.

ومن هنا بدأنا.

إنه عام 2018، وشخصا ما، أو الكثير منهم،

يستخدمون نفس الآلية، التي يستخدمها
الفيس بوك والانستجرام

لتستمر في تفقد ذلك التطبيق،

ويستخدمونها على اليوتيوب
لتخترق عقول صغار الأطفال

في مقابل عائدات الإعلانات.

على الأقل، هذا ما آمل أنهم يفعلونه.

آمل أن هذا ما يفعلونه لأجل ذلك،

لأن هناك طرق أسهل للحصول
على عائدات الإعلانات على اليوتيوب.

يمكنك صنع أشياء أو سرقة أشياء.

لذا إذا بحثت عن أفلام الكرتون
المشهورة للأطفال

ك"بيبا الخنزير"

أو "دوريات المخالب"

وستجد هناك الملايين والملايين
منها أون لاين أيضا.

ومعظمها، بالطبع، لم ينشرها
منشئي المحتوى الأصلي.

جاءت من تحميلات من حسابات مختلفة وعشوائية،

ومن المستحيل معرفة مَن ينشرهم

أو ما هي دوافعهم.

أهذا يبدو مألوفاً؟

لأنها بالضبط نفس الآلية

التي تحدث في معظم خدماتنا الرقمية،

حيث من المستحيل معرفة
من أين تأتي هذه المعلومات.

إنها بالتأكيد أخبار مزيفة للأطفال،

ونحن ندرّّبهم منذ ولادتهم

على النقر على أول رابط يظهر أمامهم،

دون النظر إلى مصدره.

وهذا لا يبدو كفكرة جيدة للغاية.

وهنا شيء آخر خطير بالفعل
على الأطفال على اليوتيوب.

يدعى "أغنية عائلة الأصابع".

سمعت للتو شخصا يتأوَّه بين الجمهور.

هذه هي "أغنية عائلة الأصابع".

وهذا أول فيديو تمكّنت من إيجاده.

منذ عام 2007، ولديه فقط 200 ألف مشاهدة،

ولا يمثل شيئا
بالنسبة للمشاهدات الحالية.

ولكن لها تأثير النغمات
التي تتردد في الأذهان،

ولن أُشغِّله لكم،

لأنها ستؤثر على عقولكم

بنفس الطريقة التي أثرت بها على عقلي،

ولن أفعل ذلك بكم.

ولكن مثل بيض المفاجآت،

اخترقت عقول الأطفال

وجعلتهم يدمنونها.

لذا في خلال بضع سنوات،
فيديوهات عائلة الأصابع

بدأت تظهر في كل مكان،

وتجد نسخ بمختلف اللغات

بجانب أفلام كارتون الأطفال
التي تستخدم الطعام

أو، صراحةً، تستخدم
أي نوع من الرسوم المتحركة

التي تبدو أنها توجد حولنا.

ومرة أخرى، هناك الملايين
والملايين من هذه الفيديوهات

متاحة أون لاين في جميع
هذه المجموعات الجنونية نوعا ما

وكلما قضيت وقتا أطول في مشاهدتها،

ربما بدأ إحساسك بالجنون.

ومن هنا بدأت أتعمّق فيها

ذلك الشعور بالغرابة الشديدة
والقصور في الفهم

حول كيفية إنشاء هذا الشيء
الذي يبدو أنه يُقدَّم حولي.

لأنه من المستحيل أن تعرف مصدر هذه الأشياء.

مثل، مَن الذي يصنعهم؟

والبعض منهم صنعهم فريق
من إخصائيي رسوم متحركة محترفين.

والبرمجيات جمّعتها بشكل عشوائي.

وبعض منهم يبدو مفيدا تماما لتسلية الصغار.

وبعضهم أشخاصاً

لا ينبغي أن يكونوا بجوار الأطفال نهائياً.

(ضحك)

ومرة أخرى، تعذّر اكتشاف صانع هذه الأمور ــ

مثل، هل هو إنسان آلي؟

هل هو شخص؟ أم غولاً؟

ماذا يعني ذلك
أننا لا يمكننا معرفة الاختلاف

بين هذه الأمور بعد الآن؟

ومجددا، أليس ذلك الشك يبدو مألوفاً الآن؟

فالسبيل الأساسي ليحصل الناس
على نسب مشاهدة لفيديوهاتهم

وتذكر، مشاهدات تعني نقود ــ

هي أنهم يُعنْوِنون هذه الفيديوهات
بأسماء مشهورة.

مثل "بيض المفاجآت"

وأضف "دوريات المخالب"،
و"بيض شم النسيم"

أو أيا من هذه الأشياء،

جميعها كلمات من فيديوهات أخرى
مشهورة لتظهر في عنوانك،

حتى تنتهي بهذا النوع من مزيج
عديم الجدوى للغة

لا تجدي نفعا لجميع البشر.

لأن بالطبع الصغار فقط
هم الذين يشاهدون الفيديو الخاص بك،

وماذا يعرفون بحق الجحيم؟

فجمهورك الحقيقي
لهذه الأشياء هي البرمجيات.

إنها الخوارزميات.

إنها البرمجيات التي يستخدمها اليوتيوب

لاختيار أي الفيديوهات
التي تشبه الفيديوهات الأخرى،

لإشهارها، وتزكيتها.

ولهذا السبب ينتهي بك الأمر
إلى هذا المزيج عديم الجدوى تماما،

سواء من حيث العنوان أو المحتوى.

ولكن عليك أن تتذكر،

أن لا زال هناك أشخاص في هذا النظام المثالي
الذي يعمل بشكل لوغاريتمي،

أشخاصاً يتزايد اضطرارهم لتمثيل

هذا المزيج الغريب والمتزايد من الكلمات،

مثل فنان ارتجالي يائس
يرد على الصرخات المجتمعة

لملايين الأطفال في آنٍ واحد.

هناك أشخاص حقيقيون
محاصرون بين هذه الأنظمة،

والشيء الآخر الشديد الغرابة حول
هذه الثقافة المدارة بالشكل اللوغاريتمي،

لأنه حتى ولو كنت إنساناً،

سينتهي بك الأمر لتتصرّف كالآلة

فقط لتبقى حيّا.

وأيضا، على الجانب الآخر من الشاشة،

لازال يوجد هؤلاء الأطفال
وهم يشاهدون هذه الفيديوهات،

يُعيرون اهتمامهم بالكامل
لهذه الآليات الغريبة.

ومعظم هؤلاء الأطفال
صغار للغاية لاستخدام أي موقع.

إنهم فقط يطرقون
بأيديهم الصغيرة على الشاشة.

وهناك تشغيل تلقائي،

حيث تستمر في عرض
هذه الفيديوهات مرارًا وتكرارًا في حلقة

لا نهائية لمدة ساعات طويلة في كل مرة.

هناك أشياء غريبة للغاية في النظام الآن

فيأخذك التشغيل التلقائي
إلى أماكن غريبة جدا.

وهكذا، من خلال عشرات الخطوات،

يمكنك التنقل من فيديو لطيف
لقطار عد الأرقام

لاستمناء ميكي ماوس.

نعم. أنا آسف لذلك.

والأمر يزداد سوءأ.

وهذا ما يحدث

عندما كل هذه الكلمات الدلالية المختلفة،

وكل الأشكال المختلفة من الاهتمام،

وهذا الإنتاج المحبط للمحتوى،

تواجدوا جميعا في مكان واحد.

هذا هو المكان التي تأتي فيه كل
الكلمات الأساسية الغريبة للغاية لتستقر.

وتمزج فيديو عائلة الأصابع

ببعض أمور الأبطال الخوارق الحقيقيين،

وتضيف بعض المزحات الاستفزازية أو أي شيء

وفجأة، تجد نفسك في موقع غريب للغاية.

الأمور التي تُغضب الآباء

هي الأمور التي تحتوي
على مشاهد عنيفة أو جنسية، أليس كذلك؟

أفلام كارتون لأطفال يتعرضون للاعتداء،

يتعرضون للقتل،

مقالب غريبة تُرعب الأطفال بالفعل.

فليس لديك إلا برمجيات محاطة
بكل هذه التأثيرات المختلفة.

لتخلق تلقائيا أسوأ كوابيس الأطفال.

وهذه الأمور بالفعل تؤثر على الأطفال.

وأفاد آباء أن أطفالهم
قد تعرضوا لصدمة نفسية،

أصبحوا يخشوْن الظلام،

يخْشَوْن شخصيات
أفلام الكارتون المفضلة لديهم.

والدرس المستفاد من هذه الفيديوهات،
هو لو أن لديك أطفالا صغارا،

أبعدهم عن اليوتيوب بحق الجحيم.

(تصفيق)

ولكن السبب الذي جعلني
أستعرض هذه الفيديوهات،

هو أنني لست متأكدا كيف
نصل بالفعل إلى هذه النقطة.

لقد أخذنا كل هذه التأثيرات،
وكل هذه الأمور،

وغيّرناها معا بطريقة لا يقصدها أحد بالفعل.

ومع ذلك، هذه هي الطريقة
التي نبني بها العالم بأكمله.

نأخد كل هذه البيانات،

الكثير من البيانات السيئة،

الكثير من البيانات التاريخية
المليئة بالتحيُّز،

مليئة بكل دوافعنا السيئة في التاريخ،

وننشئ ذلك في مجموعات ضخمة من البيانات

ونجعله أتوماتيكيا.

وغيّرنا هذه البيانات معا إلى أشياءٍ
مثل تقارير الجدارة الائتمانية،

إلى أقساط التأمين،

إلى أشياء مثل الأنظمة التنبئية لحفظ الأمن،

إلى المبادئ التوجيهية لإصدار الأحكام.

هذه هي الطريقة التي نبني
بها بالفعل العالم اليوم

بعيداً عن هذه البيانات.

ولا أعرف ما هو الأسوأ،

فنبني نظاما يبدو مثاليا بالكامل

لأسوأ الجوانب تماما لسلوك الإنسان،

أو كما يبدو أننا قمنا بذلك بالصدفة،

دون حتى أن ندرك ما كنا نفعله،

لأننا لم ندرك تماما الأنظمة
التي قمنا بإنشائها،

ولم نفهم تماما كيفية فعل
أي شيء بصورة مختلفة بها.

هناك أمرين أظن أنهما
يتحكمان بهذا على ما يبدو

تحديدا على اليوتيوب،

الأمر الأول هو الإعلانات،

التي تجني الأرباح من جذب الانتباه

دون أي جهد حقيقي مبذول،

أي اهتمام للناس
الذين يطوِّرون بالفعل هذا المحتوى،

تمركز القوى، وعزل تلك الأمور.

وأظن مهما كان شعورك حول استخدام الإعلانات

لدعم تلك الأمور،

منظر رجل بالغ يرتدي حفاض يتقلّب في الرمال

على أمل أن اللوغاريتم الذي لا يفهموه تماما

سيجنون الأموال من جراء ذلك

ويشير إلى أن ربما ليس هذا الأمر

الذي يجب علينا أن
نبني به مجتمعنا وثفافتنا،

والطريقة التي يجب علينا تمويله من خلالها.

والأمر الآخر هو المحرك الرئيسي لهذا
هو التشغيل التلقائي،

الذي يعتبر الموزّع لكل هذه التكنولوجيا

بمجرد وصولها،
مع عدم وجود أي نوع من أنواع الرقابة،

ثم بمجرد ظهورها هناك،

كأننا نرفع أيدينا ونمضي
"ونلقي باللوم على التكنولوجيا."

كأننا "لم نكن شركاء في ذلك."

وذلك ليس جيدا بما يكفي،

لأن هذه الأمور
لا يتم التحكم بها بشكل لوغاريتمي فقط،

بل أيضا يتم حمايتها بشكل لوغاريتمي.

حينما بدأ اليوتيوب
أن يولي اهتمامه لهذه الأمور،

أول شيء قالوه ليفعلوا شيئا حياله

كان أنهم سينشرون
آلة أفضل على دراية باللوغاريتمات

لتعديل المحتوى.

قدرة الآلة على التعلم،
كأي خبير في هذا المجال سيخبرك،

هي أساسا ما بدأنا تسميته

بالبرامجيات التي لا ندرك بالفعل كيف تعمل.

وأظن أن لدينا بالفعل قدر كاف منها.

ولم يجدر بنا أن نترك الأمر برمته
للذكاء الاصطناعي لكي يقرر

ما هو مناسب أم غير مناسب،

لأننا نعرف ما يحدث.

سيبدأ بمراقبة الأشياء الأخرى.

سيبدأ بفرض رقابة على المحتوى الغريب.

سيبدأ بفرض رقابة
على الخطاب العام المشروع.

وما هو مسموح في هذه المحادثات،

ولا ينبغي أن يُترك الأمر برمته
لأنظمة غير مسؤولة.

إنها جزء من مناقشة يجب أن نشارك بها جميعا.

ولكن سأترك تذكِرة

أن البديل ليس مبهجا للغاية أيضا.

وأعلن اليوتيوب مؤخرا

أنهم سيطلقون نسخة
من تطبيقهم الخاص بالأطفال

الذي سيعدّله البشر بالكامل.

الفيس بوك... تحدّث زوكربيرج كثيرا
عن نفس الشيء في الكونجرس،

عندما أعرب عن كيفية تعديل محتواهم.

قال إن لديهم أشخاصا يقومون بذلك.

وما يعنيه ذلك الكلام هو أن

بدلا من أن يكون الأطفال الصغار
هم أول من يشاهدوا هذا المحتوى،

سيكون هناك موظفين بأجر يعملون بعقد مؤقت

بدون دعم مناسب للصحة العقلية

التي ستتضرّر بسببها أيضا.

(ضحك)

أظن أنه يمكننا جميعا أن
نعمل أفضل كثيرا من ذلك.

(تصفيق)

أظن أن الفكر الذي يجمع هذه الأمور معا،
بالنسبة لي،

هو الوكالة.

كأننا نحدد مقدار ما ندركه بالفعل...
حسب الوكالة، أعني:

كيف نعرف كيفية التصرُّف في مصالحنا الفضلي.

التي ... من المستحيل القيام بذلك

في هذه الأنظمة التي لا نفهمها تماما.

عدم التكافؤ في ميزان القوى
يؤدي دائما إلى العنف.

ويمكننا رؤية داخل هذه الأنظمة

أن انعدام المساواة في الفهم
يؤدي أيضا لنفس النتيجة.

إذا كان هناك شيئا ما يمكننا فعله
للبدء في تحسين هذه الأنظمة،

هو أن نوضحها بشكل أفضل
للناس الذين يستخدمونها،

لكي نحظى جميعا بفهم موحد

لما يجري هنا بالفعل.

الأمر هو أنه، على الرغم من أنني
أفكر كثيرا في هذه الأنظمة،

ليس فقط عن اليوتيوب
كما آمل أني قد شرحت ذلك.

ولكنه عن كل شيء.

هذه القضايا المتعلقة بالمسؤولية والوكالة،

ومعدل الشفافية والتعقيد،

والعنف والاستغلال الذي ينتج تلقائيا

عن تمركز القوى بين أياد قليلة...

هذه القضايا أكبر بكثير.

إنها قضايا ليست متعلقة باليوتيوب فحسب،
وليست متعلقة بالتكنولوجيا عموما،

وليست حتى جديدة.

إنها تتواجد معنا منذ قرون.

ولكن في النهاية بنينا هذا النظام،
هذا النظام العالمي، الإنترنت،

الذي قدمهم إلينا بالفعل بطريقة رائعة،

بشكل لا يمكن إنكاره.

التكنولوجيا لديها هذه القدرة الرائعة

لتنشئ مثيلا وتستمر

في عرض كل رغباتنا الأكثر غرابة
وغالبا ما تكون رغبات وتحيّزات خفية

وترميزهم إلى العالم،

ولكن تدوّنهم أيضا لكي نتمكن من رؤيتهم،

ولا يمكننا التظاهر بعدم وجودها بعد الآن.

نحتاج أن نكف عن التفكير في التكنولوجيا
كحل لكل مشاكلنا،

ولكن نفكر فيها كدليل لمعرفة
ما هي تلك المشاكل بالفعل،

لكي نبدأ بالتفكير فيهم بشكل مناسب

ونبدأ في مواجهتهم.

شكرا جزيلا لكم.

(تصفيق)

شكرا لكم.

(تصفيق)

شكرا لك يا جيمس لقدومك
وتقديمك لهذه المحادثة لنا.

هذا مثير للاهتمام:

حينما تفكر في الأفلام التي يسيطر فيها
الإنسان الآلي ويصبح الحاكم،

إنها أكثر إبهارا قليلا عما تصفه.

ولكن أتساءل... في تلك الأفلام،
نرى تصاعد المقاومة.

أيوجد تصاعد للمقاومة ضد هذه الأمور؟

أترى أي إشارات إيجابية، أي بوادر للمقاومة؟

لا أعرف عن المقاومة المباشرة،

لأن هذه الأمور طويلة الأمد للغاية.

أظن أنها يتم غرسها في ثقافتنا
بطرق عميقة للغاية.

وتقول صديقتي "إلينورسايتا" دائما

أي مشاكل تكنولوجية بحجم ونطاق كافٍ

هي مشاكل سياسية في المقام الأول.

لذا، كل هذه الأمور التي نعمل
للتصدي لها في هذا النطاق

لن يتم التصدي لها فقط
بإنشاء تكنولوجيا أفضل،

ولكن بتغير المجتمع بالفعل
الذي يُنتج هذه التكنولوجيات.

لذا أقول لا، ليس الآن،
أظن أن لدينا طريق طويل للغاية للمضي فيه.

ولكن كما قلت، أظن بإظهارهم،

وبتوضيحهم، وبالتحدّث عنهم بصراحة مطلقة،

يمكننا البدء على الأقل بهذه الخطوات.

وعندما تتحدّث عن سهولة القراءة
والمعرفة الرقمية،

أجد صعوبة في تخيُّل

أننا نحتاج إلي أن نضع عِبء المعرفة الرقمية
على عاتق المستخدمين.

ولكن على مَن تقع مسؤولية التعليم
في هذا العالم الجديد؟

مرة أخرى، أظن أنها مسؤوليتنا جميعا،

فكل شيء نفعله، وكل شيء نبنيه، ونصنعه،

يحتاج أن يتم في مناقشة توافقية

مع كل شخص يتجنبها؛

لأننا لا ننشئ أنظمة
بغرض خداع ومفاجأة الناس

لفعل الصواب،

ولكن نحن بالفعل مشاركون
في كل خطوة في تعليمهم،

لأن كل نظام من هذه النظم يُعد تعليميًا.

ولهذا السبب أنا متفائل بشأنه،
وحتى بشأن هذه الأمور المُروّعة،

التي إذا أخذتها وأمعنت النظر فيها،

ستجدها بالفعل قطعة تعليمية

التي تسمح لك ببدء رؤية كم الأنظمة المعقدة
التي تجتمع معا وتعمل

وربما تُطبق تلك المعرفة
في أي مكان آخر في العالم.

إنها مناقشة هامة يا جيمس،

وأعرف الكثير من الأشخاص منفتحين للغاية
ومستعدين للحصول عليه،

لذا، شكرا لأنك بدأت صباحنا بشيء جيد.

شكرا لكم جزيلا. هتاف.

(تصفيق)