كيف تهدم تقنية التزييف العميق الحقيقة وتُهدد الديمقراطية

أصبح استخدام تقنية التزييف العميق للتلاعُب بالصوت والصورة لأغراضٍ كَيدية -سواء التحريض على العُنف أو تشويه سُمعة السياسيين والصحفيين- يُشكّل تهديدًا حقيقيًا. وعندما يُصبح الوصول لتلك الأدوات أكثر سهولة وتُصبح نتائجها أكثر واقعية، كيف ستُشكّل ما نُصدقه ونؤمن به عن العالَم؟ في مُحادثةٍ رائعةٍ وهامة، تكشف لنا أستاذة القانون "دانييل سيترون" كيف تُساهم تقنية التزييف العميق في تفاقُم مشاعر الارتياب والشك لدينا، وتقترح بعض الطُرُق والحلول لحماية الحقيقة.

[تحتوي هذه المُحادثة
على مُحتوَى للبالغين فقط]

رنا أيوب هي صحفية من الهند،

وقد ساهم عملُها في فضح فساد الحكومة

وانتهاكات حقوق الإنسان.

وبمرور السنوات،

كانت قد اعتادت على النقد اللاذع
والجدل المُثار حول عملها.

ولكن لم يؤهلها أيٌ من ذلك لتوقُّع
ما مرَّت به في أبريل 2018.

كانت جالسةً في مقهى مع صديقةٍ لها
عندما رأته لأول مرة:

مقطع فيديو مُدته دقيقتان وعشرون ثانية
تظهر فيه أثناء مُمارستها للجنس.

ولم تستطع تصديق ما رأته عيناها.

فهي لم تقُم بتصوير أي فيديو إباحي أبدًا.

ولكن للأسف، كان الآلاف
والآلاف من الناس

يُصدقون أنها هي مَن كانت في الفيديو.

قُمتُ بمقابلة السيدة أيوب
منذ حوالي ثلاثة أشهُر،

بخُصوص كتابي عن الخصوصية الجنسية.

فأنا أستاذة في القانون، ومحامية،
ومُدافعة عن الحقوق المدَنية.

لذلك فمن المُحبِط بشدة معرفتي
بأن القانون في الوقت الحالي

لا يستطيع مساعدتها.

وأثناء حديثنا،

أوضحت لي أنه كان عليها أن تتوقع
ظهور ذلك المقطع الجنسي المُزيف.

حيث قالت: "في النهاية، يكون الجنس دائمًا
هو ما يتم استخدامه لتحقير النساء وإذلالهن،

وخاصةً نساء الأقليات،

وخاصةً نساء الأقليات اللاتي تجرؤن
على تحدي الرجال ذوي السُلطة،"

كما فعلَت هي من خلال عملها.

انتشر مقطع الفيديو الإباحي المُزيف
في خلال 48 ساعة.

وامتلأت كل حساباتها على الإنترنت
بصورٍ من ذلك الفيديو،

مع تهديداتٍ بالاغتصاب والقتل

وإهاناتٍ وعنصرية ضد كَونها مُسلمة.

ولمَّحَت بعض المنشورات أنها كانت
"متاحة" للجنس.

وتم التشهير بها،

وهو ما يعني أن عنوان منزلها
ورقم هاتفها

تم نشرهما عبر الإنترنت.

وتمَّت مُشاركة الفيديو
أكثر من 40,000 مرة.

في وقتنا الحالي، عندما يتعرض شخصٌ ما
لهذا النوع من الهجوم الإلكتروني الجماعي،

يكون الضرر الواقع عليه شديدًا.

انقلبَت حياة رنا أيوب رأسًا على عقب.

ولمدة أسابيع، كانت نادرًا
ما تأكل أو تتحدث.

وتوقفَت عن الكتابة وأغلقت كل حساباتها
على مواقع التواصُل الاجتماعي،

وهو، كما تعلمون، أمرٌ صعب بالنسبة
لكَونها صحفية.

وكانت تخشى الخروج من منزل عائلتها.

فماذا لو نفَّذ الناس تهديداتهم؟

أكّد مجلس الأُمم المُتحدة لحقوق الإنسان
أنها لم تكُن تُبالغ،

وأصدَر بيانًا عامًا
مُعلنًا فيه قلقهم على سلامتها.

ما تعرَّضَت له رنا أيوب
كان تزييفًا عميقًا،

وهو تقنية للتعلُّم الآلي

تقوم بالتلاعب وتلفيق تسجيلات
مرئية وصوتية

بحيث يظهر فيها الأشخاص
أثناء فعلهم وقولهم لأشياء

لم تصدُر منهم على الإطلاق.

وتبدو مقاطع التزييف العميق
حقيقية وواقعية، ولكنّها ليست كذلك،

بل هي كاذبة تمامًا.

وعلى الرغم من أن تلك التقنية ما زالت
في مرحلة التجربة والتطوير،

إلا أنها مُنتشرة بشكلٍ كبير.

وكان أحدث ما جذَب الانتباه لتقنية
التزييف العميق في الوقت الحالي،

على غرار العديد من الأشياء
على الإنترنت،

هو المواد الإباحية

في أوائل عام 2018،

نشر شخصٌ ما أداة على موقع ريديت

لتُمكّن المُستخدمين من دمج الوجوه
في مقاطع الفيديو الإباحية.

وما تلا ذلك كان سلسلة كبيرة
من الفيديوهات الإباحية المُزيفة

تضُم أشهر النساء
المُفضّلات لدى الناس.

واليوم، تستطيع استخدام موقع يوتيوب
لمشاهدة فيديوهات تعليمية لا حصر لها

تحتوي على إرشاداتٍ مُفصَّلة

لكيفية استخدام تقنية التزييف العميق
وتصميمها على حاسوبك.

وقد يُصبح بإمكاننا استخدامها
على هواتفنا المحمولة قريبًا أيضًا.

والآن، فإن تأثير وتفاعُل بعض أبسط
نقاط الضعف الإنساني لدينا

مع أدوات التواصُل الاجتماعي

هو ما يُمكن أن يُحوّل
تلك المقاطع المُزيَّفة إلى أسلحة.

دعوني أوضح ذلك.

كبشَر، يوجد لدينا رد فعل غريزي
تجاه المواد الصوتية والمرئية.

فنحن نصدق أنها حقيقية،

باعتبار أننا نستطيع أن نصدق ونثق

في ما تخبرنا به أعيُننا وآذاننا.

وتلك الآلية

هي ما قد يهدم شعورنا المُشترَك بالواقع.

وبرغم أننا نُصدق أن مقاطع التزييف
العميق حقيقية، فهي ليست كذلك.

ونحن ننجذب إلى الأمور
المُثيرة والاستفزازية،

ونميل لتصديق ومُشاركة المعلومات

المُغرِضة والغريبة.

وقد اكتشف الباحثون أن الأكاذيب الموجودة
على الإنترنت تنتشر أسرع بعشر مرات

من الأخبار الحقيقية الدقيقة.

كمأ أننا ننجذب للمعلومات

التي تتوافق مع وجهات نظرنا.

ويطلق عُلماء النفس على تلك النزعة
مُصطلح "الانحياز التأكيدي".

وتعمل منصات التواصُل الاجتماعي
على تعزيز تلك النزعة،

من خلال السماح لنا بمُشاركة
المعلومات التي تتوافق مع وجهات نظرنا

في الحال وعلى نطاقٍ واسع.

والآن، فإن تقنية التزييف العميق قادرة
على إحداث أضرارٍ بالغة للفرد وللمُجتمع.

تخيَّلوا انتشار مقطعٍ مُزيفٍ

لجنودٍ أمريكيين يحرقون القرآن
في أفغانستان.

ولكُم أن تتخيلوا مدى السُّخط
والعنف الذي سيثيره ذلك المقطَع

ضد هؤلاء الجنود.

وماذا لو ظهر في اليوم التالي

مقطعٌ مُزيفٌ آخر

لإمامٍ مشهور في لندن

يُشيد فيه بالهجوم على هؤلاء الجنود؟

قد نشهَد وقتها أعمال عنفٍ وأضطرابٍ مدَنيّ

ليس فقط في أفغانستان والمملكة المُتحدة،

بل في العالَم كلّه.

وقد يكون ردُّكم على كلامي هو:

"بربِّك، دانييل، إن ذلك احتمالٌ بعيد."

ولكنّه ليس كذلك.

لقد رأينا أكاذيبًا تنتشر

عبر واتساب وخدمات الرسائل الفورية الأخرى

مؤديةً إلى حملات عنف ضد الأقليات العِرقية.

وكان ذلك بسبب الرسائل فقط،

فتخيَّلوا ما قد يحدُث بسبب فيديو.

فمقاطع التزييف العميق قادرة حاليًا
على إضعاف وهَز ثقتنا

في المؤسسات الديمقراطية.

تخيَّلوا أنه في الليلة السابقة
لانتخاباتٍ ما

ظهر مقطعٌ مُزيف لأحد مُرشحي
الأحزاب الرئيسية

وهو مريض بشدة.

قد يتسبب ذلك المقطَع
في التلاعُب بالانتخابات

وزعزعة شعورنا بنزاهتها وشرعيتها.

تخيَّلوا لو أنه في الليلة السابقة
للطرح الأوَّلي للاكتتاب العام

لأحد البنوك العالمية الكُبرى،

ظهر فيديو مُزيّف للمدير
التنفيذي لذلك البنك

مُتحدثًا وهو في حالة سُكر
عن نظريات مؤامرة.

فقد يتسبب الفيديو في فشل الاكتتاب،

والأسوأ من ذلك، أنه سيثير شكوكنا
حول استقرار الأسواق المالية.

وبالتالي، يُمكن لتلك الفيديوهات المُزيفة
استغلال وتضخيم الارتياب العميق الموجود

لدينا بالفعل تجاه السياسيين، ورجال الأعمال
والزعماء الآخرين من ذوي النفوذ.

لأنه يوجد جمهور مُستعد لتصديقها.

كما أصبح السعي وراء الحقيقة
على المحك أيضًا.

حيث يتوقع خُبراء التكنولوجيا أنه مع تقدُّم
تقنيات الذكاء الاصطناعي،

قد يُصبح من الصعب قريباً،
بل من المُستحيل

أن نُفرّق بين الفيديو الحقيقي والمُزيف.

فكيف يُمكن أن تتجلّى الحقيقة وسط
سوق أفكارٍ تتحكم فيه تقنية التزييف العميق؟

هل سنمضي فقط في الطريق الأسهل

ونُصدق ما نودُّ تصديقه،

ونتجاهل الحقيقة؟

ليس الأمر فقط أننا قد نُصدق
الكذب والتزييف،

بل وقد نبدأ في إنكار الحقيقة أيضًا.

وقد رأينا بالفعل أشخاصًا يستخدمون
ظاهرة التزييف العميق

للتشكيك في أدلة حقيقية على إدانتهم.

كما قد سمعنا سياسيين يقولون عن المقاطع
الصوتية المُسجّلة لتصريحاتهم المُزعجة:

"بربّكم، تلك الأخبار كاذبة،

لا يُمكن أن تصدقوا كل ما ترونه وتسمعونه."

وهذا هو الخطر

الذي نسمّيه أنا والبروفيسور روبرت تشيزني
بـ"مكسب الكذّاب"؛

وهو خطر اعتماد الكاذبين على
المقاطع المُزيفة

للتهرُّب من المُساءلة عن أخطائهم.

لدينا مهمة شاقة ومُحدّدة إذًا،
ولا شك في ذلك.

وسوف نحتاج إلى حلٍ استباقيٍّ وفعَّال

من شركات التكنولوجيا والمُشرِّعين،

وسُلطات تنفيذ القوانين والإعلام.

وسوف نحتاج إلى جرعة كبيرة
من الصمود والمرونة المُجتمعية.

ونحن الآن نُشارك في مُحادثة عامة

حول مسئولية شركات التكنولوجيا.

ولقد كانت نصيحتي لمنصَّات
التواصُل الاجتماعي

هي أن يقوموا بتغيير شروط
وإرشادات الاستخدام

لحظر استخدام المقاطع المُزيفة
التي تُسبب الضَّرر.

وذلك الحَسم سوف يتطلَّب
حُكمًا وبصيرة إنسانية،

وهو أمرٌ مُكلِّف.

ولكنّنا نحتاج من الناس

أن يقوموا بملاحظة مُحتوى وسياق
المقطَع المُزيَّف

لمعرفة ما إذا كان عبارة عن انتحال
لشخصية ما للإضرار بها

أم أنه مقطع ساخر، أو فنّي أو تعليمي.

والآن، ماذا عن دور القانون؟

القانون هو مُعلِّمنا.

فهو يُخبرنا بما هو ضار وخاطئ.

كما يُغير السلوك الخاطئ ويردعه
من خلال مُعاقبة الجُناة

وتأمين سُبُل الانتصاف للضحايا.

في الوقت الحالي، لا يستطيع القانون التصدي
لأضرار تقنية التزييف العميق.

وعلى مُستوى العالم،

نحن نفتقر إلى وجود قوانين مُحكَمة

ومًصمّمة بعناية للتعامُل مع قضايا
الانتحال الرقمي

التي تتعدَّى على الخصوصية الجنسية،

وتُضر بسُمعة الأشخاص

وتُسبّب أضرارًا نفسية ومعنوية.

ما حدث لرنا أيوب هو أمرٌ شائع
بشكلٍ مُتزايد.

وبرغم ذلك، عندما لجأت
لُسلطات القانون في ديلهي،

أخبروها أنه لا يوجد ما يُمكن فعله
بشأن ذلك.

والحقيقة المُحزنة هي أن الأمر نفسه

ينطبق على الولايات المُتحدة وأوروبا.

ولذلك يوجد لدينا فراغٌ قانونيٌّ
يتوجَّب علينا سدُّه.

نعمَل أنا وزميلتي الدكتورة ماري آن فرانكس
مع المُشرّعين الأميريكيين

على وضع تشريعاتٍ تحظر
الانتحال الرقمي المؤذي

الذي يُعادل في خطورته سرقة الهوية.

وقد رأينا تحرُّكاتٍ مماثلة

في أيسلندا والمملكة المُتحدة وأستراليا.

ولكن بالطبع، هذا مُجرد جزء صغير
من اللغز القانوني.

والآن أعلَم أن القانون وحده ليس
حلًا شاملاً، أليس كذلك؟

فهو أداة حادة

وعلينا أن نستخدمه بحكمة.

كما أن لديه بعض العقبات
من الناحية العملية.

حيث لا يُمكننا استخدام القانون ضد أشخاصٍ
لا نستطيع التعرُّف أو العثور عليهم.

وإذا كان المُجرم مقيمًا خارج البلد

الذي تُقيم فيه الضحية،

فقد لا نتمكّن من الإصرار

على أن يمثُل المُجرم
أمام المحاكم المحلية

لمواجهة العدالة.

ولذلك سوف نحتاج
إلى استجابة دولية مُنسَّقة.

ولا بُد أن يكون التعليم جزءًا
من استجابتنا أيضًا.

فسُلطات تنفيذ القانون لن تستطيع
تنفيذ قوانين

لا يعرفون عنها أي شئ

ولن يقوموا بحل مُشكلاتٍ
لا يستطيعون فهمها.

أثناء إعدادي لبحثٍ عن التحرُّش الإلكتروني،

وجدتُ أن المسئولين عن تنفيذ القوانين
يفتقرون إلى التدريب

على فهم القوانين المُتاحة لديهم

وفهم مشكلة سوء استخدام الإنترنت.

مما أدى إلى أن يكون ردهم
المُتكرر على الضحايا هو:

"قُم بإغلاق حاسوبك فقط، وتجاهل الأمر.
وسيبتعد عنك."

وهذا ما رأيناه في قضية رنا أيوب.

حيث قيل لها: "بربّك، إنكِ تُبالغين.

إنها مُجرد أفعال مُراهقين."

ولذلك نحن بحاجة إلى الجمع بين التشريعات
الجديدة وبذل الجهد في التدريب.

ولا بّد من نشر الوعي في الإعلام أيضًا.

فيجب توعية الصحفيين بظاهرة
مقاطع التزييف العميق

حتى لا يقوموا بتضخيمها ونشرها.

وهذا الجزء الذي يشملنا جميعًا

فكل واحدٍ منًّا يحتاج إلى التعليم والوعى.

فنحن ننقر ونشارك ونُعجَب بما نراه
بدون أدنى تفكير فيه.

علينا التصرُّف بشكلٍ أفضل.

كما نحتاج إلى وسائل أفضل لاكتشاف الأكاذيب.

وبينما نعمل على توفير هذه الحلول،

سوف يكون هناك الكثير من المُعاناة
التي يجب مواجهتها.

فما زالت رنا أيوب تُصارع تداعيات الأمر،

وما زالت لا تستطيع التعبير عن نفسها بحُرية
سواء في الحياة العادية أو على الإنترنت.

وكما أخبَرَتني،

فهي ما زالت تشعر وكأن هناك آلاف العيون
تُشاهد جسدها العاري.

بالرغم من أنها تعلم جيدًا
أنه لم يكُن جسدها.

كما أنها تُصاب بنوبات هلعٍ مُتكررة،

وبالأخص عندما يحاول شخصٌ لا تعرفه
التقاط صورةٍ لها.

وتقول لنفسها:
"ماذا لو قام بصُنع مقطَعٍ مزيفٍ آخر؟"

لأجل الأشخاص مثل رنا أيوب،

ولأجل ديمُقراطيتنا،

علينا القيام بشيء ما الآن.

شُكرًا لكُم

(تصفيق)