(این سخنرانی محتوایی بالغانه دارد)
رانا ایوب خبرنگار هندی است که
فعالیت‌هایش، فساد حکومتی
و نقض حقوق بشر را افشا کرده است.
و طی سال‌ها،
به هجمه و جدال پیرامون کار خود عادت کرده بود.
اما هیچ‌ کدام، او را برای آنچه که در آوریل ۲۰۱۸ با آن روبه‌رو شد، آماده نکرده بود.
وقتی برای بار اول آن را مشاهده کرد با دوستی در یک کافه نشسته بود:
فیلم دو دقیقه و ۲۰ ثانیه‌ای از رابطه‌ایی جنسی با حضور خودش.
نمی‌توانست به چشمانش اعتماد کند.
او هرگز یک فیلم سکسی نساخته بود.
اما متاسفانه هزاران هزار نفر باور داشتند
که خودش بوده است.
من با خانم ایوب سه ماه پیش در رابطه با کتابم،
با موضوع حریم جنسی، مصاحبه کردم.
من استاد حقوق، وکیل و طرفدار حقوق مدنی هستم.
بنابراین برای من بی‌اندازه مایوس‌کننده است که می‌دانم
در حال حاضر قانون کمک خاصی به او نمی‌کند.
و وقتی صحبت می‌کردیم،
او توضیح داد که باید فکر انتشار فیلم تقلبی از رابطه جنسی را می‌کرد.
او گفت، <<در واقع سکس اغلب برای تحقیر کردن و خجالت‌زده کردن زنان استفاده می‌شود،
خصوصا زنان اقلیت،
و خصوصا زنان اقلیتی که جرات مبارزه با مردان قدرتمند را دارند.>>
چیزی که او در کارش داشت.
فیلم سکس جعلی در عرض ۴۸ ساعت پخش (وایرال) شد.
تمام حساب‌های آنلاین او غرق اسکرین‌شات‌ها از آن فیلم،
و تهدیدهای گرافیکیِ تجاوز و قتل شده بود.
به همراه لکه دار کردن اعتقادات اسلامی او.
در مطالب اینترنتی او را برای رابطه جنسی پیشنهاد می‌کردند.
و او dox شده بود،
به این معنی که آدرس خانه و شماره تلفن او
در سراسر اینترنت پخش شده بود.
فیلم بیش از ۴۰,۰۰۰ بار به اشتراک گذاشته شده بود.
وقتی یک نفر با چنین حمله سایبری مورد هدف قرار می‌گیرد،
ضربه‌ای اساسی به او وارد شده است.
زندگی رانا ایوب وارونه شد.
او برای هفته‌ها به سختی غذا می‌خورد و صحبت می‌کرد.
او از نوشتن دست کشید و تمام حساب‌های شبکه‌های آنلاین خود را بست،
مسئله‌ای که می‌دانید چقدر مشکل است وقتی که یک خبرنگار باشید.
او از اینکه از خانه خودشان خارج شود می‌ترسید.
اگر افرادی که مطلب گذاشته بودند، تهدیدشان را عملی می‌کردند، چه اتفاقی می‌افتاد؟
شورای حقوق بشر سازمان ملل متحد تایید کرد که او دیوانه نشده است.
یک بیانیه عمومی منتشر کرد که می‌گفت که آنها نگران امنیت او هستند.
رانا ایوب با یک جعل‌عمیق مواجه شده بود:
فناوری یادگیری-ماشین
که صوت‌ها و فیلم‌ها را دستکاری و جعل می‌کند
تا نشان دهد مردم چیزهایی می‌گویند و یا انجام می‌دهند که
هرگز نگفته و نکرده‌اند.
جعل‌عمیق‌ها به صورت موثق و واقعی ظاهر می‌شوند اما چنین نیستند،
آنها به کلی کذب هستند.
فناوری هنوز با تمام پیچیدگی‌هایش در حال توسعه است،
و بطور گسترده در دسترس است.
اخیرا توجه به جعل‌عمیق افزایش یافته است،
به طوری که می‌شود به صورت آنلاین خیلی از
کارها در رابطه با پرنوگرافی انجام داد.
اوایل سال ۲۰۱۸،
یک نفر ابزاری را در Reddit منتشرکرد که
به کاربر امکان اضافه کردن چهره به فیلم‌های سکسی را می‌داد.
و چیزی که به دنبالش بود سرازیر شدن فیلم‌های سکسی جعلی
با چهره‌ی زنان مشهور و محبوب مردم بود.
و امروز، می‌توانید وارد سایت یوتیوب شده و تمرین‌های بیشماری را
با دستورالعمل‌های گام‌به‌گام
برای درست کردن یک جعل‌عمیق بر روی کامیپوتر خود، بیابید.
و به زودی شاید امکان آن را داشته باشیم تا با گوشی‌هایمان آنها را درست کنیم.
اکنون این برهم کنش بعضی از ضعف‌های اساسی بشر و
ابزارهای شبکه‌است که
می‌تواند جعل‌عمیق را به سلاح تبدیل کند.
اجازه دهید توضیح دهم.
به عنوان انسان، ما واکنشی غریزی نسبت به فیلم وصوت داریم.
ما باور داریم آنها حقیقی هستند،
البته با این تصور که شما می‌توانید هر آنچه
که چشم‌ها و گوش‌هایتان می‌گوید باور کنید.
و این همان سازوکاری است که
ممکن است حس واقع‌گرایی ما را سست کند.
و باور کنیم که جعل‌های عمیق درست هستند در حالی که نیستند.
و ما به محتوی جنسی و بحث‌برانگیز جذب می‌شویم.
تمایل داریم اطلاعاتی که منفی و جدید هستند را
باور کنیم و به اشتراک بگذاریم.
تحقیقات نشان داده است که حقه‌های آنلاین ده برابر داستان‌های دقیق
منتشر می‌شوند.
حال ما به اطلاعاتی که در راستای دیدگاه‌هایمان است
کشیده می‌شویم.
روانشناسان این تمایل را <<سوگیری تاییدی>> می‌نامند.
و شبکه‌های اجتماعی به شدت این گرایش را با امکان
اشتراک گذاری سریع و گسترده اطلاعاتی که با نقطه نظرات ما همخوانی دارد،
تقویت می‌کنند.
اکنون جعل‌عمیق پتانسیل این را دارد تا موجب یک صدمه‌ی شخصی و اجتماعی جدی شود.
جعل‌عمیقی را تصور کنید که
نشان می‌دهد که یک سرباز آمریکایی در افغانستان قرآن را می‌سوزاند.
می‌توانید تصور کنید که جعل‌عمیق می‌تواند به خشونت
علیه آن سربازان دامن بزند.
و چه اتفاقی خواهد افتاد، اگر در روز بعد
یک جعل‌عمیق دیگر به راه بی‌افتد،
که نشان می‌دهد یک شیخ مشهور ساکن لندن،
حمله به آن سربازان را ستایش می‌کند؟
و شاید شاهد خشونت و ناآرامی‌های مدنی،
نه تنها در افغانستان و بریتانیا
بلکه در سرتاسر جهان باشیم.
ممکن است بگویید،
<<بیخیال دنیل، خیلی بعید است.>>
ولی نیست.
مشاهده کرده‌ایم که انتشار دروغ‌ها
بر روی واتس‌آپ و دیگر سرویس‌های پیام‌رسان آنلاین
منجر به خشونت علیه اقلیت‌های قومی می‌شود.
و این فقط متن است --
تصور کنید فیلم باشد.
اکنون جعل‌عمیق پتانسیل این را دارد که اعتمادی که به نهادهای دموکراتیک داریم
ذره ذره نابود کند.
شب قبل انتخابات را تصور کنید.
یک جعل‌عمیق نشان می‌دهد که یکی از کاندید‌اهای حزب اصلی
به شدت مریض است.
جعل‌عمیق می‌تواند انتخابات را از مسیر خود خارج کند
و احساس ما نسبت به انتخابات قانونی را تکان دهد.
تصور کنید شب قبل از عرضه اولیه یک سهام،
توسط یک بانک بزرگ جهانی،
جعل‌عمیقی نشان می‌دهد مدیرعامل آن بانک
در حالت مستی حرف‌های بی‌جایی درباره تئوری‌ توطئه‌ می‌زند.
جعل‌عمیق می‌تواند عرضه سهام را به ورطه نابودی بکشاند.
و بدتر، احساس ما درباره اینکه بازارهای مالی باثبات هستند را تکان دهد.
بنابراین جعل‌های‌عمیق می‌توانند بی‌اعتمادی زیادی که همین الان هم به سیاست‌مداران،
رهبران اقتصادی و دیگر رهبران بانفوذ داریم بزرگتر کرده و از آن سواستقاده کنند.
آنها مخاطب بالقوه برای باور کردن را پیدا می‌کنند.
و همچنین دنبال کردن حقیقت هم در خطر است.
اهل فن منتظر پیشرفت در هوش مصنوعی هستند،
بزودی به سختی و حتی غیرممکن است که
تفاوت بین یک فیلم واقعی و تقلبی را بگوییم.
پس حقیقت چگونه می‌تواند در بازار داغ ایده‌‌های جعلی‌عمیق نمایان شود؟
به مسیر خود بدون هیچ مقاومتی ادامه می‌دهیم
و چیزی که می‌خواهیم باور کنیم را باور می‌کنیم،
و حقیقت را نادیده می‌گیریم؟
و نه تنها ممکن است جعلیات را باور کنیم،
ممکن است باورنکردن حقیقت را هم شروع کنیم.
اخیرا دیده‌ایم که مردم به جعل‌های عمیق متوسل می‌شوند
تا بر روی مدارک واقعی تخلفاتشان شبه افکنی کنند.
شنیده‌ایم که سیاستمداران درباره صوت نظرات آزاردهنده‌شان گفته‌اند،
<<بیخیال، آنها خبرهای جعلی هستند.
شما نمی‌توانید به آنچه که گوش‌ها و چشم‌هایتان می‌گوید، اعتماد کنید.>>
و این همان خطری است که
پرفسور روبرت چسنی و من آن را "منفعت دروغگوها" می‌نامیم.
خطر اینکه دروغگوها با توسل به جعل‌های‌عمیق
از مسئولیت تخلفاتشان فرار کنند.
پس ما کار بسیار سختی در پیش داریم، هیج شکی در آن نیست.
ما به یک راه حل پیشگیرانه از شرکت‌های فناوری
از قانونگذارن، از حکمفرمایان
و رسانه‌ها نیاز داریم.
ما به دُز سالمی از مقاومت اجتماعی احتیاح داریم.
امروزه، در بسیاری از بحث‌های عمومی درباره
مسئولیت شرکت‌های فناوری شرکت می‌کنیم.
و پیشنهاد من به پایگاه شبکه‌های اجتماعی این بوده است که
شرایط استفاده از خدمات و دستورالعمل‌های عمومی خود را طوری تغییر دهند که
جعل‌های‌عمیقی که صدمه می‌زنند را ممنوع کند.
این اقدام، به یک داوری انسانی نیاز خواهد داشت،
و بسیار پرهزینه است.
اما ما به انسان‌هایی نیاز داریم که
محتوی و متن یک جعل‌عمیق را بررسی کنند
تا تشخیص دهند که پشت آن یک هویت جعلی مخرب قرار دارد
یا اینکه یک طنز، هنر و یا دانش ارزشمند است.
حالا قانون چه کار می‌کند؟
قانون مربی ماست.
او به ما درباره آنچه که مضر و آنچه که اشتباه است، درس می‌دهد.
و با مجازات افراد خاطی، رفتارهای بازدارنده را شکل می‌دهد
و برای قربانیان راه چاره می‌یابد.
در حال حاضر قانون مناسب برای جعل‌عمیق وجود ندارد.
در سرتاسر جهان،
با کمبود قوانین مناسب و طراحی شده
برای برخورد با هویت‌های جعلی دیجیتالی مواجهه هستیم،
کسانی که نقض‌کننده حریم جنسی هستند،
و اعتبار افراد را خدشه دار می‌کنند،
و آنهایی که مسبب مشکلات روحی هستند.
اتفاقی که برای رانا ایوب افتاد به سرعت در حال عادی شدن است.
در عین حال وقتی که به نهاد مجری قانون در دهلی رفت،
به او گفتند که هیج کاری نمی‌شود انجام داد.
و حقیقت تلخ آن است که در اروپا
و ایالات متحده هم همینطور است.
بنابراین یک خلا قانونی داریم که لازم است پر شود.
همکارم، دکتر مری آن فرنکس و من با قانون‌گذاران ایالات متحده همکاری می کنم تا
قانونی را تدوین کنیم که مانع هویت‌های جعلی دیجیتال شوند،
کسانی که تفاوتی با سارقین هویت ندارند.
و ما شاهد اقدامات مشابهی در
ایسلند، بریتانیا و استرالیا هستیم.
و البته این فقط یک تکه کوچک از پازل نظارت است.
من می‌دانم که قانون علاج همه دردها نیست. درست است؟
یک ابزار کند است.
و باید از آن هوشمندانه استفاده کنیم.
و همجنین موانع عملی بسیاری دارد.
شما نمی‌توانید قانون را علیه کسانی که نمی‌شناسید و پیدا نمی‌کنید اعمال کنید.
اگر فرد خاطی خارج از کشوری باشد
که قربانی در آن زندگی کند،
امکان ندارید بتوانید پافشاری کنید
که آن فرد خاطی به دادگاه‌های محلی بیاید تا
با عدالت روبه‌رو شود.
بنابراین به یک واکنش بین‌المللی هماهنگ نیاز خواهیم داشت.
آموزش هم باید بخشی از واکنش ما باشد.
قانونگذاران درباره چیزی که نمی‌دانند چیست
و چه مشکلاتی بوجود می‌آورد،
قانون وضع نمی‌کنند.
در تحقیقاتم در مورد آزار و اذیت‌های سایبری
متوجه شدم مجریان قانون آموزش کافی برای
فهمیدن قوانینی که در اختیار دارند و
معضل توهین‌های آنلاین، ندیده‌اند.
و خیلی اوقات به قربانیان گفته‌اند،
<<رایانه را خاموش کن. محل نگذار. خود به خود ناپدید می‌شود.>>
این را در مورد رانا ایوب مشاهده کردیم.
به او گفته شد، <<بیخیال، بی‌خود بزرگش کردی.
پسرها همین‌اند دیگه.>>
بنابراین باید قانون جدید را با تلاش‌های در زمینه آموزش همگام کنیم.
و آموزش در رسانه‌ها نیز باید هدفمند باشد.
لازم است خبرنگاران در مورد پدیده جعل‌عمیق آموزش ببینند
بنابراین آنها را تقویت و منتشر نمی‌کنند.
و این جایی‌ست که همه ما باید در آن درگیر شویم.
همه ما نیازمند آموزش هستیم.
ما هستیم که کلیک می‌کنیم، به اشتراک می‌گذاریم، می‌پسندیم و حتی فکر هم نمی‌کنیم.
باید بهتر عمل کنیم.
به رادارهای بهتری برای جعلیات نیاز داریم.
همان زمانی که بر روی این راه‌حل‌ها کار می‌کنیم،
رنج زیادی در حال پخش شدن است.
رانا ایوب هنوز با پیامدهای آن اتفاق کلنجار می‌رود.
هنوز برای بیان خودش آنلاین و آفلاین احساس راحتی نمی‌کند.
و همانطور که به من گفت،
کماکان احساس می‌کند هزاران نگاه به بدن لخت اوست،
اگرچه به صورت منطقی می‌داند که آن بدن او نبوده است.
و به او مرتب حمله‌های عصبی می‌شود،
خصوصا زمانی که کسی که نمی‌شناسد، تلاش می‌کند از او عکس بگیرد.
با خودش فکر می‌کند: << اگر بخواهند یک جعل عمیق دیگر بسازند، چه؟>>
پس بخاطر افرادی مثل رانا ایوب
و بخاطر دموکراسی
لازم است که همین الان کاری بکنیم.
متشکرم.
(تشویق)