कैसे गहरे सच को कमजोर करते हैं और लोकतंत्र को खतरे में डालते हैं

दुर्भावनापूर्ण उद्देश्यों के लिए वीडियो और ऑडियो में हेरफेर करने के लिए डीपफेक तकनीक का उपयोग - चाहे वह हिंसा को भड़काने या नेताओं और पत्रकारों को बदनाम करने के लिए हो - एक वास्तविक खतरा बन रहा है। जैसे-जैसे ये उपकरण और अधिक सुलभ होते जाते हैं और उनके उत्पाद अधिक यथार्थवादी होते जाते हैं, वे दुनिया के बारे में हमारे विश्वास को कैसे आकार देंगे? एक आकर्षक बातचीत में, कानून के प्रोफेसर डेनिएल सिट्रोन ने खुलासा किया कि कैसे डीफेक हमारे अविश्वास को बढ़ाते हैं - और सच्चाई की सुरक्षा के लिए दृष्टिकोण का सुझाव देते हैं।

इस व्याख्यान में प्रौढ़ भाषा
का उपयोग किया गया हैं ।

राना अय्यूब भारत में एक पत्रकार है

जिनका काम सरकारी भ्रष्टाचारी

एवं मानव अधिकारों का
उल्लंघन को सामने लाया ।

पिछले कुछ वर्षों में

वह अपनी काम को लेकर
व्यंग्य और विवाद की आदत दाल ली ।

परन्तु अप्रैल 2018 के घटनाओं के लिए
कुछ भी उन्हें तैयार नहीं कर सकता था ।

वह अपने मित्र के साथ
कैफ़े में बैठे थे जब उन्होंने देखा -

यौन क्रिया करते हुए उनका एक
2 मिनट, 20 सेकंड की वीडियो ।

उनको विश्वास नहीं हो रहा था

उन्होंने कभी ऐसे वीडियो नहीं बनायीं

परन्तु दुर्भाग्य से
लाखों लोगों ने मान लिया

की यह वीडियो उनका ही था ।

तीन महीने पेहले,
मेरी किताब के सम्बन्ध में

मैंने उनका साक्षात्कार किया
जो यौन गोपनीयता के बारे में है

मैं एक कानून का प्रोफेसर, वकील
और नागरिक अधिकार कार्यकर्ता हूँ

अतः मुझे निराशा होती है कि

कानून उसकी मदद नहीं कर सका ।

और बात करते करते

उन्होंने बताया की उन्हें ऐसे वीडियो
के लिए तैयार रहना चाहिए था ।

उन्होंने बताया, "आख़िरकार, यौन क्रिया
महिलाओं को अपमान और बदनाम

करने के लिए उपयोग होता है,

विशेष रूप से अल्पसंख्यक महिलाओं,

और विशेष रूप से ऐसे महिला
जो प्रभावशाली पुरुषों को

चुनौती देने का साहस करती हैं
जैसे उनहोंने अपने काम में किया था ।

वो नकली वीडियो 48 घंटे में वायरल हो गयी ।

उनके सारे ऑनलाइन अकाउंट
उस वीडियो के स्क्रीनशॉट,

अश्लील बलात्कार और मौत की धमकी,

और उनकी इस्लामी आस्था
के बारे में गालियां से भर गएँ ।

ऑनलाइन पोस्ट में बताया गया की
वह यौन क्रिया के लिए "उपलब्ध" है ।

और उनको डॉक्स (Dox) भी किया गया ।

जिसका मतलब यह है कि उनका
घर का पता और मोबाइल नंबर

इंटरनेट पे फैला फैला गया था ।

वो वीडियो 40000 से अधिक बार
शेयर किया गया था ।

जब कोई ऐसे ऑनलाइन गिरोह
का शिकार बन जाता है,

उसका नुक्सान गहरा होता है ।

राना अय्यूब की ज़िन्दगी बदल गयी ।

हफ़्तों तक वह शायद ही खा पाती या सो पाती ।

उन्होंने लिखना रोक दिया और अपने सारे
सोशल मीडिया अकाउंट को बंद कर दी

जो एक पत्रकार होने के नाते
करना मुश्किल है ।

वह अपने घर से बाहर जाने से डरती थी ।

संयुक्त राष्ट्र मानवाधिकार परिषद
पुष्टि की गई कि वह पागल नहीं थी।

यूनाइटेड नेशंस कौंसिल ऑन ह्यूमन राइट्स
(UNCHR) ने पुष्टि की कि वह पागल नहीं थी ।

उन्होंने सार्वजनिक बयां दिया कि
वे उनकी सुरक्षा को लेकर चिंतित थे ।

उन्होंने जो सामना किया वो
एक डीपफेक (deepfake) था -

मशीन का सीखने की प्रौद्योगिकी
(machine learning)

जो ऑडियो और वीडियो रिकॉर्डिंग
का हेरफेर करके लोगों को ऐसा काम करते हुए

या बोलते हुए दिखा सकता है

जो उन्होंने न कभी किया या कहा ।

वे प्रामाणिक और वास्तविक
दीखते है, पर वे नहीं हैं

वे पूरी तरह से नकली हैं ।

हालांकि यह प्रौद्योगिकी
अभी विकसित हो रही है

यह व्यापक रूप से उपलब्ध है ।

हाल ही में, डीपफेक पे
ध्यान कामोद्दीपक वीडियो से आया,

जैसे अक्सर ऑनलाइन
चीज़ों के साथ होता है ।

2018 की शुरुआत में,

किसीने ने रेड्डिट (Reddit)
पर एक साधन डाला

जिससे लोग कामोद्दीपक वीडियो
पे किसीका भी चेहरा लगा सकते है ।

उसके बाद जो आया वो लोगों के
मनपसंद महिला हस्तियां की

नकली कामोद्दीपक वीडियो का झरना था ।

आज भी आपको यूट्यूब पर
कदम से कदम निर्देश के साथ

ऐसे हज़ार प्रशिक्षण मिलेंगे

जिससे आप अपने डेस्कटॉप पर
डीपफेक बना सकते है ।

और जल्द ही हम अपने
मोबाइल फ़ोन पर भी बना सकते है ।

अब, मानवीय कमज़ोरियाँ एवं

ऐसे साधन मिलके

डीपफेक को हतियार बना सकते हैं ।

मैं समझती हूँ ।

मनुष्य होने के नाते हम भावनात्मक रूप से
ऑडियो और वीडियो पर प्रतिक्रिया देते हैं ।

हम उस विचार पर
इनको सच मान लेते है

जो हमें बताता है की जो दिखता है

और सुनाई देता है वोह सच ही होगा ।

और यह वोह तंत्र है जो हमारी

वास्तविकता का साझा समझ
को कमज़ोर कर सकती है ।

जिस डीपफेक को हम सच मानते है
वह असलियत में नकली है ।

और हम उत्तेजक एवं कामुक चीज़ों
की ओर आकर्षित हो जाते हैं

और हम ऐसे जानकारी को
मानते एवं शेयर करते है

जो नवीन और नकारात्मक है ।

और शोधकर्ताओं ने पाया है कि
इंटरनेट पर ग़लत जानकारी

सच जानकारी से
10 गुना तेज फैलता है।

हम ऐसे जानकारी की ओर आकर्षित हो जाते है

जो हमारे विचारों के साथ मिलते हैं ।

मनोवैज्ञानिकों इस प्रवत्ति को कन्फर्मेशन
बायस "confirmation bias" बोलते है।

और सोशल मीडिया उस प्रवत्ति को बढ़ाता है

क्योंकि इस पर हम अपने विचारधारा
के प्रति जानकारियों को तेज़ी से

और व्यापक रूप से शेयर कर सकते हैं ।

डीपफेक प्रौद्योगिकी के पास व्यक्तिगत या
सामाजिक नुकसान पहुँचाने की शक्ति है ।

ज़रा सोचिये - अगर एक डीपफेक में

दिखाया जाता है कि अफ़ग़ानिस्तान में
अमरीकी सैनिकों ने कुरान को जलाया ।

अब सोचो - उस एक
डीपफके से उन सैनिकों पर

कितनी हिंसा हो सकती है ।

और अगर अगले ही दिन

एक और डीपफेक प्रकाशित होता है

जो एक प्रसिद्ध इमाम को दर्शाता है
लंदन में स्थित है

उन सैनिकों के खिलाफ।

और क्या होगा अगर अगले ही दिन

एक और डीपफेक है जो गिरता है,

जो एक प्रसिद्ध इमाम को दर्शाता है
लंदन में स्थित है

उन सैनिकों पर हमले की प्रशंसा?

हम हिंसा और नागरिक अशांति देख सकते हैं,

अफगानिस्तान में ही नहीं
और यूनाइटेड किंगडम,

लेकिन दुनिया भर में।

और आप मुझसे कह सकते हैं,

"चलो, डैनियल, यह बहुत दूर की बात है।"

लेकिन ऐसा नहीं है।

हमने झूठ फैलाते हुए देखा है

व्हाट्सएप और अन्य पर
ऑनलाइन संदेश सेवाएं

हिंसा के लिए नेतृत्व
जातीय अल्पसंख्यकों के खिलाफ।

और वह सिर्फ पाठ था -

कल्पना कीजिए कि यह वीडियो था।

डीपफेक की क्षमता है पर भरोसा करने के लिए

लोकतांत्रिक संस्थानों में

इसलिए, चुनाव से पहले की रात की कल्पना करें

एक गहरा दिखावा है
पार्टी के प्रमुख उम्मीदवारों में से एक

गंभीर रूप से बीमार

डीपफेक चुनाव को टाल सकता है

और हमारी भावना को हिला
कि चुनाव वैध हैं।

अगर रात पहले की कल्पना करो
एक प्रारंभिक सार्वजनिक पेशकश

एक प्रमुख वैश्विक बैंक की,

वहाँ एक गहरा था
बैंक के सीईओ को दिखा रहा है

नशे में धुत षड्यंत्र की थ्योरी।

डीपफेक आईपीओ को टैंक कर सकता है,

और बुरा, हमारी भावना को हिला
वित्तीय बाजार स्थिर हैं।

इसलिए डीपफेक शोषण और बढ़ सकता है
हमारे पास जो गहरा अविश्वास है

राजनीतिके व्यापार जगत के नेताओं में
और अन्य प्रभावशाली नेता।

उन्हें एक दर्शक मिलता है
उन पर विश्वास करने का प्रण किया।

और सत्य की खोज
लाइन पर भी है।

प्रौद्योगिकीविदों की उम्मीद है
एअर इंडिया में अग्रिमों के साथ,

जल्द ही यह असंभव
नहीं तो मुश्किल हो सकता है

के बीच अंतर बताने के लिए
एक वास्तविक वीडियो और एक नकली।

तो सच्चाई कैसे सामने आ सकती है
विचारों की गहराई से ग्रस्त बाज़ार में?

क्या हम सिर्फ आगे बढ़ेंगे
कम से कम प्रतिरोध का रास्ता

और विश्वास करो कि हम
क्या विश्वास करना चाहते हैं,

सत्य को धिक्कार है?

और न केवल हम फकीरी पर विश्वास कर सकते हैं

हम सच्चाई पर अविश्वास
करना शुरू कर सकते हैं।

हमने पहले ही लोगों को आह्वान करते देखा है
डीपफेक की घटना

असली सबूत पर संदेह करना
उनके अधर्म का।

राजनेताओं को ऑडियो के बारे में सुना है
उनकी परेशान करने वाली टिप्पणी

Fake fake चलो, वह फर्जी खबर है।

आप विश्वास नहीं कर सकते कि आपकी आँखें
और कान तुम्हें बता रहे हैं। "

और यह जोखिम है

उस प्रोफेसर रॉबर्ट चेसनी और मैं
"झूठा लाभांश" कहें:

जोखिम है कि झूठे deepfakes आह्वान करेंगे

जवाबदेही से बचने के लिए
उनके अधर्म के लिए।

इसलिए हमने अपना काम हमारे लिए काट लिया है,
इसके बारे में कोई संदेह नहीं है।

और हमें जरूरत पड़ने वाली है
एक सक्रिय समाधान

टेक कंपनियों से, सांसदों से,

कानून प्रवर्तक और मीडिया।

और हमें जरूरत पड़ने वाली है
सामाजिक लचीलापन की एक स्वस्थ खुराक।

तो अब, हम अभी लगे हुए हैं
बहुत ही सार्वजनिक बातचीत में

जिम्मेदारी के बारे में
तकनीकी कंपनियों की।

और सोशल मीडिया प्लेटफॉर्म को मेरी सलाह

सेवा शर्तों को बदलने के लिए किया गया है
और सामुदायिक दिशानिर्देश

नुकसान का कारण बनने वाले
डीपफेक पर प्रतिबंध लगाने के लिए।

वह दृढ़ संकल्प,
मानव निर्णय की आवश्यकता है

और यह महंगा है

लेकिन हमें इंसान की जरूरत है

सामग्री को देखने के लिए
और एक गहरे संदर्भ का संदर्भ

अगर यह पता लगाने के लिए
एक हानिकारक प्रतिरूपण

या इसके बजाय, अगर यह मूल्यवान है
व्यंग्य, कला या शिक्षा।

तो अब, कानून का क्या?

कानून हमारा शिक्षक है

यह हमें सिखाता है
क्या हानिकारक है और क्या गलत है।

और यह व्यवहार को बिगड़ता है
अपराधियों को दंडित करके

और पीड़ितों के लिए उपचार हासिल करना।

अभी, कानून तक नहीं है
डीपफेक की चुनौती

दुनिया भर में

हमारे पास सुसंगत कानूनों का अभाव है

कि से निपटने के लिए डिज़ाइन किया जाएगा
डिजिटल प्रतिरूपण

कि यौन गोपनीयता पर आक्रमण,

कि क्षति प्रतिष्ठा

और जो भावनात्मक संकट का कारण बनता है।

राणा अय्यूब के साथ क्या हुआ
तेजी से आम हो रहा है।

फिर भी, जब वह चली गई
दिल्ली में कानून प्रवर्तन के लिए,

उसे बताया गया कि कुछ नहीं किया जा सकता है।

और दुखद सत्य है
वही सच होगा

संयुक्त राज्य अमेरिका में और यूरोप में।

इसलिए हमारे पास एक कानूनी वैक्यूम है
जिसे भरने की जरूरत है।

मेरी सहयोगी डॉ। मेरी ऐनी फ्रैंक्स और मैं
अमेरिकी सांसदों के साथ काम कर रहे हैं

प्रतिबंध लगाने के लिए कानून बनाना
हानिकारक डिजिटल प्रतिरूपण

कि पहचान की चोरी के लिए समान हैं।

और हमने ऐसी ही चालें देखी हैं

आइसलैंड, यूके और ऑस्ट्रेलिया में

लेकिन निश्चित रूप से, यह सिर्फ एक
छोटा सा टुकड़ा है नियामक पहेली की

अब, मुझे पता है कि कानून
इलाज नहीं है। सही?

यह एक कुंद यंत्र है

और हमें इसे बुद्धिमानी से
उपयोग करने के लिए मिला है

इसमें कुछ व्यावहारिक बाधाएं भी हैं।

आप लोगों के खिलाफ कानून का लाभ नहीं
उठा सकते आप पहचान नहीं पाते हैं।

और अगर कोई अपराधी रहता है
देश से बाहर

जहाँ एक पीड़ित रहता है,

तो आप जोर नहीं दे सकते

वह अपराधी
स्थानीय अदालतों में आते हैं

न्याय का सामना करना

और इसलिए हमें जरूरत है
एक समन्वित अंतर्राष्ट्रीय प्रतिक्रिया।

शिक्षा का हिस्सा बनना है
हमारी प्रतिक्रिया के रूप में अच्छी तरह से।

कानून लागू करने वाले नहीं हैं
कानूनों को लागू करने के लिए जा रहा है

वे नहीं जानते

और समस्याओं का हल
उन्हें समझ नहीं आया।

साइबरस्टॉकिंग पर मेरे शोध में

मैंने पाया कि कानून प्रवर्तन
प्रशिक्षण का अभाव था

उनके लिए उपलब्ध कानूनों को समझना

और ऑनलाइन दुरुपयोग की समस्या।

और इसलिए अक्सर उन्होंने पीड़ितों को बताया,

“बस अपने कंप्यूटर को बंद कर दो।
अनदेखी करो इसे। यह चला जाएगा। "

और हमने देखा कि राणा अय्यूब के मामले में।

उसे बताया गया, "आओ,
आप इस बारे में इतनी बड़ी बात कर रहे हैं।

यह लड़के वाले लड़के हैं। ”

और इसलिए हमें नए कानून बनाने की जरूरत है
प्रशिक्षण में प्रयासों के साथ।

और शिक्षा को लक्ष्य बनाना है
मीडिया पर भी।

पत्रकारों को शिक्षित करने की आवश्यकता है
डीपफेक की घटना के बारे में

इसलिए वे बढ़ाना और उन्हें फैलाना नहीं है।

और यह हिस्सा है
हम सब शामिल हैं।

हम में से हर एक को शिक्षित
होने की जरूरत है।

साझा करते हैं, हम पसंद करते हैं,
और हम इसके बारे में सोचते भी नहीं हैं।

हमें और बेहतर करने की जरूरत है

हमें फकीरी के लिए कहीं
बेहतर रडार की जरूरत है।

तो जैसा हम काम कर रहे हैं
इन समाधानों के माध्यम से,

होने जा रहा है
चारों ओर जाने के लिए बहुत दुख।

राणा अय्यूब अभी भी कुश्ती कर रहे हैं
नतीजे के साथ।

उसे नही लगता वह स्वतंत्र है
खुद को व्यक्त करने के लिए।

और जैसा उसने मुझे बताया,

खासकर जब वह किसी को नहीं जानता
उसकी तस्वीर लेने की कोशिश करता है।

“अगर वे बनाने जा रहे हैं तो क्या होगा
एक और गहरा? "वह खुद के लिए सोचता है।

और इसलिए के लिए
राणा अय्यूब जैसे व्यक्ति

और हमारे लोकतंत्र की खातिर

हमें अभी कुछ करने की जरूरत है।

धन्यवाद।

(तालियां)