〔本演說含有成人內容〕
拉娜‧阿尤布是印度的記者，
她的報導曾經揭露過政府腐敗
以及侵犯人權的事件。
這些年來，
她也習慣了工作 所引來的尖酸批評和爭議。
但這些都不足以讓她準備好 面對 2018 年四月所發生的事。
她第一次看到時， 正和一名朋友坐在咖啡廳：
她看到一個長達兩分二十秒 以她為主角的性行為影片，
她無法相信她的眼睛。
她從來沒有拍過性影片。
但不幸的是，成千上萬的人
都相信那是她。
大約三個月前，我為了我所寫的
一本關於性隱私的書而去訪問她。
我是法律教授、 律師和民權擁護者。
當我知道現行的法律沒辦法協助她時，
我感到非常挫折。
我們交談時，
她解釋說她應該要料到 會有假的性影片出現。
她說：「畢竟，性通常 被用來貶抑和羞辱女人，
特別是少數的弱勢女性、
敢挑戰威權男性的少數女性，」
比如，她在工作中所扮演的角色。
四十八小時內， 假造的性影片就被瘋傳。
她所有的線上帳戶都被 該影片的截圖給洗版，
夾帶著繪聲繪影的強暴和殺害威脅，
還汙辱她的穆斯林信仰。
線上貼文指出 她現在「有空」可以約炮。
她的個資被外洩，
她的住家地址和手機號碼，
在網路上處處可見。
該影片被分享了超過四萬次。
當一個人成為這種 網路暴民攻擊的目標，
所受到的傷害會極度嚴重。
拉娜‧阿尤布的人生 被搞得亂七八糟。
好幾週的時間她都幾乎 食不下嚥或無法說話。
她停止寫作並關閉了 所有的社群媒體帳戶，
對於記者來說，這是很難的抉擇。
她很怕踏出家門。
萬一貼文的人履行了 他們的威脅怎麼辦？
聯合國人權理事會確認她並沒有發瘋。
理事會發佈了一份公開聲明， 說他們擔心她的安全。
拉娜‧阿尤布面對的就是深偽技術：
它是一種機器學習科技，
能操弄或偽造錄音和錄影，
偽造的影音呈現出當事人
從未做過或說過的內容。
深偽技術的產物 看起來很真實，但不是真相，
完全是假造的。
雖然這項技術的精密度還在發展中，
但它已經可廣泛取得。
最近深偽技術的關注度之所以提升，
和線上許多其它內容一樣，
和色情內容有關。
2018 年初，
有人在 Reddit 上張貼了一項工具，
使用者可以將面孔放入色情影片當中。
接踵而來的是 傾洩而出的偽造色情影片，
主打大家最愛的女性名人。
現今，你可以上 YouTube 找到大量的教學影片，
內有逐步指示，
教你如何用電腦的應用程式 來製作深偽影片。
可能很快我們就能用手機 來製作深偽影片了。
正是我們基本的人性弱點
與網路工具的相互作用，
使得深偽技術變成了武器。
讓我解釋一下。
我們人類對影音會直覺反應。
我們會相信它們是真的，
你認為當然能相信
你的眼睛和耳朵所告訴你的事情。
而正是這個機制
有可能削減了我們感知真實的靈敏度。
雖然我們誤信深偽技術下的 產物是真的，但它們不是。
我們會被猥褻的、 刺激的內容物所吸引。
我們傾向相信並轉貼分享
這些負面新奇的資訊。
研究者發現網路惡作劇散播的速度，
比真實故事快十倍。
我們也會被和我們觀點
相同的資訊所吸引。
心理學家稱之為「確認偏差」的傾向。
社群媒體平台會強化你偏好的傾向，
因為那些平台讓我們 能夠迅速、廣泛地分享
和我們觀點相同的資訊。
深偽技術有可能對 個人及社會造成嚴重的傷害。
所以，想像一支深偽影片
內容是美國士兵在阿富汗燒毀可蘭經。
各位可以想像那種深偽影片
會挑起針對這些士兵的暴力反擊。
如果隔天
又出來了一支深偽影片，
內容是在倫敦知名的伊斯蘭教領袖
讚美那些對士兵的攻擊行為？
我們可能會看到暴力和內亂，
不僅是在阿富汗及英國，
還有全球各地。
各位可能會跟我說：
「拜託，丹妮爾，那太牽強了。」
但這並不牽強。
我們已經見過在 WhatsApp
及其它網路訊息上散播的謠言，
導致對非主流人群的暴力。
那還只是文字訊息——
想像一下，若是影片會如何。
深偽技術極可能會損害
我們對民主制度的信任。
想像一下選前之夜。
有一支深偽影片播放 一位主要政黨的候選人
病得很重。
那支深偽影片有可能影響選舉，
並動搖我們對選舉合法性的感受。
想像一下，某間大型全球銀行
在首次公開募股的前一晚，
出現一支深偽影片， 內容是該銀行的執行長
醉醺醺地大放厥詞說著陰謀論。
這支深偽影片可能會 重創這首次公開募股，
更糟糕的是，會動搖我們對 金融市場穩定的感受。
所以，深偽技術能利用 並放大我們對政治人物、企業領袖
及其他具影響力之領導人之 已有的深層不信任感。
深偽影片一開始就誤導了它的觀眾。
而對真相的追尋也會受到危及。
技術人員認為隨著人工智慧的進步，
未來想要分辨出真實影片 和偽造影片的差別
可能會變得非常困難 甚至無法分辨。
所以，在一個充斥著深偽影片 想法的市場中，真相如何能浮現？
我們會不會選擇走阻力最少的路，
相信我們想要相信的，
而不管真相為何呢？
我們不僅可能會相信偽造品，
我們還可能會開始質疑真相。
我們已經看過有人利用 深偽事件的表象，
使他們錯誤行為的真實證據遭到質疑。
我們也聽過政客對他們 不利消息的回應：
「拜託，那是假新聞。
不要相信你眼睛看到 和耳朵聽到的東西。」
這種風險，
羅伯‧特切斯尼教授和我 稱之為「騙子的紅利」：
這風險在於騙子會透過深偽技術
來為自己惡行脫罪。
所以毫無疑問的， 我們有艱鉅的工作要完成。
我們會需要科技公司、立法者
法律執行者以及媒體
主動積極地提出解決方案。
同時我們也會需要 社會復原力的健康處方。
當下，我們正在與科技公司
進行關於社會責任的公開談話。
我們對社群媒體平台的建議，
已經影響了他們的 服務條款和社群準則，
禁止會造成傷害的深偽技術。
這樣的決定，需要人性的判斷，
代價很高。
但我們需要人類
來查看深偽產物的內容和背景，
以判定它是否是有害的偽造品，
還是具價值的諷刺作品、藝術或教育。
那麼，法律呢？
法律是我們的老師。
法律教導我們什麼 是有害的、什麼是錯的。
法律會透過懲罰犯罪者 以及讓受害者獲得補償救助，
以此來規範行為。
現在，法律還無法面對 深偽技術的挑戰。
全球各地
都缺乏適當的法律
來處理會侵犯性隱私、
毀損名譽、
造成情緒痛苦的數位偽造行為。
發生在拉娜‧阿尤布 身上的事越來越常見。
但，當她去找德里的執法機關，
她得到的回應是執法機關無能為力。
令人可悲的是，就算在美國和歐洲，
結果也是一樣。
我們的法律有漏洞，需要填補。
我的同事瑪莉‧安‧妮弗蘭克斯博士 和我跟美國的立法者合作，
策劃立法以禁止那些會造成傷害
且等同於偷竊身分的數位偽造行為。
我們已經看到在冰島、英國
和澳洲都有類似的行動。
但當然，那只是控管拼圖的 其中一小片。
我知道法律並非萬靈丹，對吧？
法律是一種鈍器。
我們得要明智地運用它。
實際執法上也常遇到障礙。
法律對你辨識不出、 定位不了的人無能為力。
如果犯罪者住在國外，
和受害者不同國家，
那麼你可能無法堅持
要犯罪者到當地法庭去面對司法。
所以我們需要協調出 一致性的國際回應方式。
我們的回應也得要包含教育。
執法者無法執行
他們不懂的法律，
也無法提出他們不了解的問題。
在我的網路跟蹤研究中，
我發現執法人員缺乏訓練，
不了解他們能使用的法律有哪些，
也不了解線上霸凌行為的問題。
所以，他們通常會告訴受害者：
「把你的電腦關機。 不要理它。就沒事了。」
在拉娜‧阿尤布的案例中就是如此。
她得到的回應是： 「拜託，妳太大驚小怪了。
男孩子都是這樣子的。」
所以我們在新立法時 還要搭配對人員的培訓。
且媒體也需要被教育。
記者需要了解深偽的現象，
他們才不會去放大和散播它們。
這也是和我們大家都有關的地方。
我們每一個人都需要被教育。
我們會點閱、分享、按讚， 做這些時卻不會去思考。
我們必須做得更好。
我們需要有更好的 判讀能力來辨識真偽。
當我們正在致力於這些解決方案時，
也會伴隨著許多的困難和痛苦。
拉娜‧阿尤布 仍在和事件的餘波苦戰。
不論在線上或離線， 她仍然無法自在地表達自己。
她告訴我，
她仍然覺得好像有成千上萬的人 在盯著她的裸體看，
即使理智上她也知道 那並不是她的身體。
她常常會有突發性的恐慌，
尤其是當她不認識的人 想要拍她的照片時。
「如果他們又要拿照片去做 深偽呢？」她會這麼想。
所以，為了像拉娜‧阿尤布這樣的人，
以及為了我們的民主，
我們現在就得要採取行動。
謝謝。
（掌聲）