Незалежно від того, хто ви, і де ви мешкаєте,
припускаю, що у вас є принаймні один родич,
який любить поширювати такі повідомлення.
Ви знаєте, що я маю на увазі –
сумнівні повідомлення чи відео в стилі теорії змови.
Можливо, ви вже відключили його сповіщення на Фейсбуці,
не бажаючи бачити репостів, подібних до цього.
На цій картинці банан
із дивним червоним хрестиком всередині.
Текст, що супроводжує картинку,
застерігає не їсти такі фрукти,
припускаючи, що у ці фрукти ввели кров,
заражену вірусом СНІДу.
А повідомлення вгорі містить просте прохання:
"Поширте це, щоб врятувати життя".
Хоча факт-чекери вже кілька років розвінчують це хибне вкидання,
але воно належить до тих чуток, які все ще живуть і далі.
Це чутка-зомбі.
І, звісно, вона цілком неправдива.
Хтось може просто посміятися над такими прикладами, кажучи:
"Ну, хіба хтось цьому повірить?"
Але ці чутки-зомбі існують тому,
що вони пробуджують найглибші страхи щодо власної безпеки,
і безпеки найближчих людей.
Якщо ви витратите на вивчення дезінформації стільки ж часу, скільки я,
ви побачите, що цей приклад лише один із багатьох,
які спираються на найглибші страхи і побоювання.
Щодня по всьому світу в Інстаграмі поширюються нові меми,
які спонукають батьків відмовитись від вакцинації дітей.
Ми бачимо на YouTube нові відео, де кажуть, що зміна клімату – це неправда.
І на всіх платформах ми бачимо незліченні дописи, де інших демонізують
на підставі їхньої раси, релігії чи сексуальної належності.
Ласкаво прошу до одного з головних викликів нашого часу.
Як можна забезпечити свободу вираження в Інтернеті,
гарантуючи при цьому, що поширюваний контент
не завдасть непоправної шкоди нашій демократії, нашим спільнотам
і нашому фізичному й психічному благополуччю?
Оскільки ми живемо в інформаційну епоху,
інформація стала головною валютою, від якої ми всі залежимо,
але на неї більше не можна цілковито покладатись,
а іноді вона може становити пряму небезпеку.
Однією із причин цього є нестримне зростання соціальних мереж,
коли у нашій стрічці
брехня може сусідити із фактами,
але при цьому відсутні традиційні маркери достовірності.
І, як на зло, у нас дуже заплутана мова, якою ми це описуємо.
Люди ще досі мусолять фразу "фейкові новини",
незважаючи на те, що від неї дуже мало користі,
вона позначає чимало дуже відмінних між собою речей:
брехню, чутки, містифікації, змови, пропаганду.
І я дуже хотіла б, щоб ми перестали вживати фразу,
яку використовують політики в усьому світі,
праві і ліві,
як зброю для атаки на вільну й незалежну пресу.
(Оплески)
Тому що зараз професійні ЗМІ нам потрібні як ніколи.
Крім того, більшість такого контенту навіть не маскується під новини.
Це меми, відео, дописи із соцмереж.
І чимало з них не є фейками, але вони вводять в оману.
Ми зосереджуємось на питанні про істинність чи хибність.
Однак найбільше нас має непокоїти маніпуляція контекстом.
Адже найбільш дієва дезінформація –
це та, яка містить зерно правди.
Розгляньмо цей приклад, Лондон, березень 2017-го,
масово поширюваний твіт
після теракту на Вестмінстерському мосту.
Це справжнє фото, не фейк.
Пізніше жінка на фотографії пояснила в інтерв'ю,
що вона була дуже шокована.
Вона розмовляла з коханим,
і, з поваги до жертв, уникала дивитись на них.
Але фото широко циркулювало, у ісламофобському контексті,
з численними хештегами, включно з #BanIslam.
Що б ви зробили на місці команди Твіттера?
Ви б заблокували це фото, чи дозволили його поширювати?
Моя інтуїтивна, емоційна реакція – таке фото слід заблокувати.
Я ненавиджу контекст, в якому його використали.
Але свобода самовираження належить до прав людини,
і якщо ми почнемо усувати дописи, які в нас викликають дискомфорт,
це небезпечний симптом.
Я навела дуже явний, очевидний приклад,
але більшість дописів не такі.
Дуже важко провести чітку межу.
Те, що для когось є цілком виправданим рішенням,
для іншого є відвертою цензурою.
Зараз ми знаємо, що цей акаунт, Техаська Самотня Зірка,
був частиною ширшої російської дезінформаційної кампанії,
це один із акаунтів, які зрештою ліквідували.
Це змінює вашу думку?
Мою змінює,
бо це вже інша річ, тут скоординована кампанія,
щоб сіяти розбрат.
Ті ж із вас, хто вважає,
що штучний інтелект вирішить всі наші проблеми,
думаю, погодяться, що ми ще дуже далеко
від ШІ, який здатний буде розуміти такі дописи, як цей.
Тож я хочу висвітлити три взаємопов'язані проблеми,
які роблять це завдання таким складним,
і також обміркувати декотрі можливі підходи до цих викликів.
Насамперед, наше ставлення до інформації є не раціональним,
а емоційним.
Ідея, що потрібно більше фактів, просто не відповідає дійсності,
бо алгоритми, що визначають, який контент ми побачимо,
розраховані на наші емоційні потреби.
І коли ми відчуваємо страх,
то спрощені пояснення, конспіративні теорії
і ярлики, що демонізують інших, виявляються значно дієвішими.
Крім того, чимало компаній
використовують бізнес-модель, розраховану на емоції,
що означає, що в цих алгоритмах завжди буде перекіс на користь емоцій.
По-друге, більшість із того, про що я тут розповідаю, не порушує закон.
Інша річ, якби йшлося
про дитячу порнографію
чи заклики до насильства.
Поширення ж відвертої брехні може ніяк не суперечити закону.
Але люди подумують про блокування "проблемного" чи "шкідливого" контенту,
не наводячи при цьому чіткого визначення цих термінів.
Як-от Марк Цукерберг,
який недавно закликав створити глобальні принципи модерації.
Мене непокоїть, що владні інституції
по всьому світу
приймають поквапні політичні рішення,
які можуть викликати значно серйозніші наслідки,
коли йдеться про свободу слова.
Та навіть якби ми могли вирішувати, які повідомлення блокувати,
ми б ніколи не змогли з цим впоратись.
Щосекунди люди у всьому світі
розміщують мільйони нових повідомлень,
різними мовами,
вплетені в тисячі різних культурних контекстів.
У нас просто ніколи б не було ефективних механізмів,
для модерації в такому масштабі,
це завдання було б не під силу ні людям, ні технологіям.
І, по-третє, ці компанії – Google, Twitter, Facebook, WhatsApp –
є частиною ширшої інформаційної екосистеми.
Ми любимо перекладати всю провину на них, але правда полягає в тому,
що ЗМІ й урядовці при владі можуть відігравати не меншу роль
у поширенні чуток і конспіративних теорій, коли їм це вигідно.
І ми так само, коли бездумно репостимо образливу чи оманливу інформацію,
не перевіряючи її.
Ми сприяємо забрудненню.
Я знаю, нам всім хочеться знайти простий вихід.
Але його просто не існує.
Будь-яке із пропонованих рішень має впроваджуватись у масовому масштабі,
на рівні Інтернету, і так, платформи теж діють на цьому рівні.
Але чи можемо і чи маємо ми їм дозволити вирішувати такі проблеми?
Звісно, вони намагаються.
Та більшість із нас згодні, що насправді ми не хочемо, щоб глобальні корпорації
здійснювали нагляд за правдивістю онлайн.
Я думаю, що з цим погодяться і платформи.
На даний момент, вони працюють над своїми уроками.
Вони люблять запевняти,
що втручання, до яких вони вдаються, є дієвими,
але оскільки вони спираються на власні внутрішні дані,
у нас немає можливості незалежної перевірки, якою ж ситуація є насправді.
(Оплески)
Також слід усвідомлювати, що більшість змін стаються
лише після того, коли журналісти здійснять розслідування
і знайдуть упереджену інформацію,
чи контент, який порушує правила їхньої спільноти.
Тож так, компанії мають відігравати значну роль у цьому процесі, але вони
не можуть його контролювати.
А як щодо влади?
Багато хто вважає, що глобальне регулювання – наша остання надія,
коли йдеться про очистку нашої інформаційної екосистеми.
Але, за моїми спостереженнями, законодавці намагаються
бігти навздогін за швидкими змінами в технології.
Гірше того, вони діють всліпу,
бо їм бракує даних,
щоб зрозуміти, що ж діється на цих платформах.
До того ж, урядам яких держав ми б це довірили?
Потрібна глобальна відповідь, а не національна.
Отож, ланка, якої бракує – це ми.
Це ми використовуємо дані технології щодня.
Можемо ми створити нову інфраструктуру, щоб дбати про якість інформації?
Я вірю, що можемо,
і в мене є кілька ідей, що ми справді можемо зробити.
По-перше, якщо ми хочемо залучити до цього публіку,
чи не могли б ми скористатись досвідом Вікіпедії?
Вона демонструє, що для нас можливо.
Так, вона не досконала,
але вона показує, що хороша структура,
глобальний масштаб і значна, дуже значна прозорість
дозволяє створити продукт, якому довірятиме більшість людей.
Адже нам потрібно знайти спосіб залучити колективну мудрість
і досвід усіх користувачів.
Особливо це стосується жінок, представників расових
та інших меншин.
Здогадуєтесь, чому?
Вони експерти, коли йдеться про ненависть і дезінформацію,
адже вони тривалий час були жертвами таких кампаній.
Вони боролись роками,
але їх не слухали.
Це потрібно змінити.
Хіба нам не вдалось створити Вікіпедію на принципі довіри?
Хіба не можна знайти спосіб справді враховувати думку користувачів?
В тому числі й думку щодо складних рішень з приводу модерації змісту.
Зворотній зв'язок користувачів
міг би впливати на зміни, які впроваджуються на платформах.
По-друге, наш досвід взаємодії з інформацією персоналізований.
Моя новинна стрічка у Фейсбуці дуже відмінна від вашої.
Вам YouTube рекомендує для перегляду інші відео, ніж мені.
Це унеможливлює для нас перевірку того,
яку інформацію люди бачать.
Тож чи не могли б ми уявити
певний тип централізованого відкритого репозитарію анонімних даних,
у якому враховано принципи етики й приватності?
Адже уявіть, що б нам відкрилось,
якби ми створили глобальну мережу небайдужих громадян,
які б хотіли передати свої соціальні дані для наукового використання.
Наразі нам дуже мало відомо
про довготривалий вплив ненависті й дезінформації
на установки й поведінку людей.
А те, що нам відомо,
спирається переважно на дані зі США,
попри те, що йдеться про глобальну проблему.
Тож нам треба працювати і над цим.
І, по-третє,
чи можемо ми поєднати всіх?
Жодний сектор, чи то громадський, чи стартапи, чи урядовий,
не може вирішити цю проблему.
Але по всьому світу є дуже розумні люди,
яких турбують ці виклики,
це журналісти, громадські діячі, науковці, активісти.
Ви бачите тут декотрих із них.
Декотрі розробляють індикатори надійності контенту.
Інші є факт-чекерами,
вони допомагають платформам знижувати рейтинги хибних заяв, відео і зображень.
Я співзасновниця громадської організації First Draft,
мета якої – допомогти редакціям з різних куточків світу
створити дослідницькі програми, націлені на співпрацю.
А Денні Гілліс, архітектор програмного забезпечення,
працює над новою системою під назвою The Underlay,
яка стане підбіркою всіх публічно озвучених фактів,
з посиланням на джерела,
тож люди й алгоритми зможуть краще визначати, що заслуговує на довіру.
А освітяни по всьому світу випробовують різні техніки,
щоб підвищити здатність людей критично сприймати інформацію.
Вони роблять чудову роботу, але вони працюють розрізнено,
і чимало з них жахливо недофінансовані.
А також сотні дуже розумних людей
працюють в цих компаніях,
та, знову ж таки, їхні зусилля нескоординовані,
бо вони насправді працюють над різними рішеннями одних і тих же проблем.
Чи можемо ми знайти спосіб зібрати цих людей
в одному просторі, на кілька днів чи тижнів,
щоб вони змогли взятись за ці проблеми разом,
але виходячи зі своїх різних перспектив?
Чи можемо ми це зробити?
Чи можемо ми запропонувати узгоджену, масштабну відповідь,
яка відповідатиме розмаху і складності проблеми?
Я вважаю, ми справді можемо.
Тож давайте разом перебудовувати наш інформаційний простір.
Дякую.
(Оплески)