Как защитить частную жизнь, если технологии смогут читать мысли?

По словам учёного-правоведа и этика Ниты Фарахани, чудо технологии, которое сможет расшифровывать деятельность нашего мозга и отображать, что мы думаем и чувствуем, уже недалеко от реальности. Что тогда станет с нашим уже и так неполноценным чувством неприкосновенности личной жизни? В этом докладе Фарахани предупреждает, что в будущем мы сможем жить в обществе, где людей будут арестовывать за то, что они просто подумали о совершении преступления (как в «Мнении меньшинства»), а интересы частных компаний смогут продавать данные нашего мозга. Она обосновывает право на когнитивную свободу, которое защищает нашу свободу мысли и самоопределения.

В первые месяцы после президентских
выборов в 2009 году в Иране

по всей стране разгорелись протесты.

Иранское государство жестоко подавляло то,

что потом стало известным
как «иранское зелёное движение»,

даже блокировало мобильные сигналы,

чтобы разорвать связь между протестующими.

Мои родители, эмигрировавшие
в США в конце 1960-х,

провели немало времени там,

где живёт вся моя большая семья.

Когда я звонила своей семье в Тегеран

во время самых насильственных
подавлений протестов,

никто из них не осмеливался говорить
со мной о том, что происходит.

Кто-то из нас быстро переводил
разговор на другую тему.

Все мы понимали возможные последствия

оппозиционных действий.

Но мне всё равно хотелось бы
знать, о чём они думали

или что они чувствовали.

Что, если бы я могла это узнать?

Или, что страшнее,

что, если бы правительство
Ирана могло это узнать?

Могли бы их арестовать из-за того,
что прочитали их мысли?

Этот день намного ближе, чем вы думаете.

Благодаря возрастающим возможностям
в нейробиологии, искусственном интеллекте

и машинном обучении

мы скоро узнаем намного больше
о том, что происходит в мозге человека.

Как биоэтик, юрист, философ

и ирано-американка

я глубоко обеспокоена тем,
что это значит для нашей свободы

и какие виды защиты нам потребуются.

Я думаю, что нам нужно
право когнитивной свободы,

которое должно защищаться
как право человека.

Если нет, наша свобода мысли,

доступ и контроль над нашим мозгом

и наша ментальная приватность
будут под угрозой.

Подумайте над этим:

у среднестатистического человека за день
возникают тысячи мыслей.

Когда мысль принимает форму,

также как математическое
вычисление или цифра, слово,

нейроны взаимодействуют в мозге,

создавая минимальный электрический разряд.

Когда доминирует одно психическое
состояние, скажем, расслабление,

сотни и тысячи нейронов
выстреливают в мозге,

создавая одновременные электрические
разряды в типичных схемах,

которые можно измерить
с помощью энцефалографии (ЭЭГ).

На самом деле это то,
что вы сейчас видите.

Вы видите активность моего мозга,
записанную в реальном времени

с помощью простого прибора,
который я носила на голове.

Вы видите активность моего мозга
в состоянии спокойствия и любопытства.

Чтобы поделится этой информацией,

я использовала один из первых приборов
ЭЭГ, ориентированных на потребителя,

как вот этот,

который записал электрические импульсы
моего мозга в реальном времени.

Это подобно фитнес-браслетам,
которыми некоторые из вас пользуются,

чтобы измерить пульс
или количество сделанных шагов,

или даже свой режим сна.

Это вряд ли самая изысканная технология
нейровизуализации на рынке.

Но зато она самая портативная

и скорее всего повлияет
на нашу повседневную жизнь.

Это удивительно.

Через простое переносное устройство

мы буквально можем видеть
человеческий мозг изнутри

и изучать аспекты нашей мысленной картины,
не произнося ни слова.

Пока ещё мы не можем надёжно
расшифровывать сложные мысли,

но зато можем определять
человеческое настроение

и с помощью искусственного интеллекта

можем даже расшифровать
некоторые однозначные цифры,

формы или простые слова,
о которых человек думает,

которые слышит или видит.

Несмотря на некоторые
неизбежные ограничения ЭЭГ,

я думаю, что можно смело сказать,
что с помощью технологических достижений

со временем мы сможем расшифровать

всё больше данных о человеческом мозге.

Уже сейчас, используя данные устройства,

эпилептик может узнать о предстоящем
эпилептическом припадке

до того, как он произойдёт.

Паралитик может печатать на компьютере
просто с помощью своих мыслей.

Компания в США развила технологию,
которая внедряет данные датчики

в подголовники в автомобилях,

чтобы они следили
за концентрацией водителя,

отвлечением и когнитивной
нагрузкой в пути.

Nissan, страховые компании и ААА
уже приняли это к сведению.

Можно даже смотреть фильм
с выбором своего приключения

под названием «Мгновение»,
в котором ЭЭГ устройство

меняет фильм в зависимости
от реакции вашего мозга

с различными концовками каждый раз,
когда ваше внимание слабеет.

Это всё звучит замечательно,

и, будучи биоэтиком,

я большой сторонник
расширения возможностей людей

для заботы о своём
здоровье и благополучии,

путём предоставления им
доступа к информации о себе

в том числе через эту великолепную
технологию расшифровки мозга.

Но я переживаю.

Переживаю, что добровольно
или нет, мы отдадим

наш последний бастион свободы,
нашу психическую приватность.

Что мы поменяем нашу мозговую активность

на страховые скидки

или на бесплатный доступ
к социальным сетям...

или даже на наше рабочее место.

На самом деле в Китае

кондукторы на высокоскоростной
железной дороге Пекин-Шанхай,

самой загруженной в мире,

обязаны носить ЭЭГ устройства,

чтобы отслеживать их
мозговую активность в пути.

Согласно некоторым источникам,

на государственных заводах в Китае

рабочие обязаны носить датчики ЭЭГ
для отслеживания их продуктивности

и эмоционального состояния на работе.

Их даже отправляют домой,

если датчики показывают не столь
выдающуюся концентрацию на работе

или беспокойство.

Это не произойдёт завтра,

но мы уже приближаемся к жизни
с прозрачными мыслями.

И мне кажется, что люди не понимают,
что это может всё поменять.

От нашего понимания
конфиденциальности, наших законов

до наших представлений о свободе.

На самом деле, в моей лаборатории
в Университете Дьюка

мы недавно проводили
общенациональное исследование в США,

чтобы увидеть, ценят ли люди

чувствительность информации их мозга.

Мы их попросили оценить
свою чувствительность

на 33 различных вида информации,

начиная с номеров социального страхования

до содержания телефонных разговоров,

истории их романтических отношений,

их эмоций, тревог,

умозрительных образов

и мыслей про себя.

Шокирующе: люди оценили номер
страхования как более чувствительный,

в отличие от любой другой информации,

включая данные мозга.

Я думаю, что это так, потому что люди
пока ещё не понимают

или не верят в применение
новых технологий декодирования мозга.

В конце концов, если мы знаем,
как работает человеческий мозг,

наши страховые номера —
наименьший повод для тревоги.

(Смех)

Подумайте об этом.

Кто бы посмел иметь диссидентские мысли

в мире полной прозрачности?

Или креативные мысли?

Я боюсь, что люди будут
прибегать к самоцензуре,

опасаясь остракизма со стороны общества,

или будут терять работу
из-за ослабления внимания,

эмоциональной нестабильности,

или потому, что планируют коллективные
действия против работодателей.

Каминг-аут уже не будет вопросом выбора,

поскольку человеческий мозг сам сможет
определить сексуальную ориентацию,

политические идеологии

или религиозные предпочтения

намного раньше, чем мы будем готовы
осознанно рассказать о этом

другим людям.

Я беспокоюсь, смогут ли наши законы
идти в ногу с технологиями.

Рассмотрим первую поправку
к Конституции США,

защищающую свободу слова.

А свободу мысли она защищает?

И если так, значит ли это, что мы вольны
изменять свои мысли, как хотим?

Или правительство и общество решает,
как можно обходиться со нашими же мозгами?

Может ли АНБ читать наши мысли
с помощью новых мобильных устройств?

Могут ли компании, собирающие
данные мозга через приложения,

продать эту информацию третьим лицам?

И сейчас никакие законы
не смогут им помешать.

Но это может представлять проблему

в странах, которые
не разделяют тех же прав,

что есть у людей в Соединённых Штатах.

Что бы могло случиться во время
«зелёного движения» в Иране,

если бы правительство
отслеживало работу мозга

и согласилось бы с протестующими?

Неужели невозможно представить общество,

где людей арестовывают за их мысли

о совершении преступления,

как в антиутопическом обществе
в фильме «Мнение меньшинства»?

Уже в Соединённых Штатах, в Индиане,

18-летний парень был обвинён
в попытке запугать свою школу,

опубликовав видео, где он
стреляет по людям в коридорах...

Кроме людей там были зомби,

а само видео показывало то, как он играет
в игру с дополненной реальностью,

где всё интерпретируется как ментальная
проекция его субъективного намерения.

Именно поэтому нашему мозгу
нужна особая защита.

Если наш мозг — такой же субъект
отслеживания и агрегации,

как наши финансовые
ведомости и транзакции,

если наш мозг можно взломать
и отслеживать мысли как действия в сети,

в мобильных телефонах и приложениях,

то мы уже на грани опасной угрозы
для нашего коллективного рода.

Прежде чем вы запаникуете,

я скажу, что полагаю,
решение этих проблем существует,

но мы должны сосредоточиться
на правильных вещах.

Когда дело касается защиты
конфиденциальности в целом,

думаю, мы ведём безнадёжную борьбу,

пытаясь ограничить поток информации.

Вместо этого мы должны сосредоточиться
на обеспечении прав и средствах их защиты

от злоупотребления нашей информацией.

Если бы люди имели право решать,
как распоряжаться информацией,

и, что важно, располагали бы
мерами юридической защиты,

если их информация была
использована против них,

скажем, чтобы дискриминировать их
в условиях занятости

или в области здравоохранения
или образования,

это бы имело большое значение
для доверительных отношений.

На самом деле в некоторых случаях

мы хотим предоставить как можно больше
своей личной информации.

Изучение агрегированной информации
может многое нам рассказать

о нашем здоровье и благополучии,

но чтобы безопасно делиться информацией,

нам нужны специальные средства для
защиты ментальной конфиденциальности.

Вот почему нам нужно
право на познавательную свободу.

Это право обеспечит нам
нашу свободу мысли и размышления,

нашу свободу самоопределения,

и это будет гарантией того, что у нас есть
право соглашаться или отказываться

от доступа и изменения
нашего мозга кем-либо.

Это право может быть признано

частью Всеобщей декларации прав человека,

установившей механизмы

для исполнения подобных социальных прав.

Во время иранского «зелёного движения»

протестующие пользовались интернетом
и устаревшими словами

для координации маршей.

И некоторые из самых деспотических
ограничений в Иране

в итоге были отменены.

Но что, если правительство Ирана
использовало мозговой надзор

для обнаружения и предотвращения протеста?

Услышал бы мир когда-нибудь
крики протестующих?

Настало время нам призвать
к революции за когнитивную свободу.

Чтобы убедиться, что мы ответственно
совершенствуем технологии,

которые могут позволить нам
объять будущее,

яро защищая всех нас от любого
человека, компании или правительства,

пытающегося незаконно получить доступ
или изменить наше сокровенное в жизни.

Спасибо.

(Аплодисменты)