Каждый день, каждую неделю,
мы соглашаемся c положениями и условиями.
Делая такой шаг,
мы предоставляем компаниям законное право
делать всё, что они хотят с нашими данными
и данными наших детей.
Что заставляет нас задуматься:
какое количество данных о детях мы предоставляем,
и какие последствия это за собой повлечёт?
Я антрополог,
а также мать двух маленьких девочек.
В 2015 году я начала интересоваться этим вопросом
и внезапно осознала, что существует огромное,
почти невообразимое количество
собираемых о детях данных.
Поэтому я запустила исследовательский проект
под названием Child Data Citizen
и намерена заполнить эту пустоту.
Возможно, вы подумаете, что я пришла сюда обвинять вас
в публикации фотографий ваших детей в социальных сетях,
но дело не в этом.
Проблема намного шире, чем так называемое «делительство».
Она носит системный характер, а не индивидуальный.
Вы и ваши привычки не виноваты.
Впервые в истории
мы отслеживаем личные данные детей
задолго до их рождения,
иногда — с момента зачатия,
а в дальнейшем — на протяжении жизни.
Понимаете, когда родители решают зачать ребенка,
они идут в интернет, чтобы посмотреть «способы забеременеть»,
или скачивают приложения для отслеживания овуляции.
Забеременев,
они публикуют фото УЗИ своих детей в социальных сетях,
скачивают приложения для отслеживания беременности,
или консультируются с доктором Гуглом по всем вопросам,
например таким:
«риск выкидыша при полёте»
или «спазмы в животе при беременности».
Я знаю, сама прошла через это,
и не раз.
После рождения ребёнка, они отслеживают каждый его сон,
каждое кормление,
каждое событие жизни, используя различные технологии.
И все эти технологии
превращают личные данные о здоровье и поведении ребёнка в прибыль,
когда ими делятся с другими.
Проиллюстрирую, как это работает.
В 2019 году Британский медицинский журнал
опубликовал исследование, показавшее,
что 19 из 24 мобильных приложений для здоровья
поделились информацией с третьими сторонами.
И эти третьи стороны поделились ей
с ещё 216 организациями.
Из этих 216 организаций
только треть принадлежали к сектору здравоохранения.
Другими компаниями, получившими доступ к данным,
были технологические гиганты
вроде Google, Facebook или Oracle,
среди них были рекламные,
а также кредитные агентства.
Итак, вы поняли верно:
рекламные и кредитные агентства,
возможно, уже владеют данными о детях.
Но мобильные приложения, поисковики и социальные сети
лишь верхушка айсберга,
так как в повседневной жизни за детьми наблюдают многочисленные
устройства и приложения.
В домах деятельность детей отслеживают виртуальные помощники и бытовая техника.
В школах это делается при помощи
образовательных платформ и технологий.
В кабинете врача их отслеживают
по онлайн-записям и онлайн-порталам.
За ними следят при помощи их игрушек, подключённых к интернету,
онлайн-игр,
и множества других технологий.
За время исследования
ко мне обращались многие родители и спрашивали: «Ну и что?
Разве то, что мои дети отслеживаются, имеет какое-то значение?
Нам скрывать нечего».
Да, это имеет значение.
Это имеет значение, потому что сегодня за людьми не только следят,
но и анализируют их данные на основе оставленного ими информационного следа.
Искусственный интеллект и прогнозная аналитика используются,
чтобы собрать как можно больше данных о жизни человека
из разных источников:
семейной истории, покупательских привычек, комментариев в социальных сетях.
А потом они объединяют эти данные,
чтобы принимать решения на основе данных о личности.
И эти технологии используются везде.
Банки используют их при выдаче кредита.
Страховые компании — для определения размера страховых взносов.
Рекрутеры и работодатели используют их,
чтобы решить, кто лучше подходит для работы.
Полиция и суды также применяют их,
чтобы определить, кто является потенциальным преступником
или кто вновь совершит преступление.
Мы не знаем и не контролируем
способы, которыми те, кто покупают,
продают и обрабатывают наши данные,
составляют психологические профили наших детей и наши.
Но эти профили могут существенно повлиять на наши права.
Например,
в 2018 году газета «Нью-Йорк Таймс» опубликовала новость о том,
что собранные с помощью онлайн-сервисов
данные о поступлении в колледжи,
которые в США заполняются миллионами школьников
при поиске программы колледжа или стипендии,
были проданы брокерам в сфере образовательных услуг.
Исследователи из Фордхэма, изучавшие данные образовательных брокеров,
раскрыли, как эти компании профилируют детей в возрасте всего двух лет
на основе разных категорий:
этнической принадлежности, религии, достатка,
социальной неуверенности в себе
и многих других произвольно взятых категорий.
А потом эти компании продают эти профили вместе с именем ребёнка,
их домашним адресом и контактными данными
различным организациям,
включая торговые и карьерные учреждения,
банки, предоставляющие студенческие кредиты
и компании, выпускающие кредитные карты для студентов.
Чтобы расширить границы,
исследователи из Фордхэма попросили брокера образовательных данных
предоставить им список девушек в возрасте 14–15 лет,
интересовавшихся услугами по планированию семьи.
И торговец данными согласился предоставить такой список.
А теперь представьте, насколько глубоко они внедрены в жизнь наших детей.
Но торговцы данными — лишь один из ста примеров.
Правда в том, что наши дети отслеживаются так, что мы не можем это контролировать,
и это может значительно повлиять на их возможности в жизни.
Поэтому мы должны спросить самих себя:
можем ли мы доверять этим технологиям,
когда речь идёт об отслеживании наших детей?
Можем ли?
Мой ответ — нет.
Как антрополог
я верю, что искуственный интеллект и прогнозная аналитика могут быть полезны
в предсказывании течения болезни
или в борьбе с изменением климата.
Но мы должны отказаться от убеждения,
что эти технологии могут составить объективный психологический профиль,
и мы не можем на них полагаться, чтобы принимать решения на основе данных
об отдельных жизнях.
Потому что они на это не способны.
Наш информационный след не являются отражением того, кто мы есть.
Люди думают об одном, а говорят о другом,
чувствуют одно, а действуют по-другому.
Алгоритмические прогнозы или наша цифровая практика
не могут объяснить непредсказуемость и сложность человеческого опыта.
Но вдобавок ко всему,
эти технологии всегда,
так или иначе,
необъективны.
Вы знаете, что алгоритмы по определению означают набор правил и шагов,
которые были разработаны для достижения определённого результата?
Но эти наборы правил и шагов не могут быть объективными,
так как они были придуманы человеком
в определённом культурном контексте
и сформированы определёнными культурными ценностями.
Итак, когда машины учатся,
они учатся как с помощью предвзятых алгоритмов,
так и на основе предвзято составленных баз данных.
Сегодня мы видим первые примеры алгоритмической предвзятости.
Некоторые из этих примеров просто ужасны.
В этом году организация AI Now Institute в Нью-Йорке опубликовала отчёт,
в котором говорится, что технологии ИИ,
используемые для прогнозирования полицейской деятельности,
были обучены на «грязных» данных.
В основном это данные, собранные
в течение исторических периодов, известных расовыми предрассудками
и непрозрачными действиями полиции.
Из-за того, что эти технологии разрабатывались на основе грязных данных,
они необъективны,
и их результаты только усиливают и дополняют
необъективность и ошибки полиции.
Я думаю, мы столкнулись с фундаментальной проблемой
нашего общества.
Мы начинаем доверять технологиям, когда речь идёт о профилировании людей.
Мы знаем, что при профилировании людей
эти технологии всегда будут предвзятыми
и никогда не будут точными.
Поэтому нам сейчас нужно политическое решение данного вопроса.
Нам нужно, чтобы правительства признали,
что права на данные — наши права человека.
(Аплодисменты)
Пока этого не произойдет, мы не можем надеяться на более справедливое будущее.
Я волнуюсь из-за того, что мои дочери будут подвергаться
всевозможной алгоритмической дискриминации и ошибкам.
Разница между мной и моими дочерями в том,
что нет публичных записей моего детства.
Точно нет никакой базы данных обо всех глупостях, которые я совершила,
или о которых помышляла, когда была подростком.
(Смех)
Но у моих дочерей всё может сложиться по-другому.
Информация, собранная о них сегодня
может быть использована для их оценки в будущем,
и может помешать реализации их надежд и целей.
Я думаю, время пришло.
Время, чтобы мы все сделали шаг вперед.
Пришло время, чтобы мы начали работать вместе
как отдельные люди,
как организации и как институты,
мы требуем большей справедливости в отношении данных для нас
и наших детей,
пока не стало слишком поздно.
Благодарю вас.
(Аплодисменты)