Как должен измениться Твиттер

Можно ли спасти Твиттер? В разговоре, охватывающем широкий круг тем, Крис Андерсон и Уитни Пеннингтон Роджерс из TED обсуждают будущее платформы с Генеральным директором Твиттера Джеком Дорси, уделяя внимание проблеме оскорбительного поведения и модерации контента и предлагая несколько фундаментальных изменений, которые могли бы помочь в создании здорового диалога. «Действительно ли мы приносим людям нечто ценное каждый день?» — спрашивает Джек Дорси.

Крис Андерсон:
Что вас сейчас беспокоит?

Вы так открыто говорили о многих
проблемах на Твиттере.

Что волнует вас прежде всего

в нынешнем положении вещей?

Джек Дорси: В данный момент —
это здоровье диалога.

Наша задача — служить
общественному диалогу,

и мы видели, как он подвергается
различным атакам.

Мы видели оскорбления и запугивание,

видели манипулирование,

автоматизацию, групповые действия,
дезинформацию.

Всё это — процессы,
которых мы не предвидели,

когда создавали нашу компанию
13 лет назад.

Сейчас мы видим их в огромных масштабах,

и прежде всего меня беспокоит
вопрос, сможем ли мы найти способ

бороться с этим системно и масштабно,

с чётким пониманием того, какие именно
действия мы предпринимаем,

с ясным представлением о том,
как мы действуем,

и с чётким апелляционным процессом
на случай нашей неправоты,

потому что мы будем неправы.

Уитни Пеннингтон Роджерс:
Я рада слышать,

что вы думаете об этом,

потому что есть много случаев,
когда люди чувствуют,

что они подверглись нападкам
и оскорблениям на Твиттере,

и чаще всего это затрагивает
женщин различных национальностей,

включая темнокожих женщин.

И мы получили больше новых данных:

Amnesty International опубликовала
доклад пару месяцев назад,

который показал, что подборка темнокожих
женщин, активно использующих Твиттер,

в среднем получала оскорбления в реакциях

к одному из десяти твиттов.

Так что когда вы говорите
о здоровье сообщества Твиттера,

мне бы хотелось услышать:
«здоровье для каждого»,

и в особенности, как вы представляете
превращение Твиттера

в безопасное место для женщин, женщин
различных рас, для темнокожих женщин?

ДД: Так...

Да, это возмутительно,

когда вы приходите за тем,

чтобы узнать что-то новое о мире,

а в итоге проводите бóльшую часть времени,
сообщая об оскорблениях,

нападках и угрозах в ваш адрес.

Так что сейчас мы особенно пристально
наблюдаем за стимулами,

которое эта платформа предоставляет
естественным образом.

В настоящий момент система
позволяет с лёгкостью

оскорблять и преследовать
других пользователей,

и, к сожалению, в прошлом наша
система полностью полагалась

на то, чтобы пользователи сообщали
о нападках и оскорблении.

Примерно в половине прошлого года
мы решили начать применять

намного больше машинного обучения
и в разы больше глубокого обучения

и стараться предупреждать события,
когда дело доходит до оскорблений,

для того, чтобы мы могли
целиком снять груз с плеч жертвы.

Недавно у нас появились первые успехи.

Примерно 38% твитов оскорбительного
характера уже проактивно распознано

при помощи машинного обучения,

так что о них не придётся сообщать.

Но даже те, что уже распознаны,
всё равно потом проверяют люди,

так что мы не удаляем контент или аккаунты
без прямого рассмотрения человеком.

И это подъём с нуля процентов год назад.

Ноль процентов означало то, что каждому,

кто столкнулся с оскорблениями,
приходилось сообщать о них,

что означало много работы для них,
много — для нас,

и было совершенно несправедливо.

Помимо этого, нам как компании
нужно позаботиться о том, что мы

представляем интересы всех сообществ,
для которых мы работаем.

Мы не сможем построить успешный бизнес

до тех пор, пока он не будет основан на
многообразии взглядов нашего сообщества,

которое действительно
сталкивается с этими проблемами.

И я не говорю только о команде тех,
кто делает эту работу,

это касается и нашего руководства.

Нам необходимо научиться сопереживанию
этим людям и их печальному опыту

и дать им более эффективные
орудия для борьбы,

а также снабдить наших пользователей
более простыми способами

разбираться с тем, что они видят.

Многое из того, что мы делаем,
касается технологий,

но мы также наблюдаем за стимулами
нашего сервиса:

что Твиттер побуждает вас делать,
как только вы туда заходите?

В прошлом

он мотивировал возмущение
и стадное поведение,

он стимулировал групповую травлю.

Так что нам необходимо
лучше изучить несколько основ

работы этого сервиса, чтобы добиться
бóльших изменений.

Мы можем слегка поменять какие-то
технологические детали, как я и сказал,

но в конечном счёте нам нужно детально
изучить динамику самой сети,

чем мы и занимаемся.

КА: Но что именно, на ваш взгляд,

вы могли бы изменить,

чтобы произошёл
кардинальный сдвиг в поведении?

ДД: Для начала...

когда мы создавали этот сервис, идея была
следить за чьей-то страницей,

например,

но я не думаю, что люди пользуются
Твиттером именно для этого.

Я считаю, что Твиттер, прежде всего — это
сеть, основанная на интересах.

Люди приходят сюда с интересом к чему-то.

И им нужно проделать кучу работы,
чтобы найти и отслеживать

интересующие их аккаунты.

Вместо этого мы могли бы позволить вам
следить за вашим увлеченем —

за хэштегом, за трендом,

за сообществом,

что даёт нам возможность
показывать все аккаунты,

все темы, все моменты, все хэштеги,

которые относятся к определённой теме
или увлечению,

что действительно открывает
то многообразие, которое вы видите.

Но это огромный, кардинальный сдвиг —

сместить целую сеть
с предвзятости только к аккаунту

на предвзятость к теме или увлечению.

КА: Разве дело не в том,

что одна из причин, почему
у вас столько контента, —

это результат того, что миллионы людей
по всему миру

оказались на гладиаторской арене,
чтобы сражаться друг с другом

за подписчиков и внимание?

С точки зрения тех,
кто только читает Твиттер,

это не проблема,

но все те, кто его создают,
те кто пишут, говорят:

«Знаешь, вот бы мне ещё больше "лайков",
подписчиков, "ретвитов"».

Так что они постоянно экспериментируют,

пытаясь найти новые пути добиться этого.

И всем нам стало ясно,
что самый верный способ —

устроить какую-то провокацию

и быть нахалом, и при этом
отличаться красноречием,

ведь красноречивые оскорбления —
мечта Твиттера,

где вы моментально с кем-то сцепляетесь

и начинается такая перепалка,
которая сам себя разжигает.

Как разрядить такую обстановку?

ДД: Да, прямо в точку,

но это о тех же стимулах.

Одним из решений, которые мы
приняли на начальном этапе,

было показывать количество
ваших подписчиков.

Мы решили выделить эту цифру
крупным жирным шрифтом,

а всё написанное крупным
жирным шрифтом и есть самое важное

и как раз то, что вы хотите продвигать.

Было ли это верным решением тогда?

Скорее всего, нет.

Если бы я запускал этот сервис снова,

я бы не стал так сильно выделять
число подписчиков.

Я бы не стал так сильно выделять
количество «лайков».

Мне кажется, прежде всего, я бы даже
не создал сами «лайки»,

потому что на самом деле
они не продвигают то,

что мы считаем самым важным сейчас,

то есть здоровый вклад в жизнь сети

и диалог в сети,

участие в диалоге,

возможность научиться чему-то
через этот диалог.

Это не то, о чём мы думали 13 лет назад,

но как раз то, что чрезвычайно
важно сегодня.

Так что нам нужно пересмотреть,
как отображать число подписчиков,

как показывать число «ретвитов»,

как показывать «лайки»,

и задать один серьёзный вопрос:

действительно ли это то число,
которое мы хотим продвигать?

Действительно ли это то, о чём вы думаете:

«вот чего мне нужно больше»,
когда открываете Твиттер?

И я не думаю, что это так.

(Аплодисменты)

УПР: Мне кажется,
пора посмотреть на твиты,

которые приходят от зрителей.

КА: Давайте-ка взглянем,
о чём вы спрашиваете.

Твиттер тем и замечателен,

что он помогает нам использовать
мудрость толпы,

то есть больше знаний, больше вопросов,
больше точек зрения,

чем вы можете представить,

и порой многие из них очень здравы.

УПР: Я сейчас увидела один твит —
он уже убежал вниз:

«Твиттер планирует бороться с иностранным
вмешательством в выборы в США в 2020?»

Мне кажется, это часть проблемы,
которая существует

в интернете вцелом:

происходит много вредоносной
автоматизированной деятельности.

У нас есть подборка данных с Твиттера,

от наших друзей в Zignal Labs,

и возможно, мы даже увидим,
чтобы у нас был пример,

о чём конкретно я говорю,

о так называемых ботах,

или координированной автоматизированной
вредоносной деятельности аккаунтов,

которую используют для влияния
на такие события, как выборы.

И в этом примере от Zignal,
которым они поделились с нами,

используются данные Твиттера,

и вы можете увидеть, что в этом случае

белый — это аккаунты людей,
где каждая точка — один аккаунт.

Чем розовее точка, тем более

автоматизированы действия.

И здесь также видно
взаимодействие людей и ботов.

В этом случае речь о выборах в Израиле

и распространении
дезинформации о Бени Ганц,

и, как мы знаем, в конце концов,
это были выборы,

которые Нетаньяху выиграл
с очень малым перевесом,

и в некотором роде как раз этот процесс
и мог повлиять.

И думая о том, что такие вещи
происходят на Твиттере,

какие именно действия
вы предпринимаете для того,

чтобы предотвратить распространение
ложной информации этим путём

и не позволить ей поставить
под угрозу демократию?

ДД: Я немного вернусь назад.

Мы спрашивали себя:

можем ли мы в действительности
измерить здоровье диалога,

и что это значит?

Точно так же, как существуют показатели

здоровья нашего организма,

такие, как температура и цвет лица,

мы считаем, что можно найти показатели
состояния здоровья диалога.

Мы сотрудничали
с лабораторией Cortico в МТИ,

чтобы предложить четыре
начальных индикатора,

которые, по нашему мнению, мы могли бы
применить к этой системе.

Первый из них мы называем
совместным вниманием.

Это измерение того, какая часть диалога
проявляет внимание к какой-то теме

в соотношении с разрозненностью.

Второй называется совместной реальностью,

он показывает, какой процент диалога

имеет одни и те же факты —

и дело не в том, достоверны они или нет,

а в том, разделяем ли мы
те же факты, как участники диалога?

Третий — благожелательность:

какая часть диалога благожелательна
или конструктивна,

и наоборот — пагубна?

Четвёртый показатель —
это разнообразие точек зрения.

Что мы видим на самом деле —
пузыри фильтров

и эхо-камеры, или же
настоящее многообразие мнений

внутри диалога?

Эти четыре показателя подразумевают,

что с их увеличением диалог
становится более и более здоровым.

Так что наш первый шаг — понять,
возможно ли измерить их онлайн,

и мы считаем, что возможно.

Наш основной интерес —
это доброжелательность.

У нас есть оценка токсичности,
модель токсичности в нашей системе,

которая способна измерить,
насколько вероятно, что вы уйдёте

от переписки на Твиттере,

потому что вам кажется,

что она в высокой степени токсична.

Мы работаем над возможностью
других измерений,

и наш следующий шаг,

по мере того, как мы находим решения, —

это наблюдать за тем, как эти измерения
развиваются с течением времени,

и продолжать экспериментировать.

Наша цель — убедиться,
что они находятся в равновесии,

потому что если увеличить одно,
уменьшится и другое.

Если увеличить количество
различных взглядов,

можно в действительности уменьшить
общую для группы реальность.

КА: Я просто выбираю пару вопросов
из всего этого потока.

ДД: Бесконечные вопросы.

КА: Многих интересует,

насколько сложно избавиться
от нацистов на Твиттере?

ДД: (Cмех)

У нас есть политика касательно
воинствующих экстремистских группировок,

и бóльшая часть нашей работы
и наших условий использования

основана на поведении, а не на контенте.

Так что в действительности
мы смотрим на поведение.

Под поведением здесь имеется в виду
использование сервиса

для повторных или эпизодических
нападок на кого-либо,

с использованием выражений,
разжигающих ненависть,

связанных, например, с Ку-клукс-кланом

или Американской нацистской партией.

Всё это мы пресекаем немедленно.

Сейчас дела обстоят так, что этот термин
используется довольно свободно,

и мы не можем взять каждое
упоминание этого слова

для обвинения кого-либо,

как фактический показатель того,
что их нужно удалить с платформы.

Множество наших моделей
интересуются прежде всего тем,

связан ли аккаунт с воинствующими
экстремистскими группировками?

Если да, то мы можем принять меры.

Так мы и поступили с ККК, Американской
нацистской партией и c другими.

Второй пункт: используется ли
образная речь или поведение,

которое бы указывало ни их связь?

КА: Сколько человек работает
над модерацией контента,

чтобы за этим следить?

ДД: По-разному.

Мы хотим иметь гибкий подход,

потому что для нас важно,
что мы, в первую очередь,

создаём алгоритмы вместо того, чтобы
нанимать огромное количество человек,

потому что нам нужно знать,
что это масштабируемый процесс,

и человеческих сил
не хватит для работы в таких масштабах.

Именно поэтому мы уделили столько внимания
проактивному распознаванию оскорблений,

которые потом проверяет человек.

Мы хотим добиться того,

чтобы алгоритмы непрестанно
просматривали каждый твит

и выносили самые интересные
на поверхность,

чтобы люди могли решить,
нужно ли принимать меры

по нашим правилам пользования.

УПР: Нет такого масштабного
количества человек,

но сколько у вас есть на данный момент
для наблюдения за этими аккаунтами?

и как вы понимаете, сколько достаточно?

ДД: Это гибкое число.

Иной раз нам нужны люди
для работы над спамом.

Иногда — для домогательств,
угроз и оскорблений.

Мы постараемся достичь гибкости
в работе нашего персонала,

чтобы задействовать их
для самых важных задач.

Иногда — для выборов.

У нас был ряд выборов в Мексике,
будут выборы в Индии,

само собой, выборы в прошлом году,
промежуточные выборы —

мы хотим чтобы наш персонал
мог подстраиваться.

Так что когда люди —

к примеру, если вы сейчас зайдёте на
наши действующие условия использования

и прокрутите страницу вверх,

и вы смотрите, нарушают ли правила
использования оскорбления и травля,

которым вы подверглись,
для того чтобы сообщить об этом, —

первое, что вы увидите,
открыв эту страницу,

будет информация о защите
интеллектуальной собственности.

Вы прокручиваете вниз и увидите
жестокое обращение, домогательства

и всё остальное,
с чем вы могли бы столкнуться.

И я не знаю, как так произошло
за историю компании,

но мы поместили именно это перед тем,

о чём людям действительно нужно
больше информации и где нужно действие.

И такой порядок говорит о том,
что мы считали тогда самым важным.

Так что сейчас мы это меняем.

Мы наводим порядок

и упрощаем правила, чтобы людям
было удобнее их читать,

чтобы люди могли сами понять,

когда что-то нарушает наши правила,
а когда — нет.

Также мы делаем...

опять же, наша задача — это избавить
от работы тех, кто стал жертвой.

А это значит переложить работу

с людей на технологии,

то есть с тех, кто подвергся жестокости,

и тех, кому приходится это проверять.

Так что мы хотим убедиться,

что мы не просто
призываем к большему труду

над чем-то очень, очень неприятным,

а хотим добиться равновесия
между технологиями

и тем, где человек может проявлять
творческий подход,

то есть в оценке правил,

а не в механической работе
по поиску и сообщениям о нарушениях.

Вот наши мысли на этот счёт.

КА: Давайте углубимся в то,
о чём вы сейчас сказали.

Здорово, что вы ищете способы

поправить основные принципы
работы этой системы,

чтобы менее способствовать
негативным реакциям, и, возможно,

используя терминологию Тристана Харриса,

сильнее задействовать рефлексивное
мышление людей.

Насколько это возможно?

Какими бы могли быть
альтернативы кнопки «лайк»?

ДД: Прежде всего,

лично я глубоко убеждён,
что для нашего сервиса

критически важен общественный диалог.

Мир столкнулся с жизненно
важными проблемами,

которые касаются всех, а не одного
отдельного национального государства,

которому приносит пользу
общественный диалог.

Твиттер уникален тем,

что он полностью открытый,

полностью общественный,

полностью податливый,

и каждый может читать
и принять участие в любой дискуссии.

Там обсуждают изменение климата,

там обсуждают темы, такие,
как потеря рабочих мест

и замещение искусственным интеллектом.

Там обсуждают экономическое
неравенство и так далее.

Неважно, что предпринимает
какое-либо государство,

они не справятся с этими
проблемами самостоятельно.

Необходимо объединить усилия всего мира,

и как раз здесь Твиттер
может сыграть свою роль.

Второе — если вы сейчас
зайдёте на Твиттер,

вы не обязательно уйдёте с ощущением,
что вы узнали что-то новое и полезное.

Хотя кому-то удаётся.

У некоторых людей очень
и очень богатая сеть,

большое сообщество, откуда они могут
ежедневно черпать знания.

Однако, нужно проделать много работы
и отдать много времени на его создание.

Мы хотим сделать так, чтобы люди
смогли попасть в такие беседы

намного быстрее

и чтобы они могли найти что-то, что...

независимо от времени,
проводённом на Твиттере, —

и я не хочу увеличивать время на Твиттере,

я хочу увеличить его отдачу.

И сколько нового узнают люди, и...

КА: Но так ли это?

Ведь это и есть главный вопрос,
который интересует очень многих.

Само собой, Джек, вас во многом
сдерживает то,

что вы публичная компания,

и на вас давят инвесторы,

и ваша прибыль, прежде всего,
поступает от рекламы —

и это зависит от участия пользователей.

Готовы ли вы пожертвовать
временем пользователей, если будет нужно,

ради более осмысленного диалога?

ДД: Да, чем релевантнее контент,
тем меньше времени на платформе,

и это совершенно нормально,

потому что мы хотим сделать так,
чтобы вы заходили на Твиттер

и сразу видели что-то новое
и важное для вас.

Мы всё ещё можем показать рекламу.

Но видеть больше не значит
тратить больше времени.

Второе, на что мы смотрим...

КА: Минутку... насчёт цели
активно проведённого времени,

если вы его измеряете,
это ещё не значит, что это то,

которые люди высоко ценят.

Это может быть и тем,

на что люди ежедневно слетаются,
как мотыльки на огонь.

Мы зависимы, так как каждый день
мы видим что-то, что нас бесит,

и продолжаем подливать масла в огонь,

число активных пользователей
в день растёт

и реклама приносит больше дохода,

но мы всё больше злимся друг на друга.

Как вы определяете...

«Ежедневные активные пользователи» звучит
как очень опасный критерий оптимизации.

(Аплодисменты)

ДД: Да, отдельно взятое,

но вы не дали мне закончить
с другим показателем,

мы следим за диалогами

и цепочками диалогов.

Мы хотим стимулировать
здоровый вклад в сеть,

а это, по нашему мнению, —
участие в диалоге,

который нетоксичен

согласно четырем индикаторам,
о которых я вам рассказал.

Нельзя оптимизировать по одному параметру.

Нужно постоянно совмещать
и смотреть на то, что

на самом деле принесёт
здоровый вклад в сеть

и здоровое общение людям.

Наша цель — получить такой показатель,

чтобы люди смогли бы сказать нам:
«Твиттер научил меня чему-то,

и я унесу нечто ценное с собой».

Это наша долгосрочная цель,

и чтобы прийти к ней, нужно время.

КА: Мне кажется, что для многих,
и для меня, вы — человек-загадка.

Возможно, это несправедливо,
но как-то ночью я проснулся,

поймав себя на том, что я думал о вас
и об этой ситуации, как будто

мы отправились в большое путешествие
на корабле под названием «Твиттаник»,

(Смех)

и пассажиры в третьем классе

беспокоятся,

и вы, в отличие от других капитанов,

говорите: «Давайте, говорите со мной,
послушайте меня, я хочу услышать».

И они говорят вам: «Нас тревожит
айсберг перед нами».

А вы отвечаете:
«Знаете, это неоспоримый факт,

и наш корабль, по правде,
построен не очень качественно

чтобы вырулить так, как хотелось бы».

Мы просим: «Сделайте что-нибудь».

И вы идёте на мостик,

пока мы ждём

и смотрим, а вы держитесь
необычайно спокойно,

но мы все стоим снаружи, говоря:
«Джек, поверни же чёртов штурвал!»

Представляете?

(Смех)

(Аплодисменты)

Я к тому, что...

(Аплодисменты)

На карту поставлена демократия.

На карту поставлена наша культура.
На карту поставлен наш мир.

Твиттер потрясающий, он влияет на многое.

Он не такой большой, как некоторые
другие платформы,

но влиятельные люди пользуются им,
чтобы задать приоритеты,

и трудно себе представить более
важную роль в мире, чем...

Я хочу сказать, что вам здорово
удаётся слушать и слышать людей,

но по-настоящему оценить
срочность и сдвинуть всё с места...

вы сделаете это?

ДД: Да, и мы серьёзно продвигаемся.

Было несколько изменений
в истории Твиттера.

Первое — когда я вернулся в компанию,

мы находились в довольно тяжёлом положении
в отношении нашего будущего

не просто от того, как люди
пользовались платформой,

но и из-за нашей корпоративной риторики.

Так что нам пришлось поправить
несколько основных деталей,

развернуть компанию,

пережить два безумных периода увольнений,

потому что мы слишком разрослись
для того, чем мы занимались,

и мы направили все свои силы

на службу общественному диалогу.

Нам пришлось потрудиться.

Как только мы погрузились в дело,

мы осознали некоторые проблемы
с основными принципами.

Мы могли бы принять много поверхностных
действий, чтобы повлиять на происходящее,

но важно, чтобы изменения удержались,

а это значит, что нам нужно
копнуть очень глубоко

и быть внимательными к тому,
что мы начали 13 лет назад,

и действительно спрашивать себя,

как работает система, как работает
основная концепция,

и что нужно миру сегодня,

учитывая то, как быстро всё меняется
и как люди этим пользуются.

Мы работаем так быстро, как можем,
но скорость не решит все вопросы.

Нужен фокус, расстановка приоритетов,

понимание основ сети

и создание масштабируемой схемы,

устойчивой к переменам;

открытость о наших действиях
и принцип прозрачности,

чтобы мы могли заслуживать
доверия и дальше.

Так что я горжусь тем, что мы создали.

Я горжусь нашим направлением.

Само собой, мы можем двигаться быстрее,

но для этого нужно остановить те глупости,
которые мы сделали в прошлом.

КА: Хорошо.

Наверняка здесь много тех, кто бы
очень хотел, будь у них возможность,

помочь вам с этой темой перемен,

и я не знаю насчёт Уитни...

Джек, спасибо, что пришли и что
вы так открыто говорили.

Это смело.

Я очень признателен за этот разговор
и желаю удачи в вашей миссии.

ДД: Большое спасибо.
Спасибо за приглашение.

(Aплодисменты)

Спасибо.