Como o Twitter precisa de mudar

O Twitter pode ser salvo? Numa conversa abrangente com Chris Anderson e Whitney Pennington Rodgers do TED, o CEO do Twitter, Jack Dorsey, discute o futuro da plataforma, reconhecendo problemas de assédio e moderação e propondo algumas mudanças fundamentais que ele espera que incentivem conversas saudáveis e respeitosas. “Estamos realmente a dar algo que as pessoas valorizam todos os dias?” pergunta Dorsey.

Chris Anderson:
O que te preocupa agora?

Foste muito franco acerca
de muitos dos problemas do Twitter.

Qual é a tua maior preocupação

acerca do estado das coisas neste momento?

Jack Dorsey: Neste momento
é a saúde das conversas.

O nosso propósito é estar ao serviço
das conversas públicas

e temos visto muitos ataques a isso.

Temos visto insultos, intimidação,

temos visto manipulação,

automatização, coordenação humana,
desinformação.

Isto são dinâmicas que não esperávamos

há 13 anos, quando começámos a empresa.

Vemo-las agora em grande escala.

O que mais me preocupa é a nossa
capacidade de as abordar

de uma forma sistemática
que seja expansível,

que tenha uma compreensão rigorosa
de como estamos a agir,

uma compreensão transparente
de como estamos a agir

e um rigoroso processo de recurso
para quando errarmos

porque nós vamos errar.

Whitney Pennington Rodgers:
Fico feliz por ouvir

que isso é uma coisa que te preocupa

porque escreveu-se tanto sobre pessoas

que se sentiram agredidas
e intimidadas no Twitter

em especial, mulheres e mulheres de cor,

mulheres negras.

Houve dados apresentados.

A Amnistia Internacional divulgou
um relatório há uns meses

em que mostraram que um subgrupo
de utilizadoras negras ativas do Twitter

em cada 10 "tweets" que recebiam

em média, um deles continha
qualquer tipo de intimidação.

Por isso, quando pensas na saúde
da comunidade no Twitter,

eu gostava de ouvir "saúde para todos".

Especificamente, como estás a tentar
tornar o Twitter um espaço seguro

para esse subgrupo, para as mulheres,
e para as mulheres de cor?

JD: Sim, é uma situação terrível

quando nos juntamos a um serviço

em que, idealmente, queremos
aprender algo sobre o mundo

e passamos a maior parte do tempo
a denunciar insultos, a receber insultos,

a receber intimidações.

O que nós estamos a analisar
com mais atenção são os incentivos

que a plataforma providencia naturalmente
e os serviços que providencia.

Agora a dinâmica do sistema faz
com que seja muito fácil intimidar

e insultar os outros através do serviço.

Infelizmente, a maior parte
do nosso sistema no passado

baseava-se em que as pessoas reportavam
as intimidações e insultos.

Em meados do ano passado,
decidimos que íamos utilizar

muito mais soluções
de aprendizagem de máquinas

e de aprendizagem profunda

e tentar ser mais proativos
quando os insultos acontecem,

para tirarmos completamente
o peso de cima da vítima.

Fizemos alguns progressos recentemente.

Cerca de 38% dos "tweets" insultuosos
são agora identificados proativamente

por algoritmos automáticos

e as pessoas já não têm de os reportar.

Mas os que são identificados
ainda são revistos por pessoas,

por isso não tiramos conteúdo ou contas
sem a revisão de um ser humano.

Mas isto era 0% há um ano.

Ou seja, com 0%,

cada pessoa que fosse insultada
tinha de os reportar,

o que lhes dava muito trabalho,
e nos dava muito trabalho

e, afinal de contas, era injusto.

O outro aspeto é que estamos a assegurar
que nós, como empresa,

temos representadas todas as comunidades
que estamos a tentar servir.

Não podemos construir
um negócio de sucesso

se não tivermos diversidade
de perspetivas dentro da nossa casa

onde se sentem esses problemas
todos os dias.

E isso não envolve só a equipa
que está a fazer o trabalho

mas também toda a direção.

Temos de continuar a criar empatia
com o que as pessoas estão a experimentar

e dar-lhes melhores ferramentas
para agirem

e também dar aos nossos clientes
uma abordagem melhor e mais fácil

para lidar com algumas coisas
que estão a ver.

Muito do que fazemos
está ligado à tecnologia

mas também estamos a olhar
para os incentivos do serviço:

O que é que o Twitter vos incentiva
a fazer quando o abrem?

No passado,

incentivou muita indignação,
incentivou muita violência de grupo,

incentivou muita intimidação a grupos.

Temos de olhar mais profundamente
para alguns dos princípios

do que o serviço está a fazer
para conseguir mudanças maiores.

Podemos fazer pequenas mudanças
a nível tecnológico, como já descrevi,

mas temos de olhar profundamente
para a dinâmica da rede em si

e é o que estamos a fazer.

CA: Mas o que é que achas?

Que tipo de coisas achas
que vão conseguir mudar

que sejam uma mudança
de comportamento fundamental?

JD: Bem, uma das coisas, por exemplo.

Começámos o serviço com o conceito
de seguir uma conta,

mas eu não acredito que seja para isso
que as pessoas usam o Twitter.

Acho que o Twitter funciona melhor como
uma rede social baseada em interesses.

As pessoas vêm
com um determinado interesse.

É trabalhoso encontrar e seguir as contas

relacionadas com esses interesses.

O que nós podemos fazer
é permitir seguir um interesse,

seguir uma "hashtag", uma tendência,

seguir uma comunidade,

o que nos dá a oportunidade
de mostrar todas as contas,

todos os temas, todos os momentos,
todas as "hashtags"

que estão associadas com esse tópico
ou interesse em particular,

o que abre a perspetiva do que vemos.

Isto é uma enorme mudança

fazer com que toda a rede
deixe de estar ligada às contas

e passe a estar ligada
a tópicos e interesses.

CA: Mas não se dá o caso

de que uma das razões pela qual
vocês têm tanto conteúdo

é o resultado de pôr milhões
de pessoas do mundo inteiro

nesta competição de gladiadores
uns contra os outros

para ganhar seguidores,
para conquistar atenção?

Do ponto de vista das pessoas
que só leem o Twitter,

isso não é um problema

mas para quem o criou, todos dizem:

"Gostava de ter mais 'likes',
mais seguidores, mais 'retweets'."

Estão sempre a experimentar,

a tentar encontrar um caminho para isso.

Descobrimos que o caminho
principal para isso

é algum tipo de provocação detestável,
eloquentemente detestável.

Os insultos eloquentes
são um sonho no Twitter,

onde rapidamente se acumulam

e se tornam neste processo
de autoalimentação da indignação.

Como se pode acabar com isso?

JD: Acho que é exatamente isso

mas voltamos de novo aos incentivos.

Uma das nossas escolhas iniciais

foi mostrar o número de pessoas
que nos seguiam.

Decidimos que esse número
devia ser grande e destacado

e, como tudo o que é grande
e destacado na página. é importante,

essas são as coisas que queremos atingir.

Foi a decisão certa na altura?

Provavelmente não.

Se eu criasse o serviço de novo,

não daria tanta ênfase
ao número de seguidores.

Não daria tanta ênfase aos "likes".

Acho que nem criaria os "likes"

porque não leva ao que acreditamos

ser a coisa mais importante,

isto é, uma contribuição saudável na rede

e conversas na rede,

uma participação nas conversas,

aprender algo com as conversas.

Não pensámos nestas coisas há 13 anos

e agora acreditamos
que são muito importantes.

Temos de ver como exibimos
o número de seguidores,

como exibimos o número de "retweets",

como exibimos os "likes"

e perguntar verdadeiramente:

É este o número
a que queremos dar ênfase?

É isto que vemos,
quando abrimos o Twitter:

"É isto que eu tenho de reforçar?"

Eu não acredito que agora
seja esse o caso.

(Aplausos)

WPR: Acho que devíamos ver alguns "tweets"

que também estão a vir da audiência.

CA: Vamos ver o que estão a perguntar.

Isto é uma das coisas fantásticas
do Twitter

é poder usá-lo para saber
a opinião de um grupo,

mais conhecimento, mais questões,
mais pontos de vista

do que se pode imaginar

e às vezes, muito saudáveis.

WPR: Vi um que passou
rapidamente por aqui:

"Como vão combater a interferência
estrangeira nas eleições de 2020?"

Penso que é um assunto

que estamos a ver na Internet em geral.

Há muita atividade automatizada
maliciosa.

No Twitter, de facto, temos trabalho

dos nossos amigos na Zignal Labs

e talvez possamos ver aí
um exemplo do que estou a falar,

em que temos estes "bots"

ou contas com atividade
automatizada maliciosa

que estão a ser usadas
para influenciar coisas como eleições.

Neste exemplo da Zignal
que eles partilharam connosco

usando os dados que têm do Twitter,

podem ver que, neste caso,

o branco representa seres humanos
- contas humanas, cada ponto é uma conta.

Quanto mais cor-de-rosa,

tanto mais atividade automatizada.

Podemos ver alguns seres humanos
a interagir com "bots".

Neste caso, está relacionado
com as eleições em Israel

e está a espalhar desinformação
acerca de Benny Gantz.

Como sabemos, no fim, as eleições
foram ganhas por Netanyahu

por uma pequena margem

que pode ter sido influenciada,
nalguns casos, por isso.

Quando pensamos no que está
a acontecer no Twitter,

o que é que vocês estão a fazer,
especificamente,

para assegurar que a desinformação
não se espalhe assim,

influenciando pessoas de formas
que afetam a democracia?

JD: Voltando um pouco atrás,

perguntámo-nos o seguinte:

Podemos medir a saúde de uma conversa

e o que é que isso significa?

Tal como temos indicadores

e temos indicadores humanos
para ver se estamos saudáveis ou não

tais como a temperatura, a cor da cara,

acreditamos que podíamos encontrar
indicadores da saúde das conversas.

Trabalhámos com um laboratório
chamado Cortico no MIT

para propor quatro indicadores iniciais

que acreditamos que podem
fazer medições no sistema.

O primeiro é o que chamamos
"atenção partilhada".

É uma medida de quanto da conversa

está atenta ao mesmo assunto
e não se dispersa.

O segundo chama-se "realidade partilhada"

e é a percentagem da conversa

que partilha os mesmo factos

- não se esses factos
são verdadeiros ou não

mas se estamos a partilhar os mesmos
factos nas conversas.

O terceiro é a "recetividade":

Quanto da conversa é recetivo ou cívico

ou, pelo contrário, é tóxico?

E o quarto é a "variedade de perspetiva".

Estaremos a ver bolhas de filtro
ou câmaras de eco,

ou estaremos a ter
uma variedade de opiniões

dentro da conversa?

Implícito nestes quatro é a compreensão

de que, à medida que aumentam,
a conversa torna-se mais saudável.

Então, o primeiro passo
é tentar medi-los "online",

o que achamos que conseguimos.

A maior dinâmica é em torno
da recetividade.

Temos uma pontuação de toxicidade
e um modelo de toxicidade, no sistema,

que consegue medir se é provável
que alguém se afaste

de uma conversa que está a ter no Twitter

porque sente que é tóxica,

a um nível muito alto.

Estamos a tentar medir o resto.

O próximo passo é,

enquanto construímos soluções,

ver como estas medidas
se comportam ao longo do tempo

e continuar a experimentar.

O nosso objetivo é assegurar
que estão equilibradas

porque, se aumentamos uma,
poderemos diminuir a outra.

Se aumentarmos a variedade
de perspetiva,

poderemos diminuir
a realidade partilhada.

CA: Agarrando numa das perguntas
que estão a chegar em massa...

JD: Questionamento constante.

CA: Muitas pessoas estão perplexas

perguntando porque é que é difícil
eliminar os nazis do Twitter?

JD: Temos diretrizes relativas
a grupos extremistas violentos

e a maior parte do nosso trabalho
e das nossas condições de funcionamento

estão ligados à conduta, não ao conteúdo.

Estamos a olhar para a conduta.

Conduta é usar o serviço

para intimidar alguém repetidamente
ou de forma pontual,

usar imagens de ódio

que poderão estar associadas ao KKK

ou ao Partido Nazi Americano.

Nós agimos imediatamente
contra estas coisas.

Estamos numa situação agora
em que esse termo é usado de forma vaga

mas nós não podemos considerar
qualquer pessoa

que use essa palavra
para acusar outra pessoa

como uma indicação factual
de que devem ser retirados da plataforma.

Muitos dos nossos modelos
são baseados em, número um:

Esta conta está associada
a um grupo extremista violento?

Se sim, podemos agir.

Fizemos isto com o KKK,
o Partido Nazi Americano e outros.

Número dois: Estão a usar
imagens ou conduta

que também os associaria a tal?

CA: Quantas pessoas têm a trabalhar
na moderação de conteúdos, para ver isso?

JD: Depende.

Queremos ser flexíveis nisto,

porque queremos ter a certeza
de que estamos, número um,

a construir algoritmos
em vez de contratar imensas pessoas

porque temos de ter a certeza
que podemos alargar isso

e não há nenhum número de pessoas
que consiga alargar isso.

Foi por isso que fizemos tanto trabalho
à volta da deteção proativa de insultos

que possam ser revistos por pessoass.

Queremos ter uma situação

em que haja algoritmos
constantemente a filtrar cada "tweet"

e a destacar os mais interessantes

para que seres humanos possam julgar
se devemos agir ou não,

com base nas nossas condições de serviço.

WPR: Não há um número de pessoas
que possa aumentar

mas quantas pessoas têm vocês agora
a monitorizar essas contas

e como conseguem perceber
quando esse número é suficiente?

JD: É uma coisa completamente flexível.

Às vezes associamos pessoas a "spam".

Às vezes associamos pessoas
a insultos e intimidação.

Vamos garantir que temos flexibilidade
quanto às pessoas que temos

para as direcionarmos
para onde são precisas.

Às vezes, para as eleições.

Tivemos uma série de eleições no México,

vai haver uma na Índia.

Obviamente, as eleições do ano passado,
as eleições intercalares

por isso queremos ser flexíveis
com os recursos.

Quando as pessoas,

por exemplo, forem
aos nossos termos de serviço atuais

e abrirem a página

e estiverem a pensar nos insultos
ou intimidações que receberem,

se isso vai contra os nossos termos
de serviço, para o denunciarem,

a primeira coisa que veem
ao abrir a página

é sobre a proteção
da propriedade intelectual.

A seguir, veem a parte
dos insultos, da intimidação

e de tudo a que podem estar sujeitos.

Não sei como isso aconteceu
no decorrer da história da empresa

mas pusemos isso acima
do que as pessoas querem

ou seja, mais informação
e mais capacidade de ação.

A nossa ordem mostra ao mundo
o que acreditamos ser mais importante.

Estamos a mudar tudo isso.

Estamos a ordenar da forma certa

mas também estamos a simplificar
as regras para que sejam compreensíveis

para que as pessoas compreendam

quando algo é contrário
aos nossos termos e quando não é.

Estamos a fazer isso.

De novo, o grande foco é tirar o peso
do trabalho de cima das vítimas.

Isso significa mais foco na tecnologia

do que em pessoas a trabalharem,

ou seja, as pessoas que são insultadas

e as pessoas que reveem esse trabalho.

Queremos assegurar

que não estamos a incentivar mais trabalho

à volta de algo extremamente negativo

e queremos ter um bom equilíbrio
entre a tecnologia

e aquilo em que os seres humanos
podem ser criativos

que é a julgarem as regras

e não na parte mecânica
de encontrar e denunciar.

É assim que nós vemos isto.

CA: Gostava de aprofundar
o que acabaste de dizer.

Adoro teres dito
que estão à procura de formas

de mudar o "design" fundamental do sistema

para desencoraja
comportamento reativo

- e usando uma linguagem do tipo
de Tristan Harris -

envolver talvez um pensamento
mais reflexivo das pessoas.

Em que ponto é que isso está?

Quais seriam as alternativas
ao botão do "like"?

JD: Bem, primeiro que tudo,

o meu objetivo pessoal com o serviço
é que acredito fundamentalmente

que as conversas públicas são cruciais.

Há problemas existenciais no mundo

que são enfrentados pelo mundo todo,
não só por um estado-nação,

que as conversas públicas globais beneficiam.

Isto é uma das dinâmicas únicas do Twitter

que é completamente aberto,

completamente público,
completamente fluido

e todos podem ver as conversas
e participar nelas.

Há conversas sobre a alteração climática.

Há conversas sobre
a deslocalização do trabalho

devido à inteligência artificial.

Há conversas sobre
a disparidade económica.

Independentemente
do que um estado-nação faz,

não conseguirão resolver
o problema sozinhos.

É necessário coordenação em todo o mundo

e é aí que o Twitter
pode desempenhar um papel.

A segunda coisa é que,
quando vamos ao Twitter

nem sempre saímos de lá a sentir
que aprendemos alguma coisa.

Algumas pessoas sim.

Algumas pessoas têm
uma rede muito rica,

uma comunidade muito rica
na qual aprendem todos os dias.

Mas é preciso muito trabalho
e muito tempo para construir isso.

Então queremos pôr as pessoas
nesses tópicos e nesses interesses

muito mais rapidamente

e certificar que elas estão
a encontrar qualquer coisa

que, independentemente do tempo
que estão no Twitter

- e eu não quero maximizar
o tempo no Twitter,

quero maximizar
o que as pessoas tiram dele

e o que aprendem dele.

CA: Mas queres mesmo?

Porque essa é a questão central
que muitas pessoas querem saber.

Jack, vocês estão certamente limitados
em grande medida

pelo facto de serem uma empresa pública,

têm investidores a pressionarem-vos,

a maior forma de ganharem dinheiro
é através de publicidade,

o que depende
do envolvimento do utilizador.

Estão prontos a abdicar do tempo
dos utilizadores, se necessário,

para conseguirem
uma conversa mais reflexiva?

JD: Sim, mais relevância significa
menos tempo no serviço

e não tem qualquer problema

porque queremos garantir
que chegam ao Twitter,

e veem imediatamente algo
que aprendem e que passam.

Podemos passar um anúncio na mesma.

Não significa que temos de gastar
mais tempo para ver mais.

O segundo ponto que estamos a ver...

CA: Relativamente a esse objetivo,
utilização ativa diária,

se estão a medir isso,
não significa necessariamente

coisas que as pessoas
valorizem todos os dias.

Pode significar coisas

que atraem pessoas
como a luz atrai a traça, todos os dias.

Estamos viciados porque vemos
algo que nos irrita,

entramos ali e deitamos lenha na fogueira,

e a utilização ativa diária cresce

e há mais receita de anúncios,

mas estamos todos zangados
uns com os outros.

Como defines "utilização ativa diária"?

Parece ser um termo
muito perigoso para otimizar.

(Aplausos)

JD: Visto isoladamente, é,

mas não me deixaram acabar
a outra métrica

que é estarmos a ver as conversas

e as cadeias de conversas.

Queremos incentivar contribuições
saudáveis de novo na rede

e o que nós acreditamos ser
participar numa conversa

que é saudável,

como definida naqueles quatro indicadores
que mencionei antes.

Não é possível otimizar
à volta de uma só métrica.

É preciso equilibrar
e olhar constantemente

para o que vai criar uma contribuição
saudável para a rede

e uma experiência saudável
para as pessoas.

No fundo, queremos uma métrica

em que as pessoas nos digam:

"Aprendi uma coisa no Twitter
e levo comigo algo valioso."

Este é o nosso objetivo ao longo do tempo

mas isso vai demorar algum tempo.

CA: Penso que muitos
veem isso como um enigma.

Talvez seja injusto
mas acordei uma noite

com uma imagem de como pensava
sobre ti e sobre esta situação.

Estávamos numa grande viagem
num barco chamado "Twittanic"...

(Risos)

e havia pessoas a bordo na terceira classe

que se queixavam de desconforto.

Ao contrário dos outros capitães,
tu dizias:

"Digam-me, falem comigo,
ouçam-me, eu quero ouvir."

E eles falam e dizem: "Estamos preocupados
com o icebergue ali à frente."

E tu dizes: "Sabem, é uma boa observação,

"o nosso navio não foi construído
adequadamente

"para a terceira classe como devia."

Nós dizemos: "Faz algo."

Tu vais para a ponte
e nós ficamos à espera,

olhamos e tu estás a mostrar
esta calma extraordinária

mas nós estamos todos cá fora a dizer:
"Jack, gira a porra do leme!"

Percebes?

(Risos)

(Aplausos)

Ou seja...

(Aplausos)

É a democracia que está em risco.

É a nossa cultura em risco.
É o nosso mundo em risco.

O Twitter é fantástico e modela muito.

Não é tão grande como outras plataformas

mas as pessoas com influência
usam-no para definir um programa,

e é difícil imaginar um papel
mais importante no mundo.

Estás a fazer um trabalho brilhante
a ouvir as pessoas, Jack,

mas vais marcar como urgente e fazer algo?

Vais fazer isso?

JD: Sim, nós temos mudado
substancialmente.

Houve algumas dinâmicas
na história do Twitter.

Uma, quando voltei para a empresa,

estávamos num momento difícil
em termos do nosso futuro

e não só de como as pessoas
estavam a usar a plataforma

mas também quanto
à narrativa corporativa.

Tivemos de reparar grande parte da base,

dar a volta à empresa,

passar por duas loucas
reduções de pessoal

porque éramos grandes demais
para o que estávamos a fazer

e concentrámos toda a nossa energia

neste conceito de servir
a conversa pública.

Foi preciso algum trabalho.

Quando mergulhámos nisso,

reparámos nalguns problemas
com os princípios.

Podíamos fazer um monte de coisas
superficiais para tratar do que falaste

mas precisamos que as mudanças durem

e isso significa ir mesmo ao fundo

e prestar atenção
ao que iniciámos há 13 anos

e questionar a sério

como o sistema funciona
e como o enquadramento funciona

e o que é preciso para o mundo de hoje,

dada a velocidade com que tudo se move
e como as pessoas estão a usá-lo.

Trabalhamos tão depressa quanto possível

mas não é a rapidez
que vai fazer o trabalho.

É a concentração,
o estabelecimento de prioridades,

é compreender os princípios da rede

e construir um enquadramento
que possa crescer

e que seja resistente à mudança

e aberto sobre onde estamos,
transparente sobre onde estamos

para continuarmos a ganhar confiança.

Tenho orgulho em todos os enquadramentos
que implementámos.

Tenho orgulho na nossa direção.

Claro que podemos andar mais depressa

mas isto exige abandonar uma série
de coisas parvas que fizemos no passado.

CA: Ok.

Eu suspeito que há muitas pessoas aqui
que, se pudessem,

adorariam ajudar-te neste plano
de mudanças em que estás

e não sei se a Whitney...

Jack, obrigado por vires aqui
e falares tão abertamente.

É preciso coragem.

Dou muito valor ao que disseste
e boa sorte com a tua missão.

JD: Muito obrigado. Obrigado pelo convite.

(Aplausos)

Obrigado.