Como o Twitter precisa mudar

O Twitter pode ser salvo? Em uma abrangente conversa com Chris Anderson e Whitney Pennington Rodgers, do TED, Jack Dorsey, CEO do Twitter, discute o futuro da plataforma, reconhecendo problemas com o assédio e a moderação e propondo algumas mudanças fundamentais que ele espera que encorajem conversas saudáveis ​​e respeitosas. "Estamos entregando de fato, todo dia, algo que as pessoas valorizam?", pergunta Dorsey.

Chris Anderson: Qual é
a sua preocupação atual?

Você tem sido bastante aberto
sobre muitos problemas do Twitter.

Qual seria a sua maior preocupação
sobre como as coisas estão hoje?

Jack Dorsey: Neste momento,
é a saúde da conversa.

Nosso propósito é servir
à conversa pública,

e temos visto muitos ataques nela.

Temos visto insulto, assédio, manipulação,

automação, coordenação humana
e desinformação.

Todas essas são dinâmicas
que não esperávamos 13 anos atrás,

quando começamos a empresa.

Mas agora vemos isso em grande escala,

e o que mais me preocupa é
a nossa capacidade de resolver isso

de forma sistêmica, em grande escala,

que tenha uma compreensão rigorosa

de como estamos agindo,

uma compreensão transparente
de como estamos agindo

e um processo rigoroso de contestação
para quando errarmos,

porque vamos errar.

Whitney Pennington Rodgers:
Que bom ouvir que isso te preocupa,

pois muito tem sido escrito sobre pessoas

que sentem que tem sido insultadas
e assediadas no Twitter,

sobretudo mulheres,
mulheres de cor e negras.

A Anistia Internacional divulgou
um relatório há alguns meses

apontando um subgrupo de mulheres
negras usuárias ativas do Twitter,

que, de cada dez tuítes que recebiam,

um, em média, era uma forma de assédio.

E, quando pensamos em saúde
para a comunidade do Twitter,

estou interessada em ouvir
"saúde para todos",

mas especificamente como você
tenta fazer do Twitter um espaço seguro

para esse subgrupo de mulheres,
mulheres de cor e negras?

JD: Verdade.

É uma situação bem terrível
quando se acessa um serviço

em que se busca, idealmente,
aprender algo sobre o mundo,

e se passa a maior parte do tempo
denunciando e recebendo insultos,

sofrendo assédio.

Então, nós...

estamos procurando
mais profundamente os incentivos

que a plataforma e o serviço
propiciam naturalmente.

Atualmente, a dinâmica
do sistema torna superfácil

assediar e insultar os outros
através do serviço,

e, infelizmente, boa parte
do nosso sistema no passado

trabalhou inteiramente com base
em pessoas denunciando assédio e insultos.

Por isso, em meados do ano passado,
decidimos que íamos aplicar

muito mais aprendizado de máquina,
e aprendizado profundo no problema,

e tentar ser muito mais proativos
quando o insulto está acontecendo,

para que possamos tirar
completamente o fardo da vítima.

E recentemente fizemos alguns progressos:

cerca de 38% dos tuítes insultantes
agora são identificados proativamente

por algoritmos de aprendizado de máquina

para que as pessoas
não precisem denunciá-los.

Mas aqueles que são identificados
ainda são revisados por humanos,

por isso não removemos conteúdo
ou contas sem a revisão humana.

Mas isso era 0% apenas um ano atrás.

Ou seja, esse 0% representa

que toda pessoa que era insultada
tinha de reportá-lo,

o que significava muito trabalho
para elas e para nós,

algo completamente injusto.

A outra coisa que estamos fazendo
é assegurar que, como empresa,

tenhamos representação de todas
as comunidades que tentamos atender.

Não podemos construir
um negócio bem-sucedido

sem que tenhamos conosco
uma diversidade de perspectivas

que sintam de fato
esses problemas todos os dias.

E isso não é só com a equipe operacional,
mas também na liderança da empresa.

Precisamos continuar a construir empatia

pelo que as pessoas estão experimentando
e lhes dar melhores ferramentas para agir

e também dar aos nossos clientes
uma abordagem melhor e mais fácil

para lidar com algumas
das coisas que estão vendo.

Assim, muito do que estamos fazendo
tem a ver com tecnologia,

mas também consideramos
os incentivos no serviço:

o que o Twitter incentiva a pessoa a fazer
quando ela o acessa pela primeira vez?

No passado,

ele incentivou muito disparate,
muito comportamento de massa,

muito assédio em grupo.

Temos de olhar muito mais profundamente
alguns dos fundamentos

do que o serviço está fazendo
para criar as maiores mudanças.

Podemos fazer várias pequenas
mudanças com a tecnologia,

como acabei de descrever,

mas, em última análise, temos de observar
profundamente a dinâmica da própria rede,

e é o que estamos fazendo hoje.

CA: Mas o que na sua opinião

você teria condições de alterar

que fundamentalmente
mudaria o comportamento?

JD: Bem, nós começamos o serviço
com o conceito de seguir uma conta,

como um exemplo,

e não acredito que seja por isso
que as pessoas acessem o Twitter.

Acredito que o Twitter seja melhor
como uma rede baseada em interesses.

As pessoas o acessam
devido a um determinado interesse.

Elas têm muito trabalho para encontrar
e acompanhar as contas relacionadas

a esses interesses.

Poderíamos, em vez disso,
permitir que seguissem um interesse,

seguissem uma hashtag,
uma tendência, uma comunidade,

o que nos dá a oportunidade
de mostrar todas as contas,

todos os tópicos, os momentos,
todas as hashtags

que estão associados àquele
determinado tópico e interesse,

o que realmente abre
a perspectiva que a pessoa vê.

Mas essa é uma enorme mudança fundamental,

para desviar toda a rede
do viés de apenas uma conta

para um viés de tópicos e interesses.

CA: Mas não é verdade

que o fato de haver tanto conteúdo lá

é o resultado de se colocar
milhões de pessoas do mundo todo

num tipo de competição gladiatorial
umas com as outras

por seguidores, por atenção?

Do ponto de vista daqueles
que apenas leem o Twitter,

isso não é problema,

mas, para quem cria tuítes, eles dizem:

"Eu gostaria de ter mais curtidas,
seguidores, retuítes".

Assim, elas constantemente experimentam,

tentando encontrar um jeito de fazer isso.

E parece que todos descobriram
que o melhor jeito é sendo,

de alguma forma, provocativo

detestável, eloquentemente detestável...

insultos eloquentes
são um sonho no Twitter

e a pessoa se avulta rapidamente,

retroalimentando esse processo
de estimular ultrajes.

Como você neutraliza isso?

JD: Sim, acho que você foi ao ponto,

mas isso remonta aos incentivos.

Uma das escolhas que fizemos no início

foi mostrar o número de seguidores.

Decidimos que esse número
deveria ser grande e ambicioso,

e qualquer coisa numa página
grande e ambiciosa teria importância,

e a pessoa buscaria atrair essas coisas.

Foi uma decisão acertada na época?
Provavelmente não.

Se tivesse de recomeçar o Twitter,

não enfatizaria tanto
o número de seguidores,

nem o número de curtidas.

Pra começar, acho
que nem criaria as curtidas,

porque elas não estimulam

aquilo que agora acreditamos
ser o mais importante,

que é a contribuição saudável para a rede,

conversa dentro da rede,

participação dentro da conversa,

e aprender algo com essa conversa.

Não consideramos essas coisas há 13 anos,

mas hoje acreditamos que sejam
extremamente importantes.

Então temos de ver como mostramos
a conta do seguidor,

a contagem de retuítes,
como mostramos as curtidas,

e nos perguntar seriamente:

esse é realmente o número que queremos
que as pessoas alcancem?

É isso o que a pessoa,
quando abre o Twitter,

pensa: "É isso o que eu preciso aumentar?"

E não acredito que seja o caso agora.

(Aplausos)

WPR: Vamos ver alguns dos tuítes chegando
com perguntas da plateia também.

CA: Vejamos o que estão perguntando.

Umas das coisas incríveis sobre o Twitter

é como podemos usá-lo
como inteligência coletiva,

sabe, mais conhecimento, mais perguntas,

mais opiniões do que se pode imaginar

e, às vezes, muitos deles
são realmente saudáveis.

WPR: Uma das perguntas aqui é:
"Qual o plano do Twitter para combater

a ingerência estrangeira
nas eleições dos EUA em 2020?"

Acho que essa é uma questão
que vemos na internet em geral,

pois há muita atividade maliciosa
automatizada acontecendo.

E no Twitter, por exemplo,
temos um trabalho

dos nossos amigos no Zignal Labs,

e talvez possamos pegar um exemplo
para demonstrar o que estou falando,

no qual existem esses "bots",

ou atividade de conta automatizada
coordenada maliciosa,

sendo usados para influenciar,
por exemplo, as eleições.

E temos um exemplo do Zignal,
que eles compartilharam conosco,

usando os dados que eles têm do Twitter,

e podemos ver que, nesse caso,

o branco representa cada ponto
como uma conta de humano.

Quanto mais rosa,
mais automatizada é a atividade

e dá pra ver como existem
alguns humanos interagindo com bots.

Trata-se aqui da eleição em Israel,

em que se espalhou desinformação
sobre Benny Gantz,

e, no final, essa foi uma eleição

na qual Netanyahu ganhou
por uma pequena margem,

e pode ter sido influenciado por isso.

E quando pensamos
nisso acontecendo no Twitter,

o que estão fazendo especificamente

para evitar que desinformação
assim se espalhe dessa maneira,

influenciando as pessoas em maneiras
que podem afetar a democracia?

JD: Só para voltar um pouco.

Nós nos perguntamos:

podemos realmente medir
a saúde de uma conversa,

e o que isso significa?

E da mesma maneira
que existem indicadores

para medir a saúde dos seres humanos,

como temperatura, as faces coradas,

acreditamos que poderíamos encontrar
os indicadores da saúde conversacional.

E trabalhamos com um laboratório
chamado Cortico, no MIT,

para propor quatro indicadores iniciais

que acreditamos que poderiam
no final serem medidas no sistema.

O primeiro é o que chamamos
de atenção compartilhada.

Ele mede quanto da conversa tem a ver

com o mesmo tópico ou é um disparate.

O segundo é chamado
realidade compartilhada,

que mede qual porcentagem da conversa
compartilha os mesmos fatos.

Não mede se os fatos
são verdadeiros ou não,

mas se compartilhamos os mesmos fatos
enquanto conversamos.

O terceiro é a receptividade:

quanto da conversa
é receptiva ou civilizada,

ou o inverso, tóxica?

E o quarto é a variedade de perspectiva.

Assim, estamos vendo bolhas
de filtro ou câmaras de eco,

ou recebendo uma variedade
de opiniões dentro da conversa?

Está implícito em todos esses quatro
o entendimento de que,

à medida que eles aumentam,
a conversa fica cada vez mais saudável.

Então, nosso primeiro passo é ver
se podemos medir isso on-line,

o que acreditamos poder.

Estamos num ótimo momento
no que se refere à receptividade.

Temos uma pontuação de toxicidade,
um modelo de toxicidade, em nosso sistema

que pode medir de fato
a chance de a pessoa se afastar

de uma conversa que está tendo no Twitter,

por sentir que é tóxica,
num grau bastante preciso.

Estamos trabalhando para medir o resto,

e o próximo passo é,

enquanto construímos soluções,

ver como essas medidas
se comportam ao longo do tempo

e continuar a testar.

E nosso objetivo é garantir
que os indicadores estejam equilibrados,

porque, se aumentarmos um,
podemos diminuir outro.

Se aumentarmos a variedade de perspectiva,

podemos acabar diminuindo
a realidade compartilhada.

CA: Só para pegar algumas
das inúmeras perguntas aqui.

JD: Questionamento constante.

CA: Muitas pessoas estão intrigadas

em saber quão difícil é se livrar
de nazistas no Twitter.

JD: (Risos)

Temos políticas para grupos
extremistas violentos,

e a maior parte do nosso trabalho
e dos nossos termos de serviço

trabalha na conduta, não no conteúdo.

Então, realmente focamos a conduta.

Conduta na utilização do serviço,

repetidamente ou ocasionalmente
assediar alguém,

usar imagens cheias de ódio

que possam estar associadas ao KKK

ou ao Partido Nazista Americano.

Tudo isso são coisas
nas quais agimos imediatamente.

Estamos numa situação em que esse termo
é usado de forma bastante frouxa,

e não podemos aceitar simplesmente
a palavra de uma pessoa

para acusar uma outra

como uma indicação fatual de que esta
deva ser removida da plataforma.

Então muitos dos nossos modelos
baseiam-se, primeiro:

essa conta está associada
a um grupo extremista violento?

E, se for o caso, podemos agir.

E fizemos isso com o KKK
e o Partido Nazista Americano e outros.

Segundo: eles estão usando
imagens ou tendo condutas

que os associariam a isso também?

CA: Quantas pessoas trabalham
na moderação de conteúdo, cuidando disso?

JD: Isso varia.

Queremos ser flexíveis nisso,

porque queremos ter certeza
de estarmos, primeiramente,

construindo algoritmos em vez de apenas
contratar um número enorme de pessoas,

porque precisamos ter certeza
de que isso pode ser ajustado,

e não há um número de pessoas
que se possa ajustar a isso.

Por isso trabalhamos muito
na detecção proativa do insulto

que humanos possam rever.

Queremos ter uma situação

em que os algoritmos vasculhem
constantemente cada tuíte,

trazendo os mais interessantes para o topo

para que humanos possam avaliar,
para saber se devemos agir ou não,

com base em nossos termos de serviço.

WPR: Pode não haver uma quantidade
ajustável de pessoas,

mas quantas vocês têm atualmente
monitorando essas contas,

e como sabem que é suficiente?

JD: Elas são completamente flexíveis.

Às vezes as designamos para spam,

outras vezes para insulto e assédio.

Buscamos ser flexíveis com nosso pessoal

de modo a direcioná-lo
para o que for mais necessário.

Às vezes, são as eleições.

Tivemos uma sequência
de eleições no México,

uma em breve na Índia,

obviamente as eleições
legislativas do ano passado,

então nós queremos ser flexíveis
com nossos recursos.

Apenas como um exemplo, se você
consultar nossos termos de serviço atuais

e rolar a página para cima,

e estiver se perguntando sobre o insulto
ou assédio que acabou de sofrer

para saber se denunciá-lo
é contra nossos termos de serviço,

a primeira coisa que vai ver
ao abrir essa página

é sobre proteção
da propriedade intelectual.

Ao rolar para baixo,
vai ler sobre insulto, assédio

ou qualquer outra coisa
que possa estar sofrendo.

Não sei bem como isso aconteceu
ao longo da história da empresa,

mas colocamos isso acima
da coisa que as pessoas querem,

mais informações sobre isso e como agir.

E a nossa forma de ordenar isso mostra
o que acreditávamos ser importante.

Estamos mudando tudo isso.

Estamos ordenando do jeito certo,
mas também simplificando as regras

para que sejam legíveis para as pessoas
e que elas consigam de fato entender

quando algo é contra
nossos termos e quando não é.

E estamos fazendo...

novamente, nosso grande foco
é remover o peso do trabalho das vítimas.

E isso significa usar mais tecnologia,

em vez de seres humanos,

o que significa seres
humanos sofrendo insulto

e tendo de rever esse trabalho.

Assim, queremos assegurar

que não estamos apenas
incentivando mais trabalho

em torno de algo que é supernegativo

e queremos um bom equilíbrio
entre a tecnologia

e onde os humanos podem ser criativos,

que é o julgamento das regras,

e não apenas toda a coisa mecânica
de encontrá-los e reportá-los.

É isso que pensamos.

CA: Gostaria de explorar mais isso.

Adorei o que disse sobre procurar maneiras

para reajustar o design
fundamental do sistema

para desencorajar alguns
dos comportamento reativos e talvez,

para usar termos de Tristan Harris,

atrair o pensamento
mais reflexivo das pessoas.

Como estão os avanços nisso?

Quais seriam as alternativas
para aquele botão "curtir"?

JD: Bem, em primeiro lugar,

meu objetivo pessoal com o serviço
é que acredito fundamentalmente

que a conversa pública é crucial.

O mundo inteiro está enfrentando
problemas existenciais,

não apenas um estado-nação em particular,

de que o debate público
global se beneficia.

E essa é uma das dinâmicas
únicas do Twitter:

ser completamente aberto,

completamente público, fluído,

e qualquer um pode ver
qualquer conversa e participar dela.

Há conversas como a mudança climática.

Há conversas como perda
de vagas de emprego

por causa da inteligência artificial.

Há conversas como disparidade econômica.

Não importa o que qualquer
estado-nação faça,

ele não será capaz de resolver
o problema sozinho.

É preciso coordenação
com o resto do mundo,

e é aí que acho que o Twitter
pode desempenhar um papel.

A segunda coisa é que o Twitter,
como é hoje, quando você acessa,

não sai sentindo necessariamente
que aprendeu alguma coisa.

Algumas pessoas sentem

e possuem uma rede muito rica,

uma comunidade muito rica
com a qual aprendem todos os dias.

Mas é preciso muito trabalho
e muito tempo para construir isso.

Queremos levar as pessoas
para esses tópicos e interesses

de forma muito mais rápida

e assegurar que elas encontrem algo que,

não importa quanto tempo
elas passem no Twitter,

e não quero maximizar o tempo no Twitter,

quero maximizar
o que elas realmente tiram de lá

e o que aprendem com isso, e...

CA: Bem, essa é a questão central
que muita gente quer saber.

Certamente, Jack, você está
limitado, em grande medida,

pelo fato de ser uma empresa pública,
ter investidores te pressionando,

sua principal fonte
de dinheiro ser a publicidade

e isso depende do envolvimento do usuário.

Você está disposto a sacrificar
o tempo do usuário, se necessário,

para ir para uma conversa mais reflexiva?

JD: Sim, mais relevância significa
menos tempo no serviço,

e isso está perfeitamente bem,

porque queremos ter certeza
de que a pessoa acesse o Twitter

e veja algo imediatamente
com que aprenda e divulgue.

Ainda podemos veicular um anúncio aí.

Não significa que precisa
de mais tempo para ver mais.

A segunda coisa...

CA: Nesse objetivo, uso ativo diário,
se você está medindo isso,

não significa necessariamente coisas
que as pessoas valorizam todo dia.

Podem ser coisas para as quais
as pessoas são atraídas,

como a mariposa para a luz,
todo dia... somos viciados.

Vemos algo que nos irrita,

aí entramos e jogamos lenha na fogueira,

e o uso ativo diário aumenta,
e há mais receita publicitária,

mas todos ficamos
com mais raiva uns dos outros.

Como você define...

"uso ativo diário" parece ser realmente
um termo perigoso para otimizar.

(Aplausos)

JD: Tomado sozinho, é,

mas você não me deixou
terminar a outra métrica,

que é estarmos atentos a conversas

e cadeias de conversas.

Queremos incentivar
contribuição saudável de volta à rede,

e acreditamos que isso possa ser feito
participando de conversas saudáveis,

definidas por aqueles quatro indicadores
que mencionei anteriormente.

Por isso não podemos otimizar
apenas uma métrica.

Temos de equilibrar e olhar constantemente

o que realmente vai criar
uma contribuição saudável para a rede

e uma experiência saudável
para as pessoas.

No final, queremos chegar a uma métrica
em que as pessoas nos digam:

"Ei, aprendi algo no Twitter,
e estou saindo com algo de valor".

Esse é o nosso objetivo,
mas vai levar algum tempo.

CA: Para muitos, e para mim,
você é um enigma.

Isso é possivelmente injusto,
mas acordei uma noite dessas

com uma imagem de como eu via
você e a situação:

estamos numa viagem ótima com você
num navio chamado "Twittanic"...

(Risos)

e há pessoas a bordo na terceira classe

que estão expressando desconforto,

e você, ao contrário
de muitos outros comandantes,

está dizendo: "Bem, me contem,
falem comigo, quero ouvir".

E elas dizem: "Estamos preocupados
com o iceberg à frente".

Você diz: "Essa é uma questão importante,

e nosso navio, francamente, não foi feito
para ser dirigido como deveria".

E lhe pedimos: "Por favor, faça algo".

Você vai à cabine de comando,
e ficamos esperando, observando

e você demonstra uma calma extraordinária,

mas todos nós estamos do lado de fora,
dizendo: "Jack, vire essa porra de leme!"

Sabe?

(Risos)

(Aplausos) (Vivas)

É a democracia em jogo,

é a nossa cultura e nosso mundo em jogo,

e o Twitter é incrível e molda muito.

Não é tão grande
quanto outras plataformas,

mas as pessoas de influência
usam-no para definir a agenda,

e é difícil imaginar um papel
mais importante no mundo do que para...

quero dizer, você está fazendo um trabalho
brilhante de ouvir as pessoas, Jack,

mas é preciso ressaltar a urgência
e trabalhar nisso.

Você pretende fazer isso?

JD: Sim, e estamos
nos movendo significativamente.

Tem havido algumas dinâmicas
na história do Twitter.

Uma, quando voltei para a empresa,

estávamos num estado terrível
em termos do nosso futuro,

não apenas como as pessoas
estavam usando a plataforma,

mas nossa narrativa corporativa também.

Tivemos de consertar muito da fundação,

revirar a empresa,

passar por duas demissões
em massa malucas,

porque ficamos grandes demais
para o que estávamos fazendo,

e concentramos toda nossa energia

no conceito de servir à conversa pública.

E isso exigiu muito trabalho.

E, quando mergulhamos nisso,

percebemos alguns dos problemas
com os fundamentos.

Poderíamos fazer um monte
de coisas superficiais

para abordar o que você está falando,
mas precisamos de mudanças duradouras,

e isso significa ir mais fundo

e prestar atenção
ao que começamos há 13 anos,

questionando de fato

como o sistema e a estrutura funcionam

e o que é necessário para o mundo hoje,

dada a rapidez como tudo está se movendo
e as pessoas o estão usando.

Trabalhamos o mais rápido possível,
mas rapidez não vai resolver.

É o foco, é a priorização,

é entender os fundamentos da rede

e construir uma estrutura que se ajuste,

que seja resiliente à mudança,

e ser abertos e transparentes
sobre onde estamos

para que possamos
continuar a merecer confiança.

Por isso estou orgulhoso
das estruturas que estabelecemos.

Estou orgulhoso da nossa direção.

Obviamente podemos nos mover mais rápido,

mas isso demandaria

simplesmente evitar um monte de coisas
estúpidas que fazíamos no passado.

CA: Suspeito que há muitas pessoas aqui
que, se tivessem a chance,

adorariam ajudá-lo
nessa sua agenda de mudança

e, não sei a Whitney...

Jack, obrigado por vir aqui
e falar tão abertamente.

Foi preciso coragem.

Muito obrigado pelo que você falou
e boa sorte com sua missão.

JD: Muito obrigado.
Obrigado por me receber.

(Aplausos)

Obrigado.