Kevin Slavin: Como algoritmos moldam nosso mundo

Kevin Slavin argumenta que vivemos em um mundo criado para – e cada vez mais controlado por – algoritmos. Nesta instigante palestra em TEDGlobal, ele nos mostra como complexos programas de computadores determinam: táticas de espionagem, preços das ações, roteiros de filmes e arquitetura. E ele nos adverte que nós estamos escrevendo códigos que não entendemos com implicações que não podemos controlar.

Esta é uma fotografia

do artista Michael Najjar,

e é real,

no sentido de que ele foi à Argentina

para tirar esta foto.

Mas isso também é ficção. Muito foi feito nesta foto depois disso.

E o que ele fez

foi realmente reformar, digitalmente,

todos os contornos das montanhas

para acompanhar as vicissitudes do índice Dow Jones.

Então o que vemos,

aquele precipício, aquele profundo precipício e o vale,

é a crise financeira de 2008.

A foto foi feita

quando estávamos no fundo do vale, ali.

Não sei onde estamos atualmente.

Este é o índice Hang Seng

de Hong Kong.

E semelhante topografia.

Eu me pergunto por quê.

E isto é arte. Isto é metáfora.

Mas eu acho que o detalhe é

que esta é uma metáfora convincente.

E é com esta convicção que quero propor hoje

que repensemos um pouco

na função da matemática contemporânea –

não somente matemática financeira, mas matemática em geral.

Que a sua transição

de ser algo que extraímos e derivamos do mundo

para algo que realmente começa a dar forma a ele –

o mundo à nossa volta e nosso mundo interno.

E são especificamente os algoritmos,

que são, fundamentalmente, a matemática

que computadores usam para decidir coisas.

Eles adquirem a sensibilidade da verdade,

porque se repetem muitas vezes.

E eles se ossificam e se calcificam,

e tornam-se reais.

E eu pensei sobre isso, por incrível que pareça,

em um vôo transatlântico uns anos atrás,

porque eu, por acaso, estava sentado

ao lado de um físico húngaro da minha idade

e estávamos conversando

sobre como era a vida na época da Guerra Fria

para os físicos na Hungria.

E eu disse: “Então, o que você fazia?”

Ele disse: “Bem, normalmente nós quebrávamos sigilo.”

Eu disse: “Um bom emprego. É interessante.

Como isso funciona?”

E para compreendermos isso,

precisamos compreender um pouco como o sigilo funciona.

E, então – isto é uma simplificação excessiva –

basicamente, não é como

se você pudesse passar um sinal de radar

através de 156 toneladas de aço no céu.

Não vai simplesmente desaparecer.

Mas se você pode pegar esta coisa grande, enorme,

e a converter em

um milhão de coisinhas –

algo como um bando de pássaros –

bem, aí o radar que está à procura daquilo

tem que ter capacidade de ver

todos os bandos de pássaros no céu.

E se você é um radar, realmente este é um emprego ruim.

Ele disse: “Sim.” Disse: ‘Mas isto se você for um radar.

Nós não usávamos um radar;

nós construímos uma caixa-preta que procurava por sinais elétricos,

comunicação eletrônica.

E toda vez que víamos um bando de pássaros com comunicação eletrônica,

pensávamos que provavelmente tinha algo a haver com os americanos.”

Eu disse: “Sim.

É bom.

Então, efetivamente, negaram-lhe

60 anos de pesquisa aeronáutica.

Qual é o seu segundo ato?

O que você faz quando você cresce?”

Ele disse,

“Bem, serviços de finanças.”

Eu disse: “Ah.”

Porque esses tinham sido notícia recentemente.

Eu disse: “Como isto funciona?

Ele disse: “Bem, atualmente há 2.000 físicos em Wall Street,

e eu sou um deles.”

Eu disse: “O que é a caixa preta para Wall Street?”

Ele disse, “É engraçado você me fazer esta pergunta,

porque ela, na verdade, se chama caixa preta das negociações

E é também, às vezes, chamada de negociações algo,

negociações algorítmicas.”

E as negociações algorítmicas evoluíram em parte

porque os negociadores institucionais têm os mesmos problemas

que a Força Aérea dos EUA teve,

que é o fato de estarem movimentando essas posições –

seja a Proctor & Gamble ou a Accenture –

estão movimentando um milhão de ações de algo

através do mercado.

E se eles fazem isto tudo ao mesmo tempo,

é como jogar pôquer e apostar tudo de uma vez só.

Você apenas mostra sua mão.

E então eles têm que encontrar uma forma –

e o que fazem é usar algoritmos –

para partir aquela coisa grande

em um milhão de pequenas transações.

E a mágica e o horror disso

é que a mesma matemática

que se usa para partir a coisa grande

em milhões de coisinhas

pode ser usada para encontrar um milhão de coisinhas

e as emendar, todas juntas novamente

e entender o que realmente está acontecendo no mercado.

Então, se você precisa de uma imagem

do que está acontecendo no mercado de ações neste momento,

o que você pode visualizar é um monte de algoritmos

que basicamente são programados para esconder,

e um monte de algoritmos que são programados para ir, achar e agir.

E tudo isto é ótimo e está tudo bem.

E isso é 70 por cento

do mercado de ações dos Estados Unidos,

70 por cento do sistema operacional

antigamente conhecido como sua pensão,

sua hipoteca.

E o que poderia dar errado?

O que poderia dar errado

é que um ano atrás,

9 por cento do mercado inteiro simplesmente desapareceu por 5 minutos,

chamaram isto de 'flash crash' (quebra relâmpago) das 2:45.

De repente, 9 por cento simplesmente desaparecem,

e ninguém até hoje

pode concordar sobre o que aconteceu,

porque ninguém encomendou, pediu isto.

Ninguém tinha nenhum controle sobre o que realmente estava acontecendo.

Tudo que tinham

era um monitor à frente deles

com números

e somente um botão vermelho

que dizia, “Pare”.

E é isso,

nós estamos escrevendo coisas,

estamos escrevendo estas coisas que não mais podemos ler.

E apresentamos algo

ilegível

E perdemos a noção

do que realmente está acontecendo

nesse mundo que criamos

E estamos começando a avançar.

Há uma empresa em Boston, a Nanex,

onde usam matemática e mágica

e sei lá o que,

e eles entram em todos os dados de mercado

e, às vezes, encontram alguns desses algoritmos.

E quando os encontram eles os levantam

e os prendem na parede como borboletas.

E eles fazem o que sempre fizeram

quando confrontados com enormes quantidades de dados que não entendemos –

eles lhes dão um nome

e uma história.

Então, este é um que encontraram,

e o chamaram de ‘Knife’,

o ‘Carnival’,

o ‘Boston Shuffler’,

‘Twilight’.

E a piada é

que, claro, eles não estão somente passando pelo mercado.

Encontramos esses tipos de coisas em toda parte,

uma vez que aprendemos como buscá-los.

Você pode ver isso aqui: este livro sobre moscas

que talvez você esteja procurando na Amazon.

Você talvez tenha notado,

quando o preço dele era 1,7 milhões de dólares.

Está esgotado – mesmo assim ...

(Risos)

Se você o tivesse comprado por 1,7, teria sido uma pechincha.

Algumas horas mais tarde, aumentou

para 23,6 milhões de dólares,

mais transporte e manuseio.

E a questão é:

ninguém estava comprando ou vendendo nada; o que acontecia?

E vemos este comportamento na Amazon

tão certo quanto o vemos na Wall Street.

E quando se observa este tipo de comportamento,

o que se vê é a evidência

dos algoritmos em conflito,

algoritmos trancados em 'loops' um com o outro,

sem nenhum erro humano,

sem nenhuma supervisão adulta

dizendo: “Na verdade, 1,7 milhões é muito dinheiro.”

(Risos)

E como na Amazon, a empresa Netflix faz o mesmo.

A Netflix analisou,

ao longo dos anos, vários algoritmos diferentes.

Eles começaram com o 'Cinematch' e tentaram muitos outros.

Há o ‘Dinosaur Planet’, o ‘Gravity’.

Eles agora usam ‘Pragmatic Chaos’.

‘Pragmatic Chaos’ está, como todos os algoritmos da Netflix,

tentando fazer a mesma coisa.

Tenta ter uma idéia a seu respeito,

sobre o 'firmware' dentro do crânio humano,

assim pode recomendar qual o filme

que você possa querer assistir na próxima vez –

o que é um problema muito, muito difícil.

Mas a dificuldade do problema

e o fato que realmente nós não o resolvemos completamente,

não eliminam

os efeitos que o 'Pragmatic Chaos' tem.

O 'Pragmatic Chaos', como todos os algoritmos da Netflix,

determina, no final,

60 por cento

dos filmes que acabam sendo alugados.

Então, uma parte do código

com uma ideia a seu respeito

é responsável por 60 por cento desses filmes.

Mas, e se você pudesse classificar esses filmes

antes de serem filmados?

Não seria conveniente?

Bem, alguns cientistas de dados do Reino Unido estão em Hollywood,

e eles tem história de algoritmos –

com a empresa Epagogix.

Você pode executar o seu roteiro através dela,

e eles podem lhe informar, quantitativamente,

que esse é um filme de 30 milhões de dólares

ou de 200 milhões de dólares.

E o negócio é que isto não é Google.

Isto não é informação.

Não são estatísticas financeiras. Isto é cultura.

E o que vemos aqui,

ou o que realmente não vemos normalmente,

é que estes são a física da cultura.

E, se esses algoritmos,

como os algoritmos na Wall Street,

que um dia erraram e deixaram de funcionar,

como saberíamos,

como eles se pareceriam?

E eles estão em sua casa.

Aqui estão dois algoritmos competindo na sua sala.

Aqui estão dois robôs de limpeza diferentes,

com conceitos bem diferentes de limpeza.

E podemos ver isto

se baixarmos a velocidade e afixarmos luzes à eles.

Eles são um tipo de arquitetos secretos no seu quarto.

E a ideia de que arquitetura em si

é, de certa maneira, sujeita à otimização algorítmica

não é exagero.

É super real e está acontecendo à sua volta.

Sentimos isto mais

quando estamos em uma caixa de metal lacrada,

um elevador novo estilo,

chamados de elevadores com controle de destino.

Estes são aqueles que você precisa apertar o botão do andar a que quer ir

antes de entrar no elevador.

Ele usa aquilo que chamamos de algoritmo de embalagem.

Então, nada dessas loucuras

de deixar todo mundo entrar em qualquer elevador.

Os que querem ir para o 10º andar dirigem-se ao elevador 2,

e os que queiram ir para o 3º andar dirigem-se ao elevador 5,

E o problema disso

é que a pessoas ficam perturbadas.

Entram em pânico.

E você vê o porquê.

É porque no elevador está

faltando uma instrumentação importante, como os botões.

(Risos)

Como as coisas que as pessoas usam.

Tudo que tem

é um número indo para cima e para baixo

e aquele botão vermelho que diz: “Pare”.

E é para isso que é o design.

Estamos projetando

para o dialeto desta máquina.

E até que ponto você pode aguentar isso?

Você pode realmente aguentar, muito.

Voltando à Wall Street.

Porque os algoritmos da Wall Street

dependem de uma qualidade acima de tudo,

que é a rapidez.

Eles operam em milissegundos e microssegundos.

E só para lhe dar uma noção do que são microssegundos,

você leva 500.000 microssegundos

para clicar um mouse.

Mas, se você é um algoritmo da Wall Street

e está 5 microssegundos atrasado,

você é um fracassado.

Então, se você fosse um algoritmo,

você iria procurar um arquiteto como o que conheci em Frankfurt

que esvaziou um arranha-céu –

jogou fora todos os móveis, toda a infraestrutura para uso humano,

e deixou somente laminados de aço no piso

para se preparar para as pilhas de servidores –

tudo para que um algoritmo

pudesse ficar próximo da Internet.

E você pensa na Internet como esse tipo de sistema distribuído.

E é claro que é, mas é distribuído de lugares.

Em Nova York, é distribuído do

Hotel Carrier

na Rua Hudson.

E é realmente dali que os cabos vão até a cidade.

A realidade é que quanto mais distantes dali estamos,

ficamos atrasados alguns microssegundos todas as vezes.

Esses caras na Wall Street,

Marco Polo e Cherokee Nation,

estão 8 microssegundos

mais atrasados do que todos esses caras

que vão para prédios desocupados, sendo esvaziados

no entorno do Hotel Carrier.

O que vai continuar acontecendo.

Continuaremos esvaziando.

porque, centímetro por centímetro,

quilo por quilo e dólar por dólar,

nenhum de vocês poderia extrair rendimento daquele espaço,

como pode o 'Boston Shuffler'.

Mas se você diminuísse o zum,

se você diminuísse o zum,

veria uma trincheira de 1,330 quilômetros

entre Nova York e Chicago

que foi construída nos últimos anos

pela empresa Spread Networks.

Isto é um cabo de fibra óptica

que foi colocado entre estas duas cidades

para apenas um sinal poder trafegar

37 vezes mais rápido do que um clique de mouse –

só para esses algoritmos,

só para o 'Carnival' e o 'Knife'.

E quando pensamos nisso,

que estamos correndo pelos EUA

com dinamite e serras para cortar pedras

para que um algoritmo possa fechar o negócio

três microssegundos mais rápido,

tudo para uma estrutura de comunicações

que nenhum humano jamais saberá,

este é o tipo de Destino Manifesto

e estará sempre à procura de uma nova fronteira.

Infelizmente, temos nosso trabalho retirado de nós.

Isto é apenas teórico.

Estes são alguns matemáticos do MIT.

E a verdade é que não entendo realmente

muito sobre o que estão falando.

Trata-se de cones de luz e entrelaçamento quântico,

e eu realmente não entendo nada disso.

Mas, eu posso ler esse mapa.

E o que ele diz

é que, se você está tentando ganhar dinheiro nos mercados nos pontos vermelhos,

é lá que estão as pessoas, onde estão as cidades,

você terá que colocar os servidores nos pontos azuis

para ser mais eficaz.

E algo que talvez tenham notado sobre estes pontos azuis

é que muitos deles estão no meio do oceano.

Então, é isso que faremos, construiremos bolhas ou algo assim,

ou plataformas.

Vamos partir as águas

para extrair dinheiro do ar,

porque é um futuro promissor

se você é um algoritmo.

(Risos)

E, realmente, não é o dinheiro que é tão interessante.

É o que o dinheiro motiva.

É que estamos realmente terraformando

a própria Terra

com esse tipo de eficiência algorítmica.

E neste contexto,

você volta

e observa as fotografias de Michael Najjar,

e percebe que elas não são metáforas, mas profecias.

Elas são profecias

para o tipo de efeitos sísmicos, terrestres,

da matemática que estamos usando.

E a paisagem foi sempre feita

com esse tipo de colaboração esquisita, inquieta

entre a natureza e o homem.

Mas agora existe essa terceira força coevolucionária: os algoritmos –

o 'Boston Shuffler', o 'Carnival'.

E teremos que entendê-los como sendo natureza.

E, de certo modo, eles são.

Obrigado.

(Aplausos)