Como os algoritmos modelam o nosso mundo

Kevin Slavin defende que vivemos num mundo construído para os algoritmos — e cada vez mais controlado por eles. Nesta palestra cativante do TEDGlobal, ele mostra como estes complexos programas de computador determinam táticas de espionagem, preços das ações, guiões de filmes e arquitetura. E faz um alerta quanto ao facto de escrevermos códigos que não entendemos, com consequências que não podemos controlar.

Esta é uma fotografia
tirada pelo artista Michael Najjar,

e é verdadeira,

no sentido em que ele foi à Argentina

para tirar esta foto.

Mas também é uma ficção.

Houve muito trabalho depois de tirá-la.

Ele remodelou, digitalmente,

todos os contornos das montanhas

para que seguissem
as vicissitudes do índice Dow Jones.

Então o que aqui veem,

este grande precipício com um vale,

é a crise financeira de 2008.

A foto foi tirada quando
estávamos ali em baixo, no vale.

Não sei onde estamos agora.

Este é o índice Hang Seng, de Hong Kong.

E uma topografia similar.

Pergunto-me porquê.

Isto é arte. Isto é uma metáfora.

Mas eu acho que a questão
é que isto é uma metáfora com dentes.

É com esses dentes
que eu quero propor, hoje,

que repensemos um pouco

no papel da matemática contemporânea

— não só na matemática financeira,
mas na matemática em geral.

Ou seja, na transição duma coisa

que extraímos e obtemos do mundo

para uma coisa que lhe começa a dar forma,

ao mundo à nossa volta
e ao mundo dentro de nós.

São especificamente os algoritmos,

que são basicamente a matemática

que os computadores usam
para tomar decisões.

Eles adquirem a sensibilidade da verdade,

porque repetem e tornam a repetir,
vezes sem conta.

Ossificam-se, calcificam-se
e tornam-se reais.

Eu estava a pensar nisto

num voo transatlântico há uns anos,

porque aconteceu eu ir sentado

ao lado de um físico húngaro
da minha idade.

Falámos em como era a vida
durante a Guerra Fria,

para os físicos na Hungria.

E eu disse: "O que é que vocês faziam?"

E ele: "Normalmente
destruíamos os escudos furtivos."

E eu: "Esse é um bom trabalho.
Interessante.

"Como é que funciona?"

Para percebermos isto,

temos de perceber um pouco
a tecnologia furtiva.

Assim — esta é uma extrema simplificação —

mas basicamente, não é

como se pudéssemos simplesmente
passar um sinal de radar

através de 156 toneladas de aço no céu.

Não vai pura e simplesmente desaparecer.

Mas, se pudermos pegar
nessas coisas enormes

e transformá-las em milhões
de coisinhas pequenas

— como um bando de pássaros —

o radar que estiver à procura delas

tem de ser capaz de ver
todos os bandos de pássaros no céu.

Para um radar, isso é um trabalho péssimo.

E ele disse:
"Sim. Mas isso é se for um radar.

"Por isso, não usamos um radar;

"construíamos uma caixa negra
que procurava sinais elétricos,

"comunicação eletrónica.

"Sempre que víamos um bando de pássaros
dotado de comunicação eletrónica,

"pensávamos que devia ter
alguma coisa a ver com os americanos."

Eu disse "Sim. Essa é boa.

"Então vocês efetivamente negaram

"60 anos de pesquisa aeronáutica.

"Qual é o segundo ato?

"O que fazem quando crescerem?"

E ele disse:

"Serviços financeiros."

E eu disse: "Oh."

Porque isso tem estado
ultimamente nas notícias.

E eu disse: "Como é que isso funciona?"

E ele disse: "Há 2000 físicos
em Wall Street, agora,

"e eu sou um deles."

E eu disse:
"Qual é a caixa preta de Wall Street?"

E ele disse:
"Tem piada que me pergunte,

"porque chamam-lhe
comércio de caixa preta.

"E às vezes também lhe chamam
comércio algorítmico."

O comércio algorítmico evoluiu

porque os investidores institucionais
têm os mesmos problemas

que a Força Aérea dos EUA teve,

ou seja, movimentam as suas posições

— seja Proctor & Gamble
ou Accenture, tanto faz —

movimentam milhões de ações
de qualquer coisa pelo mercado.

Se fizerem isso tudo de uma vez só,

é como jogar póquer
e apostar tudo na primeira jogada.

Revelam o jogo todo.

Então, precisam de encontrar uma forma

e usam algoritmos para fazê-lo

— quebrar o todo em milhões
de pequenas transações.

A magia e o horror disto

é que a mesma matemática

que é usada para quebrar o todo
em milhões de pequenas coisas

pode ser usada para encontrar
milhões de coisas pequenas,

uni-las novamente

e descobrir o que está
a acontecer no mercado.

Se precisarem de uma imagem

do que está a acontecer agora
no mercado de ações,

o que podem imaginar
um conjunto de algoritmos

que são basicamente programados
para esconder,

e um conjunto de algoritmos
programados para encontrá-los e agirem.

Tudo isso é ótimo, é porreiro.

E isso é 70% do mercado
de ações americano,

70% do sistema operacional,

antigamente conhecido
como as nossas reformas...

(Risos)

...as nossas hipotecas.

O que é que pode correr mal?

O que pode correr mal

é que há um ano, 9% de todo o mercado

desapareceu no espaço de cinco minutos.

Chamaram-lhe o "Flash Crash
das 2 horas e 45".

De repente, desapareceram 9%,

e ainda ninguém até hoje

consegue chegar a acordo
sobre o que aconteceu,

porque ninguém o ordenou,
ninguém o pediu.

Ninguém tinha controlo
sobre o que estava a acontecer.

Tudo que eles tinham

era um monitor à frente que tinha números

e um botão vermelho que dizia: "Parar."

A questão é essa.

Escrevemos coisas,

escrevemos coisas
que já não conseguimos ler.

Demos origem a uma coisa ilegível.

Perdemos a noção

do que realmente está a acontecer

neste mundo que construímos.

Estamos a começar
a fazer o nosso percurso.

Há uma empresa em Boston chamada Nanex.

Usam matemática e magia
e não sei mais o quê.

Têm acesso a todos os dados do mercado

e encontram, às vezes,
alguns desses algoritmos.

Quando os encontram, extraem-nos

e pregam-nos à parede como borboletas.

Fazem o que sempre fizemos
quando confrontados

com grandes quantidades
de dados que não entendemos

— dão-lhe um nome e uma história.

Este é um dos que eles encontraram,

a que chamaram a Faca,

o Carnaval,

o Emplastro de Boston,

o Crepúsculo.

A piada é que eles
não andam apenas no mercado.

Podemos encontrar este tipo de coisas
para onde quer que olhemos,

depois de aprendermos a procurá-los.

Podemos encontrá-los aqui:
neste livro sobre moscas

de que andámos à procura no Amazon.

Podemos ter reparado nele

quando o preço começou
em 1,7 milhões de dólares.

Está fora de impressão, mas...

(Risos)

se o tivéssemos comprado por 1,7 milhões,
teria sido uma pechincha.

Poucas horas depois, tinha aumentado

para 23,6 milhões de dólares,

mais os portes de envio.

A questão é esta:

Ninguém estava a comprar ou a vender;
o que é que aconteceu?

Este comportamento é visível na Amazon

tal como se vê em Wall Street.

Quando vemos este comportamento,

estamos a ver a prova
de algoritmos em conflito,

algoritmos presos em círculos
com outros algoritmos,

sem vigilância humana,

sem supervisão de um adulto que diga:

"Na verdade, 1,7 milhões é muito."

(Risos)

Assim como acontece na Amazon,
acontece na Netflix.

A Netflix tem utilizado
vários algoritmos ao longo dos anos.

Começaram com o Cinemath,
e tentaram vários outros

— há o Dinosaur Planet; há o Gravity.

Agora estão a usar o Pragmatic Chaos.

O Pragmatic Chaos está,
como todos os algoritmos da Netflix,

a tentar fazer a mesma coisa.

Está a tentar compreender

a programação do" hardware
do crânio humano,

para poder recomendar que filme

podemos querer ver em seguida

— o que é um problema muito difícil.

Mas a dificuldade do problema

e o facto que ainda não entendemos,

não elimina os efeitos
que o Pragmatic Chaos tem.

O Pragmatic Chaos, tal como todos
os algoritmos da Netflix,

acaba por determinar

uns 60% dos filmes
que acabam por ser alugados.

Assim, um pedaço de código

com uma ideia sobre cada um de nós,

é responsável por 60% desses filmes.

E se nós pudéssemos avaliar esses filmes
antes de serem feitos?

Não seria útil?

Há alguns cientistas de dados
no Reino Unido, ou em Hollywood

que têm "algoritmos de história"

— é uma empresa chamada Epagogix.

Podemos apresentar-lhes o nosso guião

e eles podem dizer, quantitativamente,

se é um filme de 30 milhões de dólares
ou de 200 milhões de dólares.

O facto é que isto não é o Google.

Isto não são informações.

Não são estatísticas financeiras;
isto é cultura.

O que vemos aqui, ou o que
normalmente não vemos,

é que isto é a física da cultura.

Se estes algoritmos

— como os algoritmos em Wall Street —

um dia falhassem e dessem para o torto,

como é que saberíamos?

Qual seria o aspeto?

Eles estão em nossa casa.
Estão na nossa casa.

Há dois algoritmos que competem
pela nossa sala de estar.

São dois tipos de robôs de limpeza

que têm ideias distintas
quanto ao significado de limpeza.

E podemos vê-lo

se lhes reduzirmos a velocidade
e os iluminarmos.

São como arquitetos secretos
no nosso quarto.

A ideia de que a arquitetura em si

está de certa forma sujeita
à otimização algorítmica

não é impossível.

É muito real e está
a acontecer à nossa volta.

Sentimos mais isso

quando estamos dentro
duma caixa de metal fechada,

dum elevador novo

— são os elevadores
de destino controlado,

em que temos que escolher
o andar para onde vamos

antes de entrar no elevador.

Usam um algoritmo 'bin-packing'.

Portanto, nada daqueles disparates

de deixar cada um entrar
no elevador que quiser.

Os que querem ir para o 10º andar
vão para a cabina 2,

e os que querem ir para o 3º andar
vão para a cabina 5.

O problema com isso é que
as pessoas passam-se.

As pessoas entram em pânico.

E vemos porquê.

É porque o elevador

não tem componentes importantes,
como os botões.

(Risos)

Como as coisas que as pessoas usam.

Só tem o número que vai
para cima ou para baixo

e o botão vermelho que diz "Parar".

É para isso que estamos a trabalhar.

Estamos a trabalhar
para esse dialeto de máquinas.

Até onde é que isso pode levar? Até onde?

Podemos levar isso muito longe.

Então, vou voltar a Wall Street,

porque os algoritmos de Wall Street

dependem sobretudo de um atributo,

que é a velocidade.

Funcionam em milissegundos
e microssegundos.

Só para vos dar uma ideia
do que são microssegundos,

levamos 500 000 microssegundos
só para clicar no rato.

Mas se um algoritmo de Wall Street

estiver atrasado cinco microssegundos,

é um perdedor.

Se fôssemos um algoritmo

procuraríamos um arquiteto como
aquele que conheci em Frankfurt

que estava a esvaziar um arranha-céus,

a deitar fora toda a mobília,
todas as infraestruturas para uso humano,

sobrando apenas aço nos pisos

preparados para receber
as pilhas de servidores,

tudo para que um algoritmo

possa estar mais perto da Internet.

Pensamos na Internet como
um tipo de sistema distribuído.

Claro que é, mas é distribuído
a partir de locais diferentes.

Em Nova Iorque, é distribuído daqui:

o Carrier Hotel,
localizado na Hudson Street.

É daqui que saem os cabos pela cidade.

Na verdade, se estivermos
longe deste local,

estaremos sempre atrasados
uns microssegundos.

Aqueles tipos em Wall Street,

Marco Polo e Cherokee Nation,

estão oito microssegundos atrasados

em relação a estes tipos

que andam pelos edifícios
que estão a ser esvaziados

em volta do Carrier Hotel.

Isso continuará a acontecer.

Vamos continuar a esvaziar edifícios,

porque nenhum de nós,
centímetro a centímetro

libra a libra, e dólar a dólar,

nenhum de nós conseguiria
extrair lucro daquele espaço

como o Emplastro de Boston consegue.

Mas se vocês se afastarem

veriam um fosso com 1.3 km

entre Nova Iorque e Chicago

que foi construído nos últimos anos

por uma empresa chamada "Spread Networks".

Isto é um cabo de fibra ótica.

que foi estendido entre as duas cidades

para poder enviar um sinal

37 vezes mais rápido
do que clicar no rato,

só para estes algoritmos,

só para o Carnaval e a Faca.

Se pensarem nisto,

que estamos a percorrer os Estados Unidos

com dinamite e serras

para que um algoritmo
possa fechar um negócio

três microssegundos mais depressa,

tudo para uma estrutura de comunicações

que nenhum humano alguma vez conhecerá,

isto é um tipo de destino manifesto;

estaremos sempre à procura
duma nova fronteira.

Infelizmente, teremos muitas dificuldades.

Isto é apenas teórico.

Isto são alguns matemáticos no MIT.

A verdade é que não compreendo bem

grande parte do que falam.

Envolve cones de luz
e emaranhamento quântico,

e eu não percebo muito sobre isso.

Mas consigo ler este mapa.

Este mapa diz que, se estivermos
a tentar fazer dinheiro no mercado

onde estão os pontos vermelhos,

onde estão as pessoas e as cidades,

temos que colocar os servidores
onde estiverem os pontos azuis

para fazer isso de forma mais eficaz.

Podem reparar que muitos dos pontos azuis

estão no meio do oceano.

É isso que faremos:
vamos construir bolhas,

ou plataformas.

Vamos separar a água

para extrair dinheiro do ar,

porque é um futuro risonho
para um algoritmo.

(Risos)

Mas não é o dinheiro que é interessante.

É aquilo que o dinheiro motiva,

que nos leva a transformer o planeta Terra

com este tipo de eficácia algorítmica.

A essa luz, voltamos

e olhamos para as fotografias
de Michael Najjar.

Percebemos que não são uma metáfora,
são uma profecia.

São uma profecia

para o tipo de efeitos
sísmicos e terrestres

da matemática que andamos a fazer.

A paisagem foi sempre feita

através desta estranha
e inquietante colaboração

entre a natureza e o homem.

Mas agora há esta terceira força
co-evolucionária: os algoritmos

— o Emplastro de Boston, o Carnaval.

Teremos que os compreender como natureza.

De certa forma, é o que eles são.

Obrigado.

(Aplausos)