Os vídeos de pesadelo do YouTube para crianças - e o que há de errado com a Internet

James Bridle, escritor e artista, revela um canto escuro e estranho da Internet, em que pessoas ou grupos desconhecidos no YouTube se apoderam do cérebro de criancinhas em troca de receitas publicitárias. Desde os "ovos surpresa e as canções da família dos dedos, até âs misturadas criadas por algoritmos de figuras de desenhos animados familiares, em situações violentas, estes vídeos exploram e aterrorizam espíritos jovens- e dizem-nos coisas sobre para onde são dirigidos cada vez mais os nossos dados. "Temos que deixar de pensar na tecnologia como uma solução para todos os nossos problemas e pensar nela como um guia para quais são esses problemas, para podermos pensar neles de forma adequada e começar a resolvê-los", diz Bridle.

Sou James.

Sou escritor e artista

e trabalho sobre a tecnologia.

Faço coisas como desenhar
"drones" militares em tamanho natural

nas ruas das cidades, por todo o mundo,

para que as pessoas comecem a pensar,
a dar a volta à cabeça,

nestas tecnologias muito difíceis de ver
e muito difíceis de imaginar.

Faço coisas como redes neurais
que preveem os resultados de eleições.

com base nos boletins meteorológicos,

porque sinto-me intrigado

com as reais possibilidades
destas novas tecnologias estranhas.

No ano passado, construí
o meu carro autónomo.

Mas, como não confio na tecnologia,

também desenhei uma ratoeira para ele.

(Risos)

Faço estas coisas sobretudo porque
acho-as totalmente fascinantes

mas também porque penso que,
quando falamos de tecnologia,

estamos sobretudo a falar de nós mesmos

e da forma como entendemos o mundo.

Eis uma história sobre tecnologia.

Este é um vídeo de "ovos surpresa".

É basicamente um vídeo de alguém
a abrir montes de ovos de chocolate

e mostra ao espetador
os brinquedos que estão lá dentro.

É só isso. É só o que se passa
durante sete longos minutos.

Queria que reparassem em duas coisas.

Primeiro, este vídeo
tem 30 milhões de visitas.

(Risos)

A outra coisa é:

aparece num canal
que tem 6,3 milhões de subscritores

que tem um total
de oito milhões de visitas

e há mais vídeos como este.

Trinta milhões de pessoas
que veem um tipo a abrir estes ovos.

Parece muito estranho mas, se pesquisarem
"ovos surpresa" no YouTube,

verificam que há 10 milhões destes vídeos

e acho que a contagem
está feita por baixo.

Acho que há muitos mais.

Se continuarem a procurar, não têm fim.

Há milhões e milhões destes vídeos,

em combinações incrivelmente barrocas
de marcas e materiais.

E todos os dias cada vez há mais
a aparecerem na Internet.

Isto é um mundo estranho.

Mas o que acontece é que
não são os adultos que veem estes vídeos.

São os miúdos, as crianças.

Estes vídeos são como droga
para as crianças.

Há qualquer coisa quanto à repetição,

o constante choque
de dopamina da revelação

que os hipnotiza totalmente.

As crianças veem estes vídeos
vezes sem conta

e fazem-no durante horas
e horas e horas.

Se tentarem afastá-las do ecrã,
elas desatam aos gritos.

Se não acreditam

- já vi pessoas no público
a abanar a cabeça -

se não acreditam, procurem alguém
com uma criança pequena e perguntem-lhe.

Eles conhecem os vídeos
dos ovos surpresa.

É aqui que começamos.

Estamos em 2018 e alguém,
ou imensas pessoas,

usam o mesmo mecanismo
que o Facebook e o Instagram usam

para nos obrigar a voltar
a ver aquela aplicação

e usam-no no YouTube para apanhar
o cérebro das criancinhas

em troca de receitas publicitárias.

Pelo menos, é o que eu julgo
que estão a fazer.

Espero que seja o que eles estão a fazer

porque há formas mais fáceis de gerar
receitas publicitárias no YouTube.

Podemos inventar coisas ou roubar coisas.

Se procurarem desenhos animados
infantis, realmente populares,

como o "Peppa Pig" ou o " Patrulha Pata",

descobrem que também há
muitos milhões deles na Internet.

Claro que a maioria não são
publicados pelos criadores originais.

São carregados por imensas
diferentes contas ao acaso

e é impossível saber quem as publicou

ou quais os motivos para isso.

Isto parece-vos familiar?

Porque é exatamente o mesmo mecanismo

que está a ocorrer na maior parte
dos nossos serviços digitais

em que é impossível saber
de onde provêm as informações.

São notícias falsas para crianças

e nós estamos a treinar as crianças
desde que nascem,

para clicarem na primeira ligação
que lhes apareça,

seja qual for a sua origem.

Não parece ser uma ideia muito boa.

Uma outra coisa que é importante
no YouTube para crianças

chama-se "Finger Family Song."

Ouvi alguém no público a resmungar.

Esta é a canção da Família dos Dedos.

Foi a primeira que encontrei.

É de 2007 e só tem 200 000 visitas

o que é nada, neste campeonato.

Mas tem uma melodia irritante

que não vou tocar para vocês ouvirem

porque ela cola-se no vosso cérebro

tal como se colou no meu

e não vou fazer-vos uma partida dessas.

Mas, tal como com os ovos surpresa,

enfia-se na cabeça das crianças
e elas ficam viciados nela.

Dentro de alguns anos,
estes vídeos da família dos dedos

começa a aparecer por toda a parte

e temos versões em várias línguas

com desenhos animados para crianças,
usando a comida

ou usando todos e quaisquer
elementos de animação

que por aí existem.

Mais uma vez, há milhões e milhões
destes vídeos na Internet,

disponíveis em todos os tipos
de combinações extravagantes.

Quanto mais tempo gastarmos com eles

mais loucos nos começamos a sentir.

Foi aí que comecei a sentir

uma sensação de profunda estranheza
e profunda falta de compreensão

de como era montada esta coisa
que parece estar sempre à minha volta.

Porque é impossível saber
de onde vêm estas coisas.

Quem é que as faz?

Alguns parecem ser feitos
por equipas de animadores profissionais.

Alguns são apenas montados
ao acaso por um "software".

Alguns deles são vídeos para crianças
com um aspeto muito saudável.

E alguns são de pessoas

que, claramente, não deviam
aproximar-se de criancinhas.

(Risos)

Mais uma vez, esta impossibilidade
de vir a saber quem é que faz estas coisas

- tipo, isto é um robô?

Isto é uma pessoa? é um "troll"?

O que significa é
que já não consigamos ver

as diferenças entre estas coisas.

Esta incerteza não vos parece familiar?

A principal forma de as pessoas
obterem visitas nos seus vídeos

- os vídeos significam dinheiro -

é encherem os títulos desses vídeos
com estes termos populares.

Por exemplo, os ovos surpresa.

Acrescenta-se ao título
"Patrulha Pata", "Ovo da Páscoa"

ou outra coisa qualquer,

todas as palavras
de outros vídeos populares

até acabar neste tipo
de linguagem misturada, sem sentido

que não faz sentido nenhum
para as pessoas.

Porque, claro, são só as crianças
que veem esses vídeos

e o que é que eles sabem?

O verdadeiro público
para estas coisas é o "software",

são os algoritmos.

É o "software" que o YouTube usa

para escolher os vídeos
que são como os outros vídeos,

para os tornar populares,
para os recomendar.

É assim que acabamos por ter
esta misturada totalmente sem sentido,

tanto a nível do título como do conteúdo.

Mas é preciso não esquecermos

que, mesmo assim, ainda há pessoas

dentro deste sistema
otimizado com algoritmos,

pessoas que são forçadas a produzir

estas combinações de palavras
cada vez mais bizarras,

numa desesperada improvisação artística
reagindo aos gritos combinados

de um milhão de bebés ao mesmo tempo.

São pessoas reais, presas
dentro destes sistemas

e essa é a outra coisa muito estranha
desta cultura comandada por logaritmos,

porque, mesmo sendo seres humanos,

acabamos por nos comportar
como uma máquina

apenas para sobrevivermos.

Do outro lado do ecrã,

continua a haver criancinhas
a ver estas coisas.

com a atenção presa
nestes mecanismos esquisitos.

A maioria dessas crianças são
muito pequenas para usar a Internet.

Só batem no ecrã com as suas mãozinhas.

Por isso, há o Autoplay,

que se limita a exibir estes vídeos
vezes sem conta, num ciclo,

durante horas e horas seguidas,
infindavelmente.

Há atualmente no sistema
tanta coisa esquisita

que o Autoplay nos leva
a locais muito estranhos.

Isto é como, em doze passos,

podemos passar de um vídeo giro
de um comboio de contagem

para um Mickey Mouse a masturbar-se.

Desculpem isto.

Mas as coisas pioram.

Isto é o que acontece

quando todas estas palavras-chave,

todas estas diferentes peças de atenção,

esta geração desesperada de conteúdo,

se junta tudo num só local.

É aqui que todas estas palavras-chave

profundamente estranhas
entram na nossa casa.

Mistura-se o vídeo da família dos dedos

com alguma ação de super-heróis,

acrescenta-se umas piadas baratas
ou qualquer coisa assim

e, de repente, vamos parar
a um sítio muito esquisito.

As coisas que mais incomodam os pais

são as coisas que têm um conteúdo
violento ou sexual, não é?

Os desenhos animados
em que crianças são atacadas

são assassinadas,

situações estranhas que aterrorizam
genuinamente as crianças.

Temos é um "software" que vai buscar
todas estas influências diferentes

para gerar automaticamente
os piores pesadelos das crianças.

Este material afeta realmente
as criancinhas.

Os pais relatam que os filhos
ficam traumatizados,

ficam com medo do escuro,

ficam com medo
dos desenhos animados preferidos.

Se há uma conclusão a tirar daqui
é que, se tiverem filhos pequenos,

mantenham-nos bem afastados do YouTube.

(Aplausos)

Mas há outra coisa que me aborrece

é que eu não tenho a certeza se percebemos
como chegámos a este ponto.

Aceitámos todas estas influências,
todas estas coisas

misturadas duma forma
que ninguém pretendia.

Mas isto também é a forma
como estamos a construir o mundo inteiro.

Agarramos em todas estas informações,
uma data de más informações,

uma data de informações históricas
cheias de preconceitos,

cheias de todos os nossos
piores impulsos da história,

criamos enormes conjuntos de informações

e depois automatizamo-las.

E estamos a misturá-las
com coisas como relatórios de crédito,

com prémios de seguros,

com coisas como
sistemas de vigilância preditiva

com linhas de orientação
de sentenças.

Esta é a forma como estamos
a construir o mundo de hoje

a partir destas informações.

Não sei o que será pior,

termos criado um sistema
que parece estar totalmente otimizado

para os piores aspetos absolutos
do comportamento humano

ou parecer que o fizemos por acaso

sem sequer ter percebido
o que estávamos a fazer,

porque não percebíamos nada
dos sistemas que estávamos a criar

e não percebíamos minimamente
como fazer de forma diferente.

Penso que há algumas coisas
que parecem ter levado a isto

sobretudo no YouTube,

A primeira é a publicidade

que é a monetarização da atenção

sem quaisquer outras variáveis em ação,

sem se pensar nas pessoas
que desenvolvem este conteúdo,

a centralização do poder,
a separação destas coisas.

Mas penso que, em relação
ao uso da publicidade,

que apoia este tipo de coisas,

a vista de adultos de fraldas
a rebolar na areia

na esperança de que um algoritmo
- de que não percebem nada -

lhes dará dinheiro,

sugere que, provavelmente,
não é nisso que devemos basear

a nossa sociedade e a nossa cultura

e a forma como devemos financiá-la.

A outra coisa que é
o maior impulso é a automação

que é a evolução
de toda esta tecnologia

logo que ela chega
sem qualquer tipo de supervisão

e, logo que ela aparece,
lavamos as mãos e dizemos:

"Não fomos nós, é a tecnologia".

"Nós não estamos metidos nisso".

Isso não chega

porque isto, além de ser
governado por algoritmos,

também é policiado por algoritmos.

Quando o YouTube começou
a prestar atenção a isto,

a primeira coisa que disseram
foi que iam arranjar melhores algoritmos

através da aprendizagem de máquinas,
para moderar o conteúdo

Bom, a aprendizagem de máquinas,
como qualquer especialista dirá,

é aquilo a que começámos
por chamar "software"

e que não percebemos
minimamente como funciona.

Penso que já temos disso que chegue.

Não devíamos deixar estas coisas
para a IA decidir

o que é apropriado ou não,

porque sabemos o que acontece.

Vai começar por censurar outras coisas,

censurar conteúdos estranhos,

censurar discursos públicos legítimos.

O que é permitido nesses discursos

não devia ser uma coisa
deixada a sistemas irresponsáveis.

Faz parte de uma discussão
que todos devíamos ter.

Mas vou deixar um alerta:

a alternativa também
não é muito agradável.

O YouTube anunciou recentemente

que vão lançar uma versão
da sua aplicação para crianças

que será totalmente
moderada por pessoas.

Facebook - Zuckeberger disse
uma coisa parecida no Congresso,

quando lhe perguntaram
como iam moderar as suas coisas.

Disse que iam pôr pessoas a fazê-lo.

Queriam dizer que,
em vez de serem as crianças

as primeiras a verem aqueles conteúdos

iam pôr trabalhadores mal pagos,
com contratos precários,

sem apoio adequado de saúde mental,

que também vão ser contaminados.

(Risos)

Penso que todos podemos fazer
melhor do que isso.

(Aplausos)

Penso que a ideia que reúne
estas duas coisas

é a ação.

Ou seja, por ação, quero dizer

até que ponto sabemos como agir
no nosso melhor interesse?

É quase impossível sabê-lo

nestes sistemas que não
compreendemos minimamente.

A desigualdade no poder
leva sempre à violência.

Vemos no interior destes sistemas

que a desigualdade de compreensão
faz a mesma coisa.

Se há alguma coisa que podemos fazer
para começar a melhorar estes sistemas,

é torná-los mais legíveis
para as pessoas que os usam,

de modo a que todos tenhamos
um entendimento comum

do que está realmente a acontecer.

Mas a coisa em que mais penso
quanto a estes sistemas

é que isto não é, como espero
ter deixado claro, sobre o YouTube.

Trata-se de todas as coisas.

Estes problemas
de responsabilização e de ação,

de opacidade e de complexidade,

da violência e da exploração
que resulta inerentemente

da concentração do poder
em poucas mãos

- são problemas muito maiores.

São problemas não apenas do YouTube
nem sequer da tecnologia em geral

e nem sequer são novos.

Sempre os tivemos ao longo de eras.

Mas, por fim, criámos este sistema,
este sistema global, a Internet,

que está a exibir-se à nossa frente
desta forma extraordinária,

tornando-os inegáveis.

A tecnologia tem
esta capacidade extraordinária

de exemplificar e continuar

todos os nossos desejos e preconceitos
mais extraordinários e às vezes ocultos

e codificando-os no mundo,

mas também de os escrever
para os podermos ver,

de modo que já não podemos
pretender que não existem.

Temos que deixar de pensar na tecnologia

como uma solução
para todos os nossos problemas

mas pensar nela como uma orientação
para quais são esses problemas hoje,

para podermos pensar neles
de modo adequado

e começar a resolvê-los.

Muito obrigado.

(Aplausos)

Obrigado.

(Aplausos)

Helen Walters: James, obrigada
por teres vindo fazer esta palestra.

É interessante,

quando pensamos nos filmes
em que os robôs assumem o comando,

é um pouco mais deslumbrante
do que o que descreveste.

Mas fico a pensar - nestes filmes,
temos a escalada da resistência.

Há uma escalada de resistência
contra esta matéria?

Vês quaisquer sinais positivos,
disparos verdes de resistência?

James Bridle: Não sei nada
sobre resistência direta,

porque penso que isto
é a muito longo prazo,

está cozinhado na cultura
de forma muito profunda.

Uma amiga minha,
Eleanor Saitta, diz sempre

que quaisquer problemas tecnológicos
de dimensão e âmbito suficientes

são problemas políticos,
acima de tudo.

Portanto, todas estas coisas
que tentamos abordar

não vão ser resolvidas apenas
por melhorarmos a tecnologia,

mas só alterando a sociedade
que produz essas tecnologias.

Neste momento, penso que temos
um comprido caminho a percorrer.

Mas, como disse, penso que,
se os explicarmos,

se falarmos disso de forma honesta,

pelo menos, podemos iniciar esse processo.

HW: Quando falas da legibilidade
e da literacia digital,

tenho dificuldade em imaginar

que precisamos de atirar o peso
da literacia digital para os utilizadores.

De quem é a responsabilidade
do ensino neste novo mundo?

JB: Penso que essa responsabilidade
também tem a ver com todos nós,

penso que tudo o que fazemos,
tudo o que criamos,

tem que ser feito
numa discussão consensual

com todos os que a têm evitado.

de que não estamos a construir sistemas

destinados a enganar
e a surpreender as pessoas

mas para fazer as coisas certas,

e que eles estão realmente envolvidos
em cada passo na educação deles,

porque cada um destes sistemas
é educativo.

É nisso que tenho esperança,
mesmo nestas coisas sombrias,

que, se pudermos
analisá-lo devidamente,

é em si mesmo
uma peça de ensino

que nos permite começar a ver

como sistemas complexos
se juntam e funcionam

e porventura possam aplicar
esses conhecimentos pelo mundo.

HW: James, é uma discussão
tão importante

e sei que muita gente aqui
está aberta e preparada para ela

obrigada por teres começado
a nossa manhã.

JB: Muito obrigado.

(Aplausos)