O preço de uma Internet "limpa"

Milhões de imagens e vídeos são diariamente enviados para a Internet, mas raramente vemos conteúdos chocantes e perturbadores nas redes sociais. Quem mantém a Internet "limpa" para nós? Nesta palestra alertadora, os documentaristas Hans Block e Moritz Riesewieck conduzem-nos ao mundo sombrio dos moderadores de conteúdos — as pessoas contratadas pelas grandes plataformas como o Facebook, o Twitter e a Google para eliminar da Internet os conteúdos tóxicos. Saibam mais sobre o impacto psicológico deste tipo de trabalho — e como a "limpeza digital" influencia tudo o que vemos e que pensamos.

[Esta palestra contém
conteúdo para adultos]

Moritz Riesewick: Em 23 de março de 2013,

utilizadores do mundo inteiro
descobriram no seu "feed" de notícias

um vídeo de uma menina a ser
violada por um homem mais velho.

Antes de esse vídeo
ser removido do Facebook,

já tinha sido partilhado 16 000 vezes

e tinha recebido 4000 "likes".

O vídeo tornou-se viral
e espalhou-se pela Internet.

Hans Block: Foi nesse momento
que nos perguntámos:

Como algo assim
pode aparecer no Facebook?

Ao mesmo tempo, porque não vemos esse
tipo de conteúdo com maior frequência?

Afinal, há muitos conteúdos
revoltantes na Internet,

mas porque é raro vermos essa porcaria
no Facebook, no Twitter ou no Google?

MR: Embora os "softwares"
de reconhecimento facial

possam identificar os contornos
de órgãos sexuais,

de sangue ou de pele nua
em imagens e vídeos,

eles têm grande dificuldade
em distinguir conteúdo pornográfico

de fotos de férias, de estátuas de Adónis

ou de campanhas de combate
ao cancro da mama.

Não conseguem distinguir
Romeu e Julieta a morrer no palco

de um esfaqueamento real.

Não conseguem diferenciar
entre sátira e propaganda

ou entre ironia e ódio,
e assim por diante.

Assim sendo, as pessoas
precisam de decidir

qual o conteúdo suspeito
que deve ser apagado,

e qual o que deve permanecer.

Pessoas, a respeito das quais nada sabemos

porque trabalham em segredo.

Assinam contratos de confidencialidade,

que lhes proíbem falar e partilhar

o que eles veem nos ecrãs
e o que esse trabalho lhes faz.

São forçados a usar códigos
para esconder para quem trabalham.

São monitorados por empresas
privadas de segurança

para assegurarem
que não falem com jornalistas.

E são ameaçados com multas, caso falem.

Isso parece uma esquisita
história criminal,

mas é verdade.

Essas pessoas existem,

e chamam-se
"moderadores de conteúdos".

HB: Nós somos os realizadores
do documentário "The Cleaners",

e gostaríamos de vos levar

a um mundo que muitos
de vocês desconhecem.

Eis um pequeno excerto do nosso filme.

(Vídeo)

Tenho de ficar anónimo,
porque assinei um contrato.

Não podemos dizer para quem trabalhamos.

Estou a falar com vocês

porque o mundo precisa
de saber que existimos.

Há alguém que está a vigiar
as redes sociais.

Estamos a fazer o nosso melhor
para tornar esta plataforma,

segura para toda a gente.

Apagar.

Ignorar.

Apagar.

Ignorar.

Apagar.

Ignorar.

Ignorar.

Apagar.

HB: Os chamados moderadores de conteúdo

não são pagos pelo Facebook,
pelo Twitter ou pelo Google.

mas por empresas contratadas
no mundo inteiro,

para manter os salários baixos.

Dezenas de milhares de jovens

que olham para todas as coisas
que não devemos ver.

Estamos a falar de decapitações,
de mutilações,

de execuções, de necrofilia,
de tortura, de abuso infantil.

Milhares de imagens
num turno de trabalho

— ignorar, apagar, dia e noite.

Muito deste trabalho é feito em Manila,

para onde o lixo analógico do Ocidente

foi embarcado em contentores
durante anos.

Agora o lixo digital é atirado para ali,
por cabo de fibra ótica.

Tal como os catadores de lixo

vasculham pilhas gigantes
na periferia da cidade,

os moderadores de conteúdo clicam
através de um oceano tóxico infinito

de imagens e vídeos
e todo o tipo de lixo intelectual,

para não termos de olhar para isso.

MR: Mas ao contrário
das feridas dos catadores,

as dos moderadores de conteúdo
permanecem invisíveis.

Repletos de conteúdos
chocantes e perturbadores,

essas fotos e vídeos ficam marcadas
na memória deles,

onde, em qualquer momento,
podem ter efeitos imprevisíveis:

distúrbios alimentares, perda de líbido,

ansiedade, alcoolismo,

depressão, que até podem
levar ao suicídio.

As imagens e vídeos infetam-nos,

e frequentemente nunca os abandonam.

Se não tiverem sorte, desenvolvem
"stress" pós-traumático,

como soldados após missões de guerra.

No nosso filme, contamos
a história de um jovem

que tinha de monitorar vídeos
de automutilações e tentativas de suicídio,

repetidamente,

e que acabou por se suicidar.

Não é um caso isolado,
como viemos a saber.

Este é o preço que todos pagamos

para os ambientes dos "media" sociais

a que chamamos limpos,
seguros e "saudáveis".

Nunca na história da humanidade

foi tão fácil alcançar milhares
de pessoas do globo inteiro,

em poucos segundos.

O que é publicado nas redes sociais
propaga-se muito rapidamente,

torna-se viral e excita as mentes
das pessoas no mundo inteiro.

Antes de ser eliminado

em geral, já é tarde demais.

Milhões de pessoas já foram infetadas

com ódio e raiva,

e podem tornar-se ativas "online",

espalhando e amplificando o ódio,

ou invadir as ruas e pegar em armas.

HB: Um exército
de moderadores de conteúdos

sentados em frente de um ecrã
para evitar novos danos colaterais.

Decidem, o mais depressa possível,

se o conteúdo permanece
na plataforma — ignorar —

ou se o conteúdo desaparece — apagar.

Mas nem todas as decisões são tão fáceis,

como a decisão sobre
um vídeo de abuso infantil.

O que se passa quanto ao conteúdo
controverso e ambivalente,

publicado por ativistas
de direitos civis ou por cidadãos?

Os moderadores de conteúdos
decidem sobre esses casos

com a mesma velocidade dos casos "fáceis".

MR: Vamos mostrar um vídeo

e pedirmos que decidam:

Vocês apagá-lo-iam?

Ou não o apagavam?

(Vídeo)

(Explosão)

(Pessoas a falar árabe)

MR: Esfumámos a imagem
para vocês.

Uma criança podia ficar
muito perturbada

e muito assustada com este conteúdo.

Então, vocês apagá-lo-iam?

E se este vídeo ajudasse
a investigar crimes de guerra na Síria?

E se ninguém soubesse
deste ataque aéreo

porque o Facebook, o Youtube,
e o Twitter decidiram eliminá-lo?

A Airwars, uma ONG londrina

tenta encontrar esses vídeos
o mais depressa possível

sempre que são publicados
nas redes sociais

para poder arquivá-los.

Porque sabem que,
mais cedo ou mais tarde,

o Facebook, o YouTube, o Twitter
eliminam esse conteúdo.

Pessoas armadas com os seus telemóveis

divulgam coisas a que os jornalistas
nem sempre têm acesso.

Grupos de ação civil em geral
não têm uma opção melhor

para tornarem as suas gravações
acessíveis ao grande público

do que publicá-las nas redes sociais.

Isto não é um potencial fator de poder
que a rede devia ter?

Não eram esses os sonhos

que as pessoas tinham
sobre a Internet?

Essas fotos e vídeos não deveriam

persuadir as pessoas que se tornaram
insensíveis aos factos

a repensarem?

HB: Mas o que pode ser incómodo é apagado.

E a sociedade está a mudar.

Os "media", por exemplo,
vêm usando alertas

colocados no topo de artigos

que as pessoas podem achar ofensivos
ou perturbadores.

Ou cada vez mais universitários
norte-americanos

querem que sejam banidos
do programa de obras clássicas

que apresentam violência
ou assédio sexual.

Mas até onde devemos levar isso?

A integridade física é um direito humano

garantido nas Constituições
ao redor do mundo.

Entre os Direitos Fundamentais
da União Europeia,

esse direito aplica-se expressamente
à integridade mental.

Mas mesmo que o efeito
potencialmente traumático

de imagens e vídeos seja difícil de prever

será que queremos ser tão cautelosos

que percamos a consciência da injustiça?

Então o que fazer?

Mark Zuckerberg afirmou

que, no futuro, nós,
utilizadores, ou todo mundo

decidiremos individualmente

o que queremos ver nas plataformas

por meio de filtros pessoais.

Poderemos optar por não nos incomodarmos

com imagens de guerra e violência, como...

MR: Sou o tipo de pessoa
que não se importa de ver seios

e me interesso muito
pelo aquecimento global

mas não gosto muito de guerra...

HB: Pois, mas eu sou o oposto,

zero interesse em seios e corpos nus,

mas porque não armas?
Eu gosto de armas.

MR: Espera aí. Se não partilharmos
uma mesma consciência social

como discutiremos problemas sociais?

Como chamaremos as pessoas a agirem?

Surgiriam bolhas ainda mais isoladas.

Uma das questões centrais é:

"Como é que, no futuro,
a liberdade de expressão será ponderada
com a proteção individual?"

É uma questão de princípios.

Vamos projetar uma sociedade
aberta ou fechada

ao espaço digital?

Em suma, "liberdade ou segurança?".

O Facebook sempre quis ser uma
plataforma "saudável".

Acima de tudo, os utilizadores
deviam sentir-se seguros.

É a mesma escolha de palavras

que os moderadores de conteúdo
filipinos usaram

em muitas das nossas entrevistas.

[Vídeo]

Acho que o mundo em que vivemos
não é muito saudável.

Neste mundo existe um mal.

Precisamos de estar atentos.

Precisamos de controlá-lo
— bom ou mau.

[Olhe para cima, rapaz!
— Deus]

MR: Para os jovens moderadores
nas Filipinas, um país católico,

isto está ligado a uma missão cristã:

combater os pecados do mundo

que se espalham pela Internet.

" A pureza está perto da divindade"

é um ditado que todos
os filipinos conhecem.

HB: E outros encontram motivação,

comparando-se a Rodrigo Duterte.

o Presidente das Filipinas desde 2016,

que ganhou a eleição com o lema:
"Eu limparei".

Isso significa acabar
com todos os problemas

literalmente matando pessoas nas ruas,

suspeitas de serem criminosas,
seja lá o que isso for.

E desde que foi eleito,

já foram mortas cerca de 20 000 pessoas.

Um moderador diz no nosso filme:

"O que Duterte faz nas ruas,

"eu faço na Internet".

E eis que eles, os heróis autoproclamados

garantem a lei e a ordem
no nosso mundo digital.

Eles limpam tudo com esmero,

livram-nos de todo o mal.

As tarefas antes reservadas
a autoridades do Estado

foram assumidas por universitários
com 20 anos

munidos de uma formação
de três a cinco dias

— é essa a qualificação —

que trabalham em nada menos
do que salvar o mundo.

MR: A soberania nacional
foi entregue a empresas privadas

que entregam a terceiros
essa responsabilidade.

É uma sucessão de entregas
de responsabilidade

o que está a ocorrer.

Com as redes sociais,

há uma infraestrutura totalmente nova

com os seus próprios mecanismos

a sua própria lógica de ação

e, assim, os seus próprios perigos,

que não existiam
na esfera pública pré-digital.

HB: Quando Mark Zuckerberg
foi ao Congresso dos EUA

ou ao Parlamento Europeu

foi confrontado com todo
o tipo de críticas.

A sua reação foi sempre a mesma:

"Vamos consertar isso,

"vou acompanhar isso com a minha equipa".

Mas tal debate não deveria ocorrer
nos bastidores do Facebook,

do Twitter ou do Google,

mas sim abertamente,
em novos parlamentos cosmopolitas,

em novas instituições que refletissem
a diversidade das pessoas,

contribuindo para um projeto utópico
de uma rede global.

Embora pareça impossível
levar em conta os valores

dos utilizadores do mundo inteiro,

vale a pena acreditar

que há mais coisas que nos unem
do que as que nos separam.

MR: Sim, numa época
em que o populismo ganha força,

tornou-se comum justificar os sintomas,

para os erradicar,

para os tornar invisíveis.

Esta ideologia espalha-se pelo mundo,

tanto analógico como digital,

e é nosso dever impedi-la

antes que seja tarde demais.

A questão da liberdade e da democracia

não pode ter somente essas duas opções.

HB: Eliminar...

MR: ... ou ignorar.

HB: Muito obrigado.

(Aplausos)