O que as empresas de tecnologia sabem sobre os vossos filhos

As plataformas digitais que vocês e a vossa família usam todos os dias — desde os jogos "online" a aplicações educativas e portais médicos — podem estar a recolher e a vender os dados dos vossos filhos, diz a antropóloga Veronica Barassi. Ao partilhar a sua pesquisa reveladora, Barassi aconselha os pais a olharem duas vezes para os termos e condições digitais, em vez de os aceitar às cegas — e exigirem proteções que garantam que os dados dos vossos filhos não distorcem o futuro deles.

Todos os dias, todas as semanas,

nós concordamos com termos e condições.

E quando fazemos isso,

fornecemos às empresas o direito legal

de fazerem o que quiserem
com os nossos dados

e com os dados dos nossos filhos.

O que nos leva pensar:

quantos dados dos nossos filhos
é que estamos a ceder,

e quais são as implicações disso?

Eu sou antropóloga,

mas também sou mãe
de duas meninas pequenas.

Comecei a interessar-me
por esta questão em 2015

quando, de repente,
me apercebi de que havia

uma quantidade
quase inimaginável de dados

que estão a ser produzidos
e recolhidos sobre crianças.

Por isso, lancei
um projeto de investigação,

chamado Child Data Citizen,

com o objetivo de preencher
os espaços em branco.

Podem pensar
que estou aqui para vos acusar

de publicarem fotos dos vossos filhos
nas redes sociais,

mas o problema não é esse.

O problema é muito maior
do que o chamado "sharenting."

Isto é sobre sistemas,
não é sobre indivíduos.

Vocês e os vossos hábitos
não são os culpados.

Pela primeira vez na história,

estamos a rastrear os dados
individuais de crianças

desde antes de elas nascerem

— por vezes, desde o momento da conceção,

e depois ao longo da vida delas.

Como veem, quando os pais
decidem conceber,

vão "online" pesquisar
"maneiras de engravidar,"

ou descarregam aplicações
de monitorização da ovulação.

Quando engravidam,

publicam as ecografias
dos bebés nas redes sociais,

descarregam aplicações de gravidez

ou consultam o Dr. Google
para todo o tipo de coisas,

como, por exemplo,

"risco de aborto ao viajar de avião"

ou "dores abdominais
no início da gravidez."

Eu sei disto porque já o fiz,

e várias vezes.

Depois, quando o bebé nasce,
eles registam cada sesta, cada refeição,

cada acontecimento na sua vida,

em diferentes tecnologias.

E todas estas tecnologias,

transformam em lucro

os dados comportamentais
e médicos mais íntimos do bebé

ao partilhá-los com outros.

Para vos dar uma ideia
de como isto funciona,

em 2019, o British Medical Journal
publicou uma investigação

que mostrava que,
de 24 aplicações móveis de saúde,

19 partilhavam informações com terceiros.

E esses terceiros partilhavam informações
com outras 216 organizações.

Destas outras 216 organizações,

apenas 3 pertenciam ao setor da saúde.

As outras empresas
que tinham acesso a esses dados

eram importantes empresas de tecnologia

como o Google, o Facebook ou o Oracle,

empresas de publicidade digital

e também agências de informações
comerciais de consumo.

Vocês perceberam bem:

empresas de publicidade
e agências de crédito

podem já ter dados sobre bebés.

Mas as aplicações móveis,
os motores de pesquisa e as redes sociais

são apenas a ponta do icebergue,

porque as crianças estão a ser rastreadas
por múltiplas tecnologias

na sua vida diária.

São rastreadas
pelas tecnologias domésticas

e pelos assistentes virtuais
nas nossas casas.

São rastreadas
pelas plataformas educativas,

pelas tecnologias de educação
nas escolas.

São rastreadas por registos "online"

e por portais "online"
no consultório do médico deles.

São rastreadas pelos seus brinquedos
ligados à Internet,

pelos seus jogos "online"

e por muitas, muitas, muitas
outras tecnologias.

Durante a minha pesquisa,

muitos pais me disseram:

"E depois? Que importância tem
os meus filhos estarem a ser rastreados?

"Não temos nada a esconder."

Bem, é muito importante

É importante porque hoje em dia,
as pessoas não estão só a ser rastreadas,

também traçam os perfis delas
com base nesses dados.

A inteligência artificial e a análise
preditiva estão a ser utilizadas

para reunir o máximo de dados possível
da vida de um indivíduo

a partir de diferentes fontes:

o histórico familiar,
os hábitos de compra,

os comentários nas redes sociais.

E reúnem esses dados

para tomarem decisões orientadas
pelos dados sobre o indivíduo.

Estas tecnologias são utilizadas
em todo o lado.

Os bancos usam-nas
para decidirem empréstimos.

As companhias de seguros usam-nas
para decidirem prémios.

Os recrutadores e empregadores usam-nas

para decidirem se alguém é uma boa escolha
ou não, para um emprego.

A polícia e os tribunais também as usam

para determinarem se alguém
é um potencial criminoso

ou se é provável que voltem
a cometer um crime.

Nós não temos conhecimento nem controlo

sobre a forma como aqueles que compram,
vendem e processam os nossos dados

estão a traçar os nossos perfis
e os perfis dos nossos filhos.

Mas estes perfis podem
vir a ter impacto nos nossos direitos

de forma significativa.

Por exemplo,

em 2018 o "New York Times"
publicou a notícia

de que os dados reunidos

através de serviços de planeamento
universitário "online"

que são utilizados por milhões
de alunos do secundário nos EUA

que estão à procura de um programa
universitário ou de uma bolsa,

tinham sido vendidos
a corretores de dados educativos.

Ora, os investigadores
da Universidade de Fordham

que investigaram corretores
de dados educativos

revelaram que estas empresas traçaram
perfis de crianças a partir dos dois anos

com base em muitas outras
categorias arbitrárias.

etnia, religião, riqueza,

inépcia social

e muitas outras categorias.

Depois vendem os perfis juntamente
com os nomes das crianças,

a morada e informações de contacto

a empresas diferentes,

incluindo instituições comerciais
e de carreira,

empresas de empréstimos estudantis

e de cartões de crédito estudantis.

Para alargarem os limites,

os investigadores da Fordham pediram
a um corretor de dados educativos

que lhes fornecessem uma lista
de raparigas dos 14 aos 15 anos

que estivessem interessadas
em serviços de planeamento familiar.

O corretor aceitou fornecer a lista.

Por isso imaginem
o quão íntimo e intrusivo

isto é para os nossos filhos.

Mas os corretores de dados educativos
são apenas um exemplo.

A verdade é que os nossos filhos
estão a ter perfis

de maneiras que não conseguimos controlar

e que podem ter um impacto significativo
nas suas oportunidades na vida.

Por isso, precisamos de perguntar:

podemos confiar nestas tecnologias
para traçarem os perfis dos nossos filhos?

Podemos?

A minha resposta é não.

Como antropóloga,

eu acredito que a inteligência artificial
e a análise preditiva podem ser ótimas

para prever o decorrer de uma doença

ou para lutar contra
a alteração climática.

Mas precisamos de abandonar a convicção

de que estas tecnologias podem traçar
objetivamente perfis das pessoas

e de que podemos contar com elas

para tomarem decisões
orientadas por dados

sobre vidas individuais.

Porque elas não conseguem
traçar perfis das pessoas.

Os rastreios de dados não são
um espelho do quem somos.

Os seres humanos pensam
uma coisa e dizem outra,

sentem-se de uma maneira
e agem de maneira diferente.

As previsões algorítmicas
e as nossas práticas digitais

não têm em conta a imprevisibilidade
e a complexidade da experiência humana.

Mas além disso,

essas tecnologias são sempre,

sempre,

de uma maneira ou outra, tendenciosas.

Os algoritmos são, por definição,
conjuntos de regras ou passos

que foram concebidos para alcançar
um resultado específico, OK?

Mas estes conjuntos de regras ou passos
não podem ser objetivos,

porque foram concebidos
por seres humanos

dentro de um contexto cultural específico

e são modelados
por valores culturais específicos.

Por isso quando as máquinas aprendem,

aprendem a partir de algoritmos parciais,

e muitas vezes aprendem também
a partir de bases de dados parciais.

De momento, estamos a ver os primeiros
exemplos de viés algorítmico.

E alguns destes exemplos
são francamente aterradores.

Este ano, o AI Now Institute
em Nova Iorque publicou um relatório

que revelou que as tecnologias de IA

que estão a ser utilizadas
para policiamento preditivo

foram treinadas com base em dados "sujos".

Ou seja, basicamente dados
que foram reunidos

durante períodos históricos conhecidos
pelos preconceitos raciais

e por práticas policiais
pouco transparentes.

Como estas tecnologias estão
a ser treinadas com dados sujos,

não são objetivas,

e os resultados estão apenas
a amplificar e a perpetrar

preconceitos policiais e erros.

Por isso, eu acho que estamos a enfrentar
um problema fundamental

na nossa sociedade.

Estamos a começar a confiar
em tecnologias

no que toca a traçar perfis
de seres humanos.

Sabemos que,
ao traçarem perfis de pessoas,

estas tecnologias vão ser
sempre tendenciosas

e nunca vão ser exatas.

Por isso, precisamos agora
de uma solução política.

Precisamos que os governos reconheçam

que os nossos direitos de dados
são os nossos direitos humanos.

(Aplausos)

Enquanto isto não acontecer, não podemos
ter esperança de um futuro mais justo.

Eu preocupo-me que as minhas filhas
sejam expostas

a todo o tipo de discriminação
e de erros algorítmicos.

A diferença entre mim e as minhas filhas

é que não há nenhum registo público
da minha infância.

Certamente não há nenhuma base de dados
com todas as coisas estúpidas que fiz

e que pensei quando era adolescente.

(Risos)

Mas para as minhas filhas
isso pode ser diferente.

Os dados delas que estão
a ser reunidos hoje

podem ser utilizados
para julgá-las no futuro

e podem impedir
os sonhos e esperanças delas.

Eu acho que está na hora,

está na hora de avançar.

Está na hora de começarmos
a trabalhar juntos

como indivíduos,

como organizações e como instituições,

e exigir maior justiça de dados para nós

e para os nossos filhos

antes que seja tarde de mais.

Obrigada.

(Aplausos)