Quando a tecnologia puder ler mentes, como vamos proteger a nossa privacidade?

Está próxima a tecnologia que pode descodificar a vossa atividade cerebral e revelar o que estão a pensar e a sentir, diz Nita Farahany, académica jurista e especialista em assuntos éticos. O que pode isto significar para o nosso já violado sentido de privacidade? Numa palestra de alerta, Farahany alerta para uma sociedade em que as pessoas são presas apenas por pensarem em praticar um crime (como em "Minority Report") e interesses privados vendem os nossos dados cerebrais — e refere a necessidade do direito à liberdade cognitiva que proteja a nossa liberdade de pensamento e autodeterminação.

Nos meses depois da eleição
presidencial de 2009 no Irão,

surgiram protestos por todo o país.

O governo iraniano suprimiu violentamente

o que veio a ser conhecido
como o Movimento Verde Iraniano,

chegando a bloquear os sinais de telemóvel

para cortar a comunicação
entre os manifestantes.

Os meus pais, que emigraram
para os EUA no fim dos anos 60,

passaram lá um tempo substancial,

onde vive toda a minha grande família.

Quando eu ligava
à minha família em Teerão

durante algumas das repressões
mais violentas dos protestos,

nenhum deles ousava falar comigo
sobre o que estava a acontecer.

Eles ou eu sabíamos rapidamente
desviar a conversa para outros tópicos.

Todos nós percebíamos
quais poderiam ser as consequências

de uma ação dissidente percetível.

Mas eu ainda desejo poder
ter sabido o que eles pensavam

ou o que estavam a sentir.

E se eu pudesse ter sabido?

Ou mais assustador,

e se o governo iraniano pudesse?

Tê-los-iam prendido com base
no que os cérebros deles revelavam?

Esse dia pode estar mais próximo
do que pensam.

Com as nossas capacidades
crescentes em neurociência,

em inteligência artificial
e em aprendizagem de máquinas,

podemos em breve saber muito mais
sobre o que acontece no cérebro humano.

Como especialista em bioética,
advogada, filósofa

e iraniana-americana,

estou profundamente preocupada

com o que isso significa
para a nossa liberdade

e que tipo de proteções precisamos.

Acredito que precisamos
de um direito de liberdade cognitiva,

como um direito humano
que precisa de ser protegido.

Se assim não for,
a liberdade de pensamento,

do acesso e controlo do nosso cérebro

e a nossa privacidade mental
será ameaçada.

Considerem isto:

uma pessoa comum tem
milhares de pensamentos todos os dias.

Assim que um pensamento ganha forma,

como um cálculo matemático
ou um número, uma palavra,

os neurónios estão a interagir no cérebro,

a criar uma descarga elétrica minúscula.

Quando temos um estado mental
dominante, como o relaxamento,

centenas e milhares de neurónios
estão a disparar no cérebro,

criando descargas elétricas simultâneas
em padrões característicos

que podem ser medidos
com um eletroencefalograma, ou EEG.

Na verdade, é isso que estão a ver agora.

Estão a ver a minha atividade cerebral
que foi registada em tempo real

com um aparelho simples
que usei na minha cabeça.

O que estão a ver é a minha atividade
cerebral quando estava relaxada e curiosa.

Para partilhar esta informação com vocês,

usei um dos primeiros aparelhos
de EEG baseados no consumidor

como este,

que registou a atividade elétrica
no meu cérebro em tempo real.

Não é diferente dos aparelhos de "fitness"
que alguns de vocês podem estar a usar

para medir a vossa frequência cardíaca
ou os passos que deram,

ou até mesmo o vosso sono.

Não é a técnica de neuroimagem
mais sofisticada no mercado,

mas já é a mais portátil

e a mais provável de criar impacto
no nosso dia a dia.

Isto é extraordinário.

Através de um simples aparelho
fácil de usar,

podemos literalmente ver
dentro do cérebro humano

e conhecer aspetos da nossa paisagem
mental sem sequer dizer uma palavra.

Embora não possamos decifrar
pensamentos complexos, por enquanto,

já podemos avaliar o humor de uma pessoa,

e com a ajuda da inteligência artificial,

podemos descodificar
alguns números de um só algarismo

ou formas ou palavras simples
em que uma pessoa está a pensar

a ouvir ou a ver.

Apesar de algumas limitações
inerentes no EEG,

acho que é seguro dizer que,
com os avanços na tecnologia,

cada vez mais coisas que estão
a acontecer no cérebro humano

vão ser descodificadas, com o tempo.

Usando um destes aparelhos,

um epilético já consegue saber
que vai ter um ataque epilético

antes de ele acontecer.

Um paraplégico consegue escrever
num computador só com o pensamento.

Uma companhia baseada nos EUA desenvolveu
uma tecnologia para embutir estes sensores

no encosto de cabeça dos automóveis

para poderem monitorizar
a atenção do condutor,

a sua distração e carga cognitiva
enquanto ele conduz.

A Nissan, as companhias de seguro

e a Associação Automobilística Americana
já tomaram notas.

Podemos ver este filme
"escolhe-a-tua-aventura"

"The Moment", que,
com um aparelho de EEG,

muda o filme com base
nas nossas reações cerebrais,

dando-nos um final diferente
cada vez que a nossa atenção diminui.

Isto pode parecer fantástico,

e como especialista em bioética,

sou uma grande fã de dar poder às pessoas

para assumirem o controlo
da sua saúde e bem-estar

dando-lhes acesso
a informações sobre elas mesmas,

incluindo estas novas tecnologias
incríveis de descodificação cerebral.

Mas eu temo,

temo que, voluntária ou
involuntariamente, vamos desistir

do nosso último bastião de liberdade,
a nossa privacidade mental.

Que troquemos a nossa atividade cerebral

por reduções ou descontos em seguros

ou acesso livre
a contas de redes sociais...

ou até para manter o nosso emprego.

De facto, na China,

os maquinistas do comboio
de alta velocidade Pequim-Xangai,

o mais movimentado
deste género, no mundo,

são obrigados a usar aparelhos de EEG

para monitorizar a sua atividade cerebral
enquanto conduzem.

Segundo algumas fontes de notícias,

em fábricas do governo na China,

os trabalhadores são obrigados
a usar sensores de EGG

para monitorizar a sua produtividade

e o estado emocional no trabalho.

Os trabalhadores até podem
ser mandados para casa

se o cérebro deles demonstrar
uma concentração imperfeita no trabalho

ou uma agitação emocional.

Não vai acontecer amanhã,

mas estamos a caminhar para um mundo
de transparência cerebral.

Eu acho que as pessoas não percebem
que isso pode mudar tudo.

Tudo desde as nossas definições
de privacidade de dados às nossas leis,

até às nossas ideias sobre liberdade.

De facto, no meu laboratório
na Universidade de Duke,

recentemente realizámos um estudo
a nível nacional nos EUA

para ver se as pessoas reconhecem

a vulnerabilidade
das suas informações cerebrais

Pedimos às pessoas para avaliarem
a sua vulnerabilidade percetível

de 33 diferentes tipos de informações,

desde os seus números
da segurança social

até ao conteúdo das conversas telefónicas,

o seu histórico de relacionamentos,

as suas emoções, a sua ansiedade,

as imagens mentais na sua mente

e os pensamentos na sua mente.

Surpreendentemente, as pessoas avaliaram
o seu número de segurança social

como mais vulnerável
do que qualquer outro tipo de informações

incluindo os seus dados cerebrais.

Acho que isto é porque
as pessoas ainda não percebem

ou não acreditam nas implicações
desta nova tecnologia

de descodificação cerebral.

Afinal, se podemos saber
o funcionamento interno do cérebro humano,

o nosso número de segurança social
é a menor das nossas preocupações.

Pensem nisso.

Num mundo de total transparência cerebral,

quem se atreveria a ter
um pensamento político dissidente?

Ou um pensamento criativo?

Preocupa-me que as pessoas
se vão autocensurar

com medo de serem ostracizadas
pela sociedade,

ou que as pessoas percam o seu emprego
por causa do seu défice de atenção

ou instabilidade emocional,

ou porque estão a contemplar ações
coletivas contra os seus empregadores.

Se isso acontecer,
já não será uma opção,

porque o cérebro duma pessoa
há muito teria revelado

a sua orientação sexual
ou ideologia política

ou preferência religiosa,

muito antes de ela estar pronta
para partilhar essas informações

com outras pessoas.

Preocupa-me a capacidade
de as nossas leis se manterem a par

da revolução tecnológica

Pensem na Primeira Emenda
da Constituição dos EUA,

que protege a liberdade de expressão.

Também protege a liberdade de pensamento?

Se sim, isso significa que estamos livres

para alterar os nossos pensamentos
como quisermos?

Ou pode o governo ou a sociedade dizer-nos

o que podemos ou não fazer
com o nosso cérebro?

Pode a NSA espiar o nosso cérebro
usando estes novos aparelhos?

Podem as empresas que recolhem
dados cerebrais através de aplicações

vender essas informações a terceiros?

Agora mesmo, nenhuma lei
as impede de o fazerem.

Pode ser ainda mais problemático

em países que não partilham
as mesmas liberdades

desfrutadas pelas pessoas
que vivem nos EUA.

O que teria acontecido durante
o Movimento Verde Iraniano

se o governo tivesse estado a monitorizar
a atividade cerebral da minha família,

e tivesse achado que eles simpatizavam
com os protestantes?

Será rebuscado imaginar uma sociedade

na qual as pessoas são presas
por causa dos seus pensamentos

de praticarem um crime,

como na sociedade distópica
de ficção científica em "Minority Report"?

Já, nos EUA, em Indiana,

um jovem de 18 anos foi acusado
da tentativa de intimidar a sua escola

ao publicar um vídeo em que ele
disparava sobre pessoas nos corredores...

exceto que as pessoas eram "zombies"

e o vídeo era ele a jogar um videojogo
de realidade aumentada,

tudo interpretado como projeção mental
da sua intenção subjetiva.

Isto é exatamente o porquê de o nosso
cérebro precisar de proteção especial.

Se o nosso cérebro está sujeito
a processadores e agregação de dados

como os nossos registos financeiros
e transações,

se o nosso cérebro pode ser
pirateado e rastreado

como a nossa atividade "online",
os nossos telemóveis e aplicações,

então estamos no limite de uma ameaça
perigosa à nossa humanidade coletiva.

Antes que entrem em pânico,

acredito que existem soluções
para estas preocupações,

mas temos de começar
por nos focarmos nas coisas certas.

No que diz respeito a proteções
de privacidade em geral,

acho que estamos a lutar
uma batalha já perdida

ao tentar restringir
o circuito livre de informações.

Ao invés, devíamos focar-nos
em garantir direitos e soluções

contra o mau uso das nossas informações.

Se as pessoas têm o direito de decidir
como partilham as suas informações,

e, mais importante,
têm direito a indemnização

se as suas informações
forem mal usadas contra elas,

por exemplo para as discriminar
no local de trabalho

ou na saúde ou na educação,

isso levaria muito tempo
a construir a confiança.

Na verdade, em algumas situações,

queremos partilhar mais
das nossas informações pessoais.

Estudar informação agregada
pode dizer-nos muito

sobre a nossa saúde e bem-estar,

mas para partilharmos
de forma segura as nossas informações,

precisamos de proteções especiais
para a privacidade mental.

É por isso que precisamos
de um direito à liberdade cognitiva.

Este direito protegeria a nossa liberdade
de pensamento e reflexão,

a nossa liberdade de autodeterminação,

e garantiria que temos
o direito de consentir ou recusar

o acesso e a alteração
do nosso cérebro por outros.

Este direito poderia ser reconhecido

como parte da Declaração Universal
dos Direitos Humanos,

que tem mecanismos estabelecidos

para impor este tipo de direitos sociais.

Durante o Movimento Verde Iraniano,

os protestantes usaram a Internet
e a velha moda da palavra boca-a-boca

para coordenar as marchas.

E algumas das restrições
mais opressivas no Irão

foram levantadas em resultado disso.

Mas e se o governo iraniano tivesse
usado vigilância cerebral

para detetar e impedir os protestos?

Teria o mundo ouvido
os gritos dos protestantes?

Chegou a altura de começarmos
uma revolução de liberdade cognitiva.

Para garantir que desenvolvemos
responsavelmente a tecnologia

que nos pode permitir receber o futuro

enquanto nos protegemos intensamente
de qualquer pessoa, empresa ou governo

que tente aceder ilegalmente
ou alterar a nossa vida interior.

Obrigada.

(Aplausos)