Boa tarde, todo o mundo. Sou Doug Chilcott do TED.
Bem-vindo ao TED Global aqui no salão aberto de tradução.
Hoje temos Daniel Suarez que acabou de deixar o palco há pouco
com uma palestra bastante alarmante e deixou muita gente com calafrios,
tenho um monte de perguntas.
Então, vamos voltar a você em um momento.
Também se juntaram a nós no palco aqui Irteza do Paquistão,
Hugo da França,
Els da Bélgica,
e Krystian da Polônia.
E se juntando a nós via Skype, em altas horas do dia e noite,
temos Lazarus da Grécia,
Anja da Eslovénia,
Alberto da Itália,
e Yasushi, no Japão, onde na verdade é meia-noite.
Obrigado por se juntar a nós.
Na verdade vou deixar tudo por conta de vocês.
Krystian, tinha uma pergunta sobre o uso da ficção.
-Sim.
Eu queria saber se, porque o seu discurso é um conto de advertência,
mas o seu romance provavelmente não foi feito como um.
mas você mostrou esta perspectiva em que temos de ser muito cuidadosos
sobre este crescimento na sua pesquisa,
ou o seu romance também significava algo para ser cauteloso?
Eu realmente fiz o conto como advertência
eu vou lhe dizer, algumas pessoas pensam
que autores de suspense gostam de ser pessimistas.
Mas isto não é real, de fato. Amo a tecnologia.
Passei quase 20 anos desenvolvendo software.
Tento pensar nisto como apontar icebergs que é o contrário de ser pessimista.
Isso não significa que você não deva se mexer,
isso significa que você pode ter
que virar a direita ou esquerda para evitar obstáculos.
Acho que há um caminho que podemos navegar
e chegar a um lugar melhor do que onde estamos agora.
Só temos que estar cientes do terreno, isso é tudo.
Isso é o que eu tento fazer.
Um conto de advertência é talvez uma descrição perfeita para ele.
Irteza do Paquistão, nós estávamos falando anteriormente sobre drones
que fazem parte da última campanha política no Paquistão.
Você poderia falar sobre a realidade de drones no seu país?
O segundo maior partido, que acaba de ganhar em nossas recentes eleições,
usou drones na sua campanha lá.
Há um monte de incidentes por lá
acertando o cara errado.
E eles os mataram.
Então é realmente uma coisa ruim por lá.
Para cada pessoa que se feriu, 100 acabaram ficando com raiva
e em seguida, temos um problema maior, e você atinge as pessoas erradas.
Isto não é um modo eficaz de fazer as coisas.
Mesmo se você concorda com isto como uma tecnologia,
somente que não é eficaz.
Penso especialmente o que modificará o ponto de vista da América sobre isto,
como outros avanços da tecnologia, (existe) a tentação para usá-lo
quando você é o único que tem isto, ela é muito forte,
mas estamos chegando rapidamente ao ponto
onde estamos vendo 70 nações desenvolver o seu próprio.
Penso que ajudará finalmente conseguir com isto uma situação onde podemos
ter um embasamento legal
porque não é do interesse de ninguém continuar para onde estamos indo.
Não é apenas sobre livrar a todos.
Você tem ideias sobre este marco jurídico?
Como seria?
Dizer 'você não pode fazer isso' não é o bastante.-
Não, não. Aqui está a coisa, no entanto. fizemos isso com todos os tipos de coisas.
Armas a laser para cegar é um grande exemplo.
Não podemos sentar aqui e pensar sobre os horríveis incidentes
com armas laser que causam cegueira porque as pessoas já decidiram:
é muito fácil cegar às pessoas, não vamos fazer isso.
E, com certeza, existem todos esses controles internacionais.
Assim, drones são um pouco diferentes, porque eles têm algumas utilizações civis.
Assim, você vai ter casos em que indivíduos ou pequenos grupos
estão colocando armas em drones,
por isso que eu estava pensando em ter um sistema imunológico,
esta ideia que criamos, sabe, drones que procurariam outros drones.
E, em seguida, traze-los para a atenção dos seres humanos.
Eles não vão atacá-los.
Pois, não há nenhuma maneira que se consiga parar tudo.
Mas não se quer militarizar toda a sociedade
para defendê-la contra os robôs.
Na verdade, vamos usar um dos benefícios da tecnologia.
Vou trazer algumas das pessoas do Skype.
Uma tecnologia não ameaçadora.
Eu não acho que a tecnologia
vai estar disponível em um par de anos,
porque eu encontrei alguns sites que citam que você pode realmente construir
a maioria das peças de drones com uma impressora 3D.
Assim, os drones estão mesmo chegando para pequenos grupos,
não apenas para as organizações terroristas e países.
Então, eu não acho que uma convenção que você falou em sua palestra do TED
vai resolver isto.
Acho que precisamos de uma perspectiva mais ampla, mais baseada na Internet.
Eu não sei se você tem alguma sugestão, acho que todos nós apreciaríamos?
Bem, eu sou curioso quando você disse que uma solução mais ampla,
você tem alguma ideia do que isso poderia ser?
Não, eu estava na esperança de que você poderia ter!
(Risos)
- Deixe-me dizer, quando digo marco jurídico internacional,
esse é realmente apenas o começo.
Mais uma vez, na tentativa de alterar a psicologia das pessoas
para dizer um pouco mais do que apenas,
olha que coisas legais podemos fazer com essas armas.
É o próximo passo.
É um apreço pela forma como isto corroeria a democracia,
a ideia de um governo popular, fazendo esta conexão,
mais do que estas armas são perigosas.
Individualmente, podem ferir as pessoas.
Podem machucar toda a nossa sociedade.
Então, aceito o seu ponto, está certa, de uma forma,
Mas é o melhor que eu posso pensar
acho que tenho uma mente tortuosa e por isso que eu escrevo essas coisas,
mesmo com uma mente tortuosa,
não encontrei a solução perfeita para isso.
Hugo, tem um comentário?
Sim, quando olhamos para trás em nossas tecnologias atuais,
as mais eficientes, como o GPS, Internet,
ou o radar,
estas são tecnologias que adquirimos dos militares, certo?
Deste modo, a minha pergunta para você é porque será diferente com drones agora?
não penso que seja.
não penso assim.
GPS é usado por todos nós, realmente. Penso como ele é ótimo.
Sou bastante otimista sobre a natureza humana.
Eu tento visualizá-la como uma curva de sino.
Em qualquer extremo, tem pessoas fazendo coisas extremas,
mas a maioria das pessoas quer passar a sua vida e fazer coisas boas
e ficar com suas famílias.
Então eles vão pegar essas tecnologias,
desenvolvidas por militares ou não,
e eles vão fazer coisas legais e pacificas com elas.
A logística, a monitorização ambiental, procura e resgate,
fotografia aérea.
E, então, sim, você vai ter pessoas que vão armá-las
e, em seguida, teremos um ataque, e esperemos que isto o torne um pária.
O que mudaria muitos pontos de vista dos norte-americanos sobre o assunto
é se a América fosse atacada desta forma,
seria uma questão que temos de lidar.
Não estou dizendo que eu quero que isso aconteça, mas é para onde isto vai.
Se você olhar, poucos anos no passado, tendo em conta o preço
e a acessibilidade da tecnologia, como você apontou,
cada país terá e será tentado a usá-los
para resolver problemas insolúveis ou problemas que ninguém quer enfrentar.
Mais uma vez, é que o anonimato.
É por esse motivo que temos que chegar na frente, e ao menos declarar
este é um caminho muito ruim
porque isso vai desestabilizar a geopolítica como nós a conhecemos.
E isso seria muito ruim.
Anja?
Eu só tinha uma pergunta.
Você está sozinho em sua luta contra os drones?
Tipo, você está sozinho na prossecução da convenção, ou tem alguma,
não sei, associações ou ONG ajudando você?
Mais uma vez, estava dizendo que eu tenho conversado
com o Observatório dos Direitos Humanos,
eu acho que eles estão com um grupo chamado artigo 36.
O Comitê Internacional de robótica e controle de armamentos.
Estas são todas boas organizações.
Não estou diretamente associado a eles.
Mas simpatizo fortemente com o que eles estão tentando fazer.
Estou sozinho? Definitivamente não.
Há muitas pessoas que estão muito preocupadas com isso.
Ambos os drones autônomos, bem como drones dirigidos por controle remoto
que estão sendo usados para assassinatos extrajudiciais especialmente
e acho que um monte de pessoas estão realmente chateadas
eles querem impedir que isto aconteça.
Então, não, não acho que estou sozinho.
Eu quis trazê-la para a conversa,
se você tiver quaisquer perguntas adicionais ou comentários?
Eu estava pensando, bem, parece inevitável,
vai acontecer,
nós vamos ter robôs assassinos em poucos anos.
Então, devemos focar na defesa
e talvez levar a pesquisa para a investigação aberta
em vez de estigmatizar isto.
certificando-se que os sistemas de defesa pode ser tão bom como os dos caras maus?
- É interessante.
Acho que comecei a partir desse ponto de vista,
a ideia de que seria importante para as democracias não só para ter
drones robóticos na defesa, mas ter os melhores drones robóticos na defesa.
Eu realmente vim com a ideia de que é um mau caminho a percorrer.
Eu realmente acho que muda o equilíbrio
tanto no sentido de ofensivo que a defesa é realmente insustentável.
A melhor defesa é a de não construir o troço maldito.
Dito isso, eu acho que nós podemos ter sistemas muito avançados
que são ocupados em emboscar ou descobrir outros drones
para dar o sinal para os humanos para que eles possam dizer,
Sim, eles novamente.
E, em seguida, ter um ser humano fazer uma fatal decisão de, vamos dizer,
destruir este drone.
Mas não acho que ter robôs assassinos correndo ao redor de nossas cabeças
só vai ficar feio muito rápido.
Mais uma vez, vai ser robôs contra robôs, os bons.
Exatamente!
Exceto, isso é interessante, porque eu ouço muito isso
o que há de errado guerra sem derramamento de sangue?
E, eu não sei, eu quero dizer a essas pessoas,
você não viu o exterminador do futuro, caramba?
É a diferença entre seres humanos que lutam em uma guerra ou serem alvos,
porque, vamos enfrentá-lo, o ponto fraco aí,
temos de pegar esses drones por ai
para atingir os mandantes e cidadãos envolvidos, e fazê-los pagar
Seres humanos serão os alvos neste caso.
Será robôs de cada lado matando seres humanos.
O caso é que não penso que devemos construi-los em absoluto,
e penso que devemos assegurar-nos que eles não coloquem armas neles.
Ok, acho que estamos sem tempo.
Quero que todo o mundo regresse ao teatro a tempo,
Daniel, muito obrigado por nos encontrar
Você nos deu muito para pensar.
Obrigado por assistir pelo Skype ao redor do mundo.
Estamos aqui em cada intervalo durante a semana,
com palestrantes, toda a semana.
Então, ansioso para vê-lo na próxima.
Adeus.
(Aplausos)