Comment la biologie de synthèse pourrait faire disparaître l'humanité -- et comment l'arrêter

La promesse de la biologie de synthèse et de la modification des gènes a un côté sombre. Dans ce discours clairvoyant, Rob Reid, auteur et entrepreneur, illustre les risques d'un monde où de plus en plus des gens ont accès à des outils et à une technologie programmés pour créer un bogue catastrophique qui pourrait faire disparaître l'humanité. Il nous prévient qu'il est temps de considérer sérieusement ce danger.

Nous sommes sept milliards et demi.

Pour l’Organisation Mondiale de la Santé,
300 millions sont déprimés,

et 800 000 se suicident chaque année.

Une infime portion d’entre eux choisit
une voie profondément nihiliste :

ils meurent en tuant
le plus de gens possible.

Voici des exemples connus
et assez récents.

En voici un moins connu,
qui s’est passé il y a neuf semaines.

Vous l’avez oublié,

car ce n’est pas un cas isolé.

Wikipédia a comptabilisé
323 fusillades de masse, l’année dernière,

dans mon pays natal, les États-Unis.

Tous ces tueurs n’étaient pas suicidaires,

et n’ont pas cherché à maximiser
le nombre de victimes,

mais beaucoup l’ont fait.

On se pose une question importante :
quelles sont leurs limites ?

Prenez le tueur de Las Vegas :

il a massacré 58 personnes.

S’est-il arrêté parce que
ça lui suffisait ?

Non, et nous le savons, car
il a tiré et a blessé 422 personnes

qu’il aurait sûrement préféré tuer.

Il ne se serait donc pas arrêté à 4 200.

D’ailleurs, comme il était si nihiliste,
il nous aurait volontiers tous tués.

On ne le sait pas.

Ce que nous savons est que

quand les assassins suicidaires
s’y mettent vraiment,

la technologie est l’effet multiplicateur.

Voici un exemple :

il y a quelques années, une vague
d’attaques contre des écoles chinoises

commises avec des couteaux,
des marteaux et des couperets,

car il y est difficile d’avoir des armes.

Coïncidence macabre,
cette dernière attaque

a eu lieu quelques heures avant la tuerie
de Newtown, dans le Connecticut.

Mais cette attaque américaine a fait
environ le même nombre de victimes

que les 10 attaques chinoises combinées.

On peut donc l’affirmer :
couteau : horrible ; pistolet : pire.

Et un avion : massivement pire,

comme l’a montré le pilote Andreas Lubitz,
en forçant 149 personnes

à s’associer à son suicide,

en écrasant un avion dans les Alpes.

Il y a d’autres exemples similaires.

Je crains qu’il y ait prochainement des
armes bien plus létales que les avions,

des armes pas faites en métal.

Considérons ensemble les dynamiques
apocalyptiques qui en découleraient,

si un tueur de masse profite d’un domaine
en avance technologique

qui, dans l’ensemble, promet
des bienfaits infinis pour la société.

Quelque part dans le monde,
il existe un petit groupe de gens

qui essaieraient de tous nous tuer,

si seulement ils savaient
comment le faire.

Le tueur de Las Vegas était peut-être
comme ça,

mais parmi 7,5 milliards de personnes,

de telles personnes existent.

Il y a plein de nihilistes suicidaires.

Nous venons de le voir.

Des personnes avec de graves et
incontrôlables troubles de l’humeur.

Des personnes qui souffrent
de traumatismes bouleversants, etc., etc.

Quant à notre petit groupe,

il est simplement inexistant
jusqu’à la Guerre froide,

quand, soudainement,
les dirigeants des deux coalitions

ont gagné la possibilité
de faire sauter la planète.

Le nombre de personnes avec
un bouton pour la fin du monde

est resté relativement stable depuis lors.

Mais je crains qu’il ne soit
en augmentation

et pas qu’il passe à trois,

on va battre les records.

Ça va ressembler à
un business plan de start-up !

(Rires)

Parce qu’on est dans une ère
de technologies exponentielles,

qui prennent en permanence
des impossibilités

et leur donnent les super-pouvoirs
d’un ou deux génies vivants

et — surtout —

les distribuent à tout le monde.

Voici un exemple positif.

Si vous vouliez jouer aux Dames
contre un ordinateur en 1952,

le seul moyen était d’être ce type,

réquisitionner l’un des 19 exemplaires
de cet ordinateur,

et avoir des compétences de génie pour
lui apprendre à jouer aux dames.

Voilà le niveau !

Aujourd’hui il suffit de connaitre
quelqu’un avec un portable,

parce que l’informatique
est une technologie exponentielle.

Comme la biologie de synthèse,

que j’appellerai « biosyn ».

En 2011, quelques chercheurs ont fait

quelque chose d’aussi génial
que le truc des Dames

avec le virus H5N1.

Une souche qui tue
jusqu’à 60 % des gens infectés,

plus qu’Ebola.

Mais elle est si peu contagieuse

qu’elle a tué moins de 50 personnes
depuis 2015.

Ces chercheurs ont modifié
le génome du H5N1

et l’ont rendu tout aussi mortel,
mais très contagieux !

Le directeur d’une des plus prestigieuses
revues scientifiques

a déclaré que si ça sortait,
ça causerait une épidémie

avec des millions de morts.

Et le Docteur Paul Keim a déclaré

n’avoir jamais imaginé d’organismes
aussi terribles.

Ce que, personnellement,
je n’ai pas envie d’entendre

du directeur du Conseil national
sur la bio-securité.

Monsieur Keim a aussi déclaré

« Le bacille du charbon ne fait pas peur
à côté de ça. »

Et il est : [Expert en maladie du charbon]
(Rires)

Heureusement, les personnes responsables
du biopiratage de 2011

ne cherchaient pas à nuire,

ce sont des virologues.

Ils pensaient faire progresser la science.

Mais la technologie ne s’arrête jamais,

et dans les prochaines années,

leurs prouesses seront assez simples.

En effet, c’est déjà plus simple,
comme l’on a vu hier matin,

deux ans après leur travail,

le système CRISPR a été utilisé
pour une modification génétique.

Une avancée radicale

qui simplifie la modification de gènes —

si simple que le CRISPR
est enseigné au lycée.

Cela bouge plus rapidement
que l’informatique.

Cette ligne blanche, lente et lourde ?

C’est la loi de Moore.

Qui prédit comment l’informatique
devient moins chère.

Et cette ligne verte, qui descend vite,

nous montre que le prix du
séquençage génétique devient moins cher.

La modification, la synthèse
et le séquençage des gènes

sont des disciplines
différentes mais liées.

Elles bougent toutes au même rythme.

L’élément-clé, ce sont
ces petits fichiers.

Ceci est un extrait du gène H5N1.

La totalité tient en quelques pages.

Ne vous inquiétez pas, vous pouvez
chercher sur Google, vous le trouverez.

La partie contagieuse pourrait bien

tenir sur un Post-it.

Et une fois qu’un génie crée un fichier,

n’importe quel idiot peut le copier,

le distribuer dans le monde

ou l’imprimer.

Et je ne veux pas parler de
ce genre d’impression,

mais de ça.

Imaginons un cas possible.

On est, par exemple, en 2026,

une virologue géniale qui espère
faire avancer la science

et mieux comprendre les épidémies,

conçoit de nouveaux microbes.

Contagieux comme la varicelle,

mortels comme Ebola,

et incubent pendant des mois
avant l’épidémie ;

par conséquent tout le monde peut être
contaminé avant le premier symptôme.

Puis son université est piratée.

Non, ce n’est pas de la science-fiction.

En effet, une inculpation récente

a prouvé le piratage de
plus de 300 universités aux États-Unis.

Le fichier avec le gène des microbes se
répand dans les coins sombres d’internet,

où les fichiers ne peuvent disparaître —

comme le savent les studios de cinéma
et les majors de la musique.

Peut-être qu’en 2026,

il faudrait un génie,
comme notre virologue,

pour créer la bestiole,

mais 15 ans après,

il suffira peut-être de l’imprimante ADN
de n’importe quel lycée.

Et si ça ne suffit pas ?

Attendez encore quelques décennies.

Une petite parenthèse :

voyez-vous cette diapo ?

Regardez ces deux mots-là.
[peut-être]

Si quelqu’un essaie de le faire
et est efficace à 0,1 % seulement,

huit millions de personnes meurent.

C’est 2.500 « 11 Septembre »

La civilisation survivrait,

mais elle serait défigurée pour toujours.

Cela veut dire donc qu’on doit
faire attention à tous ceux

qui ont cet objectif,

pas seulement les génies.

Aujourd’hui il y a quelques génies

qui pourraient créer des microbes
fin-du-monde

1 % efficaces, peut-être un peu plus.

Ils sont assez stables et accomplis,
pas du tout comme ce groupe.

Je suis donc à peu près rassuré.

Mais après ?
Quand la technologie s’améliorera,

et se diffusera,

et qu’on aura des milliers d’étudiants
diplômés en biologie ?

Est-ce que chacun d’entre eux
sera parfaitement stable ?

Et quelques années plus tard,

où va-t-on trouver les étudiants
en prépa angoissés ?

À un certain moment,

ces cercles vont se croiser.

On parle de centaines
de milliers de personnes

dans le monde entier.

Parmi lesquels ce type qui s’est déguisé
comme le Joker

et a tué 12 personnes
à la première de Batman.

C’était un doctorant

avec une bourse du NIH.

OK, un rebondissement :

je pense qu’on peut y survivre,
si on s'en occupe maintenant.

Je vous dis ça, car j’ai passé
d’innombrables heures

à interviewer les leaders mondiaux
du synbio,

et en étudiant leurs travaux
pour mes podcasts scientifiques.

Je crains leur travail, au cas où
vous ne l’auriez pas compris.

(Rires)

J’ai aussi appris
à admirer leur potentiel.

Cela va guérir le cancer,
soigner l’environnement

et mettre fin à notre façon cruelle
de traiter les animaux.

Comme fait-on cela sans nous anéantir ?

Premièrement, qu’on le veuille ou non,
la synbio existe,

adoptons donc la technologie.

Si on l’interdit,

ça ne fera qu’aider les personnes
avec de mauvaises intentions.

Contrairement aux programmes nucléaires,

on peut pratiquer la biologie
de manière invisible.

La triche soviétique sur les traités
contre les armes biologiques

l’a bien montré, ainsi que tous les labos
de drogues illégales dans le monde.

Deuxièmement, engageons des experts.

Embauchons ces experts et profitons d’eux.

Sur un million et un de bio-ingénieurs,

un million d’entre eux
sont dans notre camp.

Même Al Capone serait avec nous,

la limite pour être du côté
des « gentils » est si basse.

Et cet avantage numérique massif
est important

même quand une seule personne
peut causer autant de dégâts.

Parce qu’entre autres,

ils nous donnent
l’occasion de profiter de ça :

on a des années et des décennies pour
se préparer et faire de la prévention.

La première personne qui fera des choses
atroces — et il y en aura une —

n’est peut-être pas encore née.

Puis, ça doit être un effort collectif,

auquel vous devez tous participer,

car on ne peut pas demander
à un petit groupe d’experts

d’être en charge de retenir et
d’exploiter la biologie de synthèse,

On l’a déjà essayé
avec le système financier,

et nos intendants sont devenus
énormément corrompus

quand ils ont découvert comment tricher,

nous infliger d’énormes risques

et privatiser les gains.

Devenant affreusement riches

en nous laissant avec une
addition de 22 000 milliards.

Et plus récemment -

(Applaudissements)

Vous êtes ceux qui ont reçu
les lettres de remerciement ?

J’attends encore la mienne.

J’ai pensé qu’ils étaient trop occupés
pour nous remercier.

Et beaucoup plus récemment,

la vie privée en ligne est apparue
comme un problème majeur

qu’on a, en fait, externalisé.

Je répète :

gains privatisés, pertes collectivisées.

Est-ce que quelqu’un en a marre de ça ?

(Applaudissements)

Il faudra donc une façon plus inclusive
de sauvegarder notre prospérité,

nos vies privées,

et bientôt, nos vies.

Comment fait-on tout ça ?

Quand nos corps luttent contre
des agents pathogènes,

ils utilisent des systèmes
immunitaires ingénieux

qui sont très complexes et multicouches.

Pourquoi ne créons-nous pas ça
pour notre écosystème ?

On pourrait faire un an de TED Talks
sur cette première couche vitale.

Voici quelques idées auxquelles
on pourrait se référer.

Quelques chercheurs de génie

pourraient améliorer nos primitifs
détecteurs de pathogènes,

faire diminuer leur prix très vite,

qui deviendraient rapidement ingénieux,

interconnectés,

et deviendraient aussi répandus que les
détecteurs de fumée et les smartphones.

Une petite remarque :

les vaccins ont toutes sortes de problèmes

qui concernent leur production
et leur distribution,

une fois créés, ils ne peuvent pas
s’adapter aux menaces ou aux mutations.

On a besoin d’une plateforme
de biofabrication agile,

qu'on trouverait dans chaque pharmacie
et même chez nous.

La technologie d’impression des vaccins
et des médicaments est accessible

si on lui donne la priorité.

Après, la santé mentale.

De nombreux meurtriers de masse
suicidaires

ont une dépression invalidante
ou du stress post-traumatique.

On a besoin de nobles chercheurs tels
que Rick Doblin pour travailler sur ça,

mais aussi de cons égoïstes - qui
sont beaucoup plus nombreux -

pour comprendre qu’une grande souffrance
va nous tous menacer,

pas seulement ceux qui sont touchés.

Ces cons vont nous rejoindre et Al Capone

pour lutter contre cette situation.

Enfin, chacun d’entre nous
peut et devrait être un globule blanc

de ce système immunitaire.

Les meurtriers de masse suicidaires
peuvent être détestables, oui,

mais ils sont aussi des gens
vraiment brisés et tristes.

Ceux qui ne le sont pas doivent faire
leur possible

pour que personne ne soit mal-aimé.

(Applaudissements)

Après, on doit combattre ces dangers

au sein de la biologie de synthèse.

Il y a des entreprises qui affirment

permettre aux ingénieurs
de passer 20 % de leur temps

à faire ce qu’ils veulent.

Et si ceux qui embauchent
les bioingénieurs, et

ceux qui le deviennent,

consacraient 20 % de leur temps à
bâtir des défenses pour le bien commun ?

Pas mal comme idée, non ?

(Applaudissements)

Enfin : ce ne sera pas drôle.

Mais on doit laisser nos esprits
s’aventurer dans des endroits très sombres

et merci de m’avoir laissé
vous y amener ce soir.

On a survécu à la Guerre froide

parce que chacun de nous a compris
et respecté le danger,

et, entre autres,
parce qu’on a passé des décennies

à nous raconter des histoires effrayantes

comme « Docteur Folamour »

et « Wargames ».

Ce n’est pas le moment de rester calme.

C’est un des rares moments
où il est extrêmement fructueux

de céder à la panique —

(Rires)

d’inventer des histoires effrayantes

et d’utiliser nos peurs comme carburant
contre ce risque.

En effet, toutes les situations affreuses
que j’ai illustrées —

ne sont pas notre destinée.

Elles sont une possibilité.

Le danger est encore un peu distant.

Cela signifie qu’il nous arrivera dessus

que si nous le permettons.

Ne faisons pas ça.

Merci de votre attention.

(Applaudissements)