Hoe synthetische biologie de mensheid kan uitroeien -- en hoe we het kunnen vermijden

De wereld-veranderende belofte van synthetische biologie en het bewerken van genen heeft een duistere kant. In deze vooruitziende talk gaat auteur en ondernemer Rob Reid in op de risico's van een wereld waarin steeds meer mensen toegang hebben tot de tools en technologie die nodig zijn om een doemscenario te maken dat de mensheid kan vernietigen -- en benadrukt dat het tijd is om dit gevaar serieus te nemen.

We zijn met ongeveer
zeven en een half miljard mensen.

De Wereldgezondheidsorganisatie zegt

dat er 300 miljoen
depressieve mensen zijn

en ongeveer 800.000 mensen per jaar
een einde aan hun leven maken.

Een klein deel ervan kiest
voor een diep nihilistische route,

waarbij ze zoveel mogelijk mensen
met zich de dood in slepen.

Dit zijn enkele beroemde
recente voorbeelden.

Hier een minder bekend voorbeeld
van ongeveer negen weken geleden.

Als je het niet meer weet,

komt dat omdat het zo vaak gebeurt.

Wikipedia telde vorig jaar
323 massaschietpartijen

in mijn eigen land, de Verenigde Staten.

Niet alle schutters waren suïcidaal

en ook wilden ze niet allemaal
het dodental maximaliseren,

maar veel van hen wilden dat wel.

Een belangrijke vraag is:
welke grenzen hebben deze mensen?

Neem de Vegasschutter.

Hij slachtte 58 mensen af.

Stopte hij omdat het er genoeg waren?

Nee, en we weten dit omdat hij nog
422 andere mensen neerschoot en verwondde;

mensen die hij zeker had willen doden.

Er is geen reden om te denken
dat hij bij 4200 zou zijn gestopt.

In feite zou iemand
zo nihilistisch als hij

ons allemaal wel
hebben willen vermoorden.

We weten het niet.

Wat we wel weten is dit:

wanneer suïcidale moordenaars ervoor gaan,

vermenigvuldigt technologie hun kunnen.

Hier een voorbeeld.

Enkele jaren terug was er was er een vlaag
van 10 massa-aanslagen in scholen in China

met dingen als messen,
hamers en hakbijlen,

want wapens zijn daar
echt moeilijk te vinden.

Door macaber toeval
gebeurde de laatste aanval

slechts enkele uren voor het bloedbad
in Newtown, Connecticut.

Maar bij die Amerikaanse aanval
vielen ongeveer evenveel slachtoffers

als bij de 10 Chinese aanvallen tezamen.

Dus kunnen we wel zeggen:
mes erg; geweer veel erger.

En vliegtuig: enorm veel erger,

zoals piloot Andreas Lubitz aantoonde

toen hij 149 mensen meenam
in zijn zelfmoord

door zijn vliegtuig te laten crashen
in de Franse Alpen.

En er zijn nog andere voorbeelden van.

Ik ben bang dat er veel dodelijker wapens
in onze nabije toekomst zullen zijn

dan vliegtuigen,
maar niet gemaakt van metaal.

Laten we eens kijken

naar de apocalyptische dynamiek
die zal voortvloeien

als suïcidale massamoord
gecombineerd wordt

met een zich snel ontwikkelend veld

dat vooral grenzeloze beloften inhoudt
voor de samenleving.

Ergens in de wereld
zijn er mensen

die ons, hoe amateuristisch ook,

allemaal zouden vermoorden
als ze maar wisten hoe.

De Vegasschutter hoorde daar
misschien niet bij,

maar tussen onze zeven en een half miljard

zijn er zeker zulke mensen.

Er zijn heel veel suïcidale nihilisten.

Dat zijn we al tegengekomen.

Er zijn mensen met stemmingsstoornissen
die ze niet eens kunnen beheersen.

Mensen die net ontsporende trauma's
hebben meegemaakt, enzovoorts.

De omvang van de daarvan afgeleide groep

was altijd gewoon nul
tot aan de Koude Oorlog,

toen plots de leiders
van de twee wereldwijde allianties

het vermogen kregen
om de hele wereld op te blazen.

Het aantal mensen met de vingers
aan de eindtijdknoppen

is sindsdien tamelijk stabiel gebleven.

Maar ik ben bang dat het gaat toenemen,

en niet alleen maar tot drie.

Dit gaat de pan uitrijzen.

Ik bedoel dat het zal gaan lijken
op een tech-businessplan.

(Gelach)

En de reden is dat we leven

in het tijdperk
van exponentiële technologieën,

die routinematig aanpakken
wat eerder niet lukte

en ze tot werkelijke superkrachten
van één of twee levende genieën maken

en -- nu komt het --

ze vervolgens verspreiden
naar zo goed als iedereen.

Hier is een goedaardig voorbeeld.

Als je in 1952 wilde dammen
met een computer,

moest je letterlijk die kerel zijn,

een van 's werelds 19 kopieën
van die computer bestellen

en dan je Nobel-achtige hersenen
gebruiken om hem te leren dammen.

Zo hoog lag de lat.

Vandaag hoef je alleen maar
iemand te kennen met een telefoon,

omdat computeren
een exponentiële technologie is.

Zo ook de synthetische biologie

die ik ‘synbio’ zal noemen.

In 2011 deden een paar onderzoekers
iets net zo ingenieus en ongekend

als de truc met het dammen,

met de H5N1-griep.

Deze soort doodt 60 procent
van de mensen die hem krijgen,

meer dan ebola.

Maar hij is zo weinig besmettelijk

dat hij sinds 2015
minder dan 50 mensen doodde.

Deze onderzoekers
bewerkten het genoom van H5N1

en maakten hem net zo dodelijk,
maar ook zeer besmettelijk.

De nieuwsafdeling van een
van de grootste wetenschappelijke bladen

zei dat als dit ding ontsnapte,
het kon leiden tot een pandemie

met misschien wel miljoenen doden.

En Dr. Paul Keim zei

dat hij geen organisme zo eng
als dit kon bedenken,

wat het laatste is dat ik persoonlijk
wil horen van de voorzitter

van de nationale wetenschappelijke
adviesraad voor bioveiligheid.

En dr. Keim zei trouwens ook dit nog --

["Ik denk dat hiermee vergeleken
antrax niet eens zo erg is."]

En hij is ook Antrax deskundige.

(Gelach)

Het goede nieuws
over deze biohack van 2011

is dat de mensen die het deden
geen kwade bedoelingen hadden.

Het waren virologen.

Ze geloofden dat ze
de wetenschap bevorderden.

Het slechte nieuws is dat de technologie
daar niet blijft hangen,

en dat in de komende decennia

hun prestatie iets alledaags zal worden.

In feite is het al veel gemakkelijker,
want zoals we gisterochtend hoorden

wordt slechts twee jaar na hun werk

het CRISPR-systeem al ingezet
voor het bewerken van het genoom.

Dit was een radicale doorbraak

dat genen manipuleren stukken
gemakkelijker maakt --

zo eenvoudig dat CRISPR
nu wordt onderwezen in middelbare scholen.

Dit gaat sneller dan computergebruik.

Die trage, geleidelijke witte lijn daar?

Dat is de wet van Moore.

Die laat ons zien hoe snel
computergebruik goedkoper wordt.

Die steile, gekke
groene lijn laat ons zien

hoe snel genetisch sequensen
steeds maar goedkoper wordt.

Nu zijn genetisch manipuleren,
synthese en sequensen

verschillende disciplines,
maar ze zijn nauw verwant.

En ze gaan allemaal hals over kop vooruit.

De sleutels tot het koninkrijk
zijn deze zeer kleine gegevensbestanden.

Dit is een uittreksel van het H5N1-genoom.

Het hele ding past
op slechts een paar pagina's.

Maak je geen zorgen,
je kunt dit googelen.

Het staat overal op het internet, toch?

En het stukje dat het besmettelijk maakte,

past wel op één enkel Post-it blaadje.

Zodra een genie een gegevensbestand maakt,

kan iedere idioot dit kopiëren,

over de hele wereld verspreiden

of afdrukken.

Ik bedoel niet alleen hierop afdrukken,

maar al snel op dit.

Laten we een scenario bedenken.

Neem 2026, een willekeurig jaar,

en een briljant viroloog ontwerpt,
voor de wetenschap

en om pandemieën beter te begrijpen,

een nieuwe microbe.

Ze is zo besmettelijk als waterpokken,

zo dodelijk als ebola

en ze incubeert maandenlang
voor ze een uitbraak veroorzaakt,

zodat de hele wereld kan worden besmet
voor de eerste tekenen van problemen.

Dan wordt haar universiteit gehackt.

En natuurlijk is dit geen science fiction.

Een recente Amerikaanse aanklacht

gaat over het hacken
van meer dan 300 universiteiten.

Dus verspreidt zich dat bestand
met het genoom van die microbe

naar de duistere uithoeken
van het internet.

Als dat bestand er eenmaal is,
gaat het nooit meer weg --

vraag het maar aan iemand die
een filmstudio of muziek-label uitbaat.

In 2026 zal er misschien een waar genie
als onze viroloog nodig zijn

om zo’n echt levend onding te maken,

maar 15 jaar later

kan het misschien al op een DNA-printer
van een een middelbare school.

En zo niet?

Geef het nog een paar decennia.

Even terzijde:

herinner je je deze dia hier?

Let op deze twee woorden.

Als iemand dit probeert
en het is slechts 0,1% effectief,

dan sterven er acht miljoen mensen.

Dat is 2500 keer 9/11.

De beschaving zou het overleven,

maar ze zou permanent verminkt zijn.

Dit betekent dat we ons
zorgen moeten maken over mensen

die er maar een klein beetje van weten,

niet alleen over genieën.

Vandaag kunnen misschien
maar een handvol genieën

een eindtijdmicrobe maken

die voor 0,1% effectief is
of misschien zelfs een beetje meer.

Meestal zijn ze stabiel en succesvol
en dus geen deel van deze groep.

Dus denk ik dat ik me daar
niet te veel zorgen over hoef te maken.

Maar wat als de technologie verbetert,

zich verspreidt

en duizenden studenten biologie
het gaan kunnen?

Zijn die allemaal perfect stabiel?

Of misschien een paar jaar later

als elke gestresseerde eerstejaarsstudent
geneeskunde het zal kunnen maken?

Op een bepaald moment

gaan die kringen overlappen,

want dan hebben we het
over honderdduizenden mensen wereldwijd.

Zo had je onlangs die kerel
die verkleed als de Joker

12 mensen doodschoot
bij een Batman-première.

Dat was een doctoraatsstudent
in neurowetenschappen

met een NIH-subsidie.

OK, anders bekeken:

ik denk dat we dit echt kunnen overleven
als we er nu mee beginnen.

Ik zeg dit na talloze uren
te hebben doorgebracht

met het interviewen
van wereldleiders in synbio

en ook met het onderzoeken van hun werk
voor de wetenschapspodcasts die ik maak.

Ik ben bang geworden voor hun werk,
mocht dat nu nog niet duidelijk zijn ...

(Gelach)

maar meer dan dat, ik ben
het potentieel ervan gaan appreciëren.

Dit spul zal kanker genezen,
ons milieu herstellen

en onze wrede behandeling
van andere wezens gaan stoppen.

Hoe gaan we dit krijgen zonder,
je weet wel, onszelf te vernietigen?

Ten eerste: of we het nu
leuk vinden of niet, synbio is hier,

dus laten we de technologie omarmen.

Als we het verbieden,

zou dat alleen de slechteriken
in de kaart spelen.

In tegenstelling tot
de nucleaire programma's,

kan biologie onzichtbaar worden beoefend.

Massaal Sovjetbedrog
over biowapenverdragen

maakte dat heel duidelijk,

net als ieder illegaal
drugslab in de wereld.

Ten tweede: doe een beroep op de experts.

Laten we ze aanwerven en er meer opleiden.

Voor elk miljoen en één bio-ingenieurs

gaan er ten minste een miljoen
aan onze kant staan.

Ik bedoel, in deze zaak
zou Al Capone aan onze kant staan.

Zo laag zou de lat liggen
om bij de goeden te horen.

Massale numerieke voordelen doen ertoe,

zelfs wanneer een slechterik
zware schade zou kunnen toebrengen,

omdat onder veel andere dingen,

dat zorgt dat we dit
uitgebreid kunnen exploiteren.

Wij hebben jaren en hopelijk decennia

om ons voor te bereiden
en het te voorkomen.

De eerste die iets verschrikkelijks
zal proberen -- en die komt er --

is misschien nog niet eens geboren.

Dit moet een inspanning zijn
van de hele samenleving

en iedereen moet er aan deelnemen,

omdat we aan een kleine groep
deskundigen niet kunnen vragen

verantwoordelijk te zijn
voor zowel het inperken

als het benutten
van de synthetische biologie.

Dat probeerden we al
met het financiële systeem

en onze verantwoordelijken
werden massaal corrupt

toen ze ontdekten
hoe ze dingen af konden raffelen

en enorme risico’s namen
ten koste van ons.

Ze privatiseerden de winsten,

werden schandalig rijk

en zadelden de rest op
met een schuld van 22 biljoen dollar.

En meer recent --

(Applaus)

Hebben jullie een bedankje gekregen?

Ik wacht nog steeds op het mijne.

Ik dacht dat ze het te druk hadden
om dankbaar te zijn.

En meer recent

werd plots online privacy
een groot probleem,

dat we eigenlijk uitbesteedden.

Nogmaals:

geprivatiseerde winsten,
gesocialiseerde verliezen.

Is er nog iemand
die daar niet goed van wordt?

(Applaus)

We hebben behoefte
aan een meer inclusieve manier

om onze welvaart veilig te stellen,

onze privacy

en binnenkort ook ons leven.

Hoe kunnen we dit allemaal doen?

Als onze lichamen
vechten tegen ziekteverwekkers

gebruiken ze ingenieuze immuunsystemen,

die zeer complex en gelaagd zijn.

Waarom zou dat niet kunnen
met ons hele verdomde ecosysteem?

Een jaar TED-talks kan opgaan
aan die eerste kritische laag.

Dat zijn slechts een paar
van de vele goede ideeën.

Intensief onderzoek- en ontwikkelingswerk

kan de zeer primitieve
ziekteverwekkersensoren van vandaag

beter en goedkoper maken

zodat ze snel intelligent
en genetwerkt worden

en ze geleidelijk zo wijdverbreid worden
als rookmelders of smartphones.

Hieraan verwant:

vaccins hebben allerlei problemen

qua productie en distributie.

Eenmaal klaar kunnen ze
niet meer aangepast worden

aan nieuwe bedreigingen of mutaties.

We hebben een flexibel
systeem van bioproductie nodig

dat zich uitstrekt tot in elke apotheek
en misschien zelfs tot in onze huizen.

Printer-technologie voor vaccins
en geneesmiddelen is binnen handbereik

als we het de prioriteit geven.

Vervolgens geestelijke gezondheid.

Veel mensen die een suïcidale
massamoord plegen,

lijden aan een verlammende,
therapieresistente depressie of PTSD.

We hebben hiervoor nobele onderzoekers
zoals Rick Doblin nodig,

maar ook de veel talrijkere
zelfzuchtige klootzakken

moeten zich gaan realiseren

dat acuut lijden ons binnenkort
allemaal zal bedreigen,

niet alleen de getroffenen.

Die klootzakken zullen
samen met ons en Al Capone

gaan strijden tegen deze aandoening.

Ten derde kan en moet ieder van ons
een witte bloedcel zijn

in dit immuunsysteem.

Suïcidale massamoordenaars
mogen dan verachtelijk zijn, ja,

maar het zijn ook vreselijk
gebroken en trieste mensen

en wij moeten allemaal doen wat we kunnen

om ervoor te zorgen
dat niemand onbemind blijft.

(Applaus)

Vervolgens moeten we
het gevecht tegen deze gevaren

tot kern van de discipline
van de synthetische biologie maken.

Er zijn bedrijven die beweren

dat hun ingenieurs 20% van hun tijd

doen wat ze willen.

Wat als degenen die bio-ingenieurs inhuren
en degenen die ze zelf worden,

20% van hun tijd zouden besteden

aan de verdediging
van het algemeen belang?

Geen slecht idee, toch?

(Applaus)

Dan tot slot: dit zal niet leuk zijn.

Maar we moeten onze gedachten laten gaan
naar een aantal zeer duistere plaatsen,

en bedankt dat ik jullie daar deze avond
even in rond mocht leiden.

We overleefden de Koude Oorlog

omdat ieder van ons het gevaar
begreep en respecteerde,

deels omdat we elkaar al tientallen jaren
angstaanjagende spookverhalen vertelden

met namen als ‘Dr. Strangelove’

en ‘War Games’.

Dit is geen tijd om kalm te blijven.

Dit is een van die zeldzame momenten
waarop het zeer productief is

om doodsbenauwd te zijn,

(Gelach)

om wat spookverhalen te verzinnen

en onze angst als brandstof te gebruiken
om dit gevaar te bestrijden.

Omdat al deze verschrikkelijke
scenario's die ik heb afgeschilderd

niet onontkoombaar zijn.

Ze zijn optioneel.

Het gevaar is nog wat veraf.

Dat betekent dat het ons
alleen maar zal overkomen

als we het toelaten.

Laten we dat niet doen.

Hartelijk dank voor het luisteren.

(Applaus)