So, there's about seven and a half billion of us.
The World Health Organization tells us that 300 million of us are depressed,
and about 800,000 people take their lives every year.
A tiny subset of them choose a profoundly nihilistic route,
which is they die in the act of killing as many people as possible.
These are some famous recent examples.
And here's a less famous one. It happened about nine weeks ago.
If you don't remember it,
it's because there's a lot of this going on.
Wikipedia just last year counted 323 mass shootings
in my home country, the United States.
Not all of those shooters were suicidal,
not all of them were maximizing their death tolls,
but many, many were.
An important question becomes: What limits do these people have?
Take the Vegas shooter.
He slaughtered 58 people.
Did he stop there because he'd had enough?
No, and we know this because he shot and injured another 422 people
who he surely would have preferred to kill.
We have no reason to think he would have stopped at 4,200.
In fact, with somebody this nihilistic, he may well have gladly killed us all.
We don't know.
What we do know is this:
when suicidal murderers really go all in,
technology is the force multiplier.
Here's an example.
Several years back, there was a rash of 10 mass school attacks in China
carried out with things like knives and hammers and cleavers,
because guns are really hard to get there.
By macabre coincidence, this last attack occurred
just hours before the massacre in Newtown, Connecticut.
But that one American attack killed roughly the same number of victims
as the 10 Chinese attacks combined.
So we can fairly say, knife: terrible; gun: way worse.
And airplane: massively worse,
as pilot Andreas Lubitz showed when he forced 149 people
to join him in his suicide,
smashing a plane into the French Alps.
And there are other examples of this.
And I'm afraid there are far more deadly weapons in our near future than airplanes,
ones not made of metal.
So let's consider the apocalyptic dynamics that will ensue
if suicidal mass murder hitches a ride on a rapidly advancing field
that for the most part holds boundless promise for society.
Somewhere out there in the world, there's a tiny group of people
who would attempt, however ineptly,
to kill us all if they could just figure out how.
The Vegas shooter may or may not have been one of them,
but with seven and a half billion of us,
this is a nonzero population.
There's plenty of suicidal nihilists out there.
We've already seen that.
There's people with severe mood disorders that they can't even control.
There are people who have just suffered deranging traumas, etc. etc.
As for the corollary group,
its size was simply zero forever until the Cold War,
when suddenly, the leaders of two global alliances
attained the ability to blow up the world.
The number of people with actual doomsday buttons
has stayed fairly stable since then.
But I'm afraid it's about to grow,
and not just to three.
This is going off the charts.
I mean, it's going to look like a tech business plan.
(Laughter)
And the reason is,
we're in the era of exponential technologies,
which routinely take eternal impossibilities
and make them the actual superpowers of one or two living geniuses
and -- this is the big part --
then diffuse those powers to more or less everybody.
Now, here's a benign example.
If you wanted to play checkers with a computer in 1952,
you literally had to be that guy,
then commandeer one of the world's 19 copies of that computer,
then used your Nobel-adjacent brain to teach it checkers.
That was the bar.
Today, you just need to know someone who knows someone who owns a telephone,
because computing is an exponential technology.
So is synthetic biology,
which I'll now refer to as "synbio."
And in 2011, a couple of researchers did something every bit as ingenious
and unprecedented as the checkers trick
with H5N1 flu.
This is a strain that kills up to 60 percent of the people it infects,
more than Ebola.
But it is so uncontagious
that it's killed fewer than 50 people since 2015.
So these researchers edited H5N1's genome
and made it every bit as deadly, but also wildly contagious.
The news arm of one of the world's top two scientific journals
said if this thing got out, it would likely cause a pandemic
with perhaps millions of deaths.
And Dr. Paul Keim said
he could not think of an organism as scary as this,
which is the last thing I personally want to hear
from the Chairman of the National Science Advisory Board on Biosecurity.
And by the way, Dr. Keim also said this --
["I don't think anthrax is scary at all compared to this."]
And he's also one of these.
[Anthrax expert] (Laughter)
Now, the good news about the 2011 biohack
is that the people who did it didn't mean us any harm.
They're virologists.
They believed they were advancing science.
The bad news is that technology does not freeze in place,
and over the next few decades,
their feat will become trivially easy.
In fact, it's already way easier, because as we learned yesterday morning,
just two years after they did their work,
the CRISPR system was harnessed for genome editing.
This was a radical breakthrough
that makes gene editing massively easier --
so easy that CRISPR is now taught in high schools.
And this stuff is moving quicker than computing.
That slow, stodgy white line up there?
That's Moore's law.
That shows us how quickly computing is getting cheaper.
That steep, crazy-fun green line,
that shows us how quickly genetic sequencing is getting cheaper.
Now, gene editing and synthesis and sequencing,
they're different disciplines, but they're tightly related.
And they're all moving in these headlong rates.
And the keys to the kingdom are these tiny, tiny data files.
That is an excerpt of H5N1's genome.
The whole thing can fit on just a few pages.
And yeah, don't worry, you can Google this as soon as you get home.
It's all over the internet, right?
And the part that made it contagious
could well fit on a single Post-it note.
And once a genius makes a data file,
any idiot can copy it,
distribute it worldwide
or print it.
And I don't just mean print it on this,
but soon enough, on this.
So let's imagine a scenario.
Let's say it's 2026, to pick an arbitrary year,
and a brilliant virologist, hoping to advance science
and better understand pandemics,
designs a new bug.
It's as contagious as chicken pox,
it's as deadly as Ebola,
and it incubates for months and months before causing an outbreak,
so the whole world can be infected before the first sign of trouble.
Then, her university gets hacked.
And of course, this is not science fiction.
In fact, just one recent US indictment
documents the hacking of over 300 universities.
So that file with the bug's genome on it spreads to the internet's dark corners.
And once a file is out there, it never comes back --
just ask anybody who runs a movie studio or a music label.
So now maybe in 2026,
it would take a true genius like our virologist
to make the actual living critter,
but 15 years later,
it may just take a DNA printer you can find at any high school.
And if not?
Give it a couple of decades.
So, a quick aside:
Remember this slide here?
Turn your attention to these two words.
If somebody tries this and is only 0.1 percent effective,
eight million people die.
That's 2,500 9/11s.
Civilization would survive,
but it would be permanently disfigured.
So this means we need to be concerned about anybody
who has the faintest shot on goal,
not just geniuses.
So today, there's a tiny handful of geniuses
who probably could make a doomsday bug
that's .1-percent effective and maybe even a little bit more.
They tend to be stable and successful and so not part of this group.
So I guess I'm sorta kinda barely OK-ish with that.
But what about after technology improves
and diffuses
and thousands of life science grad students are enabled?
Are every single one of them going to be perfectly stable?
Or how about a few years after that,
where every stress-ridden premed is fully enabled?
At some point in that time frame,
these circles are going to intersect,
because we're now starting to talk about hundreds of thousands of people
throughout the world.
And they recently included that guy who dressed up like the Joker
and shot 12 people to death at a Batman premiere.
That was a neuroscience PhD student
with an NIH grant.
OK, plot twist:
I think we can actually survive this one if we start focusing on it now.
And I say this, having spent countless hours
interviewing global leaders in synbio
and also researching their work for science podcasts I create.
I have come to fear their work, in case I haven't gotten that out there yet --
(Laughter)
but more than that, to revere its potential.
This stuff will cure cancer, heal our environment
and stop our cruel treatment of other creatures.
So how do we get all this without, you know, annihilating ourselves?
First thing: like it or not, synbio is here,
so let's embrace the technology.
If we do a tech ban,
that would only hand the wheel to bad actors.
Unlike nuclear programs,
biology can be practiced invisibly.
Massive Soviet cheating on bioweapons treaties
made that very clear, as does every illegal drug lab in the world.
Secondly, enlist the experts.
Let's sign them up and make more of them.
For every million and one bioengineers we have,
at least a million of them are going to be on our side.
I mean, Al Capone would be on our side in this one.
The bar to being a good guy is just so low.
And massive numerical advantages do matter,
even when a single bad guy can inflict grievous harm,
because among many other things,
they allow us to exploit the hell out of this:
we have years and hopefully decades to prepare and prevent.
The first person to try something awful -- and there will be somebody --
may not even be born yet.
Next, this needs to be an effort that spans society,
and all of you need to be a part of it,
because we cannot ask a tiny group of experts
to be responsible for both containing and exploiting synthetic biology,
because we already tried that with the financial system,
and our stewards became massively corrupted
as they figured out how they could cut corners,
inflict massive, massive risks on the rest of us
and privatize the gains,
becoming repulsively wealthy
while they stuck us with the $22 trillion bill.
And more recently --
(Applause)
Are you the ones who have gotten the thank-you letters?
I'm still waiting for mine.
I just figured they were too busy to be grateful.
And much more recently,
online privacy started looming as a huge issue,
and we basically outsourced it.
And once again:
privatized gains, socialized losses.
Is anybody else sick of this pattern?
(Applause)
So we need a more inclusive way to safeguard our prosperity,
our privacy
and soon, our lives.
So how do we do all of this?
Well, when bodies fight pathogens,
they use ingenious immune systems,
which are very complex and multilayered.
Why don't we build one of these for the whole damn ecosystem?
There's a year of TED Talks that could be given on this first critical layer.
So these are just a couple of many great ideas that are out there.
Some R and D muscle
could take the very primitive pathogen sensors that we currently have
and put them on a very steep price performance curve
that would quickly become ingenious
and networked
and gradually as widespread as smoke detectors and even smartphones.
On a very related note:
vaccines have all kinds of problems
when it comes to manufacturing and distribution,
and once they're made, they can't adapt to new threats or mutations.
We need an agile biomanufacturing base
extending into every single pharmacy and maybe even our homes.
Printer technology for vaccines and medicines is within reach
if we prioritize it.
Next, mental health.
Many people who commit suicidal mass murder
suffer from crippling, treatment-resistant depression or PTSD.
We need noble researchers like Rick Doblin working on this,
but we also need the selfish jerks who are way more numerous
to appreciate the fact that acute suffering will soon endanger all of us,
not just those afflicted.
Those jerks will then join us and Al Capone
in fighting this condition.
Third, each and every one of us can be and should be a white blood cell
in this immune system.
Suicidal mass murderers can be despicable, yes,
but they're also terribly broken and sad people,
and those of us who aren't need to do what we can
to make sure nobody goes unloved.
(Applause)
Next, we need to make fighting these dangers
core to the discipline of synthetic biology.
There are companies out there that at least claim
they let their engineers spend 20 percent of their time
doing whatever they want.
What if those who hire bioengineers
and become them
give 20 percent of their time to building defenses for the common good?
Not a bad idea, right?
(Applause)
Then, finally: this won't be any fun.
But we need to let our minds go to some very, very dark places,
and thank you for letting me take you there this evening.
We survived the Cold War
because every one of us understood and respected the danger,
in part, because we had spent decades
telling ourselves terrifying ghost stories
with names like "Dr. Strangelove"
and "War Games."
This is no time to remain calm.
This is one of those rare times when it's incredibly productive
to freak the hell out --
(Laughter)
to come up with some ghost stories
and use our fear as fuel to fight this danger.
Because, all these terrible scenarios I've painted --
they are not destiny.
They're optional.
The danger is still kind of distant.
And that means it will only befall us
if we allow it to.
Let's not.
Thank you very much for listening.
(Applause)
هناك ما يقارب السبعة مليار ونصف إنسان.
صرحت منظمة الصحة العالمية بوجود 300 مليون إنسان في حالة اكتئاب،
وأنه ينتحر قرابة الـ800 ألف شخص كل عام.
تختار مجموعة صغيرة منهم طريقًا عدميًا بحتًا
الطريق الذي يُقتَل فيه أكبر قدر ممكن من الناس.
هذه بعض أشهر الأمثلة الحديثة.
والآتي مثال أقل شهرة. حدث الأمر منذ تسعة أسابيع تقريبًا.
إن لم تتذكروا،
فذلك لأن هناك الكثير من هذه الجرائم تجري.
أحصت ويكيبيديا 323 حالة إطلاق نار جماعي العام الماضي فحسب
فى موطني، الولايات المتحدة الأمريكية.
لم يكن الجميع ينوي الانتحار،
لم يرد جميعهم زيادة معدل القتلى،
لكن الكثير كانوا كذلك.
وهنا يكمن السؤال المهم: ما هي الحدود التي يمتلكها هؤلاء الناس؟
فلنأخذ قناص لاس فيغاس كمثال.
لقد أودى بحياة 58 شخصًا.
هل توقف عند ذلك العدد لأنه اكتفى؟
لا، ونحن نعلم هذا لأنه أطلق النار وأصاب 422 آخرين بعد ذلك
والذين كان بالتأكيد يفضل قتلهم عوضًا عن ذلك.
لم يكن لدينا أي سبب يجعلنا نعتقد أنه سيتوقف عند قتل 4200 شخص.
في الواقع، مع شخص بهذه الدرجة من العدمية، ربما كان قد قتلنا جميعًا بكل سرور.
لا نعلم ذلك.
ما نعلمه أنه:
حين يبذل القتلة الانتحاريون قصارى جهودهم،
تصبح التقنية القوة المضاعِفة.
لنأخذ مثالًا.
قبل عدة سنوات كانت هناك 10 حملات هجومية مدرسية جماعية في الصين
نُفذت بأدوات كالسكاكين والمطارق والسواطير،
لأنه من الصعب الحصول على البنادق هناك.
وبالصدفة المروعة، وقع هذا الهجوم
قبل ساعات من مذبحة نيوتاون، كونيتيكت.
لكن ذلك الهجوم الأمريكي أسفر عن قتل عدد ضحايا مساوٍ تقريبًا
لعدد ضحايا الهجمات الصينية العشر مجتمعة.
لذا يمكننا أن نقول أن السكين سيئة والبندقية أسوأ بكثير.
والطائرة أشدّ سوءًا،
كما بيّن لنا الطيّار أندرياس لوبيتز عندما احتجز 149 شخص
للانضمام إليه في انتحاره،
أثناء تحطيمه لطائرة بجبال الألب الفرنسية.
ويوجد العديد من الأمثلة الأخرى على ذلك.
وأخشى أنه ستتوفر أسلحة أكثر فتكًا من الطائرات في مستقبلنا القريب،
أسلحة غير مصنوعة من المعدن.
لذا دعونا نتأمل الأحداث المروعة المحتملة
إذا شقت جرائم الانتحار الجماعي طريقها في مجال يتقدم بسرعة
والذي غالبًا ما يحمل للمجتمع وعودًا لا حصر لها.
في مكان ما في هذا العالم، توجد جماعة صغيرة من الناس
الذين سيحاولون ولكن من دون جدوى،
قتلنا إن استطاعوا معرفة الطريقة فحسب.
ربما كان قناص فيغاس أحدهم، وربما لا،
ولكن بوجود سبعة مليارات ونصف إنسان،
لن يشكل هذا فناءً للبشرية.
يوجد الكثير من الانتحاريين العدميين في الخارج.
قد رأينا هذا من قبل.
هناك أشخاص يعانون من اضطرابات مزاجية شديدة لا يمكنهم حتى السيطرة عليها.
هناك أناس عانوا من صدمات تشويش، إلخ، إلخ.
أما بالنسبة لمجموعتنا الصغيرة،
كان عددهم ببساطة معدومًا للأبد حتى بدأت الحرب الباردة
حين قام رؤساء تحالفين عالميين وبشكل مفاجئ
بالتمكن من اكتساب القدرة على نسف البشرية عن بكرة أبيها.
معدل الأشخاص الذين يملكون المقدرة على التحكم بفناء البشرية
بقي ثابتًا بشكل مقبول منذ ذلك الحين.
لكنني أخشى ارتفاعه.
ليس فقط لثلاثة.
هذا يتجاوز المخططات البيانية.
ما أقصده هو أنه سيبدو كخطة عمل لمشروع تقني.
(ضحك)
ويكمن السبب
في كوننا في عصر التقنيات المتقدمة بشكل متسارع
والتي تأخذ تلقائيًا الإمكانيات اللامتناهية
وتجعلها القوى العظمى الحقيقية لواحدٍ أو اثنين من العباقرة
و...هنا يكمن الجزء الهام...
ومن ثم نشر هذه القوى للجميع تقريبًا.
لنأخذ مثالًا مبدئيًا على هذا.
لو كنت تريد لعب الداما مع الحاسوب عام 1952،
وجب عليك حرفيًا أن تكون هذا الشخص،
ومن ثم الاستيلاء على إحدى النسخ الـ 19 لهذا الحاسوب،
ثم استخدام دماغ نوبل لتعليمها الداما.
كان ذاك عائقًا.
اليوم، تحتاج فقط أن تعرف شخصًا يعرف شخصًا بدوره يملك هاتفًا،
لأن الحوسبة تقنية متسارعة.
وكذلك البيولوجيا الصناعية،
والتي سأطلق عليها اسم "سينبايو".
وفي عام 2011، قام اثنان من الباحثين بشيء عبقري
لا سابق له مثل خدعة الداما،
لكن مع إنفلونزا الطيور "إتش 5 إن 1".
تقتل هذه السلالة ما يصل إلى 60% من الأشخاص الذين يصابون بها،
أكثر من إيبولا.
لكنها غير معدية لدرجة كبيرة
حيث قتلت أقل من 50 شخصًا منذ عام 2015.
لذا حوّر هذان الباحثان مورثات "إتش 5 إن 1"
وجعلوا تأثيرها مميتًا قليلًا، ولكن جعلوها أيضًا معدية بشكل كبير.
إن مدير واحدة من أهم الدوريات العلمية في العالم
صرّح بأنه إذا انتشر هذا، فمن المحتمل أن يسبب جائحة
مسببًا ربما في قتل الملايين من الضحايا.
وقال الطبيب بول كييم
بأنه لم يفكر قط بمتعضٍ أكثر إخافة من هذا،
والذي بدوري أعتبره آخر ما أريد سماعه
من رئيس المجلس الوطني الاستشاري العلمي للأمن البيولوجي.
وبالمناسبة، قال السيد كييم هذا أيضًا:
["لا أعتقد أن الجمرة الخبيثة مخيفة على الإطلاق مقارنة بهذا."]
وهو أيضًا أحد هؤلاء.
[اختصاصي جمرة خبيثة] (ضحك)
الآن، الخبر الجيد بخصوص الاختراق الحيوي لعام 2011
هو أن من قاموا به لم يقصدوا أن يؤذونا أبدًا.
إنهم علماء فيروسات.
اعتقدوا بأنهم يطورون العلم.
الخبر السيّئ أنّ التقانة لا تبقى ثابتة،
وعلى مدى العقود القليلة القادمة،
سوف يصبح عملهم سهلًا بشكل كبير.
في الحقيقة، أصبح كذلك بشكل كبير، لأنه كما علمنا صباح البارحة،
بعد مضي سنتين فقط على عملهم،
سُخر نظام كريسبر لتحوير المورثة.
كان ذلك تغييرًا جذريًا
ما يجعل تحوير المورثة أسهل بشكل كبير جدًا
سهل جدًا لدرجة أن نظام كريسبر يُدرَّس في المدارس الثانوية الآن.
وهذا الأمر يتطور بشكل أسرع من الحوسبة.
هذا الخط الأبيض البطيء والمتعرج هناك؟
هذا هو قانون مور.
هذا يبين لنا أن تكلفة الحوسبة في تناقص سريع.
هذا الخط الأخضر شديد الانحدار بشكل مهول،
يظهر لنا هذا سرعة انخفاض تكلفة السَلسَلة الوراثية.
الآن، إنّ تحوير المورثات وتخليقها وسَلسَلتها،
هي تخصصات مختلفة، لكنها مرتبطة ارتباطًا وثيقًا.
ويتحرك جميعها نحو المعدلات المنخفضة نفسها.
والمفتاح الجوهري هي هذه المجموعات الضئيلة للغاية.
هذه قطعة من مورثة "إتش 5 إن 1".
يتسع الأمر بأكمله في عدة صفحات قليلة.
ونعم، لا تقلقوا، يمكنكم البحث عنها في غوغل حالما تصلون إلى المنزل.
إنها منتشرة بكثرة على الشابكة.
وما يجعله مُعديًا
يمكنه أن يتّسع في ورقة ملاحظة صغيرة واحدة
وبمجرد أن ينشئ عبقري ما ملف بيانات،
بإمكان أي أحمق نسخها،
ونشرها بجميع أنحاء العالم
أو طباعتها.
ولم أقصد طباعتها على هذه،
لكن قريبًا، طباعتها على هذه.
لذلك دعونا نتخيل حالة محتملة.
لنعتبر أنفسنا في عام 2026، لنختر عامًا تعسفيًا،
ولدينا عالمة فيروسات لامعة، التي وعلى أمل تطوير العلم
وفهم الأوبئة بشكل أفضل،
تصمم ميكروبًا جديدًا.
إنه مُعدٍ كالجدري،
ومميت كالإيبولا.
وتبلغ مدة حضانته عدة أشهر قبل تسببه في تفشي المرض،
مما سيسبب بانتشار المرض في العالم بأكمله قبل ملاحظة أي إشارة لوجود المرض.
ومن ثم تُخترق جامعتها.
وبالطبع، هذا ليس خيالًا علميًا.
في الحقيقة، صدرت لائحة اتهام حديثة واحدة فقط في الولايات المتحدة
توثّق اختراق أكثر من 300 جامعة.
ولهذا فإن الملف الذي يتضمن الميكروب الجيني ينتشر في جميع أنحاء الإنترنت المظلم.
وحالما ينتشر ملف هناك، فلا عودة له أبدًا....
فقط اسأل أي شخص يدير استديو أفلام أو شركة موسيقية.
لذا الآن ربما في عام 2026،
سيتطلب هذا عبقريًا حقيقيًا كعالمة الفيروسات
لإنشاء المخلوق الحي الفعلي،
لكن بعد 15 عامًا،
ربما يتطلب ناسخ الحمض النووي الصبغي الذي بإمكانك إيجاده بأي مدرسة ثانوية.
وإن لم يحدث هذا؟
امنحه عقدين آخرين.
لذا، ملحوظة سريعة:
أتذكر هذه الشريحة هنا؟
صب اهتمامك على هاتين الكلمتين.
إن جرب أحد ما هذا وأثر بنسبة 0,1 بالمئة فقط،
سيموت 8 ملايين من الناس.
وهذا سيكون كإعادة أحداث 11 سبتمبر 2500 مرة.
ستبقى الحضارة،
ولكنها ستبقى مشوهة بشكل دائم.
وهذا يعني أننا علينا القلق حول أي شخص
يهدف للقيام بهذا،
وليس العباقرة فحسب.
توجد اليوم حفنة قليلة جدًا من العباقرة
بمقدورهم صنع الميكروب الذي يمكنه إفناء البشرية
بتأثير 1 في المئة أو ربما أكثر بقليل.
هم يكونون في العادة مستقرين وناجحين وليسوا أبدًا جزءًا من هذه المجموعة.
لذا فأنا أشعر نوعًا ما بالاطمئنان.
لكن ماذا إن تطورت التقنيات
وانتشرت
وأصبح لدينا الآلاف من خريجي الدراسات العليا في مجال علم الأحياء؟
هل سيكون كل واحد منهم مستقرًا بشكل تام؟
أو ماذا عن بضعة سنوات بعد ذلك،
حين سيصبح طلاب الطب في السنوات التحضيرية مرهقين بشكل كامل؟
في مرحلة ما من ذاك الإطار الزمني،
ستتقاطع هذه الحلقات،
لأننا سنبدأ الآن بالحديث عن مئات الآلاف من الناس
بجميع أنحاء العالم.
وقد شملوا حديثًا ذاك الشاب الذي تنكر بهيئة الجوكر.
وضرب 12 شخصًا بالرصاص حتى الموت في عرض افتتاحي لباتمان.
كان ذلك طالب دكتوراه في علم الأعصاب
حاصل على منحة من المعاهد الوطنية للصحة.
حسنًا، تعديل بسيط:
أظن بأننا قادرون على تجاوز هذا إن بدأنا بمعالجته الآن.
وأقول هذا، باعتباري أمضيت ساعات لا تحصى
في مقابلة قادة العالم في السينبايو
وكذلك البحث في عملهم من أجل التدوينات الصوتية العلمية التي أصممها.
أنا أخشى التهديد الذي يشكله عملهم الخطير في حال لم تستوعبوا هذا بعد...
(ضحك)
ولكن أكثر من ذلك، أنا أقدر إمكاناته.
هذا ما سيقضي على السرطان ويحيي بيئتنا
ويضع حدًّا لمعاملتنا السيئة تجاه المخلوقات الأخرى.
لذا كيف يمكننا القيام بكل هذا دون -كما تعلمون- إبادة أنفسنا؟
أولاً: سواء أعجبكم هذا أم لم يعجبكم، السينبايو موجودة،
لذا دعونا نتقبل التقنيات.
إذا قمنا بحظر تقني،
فهذا من شأنه فقط وضع القيادة بأيدي الممثلين السيئين.
على عكس البرامج النووية،
يمكن اختبار علم الأحياء بشكل غير مرئي.
الغش السوفياتي الضخم على معاهدات الأسلحة البيولوجية
جعل هذا واضحًا جدًا، كما تفعل جميع مختبرات المخدرات غير القانونية في العالم.
ثانيًا، تجنيد الخبراء.
دعونا نشركهم في الأمر ونزيد أعدادهم.
ضمن مليون مهندس علم أحياء ومهندس،
سيكون مليون منهم على الأقل في صفنا.
أعني سيكون آل كابوني في صفنا بخصوص هذا.
من السهل جدًا أن تكون في صف الأخيار.
والمزايا العددية الضخمة لها أهمية بالفعل.
حتى وإن وجد شخص واحد سيئ يستطيع إلحاق الضرر الساحق بنا،
فمن بين أمورعديدة،
سيتيحون لنا فرصة استغلال الأمر برمته لصالحنا
نملك سنوات، ونأمل أن تكون عقودًا، للتحضير ومنع حصول هذا.
أول من سيقوم بأمر مريع.... وسيكون هناك أحد ما....
قد يكون لم يولد بعد حتى.
بعد ذلك، يحتاج هذا إلى جهد يطول المجتمع،
وعليكم جميعًا أن تكونوا جزءًا منه،
إذ لا يمكننا أن نطلب من مجموعة ضئيلة من الخبراء
تحمل مسؤولية استيعاب واستغلال البيولوجيا الصنعية،
لأننا قد حاولنا فعل هذا في ما مضى مع النظام المالي،
فأصبح وكلاؤنا فاسدين بشكل كبير جدًّا
حين تعلموا طريقة تمكنهم من الاحتيال،
وإلحاق الكثير والكثير من المخاطر ببقيتنا
وجعل الربح بيد القطاع الخاص،
مصبحين بذلك أغنياء بشكل مثير للاشمئزاز
بينما تركونا عالقين مع فاتورة قدرها 22 تريليون دولار.
ومنذ عهد حديث جدًا...
(تصفيق)
هل أنتم من تلقّى رسائل الشكر؟
ما زلت أنتظر خاصتي.
أنا فقط أحسب أنهم كانوا مشغولين جدًا ليعبروا عن امتنانهم.
ومنذ عهد حديث جدًا،
بدأت الخصوصية على الإنترنت تلوح في الأفق كمسألة ضخمة،
وقمنا بشكل أساسي بتعهيدها.
ومجددًا:
جعلوا الأرباح بيد القطاع الخاص، مع خسائر اجتماعية.
هل سئم أحد آخر من هذا النمط؟
(تصفيق)
لذلك نحن بحاجة إلى طريقة أكثر شمولًا لحماية نشاطنا،
وخصوصيتنا
وقريبًا، أرواحنا.
لذا كيف يمكننا القيام بكل هذا؟
حسنًا، عندما تقاوم الأجسام مسببات الأمراض،
تستخدم أجهزة المناعة المبتكرة،
وهي معقدة للغاية ومتعددة الطبقات.
لماذا لا نبني واحدًا من هذا للنظام البيئي كله؟
يمكننا إلقاء محادثات TED لعام كامل للحديث عن هذه الطبقة الأولى الحساسة.
لذا هذه فقط اثنتين من أفكار عديدة عظيمة موجودة هناك.
بعض الباحثين العباقرة
يمكنهم أخذ مستشعرات مسببات المرض البسيطة جدًا التي نملكها حاليًا
وخفض تكلفتها مع رفع فعاليتها
وسرعان ما ستصبح مبتَكَرة
ومتصلة
وستنتشر تدريجيًا كما انتشرت كاشفات الدخان وحتى كانتشار الهواتف الذكية.
وكملاحظة مرتبطة جدًا بحديثنا:
اللقاحات لديها جميع أنواع المشاكل
عندما يتعلق الأمر بالتصنيع والتوزيع،
وحالما تُصنع، تصبح غير قادرة على التكيف مع التهديدات أو الطفرات الجديدة.
نحن بحاجة إلى قاعدة تصنيع حيوي مرنة.
تتواجد في كل صيدلية وربما حتى في منازلنا.
تقنية الطابعة للقاحات والأدوية في متناول اليد
إذا أعطيناها الأولوية.
تاليًا، الصحة النفسية.
الكثير من الناس الذين يرتكبون جريمة الانتحار الجماعي
يعانون من اكتئاب مقاوم للعلاج شديد الوطأة أو اضطراب ما بعد الصدمة.
نحن بحاجة إلى باحثين نبيلين مثل ريك دوبلين للعمل على هذا،
ولكننا أيضًا بحاجة للأوغاد الأنانيين الذين هم أكثر عددًا بكثير
لتقدير حقيقة أن هذه المعاناة الحادة ستعرّضنا جميعًا للخطر قريبًا،
وليس فقط أولئك المصابين.
سينضم هؤلاء الأوغاد وآل كابون إلينا
لمحاربة هذا الظرف.
ثالثًا، يجب على كل شخص وكل فرد منا أن يكون خلية دم بيضاء
في هذا الجهاز المناعي.
يمكن أن يكون مجرمو الانتحار الجماعي سفلة، نعم،
ولكنهم أيضًا أناس مكسورون وحزينون بشكل فظيع،
وأولئك منا ممّن لا ينطبق عليهم هذا الوصف عليهم بذل قصارى جهودهم
للتأكد بأن لا أحد سيكون غير حبوب.
(تصفيق)
بعد ذلك، نحتاج إلى جعل محاربة هذه المخاطر
جوهرًا في علم الأحياء الاصطناعية.
هناك شركات تدّعي بأنها
تسمح لمهندسيها بقضاء 20 بالمائة من وقتهم
في فعل ما يريدون.
ماذا لو كان أولئك الذين يوظفون المهندسين الحيويين
ويصبحون مثلهم
يعطون 20% من وقتهم لحماية الصالح العام؟
ليست فكرة سيئة، أليس كذلك؟
(تصفيق)
بعد ذلك، وأخيرًا: لن يكون هذا ممتعًا.
لكننا نحتاج أن ندع عقولنا تذهب إلى بعض الأماكن المظلمة للغاية،
وأشكركم على السماح لي بأخذكم إلى هناك هذا المساء.
لقد نجونا من الحرب الباردة
لأن كل واحد منا كان مستوعبًا ومحترسًا من الخطر،
جزئيًا، لأننا أمضينا عقودًا
نخبر أنفسنا قصصًا مرعبة عن أشباح
تحمل أسماء مثل "الطبيب سترانجيلوف"
و "وور غايمز."
هذا ليس الوقت المناسب للاسترخاء.
هذه أحد الأوقات النادرة التي من المثمر فيها، وبشكل كبير،
أن نرتعب رعبًا شديدًا...
(ضحك)
لنخترع بعض قصص الأشباح
ونحوّل خوفنا إلى وقودٍ لمحاربة هذا الخطر.
لأن كل هذه السيناريوهات الرهيبة التي صورتها...
هي ليست القدر المحتوم.
إنها اختيارية.
الخطر ما زال بعيدًا نوعًا ما.
وهذا يعني أنه لن يصيبنا
إلا إذا سمحنا له بذلك.
دعونا لا نسمح بهذا.
شكرًا جزيلًا لاستماعكم.
(تصفيق)
Είμαστε περίπου 7,5 δισεκατομμύρια άνθρωποι.
Ο Παγκόσμιος Οργανισμός Υγείας λέει ότι 300 εκατομμύρια έχουν κατάθλιψη
και περίπου 800.000 άνθρωποι αυτοκτονούν κάθε χρόνο.
Ένα μικρό υποσύνολό τους διαλέγει ένα βαθιά μηδενιστικό μονοπάτι,
όπου πεθαίνουν σκοτώνοντας όσους περισσότερους μπορούν.
Αυτά είναι ορισμένα διάσημα πρόσφατα παραδείγματα.
Κι ένα λιγότερο διάσημο, που συνέβη πριν εννιά εβδομάδες.
Αν δεν το θυμάστε,
είναι επειδή συμβαίνουν πολλά τέτοια.
Η Βικιπαίδεια μόλις πέρσι μέτρησε 323 μαζικούς πυροβολισμούς
στη χώρα μου, τις Ηνωμένες Πολιτείες.
Δεν είχαν όλοι οι σκοπευτές τάσεις αυτοκτονίας,
δεν μεγιστοποιούσαν όλοι τον φόρο αίματός τους,
αλλά πολλοί το έκαναν.
Δημιουργείται ένα σημαντικό ερώτημα: Ποια είναι τα όρια αυτών των ανθρώπων;
Σκεφτείτε τον σκοπευτή του Βέγκας.
Σκότωσε 58 άτομα.
Μήπως σταμάτησε γιατί σκότωσε αρκετούς;
Όχι, και το ξέρουμε επειδή πυροβόλησε και τραυμάτισε ακόμα 422 άτομα
που σίγουρα θα προτιμούσε να σκοτώσει.
Είναι παράλογο να νομίζουμε ότι θα σταματούσε στους 4.200.
Κατ' ακρίβεια, κάποιος τόσο μηδενιστής μετά χαράς θα μας σκότωνε όλους.
Δεν το ξέρουμε.
Αυτό που ξέρουμε είναι αυτό:
όταν οι δολοφόνοι με αυτοκτονικές τάσεις τα παίζουν όλα για όλα,
η τεχνολογία πολλαπλασιάζει τη δύναμη.
Να ένα παράδειγμα.
Αρκετά χρόνια πριν, έγιναν 10 επιθέσεις σε σχολεία στην Κίνα
με αντικείμενα όπως μαχαίρια, σφυριά και μπαλτάδες,
επειδή δύσκολα βρίσκεις όπλα εκεί.
Από μακάβρια σύμπτωση, αυτή η τελευταία επίθεση συνέβη
λίγες ώρες πριν το μακελειό στο Νιούταουν του Κονέκτικατ.
Όμως η μία αμερικάνικη επίθεση είχε περίπου τον ίδιο αριθμό θυμάτων
όσο και οι 10 κινέζικες επιθέσεις μαζί.
Οπότε δίκαια μπορούμε να πούμε, μαχαίρι: απαίσιο, όπλο: πολύ χειρότερο.
Και τo αεροπλάνο: πάρα πολύ χειρότερο,
όπως έδειξε ο πιλότος Αντρέας Λούμπιτς όταν ανάγκασε 149 άτομα
να τον ακολουθήσουν στην αυτοκτονία του,
ρίχνοντας ένα αεροπλάνο στις γαλλικές Άλπεις.
Υπάρχουν κι άλλα παραδείγματα όπως αυτό.
Και φοβάμαι ότι στο μέλλον θα υπάρχουν πολύ φονικότερα όπλα από τα αεροπλάνα
που δεν θα είναι από μέταλλο.
Ας σκεφτούμε την αποκαλυπτική δυναμική που θα ακολουθήσει
αν η μαζική δολοφονία μπει σε ένα γρήγορα αναπτυσσόμενο πεδίο
που για το μεγαλύτερο ποσοστό έχει απεριόριστη προοπτική για την κοινωνία.
Κάπου έξω στον κόσμο υπάρχει μια μικρή ομάδα ανθρώπων
που θα δοκίμαζαν, κι όσο αδέξια,
να μας σκοτώσουν όλους αν έβρισκαν τον τρόπο.
Ο σκοπευτής του Βέγκας ίσως να ήταν ένας απ' αυτούς,
αλλά είμαστε 7,5 δισεκατομμύρια,
άρα όχι μηδενικός πληθυσμός.
Υπάρχουν πολλοί αυτοκτονικοί μηδενιστές.
Το έχουμε δει ήδη.
Υπάρχουν άτομα με σοβαρές διαταραχές διάθεσης
που δεν μπορούν καν να τις ελέγξουν.
Είναι άτομα που έχουν υποστεί εξωφρενικά τραύματα, κλπ, κλπ.
Όσον αφορά την προσβαλλόμενη ομάδα,
το μέγεθός της ήταν μηδενικό μέχρι τον Ψυχρό Πόλεμο,
όπου ξαφνικά οι ηγέτες των δύο συμμαχιών
είχαν την ικανότητα να ανατινάξουν τον κόσμο.
Ο αριθμός των ατόμων με κουμπί για το τέλος του κόσμου
έχει μείνει σταθερός από τότε.
Αλλά φοβάμαι ότι θα μεγαλώσει
κι όχι μόνο μέχρι το τρία.
Θα πάει σε ακραίες τιμές.
Θα μοιάζει με επιχειρηματικό σχέδιο εταιρείας.
(Γέλια)
Και ο λόγος είναι,
ότι είμαστε στην εποχή των εκθετικών τεχνολογιών,
που τακτικά παίρνουν το τελείως ανέφικτο
και γίνονται η υπερδύναμη ενός ή δύο ζωντανών διανοιών
και -- αυτό είναι το σημαντικότερο --
μετά διαχέουν αυτές τις δυνάμεις σε σχεδόν όλους μας.
Να ένα καλό παράδειγμα.
Αν θέλατε να παίξετε ντάμα στον υπολογιστή το 1952,
έπρεπε κυριολεκτικά να είστε αυτός,
να πάρετε ένα απ' τα 19 αντίγραφα αυτού του υπολογιστή
και μετά να χρησιμοποιήσετε το ιδιοφυές μυαλό σας για να μάθετε ντάμα.
Αυτό ήταν το όριο.
Σήμερα απλώς πρέπει να ξέρετε κάποιον που ξέρει κάποιον που έχει τηλέφωνο,
επειδή οι υπολογιστές είναι μια ραγδαία αυξανόμενη τεχνολογία.
Το ίδιο είναι και η συνθετική βιολογία,
που τώρα θα αποκαλώ «σύνβιο».
Το 2011 μερικοί ερευνητές έκαναν κάτι πολύ έξυπνο
και πρωτοφανές, όπως το κόλπο με την ντάμα,
με τον ιό H5N1.
Είναι ένα είδος που σκοτώνει μέχρι και το 60% των ατόμων που μολύνει,
περισσότερο από τον Έμπολα.
Όμως είναι τόσο αντιμεταδοτικός
και από το 2015 σκότωσε λιγότερα από 50 άτομα.
Οπότε αυτοί οι ερευνητές άλλαξαν το γονιδίωμα του H5N1
και το έκαναν εξίσου θανατηφόρο και άκρως μεταδοτικό.
Το τμήμα ειδήσεων σε μια επιστημονική εφημερίδα
είπε ότι αν αυτό το πράγμα δραπετεύσει, θα προκαλέσει πανδημία
με, ίσως, εκατομμύρια νεκρούς.
Και ο Δρ. Πολ Κέιμ είπε
ότι δεν μπορεί να σκεφτεί έναν οργανισμό τόσο τρομαχτικό όσο αυτός,
και προσωπικά είναι το τελευταίο που θέλω να ακούσω
από τον πρόεδρο της Εθνικής Επιστημονικής Συμβουλευτικής Επιτροπής στη Βιοασφάλεια.
Παρεμπιπτόντως, ο Δρ. Κέιμ είπε κι αυτό --
[«Δεν νομίζω ότι ο άνθρακας είναι τρομαχτικός σε σύγκριση μ' αυτό».]
Είναι επίσης και αυτό. [Ειδικός στον άνθρακα] (Γέλια)
Λοιπόν, τα καλά νέα για αυτή την αλλαγή γονιδιώματος το 2011
είναι ότι τα άτομα που την έκαναν δεν ήθελαν να μας βλάψουν.
Είναι ιολόγοι.
Πίστευαν ότι βελτίωναν την επιστήμη.
Τα κακά νέα είναι ότι η τεχνολογία δεν μένει σταθερή εκεί που είναι
και τις επόμενες δεκαετίες
το επίτευγμά τους θα γίνει πανεύκολο.
Κατ' ακρίβεια, είναι ήδη ευκολότερο, γιατί όπως μάθαμε χθες το πρωί,
δύο χρόνια μετά απ' αυτό που έκαναν,
το σύστημα CRISPR αξιοποιήθηκε για αλλαγή του γονιδιώματος.
Ήταν μια σημαντική εξέλιξη
που κάνει την αλλαγή του γονιδιώματος πολύ πιο εύκολη --
τόσο εύκολη που το CRISPR τώρα διδάσκεται στα λύκεια.
Κι αυτό το πράγμα κινείται πιο γρήγορα απ' τους υπολογιστές.
Βλέπετε αυτή την αργή, άσπρη γραμμή εκεί πάνω;
Είναι ο νόμος του Μουρ.
Μας δείχνει πόσο γρήγορα οι υπολογιστές γίνονται φθηνότεροι.
Αυτή η απότομη, αλλόκοτη πράσινη γραμμή,
μας δείχνει πόσο γρήγορα η γενετική αλληλουχία γίνεται φθηνότερη.
Τώρα, η αλλαγή του γονιδιώματος, η σύνθεση και η αλληλουχία
είναι διαφορετικοί τομείς, αλλά συνδέονται στενά.
Και κινούνται όλα με γρήγορους ρυθμούς.
Τα κλειδιά της βασιλείας είναι αυτά τα μικρά αρχεία δεδομένων.
Αυτό είναι ένα απόσπασμα από το γονιδίωμα του H5N1.
Μπορεί να χωρέσει όλο σε λίγες σελίδες.
Και μην ανησυχείτε, μπορείτε να το ψάξετε μόλις πάτε σπίτι.
Είναι παντού στο διαδίκτυο, έτσι;
Και το μέρος που το έκανε μεταδοτικό
μπορεί να χωρέσει σε ένα χαρτάκι.
Κι όταν μια ιδιοφυΐα φτιάξει ένα αρχείο δεδομένων,
κάθε χαζός μπορεί να το αντιγράψει,
να το μοιράσει σε όλο τον κόσμο
ή να το εκτυπώσει.
Και δεν εννοώ να το εκτυπώσει σ' αυτό,
αλλά αρκετά σύντομα σ' αυτό.
Ας φανταστούμε ένα σενάριο.
Ας πούμε ότι είναι το 2026, ως ένα τυχαίο έτος,
κι ένας πανέξυπνος ιολόγος, ελπίζοντας να βελτιωθεί η επιστήμη
και να καταλάβει καλύτερα τις πανδημίες,
σχεδιάζει έναν νέο ιό.
Είναι μεταδοτικός όσο η ανεμοβλογιά,
θανατηφόρος όσο ο Έμπολα
και επωάζει για μήνες πριν προκαλέσει έξαρση,
ώστε όλος ο κόσμος να μολυνθεί πριν δει το πρώτο σημάδι του προβλήματος.
Μετά, το πανεπιστήμιό της χακάρεται.
Και φυσικά, αυτό δεν είναι επιστημονική φαντασία.
Κατ' ακρίβεια, μια πρόσφατη κατηγορία στην Αμερική
καταγράφει το χακάρισμα περισσότερων από 300 πανεπιστημίων.
Οπότε το αρχείο με το γονιδίωμα του ιού σκορπίζεται στις γωνιές του διαδίκτυο.
Κι όταν ένα αρχείο είναι εκεί, δεν επιστρέφει ποτέ --
ρωτήστε οποιονδήποτε που διοικεί στούντιο ή δισκογραφική.
Οπότε ίσως το 2026,
να χρειάζεται μια ιδιοφυΐα όπως ο ιολόγος μας
για να φτιαχτεί το ζωντανό μαμούνι,
αλλά 15 χρόνια μετά,
ίσως να χρειάζεται μόνο ένας εκτυπωτής DNA που βρίσκεται σε κάθε λύκειο.
Κι αν όχι;
Περιμένετε δυο-τρεις δεκαετίες.
Μια μικρή παρένθεση:
Θυμάστε αυτή τη διαφάνεια;
Προσέξτε αυτές τις δύο λέξεις.
Αν κάποιος το προσπαθήσει κι είναι μόνο 0.1% αποτελεσματικό,
θα πεθάνουν οχτώ εκατομμύρια άτομα.
Δηλαδή 2.500 φορές περισσότερο απ' τους δίδυμους πύργους.
Ο πολιτισμός θα επιζήσει,
αλλά θα είναι μόνιμα παραμορφωμένος.
Αυτό σημαίνει ότι πρέπει να ανησυχούμε για οποιονδήποτε
που έχει την παραμικρή πιθανότητα,
όχι μόνο ιδιοφυΐες.
Σήμερα, υπάρχουν πολύ λίγες ιδιοφυΐες
που μπορούν να φτιάξουν έναν καταστροφικό ιό
που είναι 0.1% αποτελεσματικός και ίσως λίγο περισσότερο.
Τείνουν να είναι σταθεροί και επιτυχείς και δεν ανήκουν σ' αυτή την ομάδα.
Οπότε υποθέτω ότι το δέχομαι κάπως.
Όμως τι και αν η τεχνολογία βελτιωθεί
και μεταδοθεί
και χιλιάδες φοιτητές βιολογίας έχουν τη δυνατότητα;
Θα είναι ο καθένας απ' αυτούς απόλυτα σταθερός;
Ή μετά από λίγα χρόνια,
όταν ο κάθε φορτισμένος φοιτητής ιατρικής έχει πλήρη δυνατότητα;
Κάποια στιγμή σε αυτό το πλαίσιο
αυτοί οι κύκλοι θα διασταυρωθούν,
επειδή τώρα αρχίζουμε να μιλάμε για χιλιάδες ανθρώπους ανά τον κόσμο.
Πρόσφατα συμπεριέλαβαν τον τύπο που ντύθηκε σαν τον Τζόκερ
και σκότωσε 12 άτομα στην πρεμιέρα του Μπάτμαν.
Ήταν φοιτητής νευρολογίας με διδακτορικό
και υποτροφία.
Λοιπόν, ανατροπή:
Νομίζω ότι μπορούμε να επιβιώσουμε αν αρχίσουμε να επικεντρωνόμαστε τώρα.
Και το λέω αυτό, γιατί ξόδεψα αμέτρητες ώρες
να παίρνω συνέντευξη από παγκόσμιους ηγέτες στη σύνβιο
και να ερευνώ το έργο τους για επιστημονικές ραδιοφωνικές μεταδόσεις.
Κατέληξα να φοβάμαι τη δουλειά τους, σε περίπτωση που δεν το έχω πει ήδη --
(Γέλια)
αλλά περισσότερο, για να θαυμάσω τις δυνατότητές του.
Αυτό το πράγμα θα θεραπεύσει τον καρκίνο, το περιβάλλον μας
και θα σταματήσει την κακοποίηση σε άλλα όντα.
Πώς θα κερδίσουμε όλα αυτά χωρίς να αφανιστούμε;
Πρώτον: είτε σας αρέσει είτε όχι, η συνθετική βιολογία είναι εδώ,
οπότε ας αποδεχτούμε την τεχνολογία.
Αν απαγορεύσουμε την τεχνολογία,
τότε θα δώσουμε το τιμόνι σε κακούς ηθοποιούς.
Αντίθετα με τα πυρηνικά προγράμματα,
η βιολογία μπορεί να εφαρμοστεί αόρατα.
Η μεγάλη σοβιετική ζαβολιά για τη χρήση βιολογικών όπλων
το έκανε ξεκάθαρο, όπως όλα τα παράνομα ναρκωτικά στον κόσμο.
Δεύτερον, θα επιστρατεύσουμε ειδικούς.
Ας τους εγγράψουμε και να τους πολλαπλασιάσουμε.
Για κάθε εκατομμύριο και ένας από βιολογικούς μηχανικούς που έχουμε
τουλάχιστον ένα εκατομμύριο απ' αυτούς θα είναι με το μέρος μας.
Ο Αλ Καπόνε θα ήταν με το μέρος μας.
Το όριο να είσαι καλός είναι πολύ χαμηλό.
Και τα μεγάλα αριθμητικά πλεονεκτήματα έχουν σημασία,
ακόμα κι αν ένας κακός μπορεί να προκαλέσει σοβαρή ζημιά,
επειδή μέσα σ' όλα τ' άλλα,
μας επιτρέπουν να εκμεταλλευτούμε πλήρως αυτό:
έχουμε χρόνια κι ας ελπίσουμε δεκαετίες να προετοιμαστούμε και να αποτρέψουμε.
Ο πρώτος που θα δοκιμάσει κάτι φρικτό -- και θα είναι κάποιος --
ίσως να μην έχει γεννηθεί ακόμα.
Στη συνέχεια, χρειάζεται μια προσπάθεια που θα γεφυρώσει την κοινωνία,
κι όλοι σας πρέπει να λάβετε μέρος,
επειδή δεν μπορούμε να ζητήσουμε από μια μικρή ομάδα ειδικών
να είναι υπεύθυνη για τον περιορισμό και τη χρήση της συνθετικής βιολογίας,
επειδή το έχουμε δοκιμάσει ήδη με το οικονομικό σύστημα
και οι υπάλληλοί μας έγιναν πολύ διεφθαρμένοι,
γιατί ανακάλυψαν πώς να επιβάλουν λιτότητα,
πώς να προκαλούν τεράστιο ρίσκο για εμάς τους υπόλοιπους
και να ιδιωτικοποιούν τα κέρδη,
κι έτσι έγιναν αποκρουστικά πλούσιοι
ενώ μας άφησαν ένα λογαριασμό 22 τρισεκατομμυρίων δολλαρίων.
Και πιο πρόσφατα --
(Χειροκρότημα)
Εσείς πήρατε τις ευχαριστήριες επιστολές;
Εγώ ακόμα περιμένω τις δικές μου.
Κατάλαβα ότι ήταν πολύ απασχολημένοι για να είναι ευγνώμονες.
Και πολύ πιο πρόσφατα,
η ιδιωτικότητα στο διαδίκτυο άρχισε να ορθώνεται ως τεράστιο πρόβλημα
και ουσιαστικά την αναθέσαμε σε τρίτους.
Και πάλι:
ιδιωτικοποιημένα κέρδη, κοινωνικοποιημένες απώλειες.
Έχει κανείς άλλος κουραστεί απ' αυτό το κόλπο;
(Χειροκρότημα)
Χρειαζόμαστε έναν τρόπο ανοιχτό σε όλους για να προστατέψουμε την ευημερία μας,
την ιδιωτικότητά μας
και σύντομα, τη ζωή μας.
Πώς το κάνουμε όλο αυτό;
Όταν το σώμα καταπολεμά παθογόνα,
χρησιμοποιεί ένα έξυπνο ανοσοποιητικό σύστημα,
που είναι πολύ περίπλοκο και πολυστρωματικό.
Γιατί δεν φτιάχνουμε ένα τέτοιο για όλο το οικοσύστημα;
Θα μπορούσαν να γίνουν πολλές TED ομιλίες γι' αυτό το πρώτο κρίσιμο επίπεδο.
Αυτές είναι κάποιες από πολλές σπουδαίες ιδέες που υπάρχουν.
Κάποιοι αναπτυσσόμενοι μύες
θα μπορούσαν να πάρουν τους πρωτόγονους αισθητήρες που έχουμε για παθογόνα
και να τους βάλουν σε πολύ απότομη καμπύλη απόδοσης
που γρήγορα θα γίνονταν ιδιοφυείς
και δικτυομένοι
και θα γίνονταν δημοφιλείς όπως ο ανιχνευτής καπνού και τα κινητά.
Μιας και μιλάμε γι' αυτό:
τα εμβόλια έχουν πάσης φύσεως προβλήματα
όσον αφορά την παραγωγή και τη διανομή
και μόλις παραχθούν δεν μπορούν να προσαρμοστούν σε νέες μεταλλάξεις.
Χρειαζόμαστε μια ευέλικτη βιοπαραγωγική βάση
που θα εκτείνονται σε κάθε φαρμακείο και ίσως στο σπίτι μας.
Η τεχνολογία εκτύπωσης εμβολίων και φαρμάκων είναι κοντά
αν την κάνουμε προτεραιότητα.
Στη συνέχεια, ψυχική υγεία.
Πολύς κόσμος που σκοτώνει μαζικά και αυτοκτονεί
υποφέρει από παραλυτική κατάθλιψη με αντίσταση σε θεραπεία
ή μετατραυματικό στρες.
Χρειαζόμαστε ηθικούς ερευνητές όπως ο Ρικ Ντόμπλιν, που δουλεύει σε αυτό
αλλά και τους εγωιστές βλάκες που είναι πολύ περισσότεροι
να εκτιμήσουν το γεγονός ότι ο οξύς πόνος θα μας βάλει όλους σε κίνδυνο,
όχι μόνο αυτούς που επηρεάστηκαν.
Αυτοί οι βλάκες θα έρθουν με εμάς και τον Αλ Καπόνε
να αγωνιστούμε γι' αυτή την κατάσταση.
Τρίτον, ο καθένας μας μπορεί και πρέπει να είναι ένα λευκό αιμοσφαίριο
σ' αυτό το ανοσοποιητικό σύστημα.
Οι μαζικοί δολοφόνοι αυτοκτονίας μπορεί να είναι ελεεινοί, ναι,
αλλά είναι επίσης απίστευτα πληγωμένοι και θλιμμένοι άνθρωποι
και όσοι δεν πονάμε, πρέπει να κάνουμε ότι μπορούμε
ώστε να μην αφήσουμε κανέναν χωρίς αγάπη.
(Χειροκρότημα)
Μετά, πρέπει να κάνουμε τον αγώνα κατά του κινδύνου,
πυρήνα του τομέα της συνθετικής βιολογίας.
Υπάρχουν κάποιες εταιρείες που τουλάχιστον ισχυρίζονται
ότι αφήνουν στους μηχανικούς τους το 20% του χρόνου τους
να κάνουν ό,τι θέλουν.
Κι αν αυτοί που προσλαμβάνουν βιολογικούς μηχανικούς
και γίνουν σαν αυτούς
δώσουν 20% του χρόνου τους στο φτιάξιμο άμυνας για το κοινό καλό;
Δεν είναι κακή ιδέα, έτσι;
(Χειροκρότημα)
Τέλος, δεν θα είναι ευχάριστο.
Αλλά πρέπει να αφήσουμε το μυαλό μας να πάει σε πολύ σκοτεινά μέρη
και σας ευχαριστώ που με αφήσατε να σας πάω εκεί σήμερα.
Αντέξαμε τον Ψυχρό Πόλεμο
επειδή ο καθένας μας κατάλαβε κι εκτίμησε τον κίνδυνο,
εν μέρει, γιατί για δεκαετίες
λέγαμε τρομακτικές ιστορίες φαντασμάτων
με ονόματα όπως «Δρ. Στρέιντζλαβ»
και «Παιχνίδια Πολέμου».
Δεν είναι ώρα να παραμείνουμε ήρεμοι.
Είναι μία απ' τις σπάνιες φορές που είναι απίστευτα αποδοτικό
να φρικάρουμε σαν τρελοί --
(Γέλια)
να σκεφτούμε ιστορίες φαντασμάτων
και να χρησιμοποιήσουμε τον φόβο μας για να καταπολεμήσουμε τον κίνδυνο.
Επειδή όλα αυτά τα τρομερά σενάρια που έφτιαξα --
δεν είναι η μοίρα μας.
Είναι προαιρετικά.
Ο κίνδυνος είναι σχετικά μακριά.
Κι αυτό σημαίνει ότι θα μας χτυπήσει την πόρτα
μόνο αν του το επιτρέψουμε.
Ας μην το κάνουμε.
Σας ευχαριστώ πολύ που με ακούσατε.
(Χειροκρότημα)
Somos alrededor de siete mil millones y medio de habitantes.
Según la Organización Mundial de la Salud,
300 millones padecen depresión,
y alrededor de 800 000 personas se suicidan cada año.
De ellos, un porcentaje minúsculo escoge un método extremadamente nihilista:
inmolarse y matar tanta gente como sea posible.
Aquí vemos algunos ejemplos recientes.
Este caso es menos conocido, sucedió hace unas nueve semanas.
Si no lo recuerdan, es porque hay demasiadas noticias así.
Wikipedia listó 323 tiroteos masivos el año pasado
en mi país natal, EE. UU.
No todos estos agresores eran suicidas,
no todos intentaron maximizar el número de muertes,
pero muchos sí.
Un interrogante importante: ¿qué límites tiene esta gente?
Consideren el caso del tirador de Las Vegas que asesinó a 58 personas.
¿Se detuvo porque creyó que ese número era suficiente?
No, y sabemos esto porque disparó e hirió a otras 422 personas
a quienes seguramente hubiera preferido asesinar.
No hay razón para creer que se hubiera detenido después de 4200.
Una persona así de nihilista, podría habernos matado con gusto a todos.
No lo sabemos.
Pero sí sabemos lo siguiente:
cuando un asesino suicida está listo para actuar,
la tecnología amplifica su impacto.
Por ejemplo:
hace varios años hubo un brote de diez ataques masivos en escuelas de China,
en los que se usaron navajas, martillos y cuchillos,
pues es muy difícil conseguir armas de fuego allí.
Por macabra casualidad,
el último ataque se dio unas horas antes de la masacre en Newtown, Connecticut.
Pero en ese ataque en EE. UU. murieron más o menos la misma cantidad de personas
que en los diez ataques en China.
Así que podemos concluir: navajas, terribles;
armas de fuego, mucho peor;
aviones, extremadamente peor,
como lo demostró el piloto Andreas Lubitz
cuando obligó a 149 personas a morir con él en un ataque suicida,
al estrellar el avión en los Alpes de Francia.
Hay más ejemplos de esto.
Y me temo que habrá armas mucho más letales que un avión en el futuro,
armas que no sean de metal.
Consideremos la dinámica apocalíptica que se dará
si los asesinos suicidas se aprovechan de un campo
que se está desarrollando con rapidez
y que promete grandes avances para la sociedad.
En algún lugar del mundo hay un porcentaje minúsculo de gente
que intentaría, quizá sin éxito,
matarnos a todos si pudieran solamente descubrir cómo.
El tirador de La Vegas podría haber sido uno de ellos, o no,
pero considerando que somos 7 mil millones y medio,
se trata de una población que no es cero.
Hay bastantes nihilistas suicidas en el mundo.
Ya lo hemos visto.
Hay gente con trastornos graves de estados de ánimo que no pueden controlar.
Hay gente que ha sufrido terribles traumas, etc.
En relación con el grupo corolario,
su tamaño se mantuvo en cero hasta la Guerra Fría,
cuando los líderes de dos alianzas globales
obtuvieron la capacidad de destruir el mundo entero.
El número de personas con la capacidad de provocar el fin del mundo
se ha mantenido estable desde entonces.
Pero me temo que el número está por aumentar,
y no simplemente a tres.
Esto está creciendo exponencialmente, parece el plan de negocios de una empresa.
(Risas)
Esto se debe a que estamos en la era de grandes avances tecnológicos,
que a diario toman tareas imposibles
y las vuelven los superpoderes de uno o dos genios vivos.
Y, esto es lo más importante,
luego propagan esos poderes más o menos a todo el mundo.
Consideren este ejemplo benigno:
si querían jugar a las damas con una computadora en 1952,
debían ser ese tipo, literalmente.
Debían manejar una de las 19 copias que existían en el mundo de esa computadora,
y usar su cerebro ganador del Nobel para enseñarle a jugar a las damas.
Todo esto era necesario.
Hoy simplemente tienen que conocer a alguien que conozca a alguien
que tenga un teléfono,
pues la computación es una tecnología exponencial.
También lo es la biología sintética, a la que llamaré, en adelante, "synbio".
En 2011,
un par de investigadores descubrieron algo igual de ingenioso y sin precedentes
que el caso del juego de damas con el virus H5N1.
Se trata de una cepa que mata hasta el 60 % de las personas que infecta,
más que el ébola.
Pero es tan poco contagioso
que acabó con la vida de menos de 50 personas desde 2015.
Estos investigadores editaron el genoma del H5N1
y lo hicieron igual de letal, y además hipercontagioso.
Una de las revistas científicas más reconocidas del mundo
comentó que, si esto sale del laboratorio, podría causar una pandemia
y quizá millones de muertes.
El Dr. Paul Keim afirmó
que este organismo era el más aterrador de los que conocía,
y eso es lo último que quiero escuchar del presidente
de la Junta Consultiva Nacional de Ciencia y Tecnología en Bioseguridad.
Además, el Dr. Keim agregó...
["El ántrax no me parece tan aterrador en comparación"]
Y él es uno de los...
[Expertos en ántrax]
Ahora bien, la buena noticia del "biohack" de 2011
es que quienes lo hicieron no pretendían lastimarnos,
pues son virólogos.
Creían estar contribuyendo a la ciencia.
La mala noticia es que la tecnología no se congela en el acto
y, en las próximas décadas,
su hazaña se volverá algo trivial y sencillo.
De hecho, ya es algo mucho más fácil puesto que, como escuchamos ayer,
dos años después de su trabajo,
el sistema CRISPR fue optimizado para editar el genoma.
Fue un avance tecnológico radical
que hace que la edición del genoma sea muchísimo más sencilla,
tan sencilla que ahora se enseña CRISPR en las escuelas secundarias.
Esto avanza más rápido que la computación.
¿Ven esa lenta línea blanca allí?
Es la ley de Moore.
Nos muestra la rapidez con la que la computación se abarata.
Esa línea verde y pronunciada
nos muestra la rapidez con la que la secuenciación del ADN se abarata.
La edición, replicación y secuenciación del ADN
son distintas disciplinas, pero están muy relacionadas,
y todas se desarrollan con gran rapidez.
Lo más importante de todo son estos diminutos archivos de información.
Aquí vemos un extracto del genoma del H5N1.
El genoma entero entra en unas pocas páginas.
No se preocupen, pueden buscar esto en Internet en cuanto lleguen a casa.
La parte que lo vuelve contagioso
podría entrar perfectamente en una única nota adhesiva.
Y una vez que el genio pone esta información en un archivo,
cualquier idiota puede copiarla,
distribuirla a todo el mundo o imprimirla.
Y no me refiero únicamente a imprimir en esto,
sino dentro de poco en esto.
Imaginemos lo siguiente:
supongamos que estamos en el 2026, por escoger uno año al azar,
y un brillante virólogo,
con el objetivo de mejorar la ciencia y entender mejor las pandemias,
diseña un nuevo virus.
Es tan contagioso como la varicela, tan letal como el ébola
e incuba por meses antes de ocasionar un brote.
De esta forma, muchos pueden infectarse antes de que notemos el primer síntoma.
Luego, hackean su universidad.
Esto no es ciencia ficción.
De hecho, en una acusación reciente en EE. UU.
se documenta el hackeo de más de 300 universidades.
Así, ese archivo con el genoma del virus
se dispersa por todos los recovecos de Internet.
Y una vez que un archivo se distribuye, no hay vuelta atrás.
Pregunten a los dueños de sellos discográficos o estudios cinematográficos.
Así que quizá en 2026
se necesite de un verdadero genio, como nuestro virólogo,
para crear el virus real,
pero 15 años después
quizá se necesite simplemente de una impresora 3D, como la de las escuelas.
¿Y si no es así?
Denle un par de décadas.
Un breve paréntesis:
¿se acuerdan de esta diapositiva?
Concéntrense en estas dos palabras.
Si alguien intentara esto y tuviera un éxito de apenas 0,1 %,
ocho millones de personas perecerían.
Eso equivale a 2500 onces de septiembre.
La humanidad sobreviviría,
pero quedaría desfigurada de forma permanente.
Esto significa que debemos preocuparnos por todas las personas
que tengan la posibilidad, por mínima que sea,
no simplemente por los genios.
Hoy día, hay unos pocos genios
que podrían crear un virus del fin del mundo
que sea 0,1 % efectivo, quizá un poco más.
Suelen ser personas estables y exitosas, es decir, no son parte de este grupo.
Ellos no me preocupan tanto, supongo.
Pero ¿qué pasará después de que la tecnología mejore,
se disemine y alcance a miles de estudiantes de biología?
¿Serán todos ellos personas totalmente estables?
¿Y qué sucedería unos años más tarde,
cuando la tecnología llegue a los estresados estudiantes de medicina?
En algún momento de esta línea del tiempo, estos círculos se encontrarán,
porque ahora nos referimos a cientos de miles de personas en todo el mundo.
Recientemente se incluyó aquí al tipo que se disfrazó del Guasón
y mató a 12 personas en el estreno de Batman.
Era un doctorando en neurociencias que tenía una beca del NIH.
Giro de la trama:
creo que podemos sobrevivir a esto si nos centramos en ello ahora.
Y digo esto incluso tras haber pasado horas
entrevistando a los líderes globales de "synbio"
y tras haber analizado sus trabajos en mis podcasts científicos.
He empezado a temer el trabajo que hacen, por si no se notó aún,
(Risas)
pero también a apreciar su potencial.
Estos trabajos encontrarán la cura al cáncer, sanarán el medio ambiente
y detendrán nuestro cruel trato de otras criaturas.
¿Cómo conseguimos esto sin, ya saben, extinguirnos todos?
Primero: nos guste o no, la "synbio" existe,
así que aceptemos la tecnología.
Si prohibimos la tecnología,
eso solamente hará que pase a manos incorrectas.
A diferencia de los programas nucleares,
la biología puede practicarse sin que nadie lo note.
Los soviéticos que violaban los tratados sobre armas biológicas
dejaron eso muy claro, como también los laboratorios de drogas ilegales.
En segundo lugar: hay que reclutar a los expertos.
Involucrémoslos y hagamos que sean más.
Por cada millón uno de ingenieros que existen,
tendremos al menos un millón de nuestro lado.
Hasta Al Capone estaría de nuestro lado en este caso.
El estándar para ser considerado "bueno" es demasiado bajo.
Y las ventajas numéricas sí importan,
incluso si una sola persona puede causar un daño enorme
porque, entre otras cosas, nos permiten explotar al máximo esto:
tenemos años y con suerte décadas para prepararnos y prevenir.
La persona que intente hacer algo terrible, y sucederá,
puede no haber nacido aún.
Además, esto debe ser un compromiso de toda la sociedad,
todos Uds. deben ser parte de ello.
Porque no podemos responsabilizar a un minúsculo grupo de expertos
tanto de la tarea de contener como la de explotar la biología sintética.
Ya lo intentamos con el sistema financiero
y nuestros representantes se corrompieron totalmente
al darse cuenta de que podían escatimar gastos,
causarnos un gran daño al resto y privatizar las ganancias.
Así se volvieron repulsivamente ricos y nos impusieron la deuda de 22 billones.
Y más recientemente...
(Aplausos)
¿Uds. recibieron la tarjeta de agradecimiento?
Aún espero la mía.
Deduje que estaban muy ocupados para agradecer.
Más recientemente,
la privacidad en línea comenzó a ser un gran problema:
básicamente, la dejamos en manos de terceros.
Y, nuevamente,
se privatizaron las ganancias y se socializaron las pérdidas.
¿No están cansados de este patrón?
(Aplausos)
Necesitamos una forma más abarcativa de proteger nuestra prosperidad,
nuestra privacidad y, dentro de poco, nuestra vida.
¿Cómo conseguimos esto?
Cuando el organismo combate a los patógenos,
recurre al ingenioso sistema inmunitario, que es muy complejo y tiene varias capas.
¿Por qué no crear uno así para todo el ecosistema?
Podrían darse charlas TED todo un año sobre este primer paso.
Estas ideas son solamente algunas de las que existen.
Algunas personas de I+D
podrían tomar los sensores primitivos de patógenos que tenemos actualmente
y ponerlos en una pronunciada curva de funcionamiento
que rápidamente se vuelva algo ingenioso y en red
y que gradualmente se extienda como los detectores de humo o los teléfonos.
En relación con esto,
las vacunas presentan muchos problemas de fabricación y distribución
y, una vez fabricadas, no pueden adaptarse a nuevas amenazas o mutaciones.
Necesitamos una base de biomanufactura ágil
que incluya todas las farmacias y quizá incluso nuestros hogares.
La tecnología de impresión de vacunas y medicamentos está a nuestro alcance
si le damos prioridad.
Luego, la salud mental.
Muchas de las personas que comenten asesinatos en masa y se suicidan
padecen depresión o TEPT incapacitante que no responde a los tratamientos.
Necesitamos que investigadores nobles como Rick Doblin trabajen en esto,
pero también es necesario que los idiotas egoístas, que son muchos más,
se den cuenta de que el sufrimiento agudo
muy pronto nos pondrá en peligro a todos, no solo a quienes lo padecen.
Esos idiotas se unirán a nosotros y Al Capone
para combatir esta enfermedad.
Tercero, todos y cada uno de nosotros puede y debería ser un glóbulo blanco
en este sistema inmunitario.
Los asesinos en masa suicidas son despreciables, así es,
pero también son personas terriblemente dañadas y afligidas,
y quienes no lo somos debemos hacer lo posible
para asegurarnos de que a nadie le falte cariño.
(Aplausos)
Luego, debemos hacer que la lucha contra estos peligros
sea algo central en la biología sintética.
Existen empresas que al menos afirman
que permiten a sus ingenieros pasar 20 % del tiempo
de la forma que prefieran.
¿Y si quienes contratan bioingenieros y quienes se convierten en bioingenieros
dedican 20 % de su tiempo a la creación de defensas en pos del bien común?
No es una mala idea, ¿no?
(Aplausos)
Por último, no será nada divertido,
pero debemos permitirnos imaginar algunas situaciones bastante oscuras.
Así que les agradezco por haberme dejado hacerlo esta noche.
Sobrevivimos a la Guerra Fría
porque todos entendíamos y respetábamos el peligro,
en parte, porque habíamos pasado décadas
contando escalofriantes historias de terror
con títulos como "Dr. Insólito" y "Juegos de guerra".
No es momento para conservar la calma.
Estamos en una época extraña en la que es increíblemente productivo
espantarnos
(Risas)
para así crear algunas historias de terror
y usar el miedo como incentivo para combatir este peligro.
Porque todos estos terribles escenarios que planteé hoy
no son nuestro destino.
Son opcionales.
El peligro todavía es distante.
Esto significa que solamente se presentará si lo permitimos.
No lo permitamos.
Muchas gracias por su atención.
(Aplausos)
جمعیت ما حدود هفتونیم میلیارد نفر است.
سازمان بهداشت جهانی میگوید ۳۰۰ میلیون نفر از ما افسردهاند،
و سالانه حدود ۸۰۰،۰۰۰ نفر با خودکش میمیرند.
زیرمجموعه کوچکی از آنها مسیری کاملا پوچگرایانه انتخاب میکنند،
که مردن در قالب امکان عمل کشتن تعداد زیادی از افراد است.
اینها چندین نمونهٔ مشهور اخیر هستند.
و این هم نمونه کمشهرتتری که نُه هفته پیش رخ داد.
اگر آن را به خاطر نمیآورید،
به این دلیل که نمونههای بسیاری از این دست در جریان است.
ویکیپدیا فقط در سال گذشته ۳۲۳ تیراندازی دستهجمعی
در کشور موطن من، ایالات متحده برشمرده است.
همه آن تیراندازها انتحاری نبودند،
همه آنها آمار تلفاتشان آنقدر وخیم نبود،
اما تعدادشان بسیار بسیار زیاد بود.
سوالی اینجا مهم میشود که: چه محدودیتهایی برای این افراد وجود دارد؟
مثلا تیراندازِ وگاس را در نظر بگیرید.
او ۵۸ نفر را کشت.
آیا به اینخاطر که بهقدرِ کافی کشته بود متوقف شد؟
نه، این را میدانیم چون او شلیک کرد و ۴۲۲ نفر دیگر را زخمی کرد.
کسانی که به یقین ترجیح میداد بکشد.
دلیلی نداریم که فکر کنیم روی ۴,۲۰۰ اُمین نفر متوقف میشد.
درواقع، با چنین افراد پوچگرایی، شاید او از کشتن همه ما خشنود میشد.
ما نمیدانیم!
چیزی که میدانیم این است که:
هنگامی که قاتلان انتحاری واقعا همه زندگی خود را صرف این آرمان میکنند،
فناوری، نیروی فزایندهای است.
این هم نمونهای دیگر.
چندین سال پیش، موجی با بیش از ۱۰ حمله به مدرسه در چین رخ داد
که با چیزهایی مانند چاقو و چکش و پتک انجام شدهاند،
چون رساندن سلاح به چنین جاهایی سخت است.
همزمان با این ماجرا ، این حمله آخر
فقط چند ساعت قبل از کشتار در نیوتاون، کنِتیکت به وقوع پیوست.
اما آن حمله در آمریکا تقریبا همان تعداد قربانی را داشت
که مجموع ۱۰ حمله در چین داشت.
پس منصفانه میتوانیم بگوییم، چاقو: وحشتناک است؛ تفنگ: از این هم بدتر.
و هواپیما: بسیار بدتر از آن،
مثل خلبان آندریاس لوبیتز، زمانی که ۱۴۹ نفر را
وادار به پیوستن به او در انتحارش با کوبیدن
هواپیما به کوههای آلپ فرانسه کرد.
و مثالهای دیگری از این دست هست.
و متاسفانه سلاحهای کشنده خیلی بیشتری در آینده نزدیک ، نسبت به هواپیماها وجود دارد
که از فلز ساخته نشدهاند.
پس اجازه دهید پویاییهای آخرالزمانی را در نظر بگیریم که درپی خواهند بود
اگر وسایل کشتار جمعی انتحاری از پیشرفت سریع زمینههایی استفاده کنند
که بیشتر اوقات به علت وعدههای بیپایانی که برای جامعه داشته است، رخ میدهد.
جایی در این دنیا، گروه کوچکی از افرادی هستند
که تلاش میکنند، هرچند بیهیچ مناسبتی،
ما را بکشند، فقط اگر بتوانند دریابند چه طوری.
شاید تیرانداز وگاس یکی از آنها باشد، شاید هم نه،
اما با هفتونیم میلیارد نفر از ما،
تعداد این قبیل افراد مسلما صفر نیست.
افراد پوچگرایِ متمایل به خودکشی بسیار زیادی وجود دارند.
پیشتر آنها را دیدهایم.
افرادی هستند که اختلالات خُلقی شدیدی دارند که حتی نمیتوانند آن را کنترل کنند.
افرادی هستند که فقط متحمل صدمات روحی و غیره و غیره شدهاند.
به عنوان جمعبندی،
اندازه آن همواره تا زمان جنگ سرد، هیچ بود،
تا زمانی که ناگهان، رهبران دو اتحاد جهانی
به توانایی منفجر کردن دنیا دست یافتند.
از آن به بعد شمارِ افرادی که بتوانند کار دنیا و کره زمین را تمام کنند
تا حد زیادی پایدار مانده است.
اما نگرانی من از زیاد شدن این تعداد است،
و نه فقط تا سه تا.
قراراست از نمودار بیرون بزند.
یعنی قرار است یک برنامه کسبوکارفناوری بشود.
(خنده حاضرین)
و علتش هم این است که،
ما در عصر رشدِ سریع فناوریهایی هستیم،
که به طور معمول غیرممکنهای بیپایانی را
به قدرتهای فرابشری واقعی برای یک یا دو نابغه زنده، بدل میکند
و-- این بخش مهمی است --
سپس این قدرت را تا حد امکان به همه تسری میدهد.
حال، این یک مثال خوب است.
اگر مثلا میخواستید با یک رایانه در سال ۱۹۵۲چکرز(نوعی بازی تختهای) بازی کنید،
واقعا باید این آقا میبودید، (آرتور ساموئل از پیشگامان هوش مصنوعی)
بعد یکی از ۱۹ نسخه رایانه موجود دنیا را در اختیار میگرفتید،
و بعد از مغز فوق برترتان برای آموزش چِکِرز به رایانه استفاده میکردید.
معضلی بود!
امروزه، شما فقط باید کسی را بشناسید که کسی را میشناسد که فقط یک تلفن داشته باشد،
چون فناوری محاسبات بسیارپرسرعت است.
پس «زیستشناسی مصنوعی»
که حالا از مخفف آن «سینبایو» استفاده میکنم.
در سال ۲۰۱۱، تعدادی پژوهشگر کاری را انجام دادند،
به همان اندازه هوشمندانه و غیرممکن مثل حقه چکرز،
با آنفلوآنزای H5N1.
این گونهای (بیماری) است که تا ۶۰ درصد افراد مبتلا را میکشد،
بیش از ابولا.
اما به قدری غیر مسرى است
که از سال ۲۰۱۵ کمتر از ۵۰ نفر کشته است.
پس این پژوهشگران ژنوم H۵N۱ را اصلاح کردند
و آن را به شکلی مرگبار، اما به شدت مسری، ساختند.
بخش اخبار یکی از دو نشریه علمی برتر جهان
گفت که اگر این موضوع رخ دهد احتمالا موجب یک بیماری همهگیر
با احتمال مرگومیر میلیونها نفرخواهد شد.
و دکتر پاول کایم گفت:
او نمیتوانست به ارگانیسم زندهای به این ترسناکی فکر کند،
که آخرین چیزی است که شخصا میخواهم
از رئیس هیئت مشاوره علمی ملی در مورد امنیت بیولوژیک بشنوم.
و همچنین دکتر کایم این را هم گفت --
[ من فکر نمیکنم که سیاهزخم اصلا ترسناک باشد.]
او هم یکی از این افراد است.
[ متخصص سیاهزخم ] (خنده)
اکنون، خبر خوب در مورد هک زیستی ۲۰۱۱
این است که افرادی که این کار را کردند به ما هیچ آسیبی نمیزنند.
آنها ویروسشناس هستند.
آنها بر این باور بودند که در حال توسعه علم هستند.
خبر بد این است که فناوری یکجا متوقف نمی شود،
و در چند دهه آینده،
شاهکار آنها به طور جزیی بسیار آسان خواهد شد.
درواقع، همین الان هم آسانتر است، چون همانطور که دیروز صبح آموختیم،
تنها دو سال پس از کار آنها،
سیستم «کریسپِر» برای اصلاح ژنوم تهیه شد.
پیشرفت اساسی بود
که اصلاح ژن را به طور چشمگیری آسانتر کرد --
به قدری آسان است که هماکنون کریسپِر دردبیرستانها تدریس میشود.
و این چیزها سریعتر از محاسبات آغاز به عمل میکنند.
آن خط سفید کُند، با شیب کم آن بالا را میبینید؟
آن قانون مور است.
آن به ما نشان میدهد که هرچقدر محاسبات سریعتر باشند، ارزانتر هم میشوند.
آن خط کج و کوله- مضحک سبز،
که به ما نشان میدهد که چطور تعیین توالی ژنتیکی، سریع ارزانتر میشود.
اکنون اصلاح ژن و سنتز و تعیین توالی آنها،
آنها رشتههای متفاوتی هستند، اما به شدت به هم مرتبط هستند.
و همه آنها با همین سرعت شتابان حرکت میکنند.
و کلیدهای این قلمرو پادشاهی همین فایل دادههای بسیار کوچک هستند.
این گلچینی از ژنوم H۵N۱ است.
همه آن میتواند روی چند صفحه جا شود.
و بله، نگران نباشید، شما میتوانید این را به محض رسیدن به خانه جستجو کنید.
همهچیز در اینترنت هست، درسته؟
و قسمتی که آن را مسری ساخته
میتوانست به راحتی روی یادداشت یک پست باشد.
و هنگامی که نابغهای یک فایل داده ایجاد میکند،
هر احمقی میتواند آن را کپی کند،
آنرا در سراسر جهان پخش کند
یا آن را چاپ کند.
و فقط منظورم این نیست که روی این (کاغذ) چاپ کرده باشد،
اما به زودی، کپی روی این (DNA) را هم خواهیم داشت.
خب حالا بیایید سناریویی را تصور کنیم.
بیایید بگوییم در ۲۰۶۰، همینطوری یک سال اتفاقی انتخاب کنیم،
یک ویروسشناس برجسجه که امیدوار است به پیشرفت علم
و درک بهتر از بیماریهای فراگیرکمک کند،
ویروس جدیدی طراحی کند.
مثل آبله مرغان مسری باشد،
مثل ابولا کشنده باشد،
و ماهها و ماهها طول بکشد تا بیماری بروز کند،
بنابراین تمام دنیا میتوانند پیش از اولین نشانه دردسر آلوده شوند.
سپس دانشگاهاش هک شود.
و البته، این داستان علمیتخیلی نیست.
درواقع، یکی از کیفرخواستهای اخیر در ایالاتمتحده،
هک کردن بیش از ۳۰۰ دانشگاه به اثبات رسانده است.
پس این فایل با ویروس ژنوم روی آن در گوشههای تاریک اینترنت پخش میشود.
و هنگامی که فایلی در آنجا باشد، هرگز بر نمیگردد --
فقط ازکسی که یک استودیوی فیلم یا ضبط موسیقی را اداره میکند بپرسید.
پس شاید در سال ۲۰۲۶،
این کارِ یک نابغه واقعی مثل ویروسشناس ما
برای ساختن موجود زنده واقعی باشد،
اما ۱۵ سال بعد،
ممکن است تنها یک چاپگر DNA باشد که بتوانید در هر دبیرستان پیدا کنید.
و اگرهم نه؟
دو دهه وقت بدهید.
خُب، یک حاشیه سریع:
اینجا این اسلاید را به خاطر دارید؟
به این دو کلمه توجه کنید.
اگر فقط کسی آن را امتحان کند و فقط ۰.۱ درصد موثر باشد،
۸ میلیون نفر میمیرند.
همان داستان ۲,۵۰۰ نفر تلفات ۱۱ سپتامبر.
تمدن جان سالم به در خواهد برد،
اما برای همیشه از ریخت میافتد.
پس این بدان معنی است که ما باید نگران همگان باشیم
حتی ضعیفترینها،
و نه فقط نوابغ.
خب، امروزه تعداد کمی از نوابغ هستند
که احتمالا بتوانند یک ویروسِ نابودکننده آخرالزمانی بسازند
که ۰.۱ درصد و شاید حتی کمی بیشتر موثر باشد.
آنها تمایل دارند پایدار و موفق باشند تا بخشی از این گروه نباشند.
پس فکر کنم به نوعی تقریبا با این قضیه مشکل دارم.
اما پس از این که فناوری بهتر شود
و گسترده شود
و هزاران دانشجوی فارغالتحصیلِ دانش زیستی به آن دست پیدا کنند چه؟
آیا تکتک آنها کاملا از نظر روانی پایدار هستند؟
چند سال پس از آن چطور،
وقتی که همه دانشجویان پزشکی دچار استرس کاملا آماده به کار شود؟
در برخی نقاطِ این چارچوب زمانی،
این دایرها باهم برخورد میکنند،
چون ما اکنون شروع به صحبت در مورد صدها هزار نفر
از مردم سرتاسر دنیا کردهایم.
که شامل فردی که اخیرا مثل جوکر لباس بر تن کرده
و ۱۲ نفر را در نمایش «بتمن» به قتل رسانده نیز میشود.
او یک دانشجوی دکترای عصبشناسی
با بورسیه موسسه ملی بهداشت بود.
خب، موضوع پیچیده شد:
فکرکنم واقعا بتوانیم از این یکی جان سالم به دربریم، اگر از حالا روی آن تمرکز کنیم.
و این را با صرف ساعات بیشمار
با مصاحبه کردن با رهبران جهانی در سینبایو
و همچنین پژوهش درباره کارهای علمی آنها برای پادکست های علمی که میسازم، میگویم.
از ترس کار آنها اینجا آمدهام، در صورتی که هنوز به جایی هم نرسیدهاند --
(خنده حضار)
اما بیش از آن، به پتانسیل آن احترام میگذارم.
این چیزها سرطان را درمان میکنند، محیط ما را التیام میبخشد
و رفتار بیرحمانه ما با موجودات دیگر را متوقف میکند.
پس چطورهمه اینها را بدون اینکه خودمان را نابود کنیم، بهدست آوریم؟
اول اینکه، چه باب میلتان باشد یا خیر، سینبایو(زیستشناسی مصنوعی) اینجاست،
پس بیایید فناوری را بپذیریم.
اگرما فناوری را قدغن کنیم،
فقط این چرخه را به دست بازیگران بد میاندازد.
برخلاف برنامههای هستهای،
زیستشناسی را میتوان به طور نامرئی اقدام و تمرین کرد.
تقلب گسترده شوروی در معاهدات سلاحهای زیستی
آن را آشکار کرد، همانطور که آزمایشگاههای غیرقانونی مواد مخدر در جهان عمل میکنند.
دوم اینکه، از متخصصان کمک بخواهیم.
آنها را وارد قضیه کنیم و تعدادِ بیشتری از آنها داشته باشیم.
برای هر یک میلیون نفر یک مهندس زیستی داریم،
حداقل یک میلیون از آنها طرفِ ما خواهند بود.
منظورم این است که با همین یک نفر ال کاپون، طرفِ ماست.
فقط درصد وجود یک آدم مناسب قدری کم است.
و مزایای کلانِ شمارشی اهمیت دارد وموثراست،
حتی زمانی که تنها یک فرد بد بتواند آسیبهای جدی وارد کند،
چون در میان چیزهای دیگر،
آنها اجازه میدهند که ما از این جهنمی که هست بهره بریم و از این وضع خارج شویم:
ما سالها و خوشبختانه دههها وقت برای آماده کردن خود و جلوگیری از آن داریم.
اولین کسی که چیز وحشتناکی را امتحان کند -- و کسی بالاخره یکنفر خواهد بود --
ممکن است حتی هنوز متولد نشده باشد.
سپس، این باید تلاشی باشد که جامعه را گسترش میدهد،
و همه شما باید بخشی از آن باشید،
چرا که ما نمیتوانیم از یک گروه کوچک از متخصصان
بخواهیم که مسئول هر دو سوی دستاندرکار و بهرهبردار زیستشناسی مصنوعی باشند.
به این دلیل که ما قبلا این کار را با سیستم مالی انجام دادیم،
و کارگزاران ما به شدت فاسد شدند
و آنها دریافتند که چطور میتوانند از گوشههای آن بزنند،
خطرات بزرگ و عظیمی را به بقیه ما تحمیل کنند،
و سود را خصوصی کنند،
آنها ثروتمند شدند
در حالی که ما را با صورتحساب ۲۲ تریلیون دلاری درگیر کردند.
و اخیرا هم بیشتر --
(تشویق)
آیا همانهایی هستید که تقدیرنامهها را گرفتهاید؟
من که هنوز منتظرِ مال خودم هستم.
فقط فکر کردم شاید برای سپاسگزاری خیلی سرشان شلوغ بوده است.
و اخیرا هم بسیار بیشتر
مساله حریم خصوصی آنلاین به عنوان موضوع برجستهء عظیمی شروع شد،
و ما کلا آن را برونسپاری کردیم.
و یک بار دیگر:
دستاوردهای خصوصی، زیانهای اجتماعی.
آیا فرد دیگری هم از این الگوی تکراری به ستوه آمده؟ (یا فقط من هستم؟)
(تشویق)
بنابراین ما به روش جامعتری برای حفاظت از کامیابی،
حریم خصوصی
و زندگیمان نیاز داریم.
خب چطور همه این کارها را بکنیم؟
خُب، وقتی که بدن در حال مبارزه با پاتوژنها است،
آنها از سیستمهای ایمنیِ هوشمندانهای استفاده میکنند،
که بسیار پیچیده و چند لایه هستند.
چرا یکی از اینها را برای همه زیستبوم لعنتی درست نکنیم؟
یک سال از گفتگوهای TED را میتوان به این اولین لایه بحرانی اختصاص داد.
پس اینها فقط چند ایده از آن همه ایده بزرگ در این زمینه است.
برخی از نیروهای تحقیق و توسعه
میتوانند عوامل پاتوژن های اولیه را که اکنون داریم را گرفته
و بر روی شیب تند نمودار نرخ عملکرد قرار دهند
تا به سرعت، هوشمند
و شبکهای شده
و به تدریج همچون شناساگرهای دود و حتی گوشیهای هوشمند گسترش پیدا کنند.
یک نکته بسیار مرتبط:
واکسنها، انواع مشکلات را دارند
وقتی نوبت به تولید و توزیع میرسد،
و زمانی که ساخته میشوند، نمیتوانند با تهدیدات یا تحولات جدید سازگار شوند.
ما به یک بسترِ عملآوری زیستیِ فرز و چابک نیازمندیم
که به تکتک داروخانهها و حتی خانههای ما گسترش یابد.
فناوری چاپگر برای واکسنها و داروها در دسترس است
اگر آن را اولویتبندی کنیم.
سپس سلامت روانی.
بسیاری از افرادی که مرتکبِ کشتار جمعی انتحاری میشوند،
از فلجشدگی و استرس مقابل درمان و یا از اختلال استرس پس از سانحه رنج میبرند.
ما به پژوهشگران شریفی مانند ریک دابلین نیاز داریم، که روی این موضوع کار کند،
اما همچنان به آشغالهای خودخواه هم نیازمندیم که شمارِ بیشتری از افراد هستند
برای درک این واقعیت که بلای بدی به زودی دامن همه ما را خواهد گرفت،
نه فقط به آنهایی که گرفتار شدهاند.
سپس آن آشغالها به ما و آل کاپون
در مبارزه علیه این وضعیت به ما ملحق میشوند.
سوم این که، هرکدام از ما میتواند و باید یک گلبول سفید
در این سیستم ایمنی باشد.
قاتلان انتحاری ممکن است منفور باشند، بله،
اما آنها هم آدمهای بسیار دلشکسته و غمگینی هستند،
و کسانی از ما که اینطور نیستند لازم است حداکثر تلاش خود را بکنند
که مطمئن شوند کسی حس غیردوستداشتنی بودن نکند.
(تشویق)
سپس، ما باید مبارزه با این خطرات را به
به هسته و بطن اصول زیستشناسیِ مصنوعی (بایوسین) تبدیل کنیم.
شرکتهایی وجود دارند که حداقل ادعا میکنند که
به مهندسان خود اجازه میدهند ۲۰ درصد زمان خود را
صرف انجام هر کاری که میخواهند انجام دهند.
چه میشود اگر کسانی که مهندسین زیستی را استخدام میکنند
به آنها اجازه دهند
۲۰ درصد از وقتشان را صرف دفاع از منافع مشترک کنند؟
فکر بدی نیست، مگرنه؟
( تشویق)
و سرانجام: این قضیه اصلا جالب نخواهد بود.
اما باید بگذاریم ذهن ما به جاهای خیلی خیلی تاریک برود،
و متشکرم که اجازه دادید امشب شما را به آنجا ببرم.
ما از جنگ سرد جان سالم به در بردیم،
زیرا هر یک از ما خطر را درک کرده و به آن احترام گذاشتیم،
به این دلیل که ما دهها سال
صرف گفتن داستانهای ترسناک اشباح
مانند «دکتر استرنجلاو»
و «بازیهای جنگی»، کرده بودیم.
دیگر فرصتی برای آرام ماندن نیست.
این یکی از معدود زمانهایی بوده که به طور باورنکردنی
برای ترساندن و ایجاد وحشت کارساز بوده است --
(خنده حاضرین)
که با چند داستان اشباح بیایند
و از ترسِ ما به عنوان سوخت برای مقابله با این خطر استفاده کنند.
چون، تمام این سناریوهای وحشتناک که تصویر کردهام --
فرجامِ کار نیستند.
آنها اختیاری هستند.
خطر هنوز به نحوی از ما فاصله دارد.
و این یعنی که
اگر فقط اجازه دهیم برای ما هم اتفاق میافتد.
بیایید اجازه ندهیم!
بسیار متشکرم که گوش فرادادید.
(تشویق)
Nous sommes sept milliards et demi.
Pour l’Organisation Mondiale de la Santé, 300 millions sont déprimés,
et 800 000 se suicident chaque année.
Une infime portion d’entre eux choisit une voie profondément nihiliste :
ils meurent en tuant le plus de gens possible.
Voici des exemples connus et assez récents.
En voici un moins connu, qui s’est passé il y a neuf semaines.
Vous l’avez oublié,
car ce n’est pas un cas isolé.
Wikipédia a comptabilisé 323 fusillades de masse, l’année dernière,
dans mon pays natal, les États-Unis.
Tous ces tueurs n’étaient pas suicidaires,
et n’ont pas cherché à maximiser le nombre de victimes,
mais beaucoup l’ont fait.
On se pose une question importante : quelles sont leurs limites ?
Prenez le tueur de Las Vegas :
il a massacré 58 personnes.
S’est-il arrêté parce que ça lui suffisait ?
Non, et nous le savons, car il a tiré et a blessé 422 personnes
qu’il aurait sûrement préféré tuer.
Il ne se serait donc pas arrêté à 4 200.
D’ailleurs, comme il était si nihiliste, il nous aurait volontiers tous tués.
On ne le sait pas.
Ce que nous savons est que
quand les assassins suicidaires s’y mettent vraiment,
la technologie est l’effet multiplicateur.
Voici un exemple :
il y a quelques années, une vague d’attaques contre des écoles chinoises
commises avec des couteaux, des marteaux et des couperets,
car il y est difficile d’avoir des armes.
Coïncidence macabre, cette dernière attaque
a eu lieu quelques heures avant la tuerie de Newtown, dans le Connecticut.
Mais cette attaque américaine a fait environ le même nombre de victimes
que les 10 attaques chinoises combinées.
On peut donc l’affirmer : couteau : horrible ; pistolet : pire.
Et un avion : massivement pire,
comme l’a montré le pilote Andreas Lubitz, en forçant 149 personnes
à s’associer à son suicide,
en écrasant un avion dans les Alpes.
Il y a d’autres exemples similaires.
Je crains qu’il y ait prochainement des armes bien plus létales que les avions,
des armes pas faites en métal.
Considérons ensemble les dynamiques apocalyptiques qui en découleraient,
si un tueur de masse profite d’un domaine en avance technologique
qui, dans l’ensemble, promet des bienfaits infinis pour la société.
Quelque part dans le monde, il existe un petit groupe de gens
qui essaieraient de tous nous tuer,
si seulement ils savaient comment le faire.
Le tueur de Las Vegas était peut-être comme ça,
mais parmi 7,5 milliards de personnes,
de telles personnes existent.
Il y a plein de nihilistes suicidaires.
Nous venons de le voir.
Des personnes avec de graves et incontrôlables troubles de l’humeur.
Des personnes qui souffrent de traumatismes bouleversants, etc., etc.
Quant à notre petit groupe,
il est simplement inexistant jusqu’à la Guerre froide,
quand, soudainement, les dirigeants des deux coalitions
ont gagné la possibilité de faire sauter la planète.
Le nombre de personnes avec un bouton pour la fin du monde
est resté relativement stable depuis lors.
Mais je crains qu’il ne soit en augmentation
et pas qu’il passe à trois,
on va battre les records.
Ça va ressembler à un business plan de start-up !
(Rires)
Parce qu’on est dans une ère de technologies exponentielles,
qui prennent en permanence des impossibilités
et leur donnent les super-pouvoirs d’un ou deux génies vivants
et — surtout —
les distribuent à tout le monde.
Voici un exemple positif.
Si vous vouliez jouer aux Dames contre un ordinateur en 1952,
le seul moyen était d’être ce type,
réquisitionner l’un des 19 exemplaires de cet ordinateur,
et avoir des compétences de génie pour lui apprendre à jouer aux dames.
Voilà le niveau !
Aujourd’hui il suffit de connaitre quelqu’un avec un portable,
parce que l’informatique est une technologie exponentielle.
Comme la biologie de synthèse,
que j’appellerai « biosyn ».
En 2011, quelques chercheurs ont fait
quelque chose d’aussi génial que le truc des Dames
avec le virus H5N1.
Une souche qui tue jusqu’à 60 % des gens infectés,
plus qu’Ebola.
Mais elle est si peu contagieuse
qu’elle a tué moins de 50 personnes depuis 2015.
Ces chercheurs ont modifié le génome du H5N1
et l’ont rendu tout aussi mortel, mais très contagieux !
Le directeur d’une des plus prestigieuses revues scientifiques
a déclaré que si ça sortait, ça causerait une épidémie
avec des millions de morts.
Et le Docteur Paul Keim a déclaré
n’avoir jamais imaginé d’organismes aussi terribles.
Ce que, personnellement, je n’ai pas envie d’entendre
du directeur du Conseil national sur la bio-securité.
Monsieur Keim a aussi déclaré
« Le bacille du charbon ne fait pas peur à côté de ça. »
Et il est : [Expert en maladie du charbon] (Rires)
Heureusement, les personnes responsables du biopiratage de 2011
ne cherchaient pas à nuire,
ce sont des virologues.
Ils pensaient faire progresser la science.
Mais la technologie ne s’arrête jamais,
et dans les prochaines années,
leurs prouesses seront assez simples.
En effet, c’est déjà plus simple, comme l’on a vu hier matin,
deux ans après leur travail,
le système CRISPR a été utilisé pour une modification génétique.
Une avancée radicale
qui simplifie la modification de gènes —
si simple que le CRISPR est enseigné au lycée.
Cela bouge plus rapidement que l’informatique.
Cette ligne blanche, lente et lourde ?
C’est la loi de Moore.
Qui prédit comment l’informatique devient moins chère.
Et cette ligne verte, qui descend vite,
nous montre que le prix du séquençage génétique devient moins cher.
La modification, la synthèse et le séquençage des gènes
sont des disciplines différentes mais liées.
Elles bougent toutes au même rythme.
L’élément-clé, ce sont ces petits fichiers.
Ceci est un extrait du gène H5N1.
La totalité tient en quelques pages.
Ne vous inquiétez pas, vous pouvez chercher sur Google, vous le trouverez.
La partie contagieuse pourrait bien
tenir sur un Post-it.
Et une fois qu’un génie crée un fichier,
n’importe quel idiot peut le copier,
le distribuer dans le monde
ou l’imprimer.
Et je ne veux pas parler de ce genre d’impression,
mais de ça.
Imaginons un cas possible.
On est, par exemple, en 2026,
une virologue géniale qui espère faire avancer la science
et mieux comprendre les épidémies,
conçoit de nouveaux microbes.
Contagieux comme la varicelle,
mortels comme Ebola,
et incubent pendant des mois avant l’épidémie ;
par conséquent tout le monde peut être contaminé avant le premier symptôme.
Puis son université est piratée.
Non, ce n’est pas de la science-fiction.
En effet, une inculpation récente
a prouvé le piratage de plus de 300 universités aux États-Unis.
Le fichier avec le gène des microbes se répand dans les coins sombres d’internet,
où les fichiers ne peuvent disparaître —
comme le savent les studios de cinéma et les majors de la musique.
Peut-être qu’en 2026,
il faudrait un génie, comme notre virologue,
pour créer la bestiole,
mais 15 ans après,
il suffira peut-être de l’imprimante ADN de n’importe quel lycée.
Et si ça ne suffit pas ?
Attendez encore quelques décennies.
Une petite parenthèse :
voyez-vous cette diapo ?
Regardez ces deux mots-là. [peut-être]
Si quelqu’un essaie de le faire et est efficace à 0,1 % seulement,
huit millions de personnes meurent.
C’est 2.500 « 11 Septembre »
La civilisation survivrait,
mais elle serait défigurée pour toujours.
Cela veut dire donc qu’on doit faire attention à tous ceux
qui ont cet objectif,
pas seulement les génies.
Aujourd’hui il y a quelques génies
qui pourraient créer des microbes fin-du-monde
1 % efficaces, peut-être un peu plus.
Ils sont assez stables et accomplis, pas du tout comme ce groupe.
Je suis donc à peu près rassuré.
Mais après ? Quand la technologie s’améliorera,
et se diffusera,
et qu’on aura des milliers d’étudiants diplômés en biologie ?
Est-ce que chacun d’entre eux sera parfaitement stable ?
Et quelques années plus tard,
où va-t-on trouver les étudiants en prépa angoissés ?
À un certain moment,
ces cercles vont se croiser.
On parle de centaines de milliers de personnes
dans le monde entier.
Parmi lesquels ce type qui s’est déguisé comme le Joker
et a tué 12 personnes à la première de Batman.
C’était un doctorant
avec une bourse du NIH.
OK, un rebondissement :
je pense qu’on peut y survivre, si on s'en occupe maintenant.
Je vous dis ça, car j’ai passé d’innombrables heures
à interviewer les leaders mondiaux du synbio,
et en étudiant leurs travaux pour mes podcasts scientifiques.
Je crains leur travail, au cas où vous ne l’auriez pas compris.
(Rires)
J’ai aussi appris à admirer leur potentiel.
Cela va guérir le cancer, soigner l’environnement
et mettre fin à notre façon cruelle de traiter les animaux.
Comme fait-on cela sans nous anéantir ?
Premièrement, qu’on le veuille ou non, la synbio existe,
adoptons donc la technologie.
Si on l’interdit,
ça ne fera qu’aider les personnes avec de mauvaises intentions.
Contrairement aux programmes nucléaires,
on peut pratiquer la biologie de manière invisible.
La triche soviétique sur les traités contre les armes biologiques
l’a bien montré, ainsi que tous les labos de drogues illégales dans le monde.
Deuxièmement, engageons des experts.
Embauchons ces experts et profitons d’eux.
Sur un million et un de bio-ingénieurs,
un million d’entre eux sont dans notre camp.
Même Al Capone serait avec nous,
la limite pour être du côté des « gentils » est si basse.
Et cet avantage numérique massif est important
même quand une seule personne peut causer autant de dégâts.
Parce qu’entre autres,
ils nous donnent l’occasion de profiter de ça :
on a des années et des décennies pour se préparer et faire de la prévention.
La première personne qui fera des choses atroces — et il y en aura une —
n’est peut-être pas encore née.
Puis, ça doit être un effort collectif,
auquel vous devez tous participer,
car on ne peut pas demander à un petit groupe d’experts
d’être en charge de retenir et d’exploiter la biologie de synthèse,
On l’a déjà essayé avec le système financier,
et nos intendants sont devenus énormément corrompus
quand ils ont découvert comment tricher,
nous infliger d’énormes risques
et privatiser les gains.
Devenant affreusement riches
en nous laissant avec une addition de 22 000 milliards.
Et plus récemment -
(Applaudissements)
Vous êtes ceux qui ont reçu les lettres de remerciement ?
J’attends encore la mienne.
J’ai pensé qu’ils étaient trop occupés pour nous remercier.
Et beaucoup plus récemment,
la vie privée en ligne est apparue comme un problème majeur
qu’on a, en fait, externalisé.
Je répète :
gains privatisés, pertes collectivisées.
Est-ce que quelqu’un en a marre de ça ?
(Applaudissements)
Il faudra donc une façon plus inclusive de sauvegarder notre prospérité,
nos vies privées,
et bientôt, nos vies.
Comment fait-on tout ça ?
Quand nos corps luttent contre des agents pathogènes,
ils utilisent des systèmes immunitaires ingénieux
qui sont très complexes et multicouches.
Pourquoi ne créons-nous pas ça pour notre écosystème ?
On pourrait faire un an de TED Talks sur cette première couche vitale.
Voici quelques idées auxquelles on pourrait se référer.
Quelques chercheurs de génie
pourraient améliorer nos primitifs détecteurs de pathogènes,
faire diminuer leur prix très vite,
qui deviendraient rapidement ingénieux,
interconnectés,
et deviendraient aussi répandus que les détecteurs de fumée et les smartphones.
Une petite remarque :
les vaccins ont toutes sortes de problèmes
qui concernent leur production et leur distribution,
une fois créés, ils ne peuvent pas s’adapter aux menaces ou aux mutations.
On a besoin d’une plateforme de biofabrication agile,
qu'on trouverait dans chaque pharmacie et même chez nous.
La technologie d’impression des vaccins et des médicaments est accessible
si on lui donne la priorité.
Après, la santé mentale.
De nombreux meurtriers de masse suicidaires
ont une dépression invalidante ou du stress post-traumatique.
On a besoin de nobles chercheurs tels que Rick Doblin pour travailler sur ça,
mais aussi de cons égoïstes - qui sont beaucoup plus nombreux -
pour comprendre qu’une grande souffrance va nous tous menacer,
pas seulement ceux qui sont touchés.
Ces cons vont nous rejoindre et Al Capone
pour lutter contre cette situation.
Enfin, chacun d’entre nous peut et devrait être un globule blanc
de ce système immunitaire.
Les meurtriers de masse suicidaires peuvent être détestables, oui,
mais ils sont aussi des gens vraiment brisés et tristes.
Ceux qui ne le sont pas doivent faire leur possible
pour que personne ne soit mal-aimé.
(Applaudissements)
Après, on doit combattre ces dangers
au sein de la biologie de synthèse.
Il y a des entreprises qui affirment
permettre aux ingénieurs de passer 20 % de leur temps
à faire ce qu’ils veulent.
Et si ceux qui embauchent les bioingénieurs, et
ceux qui le deviennent,
consacraient 20 % de leur temps à bâtir des défenses pour le bien commun ?
Pas mal comme idée, non ?
(Applaudissements)
Enfin : ce ne sera pas drôle.
Mais on doit laisser nos esprits s’aventurer dans des endroits très sombres
et merci de m’avoir laissé vous y amener ce soir.
On a survécu à la Guerre froide
parce que chacun de nous a compris et respecté le danger,
et, entre autres, parce qu’on a passé des décennies
à nous raconter des histoires effrayantes
comme « Docteur Folamour »
et « Wargames ».
Ce n’est pas le moment de rester calme.
C’est un des rares moments où il est extrêmement fructueux
de céder à la panique —
(Rires)
d’inventer des histoires effrayantes
et d’utiliser nos peurs comme carburant contre ce risque.
En effet, toutes les situations affreuses que j’ai illustrées —
ne sont pas notre destinée.
Elles sont une possibilité.
Le danger est encore un peu distant.
Cela signifie qu’il nous arrivera dessus
que si nous le permettons.
Ne faisons pas ça.
Merci de votre attention.
(Applaudissements)
יש בערך שבעv וחצי מיליארד מאיתנו.
ארגון הבריאות העולמי מספר לנו ש- 300 מיליון מאיתנו בדיכאון,
ובערך 800,000 אנשים נוטלים את חייהם כל שנה.
חלק מזערי מהם בוחר בדרך הרבה פחות מוסרית,
שהיא למות במהלך הרג כמה שיותר אנשים.
הנה כמה דוגמאות מפורסמות מהזמן האחרון.
ויש כאלה פחות מפורסמות. זה קרה לפני כתשעה שבועות.
אם אתם לא זוכרים זאת,
זה מכיוון שהרבה מקרים כאלה מתרחשים.
בויקיפדיה נספרו בשנה שעברה 323 תקריות ירי המוניות
במדינה שלי, ארצות הברית.
לא כל היורים היו בעלי נטיות אובדניות,
ולא כולם מיקסמו את מספר ההרוגים,
אבל הרבה מהם כן.
נשאלת השאלה: אילו גבולות יש לאנשים האלה?
קחו למשל את היורה מוגאס.
הוא רצח 58 אנשים.
האם הוא עצר כי זה הספיק לו?
לא, ואנו יודעים זאת כי הוא ירה ופצע עוד כ- 422 אנשים
שבבירור היה מעדיף להרוג.
אין לנו סיבה לחשוב שהוא היה עוצר ב- 4,200.
למעשה,יכול להיות שמישהו כל כך לא מוסרי, היה שמח להרוג את כולנו.
אנחנו לא יודעים.
מה שאנו כן יודעים הוא:
כשרוצח אובדני הולך עד הסוף,
טכנולוגיה היא מכפיל הכוח.
והנה דוגמה.
לפני מספר שנים, היה רצף של 10 תקיפות המוניות בסין
שנעשו באמצעות כלים כמו סכינים, פטישים וסכיני קצבים,
בגלל שקשה מאוד להשיג שם רובים.
בצירוף מקרים נוראי, התקיפה האחרונה התרחשה
רק שעות ספורות לפני הטבח בניוטאון, קונטיקט.
אבל במתקפה האמריקאית היחידה הזו נהרגו בערך אותו מספר קורבנות
כמו כל 10 התקיפות הסיניות ביחד.
אז אנו יכולים להגיד, סכין: נורא; רובה: הרבה יותר גרוע.
ומטוס: משמעותית הרבה יותר גרוע,
כמו שהראה הטייס אנדראס לוביץ כשהכריח 149 אנשים
להצטרך אליו בהתאבדות,
בריסוק המטוס על האלפים הצרפתים.
ויש דוגמאות אחרות לכך.
ואני מפחד שיהיו נשקים הרבה יותר קטלניים ממטוסים בעתיד הקרוב,
כאלה שאינם עשויים ממתכת.
אז בואו נשקול את כלל הכוחות האפוקליפטיים שיווצרו
אם רוצח המונים אובדני יתפוס טרמפ על תחום מתקדם
שטומן בחובו לרוב הבטחות לא מוגבלות לחברה.
איפשהו בעולם, יש קבוצה קטנה של אנשים
שהיו מנסים, גם אם באופן כושל,
להרוג את כולנו אם רק היו יודעים איך.
יכול להיות שהיורה מוגאס היה אחד מהם,
אבל כשאנחנו שבעה וחצי מיליארד,
זוהי לא קבוצה ריקה.
קיימים הרבה אנשים לא מוסריים אובדניים.
כבר ראינו את זה.
יש אנשים עם הפרעות מצבי רוח, שאפילו אינם יכולים לשלוט בהן.
יש אנשים שסבלו מטראומות מערערות וכו'.
ולגבי הקבוצה שמסוגלת לעשות זאת,
היא הייתה ריקה תמיד, עד המלחמה הקרה,
כשפתאום, המנהיגים של שתי מעצמות עולמיות
השיגו את היכולת לפוצץ את העולם.
מספר האנשים עם כפתור יום הדין אמיתי
נשאר די קבוע מאז.
אבל אני מפחד שהוא הולך לגדול,
ולא רק לשלוש.
זה יהיה קיצוני.
אני מתכוון, זה יראה כמו תוכנית עסקית של חברת טכנולוגיה.
(צחוק)
והסיבה היא,
שאנחנו בעידן של טכנולוגיה מעריכית,
שבאופן קבוע לוקחת אי יכולת נצחית
והופכת אותה לכוח-על של גאון או שניים
ו-- זה החלק הגדול --
מפיצה את הכוחות האלה פחות או יותר לכולם.
עכשיו, הנה דוגמה נחמדה.
אם הייתם רוצים לשחק דמקה נגד מחשב ב1952,
הייתם צריכים להיות האדם הזה,
ואז להורות לאחד מ- 19 העותקים היחידים בעולם של המחשב הזה,
ואז להשתמש במוח הקרוב לנובל שלכם, כדי ללמד אותו דמקה.
זה היה הרף.
היום, אתם רק צריכים להכיר מישהו שמכיר מישהו שיש לו טלפון,
כי מיחשוב הוא טכנולוגיה מעריכית.
כך גם ביולוגיה סינתטית,
שמעכשיו אתייחס עליה כ"סינביו".
וב- 2011, צמד חוקרים עשו משהו מבריק
וחסר תקדים כמו הטריק של הדמקה
עם נגיף שפעת H5N1.
זה זן שהורג עד 60 אחוז מהאנשים אותם הוא מדביק,
יותר מאבולה.
אבל הוא כל כך לא מדבק
כך שהוא הרג פחות מ- 50 אנשים מאז 2015.
אז החוקרים האלו ערכו את הגנום של ה- H5N1
ועשו אותו קטלני באותה המידה, אבל גם מאוד מדבק.
ענף החדשות של אחד משני הגליונות המדעיים המובילים בעולם
אמר שאם הדבר הזה ייצא החוצה, הוא כנראה יגרום למגיפה עולמית
עם אולי מיליוני הרוגים.
וד"ר פאול קיים אמר
שהוא לא יכול לחשוב על אורגניזם מפחיד כמו זה,
שזה הדבר האחרון שאני רוצה לשמוע
מיושב הראש המועצה המייעצת הלאומית למדע בנוגע להגנת ביו.
ודרך אגב, ד"ר קיים אמר גם --
["אני לא חושב שגחלת מפחידה בכלל ביחס לזה"]
והוא גם אחד מאלה.
[מומחה לגחלת] (צחוק)
עכשיו, החדשות הטובות לגבי הפריצה הביולוגית של 2011
הן שהאנשים שעשו אותה, לא התכוונו לעשות שום נזק.
הם וירולוגים.
הם האמינו שהם מקדמים את המדע.
החדשות הרעות הן שטכנולוגיה לא קופאת במקום,
ובמהלך העשורים הבאים,
ההישג שלהם יהפוך למשהו טריוויאלי.
האמת, זה כבר עכשיו הרבה יותר פשוט, מכיוון שכפי שלמדנו אתמול בבוקר,
רק כשנתיים אחרי שהם עשו את עבודתם,
מערכת הקריספר נרתמה לעריכת גנום.
זו הייתה פריצת דרך משמעותית
זה הופך את עריכת הגנים לקלה משמעותית --
כל כך קלה שכבר מלמדים על קריספר בתיכונים.
והדבר הזה מתקדם מהר יותר ממחשוב.
הקו הלבן, האיטי, המשעמם שם למעלה?
זה חוק מור.
שמראה לנו כמה מהר מחשוב נהיה זול יותר.
הקו הירוק, כיפי בטירוף ותלול,
מראה לנו כמה מהר ריצוף גנים נעשה זול יותר.
עכשיו, עריכת גנים וסינתזה וריצוף,
הם תחומים שונים, אבל הם מאוד קשורים.
והם כולם מתקדמים בקצבים המהירים האלה.
והמפתחות לממלכה הם קבצי המידה הממש קטנים האלה
זה העתק של הגנום של H5N1.
כולו יכול להיכנס בתןך דפים בודדים.
וכן, אל תדאגו, אתם יכולים למצוא את זה בגוגל כשתגיעו הביתה.
זה בכל רחבי האינטרנט, נכון?
והחלק שהופך את זה למדבק
יכול להיכנס לפתק דביק אחד.
וברגע שגאון אחד ייצור קובץ מידע,
כל אידיוט יוכל להעתיק אותו,
ולהפיץ אותו לכל העולם
או להדפיס אותו.
ואני לא מתכוון להדפיס את זה על זה,
אלא, בזמן הקרוב יחסית, על זה.
אז בואו נדמיין מקרה.
נגיד שהשנה היא 2026, בחרנו שנה שרירותית,
ווירולוגית מבריקה, שמקווה לקדם את המדע
ולהבין טוב יותר מגיפות,
יוצרת מחלה חדשה.
היא מדבקת כמו אבעבועות רוח,
וקטלנית כמו אבולה,
והיא דוגרת במשך חודשים לפני שהיא מתפרצת,
כך שכל העולם יהיה נגוע לפני הסימן הראשון שיש בעיה.
ואז, פורצים לאוניברסיטה שלה.
וכמובן, זה לא מדע בדיוני.
למעשה, רק לאחרונה יצא כתב אישום אמריקאי
שמתעד פריצה למעל 300 אוניברסיטאות.
אז הקובץ עם הגנום של המחלה יתפשט ברחבי הפינות האפלות של האינטרנט.
וברגע שקובץ נמצא שם, הוא אף פעם לא חוזר --
תשאלו כל אחד שמנהל אולפן סרטים או חברת מוזיקה.
אז אולי ב- 2026
זה ידרוש גאון אמיתי כמו הוירולוגית שלנו
כדי ליצור יצור חי אמיתי,
אבל 15 שנים לאחר מכן,
זה אולי ידרוש רק מדפסת דנ"א שניתן למצוא בכל תיכון.
ואם לא?
תנו לזה כמה עשורים.
אז במאמר מוסגר:
זוכרים את השקף הזה?
תפנו את תשומת הלב שלכם לשתי המילים האלה.
אם מישהו ינסה את זה, וזה יהיה רק 0.1 אחוז אפקטיבי,
שמונה מיליון אנשים ימותו.
זה 2,500 פיגועי ה- 11 בספטמבר.
האנושות תשרוד.
אבל היא תהיה מצולקת לתמיד.
אז זה אומר שאנחנו צריכים לדאוג לגבי כל אחד
שיש לו את היכולת הכי קטנה לעשות זאת,
לא רק גאונים.
אז היום, יש קבוצה קטנה של גאונים
שכנראה יוכלו ליצור חיידק יום הדין
שהוא 0.1 אחוז אפקטיבי ואולי טיפה יותר.
הם נוטים להיות אנשים יציבים ומצליחים וממש לא חלק מהקבוצה הזאת.
אז נראה לי שאני סוג של בסדר עם זה.
אבל מה אם אחרי שהטכנולוגיה תשתפר
ותופץ
ואלפי בוגרי מדעי החיים יוכלו לעשות זאת?
האם כל אחד מהם יהיה יציב לגמרי?
או מה אם כמה שנים אחר כך,
וכל סטודנט לחוץ לקדם רפואה יוכל לעשות זאת?
בזמן כלשהו,
המעגלים האלה הולכים להתלכד,
כיוון שאנחנו מדברים עכשיו על מאות אלפים של אנשים
ברחבי העולם.
ולאחרונה כוללת גם את הבחור ההוא שהתחפש לג'וקר
וירה למוות ב- 12 אנשים בבכורה של באטמן.
הוא היה דוקטורנט במדעי המוח
עם תעודה מהמכונים הלאומיים לבריאות.
אוקיי, תפנית בעלילה:
אני חושב שאנחנו יכולים לשרוד את זה, אם נתחיל להתמקד בזה עכשיו.
ואני אומר זאת אחרי שביליתי אינספור שעות
בריאיון מנהיגים עולמים בסינביו
וגם בחקר העבודה שלהם לפודקאסט מדעי שיצרתי.
התחלתי לפחד מהעבודה שלהם, למקרה שלא הבהרתי את זה --
(צחוק)
אבל יותר מזה, אני מעריץ את הפוטניצאל של זה.
הדבר הזה ירפא סרטן, ירפא את הסביבה
ויפסיק את הטיפול האכזרי שלנו ביצורים אחרים.
אז איך אנחנו משיגים את כל זה מבלי, אתם יודעים, להשמיד את עצמנו?
דבר ראשון, תאהבו את זה או לא, הביולוגיה הסינתטית פה,
אז בואו נאמץ את הטכנולוגיה.
אם נאסור על הטכנולוגיה,
רק נעביר את ההגה לשחקנים רעים.
שלא כמו תוכניות גרעיניות,
ניתן לעסוק בביולוגיה בלי שישימו לב.
הפרה סובייטית מסיבית של הסכמים לגבי נשקים ביולוגים
הבהירו זאת, כמו כל מעבדת סמים לא חוקית בעולם.
שנית, לגייס את המומחים.
בואו נרשום אותם, וניצור יותר מהם.
לכל מיליון ואחד מהנדסי ביו שיש לנו,
לפחות מיליון מהם יהיו בצד שלנו.
אני מתכוון, אל קפונה היה בצד שלנו בזה.
הסף להיות אדם טוב הוא פשוט ממש נמוך.
ויתרון מספרי עצום אכן משנה,
גם כשרק אדם רע אחד יכול לגרום לנזק חמור,
בגלל שבין הרבה דברים אחרים,
הם נותנים לנו למצות לגמרי את זה:
יש לנו שנים, ובתקווה עשורים, כדי להתכונן ולמנוע.
האדם הראשון שינסה משהו נורא -- ותמיד יהיה מישהו --
יכול להיות שלא נולד עדיין.
השלב הבא, זה צריך להיות מאמץ של כלל החברה,
וכל אחד מכם צריך להיות חלק מזה,
בגלל שאנו לא יכולים לדרוש מקבוצה קטנה של מומחים
להיות אחראיים גם לריסון וגם לניצול הביולוגיה הסינתטית,
מכיוון שכבר ניסינו את זה עם המערכת הפיננסית,
והמנהלים שלנו נהיו מאוד מושחתים
כשהם גילו איך הם יוכלו לעגל פינות,
ולשים את כולנו בסיכונים גבוהים
כדי להגדיל את הרווח האישי שלהם,
ולהפוך את עצמם לעשירים בצורה דוחה
בזמן שהם תוקעים אותנו בחוב של 22 טריליון דולר.
ויותר לאחרונה --
(מחיאות כפיים)
האם אתם אלה שקיבלו את מכתבי התודה?
אני עדיין מחכה לשלי.
פשוט חשבתי שהם עסוקים מכדי להיות אסירי תודה.
וממש יותר לאחרונה,
פרטיות ברשת התגלתה כבעיה ענקית,
ואנחנו פשוט העברנו אותה לידיים חיצוניות.
ועוד פעם:
הון אישי, הפסדים חברתיים.
למישהו פה נמאס מהדפוס הזה?
(מחיאות כפיים)
אז אנחנו צריכים דרך יותר כוללת לשמירה על הצמיחה שלנו,
הפרטיות שלנו
ובקרוב, גם על חיינו.
אז איך אנחנו עושים את כל זה?
טוב, כשהגופים שלנו נלחמים בפתוגנים,
הם משתמשים במערכת חיסון גאונית,
שהיא מורכבת מאוד ובנויה מהמון שכבות.
למה אנחנו לא בונים אחת כזו לכל המערכת האקולוגית?
אפשר לעשות שנה של שיחות טד לגבי השכבה הקריטית הראשונה הזו.
אז זה רק חלק מהמון רעיונות מצוינים שקיימים.
קצת שרירי מחקר ופיתוח
יוכלו לקחת את חיישן הפתוגן הפרמיטיבי שכבר יש לנו
ולשים אותו בעקומת מחיר-ביצועים חדה
שתהפוך במהירות לגאונית
ומקושרת
ובהדרגה נפוצה כמו גלאי עשן ואפילו סמארטפונים.
ובנושא קרוב:
לחיסונים יש הרבה בעיות
בנוגע לייצור והפצה,
וברגע שהם נוצרים, הם לא יכולים להסתגל לאיומים חדשים או למוטציות.
אנחנו צריכים בסיס ייצור ביולוגי גמיש
שיתרחב לתוך כל אחד מבתי המרקחת ואולי אפילו לבתים שלנו.
טכנולוגיות הדפסה לחיסונים ותרופות הן בהישג ידינו
אם נתעדף את זה.
הבא, בריאות נפשית.
הרבה אנשים שמבצעים רצח המוני ומתאבדים
סובלים מפוסט טראומה או דיכאון קשה שעמידים בטיפולים.
אנחנו צריכים חוקרים מכובדים כמו ריק דובלין שיעבדו על זה,
אבל נצטרך גם אידיוטים אגואיסטים, מה שהרבה יותר נפוץ
שיבינו את העובדה שסבל חמור בקרוב יסכן את כולנו,
לא רק את האומללים שסובלים ממנו.
האידיוטים האלה יצטרפו לנו ולאל קפונה
במלחמה במצב הזה.
שלישית, כל אחד מאיתנו יכול וצריך להיות תא דם לבן
במערכת החיסון הזו.
רוצחי המונים אובדניים יכולים להיות מתועבים, כן,
אבל הם גם אנשים מאד שבורים ועצובים,
ואלה מאיתנו שאינם כאלה, צריכים לעשות מה שאפשר
כדי לוודא שאף אחד לא חי ללא אהבה.
(מחיאות כפיים)
הדבר הבא, אנחנו צריכים להפוך את המלחמה בסכנות אלו
לבסיס לענף של הביולוגיה הסינתטית.
יש חברות שטוענות
שהן נותנות למהנדסים שלהם לבלות 20 אחוז מהזמן שלהם
בעשיית מה שהם רוצים.
מה אם אלה שמעסיקים מהנדסי-ביו
או אלה שהופכים לכאלה
יתנו 20 אחוז מהזמן שלהם על מנת לבנות הגנות למען הכלל?
לא רעיון רע, נכון?
(מחיאות כפיים)
ואז, לבסוף: זה לא יהיה כיף.
אבל אנחנו צריכים לתת למחשבות שלנו לנדוד למקומות מאוד, מאוד אפלים,
ותודה לכם שנתתם לי לקחת אתכם לשם הערב.
שרדנו את המלחמה הקרה
בגלל שכל אחד מאיתנו הבין וכיבד את הסכנה,
חלק מזה, גם בגלל שהעברנו עשורים
בסיפור לעצמנו סיפורי רפאים מבהילים
עם שמות כמו "דוקטור סטריינג'לאב"
ו"משחקי מלחמה".
זה לא הזמן להישאר רגוע.
זה אחד מהזמנים הנדירים שבהם זה ממש מועיל
להתחרפן לגמרי --
(צחוק)
להמציא סיפורי רפאים
ולהשתמש בפחד כדלק למלחמה בסכנה הזאת.
בגלל, שכל התרחישים הנוראיים שציירתי --
הם לא גורל.
הם אפשריים.
הסכנה עדיין יחסית רחוקה.
וזה אומר שזה יתרחש
רק אם ניתן לזה.
בואו לא ניתן.
תודה רבה לכם על ההקשבה.
(מחיאות כפיים)
Szóval hét és fél milliárdan vagyunk.
Az Egészségügyi Világszervezet szerint közülünk 300 millió ember depressziós,
és körülbelül 800 000 ember követ el öngyilkosságot évente.
Néhányan közülük ennek olyan mélyen nihilista módját választják,
hogy közben lehetőleg minél több embert magukkal vigyenek a halálba.
Ez néhány híres közelmúltbeli példa.
És itt van egy kevésbé híres. Körülbelül kilenc hete történt.
Ha nem emlékeznek rá,
ez azért van, mert sok ilyesmi történik.
A Wikipédia csak az elmúlt évben
323 tömeges lövöldözést tartott számon hazámban, az Egyesült Államokban.
Nem minden lövöldöző volt öngyilkos,
nem mindegyik törekedett minél több áldozatra, de nagyon sokan igen.
Felmerül egy fontos kérdés:
Milyen korlátaik vannak?
Vegyük a vegasi lövöldözőt.
58 embert mészárolt le.
Azért hagyta abba, mert megelégelte?
Nem, és ezt tudjuk, mivel további 422 embert lőtt és sebesített meg,
akiket biztosan szívesebben ölt volna meg.
Nincs okunk arra gondolni, hogy 4200-nál megállt volna.
Valójában aki ennyire nihilista, tán örömmel ölt volna meg mindannyiunkat.
Nem tudjuk.
Amit tudunk, az a következő:
Amikor az önpusztító gyilkosok tényleg mindenre képesek,
a technológia rendkívül hatékonnyá teszi őket.
Íme, egy példa.
Néhány éve volt Kínában tíz tömeges iskolai támadás,
ezeket olyan eszközökkel hajtották végre, mint a kés vagy a kalapács,
mert nehezen jutni itt fegyverhez.
Ijesztő véletlen, de az utolsó támadás csak néhány órával előzte meg
a Connecticut-beli Newtownban történt mészárlást.
De annak az egy amerikai támadásnak nagyjából annyi halálos áldozata volt,
mint a tíz kínainak együttvéve.
Tehát nyugodtan kijelenthetjük; a kés szörnyű, a fegyver sokkal rosszabb.
És a repülőgép jelentősen rosszabb,
Andreas Lubitz pilóta megmutatta,
amikor 149 embert kényszerített arra.
hogy vele együtt haljanak meg a francia Alpokba csapódva.
Vannak erre más példák is.
Félek, hogy lesznek a közeljövőben sokkal veszélyesebb fegyverek a repülőgépeknél,
amelyek majd nem fémből készülnek.
Vegyük hát szemügyre azt az apokalipszist, ​​ami akkor következik be,
ha az önpusztító tömeggyilkos egy olyan gyorsan fejlődő területre lép,
amely túlnyomó részben határtalan ígéretet jelent a társadalom számára.
Valahol kinn a világban létezik az embereknek egy kis csoportja,
amely megkísérelné – bár hozzá nem értő módon –,
hogy megöljön bennünket, ha tudná, hogyan tegye.
A vegasi lövöldöző talán egy volt közülük, talán nem,
de mert hét és fél milliárdan vagyunk,
a számuk nem nulla.
Sok öngyilkos nihilista van a világban.
Már láttuk ezt.
Emberek súlyos személyiségzavarral, amelyet még uralni sem tudnak,
emberek, akik őrjítő traumán mentek keresztül, stb. stb.
Ami a következő csoportot illeti,
nem is létezett a hidegháborúig,
amikor hirtelen a két világszövetség vezetői lehetőséget kaptak,
hogy felrobbantsák a világot.
A tényleges végítéletgombok kezelőinek száma
nagyjából azonos maradt azóta,
de félek, hogy növekedni fog,
és nem csupán háromra.
Minden képzeletet felül fog múlni.
Úgy értem, úgy fog kinézni, mint egy műszaki üzleti terv
(Nevetés)
Ennek oka,
hogy a technológiák exponenciális fejlődésének korát éljük,
amikor teljességgel lehetetlen dolgok szokásosan
egy-két zseni szupererejévé válnak –
és itt jön a lényeg –
aztán ez az erő hozzáférhetővé válik többé-kevésbé mindenki számára.
Íme, egy ártatlan példa:
Ha 1952-ben szerettünk volna dámázni egy számítógéppel,
akkor ténylegesen annak a fickónak kellett volna lennünk,
aztán meg a világ 19 számítógépe közül valamelyiknek az irányítója,
és zseniális képességeinkkel meg kellett volna tanítani a gépet dámázni.
Ez volt a mérce.
Most csak ismernünk kell valakit, aki ismer valakit, akinek van telefonja,
mert a számítástechnika exponenciálisan fejlődő technológia.
A szintetikus biológia úgyszintén,
amire mostantól "szinbio" néven fogok utalni.
2011-ben néhány tudós a dámázókhoz hasonlóan
minden részletében leleményes és példa nélküli dolgot tett
a H5N1 influenzával.
Ez egy olyan törzs, ami a fertőzöttek majdnem 60%-át megöli,
többet, mint az ebola.
De nem annyira fertőző,
így 50-nél kevesebb emberrel végzett 2015 óta.
Ezért a tudósok változtattak a H5N1 genomján,
és legalább annyira halálossá, és egyben rendkívül fertőzővé is tették.
A világ két vezető tudományos folyóiratának egyikében azt írták,
hogy ha kiszabadul, valószínűleg olyan járványt okoz,
ahol több millió ember hal meg.
Dr. Paul Keim azt állíotta,
hogy el sem tudna képzelni ennél ijesztőbb organizmust,
és ami engem illet, ez az utolsó, amit hallani szeretnék
a Nemzeti Biológiai Biztonság Tudományos Tanácsadó Testületének elnökétől.
Mellékesen, Dr. Kleim ezt is mondta:
["Nem hiszem, hogy az antrax ehhez képest olyan borzalmas lenne."]
És ő is egy közülük.
[Antrax szakértő] (Nevetés)
Jó hír a 2011-es biohekkeléssel kapcsolatban,
hogy azok, akik ezt csinálták, nem akartak nekünk ártani.
Ők virológusok.
Hitték, hogy a tudomány fejlődését segítik.
A rossz hír, hogy az a technológia nem áll meg ott,
és a következő néhány évtized folyamán
mutatványuk triviálisan könnyűvé válik.
Valójában már most sokkal könnyebb, mert ahogy tegnap reggel megtudtuk,
csupán két évvel munkájuk után
már használták a CRISPR rendszert genomok szerkesztésére.
Ez radikális áttörésnek bizonyult,
ami a génszerkesztést rendkívül megkönnyíti,
annyira, hogy a CRISPR már a középiskolák tananyagát képezi.
És gyorsabban fejlődik, mint a számítástechnika.
Az a lassú, vastag fehér vonal ott?
Az Moore törvénye.
Azt mutatja, milyen gyorsan lesz egyre olcsóbb a számítástechnika.
Az a meredek, őrülten vicces zöld vonal azt mutatja,
milyen gyorsan válik olcsóvá a génszekvenálás.
A génszerkesztés, a szintézis és a szekvenálás különböző tudományágak,
de szorosan összefüggenek,
és mind ebben a heves iramban fejlődnek.
A titok nyitja ez a sok igen parányi adat.
Ez a H5N1 genom kivonata.
Az egész ráfér pár oldalra.
És ne aggódjanak, kiguglizhatják, amint hazaérnek!
Minden ott van a neten, oké?
És az a rész, ami fertőzővé tette,
simán ráfér egy tenyérnyi cédulára.
És ha egyszer egy zseni elkészítette az adatfájlt,
bármilyen idióta lemásolhatja,
elterjesztheti a világon,
vagy kinyomtathatja.
És nem csak arra gondoltam, hogy erre,
de hamarosan erre is.
Képzeljünk el egy helyzetet.
Mondjuk 2026, válasszunk egy tetszőleges évet,
és egy briliáns virológus azt remélve, hogy a tudomány fejlődését,
és a járványok jobb megértést segíti,
létrehoz egy új kórokozót.
Olyan fertőző, mint a bárányhimlő,
annyira halálos, mint az ebola,
és hónapokig lappanghat, mielőtt kitör,
tehát az egész világ megfertőződhet, mielőtt bármit észrevehetnénk.
Majd az egyetemet meghekkelik.
És ez természetesen nem sci-fi.
Sőt, egy jelenlegi vádirat dokumentálja,
hogy 300-nál több egyetemet is meghekkeltek.
Úgyhogy az a fájl a kórokozó genomjával elterjed a net sötét sarkaiban.
És ha egyszer a fájl kijutott, nem lehet visszaszerezni,
kérdezzenek csak meg bárkit, aki filmstúdiót vagy zenekiadót üzemeltet.
Tehát, mondjuk 2026-ban egy valódi zsenire lenne szükség,
mint amilyen a mi virológusunk,
egy igazi élő organizmus létrehozásához,
de 15 évvel később
ehhez talán elég lesz a középiskolákban található DNS-nyomtató.
És ha nem?
Adjunk hozzá még pár évtizedet.
Egy gyors kérdés:
Emlékeznek erre a diára?
Figyeljenek erre a két szóra.
Ha valaki kipróbálja ezt, és csak 0,1%-ban hatékony,
nyolc millió ember hal meg.
Az 2500-szerese a 9/11 áldozatainak.
A civilizáció túlélné,
de tartós károkat szenvedne.
Eszerint mindenkitől tartanunk kell,
akinek bármi esélye van labdába rúgni,
nem csak a zseniktől.
Szóval napjainkban talán csak egy maroknyi zseni képes
olyan végzetes kórokozót alkotni,
ami 0,1%-ban hatásos, vagy talán egy kicsit jobban.
Ők rendszerint stabilak és sikeresek, és így nem részei ennek a csoportnak.
Így azt hiszem, talán nagyjából ki vagyok békülve ezzel.
De mi van, ha a technológia fejlődik
és elterjed,
és végzős biológushallgatók ezrei is képesek lesznek erre?
Mindegyikük tökéletesen stabil lesz?
Vagy mi van, ha néhány évvel később
minden stresszes orvostanhallgató képes lesz erre?
Valamikor a jövőben
ezeknek a köröknek lesz közös részük,
mivel már több százezer emberről kezdünk beszélni
szerte a világon.
És épp mostanában beletartozott az a fickó, aki Jokernek öltözött,
és 12 embert lőtt le a Batman premierjén.
idegtudományi doktorátusát készült megszerezni
a Nemzeti Intézet az Egészségért ösztöndíjával.
Rendben, fordítsuk meg.
Azt hiszem, túlélhetjük, ha most elkezdünk figyelni erre.
Én mondom ezt, aki számtalan órát töltött
a szinbio vezető kutatóival készített interjúkkal,
és felkészültem munkáikból a beszélgetésekre.
Elkezdtem félni a munkájuktól – ha még nem mondtam volna –
(Nevetés)
de még inkább tisztelni a benne rejlő lehetőséget.
Ez fogja kezelni a rákot, meggyógyítani a környezetünket,
és megszünteti majd kegyetlenkedéseinket más élőlényekkel.
Hogyan juthatunk mindehhez a megsemmisülésünk nélkül?
Az első dolog: akár szeretjük, akár nem, a szinbio itt van velünk.
fogadjuk el tehát a technológiát.
Ha betiltjuk,
azzal csupán rossz kezekbe adjuk az irányítást.
A nukleáris programoktól eltérően
a biológiával észrevétlenül lehet foglalkozni.
Ez világos a világszerte létező illegális droglaborok sokaságából, és abból,
hogy a szovjetek tömegével szegték meg a biofegyverekre vonatkozó szerződéseket.
A második, hogy toborozzunk szakértőket.
Tartsuk számon őket, és legyen több belőlük.
Egymillióegy biomérnökből
legalább egymillió velünk lesz.
Úgy értem, Al Capone is az oldalunkon állna ebben.
Olyan alacsony a mérce itt jónak lenni!
És az erőteljes számbeli fölény számít,
még akkor is, ha egyetlen rossz fiú is súlyos károkat okozhat,
mivel egyebek mellett
megengedi, hogy a lehető legtöbbet hozzuk ki belőle.
Éveink, reméljük, évtizedeink vannak a felkészülésre és megelőzésre.
Az első ember, aki valami szörnyűt próbál tenni – és lesz olyan –
talán még meg sem született.
A következő, hogy ennek egy társadalmat átszövő erőfeszítésnek kell lennie,
mindnyájunknak részt kell vennünk ebben,
mert nem kérhetjük szakértők kis csoportjától,
hogy felelősek legyenek a szinbio hasznosításáért és fékentartásáért is.
Próbáltuk már ezt a pénzügyi rendszerrel,
és akikre rábíztuk, rendkívül korrupttá váltak,
amint rájöttek, hogyan tudnak ügyeskedni:
Kiróni ránk mérhetetlenül nagy kockázatot
és megszerezni a nyereséget,
ellenszenvesen vagyonossá válva,
miközben 22 trilliós számlával sújtottak bennünket.
És legújabban –
(Taps)
Kaptak köszönő leveleket?
Én még várok az enyémre.
Kitaláltam, túl elfoglaltak ahhoz, hogy hálásak legyenek.
És most a legfrissebb:
az online személyes adatok védelme kezd égetővé válni,
és alapvetően kiszerveztük.
És megint:
egyéni nyereségek, társadalmi veszteségek,
más is rosszul van ettől a mintázattól?
(Taps)
Tehát nekünk is jobban ki kell vennünk részünket jólétünk
magánéletünk,
és – hamarosan – életünk megóvásában.
Hogyan tegyük mindezt?
Nos, az élőlények a kórokozók ellen
zseniális immunrendszerükkel veszik fel a harcot –
amely rendkívül komplex és sokszintű.
Miért nem építünk ilyet az egész ökoszisztéma számára?
Egyévnyi TED-előadást lehet adni erről az első, különösen fontos rétegről.
Szóval ez csak néhány a sok nagyszerű ötletből, ami már ismert.
Néhány izomra rátehetjük
a jelenlegi nagyon primitív kórokozó-érzékelőket,
és egy nagyon meredek érték-teljesítmény görbét vehetünk fel,
ez gyorsan intelligenssé válna,
és hálózatba kötve olyan széles körben terjedne el fokozatosan,
mint a füstérzékelők vagy akár az okostelefonok.
Egy nagyon ideillő megjegyzés:
Az oltóanyagokkal számos probléma adódik,
amikor a gyártásra vagy elosztásukra kerül sor,
és ha készen vannak, nem alkalmazkodnak új fenyegetésekhez vagy mutációkhoz.
Egy gyors biogyártóbázisra van szükségünk,
ami elér minden egyes gyógyszertárba és talán még az otthonunkba is.
Az oltóanyagok és gyógyszerek nyomtatási technológiája karnyújtásra van,
ha elsőbbséget kap.
A következő a mentális egészség.
Sok önpusztító tömeggyilkos lelkileg sérült,
kezelésnek ellenálló depressziótól, poszttraumás stressz szindrómától szenved.
Nagylelkű kutatókra van szükségünk, mint Rick Doblin, hogy dolgozzanak ezen,
de az önző bunkókra is szükségünk van, akik jóval többen vannak,
hogy megértsék, az óriási szenvedés hamarosan mindenkit veszélyeztetni fog,
nem csak azokat, akik átélik.
Akkor azok a bunkók és Al Capone is csatlakoznak hozzánk,
hogy küzdjenek ez ellen az állapot ellen.
Harmadik, hogy mindegyikünk védő fehérvérsejtté válhat
és kéne is válnunk ebben az immunrendszerben.
Az önpusztító tömeggyilkosok méltók megvetésünkre,
másfelől viszont igen megtört és szomorú emberek.
Akiknek nincs feladatuk a felsoroltakban,
biztosítaniuk kéne, hogy senki ne maradjon szeretetlen.
(Taps)
A következő, hogy ezekkel a veszélyekkel
a szintetikus biológia gyökerénél kell megbirkóznunk.
Vannak cégek, amelyek legalábbis állítják,
hogy hagyják mérnökeiket idejük 20%-ában
azzal foglalkozni, amivel akarnak.
Mi lenne, ha azok, akik biomérnököket alkalmaznak,
vagy ilyenné válnak,
idejük 20%-át a védelem kifejlesztésére fordítanák a közjó érdekében?
Nem rossz ötlet, ugye?
(Taps)
Aztán végül: ez nem lesz valami vicces.
De hagyni kell, hogy elménk nagyon sötét helyekre vándoroljon,
és köszönöm, hogy hagyták, hogy ma este odavezessem önöket.
Túléltük a hidegháborút,
mert mindegyikünk megértette és figyelembe vette a veszélyt,
részben azért, mert évtizedeken át mondtunk magunknak
szörnyű kísértettörténeteket,
olyanokat, mint "Dr. Strangelove"
és "War Games".
Ez nem a nyugalom ideje.
Azon ritka időket éljük, amikor hihetetlenül produktív
rendesen kiakadni,
(Nevetés)
előjönni néhány kísértettörténettel
és félelmünket üzemanyagként használva megküzdeni ezzel a veszéllyel.
Mivel mindaz a szörnyűség, amit felvázoltam –
nem a végzetünk.
Ezek esetlegesek.
A veszély még kissé távoli.
És ez azt jelenti, hogy csak akkor sújt le ránk,
ha engedjük.
Ne tegyük.
Nagyon köszönöm, hogy meghallgattak.
(Taps)
Siamo quasi sette miliardi.
L'Organizzazione Mondiale della Sanità dice che 300 milioni di noi sono depressi.
e circa 800.000 persone ogni anno si tolgono la vita.
Una piccola parte di queste prende una strada nichilista,
in cui muoiono mentre cercano di uccidere più persone possibili.
Ci sono esempi recenti famosi.
E ce n'è uno meno famoso, accaduto circa nove settimane fa.
Se non ve lo ricordate,
è perché succedono sempre tante cose.
Solo l'altro anno Wikipedia ha contato 323 sparatorie di massa
nella mia nazione, gli Stati Uniti.
Non tutti questi assassinii erano suicidi,
non tutti cercavano di massimizzare il numero di morti,
ma molti, molti lo erano.
Sorge una domanda importante: Che limiti hanno queste persone?
Prendiamo l'aggressore di Las Vegas.
Ha massacrato 58 persone.
Si era fermato perché ne aveva abbastanza?
No, e lo sappiamo perché ha ferito altre 422 persone
che avrebbe sicuramente preferito uccidere.
Non abbiamo ragione di pensare che si sarebbe fermato a 4.200.
Infatti, una persona così nichilista, ci avrebbe allegramente uccisi tutti.
Non lo sappiamo.
Quello che sappiamo è:
Quando un assassino suicida si gioca il tutto,
la tecnologia è il moltiplicatore di forze.
Ecco un esempio.
Molti anni fa, c'è stata un'ondata di 10 attacchi di massa nelle scuole in Cina
compiuti con coltelli, martelli e bastoni,
perché le armi sono molto difficili da trovare.
Per una macabra coincidenza, questo ultimo attacco è avvenuto
poche ore prima del massacro di Newtown, in Connecticut.
Ma questo attacco in America, ha ucciso circa lo stesso numero di persone
dei 10 attacchi in Cina tutti assieme.
Quello che possiamo sicuramente dire è: coltello terribile, pistola molto di più.
E aeroplano; enormemente di più,
come il pilota Andreas Lubitzci ci ha mostrato quando ha costretto 149 persone
ad unirsi al suo suicidio,
schiantandosi contro una montagna sulle Alpi Francesi.
E ci sono altri esempi.
E mi spiace dire che in futuro ci saranno armi più letali degli aeroplani,
non di metallo,
Vediamo la potenziale dinamica apocalittica che può accadere
se i gli assassini di massa progrediscono in questo campo avanzato
che per la maggior parte viene considerato una promessa per la società.
Da qualche parte nel mondo, c'è un piccolo gruppo di persone
che proverebbero, anche se maldestramente,
ad ucciderci se solo trovassero un modo per farlo.
La sparatoria di Las Vegas può essere o meno uno di questi,
ma, con sette milioni e mezzo di persone,
c'è una possibilità.
Ci sono tanti suicidi nichilisti qui fuori.
L'abbiamo già visto.
Ci sono persone con disordini psichici che non riescono a controllarsi.
Ci sono persone che hanno subito traumi stravolgenti ecc.
E a corollario di questo,
questi numeri erano zero fino alla guerra fredda,
quando improvvisamente, i leader di due alleanze mondiali
hanno avuto la possibilità di distruggere il mondo.
Il numero delle persone che hanno il pulsante dell'apocalisse
è rimasto più o meno lo stesso da allora.
Ma temo che stia per aumentare,
e non solo a tre.
Sta uscendo dai diagrammi.
Sembra un piano industriale di un'azienda tecnologica.
(Risate)
E la ragione è
che siamo in un'era di tecnologie esponenziali,
che normalmente prendono le impossibilità
e le trasformano in effettivi super poteri di un paio di geni viventi
e ,qui viene il bello,
diffondono questi poteri più o meno a tutti.
Questo un esempio positivo.
Se volevate giocare a dama nel 1952 con un computer,
dovevate letteralmente essere questo uomo,
poi ordinare ad una delle 19 copie di questo computer al mondo,
Poi usare il tuo cervello da Nobel per insegnargli a giocare a dama.
Questo era il livello allora.
Oggi, basta conoscere qualcuno che conosce qualcuno che ha un telefono,
perché l'informatica è una tecnologia esponenziale.
Lo stesso per la biologia sintetica,
che da ora in poi definirò come "synbio".
E nel 2011, un paio di ricercatori hanno fatto qualcosa di molto ingegnoso
e senza precedenti, come per il gioco della dama
con l'influenza H5N1.
È un ceppo che uccide fino al 60% delle persone che infetta,
più dell'Ebola.
Ma è poco contagioso
che ha ucciso meno di 50 persone dal 2015.
Quindi questi ricercatori hanno editato il genoma della H5N1
e l'hanno reso ugualmente mortale , ma anche altamente contagioso.
Le pagine delle notizie di una delle maggiori testate giornalistiche
hanno detto che se questa cosa uscisse dai laboratori causerebbe una pandemia
con milioni di morti possibili.
E il Dott. Paul Keim ha detto
che non potrebbe pensare ad un organismo così pericoloso,
che personalmente è l'ultima cosa che voglio sentire
dal Presidente del Consiglio Nazionale sulla Biosicurezza.
E tra l'altro, il Dott. Keim ha anche detto-
["Non credo che l'antrace sia così terribile come questo"]
E è anche uno di questi.
[Esperto di Antrace] (Risate)
Ora, la cosa buona dell'attacco biologico del 2011
è che le persone che lo hanno fatto non volevano farci del male.
Erano virologi.
Credevano di far avanzare la scienza.
La brutta notizia è che la tecnologia non si ferma,
ed entro le prossime decine di anni,
le sue funzionalità saranno di facile uso.
In effetti, è già molto più semplice, perché come abbiamo appreso ieri mattina,
solo due anni dopo averlo fatto,
Il sistema CRISPR è stato sfruttato per modificare il genoma.
È stata una innovazione radicale
che rende l'editing genetico estremamente semplice--
così semplice che viene insegnato alle superiori.
E progredisce più dei computer.
Quella linea lenta, pesante lassù?
La legge di Moore.
Ci mostra come i computer diventano sempre più economici.
Quella linea verde, ripida, incredibile,
ci mostra come diventa repentinamente più economica la sequenza genetica.
Ora, l'editing genetico, la sintetizzazione e sequenziamento
sono discipline differenti, ma strettamente collegate.
E tutte stanno progredendo a livelli incredibili.
E le chiavi del regno sono questi piccoli, piccolissimi file di dati.
Questo è un frammento del genoma della H5N1.
Tutto il genoma può stare in poche pagine.
Non preoccupatevi, lo trovate con google quando tornerete a casa.
Trovate tutto su internet, vero?
E la parte che lo ha reso infettivo
la potete trascrivere su un post-it.
E dopo che un genio ha fatto questo file di dati
qualsiasi idiota lo può copiare,
distribuirle a livello globale
o stamparlo.
E non intendo stamparlo su questo,
ma molto presto, su questo.
Così immaginiamoci uno scenario.
Diciamo, è il 2026, una data a caso,
e un brillante virologo, nell'intento di far progredire la scienza
e meglio capire le pandemie,
progetta un nuovo virus.
Contagioso come il la varicella,
e mortale come l'ebola,
che ha un periodo di incubazione di molti mesi prima di dare segni esterni,
per cui il mondo intero potrebbe esserne infettato prima che ce se ne renda conto.
Poi l'università viene hackerata.
E ovviamente, non si tratta di fantascienza,
in effetti una recente mozione agli US
documenta la violazione di oltre 300 università.
Per cui il file con il genoma del virus si diffonde nei meandri della rete.
E una volta che il file è pubblico, non può ritornare indietro--
provate a chiederlo a chiunque abbia uno studio cinematografico o discografico.
Per cui, magari nel 2026,
serve un genio come il nostro virologo
per fare questa creatura vivente,
ma 15 anni dopo,
serve solo una stampante di DNA che si trova anche nelle scuole.
E se non è così?
Diamogli un paio di decenni.
Una divagazione:
Ricordate questa diapositiva?
Fate attenzione a queste due parole.
Se qualcuno lo prova a fare ed è solo efficace allo 0.1%,
moriranno otto milioni di persone.
2500 volte l'11 settembre.
La civiltà sopravviverebbe,
ma sarebbe inesorabilmente deturpata.
Questo significa che dobbiamo essere preoccupati di chiunque
abbia il minimo pensiero di strage,
non solo i geni.
Per cui oggi ci sono poche persone geniali
che potrebbero probabilmente creare un virus dell'apocalisse
sarebbero lo 0.1% , o forse poco più.
Sono stabili e di successo per cui non dovrebbero far parte di questo gruppo.
Per cui sarei di base d'accordo su questo.
Ma cosa succede se la tecnologia avanza
e si diffonde
e migliaia di studenti di scienze riescono a fare lo stesso?
Saranno tutti stabili mentalmente?
Oppure, se dopo alcuni anni,
ogni medico tirocinante stressato ne ha la capacità?
A qualche punto di questa visione
questi cerchi si intersecheranno,
perché coinvolgeranno di centinaia di migliaia di persone
in tutto il mondo.
Ed è stato anche recentemente aggiunto il tizio che si è vestito da Joker
e ha sparato a morte a 12 persone ad una prima di Batman.
Era un dottorando in neuroscienze
con una borsa di studio dell'Istituto di Sanità.
Ok, cambio di trama:
Credo che possiamo sopravvivere a questa evenienza se ci pensiamo ora.
E lo dico dopo aver passato un tempo infinito
ad intervistare luminari nella biologia sintetica
ed anche studiando i loro lavori per i miei Podcast scientifici.
Sono arrivato ad avere paura del loro lavoro, se non lo avete ancora capito,
(Risate)
ma ancor più, a venerare il loro potenziale.
Queste cose guariranno il cancro, cureranno l'ambiente
e fermeranno il nostro modo crudele di trattare le altre creature.
Per cui come possiamo ottenere tutto questo senza distruggerci?
Prima cosa: ci piaccia o no, la biologia sintetica è qui,
Per cui accogliamola.
Se facciamo un'interdizione alla tecnologia,
porterà solo a dare il controllo alle persone sbagliate.
A differenza dei programmi nucleari,
la biologia viene fatta in modo invisibile.
Le molteplici violazioni dei trattati sulle armi biologiche dei Sovietici,
l'hanno reso chiaro, come ogni laboratorio illegale di droghe che c'è al mondo.
Secondo, arruolate gli esperti.
Arruoliamoli e aumentiamo il loro numero.
Per ogni un milione e uno di bioingegneri che abbiamo,
almeno un milione di loro saranno dalla nostra parte.
Anche Al Capone sarebbe dalla nostra parte in questo caso.
Il livello di essere dalla parte dei buoni è molto basso.
E il vantaggio numerico è importante,
anche quando un unico cattivo può infliggere un grave danno,
perché tra le altre cose,
ci permettono di ottenere il meglio:
abbiamo anni e spero decenni per prepararci e per scongiurare.
La prima persona che proverà a fare qualcosa di terribile sarà qualcuno--
che magari non è ancora nato.
Poi, questo deve essere uno sforzo che colpisce la società,
e tutti voi dovete essere parte di questo,
perché non possiamo chiedere ad un piccolo gruppo di esperti
di essere responsabile sia di contenere che di sviluppare la biologia sintetica.
Perché lo abbiamo già provato a fare con il sistema finanziario,
e i nostri amministratori sono diventati enormemente corrotti
e hanno trovato modi per trovare scorciatoie,
e provocare enormi rischi sul resto di noi
e privatizzare i guadagni,
diventando schifosamente ricchi
e noi ci siamo trovati con un conto da 22 trilioni di dollari di debito.
E più recentemente,---
(Applausi)
Siete di quelli che hanno la lettera di ringraziamento?
Io sto ancora aspettando.
Credo che fossero tutti troppo impegnati per ringraziarmi.
E più recentemente,
la privacy online comincia a diventare un grosso problema,
e noi fondamentalmente lo abbiamo esternalizzato.
E ancora:
guadagni privatizzati, perdite distribuite.
qualcun'altro è stanco di questi modelli?
(Applausi)
Abbiamo bisogno di un modo più inclusivo per proteggere il nostro benessere,
per la nostra privacy,
e presto, per le nostre vite.
Per cui come possiamo farlo?
Quando i corpi combattono agenti patogeni,
hanno metodi ingegnosi del sistema immunitario,
che sono molto complessi e a più livelli.
Perché non fare qualcosa simile per tutto il dannato ecosistema?
Si potrebbe fare un anno di Ted Talks su questo primo critico livello.
Sono solo alcuni esempi delle grandi idee che ci sono qui fuori.
Con un po' di sforzo nella ricerca e sviluppo
si potrebbero usare i sensori primordiali dei patogeni che abbiamo
e metterli in una curva ripida di prezzi e prestazioni
che diventerebbero in poco tempo ingegnosi
e collegati
e gradualmente così diffusi come i sensori di fumo o gli smartphones.
Una nota a proposito:
i vaccini hanno molti problemi
quando si tratta di produzione e distribuzione,
ed una volta prodotti, non si possono adattare a nuove epidemie o mutazioni.
Abbiamo bisogno di bioproduzioni agili
che raggiungano ogni farmacia e magari anche le nostre case.
La tecnologia per le stampanti per medicinali e vaccini è a portata
se le diamo priorità.
Altra cosa: la salute mentale.
Molti di quelli che compiono suicidi con assassini di massa
soffrono di depressioni e sindromi post-traumatiche farmaco-resistenti.
Ci servono nobili scienziati per farlo, come il Dott. Rick Doblin,
ma ci servono anche tipacci che sono molto più numerosi
che capiscano che presto una grande tragedia ci potrebbe mettere in pericolo,
non solo alcuni.
Queste carogne si unirebbero a noi ed Al Capone
a lottare contro questa situazione.
Terzo, ognuno di noi può e deve essere come un globulo bianco
in questo sistema immunitario.
Gli assassini suicidi di massa sono spregevoli, si,
ma sono anche persone distrutte e tristi,
e chi di noi non lo è deve fare ciò che può
per assicurarsi che nessuno non sia amato.
(Applausi)
Inoltre, dobbiamo rendere la lotta a questi pericoli,
il cuore dello studio della biologia sintetica.
Ci sono società qui fuori che dicono
di lasciare il 20% del tempo dei loro ingegneri
per fare quello che vogliono.
E se quelli che assumono bioingegneri
e chi lo diventa
danno il 20% del loro tempo per costruire difese per il bene comune?
Non è una brutta idea, vero?
(Applausi)
Per ultimo: non sarà divertente.
Ma dobbiamo fare entrare le nostre menti in posti molto bui,
e grazie per esservi lasciati portare da me oggi in questi posti.
Siamo sopravvissuti alla guerra fredda
perché ognuno di noi aveva capito e rispettato il pericolo,
parzialmente perché avevamo passato decenni
a raccontarci storie terribili di fantasmi
con nomi come "Dott. Stranamore"
e "War Games"
Ora non possiamo rimanere calmi.
È uno dei rari momenti in cui si diventa incredibilmente produttivi
a dare di matto--
(Risate)
per trovare alcune storie di fantasmi
e usare la paura come carburante per combattere questo pericolo.
Perché, tutti questi scenari terribili che vi ho rappresentato--
non sono il nostro destino.
sono possibili.
E il pericolo è ancora abbastanza lontano.
E quindi dipende solo da noi
se lo vogliamo realizzare.
Non facciamolo.
Grazie molte per avermi ascoltato.
(Applausi)
世界には約75億人の人間がいます
世界保健機関によると 3 億人がうつを患っていて
毎年約80万人が自らの命を絶つそうです
そのうちほんの一部の人たちは
できる限り多くの人を殺して命を絶つという とても虚無的な道を選びます
これは良く知られている最近の事例です
こちらはあまり知られていない事例で ９週間ほど前に起きました
覚えていないとしたら
同じようなことが 沢山起きているからでしょう
ウィキペディアによると 昨年 私の母国 アメリカ国内で
323件の銃乱射事件が起こりました
銃撃犯が皆 自殺的であった わけではないし
皆が死者数を最大化しようとした わけでもありません
でも大半はそうでした
ここで重要な疑問がわきます 彼らを制限するものは何でしょう
ラスベガス銃撃犯を 例に取りましょう
彼は58人を虐殺しました
殺すのをやめたのは もう十分だと思ったからでしょうか
違います その証拠に さらに422人を撃って負傷させており
本当は殺害したかったことでしょう
4200人でやめただろうと 考える根拠もありません
実際これだけ虚無的な人であれば 喜んで人類を皆殺しにしたかもしれません
私たちにはわかりません
しかし わかることもあります
自殺念慮を持つ殺人者が 全力を出したら
科学技術は増幅装置としての役割を 果たすということです
一例をあげましょう
数年前 中国で10件の学校襲撃事件が 続いて起こりました
中国で銃を手に入れるのは難しいので
ナイフやハンマー、包丁などが 用いられました
気味の悪い偶然ですが 最後の襲撃が起きたのは
コネチカット州ニュータウンでの大量殺人の ほんの数時間前で
そのアメリカの襲撃事件 一件の犠牲者数は
中国の襲撃事件10件を合わせたのと 同じくらいだったのです
こう言えるでしょう ナイフは恐ろしいが 銃ははるかに酷く
飛行機は さらにとてつもなく酷いと
操縦士のアンドレアス・ルビッツが
149人を自殺の道連れにし
フランス・アルプスに飛行機を 墜落させた件が示すようにです
同じような例は他にもあります
そして 飛行機よりも凶悪な武器が 近い将来に現れることを恐れています
金属製ではないあるものです
ではここで 基本的には社会に限りない 可能性を提供する 急発展中の学問を
自殺的な大量殺人犯が利用した際に起こる
世界が滅亡に向かう展開を考えてみましょう
この世のどこかのほんの一部の人々は
いかなる方法であれ やり方さえわかれば
私たちを皆殺しにしようとすることでしょう
ラスベガス銃撃犯がその一人だったかは わかりませんが
75億の人間が存在するからには
そういう人はゼロではないでしょう
自殺念慮を持つ虚無主義者はたくさんいて
そのことは既に見てきました
自身でも制御できない気分障害を持つ人々
精神的混乱を伴うトラウマに 苦められたばかりの人々が沢山います
人類を皆殺しにできるような人は
冷戦前までは皆無でしたが
冷戦下の２つの同盟のリーダーが
世界を吹き飛ばす力を 突如手に入れました
人類を滅亡させるボタンを持つ人の数は
その後あまり変わっていませんが
この人数がもっと増えるのを 私は恐れています
２人から３人になるというのでなく
このグラフは急成長するでしょう
テクノロジー企業の ビジネスプランのように
（笑）
その理由は
私たちがいるのは 指数関数的に進歩する科学技術の時代であり
ずっと不可能だったことを
少数の天才の スーパーパワーが実現し
さらに重要なことに
その力が万人に広められる そういう時代だからです
無害な例を挙げましょう
1952年にコンピューターで チェッカーをやりたければ
この写真の人物になり
世界に19台しかなかった あのコンピューターを手に入れ
ノーベル賞級の頭脳で それにチェッカーを教えねばなりませんでした
それがハードルだったのです
今では知り合いの知り合いが 電話を持ってさえいれば十分です
コンピューティングは 指数関数的に進歩する技術だからです
合成生物学もそれは同じです
2011年に数名の研究者が
チェッカーのプログラムとあらゆる点で 同じくらい巧妙で前例のないことを
H5N1亜型インフルエンザを 用いて成し遂げました
H5N1は 感染した人の 最悪60%が死に至るという
エボラよりも高い致死率のウイルスですが
伝染性はとても低いため
2015年以降の死者は50人以下です
そこで研究者らはH5N1のゲノムを編集し
以前と同様に非常に致命的ながら ずっと伝染性の高いものを作りました
世界２大科学雑誌の１つの ニュース部門は
もしこのウイルスが広まったら
何百万人もの死者が出る 世界的流行が起こるだろうと述べました
ポール・カイム博士は
「これほど恐ろしい生物は 考えられない」と述べています
米国バイオセキュリティ 科学諮問委員会議長の口から
最も聞きたくない言葉です
博士はこうも言っています
「炭疽菌はこれに比べると 全く恐ろしくないと思う」
炭疽菌の専門家ですからね 彼は
（笑）
この2011年のバイオハッキングに関する 嬉しい知らせは
実行者たちに 他人に害をなす考えは 少しもなかったことです
彼らはウイルス学者で
科学の進歩に貢献していると考えていました
悪い知らせは 技術はその場にとどまらないことで
今後数十年のうちに
彼らのしたことは いとも簡単に 行えるようになるでしょう
実際に 昨日の朝に聞いたように
その後２年でずっと簡単になっているのです
CRISPRシステムによる ゲノム編集です
これはゲノム編集を格段に簡単にする
画期的な突破口となりました
とても簡単で 今では高校で CRISPRを教えているくらいです
そしてこの技術はコンピューティングよりも 早く進歩を遂げています
上に見える のろのろした退屈な 白い線は何でしょう
ムーアの法則です
コンピューティングのコストが 下がる速さを示しています
あの急で むちゃくちゃ楽しい緑の線は
DNA解読のコストが 下がる速さを示しています
そして遺伝子編集、合成 塩基配列の解読は異なる技術ですが
互いにとても関連していて
すべて猛烈な速さで進展しています
そして世界を滅ぼす力への鍵は このちっぽけなデータファイルです
これはH5N1のゲノムを抜粋したものです
数ページにすべてが収まります
メモしなくて大丈夫ですよ ググればすぐ見つかりますから
ネット上の至る所にあります
そして伝染性を高めた部分は
一枚の付箋に収まります
天才がデータファイルを一度作ったら
どんな馬鹿者でもコピーしたり
世界中に広めたり
印刷したりできます
これ（紙）に印刷というだけではありません
近い将来はこちら（DNA）にも 印刷できるようになります
シナリオを想定してみましょう
適当に 2026年ということにしますが
有能なウイルス学者が 科学を発展させ
病気の大流行について 知識を深めようと
新たなウイルスを設計します
水痘のように高い伝染力を持ち
エボラ出血熱のように致命的で
潜伏期間が何か月もあるため
問題の兆候が現れる前に 世界中の人々に感染が広まります
その後 ウイルス学者の大学が ハッキングされます
これはSFではなく
実際に 最近のアメリカの ある起訴状には
300以上の大学への ハッキングが記されています
ウイルスのゲノムが保存されたファイルが インターネットの闇の世界に広まります
情報ファイルが一度世の中に出たら 二度と収拾がつきません
映画会社やレコード会社をやっている人に 尋ねてみればわかります
たぶん2026年には
合成生物を生み出すには
くだんのウイルス学者のような 天才が必要でしょうが
15年後に必要なのは
どこの高校にもある DNAプリンターだけかもしれません
15年で実現しなくとも
何十年か経てばそうなるでしょう
少し余談です
こちらのスライドを覚えていますか
この言葉に注目してください ［もしかしたら］
もし誰かが人類殲滅を試みて 0.1％の効果しか発揮できなかったとしても
800万人の死者が出ます
アメリカ同時多発テロ 2500回分です
文明は生き延びるでしょうが
損害は永久的でしょう
ここで私たちが心配すべきは
天才だけではなく
目的を多少とも達成できそうな すべての人です
現在 人類の0.1%でも 殺せるような
殺人ウイルスを作れるのは
ほんの一握りの天才です
大抵の場合 彼らは精神的に安定した 社会的成功者なので 大量殺戮者予備軍ではなく
これについて私は かろうじて大丈夫かな という感じです
しかし技術が進歩し
拡散して
何千という生命科学の大学院生が この能力を得た後はどうでしょうか
その一人一人が皆 精神的に まったく安定しているでしょうか？
もしくはその数年後
ストレスだらけの医学部予科の学生が みんなその能力を持った時は？
どこかの時点で
これらの円は交わるでしょう
なぜなら対象となる人は
世界中の何十万人にも及ぶからです
この集団に最近加わったのは バットマンのプレミア上映会で
ジョーカーのような恰好をして 12人を撃ち殺した男です
神経科学の博士課程学生で
国立衛生研究所の助成を 受けていました
ここで どんでん返しです
今から注目し始めれば お話ししたような 危険は生き延びられると思います
科学ポッドキャスト制作のために 多くの時間を費やして
世界中の合成生物学の先駆者にインタビューし その研究について調査をした上で
そう言っているのです
彼らの研究には恐怖を覚えました まだ伝わってなかったかもしれませんが―
（笑）
でもそれ以上に 合成生物学の可能性に 打たれました
がんを完治させたり 環境を癒したり
生き物の残酷な扱いを 終わらせたりできるのです
人類を全滅させずにそれを達成するには どうすればよいのでしょうか
まず第一に 好きか嫌いかに関わらず 合成生物学は実在します
技術を受け入れましょう
技術の禁止は
舵を悪者たちの手に渡してしまうだけです
核開発とは違い
生物学は見えないところで 行えます
ソ連の 大々的な生物兵器禁止条約違反が その証拠になるし
世界中にある 違法な麻薬製造所も同様です
第二に 専門家を仲間に入れましょう
登録申請をさせ 数も増やしましょう
100万と１人の生物工学研究者がいたら
少なくとも100万人は こちらの味方にしましょう
アル・カポネだって この件では 私たちの味方に付くはずです
ここで「いいやつ」になる条件は それほど低いのです
大きな数的優位は重要です
たった一人の悪者に重大な危害が 与えられるとしても
理由は沢山ありますが
時間的優位を最大限に活用できるからです
準備と予防のため使える時間が 数年 うまくいけば数十年あります
酷いことを試す最初の人間は きっと現れるでしょうが
まだ生まれてすら いないかもしれません
次に社会全体に及ぶ努力が必要で
みんなが加わらなければいけません
なぜなら数少ない専門家らに
合成生物学の統制と活用の両方の責任を 任せるわけにはいかないからです
金融システムでこの方法を試しましたが
私たちの世話役は とてつもなく不道徳になり
抜け道を見つけ
他の人たちに 莫大なリスクを負わせ
利益を私物化し
胸くそ悪くなるほど 裕福になる一方で
22兆ドルの請求書を 私たちに押し付けたのです
より最近には ―
（拍手）
皆さん礼状はもらいましたか？
私はまだです
彼らは感謝する暇もないくらい 忙しいのでしょう
より最近には
オンラインプライバシーが 大きな問題となってきました
私たちはプライバシーを 他人任せにし
ここでも同じように
利益の私物化と社会損失が起きました
このパターンにうんざりしているのは 私だけでしょうか？
（拍手）
私たちの豊かさや プライバシーや
近い将来には命を守るために
もっと排他的でない方法が必要です
どうすればできるでしょう？
人体が病原体と戦う際
巧妙な免疫システムを使います
とても複雑で多層的なものです
同様の仕組みを生態系全体に対して 作ってはどうでしょう
第一の「医学」層については 一年分のTEDトークができるでしょう
以下は沢山ある素晴らしい考えの ほんの一握りです
研究開発機関が
今ある原始的な病原体センサー技術を
急な価格性能曲線に乗せることで
すぐにでも 巧妙で
ネットに繋がったものへと変え
煙感知器やスマートフォンと 同じくらい広まるでしょう
とても関連の深い話として
ワクチンには 製造や配給に関して
様々な問題があります
一度作られたら 新たな脅威や変異に 適用することはできません
そこで敏速なバイオ製造の基盤を
個々の薬局や 家庭にまで 普及させる必要があります
ワクチンと薬の印刷技術は
優先さえすれば すぐ実現できるところまできています
次にメンタルヘルスです
自殺的な大量殺人事件を起こす人の多くは
生活に支障をきたす治療抵抗性のうつや PTSDに苦しんでいます
リック・ドブリンのような気高い研究者が この問題に取り組むことが必要ですが
格段に数の多い 利己的な くそ野郎どもにも
当事者の切迫した苦しみは 追々 私たち皆を危険にさらすという事実を
認識してもらう必要があります
くそ野郎どもも 私たちやアル・カポネと一緒に
精神障害との戦いに 加わることでしょう
第三に この免疫システムにおいては 私たちの一人一人に
白血球になる可能性と 必要性があります
自殺的な大量殺人犯は 卑劣であるかもしれませんが
彼らは同時に 失意と悲しみにあふれた人々で
そうでない我々は 愛されぬ者が誰もいなくなるよう
全力を尽くさなければいけません
（拍手）
次に このような危険との戦いを
合成生物学の分野の核に 位置づける必要があります
企業の中には
雇用している技術者に
20%の時間を好きに使わせている ところがあります
もし生物工学の技術者を雇用する企業が
そのような企業になり
20％の時間を公益を守るための開発に 使うようにしたらどうでしょう
悪い考えではないですよね
（拍手）
そして最後です 楽しい話題ではありませんが
とても暗い場所にも 考えをめぐらす必要があります
今夜はそこに皆さんをお連れでき 幸いです
私たちは冷戦を生き延びました
理由は一人一人が危険を 理解し重んじたからです
その一因には 何十年もの間
「博士の異常な愛情」や
「ウォー・ゲーム」のような 恐ろしい物語を
言い聞かせてきたことがあります
落ち着いている場合ではありません
取り乱すのが生産的である
まれな状況の一つです
（笑）
恐ろしい物語を作り出して
恐れを 危険と戦うための 原動力にしましょう
なぜなら私がお話しした 恐ろしいシナリオは
宿命ではないからです
選択することができます
危険はどちらかと言えば まだ遠くにあります
危険が私たちを襲えるのは
私たちがそれを許した時だけです
そうさせないようにしましょう
ご清聴ありがとうございました
（拍手）
우리 인류는 약 75억 명에 달합니다.
세계보건기구(WHO)의 발표에 따르면 3억 명이 우울증을 앓고 있고
매년 80만 명이 자살한다고 합니다.
그리고 그들 중 극히 일부는 굉장히 허무주의적인 방법을 택합니다.
가능한 한 많은 사람을 죽이면서 자신의 목숨을 끊는 것입니다.
여기 몇 가지 유명한 사례가 있습니다.
그리고 덜 알려진 사례도 있죠. 약 9주 전에 발생한 사건입니다.
이 사건을 기억하지 못하신다면
그건 수많은 일들이 벌어지고 있기 때문입니다.
위키피디아에 기록된 총기난사 사건은 작년만 해도 323건에 달합니다.
제 고향인 미국에서만 말이죠.
모든 범인들이 자살을 하지는 않았고
그들 모두가 사망자 수를 최대한 높이지는 않았습니다.
하지만 수많은 사망자가 있었어요.
그런데 한 가지 중요한 의문점은 이들이 가진 한계가 무엇이냐는 겁니다.
라스베가스 총기난사범을 살펴보죠.
그는 58명을 사살했습니다.
그걸로 충분하다 여겨서 멈춘 걸까요?
아닙니다, 그의 총기난사로 또 다른 422명이 상해를 입었고
범인은 분명 이들을 사살할 작정이었을 겁니다.
그가 4,200명에서 멈췄을 거라고 생각할 필요도 없습니다.
사실, 그는 다른 허무주의자들과 함께 기꺼이 우리 모두를 죽였을 테니까요.
우린 모릅니다.
우리가 알 수 있는 건
자살 충동을 느끼는 살인범이 그것에 올인하게 되면
과학기술이 그 힘을 배가시킵니다.
예를 들어보죠.
몇 년 전, 중국에서는 10건의 학교 공격 사건들이 있었고
이는 칼, 망치 그리고 식칼 같은 도구에 의해 이뤄졌습니다.
왜냐하면 총을 구하기가 정말 어렵기 때문이죠.
무시무시한 우연의 일치로, 가장 최근의 공격 사건은
코네티컷 주 뉴타운 대학살이 있기 단지 몇 시간 전에 발생했습니다.
그러나 미국에서 발생한 한 건의 희생자 수는
중국에서 벌어진 10건의 희생자 수를 합친 것과 같습니다.
따라서 우린 분명히 말할 수 있죠. 칼은 끔찍하고, 총은 더 끔찍하다고요.
그리고 비행기는 훨씬 더 끔찍합니다.
조종사인 안드레아스 루비츠는
자신의 자살 길에 149명의 승객을 끌어들이고자
비행기를 알프스 산맥에 충돌시켰습니다.
이런 사건은 또 있었죠.
가까운 미래에는 항공기보다 훨씬 치명적인 무기가 나올까봐 염려됩니다.
그것도 금속이 아닌 무기 말이죠.
그렇다면 종말론의 원동력에 대해 생각해보죠.
그 동력은 자살을 위한 대량학살이 사회 전반에서 급속히 발전하는 분야에
편승할 때 일어나게 될 것입니다.
세상 어딘가에는
부적절한 시도를 꾀하는 극소수의 집단이 있습니다.
그글은 방법만 찾아낸다면 우리 인류를 몰살시키려 할 것입니다.
라스베가스 총기범도 그중 하나일 수도, 아닐 수도 있지만
75억 명의 인류 중에
그런 사람이 없지는 않겠죠.
자살성 허무주의자들은 곳곳에 많이 있습니다.
우린 이미 그들을 목격해 왔죠.
스스로 조절할 수 없는 심각한 감정 장애를 가진 사람들이 있습니다.
단지 사람을 미치게 하는 트라우마 외에 다양하게 고통을 받는 사람들이 있죠.
그런 이들에 관해
냉전체제 전까진 그런 집단은 존재하지도 않았습니다.
갑자기, 두 국제동맹의 지도자들이
세계를 날려버릴 능력을 얻게 됐죠.
최후 심판의 버튼을 가진 실질적인 사람들의 수는
그 이후로 상당히 안정적이었습니다.
저는 그 숫자가 늘어날까 걱정됩니다.
단지 세 명이 아니라
차트를 뚫고 나갈 정도로 말이죠.
테크 사업 계획서처럼 보일 수도 있겠네요.
(웃음)
그 이유는
우리가 살고 있는 급변하는 과학기술 시대에는
언제나 전혀 불가능한 것들로부터
한둘의 살아있는 천재들이 실제 슈퍼파워를 만들어 냅니다.
그리고 가장 중요한 부분은
그 능력을 거의 모든 사람들에게 널리 퍼뜨리죠.
여기 좋은 예가 있습니다.
만약 여러분이 1952년에 컴퓨터와 체커 게임을 하고 싶다면
말 그대로 저 사람이 되어야 합니다.
그다음엔 세계에 19대 밖에 없는 저 컴퓨터 중 하나를 구해서
여러분의 노벨에 가까운 두뇌로 체커를 가르쳐야 했을 것입니다.
넘지 못할 장애물이죠.
오늘날에는 그저 전화기를 가진 그 누군가를 알기만 하면 됩니다.
컴퓨터 기술이 기하급수적으로 발전하기 때문입니다.
합성 생물학도 마찬가지입니다.
이제부터 "합성바이오"라 부를게요.
2011년, 두 명의 연구원이 정말 독창적인 일을 진행했습니다.
H5N1 독감 바이러스로 체커 게임 같은 전례 없는 일을 진행했던 거죠.
이 바이러스는 감염자의 60%가 사망에 이릅니다.
에볼라보다 많죠.
그러나 전염성이 없어서
2015년 이래로 50명 미만의 사상자를 냈습니다.
그래서 이들 연구진은 H5N1의 유전자를 조작하여
치명적일 뿐만 아니라 큰 전염성을 갖도록 만들었습니다.
세계 2대 과학 저널의 한 소식통은
이것이 세상에 나가게 되면 아마도
수 백만의 사망자를 낼 것으로 전했죠.
그리고 폴 케임 박사가 말했습니다.
이것만큼 무서운 생명체는 꿈도 꿀 수 없을 거라고요.
이는 제가 바이오 안전 관련 국립과학자문위원회 의장으로부터
개인적으로 듣고 싶은 마지막 사항입니다.
케임 박사는 이런 말도 했습니다.
["난 이것에 비하면 탄저병도 전혀 무섭지 않다고 생각한다."]
그런데 그도 이런 사람입니다. [탄저병 전문가]
(웃음)
이제, 2011년에 바이오 해킹에 관한 좋은 소식은
그 일을 하는 사람들은 인간에게 해를 입힐 생각이 없다는 겁니다.
바이러스학자인 그들은
과학을 발전시키고 있었다고 믿고 있었습니다.
나쁜 소식은 기술이 그 자리에 멈추지 않는다는 겁니다.
그리고 앞으로 수십 년간
그들은 보다 쉽게 업적을 거두게 될 것입니다.
사실, 이미 훨씬 더 쉬워졌습니다.
왜냐하면 어제 아침에 배웠던 것처럼
그들의 업적 이후, 단 2년만에
CRISPR 시스템이 유전자 편집에 적용되었습니다.
이것은 급진적인 변화였습니다.
유전자 조직을 훨씬 쉽게 만들었고
너무 간단해서 이젠 CRISPR 기술을 고등학교에서도 가르질 정도니까요.
그리고 이 물건은 컴퓨터보다 더 빨리 움직입니다.
저 느리고, 지루한 하얀 선있죠?
무어의 법칙입니다.
이것은 컴퓨터가 얼마나 빨리 저렴해지는지를 보여주죠.
저 가파르고, 엄청 재미진 녹색 선은
유전자 서열 분석이 얼마나 빨리 저렴해지는지 보여줍니다.
이제, 유전자 조작 및 서열 분석은
서로 다른 분야이지만 긴밀하게 관련되어 있습니다.
그리고 그 모두가 긴장된 속도로 움직이고 있죠.
그리고 이 왕국의 열쇠는 작고 작은 데이터 파일에 있습니다.
이것은 H5N1 바이러스 유전자의 일부입니다.
전체 내용은 그저 종이 몇 장에 담을 수 있죠.
걱정마세요. 집에 가셔서 구글에서 검색해보면 됩니다.
인터넷에 다 나와 있어요, 맞죠?
전염시킬 수 있도록 하는 부분은
포스트잇 노트 한 장에 딱 들어갈 정도입니다.
한 천재가 일단 데이터 파일을 만들면
어느 바보라도 그걸 복사해서
세상에 널리 퍼뜨리거나
출력할 수 있습니다.
그저 여기 출력하는 걸 의미하는 게 아니라
매우 근시일에는 이렇게 가능할 겁니다.
그럼 시나리오 하나를 상상해보죠.
2026년이라고 치죠. 임의로 그렇게 골라봅시다.
과학 발전을 꿈꾸는 한 훌륭한 바이러스 학자가
전염병을 더 잘 이해한 뒤에
신종 세균을 설계합니다.
수두만큼 전염성이 있고,
에볼라만큼 치명적이며,
발병까지 수 개월의 잠복기를 거친 뒤에
최초의 문제 징후가 나타나기도 전에 온 세상이 감염될 수 있습니다.
그러면, 그녀의 대학교는 해킹을 당하겠죠.
물론, 이건 과학 공상물이 아닙니다.
살제로 최근 미국에서 고발된 사례에서는
300개가 넘는 대학들이 해킹된 것으로 기록되어 있습니다.
따라서 그 세균의 유전자 파일이 인터넷의 어두운 구석들로 퍼지는 거죠.
그러면 파일이 유출되는 순간, 절대 돌아올 수 없습니다.
주변에 영화사나 음반회사를 경영하는 아무한테나 물어보세요.
이제 아마도 2026년에는
우리 바이러스 학자와 같은 진정한 천재가
실제 살아있는 동물을 만들 겁니다.
그러나 15년 후에는
어느 고등학교에서나 볼 수 있는 유전자 프린터로 만들 수 있을 겁니다.
만약 그렇지 않으면요?
수십 년 정도 더 두고 보세요.
그래서, 하나 덧붙이자면..
이 슬라이드 기억하시죠?
여기 두 글자에 집중해보세요.
만약 누군가 이것을 시도해서 0.1%라도 효과를 낸다면
800만 명의 사람들이 죽습니다.
911테러 사건의 사망자가 2,500명이죠.
문명은 살아남겠지만
영원히 큰 피해를 입을 겁니다.
따라서 우리가 걱정해야 할 대상은 조금이라도 목적을 이루는 사람이에요.
천재들이 아니고 말이죠.
그래서 오늘날,
세상을 멸망시킬 세균을 만들 수 있는 극소수의 천재들이 있을지도 모릅니다.
그 세균이 0.1%라도 효과가 있거나 어쩌면 심지어 더 많을 수도 있지요.
안정적이고 성공적인 경향의 그들은 이 집단에 속하지 않습니다.
그래서 가까스로 안심할 수도 있을 거라 생각할 수도 있겠죠.
그러나 과학 기술이 발전하고
널리 확산된 후
수천 명의 생명과학 대학원생들이 이룰 수 있는 것에 대한 것은요?
그들 모두가 완벽하게 안정적일까요?
아니면 몇 년 후애
스트레스에 시달린 의대생들은 언제 온전히 가능해질까요?
그 시간대의 어떤 시점에서
이들 집합이 교차할 것입니다.
왜냐하면 우린 이제서야
전 세계 수십만 명의 사람들에 대해 이야기하기 시작했기 때문이죠.
그리고 거기에는 최근에 조커처럼 옷을 입은 어느 사내가
배트맨 프리미어에서 12명을 사살한 경우도 포함됩니다.
그는 미국국립보건원의 신경과학 박사과정 학생이었습니다.
좋아요, 내용을 좀 바꿔보죠.
만약 우리가 지금 이 문제에 집중하면 실제로 살아남을 수 있다고 생각해요.
즉, 합성바이오 업계의 글로벌 리더들을 대상으로
수많은 시간을 인터뷰하고
제가 만든 과학 팟캐스트를 위해 그들의 연구를 조사하는 겁니다.
저는 그들의 연구에 두려움을 가졌어요. 공개적으로 밝히진 않았지만요.
(웃음)
하지만 그보다 더한 건, 잠재성을 숭배하는 데 있습니다.
이것은 암을 치료하고, 우리 환경을 개선하며,
잔인한 치료법을 멈출 것입니다.
그렇다면 우리 스스로를 전멸시키지 않고 어떻게 이 모든 이점을 얻을까요?
첫째, 좋든 싫든 간에 합성바이오는 존재합니다.
과학 기술을 감싸보도록 하죠.
만약 우리가 과학기술을 금지한다면
그것은 오직 나쁜 사람들에게 운전대를 넘겨주는 격이 됩니다.
핵 문제와는 달리
생물학은 보이지 않게 시행될 수 있죠.
거대 소련 연방이 화학무기 조약을 어긴 것이나
전 세계 모든 불법 약물 연구소가 하는 일만 봐도 알 수 있습니다.
두 번째, 전문가들을 모으는 겁니다.
그들을 등록시키고, 수를 늘리는 겁니다.
백만 명과 한 명의 생명 공학자들이 있다면
적어도 백만 명은 우리 편이 될 것입니다.
제 말은, 알 카포네가 우리 편에 설 거라는 겁니다.
좋은 사람이 되기란 정말 쉽습니다.
수적으로 많은 이득을 얻는 것이 중요합니다.
단 한 명의 악인이 많은 피해를 입힐 수 있다면
여러가지 이유가 있을 수 있겠지만
이 코드를 악용할 가능성이 있기 때문입니다.
사전준비와 예방을 위해서는 수 년 또는 수십 년이 필요합니다.
첫 번째 사람이 끔찍한 걸 하려 하고 다음엔 또 다른 사람이 나타날 거예요.
아마 태어나지도 않았을지 모르죠.
다음으로, 사회 전체로 확산하기 위한 노력이 필요합니다.
여러분 모두의 참여가 필요하죠.
왜냐하면 우린 그 소수의 전문가들에게
합성생물학의 활용과 악용에 대해 책임지도록 할 수 없습니다.
왜냐하면 우린 이미 금융 시스템에 그런 시도를 한 적이 있었지만
관리자들이 엄청나게 부패하여
절차와 원칙들을 무시하기 시작했으며
다른 사람들에게 엄청난 위험을 가하고
이익을 사유화하여
엄청난 부를 누렸습니다.
우리에게 22조 달러를 떠념기면서 말이죠.
그리고 최근엔 더 있어요.
(박수)
그들로부터 감사 편지를 받아본 적 있나요?
전 아직 없습니다만..
전 그저 그들이 고마워하기엔 너무 바쁜 분들이란 걸 깨달았죠.
그리고 최근엔 훨씬 더 많아요.
온라인 개인정보 보호가 심각한 문제로 뜨기 시작했죠.
우린 이걸 기본적으로 아웃소싱해요.
그리고 다시 한번
이익을 사유화되고, 손실은 사회로 돌아갔죠.
이런 패턴에 이제 질리지 않나요?
(박수)
따라서 보다 포괄적인 방법이 필요합니다.
우리의 번영을 보호하고
개인정보와 더 나아가 우리의 삶을 보호하기 위해서요
그럼 어떻게 이 모든 걸 해낼 수 있을까요?
우리 몸이 병균과 싸울 땐
독창적인 면역체계를 사용합니다.
굉장히 복잡하고 다각화된 구조죠.
이 망할 생태계 환경을 위해서 그런 구조를 만드는 건 어떨까요?
1년 간의 TED talks를 첫 번째 중요한 계층에 둘 수 있습니다.
이들은 그저 수많은 뛰어난 아이디어 중 몇몇 개뿐이죠.
몇몇의 연구개발 근육은
현재 우리가 가진 원시적인 병원균 센서를 이용해
매우 가파른 가격성능 곡선을 따라 발전시켜
신속하게 독창적 형태로 만들고
네트워크화함으로써
점차 연기 감지기 및 스마트폰만큼 널리 보급할 수 있습니다.
이와 밀접하게 연관된 보고에 따르면
백신에는 여러가지 문제점이 있습니다.
백신을 제조 및 보급 과정에서
일단 만들어진 백신은 새로운 위협이나 돌연변이에는 적응하지 못합니다.
우리에게는 민첩한 바이오 제조 기지가 필요합니다.
모든 약국 및 심지어 각 가정에까지 확장 가능해야 하죠.
백신 및 의약품을 위한 프린터 기술은
우선순위를 정하면 쉽게 이용할 수 있습니다.
다음은, 정신 건강입니다.
자살형 대량살상을 저지르는 사람들은
부상, 치료저항성 우울증 또는 PTSD로부터 고통받습니다.
우린 릭 도블린과 같은 진정한 연구자들이 필요합니다.
하지만 훨씬 더 많은 이기적인 녀석들도 필요합니다.
그들은 극심한 고통이 우리 모두에게도 위험이 될 거란 사실을 압니다.
고통받는 당사자뿐만 아니고요.
그 녀석들은 우리와 알 카포네에 합류하여
이 상황을 함께 싸워나갈 겁니다.
셋째, 우리 모두는 이 면역체계의 백혈구가 될 수도 있습니다.
아니 그렇게 되어야만 합니다.
자살성 대량학살범들은 분명 비열합니다.
그러나 그들 또한 끔찍하게 상처받고 슬픔에 빠진 사람들입니다.
그렇지 않은 사람이 있다면 그들이 해야 할 일은
누구나 사랑받아야 함을 알리는 것입니다.
(박수)
다음으로, 이 위험요인들에 맞서는 것을
합성생물학의 훈련이 되도록 해야 합니다.
어떤 회사들은 이런 규정을 두기도 합니다.
자사의 엔지니어들에게 근무시간의 20%는
자신이 원하는 걸 할 수 있게 해주죠.
만약 생물공학자들을 고용한 사람들이
그처럼 되어
근무시간 20%는 좋은 목적의 방어책을 만드는 데 쓰게 한다면요?
나쁘지 않죠, 그렇죠?
(박수)
마지막으로, 이건 재밌지 않을 겁니다.
그러나 우린 우리의 생각을 아주 어두운 곳으로 데려갈 필요가 있어요.
오늘 저녁 그곳으로 여러분을 데려갈 수 있도록 허락해주셔서 감사드립니다.
우린 냉전 체제에서 살아남았습니다.
왜냐하면 우리들은 위험을 이해하고 인정했기 때문입니다.
부분적으론, 우린 수십 년간 스스로에게 끔찍한 유령이야기를 해왔기 때문입니다.
"닥터 스트레인지러브"나
"워 게임" 같은 이야기 말이죠.
침착할 시간이 없습니다.
바로 지금이야말로 바짝 겁 먹는 게 오히려 나아요.
(웃음)
무서운 이야기를 만들고
그 두려움을 동력으로 위험에 맞서야 합니다.
왜냐하면, 이 모든 끔찍한 시나리오들이
운명이 아니기 때문입니다.
그것은 우리의 선택입니다.
위험은 여전히 도사리고 있습니다.
그대로 내버려둔다면 우리에게 위험이 닥칠 것입니다.
그렇게 두지 맙시다.
들어주셔서 매우 감사합니다.
(박수)
We zijn met ongeveer zeven en een half miljard mensen.
De Wereldgezondheidsorganisatie zegt
dat er 300 miljoen depressieve mensen zijn
en ongeveer 800.000 mensen per jaar een einde aan hun leven maken.
Een klein deel ervan kiest voor een diep nihilistische route,
waarbij ze zoveel mogelijk mensen met zich de dood in slepen.
Dit zijn enkele beroemde recente voorbeelden.
Hier een minder bekend voorbeeld van ongeveer negen weken geleden.
Als je het niet meer weet,
komt dat omdat het zo vaak gebeurt.
Wikipedia telde vorig jaar 323 massaschietpartijen
in mijn eigen land, de Verenigde Staten.
Niet alle schutters waren suïcidaal
en ook wilden ze niet allemaal het dodental maximaliseren,
maar veel van hen wilden dat wel.
Een belangrijke vraag is: welke grenzen hebben deze mensen?
Neem de Vegasschutter.
Hij slachtte 58 mensen af.
Stopte hij omdat het er genoeg waren?
Nee, en we weten dit omdat hij nog 422 andere mensen neerschoot en verwondde;
mensen die hij zeker had willen doden.
Er is geen reden om te denken dat hij bij 4200 zou zijn gestopt.
In feite zou iemand zo nihilistisch als hij
ons allemaal wel hebben willen vermoorden.
We weten het niet.
Wat we wel weten is dit:
wanneer suïcidale moordenaars ervoor gaan,
vermenigvuldigt technologie hun kunnen.
Hier een voorbeeld.
Enkele jaren terug was er was er een vlaag van 10 massa-aanslagen in scholen in China
met dingen als messen, hamers en hakbijlen,
want wapens zijn daar echt moeilijk te vinden.
Door macaber toeval gebeurde de laatste aanval
slechts enkele uren voor het bloedbad in Newtown, Connecticut.
Maar bij die Amerikaanse aanval vielen ongeveer evenveel slachtoffers
als bij de 10 Chinese aanvallen tezamen.
Dus kunnen we wel zeggen: mes erg; geweer veel erger.
En vliegtuig: enorm veel erger,
zoals piloot Andreas Lubitz aantoonde
toen hij 149 mensen meenam in zijn zelfmoord
door zijn vliegtuig te laten crashen in de Franse Alpen.
En er zijn nog andere voorbeelden van.
Ik ben bang dat er veel dodelijker wapens in onze nabije toekomst zullen zijn
dan vliegtuigen, maar niet gemaakt van metaal.
Laten we eens kijken
naar de apocalyptische dynamiek die zal voortvloeien
als suïcidale massamoord gecombineerd wordt
met een zich snel ontwikkelend veld
dat vooral grenzeloze beloften inhoudt voor de samenleving.
Ergens in de wereld zijn er mensen
die ons, hoe amateuristisch ook,
allemaal zouden vermoorden als ze maar wisten hoe.
De Vegasschutter hoorde daar misschien niet bij,
maar tussen onze zeven en een half miljard
zijn er zeker zulke mensen.
Er zijn heel veel suïcidale nihilisten.
Dat zijn we al tegengekomen.
Er zijn mensen met stemmingsstoornissen die ze niet eens kunnen beheersen.
Mensen die net ontsporende trauma's hebben meegemaakt, enzovoorts.
De omvang van de daarvan afgeleide groep
was altijd gewoon nul tot aan de Koude Oorlog,
toen plots de leiders van de twee wereldwijde allianties
het vermogen kregen om de hele wereld op te blazen.
Het aantal mensen met de vingers aan de eindtijdknoppen
is sindsdien tamelijk stabiel gebleven.
Maar ik ben bang dat het gaat toenemen,
en niet alleen maar tot drie.
Dit gaat de pan uitrijzen.
Ik bedoel dat het zal gaan lijken op een tech-businessplan.
(Gelach)
En de reden is dat we leven
in het tijdperk van exponentiële technologieën,
die routinematig aanpakken wat eerder niet lukte
en ze tot werkelijke superkrachten van één of twee levende genieën maken
en -- nu komt het --
ze vervolgens verspreiden naar zo goed als iedereen.
Hier is een goedaardig voorbeeld.
Als je in 1952 wilde dammen met een computer,
moest je letterlijk die kerel zijn,
een van 's werelds 19 kopieën van die computer bestellen
en dan je Nobel-achtige hersenen gebruiken om hem te leren dammen.
Zo hoog lag de lat.
Vandaag hoef je alleen maar iemand te kennen met een telefoon,
omdat computeren een exponentiële technologie is.
Zo ook de synthetische biologie
die ik ‘synbio’ zal noemen.
In 2011 deden een paar onderzoekers iets net zo ingenieus en ongekend
als de truc met het dammen,
met de H5N1-griep.
Deze soort doodt 60 procent van de mensen die hem krijgen,
meer dan ebola.
Maar hij is zo weinig besmettelijk
dat hij sinds 2015 minder dan 50 mensen doodde.
Deze onderzoekers bewerkten het genoom van H5N1
en maakten hem net zo dodelijk, maar ook zeer besmettelijk.
De nieuwsafdeling van een van de grootste wetenschappelijke bladen
zei dat als dit ding ontsnapte, het kon leiden tot een pandemie
met misschien wel miljoenen doden.
En Dr. Paul Keim zei
dat hij geen organisme zo eng als dit kon bedenken,
wat het laatste is dat ik persoonlijk wil horen van de voorzitter
van de nationale wetenschappelijke adviesraad voor bioveiligheid.
En dr. Keim zei trouwens ook dit nog --
["Ik denk dat hiermee vergeleken antrax niet eens zo erg is."]
En hij is ook Antrax deskundige.
(Gelach)
Het goede nieuws over deze biohack van 2011
is dat de mensen die het deden geen kwade bedoelingen hadden.
Het waren virologen.
Ze geloofden dat ze de wetenschap bevorderden.
Het slechte nieuws is dat de technologie daar niet blijft hangen,
en dat in de komende decennia
hun prestatie iets alledaags zal worden.
In feite is het al veel gemakkelijker, want zoals we gisterochtend hoorden
wordt slechts twee jaar na hun werk
het CRISPR-systeem al ingezet voor het bewerken van het genoom.
Dit was een radicale doorbraak
dat genen manipuleren stukken gemakkelijker maakt --
zo eenvoudig dat CRISPR nu wordt onderwezen in middelbare scholen.
Dit gaat sneller dan computergebruik.
Die trage, geleidelijke witte lijn daar?
Dat is de wet van Moore.
Die laat ons zien hoe snel computergebruik goedkoper wordt.
Die steile, gekke groene lijn laat ons zien
hoe snel genetisch sequensen steeds maar goedkoper wordt.
Nu zijn genetisch manipuleren, synthese en sequensen
verschillende disciplines, maar ze zijn nauw verwant.
En ze gaan allemaal hals over kop vooruit.
De sleutels tot het koninkrijk zijn deze zeer kleine gegevensbestanden.
Dit is een uittreksel van het H5N1-genoom.
Het hele ding past op slechts een paar pagina's.
Maak je geen zorgen, je kunt dit googelen.
Het staat overal op het internet, toch?
En het stukje dat het besmettelijk maakte,
past wel op één enkel Post-it blaadje.
Zodra een genie een gegevensbestand maakt,
kan iedere idioot dit kopiëren,
over de hele wereld verspreiden
of afdrukken.
Ik bedoel niet alleen hierop afdrukken,
maar al snel op dit.
Laten we een scenario bedenken.
Neem 2026, een willekeurig jaar,
en een briljant viroloog ontwerpt, voor de wetenschap
en om pandemieën beter te begrijpen,
een nieuwe microbe.
Ze is zo besmettelijk als waterpokken,
zo dodelijk als ebola
en ze incubeert maandenlang voor ze een uitbraak veroorzaakt,
zodat de hele wereld kan worden besmet voor de eerste tekenen van problemen.
Dan wordt haar universiteit gehackt.
En natuurlijk is dit geen science fiction.
Een recente Amerikaanse aanklacht
gaat over het hacken van meer dan 300 universiteiten.
Dus verspreidt zich dat bestand met het genoom van die microbe
naar de duistere uithoeken van het internet.
Als dat bestand er eenmaal is, gaat het nooit meer weg --
vraag het maar aan iemand die een filmstudio of muziek-label uitbaat.
In 2026 zal er misschien een waar genie als onze viroloog nodig zijn
om zo’n echt levend onding te maken,
maar 15 jaar later
kan het misschien al op een DNA-printer van een een middelbare school.
En zo niet?
Geef het nog een paar decennia.
Even terzijde:
herinner je je deze dia hier?
Let op deze twee woorden.
Als iemand dit probeert en het is slechts 0,1% effectief,
dan sterven er acht miljoen mensen.
Dat is 2500 keer 9/11.
De beschaving zou het overleven,
maar ze zou permanent verminkt zijn.
Dit betekent dat we ons zorgen moeten maken over mensen
die er maar een klein beetje van weten,
niet alleen over genieën.
Vandaag kunnen misschien maar een handvol genieën
een eindtijdmicrobe maken
die voor 0,1% effectief is of misschien zelfs een beetje meer.
Meestal zijn ze stabiel en succesvol en dus geen deel van deze groep.
Dus denk ik dat ik me daar niet te veel zorgen over hoef te maken.
Maar wat als de technologie verbetert,
zich verspreidt
en duizenden studenten biologie het gaan kunnen?
Zijn die allemaal perfect stabiel?
Of misschien een paar jaar later
als elke gestresseerde eerstejaarsstudent geneeskunde het zal kunnen maken?
Op een bepaald moment
gaan die kringen overlappen,
want dan hebben we het over honderdduizenden mensen wereldwijd.
Zo had je onlangs die kerel die verkleed als de Joker
12 mensen doodschoot bij een Batman-première.
Dat was een doctoraatsstudent in neurowetenschappen
met een NIH-subsidie.
OK, anders bekeken:
ik denk dat we dit echt kunnen overleven als we er nu mee beginnen.
Ik zeg dit na talloze uren te hebben doorgebracht
met het interviewen van wereldleiders in synbio
en ook met het onderzoeken van hun werk voor de wetenschapspodcasts die ik maak.
Ik ben bang geworden voor hun werk, mocht dat nu nog niet duidelijk zijn ...
(Gelach)
maar meer dan dat, ik ben het potentieel ervan gaan appreciëren.
Dit spul zal kanker genezen, ons milieu herstellen
en onze wrede behandeling van andere wezens gaan stoppen.
Hoe gaan we dit krijgen zonder, je weet wel, onszelf te vernietigen?
Ten eerste: of we het nu leuk vinden of niet, synbio is hier,
dus laten we de technologie omarmen.
Als we het verbieden,
zou dat alleen de slechteriken in de kaart spelen.
In tegenstelling tot de nucleaire programma's,
kan biologie onzichtbaar worden beoefend.
Massaal Sovjetbedrog over biowapenverdragen
maakte dat heel duidelijk,
net als ieder illegaal drugslab in de wereld.
Ten tweede: doe een beroep op de experts.
Laten we ze aanwerven en er meer opleiden.
Voor elk miljoen en één bio-ingenieurs
gaan er ten minste een miljoen aan onze kant staan.
Ik bedoel, in deze zaak zou Al Capone aan onze kant staan.
Zo laag zou de lat liggen om bij de goeden te horen.
Massale numerieke voordelen doen ertoe,
zelfs wanneer een slechterik zware schade zou kunnen toebrengen,
omdat onder veel andere dingen,
dat zorgt dat we dit uitgebreid kunnen exploiteren.
Wij hebben jaren en hopelijk decennia
om ons voor te bereiden en het te voorkomen.
De eerste die iets verschrikkelijks zal proberen -- en die komt er --
is misschien nog niet eens geboren.
Dit moet een inspanning zijn van de hele samenleving
en iedereen moet er aan deelnemen,
omdat we aan een kleine groep deskundigen niet kunnen vragen
verantwoordelijk te zijn voor zowel het inperken
als het benutten van de synthetische biologie.
Dat probeerden we al met het financiële systeem
en onze verantwoordelijken werden massaal corrupt
toen ze ontdekten hoe ze dingen af konden raffelen
en enorme risico’s namen ten koste van ons.
Ze privatiseerden de winsten,
werden schandalig rijk
en zadelden de rest op met een schuld van 22 biljoen dollar.
En meer recent --
(Applaus)
Hebben jullie een bedankje gekregen?
Ik wacht nog steeds op het mijne.
Ik dacht dat ze het te druk hadden om dankbaar te zijn.
En meer recent
werd plots online privacy een groot probleem,
dat we eigenlijk uitbesteedden.
Nogmaals:
geprivatiseerde winsten, gesocialiseerde verliezen.
Is er nog iemand die daar niet goed van wordt?
(Applaus)
We hebben behoefte aan een meer inclusieve manier
om onze welvaart veilig te stellen,
onze privacy
en binnenkort ook ons leven.
Hoe kunnen we dit allemaal doen?
Als onze lichamen vechten tegen ziekteverwekkers
gebruiken ze ingenieuze immuunsystemen,
die zeer complex en gelaagd zijn.
Waarom zou dat niet kunnen met ons hele verdomde ecosysteem?
Een jaar TED-talks kan opgaan aan die eerste kritische laag.
Dat zijn slechts een paar van de vele goede ideeën.
Intensief onderzoek- en ontwikkelingswerk
kan de zeer primitieve ziekteverwekkersensoren van vandaag
beter en goedkoper maken
zodat ze snel intelligent en genetwerkt worden
en ze geleidelijk zo wijdverbreid worden als rookmelders of smartphones.
Hieraan verwant:
vaccins hebben allerlei problemen
qua productie en distributie.
Eenmaal klaar kunnen ze niet meer aangepast worden
aan nieuwe bedreigingen of mutaties.
We hebben een flexibel systeem van bioproductie nodig
dat zich uitstrekt tot in elke apotheek en misschien zelfs tot in onze huizen.
Printer-technologie voor vaccins en geneesmiddelen is binnen handbereik
als we het de prioriteit geven.
Vervolgens geestelijke gezondheid.
Veel mensen die een suïcidale massamoord plegen,
lijden aan een verlammende, therapieresistente depressie of PTSD.
We hebben hiervoor nobele onderzoekers zoals Rick Doblin nodig,
maar ook de veel talrijkere zelfzuchtige klootzakken
moeten zich gaan realiseren
dat acuut lijden ons binnenkort allemaal zal bedreigen,
niet alleen de getroffenen.
Die klootzakken zullen samen met ons en Al Capone
gaan strijden tegen deze aandoening.
Ten derde kan en moet ieder van ons een witte bloedcel zijn
in dit immuunsysteem.
Suïcidale massamoordenaars mogen dan verachtelijk zijn, ja,
maar het zijn ook vreselijk gebroken en trieste mensen
en wij moeten allemaal doen wat we kunnen
om ervoor te zorgen dat niemand onbemind blijft.
(Applaus)
Vervolgens moeten we het gevecht tegen deze gevaren
tot kern van de discipline van de synthetische biologie maken.
Er zijn bedrijven die beweren
dat hun ingenieurs 20% van hun tijd
doen wat ze willen.
Wat als degenen die bio-ingenieurs inhuren en degenen die ze zelf worden,
20% van hun tijd zouden besteden
aan de verdediging van het algemeen belang?
Geen slecht idee, toch?
(Applaus)
Dan tot slot: dit zal niet leuk zijn.
Maar we moeten onze gedachten laten gaan naar een aantal zeer duistere plaatsen,
en bedankt dat ik jullie daar deze avond even in rond mocht leiden.
We overleefden de Koude Oorlog
omdat ieder van ons het gevaar begreep en respecteerde,
deels omdat we elkaar al tientallen jaren angstaanjagende spookverhalen vertelden
met namen als ‘Dr. Strangelove’
en ‘War Games’.
Dit is geen tijd om kalm te blijven.
Dit is een van die zeldzame momenten waarop het zeer productief is
om doodsbenauwd te zijn,
(Gelach)
om wat spookverhalen te verzinnen
en onze angst als brandstof te gebruiken om dit gevaar te bestrijden.
Omdat al deze verschrikkelijke scenario's die ik heb afgeschilderd
niet onontkoombaar zijn.
Ze zijn optioneel.
Het gevaar is nog wat veraf.
Dat betekent dat het ons alleen maar zal overkomen
als we het toelaten.
Laten we dat niet doen.
Hartelijk dank voor het luisteren.
(Applaus)
Somos cerca de sete mil milhões e meio.
A Organização Mundial de Saúde diz-nos que 300 milhões de nós têm depressão,
e que cerca de 800 mil pessoas tiram a própria vida todos os anos.
Uma ínfima parte destas pessoas escolhe um caminho profundamente niilista,
que é morrer no ato de matar o maior número de pessoas possível.
Estes são alguns dos exemplos mais recentes.
Este é menos famoso. Aconteceu há umas nove semanas.
Se não se lembram,
é porque isto têm acontecido muito.
Só no último ano, a Wikipédia contou 323 massacres
no meu país de origem, os Estados Unidos da América.
Nem todos os atiradores eram suicidas,
nem todos maximizaram o número de mortes,
mas houve muitos que o fizeram.
Há uma questão que ganha importância: Que limites têm estas pessoas?
Pensem no atirador de Las Vegas.
Matou 58 pessoas.
Será que parou porque já estava farto?
Não, e sabemo-lo porque disparou e feriu outras 422 pessoas
que, com certeza, teria preferido matar.
Não temos razões para pensar que teria parado nas 4200.
Na verdade, com alguém tão niilista, teria todo o prazer em nos matar a todos.
Não sabemos.
O que sabemos é:
quando assassinos suicidas vão ao limite,
a tecnologia é o multiplicador de força.
Vou dar um exemplo.
Há muitos anos, houve um surto de ataques em escolas na China
praticados com coisas como facas e martelos e cutelos,
porque lá é muito difícil arranjar armas de fogo.
Por coincidência macabra, este último ataque aconteceu
horas antes do massacre em Newtown, Connecticut.
Mas o ataque nos EUA fez, sozinho, mais ou menos o mesmo número de vítimas
que os 10 ataques na China juntos.
Acho que podemos dizer, faca: terrível; pistola: muito pior.
E avião: muitíssimo pior,
como demonstrou o piloto Andreas Lubitz quando forçou 149 pessoas
a acompanhá-lo no seu suicídio,
ao despenhar um avião nos Alpes franceses.
E há outros exemplos disto.
E temo que, num futuro próximo, haja armas bem mais mortíferas
do que um avião,
que não serão feitas de metal.
Se tivermos em conta as dinâmicas apocalípticas que se seguirão
se os massacres suicidas apanharem boleia de um campo em rápido crescimento
que seja, na sua maioria, extremamente prometedor para a sociedade.
Algures no mundo, há um pequeníssimo grupo de pessoas
que tentariam, por muito ineptas que fossem,
matar-nos a todos se conseguissem descobrir como.
O atirador de Las Vegas pode, ou não, ter sido um deles,
mas sendo nós sete mil milhões e meio,
essa população não é zero.
Há muitos niilistas suicidas por aí.
Já vimos que sim.
Há pessoas com graves transtornos de humor
que não conseguem sequer controlar.
Há pessoas que acabaram de sofrer traumas perturbadores etc., etc.
Já o grupo corolário,
o seu tamanho foi zero desde sempre, até à Guerra Fria,
quando, de repente, os líderes de duas alianças mundiais
obtiveram a capacidade de fazer explodir o planeta.
O número de pessoas com verdadeiros botões apocalípticos
manteve-se minimamente estável desde então.
Mas temo que esteja prestes a aumentar,
e não é só para três.
Nem vão caber no gráfico.
A sério, vai parecer um plano de negócios.
(Risos)
E a razão por trás disso
é que estamos na era das tecnologias exponenciais,
que todos os dias pegam em eternos impossíveis
e fazem deles verdadeiros super-poderes para um ou dois génios vivos
e esta é a parte mais importante,
que depois distribuem estes poderes por mais ou menos toda a gente.
Vamos ver um exemplo benigno.
Se quisessem jogar damas com um computador em 1952,
tinham literalmente de ser aquele sujeito,
dono de um dos 19 exemplares daquele computador, existentes no mundo na altura,
e depois usar o vosso cérebro quase Nobel, para lhe ensinar damas.
Eram esses os requisitos.
Hoje só precisam de conhecer alguém que conheça alguém que tenha um telemóvel,
porque a informática é uma tecnologia exponencial.
Tal como a biologia sintética,
a que me vou referir por "simbio" daqui para a frente.
Em 2011, dois investigadores fizeram algo, que tinha tanto de engenhoso
e de inédito como o truque das damas,
com o vírus da gripe H5N1.
É uma estirpe que mata 60% das pessoas infetadas,
mais do que o Ébola.
Mas é tão pouco contagioso
que matou menos de 50 pessoas, desde 2015.
Estes investigadores alteraram o genoma do H5N1
e deixaram-no tão mortífero como antes, mas também extremamente contagioso.
O setor de notícias de uma das revistas científicas do top 2 mundial
declarou que, se isso saísse cá para fora, era provável que causasse uma pandemia
com, possivelmente, milhões de mortes.
O Dr. Paul Keim afirmou
não conhecer um organismo mais assustador do que este,
o que é a última coisa que eu queria ouvir
vinda do Presidente do Painel Consultivo da Biossegurança dos EUA.
E já agora, o Dr. Keim também disse isto:
[Acho que o antraz não é nada assustador comparado com isto.]
E ele também é isto.
[Especialista em antraz] (Risos)
Agora, a boa notícia sobre a pirataria biológica de 2011
é que os responsáveis não tencionavam fazer-nos mal.
São virologistas.
Acreditavam estar a contribuir para o avanço da ciência.
A má notícia é que a tecnologia não fica parada,
e no decorrer das próximas décadas,
este feito vai passar a ser uma coisa fácil e trivial.
A verdade é que já é bem mais fácil porque, como descobrimos ontem de manhã,
apenas dois anos depois desse trabalho,
o sistema CRISPR foi aproveitado para a modificação do genoma.
Foi um avanço enorme
que tornou a modificação genética muitíssimo mais fácil
tão fácil que o CRISPR já está a ser ensinado em escolas secundárias
Estas coisas estão a avançar mais rápido do que a informática.
Aquela linha branca pesada e lenta ali em cima?
É a Lei de Moore.
Mostra-nos a rapidez com que a informática está a ficar mais barata.
Aquela linha verde engraçada e inclinada
mostra a rapidez com que a sequenciação genética está a ficar mais barata.
Agora, a modificação, a síntese e a sequenciação genética
são disciplinas diferentes mas com uma relação próxima.
Estão todas a mover-se a um ritmo precipitado.
As chaves do reino são estes ficheiros minúsculos.
Isto é um excerto do genoma do H5N1.
Cabe todo em poucas páginas.
Podem vê-lo no Google quando chegarem a casa.
Está por todo o lado na Internet.
E a parte que o tornou contagioso
é capaz de caber num único "post-it".
Assim que um génio cria um ficheiro,
qualquer idiota o pode copiar,
distribuí-lo pelo mundo inteiro,
ou imprimi-lo.
E não estou só a falar de imprimir nisto,
mas também nisto, muito em breve.
Vamos imaginar o seguinte cenário.
Imaginem que estamos em 2026 — podia ser um ano qualquer —
e que uma virologista genial, à procura de um avanço científico
e de compreender melhor as pandemias,
cria um novo vírus.
É tão contagioso como a varicela,
tão letal como o Ébola,
leva vários meses a incubar antes de causar um surto,
e, por isso, é capaz de infetar o mundo inteiro
antes de haver qualquer sinal de alarme.
Depois a universidade dela é alvo de um ataque informático.
E é claro, isto não é ficção científica.
Na realidade, um processo recente nos EUA
descreve ataques informáticos a mais de 300 universidades.
Então aquele ficheiro que tem o genoma do vírus
espalha-se pelos cantos escuros da Internet.
Assim que um ficheiro lá chega, nunca mais volta...
perguntem a qualquer pessoa que trabalhe num estúdio de cinema
ou numa editora discográfica.
Em 2026 talvez fosse preciso
um verdadeiro génio como a nossa virologista
para dar vida à criatura,
mas 15 anos mais tarde,
bastará uma impressora de ADN disponível em qualquer escola.
E se assim não for?
Deem-lhe umas décadas.
Só um pequeno aparte:
Lembram-se deste diapositivo?
Prestem atenção a esta palavra. [Talvez]
Se alguém tentar fazer isto e só tiver 0,1% de eficácia,
morrem oito milhões de pessoas.
São 2500 onzes de setembro.
A civilização sobreviveria,
mas ficaria permanentemente desfigurada.
Isto significa que temos de nos preocupar com qualquer pessoa
que faça qualquer tentativa, mesmo que fraca,
não é só com os génios.
Atualmente, contam-se pelos dedos de uma mão
os génios capazes de criar um vírus apocalíptico
com uma eficácia de 0,1%, talvez até um pouco mais.
Tendem a ser pessoas estáveis e bem sucedidas
e, portanto, não fazem parte deste grupo.
Acho que vivo mais ou menos bem com esse facto.
Então e quando a tecnologia melhorar
e se difundir
e milhares de estudantes de ciências ganharem essa capacidade?
Vão ser todos pessoas perfeitamente estáveis?
Ou ainda uns anos mais tarde,
quando qualquer aspirante a estudante de medicina tiver esse acesso?
Vai haver um ponto nesse período
em que os dois grupos se vão intersetar,
porque agora estamos a falar de centenas de milhares de pessoas
espalhadas pelo mundo.
Há pouco tempo passaram a incluir aquele homem que se vestiu de Joker
e matou a tiro 12 pessoas na estreia do Batman.
Era um estudante de doutoramento em neurociência
com uma bolsa do Instituto Nacional de Saúde.
Ok, reviravolta:
Acho que dá para sobreviver a esta se nos concentrarmos já nisso.
E eu digo isto depois de ter passado horas a fio
a entrevistar líderes mundiais na biologia sintética
e a estudar o seu trabalho para os "podcasts" que faço sobre ciência.
Comecei a ter medo desse trabalho, caso ainda não tenham reparado...
(Risos)
mas, para além disso, comecei a admirar o seu potencial.
Estas coisas vão curar o cancro, curar o meio ambiente
e acabar com a forma cruel como tratamos outros seres.
Então como é que chegamos aí sem nos auto-aniquilarmos?
Primeiro: goste-se ou não, a biologia sintética veio para ficar,
portanto, aceitemos a tecnologia.
Se a banirmos,
estaríamos a dar o controlo aos maus atores.
Ao contrário dos programas nucleares,
a biologia consegue ser praticamente invisível.
As gigantescas fraudes soviéticas, ignorando tratados contra armas químicas
tornaram-no muito claro,
assim como todos os laboratórios ilegais de drogas.
Segundo: recrutem especialistas.
Vamos contratá-los e aproveitá-los melhor.
Por cada mil e um bioengenheiros que existem,
pelos menos mil vão estar do nosso lado.
Quer dizer, nisto até o Al Capone ia ficar do nosso lado.
A fasquia para se ser boa pessoa está muito baixa.
Vantagens numéricas esmagadoras são mesmo necessárias,
mesmo quando basta apenas um vilão para infligir danos penosos,
porque, entre outras coisas,
eles permitem-nos explorar isto até ao tutano:
temos anos e, espero eu, décadas para nos preparamos e nos prevenirmos.
A primeira pessoa a tentar fazer algo terrível
— e vai haver alguém —
pode ainda nem sequer ter nascido.
Depois, isto tem de ser um esforço que se estende a toda a sociedade,
e todos vocês têm de fazer parte,
porque não podemos pedir a um grupo minúsculo de especialistas
que sejam responsáveis por conter e explorar
a biologia sintética,
porque tentámos fazer isso com o sistema financeiro,
e os nossos administradores tornaram-se completamente corruptos
ao se aperceberem como tomar atalhos,
colocar-nos a todos em riscos gravíssimos
e privatizar os lucros,
acumulando uma riqueza repugnante,
enquanto nos forçavam a pagar a conta de 22 biliões de dólares.
E agora há pouco tempo...
(Aplausos)
Vocês receberam cartas de agradecimento?
Eu ainda estou à espera da minha.
Concluí que estavam demasiado ocupados para nos agradecer.
E há muito pouco tempo,
surgiram alertas do grande problema de privacidade na Internet,
que nós praticamente entregámos a terceiros.
Mais uma vez:
lucro privado, prejuízo público.
Mais alguém está farto deste padrão?
(Aplausos)
Precisamos de uma forma mais inclusiva de salvaguardar a nossa prosperidade,
a nossa privacidade,
e em breve, as nossas vidas.
Então como é que podemos fazer tudo isso?
Bom, quando o corpo luta contra agentes patogénicos,
utiliza um engenhoso sistema imunitário,
que é muito complexo e multifacetado.
Porque é que não construímos um assim para o ecossistema inteiro?
Podia fazer-se um ano de TED Talks só sobre este primeiro aspeto crítico.
Estas são só algumas das muitas ótimas ideias que por aí andam.
Alguma ação de investigação e desenvolvimento
poderia pegar nos detetores patogénicos muito primitivos que temos hoje
e pô-los numa curva preço/desempenho muito inclinada
que muito rapidamente se tornaria genial
e em rede
e que se tornaria tão acessível quanto os detetores de fumo
ou mesmo os "smartphones".
Uma nota que vem no seguimento:
as vacinas têm todo o tipo de problemas
no que toca à produção e distribuição
e depois de feitas, não se podem adaptar a novas ameaças ou mutações.
Precisamos de uma base de produção biológica ágil
que se estenda a todas as farmácias e talvez até às nossas casas.
A tecnologia de impressão aplicada às vacinas e aos medicamentos
está ao nosso alcance, se lhe dermos prioridade.
A seguir, saúde mental.
Muitas das pessoas suicidas que cometem assassinatos em massa
sofrem de depressão profunda, resistente a tratamento
ou de "stress" pós-traumático.
Precisamos de investigadores altruístas como Rick Dobling a trabalhar nisto,
mas também precisamos de cretinos egoístas, que são bem mais numerosos,
para estudar o facto de que o sofrimento agudo
nos vai pôr a todos em perigo,
e não apenas aos que são diretamente afetados.
Os cretinos vão então juntar-se a nós e ao Al Capone
na luta contra este problema.
Terceiro, cada um de nós pode e deve ser um glóbulo branco
deste sistema imunitário.
Sim, os assassinos em massa são desprezíveis,
mas também são pessoas extremamente tristes e debilitadas,
e os que entre nós não o são têm de fazer o puderem
para garantir que ninguém sofrerá sozinho.
(Aplausos)
Depois temos de tornar a luta contra estes perigos
numa questão central para a disciplina da biologia sintética.
Há empresas que, pelo menos,
dizem que deixam os seus engenheiros passar 20% das horas de trabalho
a fazer o que lhes apetece.
E se os que dão emprego aos bioengenheiros
e os que se tornarem neles
dedicassem 20% do seu tempo
à construção de defesas para o bem comum?
Não é má ideia, pois não?
(Aplausos)
E para terminar: isto não vai ser brincadeira.
Mas temos de deixar as nossas mentes ir a sítios
muito, mas mesmo muito, assustadores,
e obrigada por me deixarem levar-vos lá esta noite.
Sobrevivemos à Guerra Fria
porque cada um de nós entendia e respeitava o perigo,
em parte, porque tínhamos passado décadas
a contarmos a nós mesmos histórias de fantasmas aterradoras
com títulos como "Dr. Estranhoamor" e "Jogos de Guerra".
Não é altura para se ficar calmo.
É um daqueles raros momentos em que é extremamente produtivo
passarmo-nos da cabeça
(Risos)
para criar algumas histórias de terror
e utilizar o nosso medo como combustível para lutar contra este perigo.
Porque todos estes cenários terríveis que descrevi
não são parte de um destino.
São opcionais.
O perigo ainda está mais ou menos longe.
O que significa que só nos vai atingir
se o permitirmos.
Não o vamos permitir.
Muito obrigado.
(Aplausos)
Somos aproximadamente 7,5 bilhões de pessoas.
A Organização Mundial da Saúde revela que 300 milhões estão deprimidos
e que cerca de 800 mil pessoas tiram a vida todos os anos.
Um subconjunto minúsculo delas escolhe uma rota profundamente niilista:
elas morrem no ato de matar o maior número de pessoas possível.
Eis alguns exemplos recentes famosos.
Este é um menos famoso, ocorrido há cerca de nove semanas.
Se vocês não se lembram, é porque acontecem com frequência.
A Wikipédia, só no ano passado, computou 323 tiroteios em massa
em meu país natal, os Estados Unidos.
Nem todos esses atiradores eram suicidas,
nem estavam maximizando o número de mortos,
mas muitos eram.
Uma pergunta importante vem a ser: quais são os limites dessas pessoas?
Considerem o atirador de Vegas.
Ele matou 58 pessoas.
Parou por aí porque teve o bastante?
Não, e sabemos disso porque ele atirou
e feriu outras 422 pessoas, que certamente teria preferido matar.
Não há razão para achar que ele pararia em 4,2 mil.
Na verdade, alguém tão niilista pode matar todos nós com muito prazer.
Não dá para saber.
Sabemos o seguinte:
quando assassinos suicidas entram em cena,
a tecnologia é o multiplicador de forças.
Eis um exemplo.
Vários anos atrás, houve uma série de dez ataques em massa a escolas na China
executados com objetos como facas, martelos e cutelos,
porque é muito difícil obter armas lá.
Por uma coincidência macabra, esse último ataque ocorreu
apenas algumas horas antes do massacre em Newtown, Connecticut.
Mas esse único ataque norte-americano
matou aproximadamente o mesmo número de vítimas
que os dez ataques chineses juntos.
Podemos dizer: faca, terrível; arma, muito pior.
E avião, muitíssimo pior,
como mostrou o piloto Andreas Lubitz,
quando forçou 149 pessoas a se juntarem a ele em seu suicídio,
destruindo um avião nos Alpes franceses.
Há outros exemplos.
Temo que haverá muito mais armas mortais do que aviões em nosso futuro próximo,
e não serão feitas de metal.
Vamos considerar a dinâmica apocalíptica que acontecerá
se o assassinato em massa suicida
pegar carona em um campo que avança rapidamente
e que, na maioria das vezes,
tem uma promessa ilimitada para a sociedade.
Em algum lugar do mundo, há um grupo pequeno de pessoas
que tentaria, ainda que de forma ineficaz,
matar a todos se conseguissem descobrir como.
O atirador de Vegas pode ou não ter sido uma delas,
mas, com 7,5 bilhões de pessoas,
essa é uma população diferente de zero.
Há muitos niilistas suicidas por aí.
Já vimos isso.
Há pessoas com transtornos de humor graves que nem mesmo conseguem controlar.
Existem pessoas que acabam de sofrer traumas perturbadores, etc., etc.
O tamanho do grupo resultante era sempre zero,
até a Guerra Fria,
quando, de repente, os líderes de duas alianças globais
conseguiram a capacidade de explodir o mundo.
A quantidade de pessoas com verdadeiros botões destruidores
permaneceu estável desde então.
Mas receio que esteja prestes a crescer
e não apenas três vezes,
mas bem acima do normal.
Parecerá um plano de negócios de tecnologia.
(Risos)
O motivo é que estamos na era de tecnologias exponenciais,
que tomam, com frequência, impossibilidades eternas
e as tornam os superpoderes reais de um ou dois gênios vivos
e... essa é a parte importante...
depois difundem esses poderes para quase todo mundo.
Eis um exemplo benigno.
Se quisesse jogar damas com um computador em 1952,
você teria que ser aquele cara,
requisitar uma das 19 cópias existentes no mundo daquele computador
e depois usar seu cérebro genial para ensiná-lo a jogar damas.
Essa era a expectativa.
Hoje, só precisamos conhecer alguém que conheça alguém que tenha um telefone,
porque a computação é uma tecnologia exponencial.
A biologia sintética também é assim,
e vou me referir a ela como "synbio".
Em 2011, alguns pesquisadores fizeram algo tão engenhoso
e sem precedentes quanto o jogo de damas
com a gripe H5N1.
Essa é uma cepa que mata até 60% das pessoas infectadas,
mais do que o Ebola.
Mas é tão pouco contagiosa
que matou menos de 50 pessoas desde 2015.
Esses pesquisadores editaram o genoma do H5N1
e o deixaram tão mortal quanto antes, mas também altamente contagioso.
O setor de notícias de uma das duas principais revistas científicas do mundo
disse que, caso se espalhasse, causaria provavelmente uma pandemia
com talvez milhões de mortes.
O Dr. Paul Keim disse
que não poderia pensar em um organismo tão assustador quanto esse,
o que é a última coisa que quero ouvir
do presidente do National Science Advisory Board for Biosecurity.
A propósito, o Dr. Keim também disse:
["Não acho o antraz assustador comparado a isso."]
E ele entende disso.
[Especialista em antraz]
(Risos)
A boa notícia sobre o experimento biológico de 2011
é que as pessoas responsáveis não causaram nenhum dano.
Elas eram virólogas e acreditavam no avanço científico.
A má notícia é que a tecnologia não para
e, nas próximas décadas,
o feito dessas pessoas se tornará trivialmente fácil.
Na verdade, já está muito mais fácil, porque, como descobrimos ontem de manhã,
só dois anos após o trabalho delas,
o sistema CRISPR foi aproveitado para edição do genoma.
Foi um avanço radical
que torna a edição genética extremamente mais fácil,
tão fácil que agora o CRISPR é apresentado no ensino médio.
Esse avanço está mais rápido do que a computação.
Veem aquela linha branca branda e convencional lá em cima?
É a lei de Moore,
que nos mostra como a computação está ficando rapidamente mais barata.
Aquela linha verde íngreme e maluca
nos mostra a rapidez
com que o sequenciamento genético está ficando mais barato.
Edição genética, síntese e sequenciamento
são disciplinas diferentes, mas intimamente relacionadas.
Todas elas estão se movendo precipitadamente.
O segredo são esses minúsculos arquivos de dados.
Aquele é um trecho do genoma do H5N1.
Todo o trecho pode caber em apenas algumas páginas.
Não se preocupem, podem pesquisar no Google ao chegar em casa.
Está tudo na internet.
A parte que o tornava contagioso
poderia caber num pedaço de papel.
Quando um gênio cria um arquivo de dados,
qualquer idiota pode copiá-lo,
distribuí-lo em todo o mundo
ou imprimi-lo.
Não me refiro apenas a imprimi-lo nisto,
mas, em breve, nisto.
Vamos imaginar um cenário.
Suponhamos que estamos em 2026, para escolher um ano arbitrário,
e um virólogo inteligente,
com a esperança de avanço científico e melhor entendimento das pandemias,
projete uma nova doença
que seja tão contagiosa quanto a catapora,
tão mortal quanto o Ebola
e fique incubada durante meses antes de causar um surto.
O mundo inteiro pode ser infectado antes do primeiro sinal de problema.
Então, os computadores da universidade dele são invadidos.
E, claro, isso não é ficção científica.
De fato, uma denúncia recente dos EUA
relata a invasão dos computadores de mais de 300 universidades.
O arquivo com o genoma da doença
espalha-se pelos cantos sombrios da internet.
Uma vez divulgado, um arquivo nunca retorna.
É só perguntar a qualquer diretor de estúdio de cinema ou gravadora.
Talvez em 2026,
seja preciso um gênio, como nosso virólogo,
para criar a verdadeira criatura viva,
mas, 15 anos depois,
só precisaremos de uma impressora de DNA,
encontrada em qualquer escola de ensino médio.
E caso contrário?
Considerem duas décadas.
Um rápido comentário:
lembram-se deste slide?
Prestem atenção nestas duas palavras.
[Só Talvez]
Se alguém tentar e for apenas 0,1% eficaz,
8 milhões de pessoas morrerão,
o que corresponde a 2,5 mil atentados de 11 de setembro.
A civilização sobreviveria,
mas ficaria permanentemente desfigurada.
Isso significa que precisamos nos preocupar com qualquer um
que tenha a menor oportunidade de tentar,
não apenas gênios.
Hoje, há um grupo muito pequeno de gênios
que poderiam talvez criar uma doença destruidora,
0,1% eficaz e talvez até um pouco mais.
Eles tendem a ser estáveis e bem-sucedidos e, portanto, não fazem parte deste grupo.
Acho que estou meio que bem com isso.
Mas, e quando a tecnologia melhorar
e se difundir
e milhares de universitários de ciências biológicas estiverem capacitados?
Cada um deles estará perfeitamente estável?
Ou que tal alguns anos depois,
quando os alunos tomados pelo estresse estiverem totalmente capacitados?
Em algum momento, nesse período de tempo, esses círculos irão se cruzar,
porque agora começamos a falar
sobre centenas de milhares de pessoas em todo o mundo.
Recentemente, uma delas era o cara que se vestiu como o Coringa
e atirou para matar 12 pessoas em uma estreia de "Batman".
Era um aluno de doutorado em neurociência
com uma bolsa do NIH.
Tudo bem, reviravolta na trama:
acho que podemos sobreviver se começarmos a focar agora.
Digo isso, depois de passar várias horas
entrevistando líderes mundiais em biologia sintética
e também pesquisando o trabalho deles para podcasts científicos criados por mim.
Cheguei a temer o trabalho deles, caso ainda não tenha deixado isso claro,
(Risos)
mas, mais do que isso, reverenciar seu potencial.
Esses trabalhos irão curar o câncer, curar nosso meio ambiente
e deter nosso tratamento cruel de outras criaturas.
Como conseguimos tudo isso sem exterminarmos nós mesmos?
Primeiro: gostemos ou não, a biologia sintética está presente.
Vamos adotar a tecnologia.
Se a excluirmos,
só passaremos o bastão às pessoas ruins.
Ao contrário de programas nucleares,
a biologia pode ser praticada de forma invisível.
Fraudes soviéticas em massa sobre tratados de armas biológicas
deixaram isso bem claro,
assim como todo laboratório de drogas ilegais do mundo.
Em segundo lugar, atraiam os especialistas.
Vamos contratá-los e conseguir mais deles.
Para cada 1 milhão e 1 bioengenheiros que temos,
pelo menos 1 milhão deles estarão do nosso lado.
Quero dizer, Al Capone estaria do nosso lado.
A expectativa de ser o mocinho é muito baixa.
Vantagens numéricas enormes são importantes,
mesmo quando um único bandido pode causar um prejuízo grave,
porque, entre muitas outras coisas, elas permitem explorar isso.
Temos anos, e tomara que décadas, para a preparação e a prevenção.
A primeira pessoa a tentar algo terrível,
e haverá alguém,
pode nem ter nascido ainda.
Depois, é necessário um esforço que englobe a sociedade,
e todos vocês precisam participar,
porque não podemos pedir a um grupo minúsculo de especialistas
para ser responsável por controlar e explorar a biologia sintética.
Já fizemos essa tentativa com o sistema financeiro.
Nossos administradores tornaram-se extremamente corruptos
quando descobriram como poderiam cortar custos,
infligir riscos enormes ao restante de nós
e privatizar os ganhos,
tornando-se repulsivamente ricos
enquanto nos prendiam a uma dívida de US$ 22 trilhões.
E mais recentemente...
(Aplausos)
Vocês receberam as cartas de agradecimento?
Ainda espero a minha.
(Risos)
Imaginei que estivessem ocupados demais para agradecerem.
Mais recentemente,
a privacidade on-line começou a aparecer como um problema enorme,
e basicamente a terceirizamos.
E mais uma vez:
ganhos privatizados, perdas socializadas.
Alguém mais está farto desse padrão?
(Aplausos)
Precisamos de um meio mais inclusivo para defender nossa prosperidade,
nossa privacidade
e, em breve, nossa vida.
Então, como fazemos tudo isso?
Quando o corpo combate os patógenos,
ele usa sistemas imunológicos engenhosos, muito complexos e com múltiplas camadas.
Por que não construímos um desses para todo o ecossistema?
Há um ano de palestras TED
que poderiam ser dadas sobre a primeira camada crítica.
Essas são apenas algumas das muitas grandes ideias que estão por aí.
Algumas autoridades de pesquisa e desenvolvimento
poderiam pegar os sensores de patógenos muito primitivos que temos atualmente
e colocá-los em uma curva de desempenho de preços muito íngreme,
que se tornaria rapidamente engenhosa e interligada
e, pouco a pouco, tão difundida quanto detectores de fumaça
e até mesmo smartphones.
Aqui vai um lembrete muito relacionado:
as vacinas têm todos os tipos de problemas
quando se trata de produção e distribuição.
Uma vez produzidas, elas não conseguem se adaptar a novas ameaças ou mutações.
Precisamos de uma base de biomanufatura ágil
que se estenda a todas as farmácias e talvez até a nossos lares.
A tecnologia de impressão para vacinas e medicamentos está ao nosso alcance
se a priorizarmos.
Em seguida, a saúde mental.
Muitas pessoas que cometem assassinatos em massa suicidas
sofrem de transtorno de estresse pós-traumático, ou TEPT.
Precisamos de pesquisadores de qualidade, como Rick Doblin, trabalhando nisso,
mas também precisamos dos idiotas egoístas que são muito mais numerosos
para apreciar o fato
de que o sofrimento intenso em breve colocará em risco todos nós,
não apenas os doentes.
Esses idiotas se juntarão a nós e a Al Capone
na luta contra essa doença.
Terceiro: cada um de nós pode e deve ser um glóbulo branco
nesse sistema imunológico.
Os assassinos em massa suicidas podem ser desprezíveis, sim,
mas também são pessoas terrivelmente arrasadas e tristes,
e aqueles de nós que não são precisam fazer o possível
para garantir que ninguém fique sem ser amado.
(Aplausos)
A seguir, precisamos tornar o combate a esses perigos
essencial na disciplina de biologia sintética.
Existem empresas por aí que, pelo menos, afirmam
que deixam seus engenheiros passarem 20% do tempo
fazendo o que quiserem.
E se aquelas que contratam bioengenheiros
e os mantêm
derem 20% do tempo delas para criar defesas para o bem comum?
Não é uma má ideia, não é?
(Aplausos)
Finalmente: não será divertido.
Mas precisamos deixar nossa mente ir a lugares muito sombrios,
e obrigado por me deixarem levá-los até eles esta noite.
Sobrevivemos à Guerra Fria
porque todos nós entendíamos e respeitávamos o perigo,
em parte, porque passamos décadas
contando a nós mesmos histórias aterrorizantes de fantasmas
com nomes como "Dr. Strangelove" e "Jogos de Guerra".
Não é hora de ficar calmo.
Esse é um daqueles raros momentos em que é incrivelmente produtivo
ficar uma fera...
(Risos)
para propor algumas histórias de fantasmas
e usar nosso medo como combustível para combater esse perigo.
Porque todos esses cenários terríveis que descrevi
não são destino.
São opcionais.
O perigo ainda é meio distante,
o que significa que só nos acontecerá
se permitirmos.
Não vamos permitir.
Muito obrigado por sua atenção.
(Aplausos)
Итак, нас в мире примерно семь с половиной миллиардов.
ВОЗ сообщает, что 300 миллионов из нас находится в депрессии
и около 800 тысяч человек ежегодно совершает самоубийство.
Небольшое количество из них выбирает совершенно нигилистический путь —
умереть и при этом убить как можно большее число людей.
Вот несколько недавних нашумевших случаев.
А вот менее нашумевший, произошедший пару месяцев назад.
Если вы о нём не помните,
то это потому, что такое происходит часто.
Википедия сообщает, что в прошлом году произошло 323 случая массовых убийств
в моей родной стране, в США.
Не все случаи заканчивались самоубийством,
не все нападавшие стремились к максимальному числу жертв,
но целью многих было именно это.
Возникает вопрос: эти люди ставят себе какое-то ограничение?
Возьмите вегасского стрелка.
Он безжалостно убил 58 человек.
Он остановился, потому что ему хватило?
Нет, и мы знаем это потому, что были ранены ещё 422 человека,
которых он, конечно, предпочёл бы убить.
У нас нет оснований думать, что он остановился бы на 4 200.
С таким нигилистическим настроем, думаю, он был бы рад порешить нас всех.
Мы не знаем.
Знаем мы вот что:
когда массовые убийцы входят в раж,
технологии играют им на руку.
Вот пример.
Несколько лет назад китайские школы поразила череда массовых атак,
в которых в качестве оружия использовались ножи, молотки и топоры,
потому что стрелковое оружие там трудно достать.
По жуткому совпадению последняя атака произошла
за несколько часов до массового убийства в Ньютауне, Коннектикут.
Но одна эта атака в Америке унесла примерно столько же жизней,
сколько 10 китайских атак вместе взятых.
Поэтому мы можем заключить: ножи — ужасно, стрелковое оружие — ещё хуже.
А самолёт — гораздо хуже,
как показал нам случай Андреаса Лубица, пилота, погубившего 149 человек,
не считая его самого,
когда он направил самолёт в гору в Прованских Альпах.
Есть и другие примеры.
И я боюсь, что в ближайшем будущем может появится оружие страшнее самолётов,
и оно будет сделано не из металла.
Давайте рассмотрим апокалиптический сценарий, который может оказаться вполне
вероятным, если массовые убийцы воспользуются технологиями,
которые в целом сулят много благ для общества.
Где-то в мире есть группка людей, которые попытались бы,
какой бы нелепой ни была их попытка,
убить нас всех, если бы только знали как.
Вегасский стрелок мог быть или не быть одним из них,
но учитывая, что нас больше семи миллиардов,
число таких людей явно больше нуля.
В мире много суицидально настроенных нигилистов.
Мы уже в этом убедились.
Есть люди, страдающие бесконтрольными аффективными расстройствами.
Есть люди, недавно пережившие тяжелейшие травмы, и так далее.
Что касается другой группы людей,
их число неизменно равнялось нулю до начала Холодной войны,
когда внезапно лидеры двух мировых держав
получили возможность одним махом взорвать весь мир.
Число людей с доступом к страшным кнопкам
оставалось стабильным с тех пор.
Но я боюсь, оно может возрасти,
и не просто до трёх. [Люди, которые могли бы убить нас всех]
Это выходит за всякие рамки.
Это уже практически выглядит как бизнес-план.
(Смех)
А причина этого в том,
что мы живём в эпоху экспоненциальных технологий,
которые раз за разом превращают абсолютно невозможное
в доступное для одного или двух живых гениев в виде сверхспособностей,
а затем — и это самое важное —
делают это доступным для всех остальных людей на земле.
Приведу безобидный пример.
Если в 1952 году вы хотели поиграть в шашки с компьютером,
вы должны были быть вон тем человеком,
который реквизировал один из таких компьютеров, которых в мире всего было 19,
чтобы с помощью своего мозга уровня нобелевки научить его игре в шашки.
Такой высокой была планка.
Сегодня всё, что от вас требуется, это знать кого-то у кого есть телефон,
потому что компьютеры — это экспоненциальная технология.
Как и синтетическая биология.
Давайте я буду называть её «синбио».
В 2011 году двое исследователей сделали нечто столь же гениальное
и ранее невиданное, как и фокус с шашками,
с вирусом гриппа H5N1.
Штамм этого вируса убивает до 60% людей, которые им заражаются.
Больше, чем вирус Эбола.
Но он такой незаразный,
что убил всего 50 людей, начиная с 2015 года.
И вот эти учёные отредактировали геном H5N1
и сделали его не менее смертельным, но при этом гораздо более заразным.
Новостное подразделение одного из ведущих научных журналов
сообщило, что если эта штука выберется наружу, то скорее всего вызовет
пандемию с миллионами жертв.
А доктор Пол Кайм сказал,
что сложно представить себе организм страшнее этого,
и это последняя вещь, которую я хотел бы услышать
от председателя Научного консультативного совета по биобезопасности.
И, между прочим, доктор Кайм также говорил
[«По сравнению с этим, сибирская язва — пустяк».]
при этом являясь...
[Экспертом по сибирской язве] (Смех)
Хорошая новость заключается в том,
что люди, которые сделали это в 2011 году, не желали нам зла.
Они вирусологи.
Они верили в то, что продвигают науку.
Плохая новость заключается в том, что технологии не привязаны к одному месту,
и через двадцать-тридцать лет
их опыт можно будет легко повторить.
На самом деле это уже гораздо проще сделать, потому что, как стало известно,
уже через два года после их исследования
учёные взяли на вооружение систему CRISPR для редактирования генома.
Это был радикальный прорыв,
который делает редактирование генома намного проще —
настолько проще, что CRISPR теперь изучают в старших классах.
И эти вещи развиваются быстрее, чем компьютеры.
Видите ту скучную белую линию сверху?
Это закон Мура.
Который показывает нам, как быстро дешевеют компьютеры.
А вон та весёлая зелёная линия
показывает, как быстро дешевеет генетическое секвенирование.
Редактирование генома, синтез и секвенирование —
это всё разные дисциплины, но они тесно связаны.
И все они развиваются одинаково быстрыми темпами.
А ключом к ларчику являются эти крошечные файлы с данными.
Это отрывок из генома вируса H5N1.
Он весь может поместиться всего на нескольких страницах.
Не волнуйтесь, вы можете найти это в Гугле, когда вернётесь домой.
Это всё уже есть в Интернете.
А та часть, которая сделала вирус заразным,
может уместиться на маленьком стикере.
И как только какой-нибудь гений создаст файл с данными,
его сможет скопировать любой идиот
и распространить по всему миру
или распечатать.
И я имею в виду распечатать не только на этом,
но очень скоро и на этом.
Теперь давайте представим сценарий.
Как будто сейчас 2026 год, к примеру,
и один выдающийся вирусолог, помышляя лишь о благе науки
и грезя о лучшем понимании пандемии,
создаёт новый вирус.
Он такой же заразный, как ветряная оспа,
такой же смертельный, как Эбола,
а его инкубационный период длится несколько месяцев.
И когда появятся первые симптомы, весь мир уже будет заражен.
И вот институт, где работает этот вирусолог, взламывают.
И это никакая не фантастика.
Недавно в Америке возбудили уголовное дело,
касающееся взлома более 300 университетов.
И вот файл с геномом этого вируса попадёт в самые тёмные закоулки Интернета.
А когда файл попадает в сеть, он уже никогда не возвращается назад —
спросите любого, кто заведует киностудией или музыкальным лейблом.
В 2026 году, возможно, понадобится
настоящий гений, как наш вирусолог,
чтобы придумать такую тварь,
но 15 лет спустя, может статься,
что потребуется лишь принтер ДНК, который будет стоять в каждой школе.
А если нет?
Дайте этому пару десятков лет.
Немного возвращаясь назад,
помните этот слайд?
Обратите внимание на эти два слова. [могли бы]
Если кто-то попытается это сделать и достигнет цели лишь на 0,1 процента,
умрут восемь миллионов людей.
Это две с половиной тысячи башен-близнецов.
Цивилизация, конечно, выживет,
но ей будет нанесён серьёзный урон.
Это означает, что мы должны принимать во внимание всех,
кто попытается попасть в цель,
не только гениев.
Получается, сегодня есть всего несколько гениев,
которые могли бы создать такой страшный вирус,
эффективный на 0,1 процента или, может, чуть больше.
Они уравновешенны и успешны и поэтому не входят в ту группу.
Поэтому, наверно, можно сказать, что я относительно спокоен на этот счёт.
А как насчёт того времени, когда технологии улучшатся
и распространятся,
и в игру вступят тысячи аспирантов, будущих биологов и медиков?
Окажется ли каждый из них идеально уравновешенным?
А как насчёт спустя ещё несколько лет,
когда в игру вступят студенты подготовительных медицинских курсов?
В какой-то момент времени
эти круги наложатся друг на друга,
потому что теперь мы говорим уже о сотнях тысяч людей
по всему миру.
И недавно к ним присоединился парень, который переоделся Джокером
и застрелил 12 человек на премьере «Бэтмэна».
Это был аспирант-нейробиолог
с грантом Института здравоохранения.
Ладно, поворот сюжета:
я думаю, мы можем предотвратить всё это, если обеспокоимся прямо сейчас.
И я заявляю об этом, проведя многие часы за беседами
с передовыми умами синбио
и изучением их работ для моих научных подкастов.
Хочу сказать, что я стал бояться того, что они делают, если кто-то ещё не понял,
(Смех)
но на самом деле моя цель — раскрыть потенциал их работ.
Благодаря им мы сможем победить рак, поможем окружающей среде
и перестанем плохо обращаться с братьями нашими меньшими.
Но как прийти к этому без того, чтобы уничтожить самих себя?
Прежде всего, хотим мы того или нет, синбио уже здесь,
так давайте примем эту технологию.
Если мы её запретим,
это только развяжет руки тем, кто имеет злой умысел.
В отличие от ядерных программ,
биологией можно заниматься незаметно.
Нарушение договоров о биологическом оружии со стороны Советского союза
это доказало, как доказывают и все их нелегальные медицинские лаборатории.
Во-вторых, давайте привлечём экспертов
в как можно большем количестве.
Уверен, если мы возьмём миллион и одного инженера,
по крайней мере миллион из них будут на нашей стороне.
Думаю, сам Аль Капоне был бы на нашей стороне в этом случае.
Порог входа в мир хороших парней тут довольно низкий.
Серьёзное численное преимущество тоже важно,
даже когда один человек может нанести сильный вред,
потому что помимо прочего
оно позволит нам выжать максимум из этого:
у нас есть годы и, надеюсь, десятилетия, чтобы подготовиться и предотвратить.
Человек, который попробует сделать нечто ужасное — а это точно произойдёт, —
возможно, ещё не родился.
Также эта инициатива должна охватывать всё общество.
Мы все должны в этом участвовать.
Потому что нельзя на маленькую группу экспертов одновременно
возлагать ответственность и за контроль, и за развитие синтетической биологии.
Мы ведь уже так делали с нашей финансовой системой.
Когда наши управители развратились до невозможности,
поняв, какие лазейки можно использовать,
чтобы подвергнуть нас колоссальным рискам,
а самим присвоить прибыль.
И стать отвратительно богатыми,
нажив на нас 22 триллиона долларов.
А совсем недавно...
(Аплодисменты)
Вы одни из тех, кто получил письма с благодарностью?
Лично я до сих пор жду.
Подумал, они слишком заняты, чтобы проявить благодарность.
А совсем недавно
появилась такая проблема, как приватность в Интернете,
и мы опять отдали всё на аутсорсинг.
И опять же:
на нас нажились, а прибыль присвоили.
Мне одному надоело такой отношение?
(Аплодисменты)
Нам нужен более инклюзивный подход, чтобы мы могли защитить нашу экономику,
нашу приватность,
и, в скором времени, и наши жизни.
Как же нам всё это сделать?
Когда наше тело борется с патогенами,
оно использует иммунную систему,
очень сложную и многослойную.
Почему бы нам не построить такую же для всей долбаной экосистемы?
В качестве первого критического уровня можно использовать год конференций TED.
Есть много прекрасных идей в этой области, которые ждут своего слушателя.
Можно направить исследования и разработку на то,
чтобы сделать те датчики патогенов, которые мы имеем сейчас,
более дешёвыми, но при этом и более продвинутыми.
Чтобы можно было без проблем
установить и использовать их
повсюду, как детекторы дыма или даже смартфоны.
Нужно отметить,
что с вакцинами тоже есть проблемы,
когда дело доходит до их производства и распространения.
А когда они изготовлены, они не могут приспосабливаться к новым мутациям.
Нам нужна гибкая биопроизводственная база,
которая будет охватывать каждую аптеку, а может быть, и наши дома.
Технологию печати вакцин и лекарств можно приблизить во времени,
если отдать ей приоритет.
Теперь, психическое здоровье.
Многие из тех, кто совершает суицидальные массовые убийства,
страдают от непосильных посттравматических стрессовых расстройств.
Нам нужны добрые исследователи вроде Рика Доблина,
но нам также нужно, чтобы эгоистичные придурки, которых гораздо больше,
признали тот факт, что депрессия скоро будет угрожать нам всем,
а не только тем, кто пережил травму.
Тогда эти придурки присоединятся к нам и к Аль Капоне
в нашей борьбе с этим состоянием.
В-третьих, каждый из нас может и должен быть белой кровяной клеткой
в этой иммунной системе.
Да, массовые убийцы вызывают омерзение,
но в то же время они ужасно несчастные и сломленные люди.
Те из нас, кто таковыми не является, должны позаботиться о том,
чтобы никого не обделили любовью.
(Аплодисменты)
Затем нам нужно добиться, чтобы борьба с этими угрозами
стала неотъемлемой частью синтетической биологии.
Существуют компании, утверждающие,
что позволяют своим инженерам тратить 20 процентов их времени
на то, что им интересно.
Что если те, кто нанимает биоинженеров
и становится ими,
20 процентов времени будут тратить на создание защиты для общего блага?
Неплохая идея, согласитесь?
(Аплодисменты)
И наконец, и это не очень весело,
мы должны позволить нашему воображению зайти в самые тёмные уголки,
и спасибо вам за то, что позволили мне отвести вас туда сегодня.
Мы пережили Холодную войну,
потому что каждый из нас осознавал и учитывал угрозу,
отчасти потому что мы потратили несколько десятилетий,
рассказывая себе страшилки,
такие как «Доктор Стрейнджлав»
и «Военные игры».
Сейчас не время сохранять спокойствие.
Сейчас как раз то самое время, когда самым эффективным является
обделаться от страха,
(Смех)
придумать несколько страшилок
и использовать наш страх как топливо для борьбы с этой опасностью.
Потому что все эти жуткие сценарии, о которых я рассказал,
они не предначертаны.
Этого может и не быть.
Беда всё ещё несколько отдалена.
И это означает, что она постигнет нас,
только если мы позволим ей это сделать.
Не допустим же этого.
Спасибо большое, что выслушали.
(Аплодисменты)
Yaklaşık yedi buçuk milyar insanız.
Dünya Sağlık Örgütü, 300 milyonun insanın depresyonda olduğunu
ve her yıl 800 bin kişinin intihar ettiğini söylüyor.
Bunların küçük bir kısmı aşırı nihilist bir yol seçiyor,
alabildikleri kadar can alarak ölüyorlar.
Son zamanlara dair ünlü örnekler var.
İşte pek de ünlü olmayan biri. Dokuz hafta önce gerçekleşti.
Eğer hatırlamıyorsanız
sebebi bunun çok fazla yaşanıyor olması.
Vikipedi geçen yıl 323 kitlesel silahlı saldırı saydı,
bunlar sadece evim Birleşik Devletler'de.
Saldırganların hepsi intihara meyilli değildi,
hepsi ölüm oranlarını maksimize etmeye çalışmıyorlardı
ama pek çoğu öyleydi.
Burada önemli soru şu: Bu insanları kısıtlayan şey ne?
Vegas saldırganını ele alalım.
Elli sekiz insanın canına kıydı.
Yeterli olduğunu düşündüğü için mi durdu?
Hayır, bunun cevabını biliyoruz çünkü 422 kişiyi de vurarak yaraladı,
onları öldürmeyi tercih ederdi.
Bu rakam 4.200 de olsa durmazdı.
Böylesi nihilist bir kişi hepimizi bile memnuniyetle öldürebilirdi.
Bunu bilemeyiz.
Bildiğimiz bir şey var ki
o da intihara meyilli katillerin o kararı verdiklerinde
teknolojinin bir kuvvet çarpanı olduğu.
İşte size bir örnek.
Birkaç yıl önce Çin'de 10 kitlesel okul katliamı oldu,
katliamlar bıçak, çekiç ve satır gibi şeyler kullanılarak yapıldı
çünkü orada silah erişimi gerçekten zor.
Korkunç bir tesadüftür ki bu son saldırı
Connecticut, Newtown'daki katliamdan sadece saatler önce oldu.
Ancak o tek Amerikan saldırısı
Çin'deki 10 saldırının toplamıyla yaklaşık aynı can kaybına sebep oldu.
Yani şunu söyleyebiliriz, bıçak ne kadar korkunçsa silah daha kötü.
Bir de uçak var: çok daha kötü.
Pilot Andreas Lubitz bunu bize
149 insanı kendisiyle intihara zorlayarak
uçağı Fransız alplerine çarptırdığında kanıtladı.
Buna dair başka örnekler de var.
Korkarım yakın gelecekte uçaklardan çok daha ölümcül silahlar var...
Metalden olmayan silahlar.
O bahsettiğim kıyamet dinamiklerini bir düşünelim,
intihara meyilli kitlesel cinayetin hızla gelişen bir alana taşındığını,
toplum için genellikle sınırsız vaat sunan bir alana...
Dünyanın herhangi bir yerinde başarısız dahi olsalar
eğer nasıl yapacaklarını anlarlarsa
hepimizi öldürmeye yeltenecek küçük bir grup insan var.
Vegas saldırganı onlardan biri olabilir de olmayabilir de
ama 7,5 milyar nüfusumuz düşünülünce
bu sayı elbette sıfır değil.
Çok sayıda intihara meyilli nihilist var.
Buna şahit olduk bile.
Kontrol edemedikleri şiddetli durum bozukluğu olan insanlar var.
Hayattan koparan travmalar geçirmiş insanlar var ve daha neler neler.
İnsanların geneli için
Soğuk Savaş baş gösterene kadar bu sayı hep sıfır olacaktı
ancak sonra ansızın bu iki küresel ittifakın liderleri
dünyayı mahvetme yeteneği elde etti.
Kıyameti koparacak o düğmeye sahip insan sayısı
o zamandan beri hep dengeliydi.
Ama korkarım bu sayı büyümek üzere
ve üçle sınırlı değil.
Daha önce hiç olmadığı kadar.
Bu bir teknoloji iş planına benzeyecek diyebilirim.
(Gülme sesleri)
Bunun sebebi de
üst düzey teknoloji çağında olmamız,
bu teknoloji bugüne dek imkânsız olan şeyleri ele alıp
bunları yaşayan birkaç dahinin süper gücü hâline getiriyor
ve -- burası önemli --
onlar da bu güçleri herkese karşı kullanıyorlar.
İşte size iyi niyetli bir örnek.
1952 yılında bir bilgisayarla dama oynamak istediğinizde
gerçekten istiyor olmanız gerekirdi,
sonra o bilgisayarın dünyadaki 19 kopyasından birini ele geçirir,
sonra da Nobel Ödülü'ne layık beyninizle ona dama öğretirdiniz.
Çıta buydu.
Şimdi ise telefonu olan birini tanıyan birini tanımanız yeterli
çünkü bilgisayar üst düzey bir teknoloji.
Sentetik biyoloji de öyle,
ben buna kısaca ''synbio'' diyeceğim.
2011'de iki araştırmacı
dama hilesi kadar zekice ve eşi görülmemiş bir şey yaptılar,
konu H5N1 gribiydi.
Enfekte ettiği insanların yüzde 60'ına kadarını öldüren bir silsile,
Ebola'dan daha fazla.
Ama hiç bulaşıcı değil,
öyle ki 2015 yılından beri 50'den can kaybına sebep oldu.
Bu araştırmacılar H5N1'in genomunda düzenleme yaptılar
ve onu inanılmaz öldürücü ve ayrıca bulaşıcı hâle getirdiler.
Dünyanın önde gelen iki bilim dergisinin birinin haberler kısmında
bu şey açığa çıktığı takdirde
milyonlarca can kaybıyla sonuçlanacak bir salgına sebep olacağı yazdı.
Dr. Paul Keim
bunun kadar korkunç bir organizma düşünemediğini söyledi,
Biyolojik Güvenlik Ulusal Bilim Danışma Kurulu Başkanı'ndan
benim asla duymak istemeyeceğim türden bir şey.
Bu arada Dr. Keim şunları da ekledi --
["Bununla karşılaştırılınca anthrax hiç korkutucu değil."]
Kendisi ayrıca...
[Anthrax uzmanı] (Kahkahalar)
İyi haber şu ki 2011 biyolojik hack olayında
bunu yapan insanlar bize zarar vermek istemiyorlardı.
Onlar virolog.
Bilimin ilerlemesine inanıyorlardı.
Kötü haber ise şu ki teknoloji olduğu yerde durmaz
ve önümüzdeki birkaç on yıl içinde
onların bu becerisi aşırı kolay olacak.
Aslında şimdiden çok daha kolay çünkü dün sabah öğrendiğimize göre
bu işi yapmalarından sadece iki yıl sonra
CRISPR sistemi genom düzenleme için ayarlandı.
Bu başlı başına bir çığır,
gen düzenlemeyi inanılmaz derecede kolaylaştırıyor.
O kadar ki CRISPR artık liselerde öğretiliyor.
Bu şey programlamadan daha hızlı ilerliyor.
Orada gördüğünüz yavaş, cansız beyaz çizgi var ya?
Moore yasası.
Programlamanın ucuzlamasının ne kadar hızlı olduğunu gösteriyor.
O hızlı, gösterişli yeşil çizgi...
genetik dizilimin ucuzlamasının ne kadar hızlı olduğunu gösteriyor.
Pekâlâ, gen düzenleme, sentezleme ve dizilim...
...bunlar farklı disiplinler ama birbirlerine bağlılar.
Şimdi hepsi hızla hareket ediyor.
Krallıklarının anahtarları ise bu küçücük veri dosyaları.
Bu gördüğünüz, H5N1'in genomundan bir alıntı.
Tüm şey sadece birkaç sayfaya sığabilir.
Merak etmeyin, eve gider gitmez Google'da bunu aratabilirsiniz.
Artık nasılsa her şey internette.
Bu şeyi bulaşıcı yapan kısım ise
bir Post-it kağıdına rahatça sığabilir.
Ve bir dahi bir veri dosyası yapar,
tüm aptallar onu kopyalayabilir,
tüm dünyaya dağıtabilir
veya basabilir.
Ve sadece şunun üzerine değil,
bunun üzerine de basılabilir.
Bir senaryo hayal edelim.
Yıl 2026 diyelim, gelişigüzel bir yıl seçmiş olalım
ve bilimi ilerletmek isteyen çok zeki bir virolog var,
salgın konusunu da daha iyi anlamak istiyor,
yeni bir mikro organizma geliştiriyor.
Kızamık kadar bulaşıcı,
Ebola kadar ölümcül
ve bir salgına sebep olmadan önce aylarca kuluçkaya yatıyor,
bu yüzden de tehlike görünmeden tüm dünya enfekte olabilir.
Sonra viroloğun üniversitesine erişiliyor.
Tabii bu bilim kurgu değil.
Son zamanlarda ABD'de görülen bir dava
300'den fazla üniversitede hack olaylarını irdeliyor.
Sonra o mikro organizmanın genomu internetin karanlık sayfalarına yayılıyor.
Dosya bir kez karşıya gitti mi bir daha geri gelmez --
bir fim şirketi veya müzik stüdyosu işleten herkese sorun.
Belki de 2026'da
bu canlı yaratığı yaratmak için
bizim örneğimizdeki virolog gibi bir dahi gerekir
ama belki de 15 yıl sonra,
tüm liselerde bulabileceğiniz bir DNA yazıcıyla iş hallolabilir.
Olmazsa da...
Bir 10 veya 20 yıl sonra kesin olur.
Şunu da hızlıca geçeyim.
Bu slaytı hatırladınız mı?
Bu iki kelimeye dikkat edin.
Biri bunu denerse ve yalnızca yüzde 0,1 etkili olursa
sekiz milyon insan ölür.
Bu tam tamına 2.500 tane 11 Eylül demek.
Medeniyet hayatta kalabilir
ama sonsuza dek kalıcı hasar taşır.
Bu da demek oluyor ki
amaca giden yolda en küçük şansı olan kişiye bile dikkat etmeliyiz,
sadece dâhilere değil.
Bugün yüzde 0,1 etkili ve belki biraz daha yüksek oranlı
bir kıyamet mikro organizması yapabilecek dâhi sayısı
bir elin parmaklarını geçmez.
Dengeli ve başarılılar ve bu grubun bir parçası değiller.
Ben de bununla zoraki barış içinde sayılırım.
Peki ama teknoloji geliştiğinde
ve bunlar yayıldığında
ve binlerce beşeri bilim öğrencisi bunlara erişim sağlayınca?
Her biri kusursuz şekilde dengeli olacak mı?
Peki ya birkaç yıl sonra,
stres yüklü tıp öğrencileri bunlara erişim sağlayınca?
O zaman çerçevesi içinde,
o çemberler kesişecek
çünkü burada bahsettiğimiz şey
tüm dünya üzerinde yüz binlerce insan.
Buna bir de Joker gibi giyinip
Batman filminin ön gösteriminde 12 kişiyi öldüren adamı da ekleyelim.
Kendisi sinirbilim doktora öğrencisiydi,
NIH bursu vardı.
Peki, sürpriz gelişme:
Buna şimdi odaklanırsak hayatta kalabileceğimiz kanısındayım.
Bunu söylüyorum çünkü saatlerimi harcayarak
synbio üzerinde glonal liderlerle konuştum
ve ayrıca yarattığım bilim podcasti için yaptıklarını araştırdım.
Başardıkları işler beni korkuttu, eğer fark etmediyseniz diye söylüyorum --
(Kahkahalar)
ama daha da önemlisi, bunun potansiyelini onurlandırmak için de.
Bu şey kanseri tedavi edecek, çevreyi iyileştirecek
ve diğer canlılara olan zulmü durduracak.
Kendimizi imha etmeden tüm bunları nasıl yapacağız?
Birincisi, beğenin ya da beğenmeyin, sentetik biyoloji kapımıza dayandı,
o yüzden bu teknolojiyi kucaklayalım.
Eğer bir teknoloji yasağı koyarsak
O zaman direksiyonu kötü aktörlere devretmiş oluruz.
Nükleer programların aksine,
biyoloji görünmez şekilde çalışılabilir.
Dev Sovyetler'in biyolojik silah anlaşmaları ihlalleri bunu netleştirdi,
tabii dünyadaki her yasa dışı madde de öyle.
İkincisi, uzmanlara sahip çıkın.
Onları bu işe dahil edelim.
Sahip olduğumuz her bir milyon bir biyo mühendis için
en azından bir milyonu bizim tarafımızda olacaktır.
Al Capone bizim tarafımızda olacaktır.
İyi insan olmanın çıtası o kadar düşük ki.
Dev sayısal avantajların da önemi var,
tek bir kötü adam çok büyük zarara sebep olsa da...
çünkü pek çok şeyin yanında
bu şeyi tam tamına kullanmamızı sağlıyorlar:
Hazırlık ve önlem için yıllarımız ve umuyorum ki on yıllarımız var.
Korkunç bir şey deneyecek ilk kişi -- biri mutlaka olacak --
henüz doğmamış bile olabilir.
Sonra, bu topluma yayılan bir çaba olmalı
ve her biriniz bunun parçası olmalısınız
çünkü küçük bir grup uzmandan
sentetik biyolojiyi hem muhafaza edip hem de fayda gütmelerini isteyemeyiz
çünkü bunu finansal sistemle zaten denedik
ve finans çalışanlarımız umarsızca işi yapmayı öğrendikçe
büyük ölçüde yozlaştılar,
üzerimize devasa riskler yüklediler,
kazançları özelleştirdiler,
kötü bir şekilde zenginleştiler
ve bizi 22 trilyon dolarlık borçla kapana kıstırdılar.
Daha da yakın zamanda --
(Alkışlar)
Teşekkür mektuplarını alanlar siz misiniz?
Benimkini hâlâ bekliyorum.
Sanırım minnet duymak için çok meşguldüler.
Daha da yakın zamanda,
internet gizliliği büyük bir patlak verdi
ve bunu dış kaynaklara yaptırdık.
Bir kez daha
özelleştirilen kazançlar, sosyalleşen kayıplar.
Bu kalıptan bıkıp usanan kim var?
(Alkışlar)
Refahımızı korumak için daha katılımcı bir metota ihtiyacımız var
ve gizliliğimizi
ve de çok yakında... hayatlarımızı.
Peki tüm bunları nasıl yaparız?
Vücudumuz patojenlerle savaşırken
maharetli bağışıklık sistemi devreye girer,
çok karmaşık ve çok katmanlı bir sistem.
Bunlardan bir tanesini tüm ekosistem için neden yapmıyoruz?
İlk katmana yönelik konuşmalar içeren bir TED Talks yılı yapılabilir.
Bunlar sadece pek çok harika fikirden birkaçı.
Biraz Ar-Ge emeği ile
şu an sahip olduğumuz ilkel patojen sensörlerini alıp
çok eğimli bir fiyat performansına taşıyabiliriz,
bu kısa sürede dikkat çeker
ve buna sahip çıkılır
ve adım adım duman detektörü ve hatta akıllı telefon kadar yaygınlaşır.
Şunu da ekleyeyim,
üretimi ve dağımıtı söz konusu olunca
aşıların da türlü türlü sorunları var.
Ve bir kez yapıldıklarında yeni tehdit ve mutasyonlara adapte olamıyorlar.
tam teşekküllü bir biyo üretim üssü lazım,
her bir eczaneye kadar uzayacak ve hatta evlerimize bile.
Aşı ve ilaç için yazıcı teknolojisi ulaşabileceğimiz seviyede,
tabii öncelik olursa.
Sonra, akıl sağlığı.
İntihar meyilli kitlesel katliam zanlıları
tedaviye yanıt vermeyen depresyon veya TSSB yaşıyorlar.
Rick Doblin gibi bunun üzerinde çalışan asil araştırmacılara ihtiyacımız var
ama ayrıca sayılarla uğraşan bencillere de
çünkü bu akut rahatsızlıkların hepimizi tehlikeye soktuğunu söylüyorlar,
sadece onu yaşayanları değil.
Bu benciller bu durumla savaşmada
bize ve Al Capone'a katılacak.
Üçüncüsü, her birimiz bu bağışıklık sisteminde
beyaz kan hücresi olabiliriz ve olmalıyız.
İntihara meyilli kitlesel caniler rezil olabilirler, tamam
ama aynı zamanda korkunç derecede kırılmış ve üzgün insanlar
ve bu durumda olmayan bizlere düşen görev
kimsenin sevgisiz kalmadığından emin olmak.
(Alkışlar)
Sonra da bu tehlikelerle savaşmayı
sentetik biyolojinin temel prensibi hâline getirmeliyiz.
Pek çok şirketin iddia ettiğine göre
mühendisleri zamanlarının yüzde 20'sini
istediklerini yaparak geçiriyor.
Peki biyo mühendis işe alan
ve biyo mühendis olan kişiler
herkesin yararı için savunma geliştirmeye zamanlarının yüzde 20'sini verseler?
Kötü bir fikir olmazdı.
(Alkışlar)
Son olarak da... Bu hiç eğlenceli olmayacak.
Ama zihnimizin bazı çok ama çok karanlık yerlere gitmesine izin vermeliyiz
ve sizi bu akşam o yerlere götürmeme izin verdiğiniz için teşekkürler.
Soğuk Savaş'tan sağ çıktık
çünkü hepimiz tehlikeyi anladı ve ona saygı duydu,
bunun kısmen bir sebebi de
yıllarca kendimize anlattığımız korkunç hayalet hikâyeleri,
''Dr. Strangelove'' gibi isimlerle
ve ''Savaş Oyunları.''
Sakin olma zamanı değil.
Panik yapmanın inanılmaz üretken olduğu
o nadir zamanlardan biri --
(Kahkahalar)
hayalet hikâyeleri çıkarmak için
ve korkumuzu bu tehlikeyle savaşmak için yakıt olarak kullanmada.
Çünkü size sunduğum bu korkunç senaryolar
kader değil.
Seçenek.
Bu tehlike hâlâ uzak sayılır.
Bu da demek ki biz izin verirsek
üzerimize çökecek.
İzin vermeleyim.
Dinlediğiniz için teşekkürler.
(Alkışlar)
现在地球上大约有75亿人口。
世界卫生组织告诉我们这其中 有3000万人身患抑郁症，
每年大约有80万人选择 结束自己的生命。
他们中的一小部分选择了 一种深刻的虚无主义路线，
那就是他们选择通过杀死 尽可能多的人的方式死去。
这里有一些最近比较著名的例子。
同时也有一个不那么出名的。 这件事发生在大约九个星期前。
如果你不记得了，
是因为有太多这样的事情在发生。
维基百科仅去年就统计了 323起大规模枪击事件，
发生在我的故乡，美国。
并不是所有的那些 枪击犯都想自杀，
并不是所有人都在 最大化死亡人数，
但是很多、很多人是。
一个重要的问题变成了： 这些人有上限吗？
以拉斯维加斯枪击案为例。
他屠杀了58人。
他在那里停下来是 因为他杀够了吗？
不是的，我们知道这一点是 因为他击伤了另外422人，
而这些人他肯定更愿意 选择杀死他们。
我们没有理由去认为他可能 会在4200人时停下来。
事实上，对某些虚无主义的人来说， 他可能会非常乐意把我们都杀了。
我们不知道。
我们知道的是：
当自杀式凶手真的全部都要杀人时，
技术则是力量倍增器。
这里有一个例子。
回到几年前，中国发生了十起 不顾后果的校园攻击，
这些攻击使用的是像刀、 铁锤和劈刀等工具，
因为在中国枪是很难获取的。
可怕的巧合是，这最后一次 袭击发生的时间
正好是康涅狄格州纽镇 大屠杀的几个小时前。
但是那一次美国式袭击 受害人数量大约
是十次中国袭击的总和。
所以我们可以说， 刀：可怕；枪：更糟糕。
飞机：相当糟糕，
飞行员Andreas Lubitz展示过 他强迫149个人
加入他的自杀行为，
将飞机撞上了法国阿尔卑斯山脉。
这有一些其它这样的例子。
我很担心在不久的未来将会有 比飞机更加致命的武器出现，
没有一个是金属制造。
所以我们可以认为 如果大规模自杀式谋杀
搭上了社会快速发展的便车， 那么世界末日的动力将随之而来，
而这个领域在很大程度上 能为社会带来无限的希望。
在这个世界上的某个地方， 有那么一小部分人，
如果他们知道方法，
会尝试把我们都杀光。
拉斯维加斯的枪手可能是， 也可能不是这其中的一员，
但是我们有75亿的人口，
这是个非零的总体。
这世界上有很多自杀虚无主义者。
我们已经见到过了。
同样也有很多人有着他们自己 也无法控制的严重的情绪障碍。
也有人经受着精神错乱的创伤，等等。
至于推论群体，
它的规模在冷战之前一直是零。
突然之间，两个全球性联盟的领导人
获得了炸毁世界的能力。
从那之后，实际拥有 世界末日按钮的人数
一直保持着稳定。
但是恐怕这个数字将会增长，
而且并不止三个，
已经多到图表快要装不下了。
我的意思是，它看起来 像一个技术企业计划。
（笑声）
而原因则是，
我们处在技术爆炸的时代，
常规来说就是将永恒的不可能
变成一两个现有天才的 实实在在的超能力，
并且——这是很重要的一部分——
然后这些能力多多少少 会扩散到每一个人。
这里有一个很好的例子。
如果你想在1952年用电脑玩跳棋，
你必须得是那个家伙，
然后霸占世界上19台 电脑的其中一台，
用你媲美诺贝尔奖 的大脑教它下跳棋。
那就是当时的门槛。
今天你只需要认识一个 知道谁有电话的人，
因为计算机是指数级增长的技术。
合成生物学也是如此，
今天我会称之为"synbio"。
2011年，一群研究者 用H5N1病毒做了件
就像跳棋一样非常巧妙
和史无前例的事情。
H5N1这种病毒能杀死60%的感染者，
致死率超过埃博拉病毒。
但它的传染性很弱，
自2015年以来只造成了 不到50人死亡。
于是这些研究者 编辑了H5N1的基因
并使其更致命，但也具有 更广泛的传染性。
世界两大科学期刊之一 的新闻部门表示，
如果这个东西被泄露出去， 很可能会大面积传染，
导致数百万人的死亡。
Paul Keim博士说，
他想不出还有什么生物体这么可怕，
这是我个人最不想从
国家生物安全科学咨询委员会 主席那里听到的。
顺便说一句，Keim博士还提到：
【“跟这些相比， 我不认为炭疽热可怕。】
他还是这群人中的一员：
【炭疽专家】 （笑声）
好消息是2011年的生物黑客
对我们并无恶意。
他们是病毒学家。
他们相信他们在推动科技发展。
坏消息是科技不会冻结在一个地方，
在接下来的几十年里，
他们的壮举将会变得非常简单。
事实上，现在已经非常容易了， 因为我们昨天早上了解到，
仅在他们利用CRISPR系统
进行基因组编辑的两年后。
就有巨大的突破
使得基因编辑变得非常容易——
简单到以至于高中 就开始教授CRISPR了。
这个东西发展的速度比计算机还快。
那条缓慢的，笨重的白色线条
是摩尔定律。
这展示了计算机是如何变便宜的。
那条陡峭有趣的绿线，
则展示了基因测序 如何变得越来越便宜。
基因编辑，合成和测序，
它们是不同的学科，但又紧密关联，
都在快速发展。
通向王国的钥匙是这些 很小很小的数据文件。
这是H5N1基因代码的片段。
只需要几张纸就能装下全部的信息。
不要担心，你回到家后 就可以谷歌搜索它了。
它在网上全都可以找到。
而使它具有传染性的部分字母
用一张便利贴就能写下。
一旦一个天才生成了一个数据文件，
任何白痴都能复制它，
在全球分发
或打印出来。
我说的不是这样的打印，
而是不久之后，像这样。
让我们想象一个场景。
比如说在2026年，任意选择一年，
一个天才的病毒学家， 抱着推动科学进步的希望
也为了更好的理解流行病，
设计了一个新的臭虫。
它和水痘一样具有传染性，
它和埃博拉一样致命，
并且会在病毒爆发前潜伏好几个月，
所以整个世界在问题征兆 出现之前都被感染了。
然后，她的大学实验室被黑了。
当然，这并非科幻故事。
事实上，仅最近一份美国起诉书
就记录了对300多所大学的黑客攻击。
于是包含那个臭虫基因的文件 被传播到互联网的黑暗角落。
并且一旦文件散播出去了， 它就再也回不来了——
只需去问问做过 电影和唱片公司的人。
所以可能是在2026年，
只有像我们的病毒学家这样的天才
才能制造出活生生的生物，
但15年之后，
也许一台你能在任何一所高中 找到的DNA打印机就能做到。
假如还没有？
那就再给几十年的时间。
顺便提一下：
记得这张幻灯片吗？
把你的注意力放在这两个词上。
如果有人这样做， 并且只有0.1%奏效了，
800万人会死亡。
那是911事件的2500倍。
文明可能会幸存下来，
但它将永久毁容。
所以这意味着 我们需要关注任何一个
能够直达目标的人，
而不仅仅是天才。
所以今天，只有一小撮的天才
能够制造末日害虫，
还是0.1%的效率或者更高。
他们倾向于稳定和成功， 所以不属于这个群体。
所以我会勉强感觉还好。
但在技术进步，
和扩散之后，
并且成千上万的生命科学院 的学生也参与其中了呢？
他们每一个人都情绪稳定吗？
或者再过几年后，
每一个压力重重的 预科医学生也武装上了呢？
在那个时间段的某个时间点，
这些圆就会相交，
因为现在我们谈论的是全世界
成千上万的人。
最近还包括了那个穿得像小丑，
在蝙蝠侠首映式上射杀12人的人。
他还是个获得了 国家卫生研究院资助的
神经科学博士生。
好了，情节曲折：
我认为我们如果现在就开始关注 这个问题，实际上可以挺过这次危机。
我这样说，是基于花了无数的时间
采访全球合成生物领域的领袖，
同时也为我制作的科学播客 研究他们的工作。
我开始害怕他们的工作了， 我可能还没有表达出这个意思——
（笑声）
但更重要的是，要重视他们的潜力。
这些东西将可以治疗癌症， 恢复我们的环境，
并停止我们对其他生物的残忍对待。
那么我们如何在不毁灭自己 的情况下实现？
首先，不管喜欢与否， 合成生物已经出现了，
那么让我们拥抱这个科技。
如果我们做科技封锁，
只能把方向盘送给坏人。
跟核项目不同，
生物学可以在不可见的情况下进行。
苏联在生物武器条约上的大规模欺骗，
以及世界上所有的非法药物实验室， 都清楚地表明了这一点。
第二，赢得专家。
让我们把他们召集起来。
对于100万零1个生物工程师，
至少有100万人要站在我们这边。
艾尔·卡彭会站在我们这边。
成为好人的门槛是如此之低。
数量上的巨大优势确实很重要，
即便当一个坏人 也能造成巨大的伤害时，
因为在其他很多事情中，
他们让我们利用这一切：
我们有几年甚至几十年 的时间来准备和预防。
有第一个人尝试糟糕的事情—— 就会有另一个人——
现在可能还没有出生。
接下来，这需要跨社会的努力，
你们所有人都应该参与进来，
因为我们不能要求一小群专家
对合成生物学的开发和利用负责，
毕竟我们已经在金融系统中试过了，
我们的管家会变得非常腐败，
一旦他们知道如何偷工减料，
给我们其他人带来巨大的风险，
并获取私利，
他们会在变得极端富有的同时，
给我们留下22万亿美元的债务。
还有最近——
（鼓掌）
你们谁收到了感谢信了吗？
我还在等我的。
我想他们一定太忙而忘记感谢了。
最近，
在线隐私开始成为一个大问题，
我们基本上是把它外包出去。
并且再一次：
私人得益，社会受损。
有人讨厌这种模式吗？
（鼓掌）
所以我们需要更包容的方法 来保护我们的繁荣，
我们的隐私，
并且很快，我们的生命。
那么我们该怎么做呢？
当身体对抗病原体时，
它们使用巧妙的免疫系统，
免疫系统相当复杂，层次丰富。
我们为什么不为整个该死的 生态系统构建一个？
仅仅讨论第一个关键层面 就足以举办整整一年的TED演讲。
所以这些只是一些很好的想法。
一些研发人员
可以利用我们目前拥有的 非常原始的病原体传感器，
将它们置于一个非常陡峭 的价格性能曲线上，
这个曲线很快就会变得巧妙
而网络化，
并像烟雾探测器， 甚至智能手机那样逐渐普及。
一个非常相关的事项：
疫苗在生产
和销售方面存在各种问题，
一旦生产了，它们就不能适应 新的威胁或突变。
我们需要一个灵活的生物制造基地，
延伸到每一个药店， 甚至我们的家庭。
如果我们以此为先， 疫苗和药物打印技术
就会变得触手可及。
下一个，心理健康。
很多有自杀式谋杀行为的人
怀有严重的难以治疗的抑郁症 或创伤后应激障碍。
我们需要像里克·多布林这样的 高尚研究者来研究这个问题，
但我们也需要让 更多自私的傻瓜认识到，
剧烈的痛苦将很快危及我们所有人，
不仅只是那些遭受过的人。
那些傻瓜会加入我们和艾尔·卡彭
的战斗来对抗这种状态。
第三，我们每个人能够且 应该成为这个免疫系统的
白细胞。
自杀式大规模谋杀是可鄙的，
但他们也是陷入绝望无法自拔的人，
他们是那种不需要尽我们所能
去确保没有人爱的人。
（鼓掌）
下一点，我们需要把对抗这些危险
置于合成生物的中心。
外面有些公司至少声称
他们让他们的工程师花20%的时间
做任何想做的事情。
如果这些雇佣生物工程师
并成为工程师的人
把他们20%的时间用在为 共同利益进行防御上会怎样？
不是个糟糕的主意吧？
（鼓掌）
最后：这可不好玩。
我们需要把智慧放到 非常，非常黑暗的地方，
谢谢大家倾听我的介绍。
我们挺过了冷战，
因为我们每个人都理解和重视危险，
部分是因为我们花了几十年时间
为自己讲述可怕的鬼故事，
诸如“奇爱博士”
和“战争游戏”。
现在不是保持冷静的时候。
这是一个难得的时刻，把自己吓坏
是非常有效的——
（笑声）
去想一些鬼故事，
并使用我们的恐惧作为能量 来对抗这个危险。
因为，我所描述的所有恐怖场景——
它们不是宿命。
它们是可选的。
我们离危险仍然有些距离。
这意味着只有我们允许，
它才会降临到我们身上。
别让它发生。
谢谢大家的倾听。
（鼓掌）
世界上大約有七十五億人口
世界衛生組織告訴我們 有三億人有憂鬱症
而且每年有八十萬人自殺
當中一小群人採取 一種極端虛無主義的路線
就是他們死的時候 也要盡可能殺死愈多人愈好
這些是近期知名的案子
這個案子則比較少人知道 它發生在九個星期前
如果你不記得它
那是因為很多類似的事不斷上演
根據維基百科，光是去年 就有 323 起大規模槍擊事件
發生在我的祖國：美國
並非所有兇手都有自殺傾向
並非所有兇手都想 把死亡人數衝到最高
但許多兇手的確是如此
關鍵的問題變成是： 這些兇手殺人有沒有限度？
比如，拉斯維加斯槍擊案兇手
他屠殺了 58 人
他停下來，是因為殺夠了嗎？
我們知道不是如此 因為他還射傷另外 422 人
他當時肯定想殺掉這些人
我們沒理由認為 他會在殺了 4200 人時停手
事實上，這麼虛無主義的人 他可能很樂意殺光我們
我們不知道
我們確實知道一點：
有自殺傾向的兇手賭上一切時
科技加強了殺傷力
這裡有個案例
幾年前，中國爆發了一連串 共十起大規模學校攻擊事件
武器包括刀子、鐵槌、切肉刀
因為在中國很難取得槍枝
恐怖的巧合是 最後一次攻擊的發生時間
只比康乃狄克州紐敦大屠殺早幾小時
但這場美國攻擊事件的受害人數
大約等同那十起中國攻擊事件 受害人數的加總
所以，我們可以公平地說 刀子：很可怕；槍枝：更糟糕
飛機：糟糕透頂了
因為飛行員安德烈亞斯·盧比茨 證明了他可以強迫 149 個人
陪他一起自殺
將一架飛機開去撞法國阿爾卑斯山
還有像這樣的其他案例
我擔心不久的將來 還會出現比飛機更致命的武器
不是用金屬做的
我們來想一下 如果有自殺傾向的兇手
利用一個快速進步的科技 會造成什麼樣的大災難
而且這個科技還為社會帶來無限前景
在世界的某處有一小群人
不論做法多笨拙，也會嘗試
殺光我們所有人 只要他們想出辦法來
拉斯維加斯槍擊案兇手 可能是這種人，也可能不是
但世界上有七十五億人
絕對會有這種人存在
外面有不少自殺傾向的虛無主義者
我們已經看過了
有些人具有嚴重的情緒失調 他們自己甚至無法控制
也有人受到精神上的創傷等等
這類的人
在冷戰時期前，人數始終是零
突然間，世界兩大聯盟的領導人
擁有可以炸掉全世界的能力
從那之後，擁有末日按鈕的人數
就一直維持不變
但我擔心這個人數要開始成長了
而且不只從兩人變成三人
這人數將會爆表
看起來像科技公司的商業計畫一樣
（笑聲）
而且理由是
我們身處在指數成長的科技時代
這個時代會一直挑戰永遠不可能的事
然後把這些事轉變成天才般的超能力
而且，重點是：
接著會將那些超能力 普及到每個人身上
舉一個無害的例子
在 1952 年，如果你想要 用電腦玩西洋跳棋
你就一定得是那個傢伙
然後一定要使用那種電腦 而世界上僅有十九台
再用你聰明絕頂的大腦來教它下棋
你要面對這些限制
現今，你只需要認識某個人 而他又認識有手機的人即可
因為運算是一種指數成長的科技
合成生物學也是如此
接下來我會簡稱為「合生學」
2011 年，幾位研究員 做了一件事情
和西洋跳棋的把戲一樣巧妙且空前
但應用在 H5N1 流感上
被這類病毒感染的人 高達六成會死亡
致死率比伊波拉還高
但它的傳染性不強
所以從 2015 年之後 死亡人數不到五十個
這些研究員編輯 H5N1 基因組
讓它維持原本的致命性 還能廣泛傳染
世界前兩大科學期刊之一的 新聞部門指出
如果這東西流出去 會造成一場大規模流行病疫情
可能會有數百萬人死亡
保羅‧克伊姆博士說
他想不出比這更可怕的有機體
我最不想從國家生物安全科學 顧問委員會主席口中聽到這話
順便一提，克伊姆博士也說過—— 【我不認為炭疽比這更可怕】
而他也是一位炭疽專家 【我不認為炭疽比這更可怕】
（笑聲）
在 2011 年有關生物駭客的好消息是
做這件事的人並不是為了傷害我們
他們是病毒學家
他們相信自己將科學向前推進
壞消息是，這項科技 並沒有適時停下來
而且接下來幾十年
一般人要做到他們的壯舉 會變得輕而易舉
事實上，現在就已經容易許多了 因為昨天早上我們得知
在他們研究兩年後
CRISPR 系統就被用來 做基因組編輯
這是一項根本性的突破
讓基因編輯變得簡單許多
簡單到現在連高中都在教 CRISPR 了
這東西的進展速度比電腦運算更快
上面那條緩慢下降的白線是什麼？
那是摩爾定律
它代表電腦運算成本下降有多快
而那條誇張陡峭的綠線
代表基因定序成本下降有多快
基因編輯、合成和定序
它們是不同的學科，但它們息息相關
它們都以驚人的速度在發展
進入這個王國的鑰匙 就是這些極小的資料檔案
這是 H5N1 基因組當中的一段
整個基因組的長度大概會佔幾張頁面
別擔心，你回家就可以趕快搜尋一下
網路上到處都有，對吧？
讓它變成有傳染性的那一部分
可以放進一張便利貼
只要有位天才做出一個資料檔案
任何白痴都能複製它
將它發佈到全世界
或把它列印出來
我指的不僅是印在這上面
不用多久，也可以印在這上面
我們來假想一個情境
比如 2026 年，隨便挑一年
一位優秀的病毒學家希望科學再進步
為了進一步暸解流行病
因此設計了一種新的病菌
它的傳染性不輸給水痘
致命程度和伊波拉一樣
它醞釀數個月才會爆發
所以，發現任何危險徵兆前 全世界可能已經被感染了
然後，她的大學被駭客入侵
當然，這不是科幻小說
事實上，美國最近有份起訴書
記載超過三百間大學被駭客侵入
附帶病菌基因組的檔案 便散播到網路的黑暗角落
一旦檔案流出去，就再也回不來了
去問電影或唱片公司的人 他們知道這種事
也許在 2026 年
要像病毒學家這樣的天才
才能製造出活生生的異常生物
但十五年之後
可能只要使用任何高中都有的 DNA 列印機就可以辦到
如果不是這樣？
再過幾十年後仍然會成真
讓我打個岔
記得這張投影片嗎？
把注意力放在這兩個字上面：
【或許】
如果有人試圖利用這種方式殺人 儘管成功機率只有 0.1%
就有八百萬人會死亡
等同九一一事件發生兩千五百次
文明會存活下來
但它會受到永久性傷害
這就表示我們得要擔心
任何有一丁點機會 達成這個目標的人
不能只擔心那些天才
現今，只有一小群天才
才有可能做出末日病菌
那大概是 0.1% 的成功機率 或稍微高一點
這些通常是穩定且成功的人
所以不屬於這個族群 【想殺光所有人的一群人】
所以我還勉強可以接受 【想殺光所有人的一群人】
但是如果科技進步了
而且普及了
數千名生命科學研究生 都能夠做得到呢？
但是每一個研究生都很穩定嗎？
如果再過個幾年
每個壓力大的醫學院預科生 也都能做到呢？
到時候，某個時間點
這些圓圈將會有交集
因為我們在談的是全世界數十萬人
最近，這類人當中 有一位穿著像是小丑
在蝙蝠俠首映會上射殺了十二個人
他是一位神經科學博士生
拿了國家衛生研究院的獎助金
好吧，劇情有所翻轉了：
如果我們現在開始重視這個問題 是有機會安全度過
我會這麼說，而且已經花了無數小時
訪問全世界的合生學領導人
為了我所創立的播客節目 我也去研究他們的成果
我開始對研究成果感到擔憂 即便我還沒完全弄懂
（笑聲）
但不只如此，我更敬畏它的潛力。
這些研究可以治療癌症 改善我們的環境
阻止我們用殘酷的方式對待其他生物
我們要如何做到這些成果 同時不要毀滅我們自己？
首先：不論你們喜不喜歡 合生學的時代來臨了
所以，我們就擁抱這項科技吧
如果我們頒佈科技禁令
那只會把掌控權交到壞人手上
這不像核能計畫
生物學可以用看不見的方式進行
蘇聯大量違反生化武器協定 就是很好的證明
其他的例子還有 世界各地的非法藥品實驗室
第二，召募專家
把他們簽下來，愈多愈好
每一百萬零一名生物工程師當中
至少一百萬名是站在我們這邊的
這件事上，連黑幫老大 也會站在我們這邊
成為好人的標準非常低
在人數上有大量優勢還是很重要
即使是只有一個壞蛋 造成巨大傷害的情況下
因為其中一個好處
就是使我們能夠利用這點：
我們還有數年，希望有數十年 可以做好準備和預防
第一個嘗試去做恐怖事的人 將來會做這件事的人
可能還沒出生
接著，整個社會要一同努力
所有人必須要參與
因為我們不能要求一小群專家
既要負責遏制合成生物學 又要利用合成生物學
因為我們對金融體制試過這個做法
我們的財務管理者變得非常腐敗
他們想出走捷徑的方式
讓我們其他人承受非常大的風險
並將利益放進自己的口袋裡
用令人反感的手段致富
同時丟給我們 一張 22 兆美元的帳單
更近期——
（掌聲）
你們是有收到感謝信的人嗎？ 我還在等我的信
我覺得他們是太忙所以沒空感恩
再更近期
網路隱私這個重大議題開始出現
而我們基本上就是把它外包
而且同樣的是：
利益放進個人口袋，社會來分攤虧損
還有人也對這種事感到厭倦嗎？
（掌聲）
我們需要用更包容的方式
來維護我們的繁榮
我們的隱私
不久後，還要維護我們的性命
我們要怎麼做到這一切？
當身體要對抗病原體時
身體會使用很精巧的免疫系統
這種系統非常複雜、多層次
我們何不為整個生態建造這種系統？
針對第一項重要的醫學層面 就可以辦一整年的 TED 演說
外面有許多很棒的點子 這些只是其中一部分
靠著研發能力
可以改良目前非常原始的 病原體感測器
將其價格降低，效能大幅提升
這很快就會變得精巧
而且可以連上網路
漸漸和煙霧偵測器 甚至是智慧手機一樣普遍
我做一個相關的補充：
疫苗在製造和配送上
有各式各樣的問題
而且一旦疫苗被做出來了 就無法適應新的威脅或突變
我們需要有彈性的生化製造基地
能延伸到每一間藥房 或甚至我們的家中
疫苗及藥物的列印技術 已經快要實現了
如果我們把它列為第一優先順序
接著，心理健康層面
許多犯下大規模自殺式攻擊的人
都有肢體傷殘、難治型憂鬱症 或是創傷後壓力症候群
在這個議題上，我們需要 優秀的研究者如瑞克‧杜布林
但同時也需要讓許多自私的混蛋
領悟到劇烈的苦難 很快就會危及到我們所有人
而不是只有那些相關的人
那些混蛋接著會攜手黑幫老大和我們
一起對抗這個情形
第三，我們每個人
在這個免疫系統之中都可以 也應該成為白血球
大規模自殺式攻擊的兇手相當的卑劣
但是他們也是相當傷心絕望的人
而我們需要竭盡所能
讓每個人都感受到關愛
（掌聲）
接著我們需要對抗
危害合生學核心原則的事物
外面有些公司至少聲稱
他們讓工程師擁有五分之一的時間
去做他們想做的事情
如果那些雇用生物工程師的人
變成工程師
花掉他們五分之一的時間 為公共利益建立防禦機制好嗎？
這是個不錯的點子吧？
（掌聲）
最後：這一切不會太有趣
但是我們需要去思考 一些非常灰暗的地方
而且我感謝大家 讓我今晚能夠帶著各位省思
我們度過了冷戰
因為我們每個人都瞭解 而且敬畏戰爭的威脅
一部分是因為我們 曾用了幾十年的時間
告訴我們自己一些相當驚悚的鬼故事
像是《奇愛博士》
還有《戰爭遊戲》
現在沒有時間保持冷靜
這是一個罕見的時代
搞出一堆嚇死人的鬼東西
（笑聲）
這是為了想出一些鬼故事
利用我們的恐懼 作為對抗危險的動力
因為我所描繪的糟糕情境
並不是注定要發生的
而是取決於我們的選擇
這個威脅還距離我們有些遠
但是如果我們放任它
那麼災難將會降臨在我們頭上
我們千萬別這麼做
非常感謝大家的聆聽
（掌聲）