Bruce Schneier: De illusie van veiligheid

Het gevoel van veiligheid en de daadwerkelijke veiligheid komen niet altijd overeen, zegt computerveiligheidsexpert Bruce Schneier. Bij TEDxPSU legt hij uit waarom we miljarden uitgeven aan risicoverhalen uit het nieuws, zoals het 'veiligheidstheater' dat zich afspeelt bij uw lokale vliegveld, terwijl we waarschijnlijkere risico's negeren -- en hoe we dit patroon kunnen doorbreken.

Veiligheid bestaat uit twee dingen:

Je gevoel en de realiteit.

En deze zijn verschillend.

Je kan je veilig voelen

als je dit niet bent.

En je kan veilig zijn

maar je niet zo voelen.

Echt, we hebben twee verschillende concepten

en slechts één woord.

En wat ik in dit gesprek wil doen

is deze twee concepten splitsen --

Ontdekken wanneer ze niet samengaan

en hoe ze samenkomen.

En taal is eigenlijk een probleem hier.

Er zijn niet veel goede woorden

voor de concepten waar we over gaan praten.

Dus als je naar veiligheid kijkt

vanuit een economisch perspectief,

dan krijg je een afweging.

Elke keer dat je veiligheid krijgt,

ben je iets aan het opofferen.

Of dit een persoonlijke beslissing is --

wanneer je bijvoorbeeld een alarminstallatie laat aanbrengen thuis --

of een nationale beslissing -- of je een ander land gaat binnenvallen --

je gaat er iets voor opofferen,

zoals geld of tijd, comfort, capaciteiten,

misschien belangrijke vrijheden.

En de vraag die je moet stellen als je naar zo'n veiligheidssituatie kijkt

is niet of je hier veiliger van wordt,

maar of het het offer wel waard is.

Je hebt in de afgelopen paar jaar wel eens gehoord

dat de wereld veiliger is omdat Saddam Hoessein niet meer aan de macht is.

Dat is misschien waar, maar het is niet heel erg relevant.

De vraag is: Was het het waard?

En daar kan je je eigen besluit in nemen,

dan beslis jij of de invasie de moeite waard was.

Dat is hoe je over veiligheid moet denken --

wat betreft de afweging.

Nu is er vaak geen goed of fout hier.

Sommigen onder ons hebben een inbraakalarm thuis,

en sommigen niet.

En dat hangt af van waar we wonen,

of we er alleen wonen of met een gezin,

hoeveel coole spullen we hebben,

in hoeverre we het risico

van diefstal willen accepteren.

In de politiek is dat ook zo,

er zijn verschillende meningen.

En heel vaak gaan deze afwegingen

om meer dan alleen veiligheid,

en ik denk dat dat belangrijk is.

Mensen hebben een natuurlijke intuïtie

bij deze afwegingen.

We doen het iedere dag --

vannacht in mijn hotelkamer,

toen ik besloot de deur dubbel op slot te doen,

of toen je met de auto hierheen reed,

als we gaan lunchen

en we beslissen dat het voedsel niet giftig is en het opeten.

We maken heel vaak afwegingen

meerdere keren per dag.

We merken het vaak zelfs niet op.

Het is een onderdeel van ons leven; we doen het allemaal.

Elke diersoort doet het.

Stel je een konijn voor dat gras aan het eten is in een veld,

en dit konijn ziet een vos.

Dit konijn zal een veiligheidsoverweging maken:

"Moet ik blijven of moet ik vluchten?"

En als je erover nadenkt,

dan zijn de konijnen die hier goed in zijn

de konijnen die blijven leven en zich voortplanten.

En de konijnen die er niet goed in zijn

zullen opgegeten worden of omkomen van de honger.

Dus je zou denken

dat wij, als een succesvol diersoort op de planeet --

jij, ik, iedereen --

heel goed zijn in het maken van deze overwegingen.

Maar het lijkt er telkens weer op

dat we er hopeloos slecht in zijn.

En ik denk dat dat een hele interessante kwestie is.

Ik leg het even kort uit.

Het is zo, dat we reageren op het gevoel van veiligheid

en niet op de realiteit.

Meestal werkt dat.

Meestal zijn ons gevoel

en de realiteit hetzelfde.

Dat is zeker waar

voor het grootste deel van de menselijke geschiedenis.

We hebben de eigenschap ontwikkeld

omdat het, evolutionair gezien, logisch is.

Een manier om erover na te denken

is dat we geoptimaliseerd zijn

voor risicovolle beslissingen

die heel belangrijk zijn om in kleine groepen te leven

in de Oost-Afrikaanse hooglanden in het jaar 100.000 voor Christus --

niet voor New York anno 2010.

Nu zijn er wat vooroordelen bij het waarnemen van risico's.

Er zijn veel goede experimenten geweest hierover.

En er zijn een aantal vooroordelen die telkens weer naar voren komen.

Dus ik zal er vier met jullie delen.

We neigen spectaculaire en zeldzame risico's te overdrijven

en de dagelijkse risico's te bagatelliseren --

bijvoorbeeld vliegen versus autorijden.

het onbekende wordt ingeschat

als risicovoller dan het dagelijkse.

Een voorbeeld:

Mensen zijn bang om ontvoerd te worden door vreemden

terwijl volgens de statistieken ontvoering door familieleden veel vaker voorkomt.

Dit geldt voor kinderen.

De derde: Gepersonificeerde risico's

worden groter ingeschat dan anonieme risico's --

dus Bin Laden is enger omdat hij een naam heeft.

En de vierde

is dat mensen risico's onderschatten

in situaties die ze onder controle hebben

en ze overschatten ze in situaties die ze niet onder controle hebben.

Dus als je begint met skydiven of roken,

dan verwaarloos je de risico's.

Als een risico in je schoot wordt geworpen -- terrorisme was een goed voorbeeld --

dan zul je het groter maken dan het is, omdat je geen controle voelt.

Er zijn tal van deze vooroordelen, deze cognitieve vooroordelen,

die onze risico-beslissingen beïnvloeden.

Er is het beschikbaarheidsconcept

wat neerkomt op:

We schatten de kans van iets in

door na te gaan hoe vaak je van deze specifieke situatie hebt gehoord.

Dus je kunt je voorstellen hoe dat werkt.

Als je vaak over tijgeraanvallen hoort, dan zullen er wel veel tijgers in de buurt zijn.

Je hoort niemand over leeuwenaanvallen, dus dan zijn er weinig in de buurt.

Dit werkte totdat de krant werd uitgevonden.

Want kranten doen het volgende:

Ze herhalen zeldzame risico's

opnieuw en opnieuw.

Ik vertel de mensen: Als het in het nieuws is, maak je er dan geen zorgen over.

Want nieuws is per definitie

iets dat bijna nooit gebeurt.

(Er klinkt gelach)

Als iets dagelijks voorkomt, is het geen nieuws meer --

autobotsingen, huiselijk geweld --

dat zijn de risico's waar je je zorgen om maakt.

Wij mensen houden ook van verhalen vertellen.

We reageren eerder op verhalen dan op statistieken.

En er is een soort van cijfer-onkunde aan de gang.

Het grapje "Een, Twee, Drie, Veel' klopt eigenlijk wel.

We zijn heel goed in kleine getallen.

Een mango, twee mango's, drie mango's,

tienduizend mango's, honderdduizend mango's --

Het zijn er nog steeds meer dan je kunt eten voordat ze gaan rotten.

Dus een halve, een kwart, een vijfde -- daar zijn we goed in.

Een op een miljoen, een op een miljard --

Dat is allebei bijna nooit.

Dus we hebben moeite met risico's

die niet vaak voorkomen.

En wat deze cognitieve vooroordelen doen

is optreden als filters tussen onszelf en de realiteit.

En het resultaat

is dat het gevoel en de realiteit op hol slaan,

ze worden anders.

Dus ofwel heb je een gevoel -- je voelt je veiliger dan je echt bent.

Er is een onterecht gevoel van veiligheid.

Ofwel is het andersom,

en dan is er een onterecht gevoel van onveiligheid.

Ik schrijf veel over "veiligheidstheater",

dat bestaat uit producten die mensen zich veiliger laten voelen

terwijl die producten niet echt iets doen.

Er is niet echt een woord voor dingen die ons veilig maken

maar die ons gevoel van veiligheid niet versterken.

Misschien is dat wel de taak van de CIA.

Dus, terug naar de economie.

Als de economie, de markt, veiligheid bevordert,

en als mensen dingen opofferen en overwegingen maken,

die gebaseerd zijn op het gevoel van veiligheid,

dan is het heel slim van de bedrijven

om de economie te stimuleren

als zij de mensen veilig laten voelen.

En er zijn twee manieren om dit te doen.

De eerste: je kunt mensen daadwerkelijk veiliger maken

en hopen dat het ze opvalt.

Of de tweede: je kan mensen zich alleen maar veilig laten voelen

en hopen dat het ze niet opvalt.

Dus wat zorgt ervoor dat het opvalt?

Een aantal dingen:

Begrip van veiligheid,

inzicht in de risico's en gevaren,

begrip van de maatregelen en hoe deze werken.

Maar als je deze dingen weet,

dan is de kans groot dat jouw gevoel klopt met de realiteit.

Genoeg voorbeelden uit de echte wereld helpen ook.

We weten allemaal hoeveel criminaliteit er in onze buurten is,

omdat we er wonen, en we krijgen er een gevoel bij

dat ongeveer klopt met de werkelijkheid.

Veiligheidstheater wordt blootgegeven

als het duidelijk is dat het niet goed werkt.

Dus hoe komt het dat mensen dit niet zien?

Nou, een gebrek aan begrip.

Als je de risico's niet begrijpt, als je de kosten niet begrijpt,

dan overweeg je het waarschijnlijk niet goed.

En dan klopt je gevoel niet met de werkelijkheid.

Niet genoeg voorbeelden.

Er is een onderliggend probleem

met onwaarschijnlijke gebeurtenissen.

Als, bijvoorbeeld,

terrorisme bijna nooit voorkomt,

is het moeilijk om te bepalen

hoe effectief anti-terrorismemaatregelen zijn.

Dit is waarom je maagden blijft offeren,

en waarom je eenhoorn-verdediging prima werkt.

Er zijn niet genoeg voorbeelden dat dit niet werkt.

Daarnaast, gevoelens die de zaken verhullen --

de cognitieve vooroordelen waar ik het over had,

angsten, volksverhalen --

zorgen voor een niet-kloppend beeld van de realiteit.

Nu ga ik de dingen wat moeilijker maken.

Ik heb gevoel en werkelijkheid.

Ik ga een derde element toevoegen: een model.

De gevoelens en het model in ons hoofd,

de realiteit in de buitenwereld.

Die verandert niet; die is echt.

Ons gevoel is gebaseerd op onze intuïtie.

Een model is gebaseerd op ratio.

Dat is ongeveer het verschil.

In een primitieve en simpele wereld

is er niet echt een reden voor een model.

Omdat het gevoel zo dicht bij de realiteit staat.

Dan heb je geen model nodig.

Maar in een moderne complexe wereld

heb je modellen nodig

om een heleboel risico's die we tegenkomen te snappen.

Er is geen gevoel over bacteriën.

Je hebt een model nodig om dit te begrijpen.

Dus dit model

is een intelligente weergave van de realiteit.

Deze is wel beperkt door de huidige wetenschap

en technologie.

We hadden geen bacterie-theorie over ziektes kunnen ontwikkelen

voordat we de microscoop uitvonden om ze te kunnen zien.

Het is beperkt door onze cognitieve vooroordelen.

Maar het heeft de mogelijkheid

om onze gevoelens te onderdrukken.

Waar krijgen we deze modellen? Van anderen.

We krijgen ze van religie, cultuur,

leraren, ouderen.

Een paar jaar geleden

was ik in Zuid-Afrika op safari.

De gids die ik had was opgegroeid in 'Kruger National Park'.

Hij had wat complexe modellen om mee te overleven.

En het hing er vanaf of je werd aangevallen

door een leeuw of een luipaard of een neushoorn of een olifant --

en wanneer je moest wegrennen, en wanneer je in een boom moest klimmen --

wanneer je niet in een boom kon klimmen.

Ik zou geen dag overleven,

maar hij was daar geboren,

en hij begreep hoe hij er moest overleven.

Ik ben geboren in New York City.

Ik had hem kunnen meenemen naar New York en hij zou geen dag overleven.

(Er klinkt gelach)

Omdat we verschillende modellen hadden

gebaseerd op onze verschillende ervaringen.

Modellen kunnen vanuit de media komen,

van onze verkozen ambtenaren.

Denk aan modellen over terrorisme,

ontvoering van kinderen,

luchtvaartveiligheid, autoveiligheid.

Modellen kunnen uit de industrie komen.

De twee die ik volg zijn beveiligingscamera's,

Identiteitskaarten,

een heleboel computerveiligheidsmodellen komen daar vandaan.

Een heleboel modellen komen uit de wetenschap.

Een goed voorbeeld zijn de gezondheidsmodellen.

Denk aan kanker, vogelgriep, varkensgriep, SARS.

Al onze gevoelens van veiligheid

over deze ziektes

komen van modellen

die ons zijn gegeven door de wetenschap, gefilterd door de media.

Dus modellen kunnen veranderen.

Modellen staan niet stil.

Als we ons zekerder voelen in onze omgevingen,

kan ons model dichter bij ons gevoel komen te staan.

Een voorbeeld zou kunnen zijn

dat honderd jaar geleden

toen elektriciteit alledaags werd,

er heel veel angst voor was.

Ik bedoel, er waren mensen bang om de deurbel te gebruiken,

omdat er elektriciteit in zat en dat was gevaarlijk.

Wij zijn op ons gemak rond elektriciteit.

We vervangen gloeilampen

zonder erbij na te denken.

Onze veiligheidsmodellen met betrekking tot elektriciteit

is iets waar we mee geboren zijn.

Het is niet veranderd terwijl wij opgroeiden.

En we zijn er goed in.

Of denk aan de risico's

op het internet door de generaties heen --

hoe ouders omgaan met veilig internetten,

vergeleken met hoe jij dat doet,

vergeleken met hoe onze kinderen dat zullen doen.

Modellen komen uiteindelijk op de achtergrond te staan.

Intuïtief is gewoon een ander woord voor vertrouwd.

Dus als je model dichtbij de realiteit staat

en het samenkomt met je gevoel,

dan weet je vaak niet dat het er is.

Een goed voorbeeld hiervan

kwam afgelopen jaar met de varkensgriep.

Toen de varkensgriep eerst de kop opstak

veroorzaakte het eerste bericht veel overdreven reacties.

Het had nu een naam,

die het enger maakte dan de gewone griep,

terwijl deze wel dodelijker was.

En de mensen dachten dat de dokters wel wisten wat ze ermee aanmoesten.

Dus het gevoel van gebrek aan controle was er ook.

En deze twee dingen

vergrootten de risico's meer dan nodig was.

Terwijl het nieuwe er af raakte en de maanden voorbij gingen

was er een bepaalde mate van tolerantie,

de mensen raakten eraan gewend.

Er waren geen nieuwe gegevens, maar er was minder angst.

Tegen de herfst

dachten de mensen

dat de dokters het al opgelost zouden moeten hebben.

En er was een soort van tweestrijd --

mensen moesten kiezen

tussen angst en acceptatie --

eigenlijk tussen angst en onverschilligheid --

en ze kozen zo ongeveer voor achterdocht.

En toen afgelopen winter het vaccin verscheen

was er een grote groep mensen - een verrassend groot aantal -

die het vaccin weigerden.

Dit is een mooi voorbeeld

van hoe bij mensen het gevoel van veiligheid kan veranderen, en hun model,

bijna willekeurig

zonder nieuwe informatie,

zonder nieuwe gegevens.

Dit soort dingen gebeuren heel vaak.

Ik ga het nog een keer moeilijker maken.

We hebben gevoelens, model, realiteit.

Ik heb een zeer gerelativeerde visie over veiligheid.

Ik denk dat het van de toeschouwer afhangt.

En bij de meeste veiligheidsbeslissingen

zijn een variëteit aan mensen betrokken.

En aandeelhouders

met specifieke overwegingen

zullen proberen het besluit te beïnvloeden.

En ik noem dat hun agenda

En deze agenda --

deze marketing, deze politiek --

probeert jou te overtuigen om het ene model te verkiezen boven het andere,

probeert jou te overtuigen om een model te negeren

en op je gevoel af te gaan,

uitsluiten van mensen met modellen die je niet leuk vindt.

Dit komt veel voor.

Een voorbeeld, een heel goed voorbeeld, is het risico van roken.

In de geschiedenis van de laatste 50 jaar

laat het risico van roken een modelverandering zien,

en het laat ook zien hoe een industrie vecht

tegen een model dat het niet leuk vindt.

Vergelijk dat met het debat over meeroken --

ongeveer twintig jaar geleden.

Denk aan autogordels.

Toen ik een kind was, droeg niemand een autogordel.

Vandaag de dag zal geen kind je laten rijden

als je geen autogordel draagt.

Vergelijk dat met het debat over airbags --

ongeveer dertig jaar geleden.

Allemaal voorbeelden van veranderende modellen.

Wat we leren is dat het moeilijk is om een model te veranderen.

Modellen zijn lastig los te wrikken.

Als ze overeenkomen met je gevoel,

dan weet je niet eens dat je een model hebt.

En daar is nog een cognitief vooroordeel

dat ik het bevestigingsvooroordeel zal noemen,

waar we neigen om de gegevens te accepteren

die onze overtuigingen bevestigen©

en de gegevens die onze overtuigingen tegenspreken af te keuren.

Dus bewijs tegen ons model

zullen we waarschijnlijk negeren, ook als het overtuigend of aanlokkelijk is.

Het moet heel aanlokkelijk worden voordat we er aandacht aan besteden.

Nieuwe modellen die over langere tijdsperiodes gaan zijn moeilijk.

Het opwarmen van de aarde is een prima voorbeeld.

We zijn heel erg slecht

in modellen die 80 jaar beslaan.

We kunnen tot de volgende oogst gaan.

Tot onze kinderen opgroeien, dat lukt ook nog wel.

Maar 80 jaar, daar zijn we gewoon niet goed in.

Dus het is een moeilijk model om te accepteren.

We kunnen beide modellen tegelijk in ons hoofd houden,

of het soort probleem

waarbij we twee verschillende overtuigingen samenhouden

of de cognitieve verstoring.

Uiteindelijk

zal het nieuwe model het oude model vervangen.

Sterke gevoelens kunnen een model scheppen.

Elf september heeft een veiligheidsmodel geschept

in de hoofden van heel veel mensen.

Persoonlijke ervaringen met criminaliteit kunnen dit ook,

of enge voorvallen met je eigen gezondheid

of enge voorvallen met gezondheid in het nieuws.

Deze voorvallen worden 'gloeilampvoorvallen' genoemd

door psychiaters.

Ze kunnen ter plekke een model scheppen

omdat ze heel erg emotioneel geladen zijn.

Dus in de technologische wereld

hebben we geen ervaring

om modellen te beoordelen.

En we vertrouwen op anderen. We vertrouwen op volmachten.

Dit werkt zo lang het is om anderen te verbeteren.

We vertrouwen op overheidsinstellingen

zodat ze ons vertellen welke medicijnen veilig zijn.

Ik ben hier gisteren heengevlogen.

Ik heb het vliegtuig niet gecontroleerd.

Ik vertrouwde op een andere groep

zodat zij zouden beslissen of het veilig was om met mijn vliegtuig te vliegen.

Wij zijn hier en niemand is bang dat het dak op ons neer gaat vallen.

Niet omdat wij het dak hebben nagekeken,

maar omdat we er vrij zeker van zijn

dat de voorschriften over gebouwen hier goed zijn.

Dat is een model dat we gewoon accepteren

op goed vertrouwen.

En dat is goed.

Wat we willen

is dat mensen bekend genoeg raken

met betere modellen --

dat deze doorschijnen in hun gevoel --

en er zo voor te zorgen dat ze goede veiligheidsafwegingen maken.

Als deze niet kloppen

dan heb je twee opties.

Een: Je kan het gevoel van mensen verbeteren

door direct op het gevoel in te spelen.

Het is manipulatie, maar het kan werken.

De tweede, eerlijkere manier

is om het model te verbeteren.

Verandering vindt langzaam plaats.

Het rookdebat duurde veertig jaar,

en dat was een makkelijke.

Sommige van deze zaken zijn moeilijk.

en dan bedoel ik heel moeilijk,

informatie lijkt onze beste hoop.

En ik heb gelogen.

Weet je nog toen ik 'gevoel, model, realiteit' zei?

Ik zei dat de realiteit niet veranderde, maar dat doet het wel.

We leven in een technologische wereld;

de werkelijkheid verandert voortdurend.

Dus voor het eerst sinds de mensheid hebben we deze situatie:

Het gevoel achtervolgt het model, het model achtervolgt de realiteit, maar de realiteit verandert --

Misschien zullen ze elkaar nooit meer vinden.

Dat weten we niet.

Maar op de lange termijn

zijn het gevoel en de realiteit allebei belangrijk.

En ik wil met twee korte verhaaltjes afsluiten om dit te laten zien.

Ik weet niet of mensen dit nog weten, maar in 1982

was er een korte epidemie

van Tylenol-vergiftigingen in de Verenigde Staten.

Het is een vreselijk verhaal. Iemand nam een flesje Tylenol,

deed er vergif in, sloot het weer, en zette het terug op de plank.

Iemand anders kocht dit en ging dood.

Dit maakte de mensen doodsbang.

Er waren wat na-aap-aanvallen geweest.

Er was niet echt een risico, maar de mensen waren bang.

En dit is hoe in de medicijnwereld

de anti-knoei-industrie is gestart.

Die dopjes met sluitzegels kwamen hier vandaan.

Dit is veiligheidstheater.

Als huiswerk wil ik dat jullie 10 manieren bedenken om dit te omzeilen.

Ik geef er een, een injectienaald.

Maar het zorgt dat de mensen zich beter voelen.

Het zorgde ervoor dat hun gevoel van veiligheid

meer in overeenstemming kwam met de realiteit.

Laatste verhaalt, een paar jaar geleden beviel een vriendin van me.

Ik ging op visite in het ziekenhuis.

Het blijkt dat als er nu een baby is geboren,

deze een radiofrequentie-armband omkrijgt,

en dat de moeder een overeenkomende armband omkrijgt,

zodat zodra iemand anders dan de moeder de baby uit de kwaamafdeling meeneemt,

het alarm afgaat.

Ik zei: "Nou, dat is best gaaf.

Ik vraag me af hoe vaak het voorkomt

dat baby's worden gestolen uit de ziekenhuizen vandaan.

Ik ga naar huis, ik zoek het op.

Het komt vrijwel nooit voor.

Maar als je er over nadenkt,

als je in een ziekenhuis bent,

en je moet de baby van de moeder afnemen

om in een andere kamer wat tests te doen.

dan kan je maar beter voor een goed veiligheidstheater zorgen,

want anders rukt ze je arm eraf.

(Er klinkt gelach)

Dus het is belangrijk voor ons,

voor degenen onder ons die veiligheid ontwerpen,

die naar het veiligheidsbeleid kijken,

of die kijken naar het openbare beleid,

op manieren die met veiligheid te maken hebben:

Het is niet alleen realiteit, het is gevoel en realiteit.

Wat belangrijk is

is dat het over hetzelfde gaat.

Het is belangrijk dat, als ons gevoel de werkelijkheid reflecteert,

we betere veiligheidsafwegingen maken.

Dank u.

(Applaus)