Wie zocht naar aanleidingen om de onderschatting en de diversiteit van existentiële risico’s onder de aandacht te brengen, kon zich geen betere opeenvolging van gebeurtenissen voorstellen dan een pandemie, meteen gevolgd door verhoogde nucleaire dreiging.

Voorafgegeaan door een wake-up call over klimaatopwarming, zou men hier nog aan kunnen toevoegen.

Existentiële risico’s of Doomsday scenario’s zijn risico’s op gebeurtenissen die het welzijn wereldwijd serieuze schade kunnen toebrengen, of die het potentieel van de mensheid drastisch inperken, in het extreme geval tot op het punt dat de wereldbevolking uitgeroeid wordt. In een minder extreem geval wordt niet de hele wereldbevolking uitgeroeid, maar hebben de overlevenden onvoldoende middelen om de samenleving te herstellen tot de huidige levensstandaard.

Wikipedia toont een grafiek die helpt om existentiële risico’s te classifiëren, met op de ene as de scope, van persoonlijk over lokaal en globaal tot transgenerationeel en kosmisch, en op de andere as de impact, van onmerkbaar over verdraagbaar tot beëindigbaar en uiteindelijks hels.

Existentiële risico’s worden ook soms onderverdeeld in natuurlijke risico’s en risico’s die door de mens veroorzaakt worden.

Voorbeelden van existentiële risico’s zijn een nucleaire oorlog of Wereldoorlog III, al dan niet met biologische wapens; pandemieën (door mens of natuur veroorzaakt); artificiële intelligentie die op hol slaat; een komeet die de aarde raakt; een supervulkanische uitbarsting.

Over klimaatopwarming is er discussie. Zelfs in de meest extreme scenario’s van het International Panel on Climate Change (IPCC) zijn de gevolgen van klimaatopwarming erg, maar vallen ze niet onder de extreme definitie van existentieel risico, met uitroeiing en zo.

Dit is soms een teer punt voor klimaatopwarmingsprofeten, die het risico graag bovenaan de agenda zien.

Enkele instituten die existentiële risico’s in kaart brengen, analyseren en er oplossingen voor bedenken, zijn het internationale Future of Life Institute; het Amerikaanse Council on Strategic Risks; het Britse Future of Humanity Institute. Het forum van Effective Altruism.org heeft ook vaak goede bijdragen over existentiële risico’s.

The Precipice: Existential Risk and the Future of Humanity (2020) van de in Australië geboren en in Oxford University werkende filosoof Toby Ord is naar verluidt een goed boek. Ord, die wel geluk had met de timing, zo midden in de pandemie, is ook de oprichter van Giving What We Can, een organisatie die actief is in Effective Altruism.

Hier is een goede bespreking van het boek door Scott Alexander.

Vragen

Een van de belangrijkste vragen is wellicht hoe we existentiële risico’s inschatten of zouden moeten inschatten.

Het onderscheid tussen “inschatten” en “zouden moeten inschatten” is belangrijk. Wat blijkt immers? Existentiële risico’s gaan over statistische inschattingen. En ons brein is slecht bedraad voor statistiek. Onder meer bij de inschatting van existentiële en minder existentiële risico’s laten we ons vaak laten leiden door cognitive biases, cognitieve vooringenomenheid.

De invloed van gebeurtenissen en het nieuws is hier overweldigend. Google Trends, dat het volume van zoektermen in een geografie op een index zet, is hier een goede indicator.

Zie bijvoorbeeld in de grafiek hieronder de relatieve interesse in drie gebeurtenissen die onlangs in het nieuws waren.

De schommelingen en de relatieve interesse zijn niet enkel te verklaren door toegenomen risico, maar hebben vooral te maken met het nieuws en onze gevoeligheid en perceptie.

Hoe moeten we dan wel existentiële risico’s inschatten? De reflex die wij zelf en de media hebben, is een beroep te doen op experten. Daar hebben we de twee voorbije jaren onze dosis wel van gehad. Vaak echter worden experten eenzijdig opgevoerd, of zonder voldoende context. Het publiek lijkt het ook moeilijk te hebben om zich een idee te vormen over hoe experten wel of niet tot een consensus komen, en wat die consensus dan waard is.

Wat we zouden moeten geleerd hebben, is dat je op zijn minst best een reeks van experten raadpleegt om een range te krijgen van mogelijke scenario’s. Effective Altruism doet hier een lovenswaardige poging door inschattingen van risico’s van diverse experten te verzamelen voor verschillende existentiële risico’s.

Zo’n range is wetenschappelijk de beste optie, maar hij is cognitief onbevredigend en politiek niet bruikbaar.

Hoe stapelt een bepaald risico zich op?

Dit gaat over cumulatief risico.

Met een voorbeeld: Experten schatten het risico op een nucleaire oorlog gemiddeld in op 1.17 procent per jaar. Dat betekent dat voor een kind dat vandaag geboren wordt, met een levensverwachting van 75 jaar, het risico op een nucleaire oorlog in zijn leven zowat 60 procent is. Daar wil je al niet meer op wedden.

Zelfde gedachtegang, anders voorgesteld. Het huidige conflict in Oekraïne heeft de objectieve kans op een nucleaire oorlog wellicht verhoogd. Loop nu door 1,000 lichtjes verschillende scenario’s van het conflict, en pas dan je inschatting aan.

Deze manier om risico’s in te schatten, blijft speculeren natuurlijk. Ook als die gebaseerd is op meningen van experten.

Zegt Scott Alexander over de voorspellingen van experten over de oorlog in Oekraïne:

One important thing I’ve learned again and again about prediction is that successes are usually less about being smart, and more about having a bias which luckily corresponds to whatever ends up happening. Lots of people failed based on their political precommittments, but I suspect the successes were also based on political precommitments.

Zijn er andere manieren om betrouwbaarder voorspellingen te genereren?

Wat als we de inschatting zouden kunnen vragen van een heel groot aantal mensen, experten en andere, en hen vragen hun voorspelling ook “hard” te maken, bijvoorbeeld door er hun reputatie aan te verbinden of, beter nog, geld?

Dat is exact het idee van voorspellingsmarkten.

In een voorspellingsmarkt vraag je deelnemers hun inschatting van een bepaald risico te geven. Meestal kies je tussen 0 procent (het risico zal zich niet voordoen) en 100 procent (het risico zal zich wel voordoen). Het komt er dan nog op aan het voordoen van een risico precies genoeg te definiëren (wanneer (uiterlijk)? 1 miljoen doden? Of 2 miljoen? Hoe geteld? …).

Als mensen dan hun reputatie of geld verbinden aan een voorspelling, krijg je een markt van voorspellingen. De “prijs” van een voorspelling is dan het resultaat van het geaggregeerd geloof in het optreden van het risico.

Voorspellingsmarkten gaan wel niet zo vaak om existentiële risico’s, om de eenvoudige reden dat je reputatie of je geld bij het voordoen van het risico niet veel meer waard zijn.

Een voorbeeld van zo’n voorspellingsmarkt is Insight Prediction.
De vraag die daar nu bovenaan staat, is Will Vladimir Putin Remain President of Russia Through 2022?

Deelnemers kunnen bieden tussen 1 cent en 99.9 cent. De laatste “ja”-prijs is 79.2 dollarcent. Te verdienen: 1 dollar voor elke juiste vote; 22,000 dollar in totaal.

Een andere voorspellingsmarkt is Metaculus.

Ook daar Oekraïne boven. Interessant is hoe de inschatting op de vraag Will Kyiv fall to Russian forces by April 2022? geëvolueerd is van meer dan 80 procent drie weken geleden naar minder dan 20 procent vandaag.

Metaculus heeft ondertussen een Twitter bot, Metaculus Alerts, die je waarschuwt als voorspellingen over de oorlog in Oekraïne op korte tijd drastisch veranderen. Het kan een alternatief zijn voor het obsessief refreshen van het nieuws.

Waarom zijn voorspellingsmarkten interessant?

Het basisidee achter voorspellingmarkten, dat ondertussen in heel wat experimenten kracht is bijgezet, is de wisdom of the crowd: In de gemiddelde inschatting van een voldoende groot aantal mensen worden de extremen uitgefilterd en krijg je uiteindelijk de best beschikbare inschatting.

Uit onderzoek blijkt dat zulke voorspellingsmarkten resultaten opleveren die alleszins al een heel stuk preciezer zijn (74 procent in een onderzoek) dan opiniepeilingen. Vaak zijn ze ook beter dan de voorspellingen van individuele experten.

Het ander basisidee is natuurlijk dat voorspellingen en opinies niet meer gratis zijn. Je dwingt iemand (een expert, toog of andere; een visionair; een betweter of opiniestrooier) haar of zijn voorspelling hard te maken. Op de duur heb je zo misschien zelfs een instrument om het kaf van het koren te scheiden en om supervoorspellers te ontdekken.

Experten met zin voor competitie organiseren soms voorspellingsmarkten onder elkaar. Een van de beroemdste voorbeelden van zo’n weddenschap is die tussen de economist Julian Simon en Paul Ehrlich, die met zijn boek The Population Bomb in 1968 de wereld wilde waarschuwen voor overbevolking en uitputting van grondstoffen. De waarschuwing werd enkele jaren later opgepikt door de Club van Rome met Limits to Growth (1972), dat nog meer ophef veroorzaakte.

Simon vond het pessimisme misplaatst en argumenteerde dat Ehrlich en de Club van Rome onvoldoende rekening hielden met de menselijke vindingrijkheid als ultieme grondstof, The Ultimate Resource (1981).

Simon liet Ehrlich vijf metalen kiezen en een periode waarin ze de prijs zouden volgen. Als de prijs zou dalen, zou Simon 10,000 dollar winnen. Hoewel de bevolking over de gekozen periode (1980-1990) steeg met 873 miljoen mensen, daalden de prijzen van vier van de vijf grondstoffen. Simon won de weddenschap. Ondertussen is er wel discussie over de keuze van de grondstoffen en de periode. Waren die anders geweest, dan had Simon wel eens kunnen verliezen. Zo zie je maar.

De Amerikaanse economist en vaak polemische blogger Bryan Caplan daagt zijn intellectuele opponenten ook regelmatig uit tot weddenschappen. Op de 20 weddenschappen die hij tot nu toe aanging, over onderwerpen van winnaars van presidentsverkiezingen, over EU-exits tot Amerikaanse werkloosheid, won Caplan 20 keer. Heel recent verhuisde hij zijn blog naar een eigen adres: betonit. Op Metaculus loopt ondertussen een voorspellingsmarkt over de datum waarop Caplan zijn eerste weddenschap zal verliezen.

Fundamenteel: wat is de zin van interesse in en voorspellingen van existentiële risico’s?

Is interesse in existentiële risico’s niet wat morbide? Wat drijft een mens om onheilsprofeet te worden? Of ze nu gelijk hadden of niet, in de geschiedenis werden onheilsprofeten vaak weggehoond of weggejaagd of erger.

Een deel van het antwoord is bewustmaking. Experten waarschuwen soms voor existentiële risico’s waar het grote publiek zich (nog) niet (voldoende) van bewust is. Het risico van op hol geslagen artificiële intelligentie is hier vandaag een goed voorbeeld van. Ehrlich en de Club van Rome vervulden in de 1960’s en 1970’s dezelfde rol.

De bewustmaking gaat dan meestal gepaard met een aansporing voor gepaste maatregelen. Hier hebben voorspellers vaak de kleine percentages van de risico-inschattingen tegen. Een kans van 1 op 10,000 op een supervulkanische uitbarsting in de komende 100 jaar? Wie ligt daar nu wakker van?

Akkoord, zegt Scott Alexander in zijn boekbespreking van Toby Ord’s The Precipice. Maar op zijn minst: “Things may not be quite as disastrous as you expected. But relief may not quite be the appropriate emotion, and there’s still a lot of work to be done.”

Hoeveel werk er nog op de plank kan liggen, toont Scott Alexander aan met een vergelijking. Het budget van de Biological Weapons Convention, een divisie van de Verenigde Naties die biologische oorlogsvoering wil bannen, is blijkbaar kleiner dan dat van een gemiddeld McDonald’s restaurant (1 restaurant).

Oproepen om meer te investeren, kan een eerste stap zijn. Maar het is niet voldoende.

Uiteindelijk gaat het over afweging van risico’s en dus ook van maatregelen om die risico’s te verminderen of de gevolgen ervan op te vangen. Dat is het antwoord van de reluctant economist: het gaat, zoals zo vaak, over trade-offs, afwegingen en (politieke) beslissingen met als consequentie: als je meer wil van het ene, dan minder van het andere.

Voor existentiële risico’s zijn er trade-offs op verschillende niveaus.

Voor onder meer klimaatopwarming gaat het op het hoogste niveau over de afweging tussen economische groei en de risico’s van klimaatopwarming. De impact van economische groei is immers dubbel: enerzijds veroorzaakt economische groei klimaatproblemen; anderzijds hebben we economische groei en innovatie nodig om klimaatproblemen op te lossen. Wie hier met simpele antwoorden komt (à la degrowth) sluit zichzelf eigenlijk uit van dit complexe debat.

Op een lager niveau is er de afweging tussen verschillende risico’s. De pandemie toonde alvast dat we daar voor één, zeer voorspelbaar, risico vergissingen hebben begaan.

Zijn we eenzelfde vergissing aan het begaan met het risico op nucleaire oorlog? De recente gebeurtenissen kunnen daar misschien een wake-up call zijn? Een hele reeks min of meer objectieve argumenten (historisch, geopolitiek, wetenschappelijk, menselijke psychologie en organisatieleer, …) zouden eigenlijk moeten leiden naar de conclusie dat “the risk of nuclear war remains the world’s No. 1 problem, even if that risk does not seem so pressing on any particular day.”

Het gaat immers niet alleen over het (cumulatieve) risico dat een nucleaire oorlog zich ooit zal voordoen (redelijk hoog); het gaat vooral over de impact als zo’n oorlog ooit zou uitbarsten. Afhankelijk van de schaal van zulke oorlog varieert die impact van randje catastrofaal tot beschavingsbeëindigend.

Bestaan er modellen over hoe we alleen nog maar vergissingen met nucleaire aanvallen zouden kunnen verminderen? Wordt daaraan gewerkt? Door wie? Met hoeveel middelen? Liggen er scenario’s klaar? En middelen? Het zijn dezelfde vragen die achteraf gesteld werden toen de pandemie al uitgebroken was.

Het punt is: Het zouden niet alleen de googelaars mogen zijn die vandaag, onder invloed van de dagelijkse waan, wakker liggen van die vragen, prioriteiten stellen, afwegingen onder ogen zien, en politieke keuzes maken.

---