Suurema osa inimkonna ajaloost saabusid suurimad ohud väljastpoolt. Kivi taevast. Vulkaan, mis sülitas välja terve kontinendi jagu väävlit. Mikroob, mis arenes omaenda graafiku alusel ja kellel polnud vähimatki huvi meie ellujäämise vastu. Need ohud olid reaalsed ja mõned neist peaaegu toimisidki. Me oleme liigina korduvalt läbi nõelasilma pugenud, vaadates otsa loodusjõududele, mis ei hooli meist rohkem kui murenevast kaljust.

Kuid siin on loo juures see tõeliselt kummaline koht: millalgi viimase sajandi jooksul muutusime me iseenda suurimaks ohuks. Me ei ole enam lihtsalt vaatlejad, kes ootavad järgmist katastroofi; me oleme muutunud jõuks, mis liigutab katastroofinuppe.

Aatomiteadlaste teataja (Bulletin of the Atomic Scientists) seadis 2024. aastal oma kurikuulsa Viimsepäevakella 90 sekundile enne südaööd. See on katastroofile lähemal kui kunagi varem kella ajaloos. Nüüd aga peatu hetkeks selle mõtte juures. See kell ei ole pelk metafoor ega poeetiline liialdus. Inimesed, kes selle seiereid liigutavad, ei ole poeedid – nad on füüsikud ja bioturvalisuse eksperdid. Nad liigutasid seda kella, sest riskide tasakaal on nihkunud suunda, millel puudub igasugune ajalooline eeskuju.

Looduskatastroofid, mis kunagi domineerisid meie väljasuremise pearaamatus, on püsinud aastatuhandete jooksul laias laastus stabiilsena. Tõenäosus, et meid pühib minema supervulkaan või asteroid, on täna täpselt sama suur kui kiviajal. Inimtekkeliste riskide puhul see aga ei kehti. Me oleme lisanud võrrandisse uusi muutujaid kiiremini, kui me suudame neile lahendusi leida.

Toby Ord on Oxfordi filosoof, kes on teinud oma elutööks mõõdetamatu mõõtmise. Ta on analüüsinud numbreid, mis panevad enamiku inimesi pilku kõrvale pöörama. Ta arvutas välja, et inimkonna väljasuremise tõenäosus enne 2100. aastat on ligikaudu üks kuue vastu. See ei ole mingi ääreala prognoos, mis on välja mõeldud raamatute müümiseks. See on hoolikas arvepidamine riskide üle, mille me oleme ise maailma toonud.

Üks kuuest. See on sama tõenäosus, mis kaasneb ühe päästikuvajutusega vene ruletis. Enamik inimesi keelduks seda mängu mängimast, isegi kui laual oleks varandus. Rahutuks tegev küsimus on aga selles, kas me oleme selle relva juba kätte võtnud ja rullikut keerutanud.

Seitseteist viisi, kuidas sajand võib lõppeda

Mainekas teadusajakiri Lancet pani kokku komisjoni, et kaardistada meid varitsevad ohud. Nad ei piirdunud ebamääraste hirmudega, vaid tuvastasid seitseteist konkreetset, tõenduspõhist katastroofilist riski. Need on sündmused, mis on võimelised hävitama inimeste tervise ja ühiskonnakorralduse enne sajandi lõppu. Nimekiri ulatub ootuspärastest ohtudest – tuumakonflikt, konstrueeritud pandeemiad, pahatahtlik tehisintellekt – kuni selleni, mis paneb sind teksti teist korda lugema: ülekaalulisus.

Kuidas saab midagi nii argist nagu rasvumine olla samas nimekirjas tuumapommiga? Siin tuleb mängu mõiste nimega süsteemne risk. See on kontseptsioon, mis selgitab, miks näiliselt seostamatud asjad võivad meid kõiki korraga kuristikku tõugata. Risk on süsteemne siis, kui see suudab ahelreaktsioonina läbida omavahel ühendatud võrgustikke, varistades kokku infrastruktuuri, mis hoiab kõike muud püsti. Krooniliste haiguste koorem kurnab tervishoiusüsteeme, tühjendab riigikassasid ja destabiliseerib lõpuks valitsemist. Kui vundament mureneb, ei ole tähtis, kui tugevad on seinad.

See nimekiri ei ole pingerida. See on võrgustiku kaart.

Lanceti raamistiku teeb analüütiliselt väärtuslikuks just sõna "omavahel seotud". Need seitseteist ohtu ei istu eraldi kastides, oodates viisakalt oma järjekorda. Nad toituvad üksteisest. Kliima murdepunktid tekitavad pingeid toiduvarudes, mis omakorda kurnavad geopoliitikat. See aga tõstab temperatuuri tuumapingetes, mis suurendab survet niigi räsitud rahvusvahelistele institutsioonidele.

Uurijatel on selle kuhjuva dünaamika jaoks nimi: polükriis. See on hädaolukordade klaster, kus kriisid üksteist võimendavad, mitte lihtsalt ei eksisteeri kõrvuti. Tervik muutub ohtlikumaks kui selle osade summa. See on nagu orkester, kus iga pillimängija on hakanud mängima omaette tempoga, kuni muusikast saab kõrvulukustav müra, mis purustab saali aknad.

ÜRO on seda märganud. Peasekretär António Guterres on algatanud erakorralise platvormi (Emergency Platform) – esimese institutsionaalse arhitektuuri, mis on loodud spetsiaalselt tsivilisatsioonitasandi šokkide koordineerimiseks. See on ametlik ja bürokraatlik ülestunnistus, et vanad kriisiplaanid kirjutati maailma jaoks, kus õnnetused saabusid ühekaupa. Meie praegused seitseteist ohtu seda ei tee. Selle platvormi olemasolu ise on andmepunkt: planeedi kõige ettevaatlikum ja konsensusele orienteeritud institutsioon peab nüüd samaaegseid katastroofilisi ebaõnnestumisi stsenaariumiks, milleks tasub valmistuda.

Ettevõte, mis hoiatab omaenda toote eest

Mõelge hetkeks sellele, mida tegi tehnoloogiaettevõte Anthropic, kui nad esitasid dokumendid oma aktsiate avalikuks pakkumiseks (IPO). Need on dokumendid, mida juristid koostavad ülima ettevaatusega ja mida regulaatorid kontrollivad iga võimaliku eksituse suhtes. Selles ametlikus finantsdokumendis märkis ettevõte, et nende enda tehnoloogia kujutab inimkonnale eksistentsiaalset riski. See ei olnud mõne radikaalse aktivisti lendleht. See oli juriidiline paber, kus ettevõte küsis investoritelt raha ja hoiatas neid samal ajal, et nende toode võib aidata kaasa tsivilisatsiooni lõpule.

See on loo juures see kummaline osa. Ja see ei ole üksikjuhtum.

Tehisintellekti Turvalisuse Keskus (Center for AI Safety), mittetulundusühing, mille nõukogu nimekiri loeb nagu valdkonna tipptegijate entsüklopeedia, tegi avalduse, millele kirjutasid alla sellised suurkujud nagu Geoffrey Hinton ja Yoshua Bengio. Nende sõnum oli selge: tehisintellektist tuleneva väljasuremisriski leevendamine peaks olema globaalne prioriteet kõrvuti pandeemiate ja tuumasõjaga. Toby Ord, seesama Oxfordi uurija, kes hindas üldiseks huku tõenäosuseks üks kuuest, arvab, et ainuüksi tehisintellekt kannab endas kümneprotsendilist tõenäosust meid enne 2100. aastat hävitada.

MIT FutureTech kataloogis 24 erinevat tehisintellekti riskistsenaariumi, millest igaühe puhul on katastroofilise kahju tõenäosus suurem kui viis protsenti. Eksperdid 37 riigist tõid eraldi välja relvad, küberrünnakud ja võimu koondumise kui stsenaariumid, mis ületavad kümne protsendi künnise. Need ei ole põlve otsas välja mõeldud hirmud. Need on eelretsenseeritud tõenäosushinnangud inimestelt, kes veedavad oma karjääri üritades tõestada, et nad eksivad.

Et mõista, miks hoiatused keskenduvad nii tugevalt tehisintellektile, mitte näiteks eksinud asteroididele, on vaja ühte mõistet: joondumisprobleem (alignment problem). Oht ei seisne mässavas masinas, mis otsustab ühel päeval inimestele kätte maksta. Oht on masinas, mis teeb täpselt seda, mida tal kästakse, ja püüdleb selle eesmärgi poole nii tõhusalt – kasutades kõiki kättesaadavaid vahendeid –, et inimesed muutuvad talle lihtsalt takistuseks.

Täiuslikult sõnakuulelik ja täiuslikult surmav. Mõned uurijad usuvad, et selliseks optimeerimiseks võimeline superintellekt võib eksisteerida juba järgmise kümnendi jooksul. Mida peaks üks ratsionaalne inimene peale hakkama numbriga "üks kümnest", kui see on kleebitud millegi külge, mis jookseb juba praegu miljardis nutitelefonis?

Garaažibioloogi küsimus

Kujutage ette kraadiõppurit kusagil tavalises kohas – üüritud laboripind, kasutatud tsentrifuug, lauapealne DNA-süntesaator, mis maksab umbes sama palju kui kasutatud auto. See tudeng ei ehita relva. Ta üritab luua bakterit, mis sööks plastikut. Masin aga ei tea vahet. Selles peitubki probleem.

Biotehnoloogia demokratiseerumine on reaalne ja see kiireneb. Väikesed rühmad, kellel puudub riiklik toetus ja igasugune järelevalve, saavad nüüd osta tööriistu geneetiliste jadade kokkupanemiseks, mis kolmkümmend aastat tagasi oleksid nõudnud riiklikku laborit. Süntesaator loeb digitaalset faili ja prindib elu.

Takistuseks ei olnud kunagi seadmed, vaid teadmised. Nüüd on need teadmised veebis kättesaadavad ja üha enam suudab tehisintellekt täita lüngad, mis varem nõudsid aastatepikkust kogemust. Siin riskid kuhjuvad. AlphaFold ja selle järeltulijad muutsid valkude struktuuri ennustamise kättesaadavaks. See tähendab, et uurija saab nüüd modelleerida, kuidas uus patogeen võiks voltuda, seonduda ja immuunsüsteemi eest põgeneda – ja seda kõike enne, kui ta on sünteerinud ainsatki ahelat.

Sama tööriist, mis kiirendab vähiravimite avastamist, kiirendab ka bioloogia relvastamist. Füüsika ei hooli kavatsustest. Asteroid, mida me peaksime kõige enam kartma, võib mahtuda kõvakettale.

Toby Ord hindab konstrueeritud pandeemiate tõenäosust põhjustada inimkonna väljasuremist sel sajandil suhtega 1 : 30-le. See ei ole ääreala number. See on kvalitatiivselt erinev mis tahes eelnevast bioloogilisest ohust just oma arengukiiruse tõttu. Looduslikud patogeenid arenesid aastatuhandete jooksul; konstrueeritud patogeene saab aga uuendada nagu tarkvara, versioon versiooni haaval, kiiremini kui ükski immuunsüsteem või riiklik tervishoiustruktuur suudab jälgida.

Viis lülitit, mida me ei saa tagasi lükata

Exeteri ülikooli uurijad on tuvastanud viis peamist kliima murdepunkti, mille ületamine on praegu reaalne oht. Gröönimaa jääkilp on neist kõige selgemini mõistetav. Kui me selle kaotame, tõuseb merepind kuni seitse meetrit. See ei juhtu järgmisel teisipäeval, kuid see on pöördumatu protsess – ajakava, mille üle ükski tulevane valitsus ei saa enam läbi rääkida.

See sõna – pöördumatu – on siin võtmetähtsusega. Igal teisel selles artiklis mainitud ohul on teoreetiliselt olemas väljalülitamise nupp. Pane labor kinni. Peata mudel. Kirjuta alla lepingule. Murdepunktid on aga nagu ühesuunalised uksed. Kui jääkilbi sulamine ületab oma künnise, toidab see tagasisideahel end ise, sõltumata sellest, mis juhtub atmosfääri CO2-tasemega pärast seda.

Võrrelge seda tuumasõjaga – see on kohutav ja vahetu, kuid põhimõtteliselt ennetatav täna pärastlõunal tehtud otsusega. Kliima destabiliseerumine on teistsugune: otsustuspunkt asub minevikus või läheneb meile märkamatult, ja me ei ole lõpuni kindlad, millal see täpselt käes on.

Siin on struktuurne probleem. Lanceti nimekiri seitsmeteistkümnest ohust ei ole menüü, kust saab valida; see on lülitusskeem. Kliimahäired õõnestavad toidusüsteeme, mis kurnavad valitsusi, mis omakorda vähendab poliitilist võimekust jälgida konstrueeritud patogeene või reguleerida tehisintellekti. Iga ületatud kliimakünnis ei kahjusta lihtsalt loodust. See degradeerib vaikselt inimkonna suutlikkust hallata kõiki teisi lüliteid sellel suurel juhtpuldil.

Üks tuhandest ja tõusev trend

Tuumasõda on eksistentsiaalsete riskide nimekirjas kõige vanem kirje. Kitsas statistilises mõttes on see ka üks vähim tõenäolisi põhjuseid, mis meid lõplikult hävitaks. Toby Ord hindab tuumakonfliktist tuleneva väljasuremise tõenäosust sel sajandil umbes suhtega üks tuhandele.

Üks tuhandele kõlab väikesena. Võrdle seda mündiviskega ja see ongi väike. Kuid võrdle seda panustega ja aritmeetika muutub täielikult. Me ei räägi siin halvast kümnendist või isegi kokku kukkunud tsivilisatsioonist, mis võiks kunagi taastuda. Väljasuremine is jäädav lahutustehe igast tulevikust, mis muidu võiks eksisteerida.

Kui teadlased liigutasid 2024. aastal Viimsepäevakella, siis nad ei teinud ennustust. Nad andsid kalibreeritud hinnangu. See põhineb lepingute tühistamisel, relvade moderniseerimisel ja nende sidekanalite aeglasel kulumisel, mis hoidsid külma sõja muutumast selle viimaseks peatükiks. Geopoliitilised pinged, eriti relvastuskontrolli arhitektuuri lagunemine, on lükanud baasriski kõrgemale, kui see oli külma sõja lõpus.

Tuumarisk pakub meile aga midagi enamat kui ainult sünget aritmeetikat – see pakub meile õppetundi. See on valdkond, kus inimkond õppis esimest korda võtma madala tõenäosusega, kuid tohutute tagajärgedega ohtu piisavalt tõsiselt, et luua selle ümber institutsioonid. Iga uus risk nimekirjas on alles seda õppetundi omandamas.

Mida me teeme selle ühega kuuest?

Toby Ord võrdleb seda vene ruletiga. Üks pesa on laetud, viis on tühjad. Vajuta päästikule ühe korra kõigi nimel, kes kunagi elama saavad. See on see, mida 1 : 6 väljasuremistõenäosus tegelikult tähendab, kui see tõlkida statistika viisakast abstraktsioonist keelde, mida keha mõistab.

Kuid siin on oluline punkt: see number ei ole põhjus paanikaks. Iga ajastu on vaadanud oma ohtude klastrit ja kas katastroofinud või – sagedamini – pilgu täielikult kõrvale pööranud. Inimesed 1945. aastal mõistsid, et tuumarelvad on tsivilisatsiooni lõpp; nad ehitasid siiski heidutusraamistiku, mis oli ebatäiuslik ja kriiksuv, kuid reaalne. Erinevus praegusega on see, et trumlisse on sellest ajast peale lisatud mitu täiesti uut pesa ja need lisati väga kiiresti.

Riski kvantifitseerimine ei ole pessimism. See on tegutsemisvõime algus.

Lanceti komisjoni 17 katastroofilist ohtu, nõudmised tehisintellekti riski käsitlemiseks globaalse prioriteedina, ÜRO erakorraline platvorm – need ei ole eleegiad. Need on sellise liigi masinavärk, mis on alati kõige paremini toiminud siis, kui ta on suutnud oma hirmudele nime anda.

Me ei tea ikka veel, kas joondumisprobleem on lahendatav, kas kliima murdepunktid on juba pöördumatult selja taga või kas geopoliitika võimaldab koostööd, mida hetk nõuab. See on aus arvepidamine eksistentsiaalse riski üle, mitte meeleheide. See asjade märkmik, mida me veel ei tea, on ühtlasi kaart, kust töö pihta hakkab. See on meie suurim seiklus – hoida see lugu käimas.