- aasta mais avaldatud entsüklika Magnifica Humanitas esitab Silicon Valley’le eetilise väljakutse, nõudes globaalset AI-desarmeerimist. Paavst Leo XIV väidab oma 42 300-sõnalises dokumendis, et autonoomsed relvasüsteemid ja läbipaistmatud algoritmid muudavad traditsioonilise moraali kehtetuks, nõudes inimväärikuse asetamist koodi keskmesse.
Aastal 1891 kirjutas paavst Leo XIII dokumendi nimega Rerum Novarum. Tema vastaseks oli toona aurumasin – „uus ja hirmutav kummitus“, mis paiskas segi senised arusaamad tööst ja õiglusest. Ta nägi, kuidas tahmased tehased muutsid maailma, kus vanad reeglid isandate ja sulaste kohta enam ei kehtinud. See tekst kujundas miljardi inimese suhtumist töösse terveks sajandiks.
Ajalool on aga kombeks korduda üha kiirenevas rütmis. 25. mail 2026 avaldas paavst Leo XIV entsüklika Magnifica Humanitas, mis ei räägi enam terasest, vaid ränist ja elektrist – materjalidest, millest on saamas meie hinge uus arhitektuur. See viiepeatükiline läkitus nõuab fundamentaalset muutust selles, kuidas me ehitame mõtlevaid masinaid, mis juhivad täna kõike: pangalaenudest droonirünnakuteni.
Ühe 1600-aastase idee lõpp
Terve igaviku – täpsemalt kuusteist sajandit – tugines katoliku kirik „õiglase sõja“ teooriale, et otsustada, millal on mõõga haaramine moraalne. Siin on see kummaline osa: Leo XIV on nüüd kuulutanud, et see traditsiooniline raamistik on tehisintellekti võimekuse tõttu ametlikult aegunud.
Traditsiooniline eetikakoodeks eeldas inimese kavatsust ja proportsioonitaju. Autonoomsetel süsteemidel aga puuduvad need omadused. Argument on sama külm ja loogiline kui rida C++ koodi: kui masin suudab otsustada tapmise üle ilma inimese sekkumiseta, haihtub mõiste „õiglasest“ konfliktist täielikult. Juba 2026. aasta veebruaris kutsus Püha Tool ÜRO-s üles kehtestama viivitamatut moratooriumi autonoomsetele relvasüsteemidele (LAWS).
- aasta inimese jaoks oleks see kõik tundunud maagiast eristamatu, kuid meie jaoks on see tehniline küsimus. Me kasutame tööriistu nagu CheetahClaws, et testida, kui hästi AI-agendid juhiseid järgivad. Paavst aga väidab, et me oleme unustanud kõige olulisema mõõdiku: kas masin tunneb ära inimese kui kellegi enama kui pelga koordinaadi.
Mida tähendab tehisintellekti desarmeerimine?
Kui Vatikan räägib „desarmeerimisest“, kasutavad nad sõna, mis on tavaliselt reserveeritud tuumalõhkepeadele. AI-desarmeerimine tähendab tehnoloogia vabastamist relvastatud konkurentsi ja monopolide haardest. See on katse tõmmata meie digiajastu „aju“ kindralite käest tagasi kogukonna kätte.
Erilist muret valmistavad paavstile „läbipaistmatud algoritmid“ – need nn mustad kastid, kus langetatakse otsuseid kodulaenu keelamise või raketi väljalaskmise kohta. Iga koodirida peidab endas visiooni inimkonnast. Kui see kood on varjatud, on peidus ka selle loojate moraalne vastutus.
Nüüd hoidke seda mõtet. Vatikan on võtnud kasutusele termini algoreetika (algorethics). See tähendab, et eetilised põhimõtted tuleb sisse küpsetada juba AI-arendusfaasi, mitte lisada neid hiljem turundusliku järelemõttena.
Kummitus masinas
See „intellekt“, mida me imetleme, on ehitatud sellele, mida paavst nimetab „digitaalse orjuse uuteks vormideks“. Ta viitab sisumoderaatoritele Nairobis või Manilas, kellele makstakse sente, et nad vaataksid läbi interneti suurimaid õudusi, hoides meie sotsiaalmeedia vood puhtana. Need on inimesed, keda süsteem kohtleb andmepunktidena, mitte hingedena.
Üllatuslikult on selles küsimuses tekkinud ebatavalised liidud. Anthropic’u kaasasutaja Chris Olah seisis Vatikani kõrval, esindades arendajaid, kes on iseenda loodu ees hirmu tundma hakanud. Olah märkis, et AI-ettevõtted tegutsevad stiimulite rägastikus, mis on sageli vastuolus eetikaga. See allianss pakub arendajatele moraalset kilpi, et nad ei peaks oma uuringuid relvastama.
Miks see meile korda peaks minema?
Me oleme hetkel delegeerimas oma moraalset otsustusõigust süsteemidele, mida me lõpuni ei mõista. Hiljutine uuring (arXiv:2605.26079) leidis, et 25,7% AI-testimise alustest sisaldab kriitilisi disainivigu. Ühiskonna ehitamine sellistele alustele on nagu pilvelõhkuja püstitamine vundamendile, kus iga neljas tellis on liivast.
„Desarmeerimine ei tähenda tehnoloogiast loobumist,“ kirjutab paavst, „vaid takistamist, et see ei hakkaks valitsema inimkonna üle.“ Eesmärk on tagada, et agentsed AI-süsteemid jääksid vastutusalaks, mitte kontrollimatuks maagiaks.
Me ei tea veel, kuidas suurriigid reageerivad ideele, et niiden kõige moodsamad relvad on moraalselt pankrotis. See ongi, ausalt öeldes, kõige põnevam osa. Me oleme jõudnud punkti, kus me ei küsi enam ainult „kas me suudame?“, vaid „kas me tohime?“.
Järgmise kümnendi suur seiklus ei seisne vaid selles, kuidas teha mudeleid suuremaks. See seisneb küsimuses, kas me oleme piisavalt nutikad, et jääda nende visioonide peremeheks, mille me koodi sisse kirjutame. See on meie parim võimalus jääda inimeseks automaatse loogika ajastul.
