4. novembril 1960 avaldati tunnustatud teadusajakirjas Science matemaatik Heinz von Foersteri ja tema kolleegide koostatud analüütiline artikkel. See võinuks mitmel põhjusel jäädagi toonasesse aega ja ununeda. Kui vaid keegi poleks seda nüüd avastanud, ehmatades ennast ja teisi. Olles analüüsinud inimkonna senist arengut, jõudsid matemaatikud järeldusele, et inimkonda ootab ees viimnepäev 13. novembril 2026.
Põhjus pole religioosne, kusagilt ei tule veeuputust, ufosid ega Maa kärise lõhki. Inimesed lihtsalt pigistatakse puruks. Ennustuse järgi lisandub sel päeval juurde viimane hiigelsuur kogus inimesi ja nad ei mahu enam ära. Olukord erineb sellest, kui vagunisse mitte mahtunud reisijad jäid perroonile järgmist rongi ootama. Selles mudelis sünnib uus partii reisijaid "vagunis Maa". Edasine oleks nii kole, et matemaatikud päästavad end tehnilise terminiga nagu singulaarsus, lõpmatus jmt. Sellise õudusega võiks ennustus levida sotsiaalmeedia postitustes.
Tegelikult saime teada, et kui mõni mudel kirjeldab täpselt minevikku, võib see ebaõnnestuda tuleviku ennustamisel. Piisab, kui süsteem muudab oma käitumist. Rahva meeltes sotsiaalselt kohmakaid ja elukaugeid matemaatikuid võib välja vabandada mitte vigane arvutus, vaid inimeste vähene tundmine. Tõele au andes, oli autorite eesmärk provotseerida, et kui sotsiaalne süsteem ei muutu, viib puhas matemaatiline ekstrapolatsioon absurdi.
Õnneks nende ennustus ei täitunud. Inimkond muutis senist kasvutrajektoori. Rahvastiku lisandumist hakkasid kujundama hariduse levik, linnastumine, sündimuse kontroll ja muutunud arusaamad perekonnast. Inimesed avastasid maailma piiratuse ja püüdsid sellega kohaneda. Nad muutsid käitumist, mis kajastus ka mikrootsustes, kas ja kui palju inimesi maailma juurde tuua. Reaktsioon on eriti silmatorkav tänaste, rekordiliselt madalate sündivuskordajate näol.
Kohanemise ja hakkamasaamise protsessis on kesksel kohal intellekt. Pole kuigi kaua aega möödas optimistlikust ootusest, et tehisintellekti saabumine lahendab meile üha keerukamaks osutuvaid probleeme. Midagi muutus. Inimkonna lõppu ennustanud vana artikkel leidis kõlapinda tänu ärevale ajale. Optimismivaene ja murede rikas ajajärk toimib sellistele lugudele magnetina. Oleme oma valikutega jõudnud kehva seisu. Lootus, et sellest väljutakse senise mõistuse ja kokkulepetega, pole kuigi usutav. Millele viitab ka tehisintellekti ümber käiv kiirustav ja ohjeldamatu tegevus. Suurte tehisintellektiettevõtete tippjuhid väidetavalt võrdlevad omavahel nn. "päev pärast seda" stsenaariume. See oleks päev pärast mõnd katastroofilist tehisintellektiga seotud vahejuhtumit, mis mõnede asjassepühendatute sõnul võib aset leida järgmise kuue kuni kaheteistkümne kuu jooksul.
Kõige tõenäolisemaks peetakse küberrünnakut. Ohus oleks põhilised teenused internetist ja pangandusest kuni elektri ja vee taristuni. Vähemalt OpenAI kinnitas, et nad korraldavad õppusi, kus valmistutakse mitmesugusteks olukordadeks. Nende seas ka avalikuks ja poliitiliseks reaktsiooniks. Ehk kust kulgeb joon mis markeerib kui suurt negatiivset sündmust võiks ühiskond aktsepteerida? Selle mõtte ütles hiljuti välja OpenAI juht Sam Altman, kui tõdes, et tuleviku hea nõuab teatud pahanduste talumist. Teame, et matemaatikute ennustust muutis rahva käitumise muutumine. Sama võib juhtuda TI puhul. Kuigi, keegi ei tea, millises suunas.
Lihtsamalt öeldes, katastroofi põhjuseks on võimalus teha katastroofilisi asju. Riskile ja selle ennetamise vajadusele osutab Microsofti juht Satya Nadella nädalavahetusel avaldatud kommentaaris. Nadella
soovitas lähtuda eeldusest, et kõik TI mudelid on kompromiteeritud, so küberturvalisuse mõistes läbivalt ebaturvalised ja ohule avatud.
Microsofti juht soovitab "astuda samm tagasi ja hinnata selle uue ajastu usaldusarhitektuuri. Me ei saa lihtsalt delegeerida vastutust selle eest, mida tehisintellekt meie nimel teeb." Nadella kirjeldab tänast tehisintellekti üksteise sees paiknevate "mustade kastide kogumina" ja kasutab isegi nimetust "superintellekt". Ta rõhutab, et esmalt peab saavutama kontrolli, et välistada hilisemad tühjad vabandused. Eristama peab võimsa intellekti ülest kontrolli selle kättesaadavusest. Täna domineerib viimane. Naiivne on loota, et intelligentsuse kasv tagab ka suurema usaldusväärsuse. Kui selle tegutsemist ei suudeta kontrollida võib inimesest võimekam masin teha rohkem head ja rohkem kahju. Masin inimeste eest ei vali.
Uut laadi riskile osutavad ka krüptoraha asjatundjad. Ethereumi uurija Justin Drake hoiatas, et OpenAI demonstreeritud TI kiire areng matemaatikas võib juba lähiaastatel hakata ohustama seni turvaliseks peetud krüptograafilisi lahendusi. Ethereumi loojana tuntud Vitalik Buterin soovitas paanikat vältida, kuid tunnistas vajadust valmistuda võimalike ohtude vastu.
Kunagi ennustasid matemaatikud päeva täpsusega võimalikku katastroofi. Tänased TI arendajad ei tea, millal võimalik katastroof võiks juhtuda. Aga sellele järgnevat päeva juba kavandatakse.
Kommentaarid
Alates 02.04.2020 kuvab ERR kommenteerija täisnime.