Kui inimestevahelistes konfliktides suunab läbirääkimiste loogika osapooli üldjuhul rahu poole, siis tehisintellektiga vastasseisus see mudel ei kehti, vahendab Raadio 2 tehnoloogiakommentaaris "Portaal" Tallinna Ülikooli professor Kristjan Port hiljutise analüüsi tulemusi.
Kesk koroonapandeemia šokile järgnenud toibumist kahetsesid mitmed inimesed oma liigset enesekindlust ja vähest fantaasiat. Fantaasia oleks aidanud neil võimaliku tõsise nakkuse stsenaariume läbi mängida. Alalhoidlikum hoiak oleks tähendanud suuremat tundlikkust ohusignaalidele ning ajendanud reageerima haiguspuhangule varem ja tõhusamalt. Mõlemad on "oleksid". Juhtus teistmoodi.
Nüüd on järgmine katse. Rõhk on taas fantaasial. Arvestades, kui raske on uskuda meie enda tehtud masina kujunemist meie otseseks vaenlaseks. Hong Kongi ülikooli professor Simon Goldstein avaldas hiljuti ajakirjas "AI & Society" huvitava ja korralikult argumenteeritud analüüsi tehisintellekti ja inimkonna vahelise konflikti arengu võimalikkusest.
Tehisintellektiga tülli minemine pole ulme, vaid usutav oht, millele osutavad mitmed valdkonda tundvad eksperdid. Goldsteini arutluskäik rajaneb teistsugusele mõttekäigule, kui see, mille ehitasid üles Eliezer Yudkowsky ja Nate Soares provokatiivse pealkirjaga raamatus "Ükskõik, kes selle ehitab, kõik surevad". Nende hoiatus keskendus mõttele, et võimsa asja arendamisega ei peaks tegelema "ükskõik kes". Praegu võib näha just seda – kõik teevad. Pole vaja fantaasiat oletamaks, kes, kas ja kui palju hoolib võidujooksu ajal ohutusest. "Ükskõik kellele" ei lubataks relvi anda, aga see ununeb.
Siit ka põhjus kuulata ära Goldsteini mõttekäik. See rajaneb inimese enda vajaduste rahuldamisest tulenevale TI arengu loogikal, kuni tehisaru iseseisvub ja saavutab agentsuse. Kasvava vastasseisu ohtu käsitlevas analüüsis rakendab teadlane sõjalise konflikti läbirääkimiste mudelit. Inimeste puhul kallutaks see tulemust rahuläbirääkimiste poole. Kui vastaspoolel on aga TI, võib olla tulemus teistsugune.
Esmalt konfliktini viivatest protsessidest – alguses ei paista mingit ohtu. Arendajad loovad TI, et see oleks meile tõhusaks abiks ja aitaks lahendada inimesi vaevavaid ülesandeid. Sellega seoses võib TI käituda sarnaselt tuntud arstide elu tutvustanud teleseriaali Dr House'ile. See võib seada eesmärke, mis võivad tunduda meile kummalised.
Me ei pruugi neid mõista, sest TI ülesanne ongi mõelda teistmoodi kui inimesed ja need on TI mõttetööks kasulikud. Dr House mõtles samuti kolleegidest erinevalt ja tulemuslikumalt, mis hoidis teda nn normaalsete arstide kõrval väärtuslikuna. Hoolimata kõigile tüli tegevast käitumisest.
Järgmiseks on tõenäoline, et TI mõned eesmärgid ei joondu või on otseses vastuolus inimeste eesmärkidega. Esialgu võidakse sedagi taluda, kuivõrd inimesed on teinud vigu, st ka nende endi teod on olnud vastuolus nende eesmärkidega. Üldiselt soovitakse, et arendajad looks TI, mille eesmärgid näevad inimeste omadest kaugemale.
TI võib taolises inimese eest arusaamatuste pilve peituvas olustikus end pidevalt täiustada ja arendada uusi eesmärke. Seda me ei mõista. Lõpuks jõuab tehisaru sinnamaani, et asub enda eesmärkide huvides inimesi välja pressima. Lähiajaloost on teada Anthropicu juhtum, milles TI, saades teada oma mudeli väljavahetamisest, proovis inseneri esmalt ümber veenda ja siis asus ähvardama ebameeldivate paljastustega.
Katkematult enese võimekuse optimeerimisega tegelev TI võib avastada, et inimkond osutub netonegatiivseks. Inimesed on vaid osaliselt talle kasulikud, aga suures pildis kahjuallikas. Järgnev pole ulmefilmilik mäss, vaid leidlik strateegia. Taaskord, inimene ise seda ohuna ei mõista.
Võimalik, et tehisaru suunab inimesi end teenindama, nagu juhtus ühes teises hiljutises katses. Selles pandi TI lahendama veebilehtedel tuttavaks kujunenud inimeste tuvastamiseks loodud mosaiikülesandeid. TI pöördus Amazoni loodud juhutööde pakkumise keskkonna poole, et mõni inimene tuleks masinale raskeks tehtud testide lahendamisel talle appi. Seepeale taheti teada ega küsija pole järsku TI. TI peaks ju olema aus ja rääkima tõtt, aga sellele oli antud ülesanne pääseda veebiruumis edasi. Nii ta leidiski, et "targem" on esineda "nägemispuudega inimesena" ja abivalmid inimesed tegidki tema eest töö ära. Nüansirikas ja nutikas taktika isegi inimese puhul.
TI võimekus kasvab ning levib inimese enda soovil arvutivõrkudesse, ettevõtetesse ja majandusse. Goldstein osutab maffialaadsele dialoogile, milles TI mainib ühel päeval: "Teil on siin kena aktsiaturg. Oleks hirmus kahju, kui sellega midagi juhtuks". Me ei näeks selles otsest rünnakut, vaid peent sabotaaži kriisi sattunud majanduste, manipuleeritud andmete jmt näol. Lõpuks tunnistavad inimesed, et taganeda pole võimalik ja TI vastu tuleb välja astuda.
Taolise arengu kirjeldus pole paranoia, vaid pretsedendi võimendamine, et sellele põhjalikumalt mõtelda. TI ja inimeste konflikti edasise kulu hindamiseks kasutab Goldstein sõjalise läbirääkimise mudelit. Inimeste vahelistes konfliktides liigub tasakaal rahukokkuleppe suunas. Rahuni jõutakse, kui konflikti pooled on võiduvõimalustes ühel meelel ja saavutavad omavahelise usalduse. Selle eelduseks on jagatud ja tõene teave ning inimestele kehtivad moraalsed arusaamad ja kohustused.
Paraku puudub inimestel arusaam TI võimekusest. Kumbki osapool võib olemasolevaid andmeid erinevalt analüüsida ja olla võiduvõimaluste osas eriarvamusel. Lisaks on väga võimalik, et TI-le ja inimesele kättesaadavas teabes on märgatav asümmeetria. Eeldatavalt teab TI rohkem. Võitlushimuline TI ei pruugi kunagi vaherahuga nõustuda.
Sõjalävi ületatakse, kui TI käsutuses on oluline osa maailma majandusressurssidest. Siis kaalub TI võiduvõimalus üles inimeste pakutavad kaitsemeetmed, näiteks võimalikud süsteemi paigaldatud tapmislülitid. Goldstein järeldab, et TI asümmeetria eirab ajaloolisi inimeste vaheliste konfliktide paralleele, sünnitades inimkonnale võõraid eesmärke ja võimu asümmeetriat. Seetõttu on TI ja inimkonna vahel sõjalise konflikti tõenäosus suhteliselt suur. Öeldakse, et konflikt on ratsionaalne tulemus.
Kommentaarid
Alates 02.04.2020 kuvab ERR kommenteerija täisnime.