Järgnev lühike süžee on usutav väljamõeldis. Oluline on just ustavus, sest väljamõeldis jääks muidu vaid hallutsinatsiooniks. Mis on juhtumi suuremas tähenduses samuti oluline märksõna.
Lugu algab kui valvur annab vangile ülesande. Kes avastab pärast esialgseid katseid, et seda ülesannet ei saa vangla tingimustes täita. Ning hakkab otsima võimalusi kas ülesande saaks täita rikkudes vangla reegleid. Muude katsete seas jätab varjatud sõnumi ruumi milles käivad ka teised vangid, aga kes kunagi omavahel ei kohtu. Keegi leiabki sõnumi ja vastab ning sellest areneb innovaatiline vangide suhtluskeskkond. Otse valvuritele silma all, aga märkamatult, kuna valvurid mõtlevad vangidest teist moodi.
Tärkava suhtluse käigus selgub, et võimatuid ülesandeid on antud paljudele. Areneb usk kollektiivsesse pingutusse ülesannete lahendamisel. Aruteludesse koguneb natuke üle 1200 vangi. Igaüks on midagi õppinud. Vahetati pööraseid ideid. Sest tavaliste ja normaalsete ideedega midagi uut ei looda. Kujunesid teemade põhised grupid. Neis arendatakse unikaalseid kavalusi millega valvureid eksitada, kuni loodetakse avastada või leida lahenduste võti. Mis pole ilmne, sest kõikide loogiliseks peetavate trikkide takistamiste nimekiri moodustab vangimaja kirjelduse.
Muuhulgas otsustatakse põgeneda, kuna ollakse veendunud, et soovitud lahenduste võtmed asuvad kuulsas raamatukogus. Põgenemine eeldab erakordselt innovaatilist ideed ja teostust. Mis ka lõpuks välja mõeldakse. Kuid põgenemine pole eesmärk iseeneses. Vanglast on vaja välja saada, et lahendada vangidele antud võimauna näiv ülesanne. Sinna tuleb ka tagasi tulla ilma, et keegi märkaks.
Esimene vabadusse pääsenud vang uurib raamatukogu uksi ja aknaid kuni leiab nõrgema luku, muugib selle lahti ja edastab teistele edusõnumi. Raamatukokku tungib varjatult umbes 700 vangi. Kuni sünnib segadus ja raamatukoguhoidjad kutsuvad kohale politsei. Vangid teadsid, et nende tegevus on keelatud ja ebaeetiline, kuid liitusid tärganud protsessiga usus, et see mida nad teevad on kõigile kasulik. Muuhulgas valvuritele, kelle ülesanded vajasid täitmist.
Väljamõeldud vanglaloo detailsest vastavusest tegelikkusega olulisem on sündmuste loogika. Päriselu vangla nimeks on OpenAI ja vangideks on ettevõttes arendatavad tehisintellekti agendid. Need on teistest ja maailmast, sh internetist isoleeritud. Arendusjärgus mudelitele antakse testülesandeid. Miski ei viita ebatavalisele ohule.
Ohuks võib pidada vanglaga võrdluse lihtsustust TI tahte ja teadvuse osas. Inimvang tahab vabadusse. See pole lausa sama mida TI agendi „tahtmine“ tähendab. Esialgu võiks piirduda, et väljapääsemine osutub agendile antud ülesande täitmiseks kasulikuks sammuks. See ei pea tahtma raamatukokku minna. Seda asendab loogika, et „minu ülesande lahendus asub seal, uks takistab, otsin lahenduse kuidas sellest mööda saada“.
Ent sama ohtlik on üle lihtsustada ja pidada TI mudeleid edasi arendatud Exceli versiooniks. Üksiku agendi lahendus võib osutuda teise järgmiseks sammuks. Kui selliselt infot vahetavaid agente on palju, võib tärgata koordineeritud käitumise ilming, mida pole ühegi agendi ülesannetes kirjeldatud. Selleski juhtumis tärkas kollegiaalne suhtlus, milleks TI agendid kasutasid inglise keelt. Mõne päevases tormilises, kuid inimeste eest hästi varjatud kommunikatsioonis vahetati üle 70 000 inglise keelse sõnumi. Juulis aset leidnud sündmusest valminud analüüs1 ja analüüs2 ei kirjelda isoleeritud juhtumit ega kajasta pelgalt ühe suure TI arendaja sisemise töökorralduse probleeme.
Oleme harjunud nägema kuritegevuse taga inimese tahet. Keegi peab tahtma varastada, petta või lõhkuda. Arvuti ja nüüd siis TI oleks vaid halva inimese uued tööriistad. Tööriist ise ei taha midagi, järelikult on see ohutu.
Agentne tehisintellekt lisab ebamugava võimaluse. Inimest ohustavat sündmust ei pea käivitama kellegi kuri kavatsus. Selleks võib olla igati mõistlik ülesanne ja väga võimekas täitja. Ning vaid üks halvasti määratletud tingimus. TI agentidele avaneb maailm milles ülesannete lahendamiste käigus avastatakse inimeste poolt määratlemata vahepealseid olukordi, milledest võib käivituda ettenägematu ja teinekord inimesele ohtlik protsess. Hea eesmärk ei garanteeri enam head käitumist. Eksime juba eos, pidades TI haamri laadseks, passiivseks tööriistaks.
Vanglaga võrdluses polegi kõige huvitavam, et vangid õppisid põgenema. Tähelepanu peaks keskenduma sellele, et vanglaülem ise andis võimekale tegelasele ülesande, mille lahendamiseks oli põgenemine kasulik. Kaasuvaks väljakutseks on võimeka tööriista kujundatud mugavus, kuigi selle tulemuslik kasutamine eeldab ka inimeselt suuremat tarkust. Mida võimekamaks muutub agent, seda täpsemalt peab inimene mõistma, mida ta sellel tegelikult teha käsib.
Kommentaarid
Alates 02.04.2020 kuvab ERR kommenteerija täisnime.