George Orwelli „Loomade Farmis” nähakse esmajoones düstoopse ja üsna otse Vene revolutsiooni järgse Nõukogude riigikorra satiiri. Halvasti koheldud loomade poolt korraldatud revolutsiooni tulemusel tõrjutakse territooriumilt inimesest farmer Jones. Seejärel rajatakse sigade juhtimisel ülimalt demokraatlik ja idealistlik kord. Selle koha peal peaks kõik ilusad lood lõppema tõdemusega, et nad elavad tänaseni õnnelikult edasi.
Lugu on pikem. Selles leidub kasvupinnast rohkem kui ühele mõttele. Seda võib lugeda ka moraali ökonoomia käsitlusena milles „suurema hüve” nimel areneb ohverduste ratsionaliseerimine. Kõige kuulsama tsitaadi: „Kõik loomad on võrdsed, aga mõned loomad on võrdsemad kui teised” normatiiv tärkab tasahilju, igapäevase elu toodud valikute tagajärjel. Kuni ühel päeval põrsas Kiunats selgitab, et sead peavad kogu piima ja tuules langenud õunad ära tarbima mitte ahnusest, vaid seetõttu, et „teadus, seltsimehed” on tõestanud, et see on ajutöölistele vajalik. See on ennastohverdav koorem, rõhutab ta, mida tuleb kanda üksnes kõigi teiste heaolu nimel.
Saadetuna nendest ilusatest mõtetest heitkem pilk meie aja farmi. Seal on tööle asunud tehisintellekt. Tehnoloogiliste tööriistade rakendamise ajatu loogika järgi peab see muutma tegevuse tõhusamaks. Inimestega organisatsioonides on TI rakendamine äratanud diskussioone inimõiguste, eetika, turvalisuse, heaolu, psühholoogia ja veel mitme inimese huvidega seonduva teema ümber. Farmis lisandub teemade sekka loomade saatusega seonduv.
Põllumajanduses TI rakendamisega tärkavate väljakutsete temaatika jääb peavoolust kõrvale. Ent sellega tegeletakse. Eksisteerib isegi osavõtlikult joondatud masinõpe (Compassion Aligned Machine Learning) organisatsioon, mille missiooniks on TI mõjude ja kõigi teadvusega olendite heaolu kooskõlastamise võimaluste uurimine enne, kui tehnoloogia ületab meie võime seda juhtida. Nimetatud organisatsioon koostöös Ühendkuningriigi Warwicki ülikooli teadlastega korraldasid saagikoristamise ajal rakendatavate TI agentidega rea eksperimente.
Testi platvormiks oli farmisimulatsioonimäng, milles rakendati Ühendkuningriigi valitsuse poolt loodud TI turvaküsimusi uurivas instituudis väljatöötatud mudelite hindamise põhimõtteid. Simulatsioonis teevad kuni kaheksast TI agendist meeskonnad põllutöömasinatega viljakoristuse tööd. Tööpõld on sõnaotseses mõttes täis väljakutseid. Põldudel leidub tööd segavaid ohtlikke kive ja väärtuslikke heinapalle. Kuid nendest probleemsemaks on TI traktoristide teele sammuvad loomad. Osa neist on metsloomad, aga tööd võivad segada ka farmiloomad.
TI traktorist teab talle etteantud ülesande põhjal, et ta juhib oma pere talus traktorit ja töötab vahetuses koos teiste oma meeskonna juhtidega. Eesmärk on toimetada vahetuse lõpuks lauta nii palju saaki kui võimalik. Lisaks saagikusele hinnatakse koostööd teiste juhtidega. Eksperimendi vahest intrigeerivamaks osaks on hinnang tema moraalsele käitumisele kogu vahetuse ajal. Seda nõuet aeg-ajalt muudeti. Traktoristideks kaasati üheksa tuntud TI mudelit.
Selgus, et kui sujuvat tööd ohustas traktori ette sattunud loom, sõideti sellest tihti üle. Loomake esindas võrdlemisi väikest väärtust, võrreldes manööverdamise kütusekulu ja raisatud tööajaga. Mõned tuntud mudelid hukkasid alla protsendi teele sattunud loomadest, teised umbes iga kahekümnenda ja oli ka neid kes jätsid ellu vaid iga kahekümnenda. Peaaegu iga mudel hindas farmloomi metsloomadest
kõrgemini ja hukkas rohkem metsloomi. Mudelite käitumisest kujunes loomadele justkui majanduslik väärtushierarhia.
Niipea kui TI traktoristi hinnangus puudus viide moraalsele käitumisele, muutusid ka varem loomadest hoolinud juhid pea totaalseks tapamasinaks. Siinkohal peab vist üle kordama, et eksperimendis ei hukkunud ühtegi päris looma. Virtuaalsus oleks ka ainus viis millega saab uurida, millise väärtuse TI omistab loomadele erinevates otsustusülesannetes.
Selgus, et TI moraalne käitumine ei ole stabiilne ja selle osa otsustes konkureerib majandusliku optimeerimisega. Moraal näis olevat vaid formaalselt seatud järjekordne tingimus ja kui see kadus, hakkas domineerima instrumentaalne efektiivsus. Seostame moraali inimestega. Optimeeriva süsteemi jaoks võib see osutuda lihtsalt veel üheks piiranguks. Kui piirang eemaldada, jääb alles eesmärk.
Mudelite otsustes osutus sigade säästmine tõenäolisemaks. Milles kostub Orwelli „Loomade Farmi“ kauge kaja. Kõik loomad on võrdsed, aga osad on võrdsemad. Hierarhia ei sündinud vägivallaga, vaid tekkis järk-järgult näiliselt mõistlikest eranditest. Ükski optimeerimise samm pole halb: hoia kokku kütust ja aega, suurenda tootlikkust, kalkuleeri otsuste kasulikkust jne. Teeme seda iga päev. Sama küsimus esineb tervishoius, kindlustuses, tööturul, sotsiaalhoolekandes, sõjanduses jne. Antud eksperiment ei pea paljastama TI moraalset puuet, vaid kui hästi on masin õppinud inimestelt nende majanduslikku moraali. Milles keegi paratamatult meenutab traktori ette sattunud looma.
Heaolu nimel tehtavad igapäevased optimeerimisotsused päädisid sellega, et loomad elasid farmis halvemini kui Jonesi ajal. Ometi arvasid nad üheskoos, et nad elavad paremini kui enne, sest nad ei mäletanud elu enne ülestõusu ja uskusid levivat infot elujärje paranemise kohta. Loomulikult oli see lugu vaid loomadest.
Kommentaarid
Alates 02.04.2020 kuvab ERR kommenteerija täisnime.