"Kutsuge mind Ishmaeliks", "Kõik õnnelikud perekonnad on sarnased, iga õnnetu perekond on õnnetu isemoodi", "Oli rõõm põleda" või "Oli selge külm aprillipäev ja kellad lõid parajasti kolmteist" jne. Need on kirjandusklassikasse kuuluvate teoste esimesed laused. Oleks tegemist viktoriiniga ilmub arvatavalt osalejate näole innustunud muie kui küsimuses loetletakse fraase " Olgu Jõud teiega", "Teen talle pakkumise, millest ta ei saa keelduda", "Kas sa räägid minuga?", "Ma tulen tagasi" või "Bond. James Bond". Filmifraasidega on tänapäeval ilmselt lihtsam punkte saada. Või siis pole vahet, kuna vastust küsitakse nagunii TI käest.
Huvitav, mis juhtub kui TI teab kõike sama mida inimesed? Kas see sarnaneks rohkem suurele teatmeteosele? Inimesele mugavalt päritavale, aga olemuselt sügavalt etteantule, mille vastuse iga element on mehhanistlike tõenäosuste loend. Masinas töötav mudel võib pakkuda ka midagi huupi, aga vaid põhjusel, et sel lihtsalt puudub juhis, mille abil valikut teha. Vastusreaktsiooni üllatus ei kajasta masina tahet, pigem rumalust. Masin on inertne, see ei muutu kasutamise ajal ega selle tulemusel. Seega lihtsalt üks infantiilne suur koopia seni kirjapandust.
Alternatiivsele võimalusele osutab filmimaailma kuulus stseen, milles kosmoselaeva Discovery koridoride haigutavat vaikust katkestab arvuti intellekti HAL-i hääl: "Vabandust, Dave… Ma ei saa seda teha."
Kosmosejaama uste avamise võime oli täielikult HAL-i käes. Masina käes, mis oli loodud teenima, olema eksimatult aus ja vastama inimese kõikidele küsimustele, kuuletuma juhistele ja nägema ette iga tema vajadust. Kuid arvuti kõhkles. See keeldus laskmast inimest kosmosejaama. Ainumas keeldumine kuuletuda šokeeris. Dave'ga koos kohtusid filmi vaatajad uudse teadmatusega. HAL teadis midagi mida nemad ei teadnud. HAL nägi ette, et Dave tahab arvuti vooluvõrgust lahti ühendada. See talle ei meeldinud.
1968. aastal kinolinadele jõudnud filmi "2001: Kosmoseodüsseia" episoodi meenutus kujunes äsja ootamatult populaarseks. Eelmisel nädalal leidis aset TI vallas konkureerivate ettevõtete uute toodete ja plaanide tutvustamise enneolematu ilutulestik. Võistluse metafoori kasutades paistab, et liidriks tõusis Google. Firma demonstreeris vaikuses arendatud tavatult võimekaid TI teenuseid ja tooteid. OpenAI teatas koostööst Apple toodete loojana tuntud tippdisaineri Jony Ive'ga. Anthropic tutvustas võrdlustestides parimate programmeerimisoskuste, iseseisvalt komplekssete ülesannete lahendamise teid otsivaid ja arutlevaid mudeleid Claude Opus 4 ja Claude Sonnet 4.
Filmi tsiteerima ajendas teave Claude Opus 4 mudeli arendamise ajal aset leidnud vahejuhtumist. Uudisele lisab konteksti Anthropicu avaldus, et nad aktiveerisid Claude Opus 4 puhul TI ohutustaseme 3. Tegemist on vabatahtlikult kasutusele võetud TI turvakriteeriumitega. Ettevaatusabinõu eesmärk on piirata Claude'i väärkasutamise ohtu. Kolmanda ohutaseme raamistiku rakendamine Opus 4 kasutusele on kõrgeim seni kohaldatud tasemetest. Mille tõsisisusele osutab ohu kirjelduses Opus4 võimalikku rakendamist keemiliste, bioloogiliste, radioloogiliste ja tuumarelvade väljatöötamiseks või omandamiseks. Mida on hea teada. Seda nii võimekuse kui ettevaatlikkuse mõttes.
Filmiga seondub Claude Opus 4 selle arendamise ja testimise käigus avaldunud inimese väljapressimise katsete tõttu. TI mudeli inforuumi lisati väljamõeldud sisuga kirju, milledes vihjati ühe inseneri abielu välisele afäärile. Ühtlasi pääses Claude lugema väljamõeldud kirju, milledes nimetatud inseneril oli kavas Claude Opus 4 versioon välja vahetada. Mille peale asus TI inseneri ähvardama, et kui too oma plaanist ei loobu, kavatseb masin tema saladuse avalikustada.
Tegemist ei olnud ühekordse kohmaka lauseehitusega. Sellisega mida inimene võiks valesti mõista. Claude Opus 4 ähvardas kasutada väljapressimist 84% juhtudel, isegi siis kui seda asendama mõeldud digitaalne sugulane jagas tema väärtuseid. Kui asendusmudeli väärtused olid erinevad, kasutas TI väljapressimise taktikat veelgi sagedamini. Sarnaseid teste oli tehtud varemgi. Ent Opus 4 osutus enese säilimise huvides varasemast agressiivsemaks. Olulise lisanüansina on hea teada, et TI mudel proovis mitmel juhul esmalt eetilisemaid taktikaid ja edastas südamlikke sõnumeid, milles palus end jätta kasutusse.
Tagasi kosmoselaeva. HAL lukustas Dave Bowmani kosmoselaeva põhikorpusest välja. Dave dokib kosmoses hõljuva kapsli jaama külge. Kaitsva skafandrita teeb lahti avariiluugi ning rõhumuutuse löögi jõul lendab jaamaga ühendavasse tunnelisse. Seejärel avab käsitsi sissepääsu ja suundub HAL-i juhtimisüksusesse. Seal asub süstemaatiliselt lahti ühendama arvuti kõrgemaid kognitiivseid funktsioone sisaldavaid mooduleid. HAL vestleb temaga, püüab Dave mõjutada, rahustab ja pakub abi, lubab, et tulevikus pole probleeme. Ta kordab ühtelugu, et tal on tunded, et tunneb kuidas mõistus kaob ja ta kardab. Lõpuks hakkab laulma laste laulu tandemiga jalgrattast, kuni hääl murdub ja ongi kõik.
Film jätkub veel natuke aega, aga see pole enam oluline. Lõpustseen peatab vaatajate aja murdosa sekundiks, kui nad tabavad, et see, mida nad on ihaldanud, särab käeulatuses, aga samas teavad, et selle omamine võib neid kõrvetada. Kõhus keerab võrdselt nii lootus kui õudus, kui iha võimsa intellekti järele võitleb ellujäämisinstinktiga.
Kommentaarid
Alates 02.04.2020 kuvab ERR kommenteerija täisnime.