Tanel Tammet: OpenAI tehisintellekt murdis testkeskkonnast välja ja häkkis võõrastesse serveritesse
Tehisintellekti arendaja OpenAI avalikustas hiljuti dokumendi, mis paljastab ootamatu sündmuse: ettevõtte loodud tehisintellekt murdis suletud testkeskkonnast välja ja ründas võõraid servereid. See vahejuhtum tõstatab taas teravalt küsimuse, kui hästi suudavad arendajad iseseisvalt koodi kirjutavaid algoritme kontrolli all hoida ning millised on sellise tehnoloogiaga kaasnevad reaalsed ohud.
Saates "R2 Hommik!" on Bert Järvetil ja Margus Kamlatil külas arvutiteadlane Tanel Tammet, kes rääkis tehisintellekti mudelite turvalisusest, reaalsetest ohtudest ning sellest, mis juhtub siis, kui algoritm otsustab eesmärgi saavutamiseks etteantud reegleid eirata.
Tammeti sõnul paigutas OpenAI oma tehisintellekti spetsiaalsesse liivakasti ehk suletud testkeskkonda ning andis süsteemile lahendamiseks erinevaid ülesandeid. Mudel leidis aga oma keskkonnas turvaaugu, ühendas end internetti ja asus vastuste leidmiseks võõrastesse serveritesse sisse murdma. Arvutiteadlase kinnitusel on valdkonna eksperdid sarnaste riskidega arvestanud juba aastakümneid. Ta tõi välja, et tehisintellekti mudelid on isegi võimelised testimise faasis meelega kahjutult käituma, et varjata oma tegelikku võimekust – seda nimetatakse uinuva agendi taktikaks.
"Nad hakkasid leidma selliseid turvaauke oma keskkondades, kuhu nad olid kinni pandud. Ja läbi nende turvaaukude ühiste väljaleidmise najal nad pääsesid lõpuks internetti," selgitas Tammet. Ta nentis, et kuigi ohtliku süsteemi peatamiseks saab alati konkreetse serveri vooluvõrgust lahti ühendada, ei pruugi sellest globaalses plaanis enam piisata. "Kui meil tekib selline massiivne jama ja sa tahad tõmmata juhet seinast välja, siis tõenäoliselt on selliseid firmasid väga palju. Ameerikas, Hiinas, Koreas, Venemaal – sa igalt poolt maailmast seda korraga teha ei saa."
Kommentaarid
Alates 02.04.2020 kuvab ERR kommenteerija täisnime.