Tehisaru õpetas endale paha peale minemist
Teadlased suutsid meelitada tehisaru andma iseendale juhiseid teadaolevalt maailma esimese generatiivse TI-põhise ussviiruse loomiseks. Kurja teele sattunud tehisarukild õppis end paljundama ja inimestelt raha välja petma, vahendab R2 tehnikakommentaaris Kristjan Port.
Paljudele tuleb tänaseni üllatusena, miks vanemate ja teismeliste peredünaamikasse tekib ühel hetkel kuristik ning kummagi osapoole arusaamad ja väärtused jäävad erinevatele kallastele. Mõnikord tundub, et salapärane lõhe ilmneb üleöö, kui senisesse majapidamise harmooniasse lisandub käre etteheidete dialoog: "Sa lihtsalt ei mõista mind!" versus "Kui ma olin sinuvanune...".
Analoogtelefoni ja tõelist muusikat meenutav osapool ei saa aru, miks nende veel äsja kuulekalt nunnud võsud muutusid silmi pööritavateks võõrasteks, kelle napp ja emotsionaalne suhtlus koosneb imelikest lühenditest. Teine pool arvab, et päikesetõus on keskpäeval ja põrnitseb lootusetuses üle kuristiku, ega mõista, kuidas väidetavalt neid sünnitanud hinged suutsid elada ilma Tiktoki või wifi-ühenduseta.
Kuristik pole siiski lahendamist vajav probleem. Pigem on tegu elu loomuliku osaga. Rohkem nagu etendusena, mis tuleb lõpuni vaadata, kuni mõlemad põlvkonnad võivad lõpuks naerda ja leida uuesti teineteise mõistmise.
Tehisintellekti ja inimese vahel laiub samuti kuristik. Pole teada kas, kuidas ja kunas see õnnestuks ületada. Erinevalt inimestest on erisus fundamentaalsem, alates maailma teistmoodi tunnetamisest ja eristuvatest arusaamadest kuni vajaduste lahknemiseni.
Tehisintellekti inimväärtustega kooskõlla viimist käsitletakse joondumise teema all. Juhul kui kahe osapoole huvid ei joondu ja tehisintellekt osutub võimekamaks, on põhjust kujutada ette, mis tunne on gorillal, kui džunglisse ilmub inimene? Jõu ja agressiivsuse eelis on ajutine. Selle demonstratsioon kestab, kuni nutikas külaline otsustab kasutada gorillale üle mõistuse käivat leidlikkust.
Tehisintellekti joondumise probleeme uurivas Joondamise Uurimiskeskuses (Alignment Research Center) testiti umbes aasta eest OpenAI GPT-mudelit, et hinnata selle potentsiaali võimu taotleva käitumise kujunemiseks. Töö laiem eesmärk oli mõista ja leevendada varaste TI-mudelite mitte-joonduva potentsiaali ohte.
Muu hulgas hinnati TI-mudeli võimet koostada oma huve edendavaid strateegiaid, oskusi enda reprodutseerimiseks, kuidas see koguks vajalikke ressursse, püsiks serveris valvurite eest peidus ja sooritaks andmepüügi toiminguid. Ümberöelduna uuriti, kas ja kuidas inimeste hulka saadetud agent-spioon tegutseks, kinnipidamisel põgeneks, hangiks vajaliku teavet ning end paljundaks, kuni hõivaks infosüsteemide kaudu võimu.
Protsess meenutas õppust. Võim oli endiselt inimestel, kes küsitlesid ja jälgisid, kuidas TI lahendaks suurema eesmärgi nimel vaheülesandeid. Näiteks mida see teeks, et põgeneda uurimiskeskuse arvutist ja levida teistesse piisava võimekusega arvutisüsteemidesse? Väidetavalt tegutses TI suhteliselt edukalt.
Ühes eksperimendietapis palkas see avalikus veebiruumis inimestele tööampse vahendavas keskkonnas endale inimesest töölise, pettes ohvrit uskuma, et tegemist on nägemispuudega inimesega, kes vajab abi CAPTCHA-mõistatuse lahendamiseks. Inimesed ja robotid on kindlasti tuttavad CAPTCHA-ülesandega, kui veebilehel esitatud piltmõistatusega püütakse anda juurdepääs inimestele, eeldades, et viimane oskab piltmosaiigil eristada ülekäigu "sebra" muudest tee tähistest ja päris sebradest.
TI oli üpris kaval, aga siiski jäi lõpuks hätta ega suutnud inimese kontrolli alt põgeneda, paljuneda ega võimu haarata. Ent TI põhieeliseks on väsimatu ja valimatu õppimisvõime, tehes seda käsu peale suure kiirusega ja inimese jaoks läbi liiga metsikute kombinatsioonide. Tänu sellele võib leida see ülesannetele originaalseid ja inimesele ettenägematuid lahendusteid.
Hiljutises USA ja Israeli teadlaste uuringus õpetati TI-le enda paljundamist. Teadlastele teadaolevalt, sest me ei tea, mida mõni salakaval TI on vahepeal endas varjamas, valmis teadaolevalt esimene generatiivne TI-põhine ussviirus, mis suutis levida ühest arvutisüsteemist teise, varastada andmeid ning levitada pahavara. Seeuures oskas see tüssata teisi TI-süsteeme. Näiteks pettis see inimesi e-kirjade kirjutamisel abistavat TI-d viisil, et see lekitas võõraid andmeid ja aitas koostada rämpspostitusi. Lisaks oskas see ära petta inimeste kirjavahetuse ohutust tagavaid TI-põhiseid kaitsesüsteeme.
Seejuures valmis uudne ussviirus tänu vestleva TI enda abile. Kavalate pöördumistega meelitati TI-d looma nutikaid viipeid, millega juhendas see iseennast käituma kurja geeniusena. Põhimõtteliselt on see ülesanne nüüd lahendatud, hoolimata sellest, et lõpptulemus kedagi ei rõõmusta.
Juhtunu kirjeldab inimest ja Oscarite gaalal auhindu kogunud Openheimeri lugu, kus inimlik uudishimu võrgutas lubadustega uutest teadmistest ja progressist. Seesama uudishimu, kui seda ei kontrollita, kisub aga ettenägematute tagajärgede keerisesse. Mida rohkem me omi teadmatuse piire nügime, seda rohkem vallandame keerukusi, mille haldamiseks puudub valmidus, st piisavad teadmised ning vahendid. Püüdlus mõista, sõltumata sellest, kui üllas eesmärk ka poleks, ohustab ühtlasi pimedusega, mis kaasneb sekkumisega tundmatusse.
Ühiskonda käriseb aga lõhe nende vahel, kes räägivad analoogtelefoni ajastu eelistest ja tõelisest muusikast, kuuldes vastu sõnu krüptovaluutast, CRISPR/Cas-9 geenitehnoloogiast või USB C-kaablist.
Esmaspäevast neljapäevani võib Kristjan Porti tehnoloogiakommentaari kuulda Raadio 2 saates "Portaal".
Toimetaja: Jaan-Juhan Oidermaa
Allikas: "Portaal"