Mis "salakeeles" suhtlevate Facebooki arvutitega tegelikult juhtus?
“Tehisintellekt, ise mõtlevad ja inimesest sõltumatult otsuseid tegevad arvutid ning piiramatu õppimisvõime” – kõlab kui maailmalõpu stsenaarium, kuigi tegemist on vaid arvutiteadlaste igapäevatööga. Kas me suudame kontrolli omada superintelligentse arvuti üle? Kas me teeme veebis suheldes vahet, kes on inimene ja kes arvuti? Ning miks ei oska LHV panga virtuaalne kasutajatugi Uku vastata kõikidele küsimustele? – uurime teadlastelt endilt.
Hiljuti levis Eesti veebiportaalide kaudu aktiivselt uudis, justkui oleks Facebooki poolt arendatavad tehisintellektid omavahel salakeeles suhtlema asunud ning mille tulemusena olid inimesed sunnitud kabuhirmus arvutid välja lülitama, et edasist takistada. Tartu ülikooli arvutiteaduste instituudi doktorant Ardi Tampuu rahustab:
“Facebooki tehisintellekti lugu on suurepärane näide sellest, kuidas online-meedias pannakse lugudele intrigeerivad pealkirjad, et rohkem klikke püüda. Facebook arendas vestlusrobotit, mis oleks võimeline (hinna)läbirääkimisi pidama. Nagu tehisintellekti puhul tihti tehakse, õpetatakse tehisintellekti esmalt näidete põhjal (päris inimeste omavahelised dialoogid) ning tehisintellektid püüavad lihtsalt imiteerida inimeste suhtlust.
Facebooki läbirääkimis-robotite treenimisel juhtus nii, et püüdes maksimaalselt head tulemust saada ja teist tehisintellekti ära petta, hakkasid nad kasutama imelikke lauseid, sest keegi polnud neile öelnud, et nad peavad inimese moodi rääkima. Avastades, et tehisintellektid kasutavad imelikke lauseid, muutsid teadlased parameetreid selliselt, et oluline polnud mitte ainult parim tulemus läbirääkimistel, vaid ka lausete normaalne struktuur. Ehk siis imelikke lauseid nähes uurijad mitte ei lõpetatud projekti, ei paanitsenud ja ei ostnud maailmalõpu puhuks toiduvarusid, vaid lihtsalt parandasid oma üsna tühise eksimuse.”
Arvutikasutajad on tänapäeval suur osa planeedi populatsioonist ja üks osa arvuti kasutamisest on tugevalt seotud turvalise internetikäitumisega. Kui tänu Eesti keele väiksusele ja keerukusele on enamusel juhtudest võimalik ära tunda kirjavigadest kubisevad “nigeeria kirjad”, siis inglisekeelses veebimaailmas on tekstirobotitel oluliselt lihtsam jätta endast muljet kui asjalikust vestlus- või äripartnerist.
Kas ja kuidas on üldse võimalik kindlaks teha, et teisel pool helendavat ekraani toimub suhtlus inimese, mitte arvutiga?
Ardi Tampuu sõnul sõltub lahendus konkreetse vestlusroboti loomisel kasutatud algoritmidest. Kuid kui võtta arvesse tänapäeval üldlevinuimad lahendused, siis:
- Vestlusrobotitel on raskusi metafooridest arusaamisel. Kui sa ütled, et su lemmikvärv on "tomat", siis ei suuda ta sellest järeldada, et see tähendab punast.
- Vestlusrobotil võib olla raske aru saada valesti trükitud sõnadest. Kui inimene saab aru lausest "Mes su nmi on?", siis tehisintellekt pigem mitte.
- Vestlusrobotid ei ole kuigi osavad kontekstist aru saamisel. Kuigi paljudele süsteemidele on sisse ehitatud võime meeles pidada vestluspartneri nime, elukohta, sugu ja muid olulisemaid fakte, siis see mälu rakendub spetsiifiliselt neile infokildudele. Kui sa näiteks mainid, et sa parajasti sööd hommikust, siis tõenäoliselt ei suuda vestlusrobot kümme lauset hiljem seda enam meenutada.
- On vähetõenäoline, et vestlusrobot suudaks vastata sõnaliselt esitatud arvutustehtele, näiteks: "Kui mul on kolm eurot ja ma annan kaks eurot sõbrale, siis kui palju mul raha alles jääb?"
- Kui suhtlus on tõsisemat laadi, siis tasub paluda, et vestluspartner teeks endast foto. Kui see foto, mille vestluspartner saadab, on Google'i pildiotsinguga internetist leitav, siis on asi kahtlane. (Pildiotsing võimaldab otsida internetist infot, sisestades mitte sõnalise päringu, vaid pildi: https://images.google.com/ )
- Tihti ei oska nad "miks" küsimustele mõistlikku vastust anda.
- Mida rohkemate sõnadega on lause või küsimus esitatud, seda vähem tõenäoliselt suudab tehisintellekt sellele mõistlikult vastata.
- On veel palju kaudseid vihjeid, mis viitavad, et tegu võib olla (pahatahtliku) vestlusrobotiga. Robot võib vastata väga pika lausega väga kiiresti, kiiremini kui inimene suudaks trükkida. Tihti vastavad nad sama vestluse jooksul mitu korda täpselt identse lausega. Tihti "vabandavad" nad, et nende keeleoskus on halb, et hajutada tähelepanu oma imelikult keelekasutuselt. Pahatahtlikud robotid saadavad tihti linke või faile, ilma, et sa oleksid seda palunud. Samuti küsivad nad sinu käest paroole, pangakaardi numbrit või koodi.
Tõenäosus saada vestlusrobotitelt petta, on tänapäeval siiski suhteliselt vähetõenäoline. Tampuu usub, et pigem kasutatakse petuskeemide puhul roboteid masskommunikatsioonis vestluse algstaadiumis, kus küsimused on lihtsad ja ühemõttelised (“Kes sa oled? Mis su nimi on?” jne.). Pärast esmase kontakti loomist võtab inimesest pettur tõenäoliselt suhtlemise üle.
“Meil on arvutit väga lihtne välja lülitada - tõmbad arvuti seinast välja,” rahustab Tampuu. “Internetis levivate viiruste puhul on muidugi keerulisem - internetiühenduse olemasolul võivad nad ennast kuhugi muljale kopeerida enne, kui keegi reageerida jõuab. Aga netis levivad viirused ei ole piisavalt keerukad, et olla inimkonnale eksistentsiaalseks ohuks. Enamasti ohustavad arvutiviirused meie vara ja privaatsust, mõnel harval juhul, näiteks kunstsüdame või insuliinipumba kaaperdamise puhul, ka tervist.
Inimkonnale tervikuna tõeliselt ohtlikuks võivad kunagi saada vaid keerukad ja väga suurt arvutusvõimsust nõudvad tehisintellektid, mille loomiseks on vaja suurt gruppi väga hästi rahastatud ja kõrgelt haritud spetsialiste. Lähema paarikümne aasta jooksul võiksid millegi sarnasega hakkama saada vaid Google, Facbook, OpenAI, Baidu ja võibolla mõnede riikide valitsused.
Tehisintellekti ristiisa professor Patrick Henry Winston loengut andmas.
Õnneks on Google DeepMindi teadlased näidanud, et tänapäeval edukaimate tehisintellekti algoritmide sisse on võimalik ehitada eksimatu "kill-switch", mis peatab programmi töö ja millele tehisintellektil endal pole mingit ligipääsu. Siit ka paljude tehnoloogia- ja tehisintellekti ekspertide suust kõlanud väide: esmajärgus pole ohtlikud mitte ülitargad pahasoovlikud tehisintellektid, vaid suhteliselt algelised tehisintellektid, mis on omakasupüüdlike, rumalate või ohtlike inimeste kätes. Näiteks kuuldavasti mõjutati nii briti Brexiti hääletust kui USA valimisi tehisintellekti poolt suunatud isiksustatud reklaamikampaaniate poolt.”
Vestlusroboteid arendatakse ka Eestis
Eesti ettevõte AlphaBlues tegeleb ettevõtete klienditugedele virtuaalsete assistentide loomisega. Vestlusrobot aitab kasutajate probleeme lahendada erinevates võrgus olevates vestluskanalites nagu nt Facebook Messenger. Kui inimesest klienditeenindaja suudab korraga hallata ehk viite vestluspartnerit, puhkab öösiti ja nädalavahetustel, siis virtuaalne assistent on saadaval pidevalt ning suhtleb üheaegselt tuhandete inimestega, selgitab Hendrik Luuk AlphaBluesist (Hendrik on ka Tartu ülikooli meditsiiniteaduste valdkonnas füsioloogia vanemteadur):
“LHV panga virtuaalse assistendi, Uku, tegime meie ja tema pädevuses on vastata umbes 300 erinevale küsimusele panga teenuste kohta. Samas tasub tähele panna, et kliendituge abistava virtuaalse assistendi eesmärk pole niivõrd muheda vestluse arendamine kui ikkagi kasutaja tekstist toote/teenusega seotud probleemi tuvastamine, millele saaks anda ammendava vastuse.
Virtuaalsete abimeeste ülesanne ongi lahendada korduma kippuvaid probleeme seoses toote või teenuse kasutamisega. See on mugavam ja kiirem viis vastuse leidmiseks kui KKK lehel surfamine (eriti kui seda infot on palju) või telefoniliinil ooterežiimis veetmine.”
Vestlusrobotite maailm on aga juba praegu keerulisem ja mitmekesisem kui “korduma kippuvad küsimused”: nii on maailmas olemas virtuaalsed robotabilised, kes võtavad sinult pitsatellimuse, aitavad pangatoimingutega või broneerivad sinu eest lendusid. Kes teab, ehk vahetavad õige pea vestlusrobotid välja ka õhtustel kellaaegadel erakanalitel reklaamitavad tasulised vestlusliinid – esimesed meelelahutust pakkuvad vestlusrobotid on juba olemas:
“Google Home ja Amazon Alexa on mõeldud veebiteenuste kasutamiseks häälkäskluste kaudu ja seal taga on vestlusrobotid, kelle poolt genereeritud vastused muudetakse sünteetiliseks kõneks. Ei ole ka kaugel aeg, kus Apple Siri sarnane kasutajaliides muutub tavaliseks autodes ning võimaldab muusikat valida, ilmaprognoose uurida, paremat marsruuti valida jne,” selgitab Luuk.
Kas tehisintellekt unistab elektrilistest lammastest? Autor: Google
Nii Tampuu kui Luuk kinnitavad, et praegusel hetkel tehisintellektide liigse arvutusvõimsuse pärast muretsema ei pea ning arvutite “isemõtlevad” algoritmid on ikkagi head tööriistad, mis on mõeldud inimeste abistamiseks. “Nii nagu kirve või kruvikeerajaga võib kurja teha, saab ka sobiva algoritmiga inimesi segadusse ajada või lausa petta. See ei tee aga tehisintellekti oma olemuselt ohtlikuks,” toob Luuk näite.
Teoreetiliselt on aga kõik võimalik ja seda on osavalt ära kasutanud näiteks filmistsenaristid ja raamatute autorid: “Oxfordi ülikooli professori, Nick Bostromi raamatu “Superintelligence: Paths, Dangers, Strategies” järgi läheb asi ohtlikuks siis, kui anda tehisintellektile vaba juurdepääs andmetele ja võime iseennast ümberkonfigureerida/arendada. Sellises olukorras võib tehisintellekt teatud staadiumis saavutada nii suure kontrolli, et see hakkab kahjustama inimkonna huve. Võrdlusena võiks võtta olukorra, kus kutsar laseb ohjad lõdvaks ja annab hobusele käskluse oma äranägemise järgi edasi toimetada - nii võib rappa minna küll.”
Kui ka fantaasiat kõditavad raamatustsenaariumid kõrvale jätta, jääb endiselt alles küsimus, kuidas säilitada kontroll võimaliku tulevikus tegutseva superintelligentse arvuti üle.
“Keeruline küsimus on muidugi see, kas meil kui piiratud intellektiga olenditel on võimalik tuvastada kõik turvaaugud, mida superintelligentne süsteem kasutada võiks. Teisalt tundub liiga julge ekstrapolatsioonina arvata, et intelligents saab olla piiramatu. Teadmiste hulk on alati piiratud aeg-ruumi poolt seatud piirangutega ja nende vastu ei saa ka superintelligentne süsteem. Ma nõustuks pigem väitega, et ainus piiramatu asi siin universumis on inimese rumalus,” lõpetab Hendrik Luuk. Vähemalt esialgu ei jää üle muud kui temaga nõustuda.
Toimetaja: Randel Kreitsberg, Tartu ülikool