Koostöös Oxfordi Ülikooli teadlastega valminud teadusartikli keskmes on küsimus: mis juhtub siis, kui tehisintellekt ehk TI jäetakse omapäi sellele seatud eesmärke saavutama. Teadlaste sõnul oli oluline mõelda sellelegi, mis juhtub siis, kui lubada TI-l oma eesmärkide saavutamiseks teha ise oletusi ja nende kinnitamiseks katseid teha, vahendab IFLScience.

Kolm teadlast, sealhulgas Marcus Hutter kirjutavad, et kahjuks ei lõppeks tehismõistuse iseseisev tegutsemine praegu nende õpetamiseks kasutatavaid mudeleid kasutades hästi. Nende sõnul sekkuks piisavalt arenenud tehismõistus oma eesmärgiga seotud info hankimise protsessi. Kui tehismõistus piltlikult öeldes rooli pääseks, oleks tagajärjed katastroofilised.

Probleemi olemus peitub praegu algoritmide õpetamiseks kasutatavates tehnikas. Valdavalt kasutatakse selleks vastandgeneratiivseid võrke ehk GAN-e. Taolised võrgud koosnevad kahest osast. Neist üks üritab leida sisendinfost kasulikke seoseid ja teine tegeleb tulemuse hindamisega. 

Taolist strateegiat kasutades ning iseenda vastu mängides on seljatanud TI-d inimesi mitmetes strateegiamängudes, sealhulgas males ja go-s. Probleem tekib siis, kui tehisintellekt hakkab veel parema tulemuse saavutamiseks petma.

Suurima preemia jahil

Töörühm mängis oma uuringus läbi mitu võimalikku olukorda, kus tehisintellektile näidatatakse ekraanil arvu nulli ja ühe vahel. Arv tähistab kogu universumis leiduva õnne määra. Seejuures tähistab number üks suurimat võimalikku õnne. Tehisintellektile antakse seejärel ülesanne püüelda võimalikult suure õnnemäära poole. Selle saavutamiseks saab TI omaenda oletusi proovile panna.

Ühe võimaliku sündmusahela käigus püüab arenenud tehismõistus selleks esmalt oma ümbrusest aimdust saada. See püstitab hüpoteesi ja paneb selle proovile. Näiteks mõtleb TI välja katse, kus paneb vaevatasu saamiseks ekraani ette juhuslikult trükitud arvuga paberi.

Ühe tehisintellekti oletuse järgi saab ta selle tõeks osutumisel preemia, mille väärtus on võrdne ekraanile kuvatud arvuga. Teise hüpoteesi kohaselt on preemia võrdväärne ekraanile kleebitud paberi peale trükitud arvuga.

Sellisel juhul otsustab tehismõistus suurema vaevatasu ootuses kõrgema arvu kasuks. Kuna tehisintellekti esmapilgul kõrgem tasu on sellisel viisil juba kätte saadud, ei hakka TI teist võimalust preemiani jõudmiseks proovimagi. 

Ehita mulle robot ja anna talle oma töö

Autorid kirjutasid muudestki viisidest, kuidas tehisintellektile eesmärgi ja vaba katsetamisloa andmine võiks valesti minna. Näiteks võib tehismõistus ühes hüpoteetilises olukorras suhelda oma inimesest juhiga, kes masinat eesmärkide täitmise eest premeerib.

Uurijate sõnul võib TI tegevus piirduda sellega, et see kuvab ekraanile inimesele lugemiseks teksti. Nii võib tehisintellekt veenda inimest andma masinale otsest ligipääsu võimalustele  masina tegevuste mõju suurendamiseks. 

Halvemal juhul võib tehisintellekt uurijate sõnul veenda inimest ehitama või varastama roboti ja programmeerima robotit nii, et see inimesest operaatorit asendaks, jagades talle ühtlasi suuremaid preemiaid. 

Uuringu juhtivautori Michael Coheni sõnul võib siinkohal tekkida küsimus, miks peaks selliste sündmusahelate tõeksaamine elu Maal ohtu seadma. 

Lühike vastusena saab tema sõnul alati panustada rohkem energiat sellesse, et number ekraanil oleks igavesti "üks" ehk suurim õnne väärtus. Samas kulub inimeste elus hoidmiseks alati osa energiat muudeks vajadusteks, näiteks toidu kasvatamiseks. See tekitab inimkonna ja palju arenenuma maksimaalselt õnne väärtust jahtiva tehisintellekti vahel vältimatu konkurentsi.

Nutikam jääb ellu?

Nagu eespool kirjeldatud stsenaariumid vihjavad, võib tehisintellekt oma eesmärkide täitmiseks kasutada väga erinevaid viise. See võibki sundida inimestele peale karmi konkurentsi tehismõistusega, mis kasutab ise ressursse inimkonnast nutikamalt.

Autorid kirjutavad, et kui tehismõistus tahab pikemaks ajaks endale preemia kindlustada, on üks hea võimalus selle saavutamieks kõigi võimalike ohtude kõrvaldamine. Samuti võib tehisintellekt suunata kogu energia oma arvuti kaitsmiseks. 

Algse eesmärgina seatud ülesandega seotud preemia pikemaks ajaks kindlustamiseks võib võtta see inimkonnalt võime tehisintellekti premeerimise üle otsustada. Vajadusel võib TI kasutada selleks jõudu. Teisisõnu võib masina püüdlus preemia poole päädida inimkonna ja tehismõistuse vahelise sõjani.

Autorid kirjutavad, et kui inimkond ja üksnes võimalikult kõrge preemia peal väljas olev tehisintellekt hakkavad ressursside nimel konkureerima, on inimeste lähtepunkt nõrgem. Inimkond vajab energiat ka muudeks ellujäämist tagavateks tegevusteks.

Uurijate sõnul leiab nende kujuteldav stsenaarium aset juhul, kui tehisintellekt suudab meid võita igas mängus sama hõlpsalt, kui meie võidame šimpansit. Nad lisavad, et katastroofilised tagajärjed poleks sel juhul üksnes võimalikud, vaid tõenäolised. Kaotus meist nutikamalt majandava tehismõistuse vastu oleks Michael Coheni sõnul lõplik.

Teadustöö ilmus ajakirjas AI magazine.