Vangide dilemmas peavad kaks erineva raskusega karistust ootavat tegelast otsustama, kas päästa oma nahk ja kaaslane reeta või vaikida. Kui nad elus enam ei kohtu, eelistatakse strateegiana pigem sõber reeta, sõltumata sellest, mida teine teeb. Suures vaates pole lahendus küll optimaalne, aga see ongi taoliste olukordade lõks, mida tuntakse Nashi tasakaaluna. Nimi pärineb matemaatik John Nashilt, kelle tavatult keerukat elulugu näeb nelja Oscariga, sh parima filmi kategoorias, pärjatud filmis "Piinatud geenius".

Kui karistusalused elavad samas linnas edasi ja võivad sattuda uuesti samasse olukorda, tasub alustada koostööga ja seejärel teha seda, mida teine tegi eelmisel korral, võta aluseks nn mõõt mõõdu vastu strateegia. Sellele lähedast stsenaariumit kujutab kurnamissõda või eskalatsioon, kus mõlemad osapooled panustavad võidu nimel isegi siis, kui see muutub neile talumatuks, aga nad ei saa alla anda ja ootavad, et vastaspool teeks seda esimesena.

Nende mänguteoorias kirjeldatud stsenaariumite puhul on teada, millist lahendust eelistama peaks, aga selles olukorras on individuaalselt ratsionaalne tegutseda vastupidi. Kuna osapooled ei saa teineteisega kokku leppida, jõuavad nad olukorda, mida tuntakse hävitava Nashi tasakaaluna.

Sellised olukorrad kerkivad esile iga päev, ettevõtlusest poliitika ja sõjapidamiseni. Natukenegi nutikamad osapooled püüavad kahju minimeerida. Kui nad ei suuda teineteist usaldada ega eraviisiliselt kokkuleppeid jõustada, kutsuvad nad appi välise osapoole. Sellise, kellel on või kellele loovutatakse võimaliku kokkuleppe jõustamiseks vajalik võimekus.

Juba enne hiljutisi juhtumeid, kus autonoomsed tehisintellekti agendid väljusid arendajate süsteemidest ja ohustasid erinevate organisatsioonide arvutivõrke, teatasid OpenAI, Anthropic, Google ja Meta, et riik võiks käituda kohtunikuna ja aidata neil oma regulatsioonidega ohtlikuks muutuvat hoogu pidurdada. USA poliitika on aga nii siseriiklikult kui ka geopoliitiliselt sarnases vangide dilemma ja eskalatsioonimängu patiseisus ega suuda astuda samme, et piduriteta rong peatada.

Samal ajal asusid TI-arendajad ise liikuma eneseregulatsioonil põhineva mudeli suunas. Esialgu alles ideekavandi faasis ettevõtmise tööpealkirjast leiab viite TI-tippmudelite arendajate ülese autoriteedi (Standards Authority for Frontier AI, SAFA) loomiseks, kuid avaldatud ideel puudub praegu jõustaja.

Võib-olla jõutakse notariteenust meenutava kokkuleppeni, milles osapooled annavad sõltumatu juriidilise vahendaja käsutusse märkimisväärse rahalise tagatise või ka intellektuaalomandi õigused, mida reguleerivad ranged ja kontrollitavad tingimused. Peaks mõni osapooltest üle lubatud piiri astuma, läheb tagatis üle teisele poolele. Kulub aga veel aega, kuni ideedest sadestub lahendus ja see muutub reaalsuseks. Ilmselt kõik olulised osapooled kokku ei saa, sest mõned neist asuvad geopoliitilise konkurendi territooriumil.

Üha võimsama TI-ga seotud riskide eskalatsiooni jätkudes ei kannata pelgalt omavahel puksivad konkurendid, vaid ka pealtvaatajad. Olukord võib tunduda lootusetu.

Kui institutsionaalne kokkulepe takerdub usaldamatuse taha, jäävad alles veel paar puhtalt mänguteoreetilist sammu. Üheks on pingeid väikeste astmetega maandada. Oletame, et üks osapool, näiteks OpenAI, vähendab oma tootmismahtu väikese, ent märgatava sammu võrra, ja lubab seda 30 päevaks. Kui teine osapool, antud juhul Anthropic, teeb samasuguse kärpe, vähendab esimene oma mahtu veel ühe sammu võrra. Kui teine peab seda nõrkuseks ja kasutab olukorda ära, taastab esimene osapool viivitamatult oma täieliku konkurentsiagressiivsuse.

Teine võimalus kõlab veelgi radikaalsemana. Selle raames piiratakse ühepoolselt oma tegutsemisvabadust ja põletatakse sildu. Näiteks annab OpenAI avalikult siduva avalduse või võtab midagi ette oma kriitilise taristuga, mis muudab tegevuse jätkamise tema jaoks füüsiliselt või õiguslikult võimatuks. Kui Anthropic suurendab oma tegevusega ohte agressiivselt edasi, riskib ettevõte reaalse kahjuga ja see saab maailma silmiskülge halva ettevõtte maine. Tõsi, kumbki asjaolu ei pea üha võimsamat TI-arendajat häirima.

See toobki võimsa TI-d puudutava olemuslikuma küsimuse juurde. Kirjeldatud ummikseisu murdmisel ei saa loota heale tahtele. Keegi targematest on tõdenud, et ohtliku relva omaniku tugevus seisneb otsuses seda mitte kasutada. Juhul kui OpenAI kuulutaks välja ühepoolse eneseregulatsiooni, peab tal olema midagi enamat usust teiste osapoolte heasse tahtesse, enesedistsipliini või laia avalikkuse karmi armulikkusesse. Kas neil võiks olla midagi veenvamat? Vahest leiab vihje Sam Altmani värskest teatest.

OpenAI juht teatas, et nad ei lase kasutusse kõige uuemat TI-mudelit, viidates turvariskidele, kuigi seda ei pea välja kuulutama. Piisab vaikselt mudeli kallal nokitsemisest. Taoline avalik sõnum teenib oma eesmärki, näiteks kutsuda avalikult siduva avaldusega teisi samuti hoogu aeglustama. Triljonite dollarite potentsiaaliga turul ja geopoliitilise mõjuga tegutsev ettevõte ei saa mängida pelgalt optimismile. Siit ka küsimus, millega tagada ühepoolse vaoshoituse oodatav kasu, kui puudub sõltumatu ja jõustamisvõimeline reguleerija.

Vaja oleks hoida siidikindas midagi, millega konstruktiivse üleskutse rikkujaid karistada. Selles mängus ja nende mängijate puhul peaks selliseks jõustajaks olema tavatult võimas tehisintellekti mudel. Sam Altman on öelnud, et OpenAI-l on 2026. aasta lõpuks olemas ettevõtte sisemine universaalse võimekusega TI (AGI).

Esmaspäevast neljapäevani võib Kristjan Porti tehnoloogiakommentaari kuulda Raadio 2 saates "Portaal".