Analüüs: inimesest nutikamat tehisintellekti pole võimalik peatada

$content['photos'][0]['caption'.lang::suffix($GLOBALS['category']['lang'])]?>
Keegi ei tea, kuidas tehisintellekti kontrollida, aga see ei tähenda, et ei peaks proovima. Autor/allikas: cns4fn.org

Rühm teadlasi väidab juba Alan Turingi aegsetele põhimõtetele toetudes, et üliintelligentse tehisintellekti kontrollimine poleks inimestele põhimõtteliselt võimalik, vahendab R2 tehnikakommentaaris Kristjan Port.

Hoolimata sellest, et lapsed ja lapsevanemad räägivad sama keelt, jõutakse sageli suhtlemises ummikseisu. Kõik algab olukorrast, milles kummalgi osapoolel on oma huvi, mida püütakse kaitsta. Soovitav on teise poole järeleandmine. Tegemist on nullsummamänguga, milles ühe võit on teise kaotus. Ummikseis tähendab mõlemale kaotust, kuna kummalgi ei õnnestunud teist kontrollida.

Oletame, et konflikti osapoolteks on inimene ja gorilla. Nad ei räägi sama keelt ega mõista teineteist. Vastupidiselt arvatavale leiavad sellised konfliktid üllatavalt tihti lahenduse. Inimene annab alla. Ta peab ennast targemaks ja arvab, et kuna gorilla on rumalam, ei saaks ta inimesest sama moodi aru ega annaks järele. Tegelikult varjab inimene antud seletusega asjaolu, et gorilla on lihtsalt temast palju tugevam. Teda mitte mõistev ja tugev gorilla on ühtlasi ohtlik. Mistõttu on mõistlikum taanduda.

Kolmas konfliktipaar võiks olla tehisintellekt ja inimene. Tehisintellekt oleks superintelligentne ehk ületaks inimest vaimsetelt võimetelt. Inimene on nagu inimene ikka. Ta peab end tugevamaks, kuna on intelligentse süsteemi looja. Ühtlasi usub ta, et saab selle välja lülitada. Mingil põhjusel on nüüd nemad konfliktses vastasseisus. Mis järgmiseks juhtub? Kas inimene võidab? "Targem" annab ju järele ja nüüd oleks see tehisintellekt. Kas me tõesti usaldame tehislikku mõistust? Kas tõesti peame end tugevamaks ja eeldame seda ka süsteemilt?

Antud mõtteeksperiment on kasulik peast läbi lasta. Mõnes mõtlemist nõudvas töös ületab tehisintellekt juba inimest. Seda me ei karda. Hirmu asemel innustab edu süsteemi edasi arendama. Valida õieti ei saagi, sest selle omamine on seotud turvalisusega. Praegu on inimese peamiseks ohustajaks teine inimene. Lähitulevikus on selleks teine inimene koos tehisintellektiga. Nõnda käib tehisintellekti arendamises võidurelvastumine, kuni saavutatakse superintelligentse masina arengutase.

Siis on inimene gorilla rollis. Kas ka tugevama gorillana? Huvide konflikt ja ühe soov teist kontrollida on möödapääsmatu. Viimane aeg end kokku võtta ja taoline tulevik selgeks teha. Seda enam, et olukord pole kiita.

Rahvusvaheline teadlasrühm analüüsis inimkonna perspektiivi säilitada masinatega kooselus kontrollija positsioon. Järeldused avaldati rahvusvahelises tehisintellekti uuringutele pühendatud teadusajakirjas Journal of Artificial Intelligence Research. Üliintelligentse tehisintellekti kontrollimine poleks inimestele põhimõtteliselt võimalik, väidavad teadlased. Argumentatsioon rajaneb 1936. aastal kaasaegsele arvutikontseptsioonile aluse pannud Alan Turingi püstitatud otsustusprobleemi lahendamatuse loogikale.

Turing demonstreeris, kuidas algoritmiliselt tegutsedes saab luua masina, mis suudab teostada kõiki mõeldavaid matemaatilisi arvutusi. Ümberöelduna suudavad masinad arvudega manipuleerida ükskõik mida. Näiteks saavad nad juhtida samu protsesse, mida inimesed teevad koolides, vabrikutes, haiglates jne. Sealhulgas suudab taoline masin luua isegi masinat, mis arvudega manipuleerides teeb ükskõik mida.

Kirjeldatud masina kõige elementaarsemat ja abstraktsemat väljendusvormi hakati nimetama Turingi masinaks. Kes tahab, võib seda nimetada arvutiks või nutiseadmeks.

Milles on probleem? Turing demonstreeris, et leidub programme, mis ei tea, kas see jõudis lahendini. Selline programm ei jää seisma. Siit tuleneb otsustusprobleemistik ja sellega seotuna peatumisprobleem. Oletame, et superintelligentse masina mälus on igasuguseid programme. Neist mõni võib olla inimesele ohtlik, näiteks hävitada maailma vmt. Nii mõnelegi programmile võib leiduda peatumise tingimus või siis mitte. Meie jaoks on häda selles, et me ei tea.

Võiksime tehisintellektile seda luues õpetada, et ära tapa inimesi ega ära hävita maailma. Ilus mõte, aga see on meie enda soovidega vastuolus. Nimelt peaks selline masin jääma inimesega samale vaimsele tasemele. Samas tahame me ju luua endast nutikama masina, mis lahendaks probleeme, millest me ise jagu ei saa. Sellise masina "peas" peavad sündima uued programmid, milledest meie enam aru ei saa. Neist omakorda võib ja ilmselt sünnib selliseid, mis ei oska seisma jääda. Lisapõnevusena me ei teaks millal see juhtub.

Saan aru, et tegemist on keerulise teemaga, aga selles ongi iva! Selleks me ju masinaid ehitamegi. Head ja rahulikku nädalavahetust!

Esmaspäevast neljapäevani võib Kristjan Porti tehnoloogiakommentaari kuulda Raadio 2 saates "Portaal".

Toimetaja: Jaan-Juhan Oidermaa

Allikas: "Portaal

Hea lugeja, näeme et kasutate vanemat brauseri versiooni või vähelevinud brauserit.

Parema ja terviklikuma kasutajakogemuse tagamiseks soovitame alla laadida uusim versioon mõnest meie toetatud brauserist: