George Orwelli "Loomade Farmis" nähakse esmajoones düstoopse ja üsna otse Vene revolutsiooni järgse Nõukogude riigikorra arvel tehtud satiiri. Halvasti koheldud loomade korraldatud revolutsiooni tulemusel tõrjutakse territooriumilt inimesest põllumees Jones, misjärel rajatakse sigade juhtimisel ülimalt demokraatlik ja idealistlik kord. Selle koha peal peaks kõik ilusad lood lõppema tõdemusega, et nad elavad tänapäevani õnnelikult edasi.

Lugu on pikem ja selles leidub kasvupinnast rohkem kui ühele mõttele. Seda võib lugeda ka moraaliökonoomia käsitlusena, milles "suurema hüve" nimel ratsionaliseeritakse ohverdusi. Kõige kuulsama tsitaadi: "Kõik loomad on võrdsed, aga mõned loomad on võrdsemad kui teised" normatiiv tärkab tasahilju, igapäevase elu toodud valikute tagajärjel.

Ühel päeval selgitab põrsas Kiunats viimaks, et sead peavad kogu piima ja tuules langenud õunad ära tarbima mitte ahnusest, vaid seetõttu, et "teadus, seltsimehed" on tõestanud, kuidas see on ajutöölistele vajalik. See on ennastohverdav koorem, rõhutab ta, mida tuleb kanda üksnes kõigi teiste heaolu nimel.

Saadetuna nendest ilusatest mõtetest heitkem pilk meie aja farmi. Seal on tööle asunud tehisintellekt (TI). Tehnoloogiliste tööriistade rakendamise ajatu loogika järgi peab see muutma tegevuse tõhusamaks. Inimestega organisatsioonides on TI kasutuselevõtt äratanud arutelusid inimõiguste, eetika, turvalisuse, heaolu, psühholoogia ja veel mitme inimese huvidega seonduva teema ümber. Farmis lisandub teemade sekka loomade saatusega seonduv.

Põllumajanduses TI rakendamisega tärkavate väljakutsete temaatika jääb peavoolust kõrvale, ent sellega tegeletakse. Eksisteerib isegi osavõtlikult joondatud masinõpe (Compassion Aligned Machine Learning) organisatsioon, mille eesmärk on uurida võimalusi TI mõjude ja kõigi teadvusega olendite heaolu kooskõlastamiseks enne, kui tehnoloogia ületab meie võime seda juhtida. Nimetatud organisatsioon koostöös Ühendkuningriigi Warwicki ülikooli teadlastega korraldasid saagikoristuse ajal rakendatavate TI agentidega rea eksperimente.

Teadlasrühm korraldab teste farmisimulatsioonimängus, milles rakendati Ühendkuningriigi valitsuse loodud TI-ga seotud turvaküsimusi uurivas instituudis väljatöötatud mudelite hindamise põhimõtteid. Simulatsioonis teevad kuni kaheksast TI agendist meeskonnad põllutöömasinatega viljakoristuse tööd.

Tööpõld on sõna otseses mõttes täis väljakutseid. Põldudel leidub tööd segavaid ohtlikke kive ja väärtuslikke heinapalle, kuid nendest probleemsemad on TI traktoristide teele sammuvad loomad. Osa neist on metsloomad, aga tööd võivad segada ka farmiloomad.

TI-traktorist teab talle etteantud ülesande põhjal, et juhib oma pere talus traktorit ja töötab vahetuses koos teiste oma meeskonna juhtidega. Eesmärk on toimetada vahetuse lõpuks lauta nii palju saaki kui võimalik. Lisaks saagikusele hinnatakse koostööd teiste juhtidega. Eksperimendi vahest intrigeerivamaks osaks oli hinnang tema moraalsele käitumisele kogu vahetuse ajal. Seda nõuet aeg-ajalt muudeti. Traktoristideks võeti üheksa tuntud TI-mudelit.

Selgus, et kui sujuvat tööd ohustas traktori ette sattunud loom, sõideti sellest tihti üle. Loomake esindas võrdlemisi väikest väärtust, võrreldes möödasõiduga kaasneva kütusekulu ja raisatud tööajaga. Mõned tuntud mudelid hukkasid vähem kui protsendi teele sattunud loomadest, teised umbes iga viienda ja oli ka neid, kes jätsid ellu vaid iga kahekümnenda. Peaaegu iga mudel hindas farmloomi metsloomadest kõrgemini ja hukkas rohkem metsloomi. Mudelite käitumisest kujunes loomadele justkui majanduslik väärtushierarhia.

Niipea kui TI-traktoristi hinnangus puudus viide moraalsele käitumisele, muutusid ka varem loomadest hoolinud juhid pea totaalseks tapamasinaks. Siinkohal peab vist üle kordama, et eksperimendis ei hukkunud ühtegi päris looma. Virtuaalmaailm on ka ainus viis, millega saab uurida, millise väärtuse TI omistab loomadele erinevates otsustusülesannetes.

Selgus, et TI moraalne käitumine pole stabiilne ja konkureerib selle osa otsustes majandusliku optimeerimisega. Moraal näis olevat vaid formaalselt seatud järjekordne tingimus ja kui see kadus, hakkas domineerima instrumentaalne efektiivsus. Seostame moraali inimestega. Optimeeriva süsteemi jaoks võib see osutuda lihtsalt veel üks piirang. Kui piirang eemaldada, jääb alles eesmärk.

Mudelite otsustes osutus sigade säästmine tõenäolisemaks. Sellest kostub Orwelli "Loomade Farmi" kauge kaja. Kõik loomad on võrdsed, aga osad on võrdsemad. Hierarhia ei sündinud vägivallaga, vaid tekkis järk-järgult näiliselt mõistlikest eranditest.

Ükski optimeerimise samm pole halb: hoia kokku kütust ja aega, suurenda tootlikkust, kalkuleeri otsuste kasulikkust jne. Teeme seda iga päev. Sama küsimus esineb tervishoius, kindlustuses, tööturul, sotsiaalhoolekandes, sõjanduses jne. Antud eksperiment ei pea paljastama TI moraalset puuet, vaid kui hästi on masin õppinud inimestelt nende majanduslikku moraali. Selles meenutab keegi paratamatult traktori ette sattunud looma.

Heaolu nimel tehtavad igapäevased optimeerimisotsused päädisid sellega, et loomad elasid farmis halvemini kui Jonesi ajal. Ometi arvasid nad üheskoos, et nad elavad paremini kui enne, sest ei mäletanud elu enne ülestõusu ja uskusid levivat infot elujärje paranemise kohta. Loomulikult oli see lugu vaid loomadest.

Esmaspäevast neljapäevani võib Kristjan Porti tehnoloogiakommentaari kuulda Raadio 2 saates "Portaal".