Juhita raudteevagun on sööstmas viie inimese poole, kelle surm on kokkupõrkel enam kui kindel. Ainus viis rühma päästmiseks on suunata vagun haruteele, sest nii hukkuks vaid üks ligimene. Kas selle tegemine on moraalselt õigustatud? Abstraktsel tasandil peab suurem osa inimestest seda ainuõigeks lahenduseks. Ent mis juhtub juhul, kui valik on juba meie eest langetatud? Olgu kätt juhtivaks kõrgemaks jõuks ühiskond, üleilmse ulatusega suurettevõte või tavaline reaprogrameerija.

''Filosoofilisel tasandil on selliste õpikunäidete üle arutletud juba sajandeid, kuid eelnevalt on tegelikult puudunud vajadus neile selge vastus leida. Nüüd on aga see isesõitvate autode turule jõudmise valguses muutunud järsku käegakatsutavaks probleemiks. Isegi juhul, kui taolisi juhtumeid hakkab tulema ette äärmiselt harva, peame ühiskonnana otsustama, mida teha juhul, kui arvudes mõeldes oleks õige valik sind või kedagi teist surmale määrata,'' nentis Jean-François Bonnefon, moraalipsühholoogiale spetsialiseeruv Toulouse' majanduskooli vanemteadur.

______
''Tegu on esimese korraga ajaloos, kus me ei saa jääda lootma sellele, et arvutiteadlased leiavad meie eest lihtsalt kauem ja tõsisemalt töötades õige lahenduse. Nad vajavad meie kõigi sisendit, et programmeerida paremaid tehisintellekte. See on midagi uut.''
______

Hiljuti ajakirjas Science ilmunud töös seadis Bonnefon koos Iyad Rahwani ja Azim Shariffiga kokku umbes 2000 ameeriklast kuue hüpoteetilise olukorra ette, et anda aimu, kus täpselt inimeste moraalipiirid jooksevad. Mõneti ootuspäraselt selgus, et inimeste hääl läheb ühiskonna huve laiemalt teenivatele isesõitvatele autodele. ''Tõele au andes olime valitseva moraalse konsensuse üle isegi üllatanud. Tegu oli väga robustse efektiga,'' sõnas vanemteadur.

Ent tugevat poolehoidu ilmutati vaid seni, kuni inimesed ise või nende lähedased moraalselt käituvate autodega sõitma ei pea. Näiteks oli 76 protsenti vastanutest nõus, et kümne jalakäija päästmiseks oleks ühe sõitja ohverdamine lubatav. Kuid umbes pooled ostaks ise taoliselt käituva auto ja vaid iga viies oleks nõus, et sellega sõidaks nende pereliige. Samal ajal olid nad ise enamasti veendunud, et moraalselt on õige teha valik selle põhjal, kui palju inimesi ühel või teisel juhul hukkuks.

Mõneti on olukord võrreldav näiteks laste vaktsineerimisega. Tavaliselt on sellisel juhul abi valdkonna riiklikust reguleerimisest. Bonnefoni ja ta kaaslaste tulemused viitavad aga, et senikaua, kuni leiab poodidest isesõitvate autode kõrvalt ka vahetult sõitja tahtele alluvad sõidukid, töötab see avalikkuse huvidele vastu. USA näitel oleks sellisel juhul valmis moraalselt käituva isesõitva auto hankima vaid umbes kolmandik inimestest.

''See viitab, et inimesed ei mõista ehk veel piisavalt hästi, milliseid eeliseid need ohutuse mõttes pakuvad. Juba õnnetusse sattumise tõenäosus on oluliselt väiksem ja olukorra ilmnemine, kus nn moraalialgoritmi vaja läheb, veel kordades ebatõenäolisem. Nii on kummastav, et nad võimaluse elusid säästa nii kergelt käest lasevad,'' sõnas Bonnefon. Vanemteadur nentis seetõttu, et hetkel oleks mõistlik valdkond reguleerima jätta, kuna õnnetuste arvu vähendaks juba see, kui teedel liiguks lihtsalt rohkem isesõitvaid autosid.

______
''Matemaatilises ja ohvrite üldarvu mõttes oleks selgelt mõistlikum, kui kõik sõidaksid moraalselt käituvate autodega, kuid kui valitsus otsustaks moraalialgoritmid kohustuslikuks muuta, teeks ta praegu karuteene. Tundub, et inimesed ei mõista veel, kui ühel meelel nad on. Tegu on paradoksiga.''
______

Samas viitas Bonnefon, et mõnes teises riigis ja kultuuriruumis võib jõuda ehk mõneti teistsuguse tulemuseni. ''USA on teadupärast koht, kus inimesed ei suhtu keskvõimu ja valitsusse kuigi hästi. Oma roll on ka riikide olemasolevatel seadustel ja õiguslikul raamistikul laiemalt. Kasvõi selles, kuidas on sõnastatud kohustus hädasolevaid inimesi aidata, võib näha Ameerika Ühendriikide ja Euroopa riikide vahel märgatavat vahet,'' laiendas vanemteadur. Nii rõhutasid autorid, et tulemused ei pea kindlasti paika igal pool.

''Samuti võib oodata, et sotsiaalsed normid muutuvad aja jooksul vastavalt sellele, kuidas inimesed isesõitvate autodega harjuvad. On mõistetav, et nad ei söanda hetkel nii kaalukat valikut masinate kätte usaldada, isegi kui nad ise end sellisse olukorda sattudes ohverdaksid,'' mõtiskles Bonnefon. Või nagu järeldab ta kolleegidega uurimuses, hetkel ei näi olevat aga sirgjoonelist võimalust, kuidas luua algoritme, mis ühendaksid moraalsed väärtused inimeste erahuvidega.