Füüsik Richard Feynmani vaimset sära jagus lisaks keeruka eriala kaudu maailma mõistmise probleemide lahendamisele veel mitme elulise teema valgustamiseks. Üks taoline oli küsimus teadusega seotud moraalsete valikute üle. Ta oli seotud teise maailmasõja ajal Los Alamoses USA tuumapommi arendamisega.

Ajaloolane Juval Noah Harari peab tuumapommi loomist inimkonna arenguloos pöördumatu muudatuse tähiseks, sest nüüd elas Maal loom, kes võis planeedi steriliseerida, st hävitada teadaolevalt ainukese elusa maailma. Feynman oli üks murrangu autoritest. See seletab ka tema huvi teaduse arengu ja teadlase moraalsete valikute suhtes.

Temalt pärineb järgmine mõttearendus. Teaduslikud teadmised võimaldavad sooritada igasuguseid tegevusi ja valmistada igasuguseid asju. Mõistagi, kui tehakse head, pole see ainult au teadusele, vaid ka au head tegema juhtinud moraalsetele valikutele. Teaduslikud teadmised on hea või halva tegemist võimaldav jõud, aga see ei sisalda kasutusjuhiseid. Sellisel jõul on ilmselge väärtus – ehkki see, mida tehakse, võib antud hüved nullida.

Feynman meenutab reisil kogetud juhtumit budistlikus templis. Kohalik esindaja selgitas turistidele veidi budistlikku religiooni ja lõpetas jutu sõnadega: "Igale inimesele on antud taevavärava võti ja sama võti avab põrgu väravad.". Feynmanis tekitas see mõte kustumatu mälestuse.

Ta on hiljem märkinud, et teadus ei osuta, kellele kuulub moraalne õigus või kes on eksinud. Teadus vastab vaid küsimustele, kuidas asjad on. Teadus annab allegoorilised võtmed. Moraalsed valikud teevad teaduse tulemusi kasutavad inimesed. See on pikem vaidlus teemal, kas teadus muudab inimesi moraalsemaks.

Aines kerkis teravamalt esile 18. sajandi Šoti filosoof David Hume'i arutelus, miks faktilistest väidetest, mis tõdevad, kuidas asjad on või ei ole, ei tulene järeldusi, kuidas peaks olema või ei tohiks olla. Teisisõnu, kui saadakse teada mõni fakt, siis sellest enesest ei tulene teavet moraalsete valikute kohta, mida peaks tegema.

Faktid on neutraalsed, isegi kui nende põhjal luuakse ainumat teadaolevat elu steriliseeriv häving. Sellega seotud otsuse teeb inimene. Meie õnneks pole seda veel tehtud. Usutavalt on sellegipoolest mõttena vilksatanud paljudes peades. Uus väljakutse on automatiseerimise tulemusel küsimus, mis juhtub, kui otsustaja polegi inimene.

Võib-olla on sinnani veel aega, kuni inimene usaldab masinatele suuri otsuseid. Kardetavalt kohtume enne seda päeva hoopiski valusama väljakutsega. Selleks on inimesele pakutavate faktiliste teadmiste hüppeline kasv. Uut moodi katsumustele vihjab ajakirjas Nature avaldatud värske teadusartikkel tehisintellekti rakendamisest ravimiuuringutes.

Sellises sõnastuses ei peitu selles midagi ohtlikku. Pigem vastupidi, töö lisab lootust, kuna annab mõista, et teadlased kasutavad kõige uuemat oskusteavet inimkonda ohustavate probleemide lahendamiseks. Selle koha peal väärib meenutada budistlikku hoiatust, et paradiisi ust avav võti sobib ka põrgu luku avamiseks.

Uurimistöö tulemusi ajakirjanikule kirjeldades selgitas artikli juhtivautor, et nad kasutavad ravimikandidaatide arendustöös masinõppe algoritme keemiliste ühendite võimaliku mürgisuse tuvastamiseks. Näiteks olles loonud vererõhku alandava toimega ühendi, peab kontrollima, kuivõrd võib põhjustada taoline molekulaarne mehhanism pahandusi mõnes muus eluliselt olulises mehhanismis. Umbes nagu lauldes ja naeratades tänaval kõndiv väike laps, kes kutsub vastutulijates esile päeva täitvat rõõmu, võib astuda ootamatult sõiduteele ja põhjustada seal eluohtliku ahelavarii.

Võrreldes konkreetse ülesande lahendusega on laborist väljajäävaid tundmatuid asjaolusid ja teisi ainevahetuses osalevaid mehhanisme väga palju. Nende läbimängimise suur töö sobib masinlikult väsimatule ning pöörasematest ja loogilisematest kombinatsioonidest õppivale tehnilisele protsessile.

Keemiliste ohtudega tegelevad spetsialistid kutsuti Šveitsis toimunud keemilise ja bioloogilise ohutuse rahvusvahelisele konverentsile, et tutvustada masinõppega seotud kogemusi. Alles siis, tänu konverentsi teemast tärganud ideevälgatusele otsustati mürgisusest hoidumise ülesande asemel proovida, mis juhtub, kui masin panna hoopiski otsima mürgisust. Kuis nad polnud varem ülesannet tehisintellektile sedapidi esitanud, polnud nad kindlad, mida tulemuseks saadakse. Konverentsil korraldati esimene ja avalik test.

Ravimeid arendav tehisintellekt leiutas kuue tunniga 40 000 potentsiaalselt surmavat molekuli. Suurima üllatusena toovad autorid välja, et tehisintellekt koostas praegu teadaolevatest mürkidest ühe võimsama närvimürgiga VX võrreldes mitu palju surmavamat ühendit. Surmavaks toimeks on neid vaja ülitillukeses koguses, märkis eksperimendi autor. Teadlane lisas, et ta ei taha tunduda liiga sensatsiooniline, kuid seda, mida nemad tegid, pole keeruline teistel korrata.

Peamiseks takistuseks jääb ainete valmistamise tehniline suutlikkus, mis nõuab kõrgel tasemel kompetentsust ja tingimusi. Enamik maailmas vastava keemilise sünteesi suutlikkust omavaid laboreid ilmselt keelduks taolisest tööst. Paraku piisab väga-väga-väga tõhusa mürgiga seotud riski realiseerumiseks vähem kui käputäiest laboritest.

Teadus näitas järjekordselt, kuidas asjad on. Inimkonna ette tekkis järgmine valik otsustada, kas peaks või ei peaks.

Esmaspäevast neljapäevani võib Kristjan Porti tehnoloogiakommentaari kuulda Raadio 2 saates "Portaal".