Apple'i krediitkaardi algoritm muutus varjatult seksistlikuks ({{contentCtrl.commentsTotal}})

Võimalik, et New Yorgis finantsteenustele järelvalvet teostav amet ei leia midagi imelikku, kui vastav töö on antud tehisintellekti kätte
Võimalik, et New Yorgis finantsteenustele järelvalvet teostav amet ei leia midagi imelikku, kui vastav töö on antud tehisintellekti kätte Autor/allikas: SCANPIX/EPA/APPLE INC., /HANDOUT

Kuigi Apple'i krediitkaardi määra arvutamiseks kasutatavas algoritmis puuduvad otsesed viited soole, hakkas pakkuma see mitmetele naistele sama jõukatest meestest kümneid kordi väiksemat krediiti, vahendab R2 tehnikakommentaaris Kristjan Port.

Südasuvel laiendas telefonide ja arvutite poolest tuntud Apple pakutavate toodete ja teenuste nimistut lumivalge pangakaardiga. Tehnoloogiakesksete toodete ja teenuste profiiliga ettevõtte samm finantseerimise ja arvelduse territooriumile tuli paljudele üllatusena, kuigi firma profiil oli võtnud juba pikemat aega üha amorfsemaid kontuure.

Üllatus võibki olla teguriks, mis aitab tasahilju toimunud muutuse tagant ära tunda uue oleku. Umbes sama viisil nagu lapsevanem ei märka võsu sirgumist, aga aeg-ajalt külla tulevad onud või tädid imestavad, kui palju on laps vahepeal muutunud.

Apple on aina rohkem modernse kliendi vajadustele orienteeritud teenusettevõte. Sellise pildi puhul on teenuste ja toodete maksete korraldamine igati loomulik arengusamm. Pealegi pole Apple ise ülekannete operaator ega krediidihaldur. Apple'i nime ja disainiga kaardi väljastaja on pangandusettevõte Goldman Sachs. Pangale on kasulik hästi bränditud toode ja Apple'i jaoks on oluline kasvatada oma toodete ja teenuste kasutajates lojaalsust, pakkudes neile rohkem väärtuseid. Loomulikult ei unusta nad rahateenuse pealt natukese mandi võtmist.

Traditsiooniliste IT-ettevõtete sulandumine igapäevaelu kudumisse iseloomustab käesolevat aega ja lähimat tulevikku. Apple on vaid näide, kuidas on saanud kunagisest arvutitootjast telekomi, meedia, tervise, hariduse, meelelahutuse ja nüüd pangandusega seonduv kaubamärk. Kõlakate järgi saada sellest veel autotranspordi ja kunagi võib-olla matusebüroo bränd. Ühtlasi toovad IT-ettevõtted vanadesse tegevusvaldkondadesse arvutamispõhiseid uuendusi, milledest kõige moodsamaks võib pidada kõike masinõppe ja tehisintellektiga seonduvat.

Novembri alguses säutsus Taani tuntud IT-arendaja David Heinemeier Hansson kerge pahameelega, et kuigi tal on abikaasaga ühine pangakonto ja kogu vara jagatud omanduses, pakkus Apple'i krediitkaarditeenus talle naisega võrreldes paarkümmend korda kopsakamat krediiti. Otsus oli üllatav ja trotsis loogikat, sest laenuasutuste vahel rakendatav krediidireiting oli naisel parem.

Tärkas kahtlus, et Apple'i uus finantsteenus diskrimineerib naisi. Heinemeier Hanssoni nimi tekitas iseenesest paraja säutsulaine. Seda trumpas või muutis orkaaniks aga Apple'i omaaegse kaasasutaja Steve Wozniacki samasisuline teadaanne, sest temale pakuti abikaasast kümne korda kopsakamat rahatagavara. Popi krediitkaardi uudis naiste võimalikust diskrimineerimisest jõudis rahvusvahelisse meediasse.

Nädalavahetusel avaldas Goldman Sachs Twitteris ametliku teate nende süsteemi objektiivsusest ja igasugusest sooga seotud info puudumisest krediidimäära arvutavates algoritmides. Ühtlasi anti mõista, et nad ei tea, millest võis taoline vahe sündida.

Seda võib pidada veel üheks uue ajastu sümptomiks. Krediidimäärade hindamisel kasutatakse suuri ajaloolisi andmemassiive, milles ei peagi sugu olema eraldi välja toodud. See ilmutab ennast ostude, ametite, palkade ja muude analüüsi kaasatud andmete kaudu. Ajalugu ei varja naiste diskrimineerimist.

New Yorgis finantsteenustele järelvalvet teostav amet asus kontrollima panga algoritme. Võimalik, et nad ei leia midagi imelikku, kui vastav töö on antud tehisintellekti kätte. Selle sisemine talitlus on võib-olla otsuse tekkeahela äratundmist ületavalt liiga kompleksne ja abstraktne. Juhul kui vaidluskoha tekkeks põhjust ei leita, pole ka midagi parandada ega ettekirjutada. Inimesed peavad saatusliku otsusega lihtsalt kodunema.

Uudset olukorda kirjeldab veelgi surmtõsisem näide, milles ennustab tehisintellekt suure täpsusega, kui kaua on inimesel elada jäänud ja keegi ei saa aru, kuidas masin seda teab. Ühes USA tervishoiuasutuses söödeti tehisintellekti süsteemile 400 000 patsiendi kokku 1,7 miljonit kardiogrammi sooviga tuvastada südameprobleemidega haigete suremuseriski.

Kuna olemasolevate südamepiltide omanike saatus oli teada, otsis masin registreerimise järel aasta jooksul surnute eristamise tunnuseid. Sisestatav andmeaines jagati kaheks: puhasteks toorandmed´teks südame elektrilisest aktiivsusest või siis patsiendi vanuse ja sooga täiendatud andmetega.

Esimene üllatus oli, et tulemused olid paremad ilma täiendava infota, kasutades puhast elektriliste signaalide massiivi. Varasema näite konteksti meenutades, soo ega vanuse tunnuste lisamine polnud vajalik. Teise üllatusena tegi masin arstidega võrreldes tõepärasemaid ennustusi. Kui inimesest ekspertide vastava näitaja oli 0,68 ja 0,8 vahel, siis tehisintellekti hinnangute keskmine oli 0,85. Kolmandaks peab kasutama üllatusest tugevamat sõna, sest keegi ei saa aru, kuidas masin nii täpseid otsuseid teeb.

Siit siis küsimus – mida teed, kui taoline masin lubab sulle, et elada on jäänud alla aasta? Mida teed, kui sama masin annab sulle kehva krediidiskoori? Viimasel juhul rünnatakse masinat.

Esmaspäevast neljapäevani võib Kristjan Porti tehnoloogiakommentaari kuulda Raadio 2 saates "Portaal".

Toimetaja: Jaan-Juhan Oidermaa

Allikas: "Portaal"

Hea lugeja, näeme et kasutate vanemat brauseri versiooni või vähelevinud brauserit.

Parema ja terviklikuma kasutajakogemuse tagamiseks soovitame alla laadida uusim versioon mõnest meie toetatud brauserist: