Aastal 2009 lubas Netflix miljon dollarit senisest parema filmide soovitamise algoritmi väljamõtlejatele. Võitja leiduski ja tulemust peeti andmeteaduse triumfiks. Võimalik, et suurem sära kiirgus miljonilt dollarilt, sest Netflix ei võtnud tegelikult võidutööd kasutusse. Pakutud mudel tegi, mida sellelt paluti. See ennustas, mis filmi voogesituse klientidele võiks meeldida.

Algoritmi kasutussevõtt osutus aga liiga kalliks, liiga keeruliseks ja liiga aeglaseks. See küll soovitas filme paremini, aga mitte miljonite vaatajate reaalajas puldil või hiirel klõbistamise, edasi-tagasi kerimiste, pauside jmt ajal. Tagasivaates paistab lahendus kauge, tehisintellekti eelse kiviajana. Õppetund osutus aga ajatuks. Netflix õppis, et inimestele meeldimine on kulukas ja kiire meeldimine on veelgi kulukam.

Tänapäeval kasutab Netflix tehisaru. Firma analüüsib, mida ja kui kaua keegi vaatab, millistel kohtadel peatutakse, mida otsitakse jne, mille tulemusel loodavad nad kogemust isikupärastada. Sellest hoolimata pole tulemus kuigi vapustav. Kriitikud osutavad, et pakutav kordub, tundub vähem intelligentne ja meenutab rohkem mõne valemi järgimist

Intelligentseid soovitusi ei tajutaks. Need täidaks meeli kõike muud unustava sisuga ja teeks seda kiiremini, kui jõutaks seda tajuda. Netflixi soovitusalgoritmi kvaliteedi vaieldavusele osutab seegi, et Euroopa Komisjon pole Netflixi milleski süüdistanud. See lihtsalt ei toimi liiga hästi.

See toob tähelepanu eduka TI-soovitusalgoritmi näite juurde. Paljudele piisab mõtte tabamiseks vaid nime, Tiktok, mainimisest. Tiktoki soovitusmootor ennustab, millist sisu järgmiseks pakkuda, vähem kui sekundi jooksul peale kliendi viimast liigutust. Kiirus on oluline, sest inimesed tajuvad üle sekundi kestvaid viivitusi aeglasena või märgina rumalusest, isegi kui soovitused on head.

Tiktok ei ennusta, mis võiks kellelegi homme meeldida, vaid reageerib sellele, mis kasutajale meeldis hetk tagasi. Tiktoki reaalajas reageerimisvõimet peetakse üheks kõige väärtuslikumaks ja tõhusamaks TI rakenduseks.

Selle üks tunnus on riikide jätkuv ametkondlik kriitika. Kõige värskema hoiatuse esitas Euroopa Liidu tehnoloogia valdkonna juht Henna Virkkunen. Kui varasemalt on sotsiaalmeedia platvormide puhul kritiseeritud peamiselt kahjuliku sisu edastamist, siis nüüd süüdistatakse teenuse disaini. Võib ka öelda, et rünnatakse ettevõtte keskset tehnoloogilist eelist.

Euroopa Liit esitas ametliku hoiatuse, et Tiktok peab oma disaini muutma või seda ootab ees potentsiaalselt miljardite eurode suurune trahv. Kriitikas tuuakse esile, et teenuse sisu automaatne esitamine, lõpmatu kerimise stimuleerimine ja hüperpersonaliseeritud sisu pole neutraalne teenus, vaid metodoloogiline kasutajate tähelepanu ning  haavatavuse ekspluatatsioon.

Eraldi rõhutatakse algoritmi kahjulikku mõju laste heaolule, arengule ja tervisele. Lapsed on alati poliitiliselt mõjus teema, aga seekord paistab mure puudtavat ka ülejäänud elanikkonda.

Lastest rääkides on just seda sihtrühma varakult hoiatatud praeguste täiskasvanute korraldatud probleemide eest. Muinasjutud sisaldavad arvukalt ja erinevas vormis hoiatusi halbadest tagajärgedest, kui kellegi soove täidetakse liiga hästi. Tiktoki probleem ei ole selles, et see püüab kasutajatele meeldida. Probleem on selles, et see õnnestub ettevõttel liiga hästi.

Lapsed teadsid vähemalt vanasti, et kuldkalakeselt ei tohi liiga palju küsida. Ent Tiktok on just selline digitaalne võlur, mis täidab kasutaja soove tempos, et ta unustab ümbritseva elu. Kui teenus kujuneb lühiajaliste soovide täitmisel liiga tõhusaks, tugevdab see tahtele allumatut sundkäitumist, piirab silmaringi ja õõnestab tasahilju kultuuri.

Euroopa Liidus ollakse kodanike kaitsmisel võrdlemisi aktiivsed, tekitades tuska, kuna osa kodanikke seda ei soovi. Nad arvavad, et on iseseisvalt nutikamad kui Tiktoki TI-arendajad. Ilmselt olles vaadanud oma valitud palakestest maailmapildi eneseusku kinnitavaid videovooge. Oht on sellegipoolest reaalne, mitte pelgalt muinasjuttudes esitatud ajatu loogika, vaid ka kogunenud teaduslike järelduste põhjal.

Piiranguteta optimeerimine muutub ärakasutamiseks. Kaval disain ei karju, vaid rahustab, see ei sunni, vaid suunab ja jätab mulje vabast tahtest. Siit ka üks suuri poliitikuid hirmutavaid tegureid, et nende veenmise asemel kujundab valijate eelistusi Tiktok.

Probleemid ei piirdu ainult lõppkasutajate tervisega. Liigse edukuse hinda maksab ka ettevõte ja mitte ainult jooksvalt vaatajaid analüüsiva arvutisvõimuse kuludena. Ülemaailmse võimsa IT-taristu pidamine on kallis, tehnoloogiliselt habras ja poliitiliselt riskantne. Netflix sai sellest varakult aru. Tiktok viis selle praeguse täiuslikkuseni ja seisab nüüd silmitsi tagajärgedega.

Esmaspäevast neljapäevani võib Kristjan Porti tehnoloogiakommentaari kuulda Raadio 2 saates "Portaal".