Kallutatud tehismõistus paneb teksti autorile omi mõtteid pähe

Foto: Kaitlyn Baker / Unsplash

Tehisintellekt teeb tekstide kirjutamise lihtsamaks. Oht on aga selles, et vilgas kõrgtehniline abimees võib panna teksti autorile sõnu suhu, ja mis veelgi hullem — nagu nüüd selgub, koguni mõtteid pähe.

Maurice Jakesch Ameerika Ühendriikidest Cornelli Ülikoolist ja ta kolleegid palusid enam kui 1500 katseisikul kirjutada lühike arvamusavaldus teemal "Kas ühismeedia on ühiskonnale hea?".

Mõnedel neist oli kirjutamisel abiks tehismõistus, mis esitas omapoolseid soovitusi alustatud teksti jätkamiseks.

Teadlased olid tehismõistust aga eelnevalt salamisi kallutanud: mõnikord oli ta pandud pooldama seisukohta, et ühismeedia on ühiskonnale hea, teistel puhkudel aga seisukohta, et ühismeedia on ühiskonnale halb.

Selgus, et tehismõistuse abi kasutanud kirjutajad olid tehismõistuse seisukohast olulisel määral mõjutatud: nende väljendatud arvamus ühtis märkimisväärselt sageli sellega, kuidas tehismõistuse seisukoht oli eelnevalt seadistatud.

Enamgi veel, kui katseisikud vastasid pärast tekstikirjutamist küsimustikule, mis selgitas välja nende arvamuse ühismeedia ühiskonnamõju kohta, siis ilmnes kallutatud tehismõistuse seisukoha ülevõtmine sealgi.

Huvitaval kombel ei tundunud katseisikud tehismõistuse kallutatusest ja selle kallutatuse ülevõtmisest tihtilugu ise teadlikudki olevat.

Jakeschi ja ta kaaslaste arvates tõstatab katsetulemus tähtsaid küsimusi selle kohta, kuidas tahtlikult või tahtmatult kallutatud seisukohtadega tehismõistus võib kultuurilisi ja poliitilisi nähtusi mõjutada. Enne kui kiirustada tehismõistust igal elualal appi võtma, tasuks nende arvates läbi mõelda võimalikud tagajärjed.

Teised teadlased on juba uurinud, kuidas ChatGPT-suguste suurte keelemudelite abiga saab koostada veenvaid reklaame ja poliitilisi sõnumeid.

Nüüd said Jakesch ja ta kolleegid endi sõnul esmakordselt tõendust selle kohta, et tehismõistus ei mõjuta mitte ainult enda abil koostatud teksti lugejat, vaid ka kirjutajat.

Ise kirjutavad nad, loodetavasti kallutamatult, oma uuringust konverentsikogumikus Proceedings of the 2023 CHI Conference on Human Factors in Computing Systems.

Teadusuudised on Vikerraadios eetris esmaspäevast reedeni ca kell 8.35 ja laupäeval ca kell 8.25.
Hea lugeja, näeme et kasutate vanemat brauseri versiooni või vähelevinud brauserit.

Parema ja terviklikuma kasutajakogemuse tagamiseks soovitame alla laadida uusim versioon mõnest meie toetatud brauserist: