Umetna inteligenca odgovori hitro, tekoče in brez očitnega omahovanja. Prav ta prepričljivost lahko uporabnika zavede, da poda odgovor tudi takrat, ko bi brez digitalnega pomočnika priznal, da ga ne pozna. Nova raziskava kaže, da težava ni samo v napačnih odgovorih umetne inteligence, ampak tudi v tem, kako ti spreminjajo človekovo presojo lastnega znanja.
Poudarki:
- V petih poskusih je sodelovalo 3132 ljudi, ki so lahko odgovorili ali izbrali možnost »ne vem«.
- Ob napačnem nasvetu umetne inteligence je pravilnost padla, samozavest sodelujočih pa se je močno povečala.
- Raziskava je za zdaj predobjava in še ni prestala neodvisnega strokovnega pregleda znanstvene revije.
Možnost »ne vem« je skoraj izginila
Raziskovalci Chiara Marcoccia, Walter Quattrociocchi in Valerio Capraro so v petih poskusih preverjali, kako nasvet umetne inteligence vpliva na pripravljenost ljudi, da priznajo negotovost. Štirje poskusi so bili vnaprej registrirani, enega pa so izvedli kot neposredno ponovitev.
Vključenih je bilo 3132 sodelujočih. Odgovarjali so na zahtevna vprašanja o podrobnostih iz filmov. Vprašanja so bila izbrana tako, da večina ljudi odgovora ni mogla zanesljivo poznati, vedno pa je bila na voljo tudi možnost »ne vem«.
Ključni del zasnove je bil nameren: raziskovalci so sodelujočim prikazovali napačen nasvet umetne inteligence. Tako niso preverjali, ali je izbrani model sicer dober ali slab, ampak kaj se zgodi, ko človek prejme tekoče in prepričljivo oblikovan odgovor, ki je v resnici napačen.
Brez pomoči umetne inteligence se je približno 44 odstotkov sodelujočih odločilo, da ne bodo ugibali. Ko so dobili nasvet umetne inteligence, je delež odgovorov »ne vem« po navedbah raziskovalcev padel na približno tri odstotke.
Ljudje so torej začeli odgovarjati skoraj na vsako vprašanje. Vendar več odgovorov ni pomenilo več znanja.
Pravilnost je padla, samozavest pa poskočila
V enem od osrednjih poskusov je skupina brez pomoči umetne inteligence pravilno odgovorila na približno 27 odstotkov vprašanj. Med sodelujočimi, ki so imeli dostop do namerno napačnega nasveta, je pravilnost padla na okoli devet odstotkov.
To je približno tretjina uspešnosti skupine brez umetne inteligence. Hkrati je ocenjena samozavest narasla s približno 30 na 76 odstotkov.
Rezultat zato ne kaže zgolj običajnega sprejemanja napačnega nasveta. Bolj skrb vzbujajoče je, da so se sodelujoči ob slabših odgovorih počutili precej bolj prepričane vase.
Nekateri so odgovor sprva poznali ali bi se brez pomoči pravilno odločili, nato pa so ga po nasvetu umetne inteligence spremenili v napačnega. Drugi bi brez digitalnega pomočnika izbrali možnost »ne vem«, ob ponujenem predlogu pa so ugibanje začeli dojemati kot dovolj zanesljiv odgovor.
Raziskovalci učinek opisujejo kot premik praga, pri katerem se človek odloči, da ve dovolj. Umetna inteligenca mu ne posreduje le informacije, temveč lahko spremeni njegovo presojo o tem, ali je sploh upravičeno samozavesten.
Pomagale niso niti denarne nagrade
V dodatnem poskusu so raziskovalci sodelujoče finančno nagradili za pravilne odgovore in kaznovali za napačne. Pričakovali bi, da bodo ljudje v takšnih okoliščinah nasvet preverjali previdneje.
Spodbuda je sicer nekoliko izboljšala rezultate. Pravilnost se je po povzetku raziskave povečala z devetih na približno 16 odstotkov, delež odgovorov »ne vem« pa s treh na okoli osem odstotkov.
Kljub temu so sodelujoči še vedno bistveno redkeje priznali negotovost kot skupina brez umetne inteligence. Niti neposredna finančna korist ni povsem odpravila vpliva prepričljivo zapisanega predloga.
Učinek se je pojavil tako takrat, ko so ljudje sami zaprosili za pomoč, kot tudi takrat, ko se jim je nasvet prikazal samodejno. To je pomembno za prihodnost iskalnikov, pisarniških programov, elektronske pošte in operacijskih sistemov, kjer se predlogi umetne inteligence vse pogosteje pojavijo brez izrecne zahteve uporabnika.
Študija ne dokazuje, da umetna inteligenca vedno poslabša odgovore
Rezultate je treba razlagati previdno. Umetna inteligenca je bila v poskusih namerno nastavljena tako, da je sodelujočim dajala napačne odgovore. Raziskava zato ne dokazuje, da uporaba ChatGPT-ja ali drugega pomočnika na splošno zmanjša pravilnost za trikrat.
Če umetna inteligenca ponudi pravilen odgovor, lahko človeku seveda pomaga. Raziskovalce je zanimal drug problem: ali ljudje prepoznajo trenutek, ko je njen nasvet napačen.
Rezultati kažejo, da to pogosto storijo slabše, kot mislijo. Tekoč jezik, jasna razlaga in samozavesten ton lahko ustvarijo vtis verodostojnosti, čeprav niso dokaz pravilnosti.
Pomembna omejitev je tudi status raziskave. Objavljena je bila na portalu arXiv kot predobjava in še ni prestala strokovnega pregleda neodvisnih raziskovalcev v znanstveni reviji. Ugotovitve so zanimive in temeljijo na razmeroma velikem vzorcu, vendar jih bodo morale potrditi dodatne študije z drugimi nalogami in skupinami ljudi.
Vprašanja o filmskih podrobnostih tudi niso enaka zdravniški diagnozi, finančni odločitvi ali uporabi umetne inteligence pri delu. Posledic zato ni mogoče neposredno prenesti na vsa področja.
Podobno nevarnost so zaznale tudi druge raziskave
Nova raziskava se ujema s širšimi ugotovitvami o tako imenovani pristranskosti avtomatizacije. Ljudje pogosto pripišejo računalniškemu predlogu večjo zanesljivost, zlasti kadar je naloga zahtevna ali nimajo dovolj lastnega znanja.
V letošnjem prispevku, objavljenem v zborniku konference AAAI, so raziskovalci pri logičnih nalogah ugotovili, da so dobro umerjene ocene samozavesti izboljšale skupno pravilnost človeka in umetne inteligence. Napačno umerjena samozavest pa je uporabnike spodbujala k sprejemanju nepravilnih priporočil.
Druga raziskava iz leta 2026 je na desetih zbirkah podatkov primerjala običajen model, pri katerem umetna inteligenca svetuje človeku, z alternativnim postopkom. Pri njem človek in umetna inteligenca najprej odgovorita neodvisno, ob nesoglasju pa odloči še drugi človek. Ta pristop je bil uspešnejši v vseh analiziranih zbirkah.
Skupna težava je očitna: uporabnik težko pravilno presodi kakovost predloga, če ga vidi še pred oblikovanjem lastnega odgovora.
Kako uporabljati umetno inteligenco, ne da bi ji prepustili presojo?
Raziskava ponuja praktičen nauk za vsakodnevno uporabo. Kadar je mogoče, je smiselno najprej oblikovati lastno oceno in šele nato vprašati umetno inteligenco. Tako njen prvi odgovor ne postane samodejno izhodišče razmišljanja.
Koristni so še naslednji koraki:
- Od pomočnika zahtevajte preverljive vire in jih dejansko odprite.
- Vprašajte, kateri deli odgovora so negotovi ali temeljijo na predpostavkah.
- Zahtevajte najmočnejši argument proti prvotnemu odgovoru.
- Pri pomembnih odločitvah preverite informacijo v primarnem ali uradnem viru.
- Ne uporabljajte samozavestnega tona kot merila pravilnosti.
- Ohranite možnost »ne vem«, kadar dokazi niso dovolj dobri.
Umetna inteligenca je lahko učinkovito orodje za iskanje možnosti, urejanje informacij in preverjanje zamisli. Najnevarnejša postane takrat, ko njen odgovor uporabniku ne posreduje le napačne informacije, temveč mu odvzame tudi občutek, da bi moral vanjo podvomiti.
