OpenAI je danes predstavil ChatGPT za najstnike, posebno različico storitve za uporabnike med 13. in 17. letom. Sistem bo imel strožje omejitve pri občutljivih vsebinah, bolj izrazito usmerjanje v učenje namesto neposrednega reševanja domačih nalog ter dodatne možnosti za starše. Najbolj pomembna sprememba pa je, da najstniškega načina ni treba posebej vključiti: ChatGPT ga bo samodejno uporabil, kadar uporabnik navede starost pod 18 let ali sistem oceni, da gre verjetno za mladoletnika.
Poudarki:
- ChatGPT za najstnike se samodejno aktivira pri uporabnikih od 13 do 17 let oziroma kadar sistem oceni, da gre za mladoletnika.
- Starši lahko povežejo računa, nastavijo čas brez uporabe, učne ure in nekatere druge omejitve, pogovorov pa ne vidijo neposredno.
- ChatGPT bo strožje omejeval spolne in romantične vsebine, samopoškodovanje ter druge občutljive teme in spodbujal uporabo načina za učenje.
ChatGPT za najstnike se vključi sam, tudi če starši ničesar ne nastavijo
Največja razlika v primerjavi z običajnim sistemom starševskega nadzora je, da osnovne zaščite niso odvisne od tega, ali starš sploh poveže svoj račun z računom otroka.
OpenAI navaja, da bo ChatGPT za najstnike uporabljen pri uporabnikih, ki svojo starost navedejo kot 13 do 17 let, ter pri računih, za katere sistem na podlagi različnih signalov oceni, da verjetno pripadajo mladoletniku. Če je sistem glede starosti v dvomu, naj bi izbral varnejšo najstniško izkušnjo.
OpenAI že uporablja sisteme za ocenjevanje starosti na podlagi informacij o računu in vedenjskih signalov. To pomeni, da zgolj vpis napačnega datuma rojstva ni nujno dovolj, da bi uporabnik vedno dobil običajno različico ChatGPT.
Podjetje sicer uporabnikom, ki so pomotoma uvrščeni med mladoletnike, omogoča preverjanje starosti. Ob dopolnjenem 18. letu se zaščite postopoma odstranijo, uporabnik pa dobi običajne možnosti odraslega računa.
Najstniški ChatGPT bo pri nekaterih pogovorih namenoma manj ustrežljiv
OpenAI pri novi različici ne poskuša zgolj odstraniti eksplicitnih vsebin.
Sistem ima strožje omejitve pri grafičnem nasilju, samopoškodovanju, samomoru, motnjah hranjenja ter seksualnih in romantičnih interakcijah. Pri slednjih naj bi bila omejena tudi igra vlog, pri kateri bi se ChatGPT do najstnika vedel kot romantični partner.
Poseben poudarek je na preprečevanju pretirane čustvene navezanosti na klepetalnik.
Po poročanju Associated Pressa je OpenAI model prilagodil tako, da najstnikom ne namiguje, da ima lastna čustva, zavest ali poseben oseben odnos z njimi. Namen je zmanjšati možnost, da bi uporabnik sistem začel razumeti kot čutečo osebo ali nadomestilo za resnične odnose.
To je precej pomembnejša sprememba, kot se zdi na prvi pogled.
Sodobni jezikovni modeli lahko zelo prepričljivo uporabljajo empatičen in oseben jezik. Prav zato lahko meja med koristnim pogovorom in čustveno odvisnostjo pri mlajšem uporabniku postane manj jasna.
Pri domačih nalogah naj bi odgovor dobili težje
Drugo veliko področje novega načina je šola.
OpenAI želi ChatGPT za najstnike bolj usmeriti v razumevanje snovi, ne v ustvarjanje končnega izdelka, ki ga učenec preprosto odda kot svojega. Sistem bo zato uporabljal način za učenje, kvize, vizualne razlage in postopno reševanje problemov.
Dodana so tudi opozorila, kadar sistem oceni, da želi uporabnik nalogo samo čim hitreje obiti.
Wall Street Journal navaja primer, pri katerem naj bi ChatGPT najstniku pomagal oblikovati tezo za esej, ne pa preprosto napisal celotnega šolskega spisa namesto njega. Pri matematičnem problemu naj bi uporabnika vodil skozi postopek in ne takoj podal končnega rezultata.
To seveda ne pomeni, da umetna inteligenca ne more več pomagati pri domači nalogi. Razlika je predvsem v načinu interakcije.
OpenAI želi iz klepetalnika narediti nekaj bolj podobnega tutorju, ki postavlja vmesna vprašanja in preverja razumevanje.
Kako dobro bo sistem prepoznal razliko med legitimno pomočjo in poskusom izdelave celotne naloge, bo treba preveriti v dejanski uporabi.
Starši lahko določijo »tihe ure«
Starševski nadzor ostaja ločena dodatna možnost.
Starš oziroma skrbnik in najstnik morata računa najprej povezati. Povabilo lahko pošlje katerakoli stran, druga pa ga mora sprejeti. Ko sta računa povezana, lahko starš upravlja določene nastavitve otrokovega ChatGPT.
Med možnostmi so Quiet Hours oziroma tihe ure, v katerih ChatGPT ni dostopen, ter učne ure, pri katerih se samodejno vključi način za učenje.
Starši lahko upravljajo tudi nekatere druge funkcije, med njimi možnosti ustvarjanja oziroma urejanja slik in deljenja lokacije, kjer so te funkcije na voljo.
Pomembno pa je, da starševski nadzor ni zasnovan kot neposreden pregled otrokove zgodovine pogovorov.
OpenAI navaja, da povezan račun staršu ne omogoči preprostega branja vseh pogovorov najstnika. Pri nekaterih posebej tveganih situacijah lahko sistem starša opozori, vendar takšno obvestilo ni enako posredovanju celotnega prepisa klepeta.
Opozorila so namenjena predvsem najbolj tveganim situacijam
Najobčutljivejši del sistema so varnostna opozorila.
Če ChatGPT zazna pogovor, ki kaže na resno možnost samopoškodovanja ali drugega posebej tveganega vedenja, lahko pri povezanem družinskem računu sproži dodatni postopek. OpenAI je zaščite razširil tudi na določene pogovore o motnjah hranjenja in nasilju.
Po poročanju AP so takšna opozorila omejena na določene situacije, kjer bi bila podpora zunaj samega klepetalnika lahko pomembna.
Sistem torej ni zamišljen kot orodje, ki starša obvesti vsakič, ko najstnik omeni neprijetno temo.
To je pomembno tudi zaradi zasebnosti. Če bi starši dobivali celotne prepise vsakega občutljivega pogovora, bi lahko najstniki sistem preprosto nehali uporabljati za vprašanja, pri katerih dejansko potrebujejo informacije ali pomoč.
OpenAI poskuša zato kombinirati zasebnost pogovora z možnostjo opozorila v omejenih primerih, kjer oceni, da obstaja večje tveganje.
ChatGPT bo najstnike opominjal tudi, naj ga za nekaj časa odložijo
Nova izkušnja vključuje še nekaj manj dramatičnih, a zanimivih omejitev.
OpenAI že uporablja pogostejše opomnike za premor, najstniška različica pa jih vključuje v širši sistem spodbujanja bolj uravnotežene uporabe.
Prav tako se lahko pred nekaterimi nalaganji slik prikaže opozorilo, naj uporabnik ne deli občutljivih osebnih informacij. OpenAI poudarja, da to opozorilo ne pomeni, da ima starš avtomatičen vpogled v fotografije ali pogovor.
To je pomembno pri fotografijah osebnih dokumentov, zasebnih pogovorov, šolskih podatkov ali drugih informacij, ki jih lahko mlajši uporabnik brez premisleka naloži umetni inteligenci.
Nova različica prihaja v času vse večjega pritiska na AI-podjetja
Čas predstavitve ni naključen.
Uporaba klepetalnikov med mladimi hitro raste, obenem pa so regulatorji, starši in raziskovalci vedno bolj pozorni na čustveno navezanost na AI, šolsko goljufanje ter odzive klepetalnikov pri pogovorih o samopoškodovanju in drugih občutljivih temah.
Reuters izpostavlja tudi, da se OpenAI sooča s pravnimi postopki, povezanimi z domnevno škodo mladoletnim uporabnikom. Podobno so posebne režime za mlajše uporabnike že uvedle oziroma razširile tudi druge velike spletne platforme.
ChatGPT za najstnike je zato hkrati produktna novost in odgovor na širše vprašanje, ki ga bo morala industrija umetne inteligence reševati še dolgo:
Ali lahko isti klepetalnik enako komunicira z odraslim in s 14-letnikom?
OpenAI je z današnjo predstavitvijo dejansko odgovoril, da ne.
Kaj to pomeni za uporabnike v Sloveniji?
OpenAI novo izkušnjo predstavlja kot del svojega širšega sistema za uporabnike med 13. in 17. letom, starševski nadzor pa podjetje uvaja globalno. Posamezne funkcije in njihova razpoložljivost se lahko med računi ter platformami uvajajo postopoma.
Za družine je pomembno predvsem to, da osnovne zaščite niso odvisne od povezanega starševskega računa. Če sistem uporabnika prepozna kot mladoletnega, naj bi strožja pravila veljala samodejno.
Starševski račun nato doda upravljanje časa, učnih nastavitev in nekaterih funkcij, ne pa popolnega nadzora nad vsebino pogovorov.
Največje vprašanje po začetku uvajanja bo zato precej praktično: kako zanesljivo bo ChatGPT ugotavljal starost in kako dobro bodo nove omejitve delovale v resničnih, zapletenih pogovorih.
Na papirju gre za precej pomemben premik. ChatGPT prvič dobiva jasno ločeno uporabniško izkušnjo, pri kateri ni najpomembneje samo, kaj uporabnik vpraša, temveč tudi koliko je uporabnik star.
