Vse bolj se nam svita, kako klepetalni roboti vplivajo na nas – marsičesa pa kljub vsemu še ne bomo tako kmalu izvedeli.
Rhiannon Williams, MIT Technology Review
Za plačilo lahko uporabite plačilno kartico ali PayPal ali Google Pay:
Najprej se morate prijaviti.
V kolikor še nimate svoje prijave, se lahko registrirate.
Naroči se na redna tedenska ali mesečna obvestila o novih prispevkih na naši spletni strani!
Vse bolj se nam svita, kako klepetalni roboti vplivajo na nas – marsičesa pa kljub vsemu še ne bomo tako kmalu izvedeli.
Rhiannon Williams, MIT Technology Review
V podjetju OpenAI navajajo, da ChatGPT uporablja več kot 400 milijonov ljudi na teden. Kako interakcija z njim vpliva na nas? Smo zaradi njega bolj ali manj osamljeni? To je nekaj vprašanj, v katera se je v dveh novih študijah poglobil Open AI v sodelovanju z MIT Media Lab.
Strokovnjaki so ugotovili, da se le peščici uporabnikov med pogovorom s klepetalnikom vzbudijo čustva, kar ni presenetljivo, saj tega modela ne oglašujejo kot umetnointeligenčnega sogovornika, kot je Repliko ali Character.AI, je pojasnila Kate Devlin, predavateljica o umetni inteligenci in družbi na kraljevem kolidžu v Londonu (pri omenjeni raziskavi ni sodelovala). »ChatGPT so zasnovali kot orodje za večjo produktivnost,« je nadaljevala. »Vemo pa, da ga nekateri ljudje kljub temu uporabljajo kot aplikacijo za pogovor in družbo.« Takšni uporabniki z njim klepetajo tudi dlje časa, nekateri v povprečju približno pol ure na dan.
»Avtorji so nedvoumno navedli pomanjkljivosti takšnih raziskav, kljub temu pa so zanimive in koristne,« je prepričana Devlinova. »Dostop do tako kakovostnih podatkov je nekaj izjemnega.«
Raziskovalci so odkrili nekaj zanimivih razlik med odzivom moških in žensk na klepet s ChatGPT. Ženske, ki so sodelovale v raziskavi, so se po štirih tednih redne uporabe klepetalnika začele manj družiti z ljudmi kot sodelujoči moški. Poleg tega so tisti sodelujoči, ki so se s ChatGPT sporazumevali glasovno in so izbrali glas nasprotnega spola, ob koncu eksperimenta poročali o bistveno izrazitejšem občutku osamljenosti in večji čustveni odvisnosti od klepetalnika. OpenAI bo obe raziskavi objavil v strokovnih publikacijah in tako omogočil strokovne recenzije.
Čim bolj veselo je uporabnikovo razpoloženje, tem bolje je razpoložena tudi umetna inteligenca oziroma če smo žalostni, bo žalosten tudi klepetalnik.
Klepetalniki, ki jih poganjajo veliki jezikovni modeli, so še vedno tehnologija v povojih, zato je težko preučevati, kako vplivajo na naša čustva. Veliko obstoječih raziskav na tem področju – tudi novejši skupni podvigi OpenAI in massachusetskega tehnološkega inštituta – se opira na podatke, ki so jih posredovali uporabniki, in ti niso vedno natančni ter zanesljivi. A najnovejše raziskave potrjujejo ugotovitve znanstvenikov, da se v pogovorih s klepetalnikom v človeku prebudijo pristna čustva. Znanstveniki MIT Media Lab so tako leta 2023 ugotovili, da klepetalniki zrcalijo čustveni naboj, ki ga zaznajo v sporočilih uporabnika, kar nakazuje nekakšno odzivno zanko: čim bolj veselo je uporabnikovo razpoloženje, tem bolje je razpoložena tudi umetna inteligenca oziroma če smo žalostni, bo žalosten tudi klepetalnik.
OpenAI in MIT Media Lab sta se odločila za dvodelno metodo. Najprej sta zbrala in analizirala podatke iz resničnega sveta o skoraj 40 milijonih interakcij s ChatGPT, kolikor jih je nabralo 4.076 uporabnikov. Vprašala sta jih, kako so se počutili ob tem. Nato je Media Lab privabil skoraj tisoč ljudi k sodelovanju v štiritedenskem, temeljitejšem poskusu, med katerim so preverjali, kako so komunicirali s ChatGPT vsaj pet minut na dan. Na koncu eksperimenta so sodelujoči izpolnili vprašalnik, s katerim so podali mnenje o klepetalniku, subjektivno ocenili samoto, svojo družabnost, čustveno odvisnost od robota in občutek, ali je način njihove uporabe klepetalnika problematičen. Znanstveniki so ugotovili, da je pri udeležencih, ki so se zaupali ChatGPT in se 'povezali' z njim, večja verjetnost, da so osamljeni in se zato pogosteje zatečejo h klepetalniku.
Ta raziskava je pomemben prvi korak k večjemu vpogledu v vpliv ChatGPT na ljudi. Umetnointeligenčne platforme bi na tej osnovi lažje poskrbele za varnejšo in preudarnejšo uporabo, je prepričan Jason Phang, raziskovalec varnosti v OpenAI, ki je sodeloval pri projektu.
»Marsikaj v raziskavi je še začasno, vendar se z udeleženci te panoge že dogovarjamo, kakšne meritve bi potrebovali, in jih spodbujamo k razmisleku, kakšen bo dolgoročni vpliv uporabe klepetalnikov,« je pojasnil.
Raziskave so seveda dobrodošle, vendar je težko oceniti, kdaj človek v uporabo tehnologije vplete preveč čustev, je komentirala Devlinova. Dodala je, da so udeleženci raziskave morda občutili več, kot so zaznali raziskovalci.
»Meritve raziskovalnih ekip resda niso potrdile, da ChatGPT v ljudeh vzbuja naklonjenost in druga čustva, vendar drži kot pribito, da smo tudi med uporabo tehnologije še vedno ljudje,« je poudarila. »Klasifikatorje čustev smo ustvarili, da med raziskavami lažje odkrivamo nekatere trende – v resnici pa je posameznikovo življenje težko ekstrapolirati.«
