OpenAI zna nevidno označiti besedilo, ki ga napiše ChatGPT

Podjetje OpenAI ima že leto dni pripravljen sistem za označevanje besedil, ki jih ustvari ChatGPT.

Tehnika označevanja, ki jo uporablja OpenAI, vključuje prilagajanje modela pri napovedovanju naslednjih besed, kar ustvarja prepoznaven vzorec, ki ga lahko zaznajo z ločenim orodjem. Podjetje je ugotovilo, da označevanje ne vpliva na kakovost izhodnega besedila, in v raziskavi, ki so jo izvedli, je večina ljudi podprla idejo o orodju za zaznavanje AI besedil. Kljub temu se podjetje še vedno sooča s pomisleki glede njegove uvedbe. Po eni strani bi uvedba takšnega orodja lahko delovala kot odgovorna poteza, saj bi omogočila prepoznavanje besedil, ki so jih ustvarili AI modeli, kar bi bilo koristno zlasti za učitelje, ki želijo preprečiti, da bi študenti oddajali naloge, ustvarjene s pomočjo umetne inteligence, medtem ko obstaja strah, da bi označevanje negativno vplivalo na uporabniško izkušnjo in posledično zmanjšalo število uporabnikov.

OpenAI priznava, da bi označevanje lahko stigmatiziralo uporabo AI orodij pri ljudeh, ki niso naravni govorci angleščine, saj bi ti lahko potrebovali več pomoči pri pisanju. Zaskrbljenost glede zmanjšanja števila uporabnikov je še posebej pomembna, saj je skoraj 30 odstotkov anketiranih uporabnikov izrazilo pripravljenost zmanjšati uporabo ChatGPT, v kolikor OpenAI uvede označevanje. Zato podjetje razmišlja o alternativnih metodah, kot je vključevanje metapodatkov, ki bi bili kriptografsko podpisani in tako onemogočili lažne pozitivne rezultate.