Novost pri OpenAI za bolj učinkovito in cenejšo rabo umetne inteligence
Na dogodku DevDay 2024 je OpenAI predstavil štiri ključne posodobitve, s katerimi želi svoje orodja narediti bolj dostopna in cenovno ugodna za razvijalce. Čeprav tokratni dogodek ni bil tako bleščeč kot prejšnja leta, so najnovejše inovacije namenjene predvsem izboljšanju uporabniške izkušnje in podpiranju razvoja umetne inteligence na bolj trajnosten način. Med glavnimi novostmi so predstavili Vision Fine-Tuning, Realtime API, Model Distillation in Prompt Caching, ki skupaj predstavljajo strateški premik podjetja k gradnji močnejšega ekosistema za razvijalce.
Prompt Caching, ki prinaša velikanske prihranke pri stroških, je ena najpomembnejših posodobitev. Sistem omogoča samodejno shranjevanje že uporabljenih vsebin in ponuja 50-odstotni popust na procesiranje že obdelanih vhodnih podatkov. To je še posebej pomembno za aplikacije, ki pogosto uporabljajo podobne podatke, kar lahko prinese znatne prihranke za razvijalce.
Druga večja novost je Vision Fine-Tuning, ki razvijalcem omogoča prilagoditev modelov vizualnega razumevanja z uporabo slik in besedila. To odpira nove priložnosti za področja, kot so avtonomna vozila, medicinsko slikanje in vizualno iskanje. Ena izmed aplikacij tega sistema je podjetje Grab, ki je s pomočjo Vision Fine-Tuning izboljšalo natančnost svojih zemljevidov in hitrost prepoznavanja prometnih znakov.
Pomembna je tudi nova Realtime API, ki omogoča ustvarjanje nizko-latenčnih večmodalnih izkušenj, predvsem pri aplikacijah, ki temeljijo na govoru. Ta funkcionalnost omogoča ustvarjanje bolj naravnih pogovorov med uporabnikom in aplikacijo, kar lahko bistveno izboljša uporabniško izkušnjo v panogah, kot so načrtovanje potovanj, zdravstvena oskrba, izobraževanje in orodja za dostopnost.
Zadnja, a zelo pomembna posodobitev je Model Distillation, ki omogoča uporabo rezultatov naprednih modelov za izboljšanje delovanja bolj učinkovitih, a manj zmogljivih modelov. To je še posebej koristno za manjša podjetja in startupe, ki si ne morejo privoščiti uporabe velikih, dragih modelov, a kljub temu želijo dostopati do zmogljivosti, ki jih ti ponujajo.
OpenAI s temi novostmi spreminja svojo strategijo in se osredotoča na podporo razvijalcem ter izboljšanje učinkovitosti obstoječih orodij. Ta pristop je odgovor na vse večjo konkurenco na področju umetne inteligence, hkrati pa tudi na vse bolj pereča vprašanja glede porabe virov za razvoj in uporabo teh modelov.