Microsoft po nekaj urah odstranil prepovedano umetno inteligenco
Microsoftovi raziskovalci, ki delujejo v laboratoriju v Pekingu, so pripravili nov veliki jezikovni model umetne inteligence, ki so ga v torek objavili na spletu. Le nekaj ur pozneje ga je Microsoft odstranil, ker ni prestal ustreznih varnostnih preverjanj.
Veliki jezikovni modeli, ki so javno dostopni, imajo vrsto varovalk. Tako jih na primer ne moremo spraševati po prepovedanih vsebinah – denimo kaznivih dejanjih – grafični modeli pa načeloma ne bodo ustvarjali pornografije ali zavajajočih podob resničnih oseb. Vse to so varovalke, ki so dodane naknadno in nato večkrat preverjene, preden se model sprosti v javno uporabo.
Model WizardLM-2, ki so ga pripravili Microsoftovi kitajski sodelavci, je bil sposoben generiranja besedila, pisanja programske kode, prevajanja med jeziki in reševanja matematičnih problemov. A model ni nikoli šel skozi Microsoftovo interno testiranje (Deployment Safety Board), zato so ga morali odstraniti.
A ker je z interneta težko kaj odstraniti trajno – ga z malo iskanja še vedno najdemo.
