Omrežje X preplavile neprimerne AI slike

Podjetje xAI, ki ga vodi Elon Musk, je uvedlo novo funkcijo Grok, ki uporabnikom omogoča ustvarjanje neprimernih slik iz besedilnih navodil in njihovo neposredno objavo na omrežju X. 

Upravljalci Groka so se pohvalili, da ima storitev vgrajene zaščitne mehanizme za preprečevanje ustvarjanja spornih slik, a se je hitro pokazalo, da očitno ni tako. Uporabniki X Premium, ki imajo dostop do funkcije Grok, so začeli deliti zavajajoče in sporne slike, med katerimi so Barack Obama, ki uživa kokain, Donald Trump z nosečo Kamalo Harris, predsedniška kandidatka ameriške levice s puško v roki, Taylor Swift v spodnjem perilu ter številne druge slike, ki vključujejo nasilne ali seksualno sugestivne vsebine znanih osebnosti.

Razvoj dogodkov prihaja v občutljivem času, ko se v ZDA bližajo volitve, kar dodatno povečuje zaskrbljenost glede potencialnega vpliva generativne umetne inteligence na širjenje dezinformacij. Evropska komisija že preiskuje omrežje X zaradi morebitnih kršitev Digitalnega akta o varnosti, ki ureja, kako velike spletne platforme moderirajo vsebino. Preiskava vključuje tudi vprašanje, kako podjetja, kot je xAI, obvladujejo tveganja, povezana z umetno inteligenco. V Združenem kraljestvu regulator Ofcom pripravlja izvajanje Zakona o spletni varnosti, ki prav tako vključuje zahteve za obvladovanje tveganj, povezanih z uporabo umetne inteligence. V Združenih državah, kjer so zakoni o svobodi govora bolj ohlapni, pa zakonodajalci še iščejo načine za regulacijo zavajajočih vsebin, ustvarjenih z umetno inteligenco, vključno z neprimernimi lažnimi slikami, ki so se začele širiti na omrežju X.