“Antivirus” za dobo umetne inteligence

Podjetje McAfee pripravlja novo orodje z imenom Project Mockingbird, s katerimi bo možno zaznavati umetno generirane zvočne posnetke, ki bi jih lahko kriminalci uporabljali za socialni inženiring in druge kibernetske prevare. Orodje bi lahko predstavljalo v dobi umetne inteligence to, kar danes predstavlja protivirusni programi v boju proti zlonamerni kodi.

McAfee je med sejmom CES 2024 razkril pionirsko tehnologijo globokega zaznavanja ponarejenega zvoka, ki lahko zaščititi potrošnike pred naraščajočo grožnjo kibernetskih kriminalcev, ki uporabljajo izmišljen zvok, ustvarjen z umetno inteligenco za prevare.

Generativna orodja umetne inteligence kriminalcem omogočajo ustvarjanje prepričljivih goljufij, vključno s kloniranjem glasu za lažno predstavljanje družinskih članov, ali manipuliranje pristnih videoposnetkov s poceni ponaredki. Project Mockingbird za zaznavanje ponarejenega zvoka uporablja kontekstualne, vedenjske in kategorične modele zaznavanja, prvi testi pa kažejo, da dosega okoli 90-odstotno stopnjo natančnosti zaznave ponaredkov.

Po mnenju Steva Grobmana, tehničnega direktorja pri družbi McAfee, tehnologija ni popolna, je pa dovolj za pomoč uporabnikom. Stopnjo natančnosti je primerjal z vremensko napovedjo. 70-odstotno verjetnost dežja sicer ne daje zagotovila, vendar pomaga načrtovati dan. Na podoben način naj bi pomagala tudi orodja kot je Project Mockingbird.

Zelo verjetno je, da bo Projekt Mockingbird dobil tudi druga orodja za preverjanje vpletenosti generativne umetne inteligence zvočnih in video posnetkih, besedilih in drugih virih informacij, kjer bi lahko umetna inteligenca lahko prevarala uporabnike ali uporabila nedovoljene vsebine.