V EU odslej prepovedana raba nesprejemljivo tvegane umetne inteligence
Z začetkom februarja je v EU začela veljati uredba o umetni inteligenci, ki je bila sprejeta marca lani. Tako imenovani AI Act je začel veljati 1. avgusta, z 2. februarjem 2025 pa so se začele uporabljati določbe, ki omogočajo prepoved uporabe sistemov umetne inteligence, ki predstavljajo nesprejemljivo tveganje.
Konkretno gre za 5. člen in razdelitev sistemov umetne inteligence v štiri skupine: (1) minimalno tvegane (npr. filtriranje neželene elektronske pošte), (2) nizko tvegane (na primer roboti za pogovor, ki jih podjetja uporabljajo za stik s strankami, (3) visoko tvegane (umetna inteligenca kot pomoč pri diagnostiki bolezni), in (4) nesprejemljivo tvegane. Slednji so prepovedani.
Med te sodi grajenje družbene bonitetne ocene (social score), manipulativni sistemi, napeljevanje k izvajanju kaznivih dejanj, uporaba biometrike za pridobivanje varovanih osebnih podatkov, uporaba biometričnih sistemov v realnem času za potrebe organov pregona, strganje osebnih podatkov z interneta in podobno. Vsi ti sistemi so prepovedani, zagrožene globe za uporabo pa znašajo sedem odstotkov letnega prometa podjetja, a vsaj 35 milijonov evrov. Dovoljene so sicer posamezne izjeme.
