Akt o umetni inteligenci
Akt EU o umetni inteligenci je prvi zakonodajni akt o umetni inteligenci na svetu. Njegov cilj je zagotoviti, da so umetnointeligenčni sistemi varni, etični in zaupanja vredni.
Kaj je akt o umetni inteligenci
Cilj akta o umetni inteligenci je zagotoviti, da se sistemi umetne inteligence razvijajo in uporabljajo odgovorno. Pravila določajo obveznosti za ponudnike in uvajalce tehnologij umetne inteligence ter urejajo odobritev umetnointeligenčnih sistemov na enotnem trgu EU.
Ta zakonodaja obravnava tveganja, povezana z umetno inteligenco, kot so pristransko ravnanje, diskriminacija in vrzeli v odgovornosti, ter spodbuja inovacije in uvajanje umetne inteligence.
Kot je splošna uredba o varstvu podatkov to storila za zasebnost podatkov, bi lahko pravila EU kot prva zakonodaja na svetu, ki ureja umetno inteligenco, določila svetovni standard za urejanje umetne inteligence ter s tem spodbudila etično, varno in zaupanja vredno umetno inteligenco po vsem svetu.
Večje je tveganje, strožja so pravila
Akt o umetni inteligenci obravnava tveganja, povezana s specifično rabo umetne inteligence, jih razvršča v štiri stopnje tveganja in ustrezno določa različna pravila.
Za prikaz stopnje tveganja, ki jo predstavljajo, in pravila, ki se zanje uporabljajo, kliknite ali tapnite na primere v spodnji piramidi.
Interaktivni diagram prikazuje obrnjeno piramido, sestavljeno iz štirih vrst umetnointeligenčnih sistemov, ki ustrezajo različnim ravnem tveganja.
Štiri stopnje tveganja akta o umetni inteligenci in njihova ustrezna pravila so:
Minimalna tveganja oziroma ni tveganj
Večina umetnointeligenčnih sistemov ne predstavlja tveganj. Igre ali filtri za neželeno e-pošto, ki temeljijo na umetni inteligenci, se lahko prosto uporabljajo. Akt EU o umetni inteligenci jih ne ureja in ne vpliva nanje.
Omejena tveganja
Za umetnointeligenčne sisteme, ki predstavljajo le omejena tveganja, kot so avtomatski klepetalniki ali umetnointeligenčni sistemi, ki ustvarjajo vsebino, veljajo obveznosti glede preglednosti, kot je obveščanje uporabnikov, da je njihova vsebina ustvarjena z umetno inteligenco, da bodo lahko sprejemali informirane odločitve o nadaljnji uporabi.
Velika tveganja
Umetnointeligenčni sistemi velikega tveganja, kot so tisti, ki se uporabljajo pri diagnosticiranju bolezni, avtonomni vožnji in biometrični identifikaciji posameznikov, vpletenih v kriminalne dejavnosti ali vključenih v kazenske preiskave, morajo izpolnjevati stroge zahteve in obveznosti za dostop do trga EU. Mednje spadajo strogo testiranje, preglednost in človeški nadzor.
Nesprejemljiva tveganja
Uporaba umetnointeligenčnih sistemov, ki ogrožajo varnost, pravice ali možnost preživljanja ljudi, je v EU prepovedana. Mednje spadajo kognitivno vedenjska manipulacija, napovedno policijsko delo, prepoznavanje čustev na delovnem mestu in v izobraževalnih ustanovah ter družbeno točkovanje. Z nekaterimi omejenimi izjemami je prepovedana tudi uporaba sistemov za biometrično identifikacijo na daljavo v realnem času, kot je prepoznavanje obrazov s strani organov za preprečevanje, odkrivanje in preiskovanje kaznivih dejanj na javnih mestih.
Umetna inteligenca za splošno uporabo
Umetnointeligenčni modeli za splošno uporabo napajajo umetnointeligenčne sisteme, ki so sposobni opravljati najrazličnejše naloge, kot sta ustvarjanje besedila in prepoznavanje slik, v različnih aplikacijah.
Za umetnointeligenčne modele za splošno uporabo, ki ne predstavljajo sistemskih tveganj, veljajo omejene zahteve, kot so obveznosti glede preglednosti, za modele, ki predstavljajo sistemska tveganja, pa morajo veljati strožja pravila.
Struktura upravljanja
Za zagotovitev ustreznega izvrševanja je z aktom o umetni inteligenci vzpostavljenih več upravljavskih organov:
- urad za umetno inteligenco v okviru Evropske komisije za izvrševanje skupnih pravil po vsej EU
- znanstveni odbor neodvisnih strokovnjakov in strokovnjakinj za podporo dejavnostim izvrševanja
- odbor za umetno inteligenco s predstavniki in predstavnicami držav članic, ki bo Komisiji in državam članicam svetoval in jim pomagal pri dosledni in učinkoviti uporabi akta o umetni inteligenci
- svetovalni forum za deležnike, ki bo zagotavljal tehnično strokovno znanje odboru za umetno inteligenco in Komisiji
Kazni
Akt določa globe za kršitve pravil.
Kazni temeljijo na odstotku skupnega prometa podjetja v predhodnem letu ali na določenem znesku, odvisno od tega, kateri je višji. Za MSP in zagonska podjetja veljajo sorazmerne kazni.
Podpora inovacijam
Cilji akta o umetni inteligenci niso le bolj učinkovito izvrševanje veljavne zakonodaje o temeljnih pravicah in varnosti. Njegov namen je tudi spodbujanje naložb in inovacij na področju umetne inteligence v EU ter lažji razvoj enotnega trga za uporabo umetne inteligence.
Zato pravila vključujejo dodatne določbe za podporo inovacijam na področju umetne inteligence v EU. Tesno je povezan z drugimi pobudami, med drugim z usklajenim načrtom EU za umetno inteligenco, katerega cilj je pospešiti naložbe v umetno inteligenco v Evropi.
Delo Sveta na področju umetne inteligence
Evropski svet je oktobra 2020 razpravljal o digitalnem prehodu.
Kar zadeva umetno inteligenco, so voditelji in voditeljice EU Komisijo pozvali, naj:
- predlaga načine za povečanje evropskih in nacionalnih javnih in zasebnih naložb v raziskave in inovacije na področju umetne inteligence ter njeno uvajanje
- zagotovi boljše usklajevanje ter več mrež in sinergij med evropskimi raziskovalnimi centri na temelju odličnosti
- zagotovi jasno in objektivno opredelitev umetnointeligenčnih sistemov velikega tveganja
Komisija je aprila 2021 objavila predlog uredbe za harmonizacijo pravil o umetni inteligenci (akt o umetni inteligenci) ter usklajeni načrt, ki vključuje nabor skupnih ukrepov za Komisijo in države članice. Cilj tega svežnja pravil je izboljšati zaupanje v umetno inteligenco ter spodbuditi razvoj in posodobitev tehnologije umetne inteligence.
Svet je oktobra 2021 razpravljal o predlaganem aktu, pri čemer je izpostavil znatne družbene in gospodarske koristi umetne inteligence v številnih sektorjih na eni strani ter potrebo po varovanju zasebnosti ter zagotavljanju varnosti in zaščite na drugi strani.
Svet je stališče o novih pravilih za umetno inteligenco sprejel 6. decembra 2022. Želi si varno, zakonito in zaupanja vredno umetno inteligenco, ki spoštuje temeljne pravice.
Pogajalci in pogajalke Sveta in Evropskega parlamenta so 9. decembra 2023 po tridnevnih „maratonskih“ pogovorih dosegli začasni dogovor o Aktu o umetni inteligenci.
Svet je akt formalno sprejel 21. maja 2024, uporablja pa se od 1. avgusta 2024.
- Akt o umetni inteligenci: Svet dokončno odobril prva pravila o umetni inteligenci na svetu (sporočilo za javnost, 21. maj 2024)
- Akt o umetni inteligenci: Svet in Parlament dosegla dogovor o prvih pravilih za umetno inteligenco na svetu (sporočilo za javnost, 9. december 2023)
Svet je 29. junija 2026 dokončno odobril novo uredbo, ki racionalizira in poenostavlja pravila o umetni inteligenci (UI). Novi zakonodajni akt je del zakonodajnega svežnja „Omnibus VII“, ki je del agende EU za poenostavitev. Ključna določba novega zakonodajnega akta prepoveduje prakse UI, povezane z ustvarjanjem spolnih in intimnih vsebin brez privolitve ali posnetkov spolne zlorabe otrok.
Vaše življenje na spletu: kaj je EU storila za to, da bi bilo enostavnejše in varnejše?
Evropska unija si dejavno prizadeva izboljšati digitalno okolje v korist vseh Evropejcev in Evropejk. Naše digitalne dejavnosti morajo biti varne in enostavne, zagotoviti pa je treba tudi spoštovanje temeljnih svoboščin.
Preberite naš tematski prispevek o tem, kako EU ustvarja skupno elektronsko identifikacijo, želi pravila za zagotovitev varne in zaupanja vredne umetne inteligence ter olajšuje izmenjavo podatkov v evropskem zdravstvenem podatkovnem prostoru.
Glej tudi
Kaj je umetna inteligenca: načini uporabe in vpliv
Koristi in tveganja umetne inteligence
Digitalni prehod: oblikovanje digitalne prihodnosti EU
Zadnja posodobitev: 29. april 2025