Akt o umjetnoj inteligenciji

Što je Akt o umjetnoj inteligenciji?

Aktom o umjetnoj inteligenciji želi se osigurati odgovoran razvoj i upotrebu sustava umjetne inteligencije. Pravilima koje sadrži uvode se obveze za dobavljače tehnologije umjetne inteligencije i subjekte koji takve tehnologije uvode te se uređuje odobravanje sustava umjetne inteligencije na jedinstvenom tržištu EU-a.

Aktom se odgovara na rizike povezane s umjetnom inteligencijom, kao što su pristranost, diskriminacija i nedostaci u pogledu odgovornosti, promiču se inovacije i potiče se uvođenje umjetne inteligencije.

EU-ova pravila prvi su akt na svijetu kojim se regulira umjetna inteligencija te bi mogla, jednako kao što je to učinila Opća uredba o zaštiti podataka za zaštitu podataka, postaviti globalni standard u području umjetne inteligencije, uz promicanje sigurne i pouzdane umjetne inteligencije diljem svijeta koja je u skladu s etičkim načelima.

Što viša razina rizika, to stroža pravila

Aktom o umjetnoj inteligenciji odgovara se na rizike povezane s određenim primjenama umjetne inteligencije tako da se navedene rizike razvrstava u četiri razine, a u skladu s time utvrđuju se različita pravila.

Za uvid u razinu rizika i pravila koja se na njih primjenjuju kliknite ili pritisnite na primjere umjetne inteligencije u piramidnom prikazu u nastavku.

Četiri razine rizika utvrđene Aktom o umjetnoj inteligenciji i pravila koja se na njih odnose jesu:

Minimalni rizici ili rizici ne postoje

Većina sustava umjetne inteligencije ne predstavlja rizik. Igre koje se temelje na umjetnoj inteligenciji ili filtri za neželjenu poštu mogu se upotrebljavati bez ograničenja. Nisu regulirani Aktom o umjetnoj inteligenciji niti ih on zahvaća.

Ograničeni rizici

Sustavi umjetne inteligencije koji predstavljaju samo ograničen rizik, kao što su chatbotovi ili sustavi umjetne inteligencije za generiranje sadržaja, podliježu obvezama u pogledu transparentnosti, kao što je obavješćivanje korisnika da je sadržaj generiran umjetnom inteligencijom kako bi mogli donositi informirane odluke o daljnjoj upotrebi.

Visoki rizici

Visokorizični sustavi umjetne inteligencije, kao što su oni koji se upotrebljavaju za dijagnosticiranje bolesti, autonomnu vožnju i biometrijsku identifikaciju pojedinaca uključenih u kriminalne aktivnosti ili istrage, moraju ispunjavati stroge zahtjeve i obveze za pristup tržištu EU-a, uključujući rigorozno testiranje, transparentnost i ljudski nadzor.

Neprihvatljivi rizici

Primjena sustava umjetne inteligencije koji ugrožavaju sigurnost, prava ili egzistenciju ljudi zabranjena je u EU-u. Takve primjene obuhvaćaju kognitivnu manipulaciju ponašanja, prognostički rad policije, prepoznavanje emocija na radnom mjestu i u obrazovnim ustanovama te društveno vrednovanje. Osim toga, tijelima kaznenog progona zabranjeno je na javnim mjestima upotrebljavati sustave za daljinsku biometrijsku identifikaciju u stvarnom vremenu, kao što su sustavi za prepoznavanje lica, uz ograničene iznimke.

Umjetna inteligencija opće namjene

Modeli umjetne inteligencije opće namjene pokreću sustave umjetne inteligencije sposobne za obavljanje širokog raspona zadaća, kao što su generiranje teksta i prepoznavanje slika, u različitim primjenama.

Na modele umjetne inteligencije opće namjene koji ne predstavljaju sistemske rizike primjenjuju se ograničeni zahtjevi, kao što su obveze transparentnosti, dok modeli koji predstavljaju sistemske rizike moraju biti u skladu sa strožim pravilima.

Struktura upravljanja

Kako bi se osigurala pravilna provedba, Aktom o umjetnoj inteligenciji osniva se nekoliko upravljačkih tijela:

• ured za umjetnu inteligenciju u okviru Europske komisije radi provedbe zajedničkih pravila u cijelom EU-u
• znanstveno povjerenstvo neovisnih stručnjaka za potporu provedbenim aktivnostima
• Odbor za umjetnu inteligenciju sastavljen od predstavnika država članica za savjetovanje i pružanje pomoći Komisiji i državama članicama u dosljednoj i djelotvornoj primjeni Akta o umjetnoj inteligenciji
• savjetodavni forum za dionike radi pružanja tehničkog stručnog znanja Odboru za umjetnu inteligenciju i Komisiji.

Kazne

Aktom se utvrđuju novčane kazne za kršenje pravila.

Kazne se temelje na postotku ukupnog prošlogodišnjeg prometa poduzeća ili utvrđenom iznosu, ovisno o tome koji je iznos veći. MSP-ovima i start-up poduzećima mogu se izreći razmjerne novčane kazne.

Potpora inovacijama

Cilj Akta o umjetnoj inteligenciji nije samo poboljšanje učinkovite provedbe postojećeg zakonodavstva o temeljnim pravima i sigurnosti. Njime se također želi promicati ulaganja i inovacije u području umjetne inteligencije u EU-u te olakšati razvoj jedinstvenog tržišta za primjene umjetne inteligencije.

U skladu s time pravila sadržavaju dodatne odredbe za potporu inovacijama u području umjetne inteligencije u EU-u. Akt je usko povezan i s drugim inicijativama, među ostalim s EU-ovim Koordiniranim planom o umjetnoj inteligenciji, čiji je cilj ubrzati ulaganja u umjetnu inteligenciju u Europi.

Rad Vijeća u području umjetne inteligencije

Europsko vijeće u listopadu 2020. raspravljalo je o digitalnoj tranziciji.

Što se tiče umjetne inteligencije, čelnici i čelnice EU-a pozvali su Komisiju da:

• predloži načine za povećanje europskih i nacionalnih javnih i privatnih ulaganja u uvođenje umjetne inteligencije te inovacije i istraživanje u tom području
• osigura bolju koordinaciju te više mreža i sinergije među europskim istraživačkim centrima na temelju izvrsnosti
• pruži jasnu i objektivnu definiciju visokorizičnih sustava umjetne inteligencije.

Komisija je u travnju 2021. objavila prijedlog uredbe čiji je cilj uskladiti pravila o umjetnoj inteligenciji (Akt o umjetnoj inteligenciji) i koordinirani plan koji obuhvaća skup zajedničkih djelovanja Komisije i država članica. Tim paketom pravila želi se povećati povjerenje u umjetnu inteligenciju te potaknuti razvoj i unapređivanje tehnologije umjetne inteligencije.

Vijeće je u listopadu 2021. raspravljalo o predloženom aktu, ističući, s jedne strane, znatne društvene i gospodarske koristi koje umjetna inteligencija može donijeti u širokom rasponu sektora i, s druge strane, potrebu da se zaštiti privatnost i zajamče sigurnost i zaštita.

Vijeće je 6. prosinca 2022. donijelo stajalište o novim pravilima za umjetnu inteligenciju. Vijeće želi sigurnu, zakonitu i pouzdanu umjetnu inteligenciju kojom se poštuju temeljna prava.

• Akt o umjetnoj inteligenciji: Vijeće pozvalo na promicanje sigurne umjetne inteligencije kojom se poštuju temeljna prava (priopćenje za medije, 6. prosinca 2022.)

Nakon trodnevnih „maratonskih” pregovora pregovarači Vijeća i Europskog parlamenta 9. prosinca 2023. postigli su privremeni dogovor o Aktu o umjetnoj inteligenciji.

Vijeće je akt formalno donijelo 21. svibnja 2024., a stupio je na snagu 1. kolovoza 2024.

• Akt o umjetnoj inteligenciji (UI): Vijeće dalo konačno zeleno svjetlo prvim pravilima o umjetnoj inteligenciji u svijetu (priopćenje za medije, 21. svibnja 2024.)
• Akt o umjetnoj inteligenciji: Vijeće i Parlament postigli dogovor o prvim pravilima za umjetnu inteligenciju u svijetu (priopćenje za medije, 9. prosinca 2023.)

Vijeće je 29. lipnja 2026. dalo konačno zeleno svjetlo za novu uredbu kojom se racionaliziraju i pojednostavnjuju određena pravila o umjetnoj inteligenciji. Novi je akt dio zakonodavnog paketa „Omnibus VII” u okviru EU-ova programa pojednostavnjenja. Ključnom odredbom novog akta zabranjuju se prakse u području umjetne inteligencije koje uključuju stvaranje seksualnog i intimnog sadržaja bez pristanka ili materijala koji sadržava seksualno zlostavljanje djece.

• Umjetna inteligencija: Vijeće dalo konačno zeleno svjetlo za pojednostavnjenje i racionalizaciju pravila (priopćenje za medije, 29. lipnja 2026.)

Također pogledajte

• Kronologija – međunarodni sastanci na vrhu o umjetnoj inteligenciji
• Europski pristup umjetnoj inteligenciji (Europska komisija)