"Slapukus naudojame tam, kad užtikrintumėte jums geresnę naršymo patirtį. Būtinų slapukų reikia esminėms Tarybos svetainės funkcijoms palaikyti. Pasirenkami slapukai padeda mums rengti anonimines ir suvestines statistines ataskaitas, kad geriau tenkintume jūsų poreikius.
Dirbtinio intelekto aktas: Taryba ir Parlamentas susitarė dėl pirmųjų pasaulyje DI skirtų taisyklių
Šis pranešimas spaudai buvo atnaujintas 2024 m. vasario 2 d.: buvo įtrauktas galutinis kompromisinis tekstas siekiant susitarimo.
Po 3 dienų trukmės „derybų maratono“ Tarybai pirmininkaujanti valstybė narė ir Europos Parlamento derybininkai pasiekė preliminarų susitarimą dėl pasiūlymo dėl suderintų dirbtinio intelekto (DI) taisyklių – vadinamojo dirbtinio intelekto akto. Reglamento projekto tikslas – užtikrinti, kad Europos rinkai pateikiamos ir ES naudojamos DI sistemos būtų saugios ir atitiktų pagrindines teises ir ES vertybes. Šiuo riboženkliniu pasiūlymu taip pat siekiama Europoje stimuliuoti investicijas ir inovacijas DI srityje.
Tai istorinis laimėjimas ir labai svarbus kelrodis ateities perspektyvoje. Šiandienos susitarimas – veiksmingas atsakas į pasaulinį iššūkį sparčiai kintančioje technologinėje aplinkoje, imantis veiksmų srityje, kuri nepaprastai svarbi mūsų visuomenių ir ekonomikų ateičiai. Dirbant prie šio klausimo mums pavyko išlaikyti nepaprastai jautrią pusiausvyrą: skatinti inovacijas bei dirbtinio intelekto įsisavinimą visoje Europoje ir kartu visapusiškai gerbti mūsų piliečių pagrindines teises.
Carme Artigas, Ispanijos valstybės sekretorė, atsakinga už skaitmeninimą ir dirbtinį intelektą
DI aktas yra didelės svarbos teisėkūros iniciatyva, galinti paskatinti tiek privačiojo, tiek viešojo sektoriaus subjektus plėtoti ir įsisavinti saugų bei patikimą DI visoje bendrojoje rinkoje. Pagrindinė mintis – reguliuoti DI pagal tai, kiek žalos jis gali padaryti visuomenei, laikantis rizika grindžiamo požiūrio: kuo didesnė rizika, tuo griežtesnės taisyklės. Šiuo teisės akto pasiūlymu, kuris yra pirmasis tokio pobūdžio dokumentas pasaulyje, galėtų būti nustatytas DI reguliavimo kitose jurisdikcijose pasaulinis standartas – panašiai, kaip buvo padaryta BDAR atveju, ir tokiu būdu galėtų būti propaguojamas europinis požiūris į technologijų reguliavimą pasaulio mastu.
Pagrindiniai preliminaraus susitarimo elementai
Palyginti su pradiniu Komisijos pasiūlymu, pagrindinius naujus preliminaraus susitarimo elementus galima apibendrinti taip:
įtrauktos taisyklės dėl didelio poveikio bendrosios paskirties DI modelių, kurie ateityje gali kelti sisteminę riziką, ir dėl didelės rizikos DI sistemų;
peržiūrėta valdymo sistema, suteikiant tam tikrų ES lygmens vykdymo užtikrinimo įgaliojimų;
išplėstas draudimų sąrašas, tačiau numatyta galimybė teisėsaugos institucijoms viešosiose erdvėse naudoti nuotolinį biometrinį tapatybės nustatymą, su sąlyga, kad taikomos apsaugos priemonės;
geriau apsaugomos teisės, įpareigojus didelės rizikos DI sistemų diegėjus prieš pradedant naudoti DI sistemą atlikti poveikio pagrindinėms teisėms vertinimą.
Konkrečiau, preliminarus susitarimas apima šiuos aspektus:
Apibrėžtys ir taikymo sritis
Siekiant užtikrinti, kad DI sistemos apibrėžtyje būtų pateikti pakankamai aiškūs kriterijai, pagal kuriuos DI būtų galima atskirti nuo paprastesnių programinės įrangos sistemų, kompromisiniame susitarime apibrėžtis suderinta su EBPO siūlomu metodu.
Preliminariame susitarime taip pat paaiškinama, kad reglamentas netaikomas sritims, nepatenkančioms į ES teisės taikymo sritį, ir bet kuriuo atveju neturėtų daryti poveikio valstybių narių kompetencijai nacionalinio saugumo srityje arba bet kuriam subjektui, kuriam patikėtos užduotys šioje srityje. Be to, DI aktas nebus taikomas sistemoms, kurios naudojamos išimtinai kariniais arba gynybos tikslais. Panašiai, susitarime numatyta, kad reglamentas nebūtų taikomas DI sistemoms, naudojamoms tik mokslinių tyrimų ir inovacijų tikslais, arba žmonėms, kurie naudojasi DI neprofesiniais tikslais.
DI sistemų priskyrimas didelės rizikos sistemų kategorijai ir draudžiama DI praktika
Kompromisiniame susitarime numatytas horizontalus apsaugos lygmuo, įskaitant didelės rizikos sistemų klasifikaciją, siekiant užtikrinti, kad nebūtų įtraukiamos DI sistemos, kurios, tikėtina, nesukels šiurkščių pagrindinių teisių pažeidimų ar kitos didelės rizikos. DI sistemoms, keliančioms tik ribotą riziką, būtų taikomi labai lengvi skaidrumo įpareigojimai, pavyzdžiui, būtų privaloma atskleisti, jog turinys buvo sukurtas dirbtinio intelekto, kad naudotojai galėtų priimti informacija pagrįstus sprendimus dėl tolesnio naudojimo.
Įvaĩrios didelės rizikos DI sistemos būtų leidžiamos, tačiau norint patekti į ES rinką joms būtų taikomas reikalavimų ir įpareigojimų rinkinys. Teisės aktų leidėjai šiuos reikalavimus paaiškino ir pakoregavo taip, kad jie būtų techniškai geriau įvykdomi ir kad suinteresuotiesiems subjektams būtų lengviau jų laikytis, pavyzdžiui, kiek tai susiję su duomenų kokybe arba su techniniais dokumentais, kuriuos MVĮ turėtų rengti, kad įrodytų savo didelės rizikos DI sistemų atitiktį reikalavimams.
Kadangi DI sistemos kuriamos ir platinamos kompleksinėse vertės grandinėse, kompromisiniame susitarime padaryta pakeitimų, kuriais paaiškinamas įvairių tų grandinių dalyvių, visų pirma DI sistemų tiekėjų ir naudotojų, atsakomybės ir vaidmenų paskirstymas. Jame taip pat paaiškinamas atsakomybės pagal DI aktą ir atsakomybės, kuri jau numatyta kituose teisės aktuose, pavyzdžiui, atitinkamuose ES duomenų apsaugos ar sektoriniuose teisės aktuose, tarpusavio ryšys.
Kai kuriais DI naudojimo atvejais rizika laikoma nepriimtina, todėl šios sistemos ES bus uždraustos. Pvz., preliminariame susitarime draudžiamas kognityvinis elgesio manipuliavimas, konkrečiu tikslu neapribotas veido atvaizdų iš interneto ar apsauginių vaizdo stebėjimo sistemų įrašų išgavimas ir kaupimas, emocijų atpažinimas darbo vietoje ir švietimo įstaigose, piliečių vertinimas, biometrinis kategorizavimas siekiant išvesti jautrius duomenis, tokius kaip seksualinė orientacija ar religiniai įsitikinimai, ir kai kurie į asmenį nukreipto predikcinio tvarkos palaikymo atvejai.
Teisėsaugai taikomos išimtys
Atsižvelgiant į teisėsaugos institucijų ypatumus ir poreikį išsaugoti gebėjimą naudotis DI savo gyvybiškai svarbioje veikloje, buvo susitarta dėl kelių Komisijos pasiūlymo pakeitimų, susijusių su DI sistemų naudojimu teisėsaugos tikslais. Su sąlyga, kad taikomos tinkamos apsaugos priemonės, šiais pakeitimais siekiama atsižvelgti į poreikį užtikrinti su jų veikla susijusių neskelbtinų operatyvinių duomenų konfidencialumą. Pavyzdžiui, buvo nustatyta ekstremalios situacijos procedūra, pagal kurią teisėsaugos institucijoms skubos atveju leidžiama panaudoti didelės rizikos DI priemonę, kurios atitikties vertinimo procedūra neatlikta. Tačiau taip pat nustatytas specialus mechanizmas, kuriuo siekiama užtikrinti, kad pagrindinės teisės būtų pakankamai apsaugotos nuo bet kokio galimo netinkamo DI sistemų naudojimo.
Be to, kiek tai susiję su tikralaikio nuotolinio biometrinio tapatybės nustatymo sistemų naudojimu viešai prieinamose erdvėse, preliminariame susitarime paaiškinami tikslai, kuriais toks naudojimas gali būti laikomas griežtai būtinu teisėsaugos tikslais ir dėl kurių teisėsaugos institucijoms turėtų būti išimties tvarka leidžiama naudoti tokias sistemas. Kompromisiniame susitarime numatytos papildomos apsaugos priemonės, o šios išimtys taikomos apsiribojant tik tam tikrų nusikaltimų aukų atvejais, tikrų, esamų ar numatomų grėsmių, pavyzdžiui, teroristinių išpuolių, prevencija ir sunkiausiais nusikaltimais įtariamų asmenų paieška.
Bendrosios paskirties DI sistemos ir baziniai modeliai
Į aktą įtraukta naujų nuostatų siekiant atsižvelgti į situacijas, kai DI sistemos gali būti naudojamos įvairiais tikslais (bendrosios paskirties DI) ir kai bendrosios paskirties DI technologija vėliau integruojama į kitą didelės rizikos sistemą. Preliminariame susitarime taip pat nagrinėjami specialūs bendrosios paskirties dirbtinio intelekto (BPDI) sistemų atvejai.
Taip pat susitarta dėl konkrečių taisyklių, taikomų baziniams modeliams, didelėms sistemoms, gebančioms kompetentingai atlikti platų spektrą atskirų užduočių, pavyzdžiui, generuoti vaizdo įrašus, tekstą, vaizdus, vykdyti lateralinę komunikaciją, kompiuterijos funkcijas arba generuoti kompiuterinį kodą. Preliminariame susitarime numatyta, kad bazinių modelių atžvilgiu turi būti išpildytos konkrečios skaidrumo pareigos prieš juos pateikiant rinkai. „Didelio poveikio“ baziniams modeliams buvo nustatyta griežtesnė tvarka. Tai baziniai modeliai, apmokyti dideliu kiekiu duomenų, turintys pažangų kompleksiškumą, pajėgumus bei veiklos rezultatų galimybes, gerokai viršijančias vidurkį, ir galintys skleisti sisteminę riziką visoje vertės grandinėje.
Nauja valdymo architektūra
Atsižvelgiant į naujas taisykles dėl BPDI modelių ir akivaizdų poreikį užtikrinti jų vykdymą ES lygmeniu, Komisijoje įsteigiamas DI biuras, kuriam pavesta prižiūrėti šiuos pažangiausius DI modelius, prisidėti prie standartų ir bandymų praktikos puoselėjimo ir užtikrinti bendrų taisyklių vykdymą visose valstybėse narėse. Nepriklausomų ekspertų mokslinė grupė patars DI biurui dėl BPDI modelių, padėdama rengti bazinių modelių pajėgumų vertinimo metodikas, konsultuodama dėl priskyrimo prie didelio poveikio bazinių modelių, dėl tokių modelių radimosi, taip pat stebėdama galimą materialinę riziką saugai, susijusią su baziniais modeliais.
DI valdyba, kurią sudarytų valstybių narių atstovai, išliks Komisijos koordinavimo platforma bei patariamasis organas ir suteiks valstybėms narėms svarbų vaidmenį įgyvendinant reglamentą, įskaitant bazinių modelių praktikos kodeksų projektavimą. Galiausiai bus įsteigtas suinteresuotųjų subjektų, pavyzdžiui, pramonės atstovų, MVĮ, startuolių, pilietinės visuomenės ir akademinės bendruomenės, patariamasis forumas, skirtas tam, kad DI valdybai būtų teikiamos techninės ekspertinės žinios.
Sankcijos
Baudos už dirbtinio intelekto akto pažeidimus buvo nustatytos kaip pažeidimą padariusios įmonės praėjusių finansinių metų globalios metinės apyvartos procentinė dalis arba iš anksto nustatyta suma, atsižvelgiant į tai, kuri suma yra didesnė. Tai sudarytų 35 mln. € arba 7 % už uždraustų DI prietaikų pažeidimus, 15 mln. € arba 3 % už DI akto pareigų pažeidimus ir 7,5 mln. € arba 1,5 % už neteisingos informacijos pateikimą. Tačiau MVĮ ir startuoliams už DI akto nuostatų pažeidimus preliminariame susitarime numatytos proporcingesnės administracinių baudų viršutinės ribos.
Kompromisiniame susitarime taip pat aiškiai nurodyta, kad fizinis arba juridinis asmuo gali pateikti atitinkamai rinkos priežiūros institucijai skundą dėl neatitikties DI aktui ir gali tikėtis, kad toks skundas bus nagrinėjamas laikantis specialių tos institucijos procedūrų.
Skaidrumas ir pagrindinių teisių apsauga
Preliminariame susitarime numatytas poveikio pagrindinėms teisėms vertinimas prieš diegėjams pateikiant rinkai didelės rizikos DI sistemą. Preliminariame susitarime taip pat numatytas didesnis skaidrumas, susijęs su didelės rizikos DI sistemų naudojimu. Visų pirma, kai kurios Komisijos pasiūlymo nuostatos iš dalies pakeistos, kad būtų nurodyta, jog tam tikri didelės rizikos DI sistemos naudotojai, kurie yra viešieji subjektai, taip pat privalės registruotis didelės rizikos DI sistemų ES duomenų bazėje. Be to, naujose nuostatose akcentuojama emocijų atpažinimo sistemos naudotojų pareiga informuoti fizinius asmenis, kai jų atžvilgiu naudojama tokia sistema.
Inovacijų rėmimo priemonės
Siekiant sukurti inovacijoms palankesnę teisinę sistemą ir skatinti faktiniais duomenimis grindžiamą mokymąsi reglamentavimo srityje, palyginti su Komisijos pasiūlymu, nuostatos dėl inovacijų rėmimo priemonių buvo iš esmės pakeistos.
Visų pirma patikslinta, kad DI srities apribotose bandomosiose reglamentavimo aplinkose, kuriomis turėtų būti teikiama kontroliuojama aplinka novatoriškoms DI sistemoms kurti, bandyti ir validuoti, taip pat turėtų būti galima novatoriškas DI sistemas išbandyti realiomis sąlygomis. Be to, įtrauktos naujos nuostatos, pagal kurias tam tikromis sąlygomis ir taikant apsaugos priemones DI sistemas leidžiama bandyti realiomis sąlygomis. Galiausiai, kad būtų palengvinta mažesnėms įmonėms tenkanti administracinė našta, preliminariame susitarime pateikiamas veiksmų, kurių turi būti imtasi tokiems veiklos vykdytojams remti, sąrašas ir numatytos kelios ribotos ir aiškiai apibrėžtos nukrypti leidžiančios nuostatos.
Įsigaliojimas
Preliminariame susitarime numatyta, kad DI aktas turėtų būti taikomas praėjus dvejiems metams nuo jo įsigaliojimo su tam tikromis išimtimis konkrečioms nuostatoms.
Tolesni veiksmai
Šiandien pasiekus preliminarų susitarimą, artimiausiomis savaitėmis bus tęsiamas techninio lygmens darbas siekiant parengti išsamią naujojo reglamento redakciją. Kai šis darbas bus baigtas, pirmininkaujanti valstybė narė pateiks kompromisinį tekstą valstybių narių atstovams (COREPER) patvirtinti.
Abi teisėkūros institucijos turės patvirtinti visą tekstą, o prieš joms oficialiai jį priimant, jį dar turės peržiūrėti teisininkai lingvistai.
Bendra informacija
2021 m. balandžio mėn. pateiktas Komisijos pasiūlymas yra saugaus ir teisėto DI, kuriuo gerbiamos pagrindinės teisės, kūrimą ir naudojimą visoje bendrojoje rinkoje skatinančios ES politikos vienas iš pagrindinių elementų.
Pasiūlyme laikomasi rizika grindžiamo požiūrio ir nustatoma vienoda horizontalioji DI teisinė sistema, kuria siekiama užtikrinti teisinį tikrumą. Reglamento projektu siekiama skatinti investicijas į DI ir inovacijas DI srityje, gerinti valdymą ir veiksmingą esamų teisės aktų dėl pagrindinių teisių ir saugos vykdymo užtikrinimą, taip pat sudaryti palankesnes sąlygas kurti bendrąją DI prietaikų rinką. Jis neatsiejamas nuo kitų iniciatyvų, įskaitant Suderintą dirbtinio intelekto planą, kuriuo siekiama paspartinti investicijas į DI Europoje. 2022 m. gruodžio 6 d. Taryba pasiekė susitarimą dėl bendro požiūrio (derybų įgaliojimų) dėl šios bylos ir 2023 m. birželio mėn. viduryje pradėjo tarpinstitucines derybas su Europos Parlamentu (trilogus).
Ši medžiaga šiuo metu yra prieinama tik šia (šiomis) kalba (-omis):
Tai istorinis laimėjimas ir labai svarbus kelrodis ateities perspektyvoje. Šiandienos susitarimas – veiksmingas atsakas į pasaulinį iššūkį sparčiai kintančioje technologinėje aplinkoje, imantis veiksmų srityje, kuri nepaprastai svarbi mūsų visuomenių ir ekonomikų ateičiai. Dirbant prie šio klausimo mums pavyko išlaikyti nepaprastai jautrią pusiausvyrą: skatinti inovacijas bei dirbtinio intelekto įsisavinimą visoje Europoje ir kartu visapusiškai gerbti mūsų piliečių pagrindines teises.