Akt o umelej inteligencii (AI)
Akt Európskej únie o AI je prvý zákon na svete o umelej inteligencii. Jeho cieľom je zabezpečiť, aby boli systémy umelej inteligencie bezpečné, etické a dôveryhodné.
Čo je akt o umelej inteligencii
Cieľom aktu o umelej inteligencii je zabezpečiť, aby sa systémy umelej inteligencie (AI) vyvíjali a používali zodpovedne. Týmito pravidlami sa poskytovateľom technológií umelej inteligencie a nasadzujúcim subjektom AI ukladajú povinnosti a upravuje sa povoľovanie systémov umelej inteligencie na jednotnom trhu EÚ.
Týmto predpisom sa riešia riziká spojené s umelou inteligenciou, ako je skreslenie, diskriminácia a nedostatky v oblasti zodpovednosti, podporuje sa ním inovácia a zavádzanie umelej inteligencie.
Keďže ide o prvý svetový právny predpis upravujúci umelú inteligenciu, pravidlami EÚ by sa mohla stanoviť globálna norma podporujúca etickú, bezpečnú a dôveryhodnú umelú inteligenciu na celom svete, ako to bolo v prípade všeobecného nariadenia o ochrane údajov (GDPR) a ochrany údajov.
Vyššie riziko, prísnejšie pravidlá
V akte o umelej inteligencii sa upravuje riziko spojené s konkrétnym používaním AI, jeho kategorizácia na štyri úrovne rizika a z toho vyplývajúce stanovenie rôznych pravidiel.
Ak chcete vidieť úroveň rizika, ktorú predstavujú, a pravidlá, ktoré sa na ne vzťahujú, kliknite alebo ťuknite na príklady v pyramíde nižšie.
Interaktívny diagram znázorňujúci obrátenú pyramídu pozostávajúcu zo štyroch typov systémov umelej inteligencie zodpovedajúcich rôznym úrovniam rizika.
Štyri úrovne rizika stanovené v akte o AI a pravidlá, ktoré im zodpovedajú:
Minimálne alebo žiadne riziko
Väčšina systémov AI nepredstavuje riziká. Hry alebo protispamové filtre poháňané umelou inteligenciou sa môžu voľne používať. Akt EÚ o umelej inteligencii ich nereguluje ani na ne nemá vplyv.
Obmedzené riziko
Na systémy umelej inteligencie, ktoré predstavujú len obmedzené riziko, ako sú napríklad četovacie roboty ale systémy AI, ktoré tvoria obsah, sa budú vzťahovať povinnosti transparentnosti, ako je informovanie používateľov, že ich obsah bol vytvorený umelou inteligenciou, aby mohli prijímať informované rozhodnutia o ich ďalšom používaní.
Vysoké riziko
Vysokorizikové systémy AI, ako sú systémy používané pri diagnostike chorôb, autonómnom vedení vozidla a biometrickej identifikácii jednotlivcov zapojených do trestnej činnosti alebo vyšetrovaných v tomto kontexte, musia spĺňať prísne požiadavky a povinnosti na získanie prístupu na trh EÚ. Patrí medzi ne prísne testovanie, transparentnosť a ľudský dohľad.
Neprijateľné riziko
Používanie systémov AI, ktoré ohrozujú bezpečnosť, práva alebo živobytie ľudí, je v EÚ zakázané. Patrí sem kognitívna manipulácia správania, prediktívne vykonávanie policajných funkcií, rozpoznávanie emócií na pracovisku a vo vzdelávacích inštitúciách a sociálne hodnotenie. Zakazuje sa aj používanie systémov diaľkovej biometrickej identifikácie v reálnom čase, ako je rozpoznávanie tváre orgánmi presadzovania práva vo verejných priestoroch, až na niekoľko obmedzených výnimiek.
Umelá inteligencia na všeobecné použitie
Modely umelej inteligencie na všeobecné účely (GPAI) poháňajú systémy AI, ktoré sú schopné vykonávať širokú škálu úloh, ako je tvorba textu a rozpoznávanie obrazu v rôznych aplikáciách.
Modely GPAI, ktoré nepredstavujú systémové riziká, podliehajú obmedzeným požiadavkám, ako sú povinnosti týkajúce sa transparentnosti, zatiaľ čo modely so systémovými rizikami musia dodržiavať prísnejšie pravidlá.
Architektúra správy
S cieľom zabezpečiť riadne presadzovanie sa aktom o umelej inteligencii zriaďuje niekoľko orgánov správy:
- úrad pre AI v rámci Európskej komisie na presadzovanie spoločných pravidiel v celej EÚ
- vedecký panel nezávislých odborníkov na podporu činností v oblasti presadzovania práva
- rada pre AI so zástupcami členských štátov s cieľom radiť a pomáhať Komisii a členským štátom pri jednotnom a účinnom uplatňovaní aktu o AI
- poradné fórum pre zainteresované strany na poskytovanie technických odborných znalostí rade pre AI a Komisii
Sankcie
Predpis stanovuje pokuty za porušenie pravidiel.
Sankcie sú založené na percentuálnom podiele celosvetového obratu spoločnosti z predchádzajúceho roka alebo na stanovenej sume, podľa toho, ktorá suma je vyššia. MSP a startupy čelia primeraným pokutám.
Podpora inovácie
Aktom o umelej inteligencii sa posilní nielen účinné presadzovanie platných právnych predpisov v oblasti základných práv a bezpečnosti. Jeho cieľom je tiež podporiť investície a inovácie v oblasti umelej inteligencie v celej EÚ a uľahčiť rozvoj jednotného trhu s aplikáciami umelej inteligencie.
Pravidlá preto obsahujú ďalšie ustanovenia na podporu inovácií v oblasti umelej inteligencie v EÚ. Je prepojený aj s inými iniciatívami vrátane koordinovaného plánu EÚ v oblasti umelej inteligencie, ktorého cieľom je urýchliť investície do AI v Európe.
Práca Rady v oblasti umelej inteligencie
Európska rada rokovala v októbri 2020 o digitálnej transformácii.
V súvislosti s umelou inteligenciou vedúci predstavitelia EÚ vyzvali Komisiu, aby:
- navrhla, ako zvýšiť európske a vnútroštátne verejné a súkromné investície do výskumu AI, jej inovácie a zavádzania
- zabezpečila lepšiu koordináciu a viac sietí a synergií medzi európskymi výskumnými centrami na základe excelentnosti
- poskytla jasné a objektívne vymedzenie vysokorizikových systémov umelej inteligencie
Komisia uverejnila v apríli 2021 návrh nariadenia zameraného na harmonizáciu pravidiel pre umelú inteligenciu (akt o umelej inteligencii) a koordinovaný plán, ktorý zahŕňa súbor spoločných opatrení pre Komisiu a členské štáty. Cieľom tohto balíka pravidiel je zvýšiť dôveru v umelú inteligenciu a podporiť rozvoj a aktualizáciu technológií umelej inteligencie.
Rada rokovala o navrhovanom akte v októbri 2021, pričom na jednej strane zdôraznila značné spoločenské a hospodárske prínosy, ktoré umelá inteligencia môže zabezpečiť v širokej škále odvetví, a na druhej strane potrebu chrániť súkromie a zaistiť bezpečnosť a ochranu.
Rada prijala svoju pozíciu k novým pravidlám týkajúcim sa umelej inteligencie 6. decembra 2022. Rada chce bezpečnú, zákonnú a dôveryhodnú umelú inteligenciu, ktorá rešpektuje základné práva.
Po trojdňovom rokovacom maratóne dosiahli vyjednávači Rady a Európskeho parlamentu 9. decembra 2023 predbežnú dohodu o akte o umelej inteligencii.
Rada akt formálne prijala 21. mája 2024 a akt nadobudol účinnosť 1. augusta 2024.
- Akt o umelej inteligencii (AI): Rada s konečnou platnosťou schválila prvý právny predpis na svete v oblasti umelej inteligencie (tlačová správa, 21. mája 2024)
- Akt o umelej inteligencii: Rada a Parlament dosiahli dohodu o prvých pravidlách na svete pre umelú inteligenciu (tlačová správa, 9. decembra 2023)
Rada 29. júna 2026 s konečnou platnosťou schválila nové nariadenie, ktorým sa zefektívňujú a zjednodušujú pravidlá týkajúce sa umelej inteligencie. Tento nový právny predpis je súčasťou siedmeho súhrnného legislatívneho balíka (tzv. Omnibus VII) v rámci programu EÚ pre zjednodušenie. Obsahuje nové kľúčové ustanovenie, ktorým sa zakazujú postupy AI zahŕňajúce generovanie sexuálneho a intímneho obsah bez súhlasu alebo materiálu obsahujúceho sexuálne zneužívanie detí.
Váš život na internete: ako ho EÚ zjednodušuje a zvyšuje jeho bezpečnosť?
Európska únia aktívne pracuje na zlepšení digitálneho prostredia v prospech všetkých Európanov. Náš digitálny život musí byť bezpečný, jednoduchý a musí rešpektovať základné slobody.
Prečítajte si náš tematický článok o tom, ako sa EÚ usiluje o vytvorenie spoločnej elektronickej identifikácie, požaduje pravidlá pre bezpečnú a dôveryhodnú umelú inteligenciu a uľahčuje výmenu údajov týkajúcich sa zdravia v európskom priestore pre zdravotné údaje.
Pozri tiež
Ako funguje umelá inteligencia: využitie a jej vplyv
Prínosy a riziká umelej inteligencie
Digitálna transformácia: utváranie digitálnej budúcnosti EÚ
Posledná revízia textu: 29. apríla 2025