Akt o umělé inteligenci

Co je akt o AI

Cílem aktu o AI je zajistit, aby systémy umělé inteligence (AI) byly vyvíjeny a používány odpovědně. Pravidla ukládají povinnosti poskytovatelům a provozovatelům technologií AI a upravují povolování systémů umělé inteligence na jednotném trhu EU.

Akt se zabývá riziky spojenými s AI, jako jsou předpojatost, diskriminace a nedostatky v odpovědnosti, podporuje inovace a zavádění AI.

Jakožto celosvětově první právní předpis upravující AI by se tato unijní pravidla mohla stát celosvětovým standardem v oblasti regulace AI, který bude podporovat etickou, bezpečnou a důvěryhodnou umělou inteligenci na celém světě, stejně jako tomu bylo v případě obecného nařízení o ochraně osobních údajů (GDPR) v oblasti ochrany údajů.

Čím vyšší riziko, tím přísnější pravidla

Akt o AI se zaměřuje na rizika spojená s konkrétním použitím AI, kategorizuje je do čtyř úrovní a na jejich základě stanoví rozdílná pravidla.

Níže uvedená pyramida ukazuje úrovně rizika a odpovídající konkrétní použití AI.

Čtyři úrovně rizika podle aktu o AI a jejich odpovídající pravidla:

Minimální nebo žádná rizika

Většina systémů AI riziko nepředstavuje. Hry nebo spamové filtry založené na AI lze volně používat. Nejsou aktem EU o AI regulovány ani ovlivněny.

Omezená rizika

Na systémy AI, které představují pouze omezená rizika, jako jsou chatboty nebo systémy AI vytvářející obsah, se budou vztahovat jen velmi mírné povinnosti v oblasti transparentnosti. Bude například třeba informovat uživatele o tom, že jejich obsah byl vytvořen AI, aby uživatelé mohli činit informovaná rozhodnutí o dalším použití.

Vysoká rizika

Vysoce rizikové systémy AI, jako jsou systémy používané při diagnostice nemocí, autonomním řízení, řízení pracovníků a biometrické identifikaci osob zapojených do trestné činnosti nebo vyšetřování, musí před získáním přístupu na trh EU splňovat přísné požadavky a povinnosti. Mezi ně patří přísné testování, transparentnost a lidský dohled.

Nepřijatelná rizika

Používání systémů AI, které představují riziko pro bezpečnost, práva nebo živobytí občanů, je v EU zakázáno. Patří mezi ně kognitivní manipulace s chováním, prediktivní policejní práce, rozpoznávání emocí na pracovišti a ve vzdělávacích institucích, hodnocení sociálního kreditu a vytváření materiálů pohlavního zneužívání dětí. S určitými omezenými výjimkami je rovněž zakázáno používat systémy biometrické identifikace na dálku v reálném čase, jako je rozpoznávání obličeje donucovacími orgány ve veřejných prostorách.

AI pro všeobecné použití

Obecné modely AI (GPAI) využívají systémů AI, které jsou schopny plnit širokou škálu úkolů, jako je vytváření textu a rozpoznávání obrazu, a to v různých aplikacích.

Modely GPAI, které nepředstavují systémové riziko, podléhají omezeným požadavkům, jako jsou povinnosti týkající se transparentnosti, zatímco modely, které systémové riziko představují, musí splňovat přísnější pravidla.

Struktura správy

Aby bylo zajištěno řádné prosazování těchto pravidel, zřizuje se aktem o AI několik správních orgánů:

• úřad pro AI v rámci Evropské komise, který bude prosazovat společná pravidla v celé EU,
• vědecká komise nezávislých odborníků na podporu činností v oblasti prosazování práva,
• rada pro AI se zástupci členských států s cílem poskytovat Komisi a členským státům poradenství a pomáhat jim v jednotném a účinném uplatňování aktu o AI,
• poradní fórum pro zúčastněné strany za účelem poskytování technických odborných znalostí radě pro AI a Komisi.

Sankce

Daný právní předpis stanoví pokuty za porušení pravidel.

Tyto peněžní sankce jsou založeny na procentním podílu celkového obratu společnosti z předchozího roku nebo jde o stanovenou částku, podle toho, co je vyšší. Malým a středním podnikům a startupům se ukládají přiměřené pokuty.

Podpora inovací

Cílem aktu o AI není pouze posílit účinné prosazování stávajících právních předpisů v oblasti základních práv a bezpečnosti. Záměrem je rovněž podporovat investice a inovace v oblasti AI v celé EU a usnadnit rozvoj jednotného trhu pro aplikace AI.

Pravidla proto obsahují další ustanovení na podporu inovací v oblasti AI v EU. Tento přístup jde ruku v ruce s dalšími iniciativami, včetně koordinovaného plánu EU v oblasti umělé inteligence, jehož cílem je urychlit investice do AI v Evropě.

Činnost Rady v oblasti AI

Evropská rada v říjnu 2020 projednala otázku digitalizace.

V souvislosti s AI vyzvali vedoucí představitelé EU Komisi, aby:

• navrhla způsoby navýšení evropských i vnitrostátních, veřejných i soukromých investic do výzkumu, inovací a zavádění umělé inteligence,
• zajistila lepší koordinaci a zvýšení množství sítí a synergií mezi evropskými výzkumnými středisky na základě excelence,
• vypracovala jasnou a objektivní definici vysoce rizikových systémů umělé inteligence.

V dubnu 2021 Komise zveřejnila návrh nařízení, jehož cílem je harmonizovat pravidla pro umělou inteligenci (akt o AI), a koordinovaný plán, který zahrnuje soubor společných opatření pro Komisi a členské státy. Cílem tohoto souboru pravidel je zvýšit důvěru v umělou inteligenci a podpořit rozvoj a aktualizaci technologií AI.

Rada navrhovaný akt projednala v říjnu 2021. Zdůraznila na jedné straně značné společenské a hospodářské přínosy, které může AI v široké škále odvětví přinést, a na straně druhé potřebu chránit soukromí a zajistit bezpečnost a ochranu.

Rada přijala postoj k novým pravidlům týkajícím se AI dne 6. prosince 2022. Rada usiluje o bezpečnou, zákonnou a důvěryhodnou AI, která respektuje základní práva.

Dne 9. prosince 2023 dosáhli vyjednavači Rady a Evropského parlamentu po třídenním „maratonu“ rozhovorů předběžné dohody ohledně aktu o AI.

Tento akt Rada formálně přijala dne 21. května 2024 a dne 1. srpna 2024 vstoupil v platnost.

• Akt o umělé inteligenci (AI): Rada s konečnou platností schválila celosvětově první pravidla pro AI (tisková zpráva, 21. května 2024)
• Akt o umělé inteligenci: Rada a Parlament dosáhly dohody o prvních pravidlech pro umělou inteligenci na světě (tisková zpráva, 9. prosince 2023)

Dne 29. června 2026 Rada s konečnou platností schválila nové nařízení, které zefektivňuje a zjednodušuje pravidla týkající se umělé inteligence. Nový právní předpis je součástí legislativního balíčku „Omnibus VII“ v rámci programu EU pro zjednodušení. Klíčové ustanovení nového právního předpisu zakazuje praktiky AI, které zahrnují vytváření sexuálního a intimního obsahu bez udělení souhlasu nebo materiálu zobrazujícího pohlavní zneužívání dětí.

Další informace: