Akt o umělé inteligenci

Co je akt o umělé inteligenci

Cílem aktu o AI je zajistit, aby systémy umělé inteligence byly vyvíjeny a používány odpovědně. Pravidla ukládají povinnosti poskytovatelům a provozovatelům technologií AI a upravují povolování systémů umělé inteligence na jednotném trhu EU.

Akt se zabývá riziky spojenými s umělou inteligencí, jako jsou předpojatost, diskriminace a nedostatky v odpovědnosti, podporuje inovace a zavádění umělé inteligence.

Jakožto celosvětově první právní předpis upravující AI by se tato unijní pravidla mohla stát celosvětovým standardem v oblasti regulace umělé inteligence, který bude podporovat etickou, bezpečnou a důvěryhodnou umělou inteligenci na celém světě, stejně jako tomu bylo v případě obecného nařízení o ochraně osobních údajů (GDPR) v oblasti ochrany údajů.

Čím vyšší riziko, tím přísnější pravidla

Akt o umělé inteligenci se zaměřuje na rizika spojená s konkrétním použitím umělé inteligence, kategorizuje je do čtyř úrovní a na jejich základě stanoví rozdílná pravidla.

Klikněte na příklady v pyramidě níže nebo na ně najeďte kurzorem, a zobrazí se míra rizika, které představují, a pravidla, která se na ně vztahují.

Čtyři úrovně rizika podle aktu o umělé inteligenci a jejich odpovídající pravidla:

Minimální nebo žádná rizika

Většina systémů AI riziko nepředstavuje. Hry nebo spamové filtry založené na AI lze volně používat. Nejsou aktem EU o umělé inteligenci regulovány ani ovlivněny.

Omezená rizika

Na systémy AI, které představují pouze omezená rizika, jako jsou chatboty nebo systémy AI vytvářející obsah, se budou vztahovat jen velmi mírné povinnosti v oblasti transparentnosti. Bude například třeba informovat uživatele o tom, že jejich obsah byl vytvořen umělou inteligencí, aby uživatelé mohli činit informovaná rozhodnutí o dalším použití.

Vysoká rizika

Vysoce rizikové systémy AI, jako jsou systémy používané při diagnostice nemocí, autonomním řízení a biometrické identifikaci osob zapojených do trestné činnosti nebo vyšetřování, musí před získáním přístupu na trh EU splňovat přísné požadavky a povinnosti. Mezi ně patří přísné testování, transparentnost a lidský dohled.

Nepřijatelná rizika

Používání systémů AI, které představují riziko pro bezpečnost, práva nebo živobytí občanů, je v EU zakázáno. Patří mezi ně kognitivní manipulace s chováním, prediktivní policejní práce, rozpoznávání emocí na pracovišti a ve vzdělávacích institucích a hodnocení sociálního kreditu. S určitými omezenými výjimkami je rovněž zakázáno používat systémy biometrické identifikace na dálku v reálném čase, jako je rozpoznávání obličeje donucovacími orgány ve veřejných prostorách.

Umělá inteligence pro všeobecné použití

Obecné modely umělé inteligence (GPAI) využívají systémů AI, které jsou schopny plnit širokou škálu úkolů, jako je vytváření textu a rozpoznávání obrazu, a to v různých aplikacích.

Modely GPAI, které nepředstavují systémové riziko, podléhají omezeným požadavkům, jako jsou povinnosti týkající se transparentnosti, zatímco modely, které systémové riziko představují, musí splňovat přísnější pravidla.

Struktura správy

Aby bylo zajištěno řádné prosazování těchto pravidel, zřizuje se aktem o umělé inteligenci několik správních orgánů:

• úřad pro umělou inteligenci v rámci Evropské komise, který bude prosazovat společná pravidla v celé EU,
• vědecká komise nezávislých odborníků na podporu činností v oblasti prosazování práva,
• rada pro AI se zástupci členských států s cílem poskytovat Komisi a členským státům poradenství a pomáhat jim v jednotném a účinném uplatňování aktu o umělé inteligenci,
• poradní fórum pro zúčastněné strany za účelem poskytování technických odborných znalostí radě pro AI a Komisi.

Sankce

Daný právní předpis stanoví pokuty za porušení pravidel.

Tyto peněžní sankce jsou založeny na procentním podílu celkového obratu společnosti z předchozího roku nebo jde o stanovenou částku, podle toho, co je vyšší. Malým a středním podnikům a startupům se ukládají přiměřené pokuty.

Podpora inovací

Cílem aktu o umělé inteligenci není pouze posílit účinné prosazování stávajících právních předpisů v oblasti základních práv a bezpečnosti. Záměrem je rovněž podporovat investice a inovace v oblasti AI v celé EU a usnadnit rozvoj jednotného trhu pro aplikace AI.

Pravidla proto obsahují další ustanovení na podporu inovací v oblasti AI v EU. Tento přístup jde ruku v ruce s dalšími iniciativami, včetně koordinovaného plánu EU v oblasti umělé inteligence, jehož cílem je urychlit investice do AI v Evropě.

Činnost Rady v oblasti umělé inteligence

Evropská rada v říjnu 2020 projednala otázku digitalizace.

V souvislosti s AI vyzvali vedoucí představitelé EU Komisi, aby:

• navrhla způsoby navýšení evropských i vnitrostátních, veřejných i soukromých investic do výzkumu, inovací a zavádění umělé inteligence,
• zajistila lepší koordinaci a zvýšení množství sítí a synergií mezi evropskými výzkumnými středisky na základě excelence,
• vypracovala jasnou a objektivní definici vysoce rizikových systémů umělé inteligence.

V dubnu 2021 Komise zveřejnila návrh nařízení, jehož cílem je harmonizovat pravidla pro umělou inteligenci (akt o umělé inteligenci), a koordinovaný plán, který zahrnuje soubor společných opatření pro Komisi a členské státy. Cílem tohoto souboru pravidel je zvýšit důvěru v umělou inteligenci a podpořit rozvoj a aktualizaci technologií AI.

Rada navrhovaný akt projednala v říjnu 2021. Zdůraznila na jedné straně značné společenské a hospodářské přínosy, které může AI v široké škále odvětví přinést, a na straně druhé potřebu chránit soukromí a zajistit bezpečnost a ochranu.

Rada přijala postoj k novým pravidlům týkajícím se AI dne 6. prosince 2022. Rada usiluje o bezpečnou, zákonnou a důvěryhodnou umělou inteligenci, která respektuje základní práva.

• Akt o umělé inteligenci: Rada vyzvala k podpoře bezpečné umělé inteligence, která respektuje základní práva (tisková zpráva, 6. prosince 2022)

Dne 9. prosince 2023 dosáhli vyjednavači Rady a Evropského parlamentu po třídenním „maratonu“ rozhovorů předběžné dohody ohledně aktu o umělé inteligenci.

Tento akt Rada formálně přijala dne 21. května 2024 a dne 1. srpna 2024 vstoupil v platnost.

• Akt o umělé inteligenci (AI): Rada s konečnou platností schválila celosvětově první pravidla pro umělou inteligenci (tisková zpráva, 21. května 2024)
• Akt o umělé inteligenci: Rada a Parlament dosáhly dohody ohledně prvních pravidel pro umělou inteligenci ve světě (tisková zpráva, 9. prosince 2023)

Dne 29. června 2026 Rada s konečnou platností schválila nové nařízení, které zefektivňuje a zjednodušuje pravidla týkající se umělé inteligence (AI). Nový právní předpis je součástí legislativního balíčku „Omnibus VII“ v rámci programu EU pro zjednodušení. Klíčové ustanovení nového právního předpisu zakazuje praktiky umělé inteligence, které zahrnují vytváření sexuálního a intimního obsahu bez udělení souhlasu nebo materiálu zobrazujícího pohlavní zneužívání dětí.

• Umělá inteligence: Rada s konečnou platností schválila zjednodušení a zefektivnění pravidel (tisková zpráva, 29. června 2026)

Další informace:

• Časová osa – mezinárodní summity věnované umělé inteligenci
• Evropský přístup k umělé inteligenci (Evropská komise)