"Aby łatwiej było ci korzystać z portalu, używamy plików cookie. Niezbędne pliki cookie pozwalają na obsługę podstawowych funkcji portalu. Opcjonalne pliki cookie pomagają nam opracowywać anonimowe, zagregowane raporty statystyczne, abyśmy mogli lepiej odpowiadać na twoje potrzeby.
Sztuczna inteligencja: Rada porozumiała się z Parlamentem w sprawie pierwszych w świecie przepisów
2 lutego 2024 r. do komunikatu dodano ostateczny tekst kompromisowy.
Po trzydniowym maratonie rozmów negocjatorzy reprezentujący prezydencję Rady i Parlament Europejski wypracowali wstępne porozumienie w sprawie projektu zharmonizowanych przepisów o sztucznej inteligencji (tzw. akt o sztucznej inteligencji). Dzięki proponowanemu rozporządzeniu systemy sztucznej inteligencji wprowadzane na europejski rynek i używane w UE mają być bezpieczne oraz zgodne z prawami podstawowymi i wartościami UE. Rozporządzenie ma też sprzyjać inwestycjom i innowacjom w dziedzinie sztucznej inteligencji w Europie.
To historyczne osiągnięcie i olbrzymi krok w przyszłość! Dzisiejsze porozumienie jest skuteczną odpowiedzią na jedno z globalnych wyzwań w szybko zmieniającym się otoczeniu technologicznym w dziedzinie kluczowej dla przyszłości naszych społeczeństw i gospodarek. Udało nam się zadbać o niełatwą równowagę: pobudzanie innowacji i upowszechnianie sztucznej inteligencji w Europie, a zarazem pełne respektowanie podstawowych praw naszych obywateli.
Carme Artigas, hiszpańska sekretarz stanu ds. cyfryzacji i sztucznej inteligencji
Akt o sztucznej inteligencji to sztandarowa inicjatywa ustawodawcza, która może sprzyjać rozwijaniu i upowszechnianiu bezpiecznej i wiarygodnej sztucznej inteligencji na jednolitym rynku UE zarówno przez podmioty prywatne, jak i publiczne. Główne założenie polega na tym, aby uregulować sztuczną inteligencję zależnie od szkód społecznych, jakie mogłaby ona przynieść. Podejście opiera się na ryzyku: im wyższe ryzyko, tym surowsze przepisy. Ponieważ jest to pierwszy w świecie projekt ustawodawczy tego rodzaju, może on stać się globalnym wzorem regulowania sztucznej inteligencji dla innych jurysdykcji – tak jak było to w przypadku RODO – i w ten sposób promować w świecie europejskie podejście do regulowania działalności firm technologicznych.
Główne elementy wstępnego porozumienia
W porównaniu z pierwotnym projektem Komisji najważniejsze nowe elementy wstępnego porozumienia to:
przepisy o mających duży wpływ modelach sztucznej inteligencji ogólnego przeznaczenia, które w przyszłości mogą powodować ryzyko systemowe, oraz o systemach sztucznej inteligencji wysokiego ryzyka
zmieniony system zarządzania przewidujący pewne uprawnienia wykonawcze na szczeblu UE
rozszerzenie listy zakazów, ale z możliwością wykorzystania zdalnej identyfikacji biometrycznej przez organy ścigania w przestrzeniach publicznych, z zabezpieczeniami
lepsza ochrona praw dzięki spoczywającemu na operatorach systemów wysokiego ryzyka obowiązkowi przeprowadzania przed wprowadzeniem ich do użytku oceny wpływu na prawa podstawowe.
Konkretnie zaś wstępne porozumienie obejmuje następujące aspekty:
Definicje i zakres
Aby definicja systemu sztucznej inteligencji zawierała kryteria, które jasno odróżnią ją od prostszych systemów oprogramowania, porozumienie kompromisowe wiąże definicję z podejściem proponowanym przez OECD.
Wstępne porozumienie precyzuje także, że rozporządzenie nie dotyczy dziedzin niewchodzących w zakres prawa UE i w żadnym razie nie powinno wpływać na kompetencje państw członkowskich w zakresie bezpieczeństwa narodowego ani na kompetencje żadnego podmiotu wykonującego zadania w tym obszarze. Akt o sztucznej inteligencji nie będzie miał zastosowania do systemów używanych wyłącznie do celów wojskowych czy obronnych. Porozumienie przewiduje też, że rozporządzenie nie będzie dotyczyć systemów sztucznej inteligencji wykorzystywanych wyłącznie do celów badawczo-innowacyjnych ani osób stosujących sztuczną inteligencję z powodów pozazawodowych.
Klasyfikacja systemów sztucznej inteligencji jako systemów wysokiego ryzyka oraz praktyki zakazane
Porozumienie kompromisowe przewiduje horyzontalne poziomy ochrony, w tym klasyfikowanie niektórych systemów sztucznej inteligencji jako systemów wysokiego ryzyka. W ten sposób nie będą uwzględniane te systemy, które raczej nie spowodują poważnych naruszeń praw podstawowych ani innych istotnych zagrożeń. Systemy powodujące jedynie ograniczone ryzyko podlegałyby bardzo lekkim obowiązkom przejrzystościowym, np. trzeba by poinformować, że treści zostały wygenerowane przez sztuczną inteligencję, tak by użytkownicy mogli świadomie zdecydować o ich dalszym wykorzystaniu.
Dostęp do rynku UE miałyby liczne systemy wysokiego ryzyka, ale podlegałyby one konkretnym wymogom i obowiązkom. Wymogi te zostały doprecyzowane i zmodyfikowane przez współprawodawców tak, aby były bardziej wykonalne technicznie i mniej uciążliwe dla zainteresowanych stron. Dotyczy to na przykład jakości danych lub dokumentacji technicznej, którą powinny sporządzać MŚP, aby wykazać, że ich systemy wysokiego ryzyka są zgodne z wymogami.
Ponieważ systemy sztucznej inteligencji są opracowywane i dystrybuowane za pomocą złożonych łańcuchów wartości, porozumienie kompromisowe przewiduje zmiany doprecyzowujące podział obowiązków i role poszczególnych uczestników, w tym dostawców i użytkowników systemów. Dookreśla również związek między obowiązkami wynikającymi z aktu o sztucznej inteligencji a obowiązkami istniejącymi już na mocy innych przepisów, takich jak stosowne unijne prawo o ochronie danych czy przepisy sektorowe.
W przypadku niektórych zastosowań sztucznej inteligencji ryzyko jest nie do przyjęcia, dlatego systemy te będą w UE zakazane. Wstępne porozumienie zakazuje na przykład kognitywnej manipulacji zachowaniem, niecelowanego pozyskiwania obrazów twarzy z internetu czy kamer przemysłowych, rozpoznawania emocji w miejscu pracy i placówkach edukacyjnych, punktowania zachowań społecznych, kategoryzacji biometrycznej pozwalającej wywnioskowywać dane wrażliwe, takie jak orientacja seksualna czy przekonania religijne, oraz niektórych przypadków prognozowania kryminologicznego wobec konkretnych osób.
Wyjątki dla organów ścigania
Z uwagi na specyfikę organów ścigania i na to, że powinny one zachować możliwość posługiwania się sztuczną inteligencją w swojej ważnej pracy, uzgodnionych zostało kilka zmian do projektu Komisji w tej dziedzinie. Zmiany te mają odzwierciedlać – z zastrzeżeniem odpowiednich zabezpieczeń – potrzebę poszanowania poufności wrażliwych danych operacyjnych w związku z działalnością tych organów. Wprowadzona została na przykład procedura nadzwyczajna, która pozwoli organom ścigania stosować w pilnych sprawach narzędzie sztucznej inteligencji wysokiego ryzyka, które nie przeszło oceny zgodności. Ale wprowadzony został także specjalny mechanizm, który ma odpowiednio chronić prawa podstawowe przed potencjalnymi nadużyciami.
Jeśli chodzi o stosowanie systemów zdalnej identyfikacji biometrycznej w czasie rzeczywistym w przestrzeni publicznej, wstępne porozumienie doprecyzowuje cele, w przypadku których identyfikacja taka jest absolutnie niezbędna dla egzekwowania prawa, i w drodze wyjątku zezwala na nią organom ścigania. Porozumienie kompromisowe przewiduje dodatkowe zabezpieczenia i ogranicza te wyjątki do przypadków ofiar niektórych przestępstw, zapobiegania realnym, bieżącym lub przewidywalnym zagrożeniom (takim jak ataki terrorystyczne) oraz do poszukiwań osób podejrzanych o najpoważniejsze przestępstwa.
Systemy ogólnego przeznaczenia i modele generatywne
Dodane zostały nowe przepisy, aby uwzględnić sytuacje, w których systemy sztucznej inteligencji mogą być wykorzystywane do wielu różnych celów (sztuczna inteligencja ogólnego przeznaczenia) i w których technologia sztucznej inteligencji ogólnego przeznaczenia jest następnie włączana do innego systemu wysokiego ryzyka. Wstępne porozumienie odnosi się także do konkretnych przypadków systemów ogólnego przeznaczenia.
Uzgodnione zostały też szczegółowe przepisy dla modeli generatywnych, dużych systemów zdolnych kompetentnie wykonywać szereg różnorodnych zadań, takich jak generowanie filmów wideo, tekstu, obrazu, prowadzenie rozmów w języku lateralnym, dokonywanie obliczeń czy generowanie kodu komputerowego. Wstępne porozumienie przewiduje, że modele generatywne, zanim znajdą się na rynku, muszą wywiązać się z konkretnych obowiązków przejrzystościowych. Dla modeli o dużym wpływie wprowadzony został surowszy system. To modele wytrenowane na podstawie dużej ilości danych, o zaawansowanej strukturze, zdolnościach i wydajności dużo powyżej średniej, mogące powodować zagrożenia systemowe w całym łańcuchu wartości.
Nowa struktura zarządzania
W związku z nowymi przepisami o modelach ogólnego przeznaczenia i z oczywistą potrzebą egzekwowania tych przepisów na szczeblu UE w Komisji ustanowione zostaje biuro ds. sztucznej inteligencji, którego zadaniem będzie nadzorowanie najbardziej zaawansowanych modeli, wkład w działania na rzecz standardów i praktyk testowych oraz egzekwowanie wspólnych przepisów we wszystkich państwach członkowskich. Doradzać biuru w sprawie modeli ogólnego przeznaczenia będzie naukowy panel niezależnych ekspertów. Będzie on pomagał w tworzeniu metodologii pozwalających oceniać zdolności modeli, doradzał w sprawie wskazywania i pojawiania się modeli generatywnych o dużym wpływie oraz monitorował ewentualne istotne zagrożenia dla bezpieczeństwa z nimi związane.
Platformą koordynacyjną i organem doradczym Komisji pozostanie rada ds. sztucznej inteligencji, złożona z przedstawicieli państw członkowskich. Zapewni ona państwom członkowskim ważną rolę w wykonywaniu rozporządzenia, w tym w opracowywaniu kodeksów praktyk związanych z modelami generatywnymi. Powstanie także forum doradcze zainteresowanych stron, takich jak przedstawiciele branży, MŚP, start-upy, społeczeństwo obywatelskie i środowisko akademickie. Zaoferuje ono radzie ds. sztucznej inteligencji techniczną wiedzę ekspercką.
Kary
Kary pieniężne za naruszenie aktu o sztucznej inteligencji zostały ustalone jako odsetek rocznego światowego obrotu firmy dokonującej naruszenia z poprzedniego roku obrotowego lub jako konkretna kwota – zależnie od tego, która z wartości jest wyższa. Byłoby to 35 mln EUR lub 7% za naruszenie zakazanych zastosowań sztucznej inteligencji, 15 mln EUR lub 3% za naruszenie obowiązków wynikających z aktu o sztucznej inteligencji oraz 7,5 mln EUR lub 1,5% za dostarczenie błędnych informacji. Wstępne porozumienie przewiduje jednak bardziej proporcjonalne pułapy administracyjnych kar pieniężnych dla MŚP i start-upów w przypadku naruszeń przepisów aktu.
Porozumienie kompromisowe doprecyzowuje również, że osoba fizyczna lub prawna może złożyć skargę do stosownego organu nadzoru rynku w sprawie nieprzestrzegania aktu o sztucznej inteligencji i może oczekiwać, że skarga zostanie rozpatrzona zgodnie ze specjalnymi procedurami tego organu.
Przejrzystość i ochrona praw podstawowych
Wstępne porozumienie przewiduje ocenę wpływu na prawa podstawowe, zanim operatorzy wprowadzą system wysokiego ryzyka na rynek. Zwiększa też przejrzystość wykorzystywania systemów sztucznej inteligencji wysokiego ryzyka. Część przepisów projektu Komisji została zmieniona, aby wskazać, że niektórzy użytkownicy tego rodzaju systemów będący podmiotami publicznymi również będą musieli się rejestrować w unijnej bazie danych dla takich systemów. Ponadto nowo dodane przepisy kładą nacisk na to, że użytkownicy systemów rozpoznawania emocji mają obowiązek informować osoby fizyczne o stosowaniu wobec nich takiego systemu.
Środki wspierające innowacyjność
Aby stworzyć ramy prawne bardziej sprzyjające innowacjom oraz promować oparte na dowodach uczenie się działań regulacyjnych, w porównaniu z projektem Komisji znacznie zmienione zostały przepisy o środkach wspierających innowacyjność.
Przede wszystkim doprecyzowano, że piaskownice regulacyjne w dziedzinie sztucznej inteligencji, które mają być środowiskiem kontrolowanym na potrzeby opracowywania, testowania i walidacji innowacyjnych systemów sztucznej inteligencji, powinny również umożliwiać testowanie innowacyjnych systemów w warunkach rzeczywistych. Dodano też nowe przepisy, które umożliwiają testowanie systemów sztucznej inteligencji w warunkach rzeczywistych, z zastrzeżeniem konkretnych warunków i zabezpieczeń. Aby zmniejszyć obciążenia administracyjne dla mniejszych firm, wstępne porozumienie przewiduje listę działań, które należy podjąć, aby wspierać takich operatorów, oraz pewne ograniczone i jasno sprecyzowane odstępstwa.
Wejście w życie
Wstępne porozumienie przewiduje, że akt o sztucznej inteligencji powinien zacząć obowiązywać dwa lata po wejściu w życie, z wyjątkiem kilku konkretnych przepisów.
Co dalej?
W związku dzisiejszym wstępnym porozumieniem w najbliższych tygodniach toczyć się będą prace na szczeblu technicznym, które pozwolą sfinalizować szczegóły nowego rozporządzenia. Po zakończeniu tych prac prezydencja przedstawi tekst kompromisowy przedstawicielom państw członkowskich (Coreperowi) do zatwierdzenia.
Przed formalnym przyjęciem przepisów przez współprawodawców obie instytucje będą musiały potwierdzić tekst w całości, a przepisy będą musiały przejść weryfikację prawno-językową.
Kontekst
Projekt rozporządzenia przedstawiony przez Komisję w kwietniu 2021 r. jest jednym z kluczowych elementów unijnej polityki rozwijania i upowszechniania na całym jednolitym rynku bezpiecznej i legalnej sztucznej inteligencji, zgodnej z prawami podstawowymi.
W proponowanym akcie przyjęto podejście oparte na analizie ryzyka i ustanowiono jednolite, horyzontalne ramy prawne dotyczące sztucznej inteligencji, które mają zagwarantować pewność prawa. Akt ma wspierać inwestycje i innowacje w dziedzinie sztucznej inteligencji, poprawić zarządzanie i skuteczne egzekwowanie obowiązujących przepisów o prawach podstawowych i bezpieczeństwie oraz ułatwić rozwój jednolitego rynku dla zastosowań sztucznej inteligencji. Idzie w parze z innymi inicjatywami, w tym skoordynowanym planem w sprawie sztucznej inteligencji, który ma przyspieszyć inwestycje w sztuczną inteligencję w Europie. 6 grudnia 2022 r. Rada wypracowała porozumienie w sprawie podejścia ogólnego (mandat negocjacyjny) do tego aktu, a w połowie czerwca 2023 r. rozpoczęła rozmowy z Parlamentem Europejskim.
To historyczne osiągnięcie i olbrzymi krok w przyszłość! Dzisiejsze porozumienie jest skuteczną odpowiedzią na jedno z globalnych wyzwań w szybko zmieniającym się otoczeniu technologicznym w dziedzinie kluczowej dla przyszłości naszych społeczeństw i gospodarek. Udało nam się zadbać o niełatwą równowagę: pobudzanie innowacji i upowszechnianie sztucznej inteligencji w Europie, a zarazem pełne respektowanie podstawowych praw naszych obywateli.