Akt o sztucznej inteligencji

Czym jest akt o sztucznej inteligencji?

Akt o sztucznej inteligencji ma zapewnić, by systemy sztucznej inteligencji były opracowywane i wykorzystywane w odpowiedzialny sposób. Nowe przepisy nakładają obowiązki na dostawców systemów sztucznej inteligencji i podmioty je stosujące oraz regulują udzielanie zezwoleń na stosowanie systemów sztucznej inteligencji na jednolitym rynku UE.

Odnoszą się do zagrożeń związanych ze sztuczną inteligencją, takich jak stronniczość, dyskryminacja i luki w rozliczalności, wspierają innowacje i zachęcają do stosowania sztucznej inteligencji.

Akt o sztucznej inteligencji to pierwsze na świecie przepisy regulujące tę dziedzinę. Może on ustanowić globalny standard uregulowania sztucznej inteligencji – podobnie jak miało to miejsce w przypadku rozporządzenia o ochronie danych (RODO) w odniesieniu do prywatności danych – propagując etyczną, bezpieczną i wiarygodną sztuczną inteligencję na całym świecie.

Wyższe ryzyko, surowsze przepisy

Akt o sztucznej inteligencji odpowiada na zagrożenia związane z jej konkretnymi zastosowaniami. Dzieli ryzyko na cztery poziomy i dostosowuje do nich przepisy.

Na poniższej piramidzie przedstawiono poziomy ryzyka i odpowiadające im konkretne zastosowania sztucznej inteligencji.

Określone w akcie o AI cztery poziomy ryzyka i odnośne przepisy:

Ryzyko minimalne lub brak ryzyka

Większość systemów sztucznej inteligencji nie stwarza ryzyka. Bez ograniczeń można korzystać z gier zasilanych sztuczną inteligencją lub z filtrów antyspamowych. Akt o sztucznej inteligencji ich nie reguluje ani nie ma na nie wpływu.

Ryzyko ograniczone

Systemy sztucznej inteligencji powodujące jedynie ograniczone ryzyko (np. chatboty lub systemy generujące treść) podlegają obowiązkom przejrzystościowym – takim jak obowiązek informowania użytkowników, że treści zostały wygenerowane przez sztuczną inteligencję, tak by mogli oni świadomie decydować o ich dalszym wykorzystaniu.

Ryzyko wysokie

Systemy sztucznej inteligencji obarczone wysokim ryzykiem (np. systemy stosowane w diagnozowaniu chorób, jeździe autonomicznej, zarządzaniu pracownikami i identyfikacji biometrycznej osób zaangażowanych w działalność przestępczą lub objętych dochodzeniami) muszą spełniać rygorystyczne wymogi i obowiązki, aby mogły uzyskać dostęp do rynku UE. Chodzi między innymi o szczegółowe testowanie, przejrzystość i nadzór ze strony człowieka.

Ryzyko nieakceptowalne

Zakazane jest stosowanie w UE systemów sztucznej inteligencji stanowiących zagrożenie dla bezpieczeństwa, praw lub źródeł utrzymania ludzi. Systemy te obejmują kognitywną manipulację zachowaniem, prognozowanie kryminologiczne, rozpoznawanie emocji w pracy i w placówkach edukacyjnych, scoring obywateli oraz tworzenie materiałów przedstawiających niegodziwe traktowanie dzieci w celach seksualnych. Zakazane jest również – z pewnymi ograniczonymi wyjątkami – stosowanie systemów zdalnej identyfikacji biometrycznej w czasie rzeczywistym, takich jak rozpoznawanie twarzy w przestrzeni publicznej przez organy ścigania.

Sztuczna inteligencja ogólnego zastosowania

Modele sztucznej inteligencji ogólnego zastosowania służą zasilaniu systemów sztucznej inteligencji zdolnych do wykonywania szerokiego zakresu zadań, takich jak generowanie tekstu i rozpoznawanie obrazu, w różnych zastosowaniach.

Modele, które nie stwarzają ryzyka systemowego, podlegają ograniczonym wymogom, jak na przykład obowiązki w zakresie przejrzystości, natomiast modele stwarzające takie ryzyko muszą być zgodne z bardziej rygorystycznymi przepisami.

Struktura zarządzania

Akt o sztucznej inteligencji ustanawia szereg organów zarządzających, które mają zapewnić właściwe egzekwowanie przepisów. Są to:

• Urząd ds. AI (działający w Komisji Europejskiej) – mający egzekwować wspólne przepisy w całej UE
• panel naukowy złożony z niezależnych ekspertów – mający wspierać egzekwowanie przepisów
• Rada ds. Sztucznej Inteligencji, w skład której wchodzą przedstawiciele państw członkowskich – mająca doradzać i pomagać Komisji i państwom członkowskim w spójnym i skutecznym stosowaniu nowych przepisów
• forum doradcze, w skład którego wchodzą zainteresowane strony – mające służyć Radzie ds. Sztucznej Inteligencji i Komisji wiedzą techniczną.

Kary

Akt o sztucznej inteligencji wprowadza kary pieniężne za naruszenie przepisów.

Wysokość tych kar oblicza się na podstawie odsetka całkowitego światowego obrotu przedsiębiorstwa z poprzedniego roku lub stanowi ona określoną kwotę – w zależności od tego, która z tych wartości jest wyższa. MŚP i firmy typu start-up podlegają proporcjonalnym karom pieniężnym.

Wsparcie dla innowacji

Akt o sztucznej inteligencji ma nie tylko usprawnić egzekwowanie obowiązujących przepisów o prawach podstawowych i bezpieczeństwie. Ma również promować w UE inwestycje i innowacje w dziedzinie sztucznej inteligencji oraz ułatwiać rozwój jednolitego rynku dla jej zastosowań.

Akt zawiera więc także przepisy o wspieraniu w UE innowacji w zakresie sztucznej inteligencji. Idzie to w parze z innymi inicjatywami, w tym skoordynowanym planem UE w sprawie sztucznej inteligencji, który ma przyspieszyć inwestycje w sztuczną inteligencję w Europie.

Prace Rady nad sztuczną inteligencją

Na październikowym szczycie w 2020 r. Rada Europejska rozmawiała o transformacji cyfrowej.

Jeśli chodzi o sztuczną inteligencję, przywódcy UE zwrócili się do Komisji, aby:

• zaproponowała, jak zwiększyć europejskie i krajowe inwestycje publiczne i prywatne na rzecz badań i innowacji w dziedzinie sztucznej inteligencji oraz na rzecz jej wykorzystania
• zadbała o lepszą koordynację oraz silniejsze powiązania sieciowe i synergie między europejskimi ośrodkami badawczymi na zasadzie doskonałości
• przedstawiła jasną, obiektywną definicję systemów sztucznej inteligencji obarczonych wysokim ryzykiem.

W kwietniu 2021 r. Komisja zaproponowała rozporządzenie, które ma zharmonizować przepisy o sztucznej inteligencji (akt o sztucznej inteligencji), oraz skoordynowany plan wspólnych działań Komisji i państw członkowskich. Pakiet ten ma zwiększyć wiarygodność sztucznej inteligencji oraz wesprzeć rozwój i unowocześnianie tej technologii.

Rada omówiła proponowany akt w październiku 2021 r. Zwróciła uwagę z jednej strony na znaczne korzyści społeczno-gospodarcze, jakie sztuczna inteligencja może zapewnić wielu sektorom, a z drugiej – na potrzebę ochrony prywatności i bezpieczeństwa.

6 grudnia 2022 r. Rada przyjęła stanowisko wobec nowych przepisów. Rada chce zapewnić bezpieczną, zgodną z prawem i wiarygodną sztuczną inteligencję, respektującą prawa podstawowe.

9 grudnia 2023 r. po trzydniowym maratonie rozmów negocjatorzy Rady i Parlamentu Europejskiego wypracowali wstępne porozumienie w sprawie aktu o sztucznej inteligencji.

Został on formalnie przyjęty przez Radę 21 maja 2024 r. i wszedł w życie 1 sierpnia 2024 r.

• Sztuczna inteligencja: Rada ostatecznie zatwierdza pierwsze w świecie przepisy (komunikat prasowy z 21 maja 2024)
• Akt o sztucznej inteligencji: Rada porozumiała się z Parlamentem w sprawie pierwszych w świecie przepisów (komunikat prasowy z 9 grudnia 2023)

29 czerwca 2026 r. Rada ostatecznie zatwierdziła nowe rozporządzenie, które usprawnia i upraszcza przepisy dotyczące sztucznej inteligencji. Nowe przepisy są elementem siódmego pakietu zbiorczego w ramach unijnego programu upraszczania przepisów. Jeden z kluczowych przepisów nowego aktu przewiduje zakaz wykorzystywania sztucznej inteligencji do tworzenia treści o charakterze seksualnym i intymnym bez zgody osoby zainteresowanej oraz do generowania materiałów przedstawiających wykorzystywanie seksualne dzieci.

Więcej