"Vi anvender cookies for at sikre, at du får en bedre browseroplevelse. Nødvendige cookies er nødvendige, fordi de understøtter væsentlige funktioner på Rådets websted. Valgfrie cookies hjælper os med at udarbejde anonyme og aggregerede statistiske rapporter, så vi bedre kan imødekomme dine behov.
Forordning om kunstig intelligens: Rådet og Parlamentet indgår en aftale om verdens første regler for AI
Denne pressemeddelelse blev opdateret 2. februar 2024 for at tilføje den endelige kompromistekst med henblik på enighed.
Efter tre dages "maraton"-forhandlinger er Rådets formandskab og Europa-Parlamentets forhandlere nået til foreløbig enighed om forslaget om harmoniserede regler for kunstig intelligens (AI), den såkaldte forordning om kunstig intelligens. Formålet med forordningsudkastet er at sørge for, at AI-systemer, der bringes i omsætning på det europæiske marked og anvendes i Unionen, er sikre og overholder de grundlæggende rettigheder og EU's værdier. Det skelsættende forslag skal også stimulere investeringer og innovation inden for AI i Europa.
Det er et historisk resultat og en enorm milepæl på vej til fremtiden! Dagens aftale tager effektivt fat på en global udfordring i et teknologisk miljø i hastig udvikling på et område, der har central betydning for vores samfunds og økonomiers fremtid. Og i denne indsats er det lykkedes os at bevare en særdeles svær balance: at fremme af innovation og udbredelse af kunstig intelligens i hele Europa, samtidig med at borgernes grundlæggende rettigheder respekteres fuldt ud.
Carme Artigas, Spaniens statssekretær for digitalisering og kunstig intelligens
AI-forordningen er et lovgivningsmæssigt flagskibsinitiativ med potentiale til at fremme både private og offentlige aktørers udvikling og udbredelse af sikker og pålidelig AI i hele EU's indre marked. Hovedtanken er at regulere AI på grundlag af dets evne til at skade samfundet efter en "risikobaseret" tilgang: jo højere risikoen er, desto striksere er reglerne. Som det første lovgivningsforslag af sin art i verden kan det fastsætte en global standard for regulering af AI i andre jurisdiktioner, ligesom den generelle forordning om databeskyttelse har gjort, og dermed fremme den europæiske tilgang til teknologiregulering på verdensplan.
De vigtigste elementer i den foreløbige aftale
Ved en sammenligning med Kommissionens oprindelige forslag kan de vigtigste nye elementer i den foreløbige aftale sammenfattes som følger:
regler om AI-modeller til generelle formål med stor virkning, som kan forårsage systemiske risici i fremtiden, samt om højrisiko-AI-systemer
et revideret forvaltningssystem med en række håndhævelsesbeføjelser på EU-plan
udvidelse af listen over forbud, men med mulighed for, at de retshåndhævende myndigheder kan anvende biometrisk fjernidentifikation på offentlige steder med forbehold for beskyttelsesforanstaltninger
bedre beskyttelse af rettigheder gennem forpligtelsen for udbredere af højrisiko-AI-systemer til at foretage en konsekvensanalyse vedrørende grundlæggende rettigheder, inden et AI-system tages i brug
Mere konkret dækker den foreløbige aftale følgende aspekter:
Definitioner og anvendelsesområde
For at sikre, at definitionen af et AI-system indeholder tilstrækkeligt klare kriterier for at sondre mellem AI og enklere softwaresystemer, bringer kompromisaftalen definitionen i overensstemmelse med den tilgang, som OECD har foreslået.
Den foreløbige aftale præciserer også, at forordningen ikke finder anvendelse på områder, der falder uden for EU-retten, og at den under ingen omstændigheder bør berøre medlemsstaternes kompetencer inden for national sikkerhed eller enheder, der har fået overdraget opgaver på dette område. Desuden vil AI-forordningen ikke finde anvendelse på systemer, der udelukkende anvendes til militære eller forsvarsmæssige formål. Tilsvarende er det fastsat i aftalen, at forordningen ikke finder anvendelse på AI-systemer, der udelukkende anvendes til forskning og innovation, eller på personer, der anvender AI af ikkeerhvervsmæssige årsager.
Klassificering af AI-systemer som højrisikosystemer og forbudt praksis med hensyn til AI
Kompromisaftalen indfører et horisontalt beskyttelseslag, herunder en højrisikoklassificering, for at sikre, at AI-systemer, som ikke kan forventes at medføre alvorlige overtrædelser af de grundlæggende rettigheder eller andre betydelige risici, ikke optages. AI-systemer, der kun udgør en begrænset risiko, vil være underlagt meget lempelige gennemsigtighedsforpligtelser og vil f.eks. skulle oplyse, at indholdet er genereret af AI, så brugerne kan træffe informerede beslutninger om videre anvendelse.
En bred vifte af højrisiko-AI-systemer vil være tilladt, men underlagt en række krav og forpligtelser for at få adgang til EU-markedet. Disse krav er blevet præciseret og tilpasset af medlovgiverne, så de er mere teknisk gennemførlige og mindre belastende for interessenter at opfylde, f.eks. hvad angår datakvaliteten, eller i forbindelse med den tekniske dokumentation, som SMV'er bør udarbejde for at påvise, at deres højrisiko-AI-systemer opfylder kravene.
Eftersom AI-systemer udvikles og distribueres gennem komplekse værdikæder, indeholder kompromisaftalen ændringer, der præciserer fordelingen af de forskellige aktørers ansvarsområder og roller i disse kæder, navnlig udbydere og brugere af AI-systemer. Den præciserer også forholdet mellem de ansvarsområder, der pålægges ved AI-forordningen og de ansvarsområder, der allerede eksisterer i henhold til anden lovgivning, såsom EU's relevante databeskyttelseslovgivning eller sektorspecifikke lovgivning.
For nogle anvendelser af AI anses risikoen for at være uacceptabel, og disse systemer vil derfor være forbudt i EU. Den foreløbige aftale forbyder f.eks. kognitiv adfærdsmanipulation, ikkemålrettet indsamling af ansigtsbilleder fra internettet eller CCTV-optagelser, følelsesgenkendelse på arbejdspladsen og i uddannelsesinstitutioner, bedømmelse af borgere, biometrisk kategorisering for at udlede følsomme data såsom seksuel orientering eller religiøs overbevisning og visse tilfælde af forudsigende politiarbejde for enkeltpersoner.
Retshåndhævelsesundtagelser
I betragtning af de retshåndhævende myndigheders særlige forhold og behovet for at bevare deres evne til at bruge AI i deres vigtige arbejde blev der opnået enighed om flere ændringer af Kommissionens forslag vedrørende brugen af AI-systemer til retshåndhævelsesformål. Med forbehold af passende beskyttelsesforanstaltninger skal disse ændringer afspejle behovet for at respektere fortroligheden af følsomme operationelle data i forbindelse med deres aktiviteter. Der blev f.eks. indført en hasteprocedure, der gør det muligt for de retshåndhævende myndigheder at anvende et højrisiko-AI-værktøj, der ikke har bestået overensstemmelsesvurderingsproceduren, hvis sagen haster. Der er dog også indført en særlig mekanisme for at sikre, at de grundlæggende rettigheder beskyttes tilstrækkeligt mod enhver potentiel misbrug af AI-systemer.
Hvad angår brugen af systemer til biometrisk fjernidentifikation i realtid på offentlige steder, præciserer den foreløbige aftale desuden de mål, hvor en sådan anvendelse er strengt nødvendig til retshåndhævelsesformål, og med henblik på hvilke de retshåndhævende myndigheder derfor undtagelsesvis bør have tilladelse til at anvende sådanne systemer. Kompromisaftalen indeholder yderligere beskyttelsesforanstaltninger og begrænser disse undtagelser til tilfælde af ofre for visse forbrydelser, forebyggelse af reelle, nuværende eller forudsigelige trusler såsom terrorangreb og eftersøgning efter personer, der mistænkes for de alvorligste forbrydelser.
AI-systemer til generelle formål og grundmodeller
Der er tilføjet nye bestemmelser for at tage hensyn til situationer, hvor AI-systemer kan anvendes til mange forskellige formål (AI til generelle formål), og hvor AI-teknologi til generelle formål efterfølgende integreres i et andet højrisikosystem. Den foreløbige aftale omhandler også de specifikke tilfælde af AI-systemer til generelle formål.
Der er også vedtaget særlige regler for grundmodeller, dvs. store systemer, der er i stand til kompetent at udføre en lang række særlige opgaver såsom video-, tekst- og billedgenerering, konvertering til "sideværts" sprog, databehandling eller generering af computerkoder. Den foreløbige aftale fastsætter, at grundmodeller skal overholde specifikke gennemsigtighedsforpligtelser, før de bringes i omsætning. Der er indført en strengere ordning for grundmodeller med "stor virkning". Det er grundmodeller, der er trænet med store mængder data og med avanceret kompleksitet og kapacitet og resultater, der ligger et godt stykke over gennemsnittet, og som kan sprede systemiske risici i hele værdikæden.
En ny forvaltningsstruktur
Som følge af de nye regler om AI-modeller til generelle formål og det åbenlyse behov for at håndhæve dem på EU-plan oprettes der et AI-kontor under Kommissionen, der har til opgave at føre tilsyn med disse mest avancerede AI-modeller, bidrage til at fremme standarder og testpraksis og håndhæve de fælles regler i alle medlemsstater. Et videnskabeligt panel af uafhængige eksperter vil rådgive AI-kontoret om AI-modeller til generelle formål ved at bidrage til udviklingen af metoder til evaluering af grundmodellers kapacitet, rådgive om udpegelse og fremkomst af grundmodeller med stor virkning og overvåge mulige materielle sikkerhedsrisici i forbindelse med grundmodeller.
Udvalget for Kunstig Intelligens, som skal bestå af repræsentanter for medlemsstaterne, vil fortsat være en koordineringsplatform og et rådgivende organ for Kommissionen og vil give medlemsstaterne en vigtig rolle i forbindelse med gennemførelsen af forordningen, bl.a. ved udformning af adfærdskodekser for grundmodeller. Endelig oprettes der et rådgivende forum for interessenter som repræsentanter for industrien, SMV'er, startupvirksomheder, civilsamfundet og den akademiske verden for at stille teknisk ekspertise til rådighed for Udvalget for Kunstig Intelligens.
Sanktioner
Bøderne for at overtræde AI-forordningen blev fastsat som en procentdel af den overtrædende virksomheds samlede årlige omsætning i det foregående regnskabsår eller et på forhånd fastsat beløb, alt efter hvilket beløb der er størst. Det vil være 35 mio. € eller 7 % for overtrædelse af de forbudte AI-applikationer, 15 mio. € eller 3 % for overtrædelse af forpligtelser i AI-forordningen og 7,5 mio. € eller 1,5 % for afgivelse af ukorrekte oplysninger. Den foreløbige aftale fastsætter dog mere rimelige lofter for administrative bøder for SMV'er og startupvirksomheder i tilfælde af overtrædelse af bestemmelserne i AI-forordningen.
Kompromisaftalen gør det også klart, at en fysisk eller juridisk person kan klage til den relevante markedsovervågningsmyndighed over manglende overholdelse af AI-forordningen og kan forvente, at en sådan klage behandles efter den pågældende myndigheds særlige procedurer.
Gennemsigtighed og beskyttelse af grundlæggende rettigheder
Den foreløbige aftale indeholder bestemmelser om en konsekvensanalyse vedrørende grundlæggende rettigheder, inden udbrederne kan bringe et højrisiko-AI-system i omsætning. Den foreløbige aftale indebærer også øget gennemsigtighed med hensyn til anvendelse af højrisiko-AI-systemer. Navnlig er nogle bestemmelser i Kommissionens forslag ændret for at angive, at visse brugere af et højrisiko-AI-system, som er offentlige enheder, også vil være forpligtet til at registrere sig i EU-databasen for højrisiko-AI-systemer. Desuden lægges der i nyligt tilføjede bestemmelser vægt på, at brugere af et system til følelsesgenkendelse er forpligtet til at underrette fysiske personer, når de udsættes for et sådant system.
Foranstaltninger til støtte for innovation
For at skabe en mere innovationsvenlig retlig ramme og fremme evidensbaseret lovgivningsmæssig læring er bestemmelserne om foranstaltninger til støtte for innovation blevet væsentligt ændret i forhold til Kommissionens forslag.
Navnlig er det blevet præciseret, at de reguleringsmæssige sandkasser for AI, som skal skabe et kontrolleret miljø for udvikling, prøvning og validering af innovative AI-systemer, ligeledes bør give mulighed for prøvning af innovative AI-systemer under faktiske forhold. Desuden er der blevet tilføjet nye bestemmelser, der på særlige betingelser og med forbehold af specifikke sikkerhedsforanstaltninger giver mulighed for prøvning af AI-systemer under faktiske forhold. For at lette den administrative byrde for mindre virksomheder indeholder den foreløbige aftale en liste over foranstaltninger, der skal iværksættes for at støtte sådanne operatører, og en række begrænsede og klart specificerede undtagelser.
Ikrafttræden
Den foreløbige aftale fastsætter, at AI-forordningen finder anvendelse to år efter dens ikrafttræden, bortset fra visse specifikke bestemmelser.
Næste skridt
Efter dagens foreløbige enighed vil arbejdet fortsætte på teknisk plan i de kommende uger for at færdiggøre detaljerne i den nye forordning. Formandskabet vil forelægge kompromisteksten for medlemsstaternes repræsentanter (Coreper) til godkendelse, når dette arbejde er afsluttet.
Hele teksten skal bekræftes af begge institutioner og gennemgås af jurist-lingvisterne inden den formelle vedtagelse af medlovgiverne.
Baggrundsinformation
Kommissionens forslag, der blev fremlagt i april 2021, er et centralt element i EU's politik til fremme af udvikling og udbredelse i hele det indre marked af sikker og lovlig AI, der respekterer de grundlæggende rettigheder.
Forslaget følger en risikobaseret tilgang og fastlægger ensartede, horisontale retlige rammer for AI, som skal sikre retssikkerheden. Forordningsudkastet har til formål at fremme investeringer og innovation inden for AI, forbedre forvaltning og effektiv håndhævelse af den eksisterende lovgivning om grundlæggende rettigheder og sikkerhed og fremme udviklingen af et indre marked for AI-anvendelser. Det ledsages af andre initiativer, bl.a. den koordinerede plan for kunstig intelligens, som skal sætte skub i investeringerne i AI i Europa. 6. december 2022 nåede Rådet til enighed om en generel indstilling (forhandlingsmandat) til denne sag og indledte interinstitutionelle drøftelser med Europa-Parlamentet ("trepartsmøder") medio juni 2023.
Denne ressource er i øjeblikket kun tilgængelig på følgende sprog:
Det er et historisk resultat og en enorm milepæl på vej til fremtiden! Dagens aftale tager effektivt fat på en global udfordring i et teknologisk miljø i hastig udvikling på et område, der har central betydning for vores samfunds og økonomiers fremtid. Og i denne indsats er det lykkedes os at bevare en særdeles svær balance: at fremme af innovation og udbredelse af kunstig intelligens i hele Europa, samtidig med at borgernes grundlæggende rettigheder respekteres fuldt ud.