Verordening artificiële intelligentie

Wat is de AI-verordening?

De AI-wet moet ervoor zorgen dat artificiële-intelligentie­systemen verantwoord worden ontwikkeld en gebruikt. De regels omvatten verplichtingen voor aanbieders en exploitanten van AI-technologieën en reguleren de toelating van artificiële-intelligentie­systemen op de interne EU-markt.

De wet is gericht op de aan AI verbonden risico's, zoals vooroordelen, discriminatie en leemten in de verantwoordingsplicht. De wet bevordert ook innovatie en moedigt het inzetten van AI aan.

Als 's werelds eerste wetgeving over AI kunnen de EU-regels een mondiale norm vormen voor AI-regelgeving, net zoals de algemene verordening gegevens­bescherming (AVG) dat deed voor gegevens­bescherming. Ethische, veilige en betrouwbare artificiële intelligentie kan zo wereldwijd worden bevorderd.

Hoger risico betekent strengere regels

De AI-wet behandelt de risico's die gepaard gaan met de manieren waarop AI wordt gebruikt, door deze in 4 risiconiveaus met verschillende regels in te delen.

De onderstaande piramide toont de risiconiveaus en voorbeelden van bijbehorende specifieke toepassingen van AI.

Dit zijn de 4 risiconiveaus en de daarvoor geldende regels in de AI-wet:

Minimale of geen risico's

De meeste AI-systemen brengen geen risico's met zich mee. Zo kunnen op AI gebaseerde games of spamfilters vrij worden gebruikt. Die worden niet gereguleerd en de AI-wet heeft geen gevolgen voor deze systemen.

Beperkte risico's

Voor AI-systemen met slechts beperkte risico's, zoals chatbots of AI-systemen die inhoud genereren, gelden transparantie­verplichtingen. Zo moeten gebruikers ervan op de hoogte worden gesteld dat de inhoud door AI is gemaakt, zodat zij weloverwogen beslissingen kunnen nemen over het verdere gebruik ervan.

Hoge risico's

AI-systemen met een hoog risico, zoals systemen die worden gebruikt voor ziektediagnoses, autonoom rijden, beheer van werknemers en biometrische identificatie van personen die betrokken zijn bij criminele activiteiten of onderzoeken, moeten voldoen aan strenge eisen en verplichtingen om op de EU-markt te mogen worden aangeboden. Het gaat onder meer om uitvoerige tests, transparantie en menselijk toezicht.

Onacceptabele risico's

AI-systemen die een bedreiging vormen voor de veiligheid, rechten of bestaansmiddelen van mensen zijn in de EU verboden. Het gaat hierbij om cognitieve gedrags­manipulatie, voorspellend politiewerk, emotie­herkenning op de werkplek en in onderwijs­instellingen, social scoring en het genereren van materiaal van seksueel misbruik van kinderen. Ook is het gebruik verboden van biometrische systemen voor identificatie op afstand in real time, zoals gezichtsherkenning in openbare ruimten door rechtshandhavings­instanties, al gelden er wel een paar uitzonderingen.

AI voor algemeen gebruik

AI-modellen voor algemene doeleinden maken gebruik van AI-systemen die voor verschillende toepassingen tal van taken kunnen uitvoeren, zoals het genereren van tekst en beeldherkenning.

Voor dergelijke modellen die geen systeemrisico's inhouden, gelden beperkte eisen, zoals transparantie­verplichtingen, maar modellen mét systeemrisico's moeten wel aan strengere regels voldoen.

Beheersstructuur

Voor een goede handhaving zijn bij de AI-wet een aantal beheersorganen opgericht:

• een AI-bureau binnen de Europese Commissie om de gemeenschappelijke regels in de EU te handhaven
• een wetenschappelijk panel van onafhankelijke deskundigen ter ondersteuning van handhavings­activiteiten
• een AI-comité met vertegenwoordigers van de lidstaten om de Commissie en de lidstaten te adviseren en bij te staan bij een consistente en doeltreffende toepassing van de AI-verordening
• een adviesforum voor belanghebbenden om het AI-comité en de Commissie technische expertise te bieden

Sancties

De wet bepaalt boetes voor inbreuken op de regels.

De boete is een percentage van de totale bedrijfsomzet in het voorgaande jaar of een vast bedrag, indien dat hoger is. Voor kleine en middelgrote ondernemingen en start-ups gelden evenredige boetes.

Steun voor innovatie

Het doel van de AI-wet is niet alleen een betere effectieve handhaving van de bestaande wetgeving op het gebied van grondrechten en veiligheid. De wet moet ook investeringen in en innovatie van AI in de EU bevorderen en de ontwikkeling van een eengemaakte markt voor AI-toepassingen vergemakkelijken.

De AI-wet bevat daarom verdere bepalingen ter ondersteuning van AI-innovatie in de EU. Dit gaat samen met andere initiatieven, zoals het gecoördineerde plan van de EU inzake artificiële intelligentie, dat de investeringen in AI in Europa moet versnellen.

Activiteiten van de Raad op het gebied van AI

In oktober 2020 besprak de Europese Raad de digitale transitie.

Met betrekking tot AI verzochten de EU-leiders de Commissie om:

• manieren voor te stellen om tot meer Europese en nationale publieke en particuliere investeringen in AI te komen, zowel wat onderzoek en innovatie als wat uitrol betreft
• te zorgen voor een betere coördinatie en voor meer op excellentie gebaseerde netwerken en synergieën tussen Europese onderzoeks­centra
• een duidelijke, objectieve definitie te geven van "AI-systemen met een hoog risico"

In april 2021 publiceerde de Commissie een voorstel voor geharmoniseerde regels betreffende artificiële intelligentie (AI-verordening of AI-wet) en een gecoördineerd plan met een reeks gezamenlijke acties voor de Commissie en de lidstaten. Deze regels moeten het vertrouwen in AI vergroten en de ontwikkeling en actualisering van AI-technologie bevorderen.

De Raad besprak het voorstel in oktober 2021 en wees daarbij enerzijds op de aanzienlijke maatschappelijke en economische voordelen van AI, en anderzijds op de noodzaak de privacy en veiligheid te waarborgen.

De Raad bepaalde zijn standpunt over de nieuwe AI-regels op 6 december 2022. De Raad wil een veilige, legale en betrouwbare AI die de grondrechten eerbiedigt.

Op 9 december 2023 bereikten de Raad en het Europees Parlement na een 3 dagen durende "gespreksmarathon" een voorlopig akkoord over de AI-wet.

De wet is op 21 mei 2024 door de Raad aangenomen en op 1 augustus 2024 in werking getreden.

• Verordening artificiële intelligentie: Raad geeft definitief groen licht (pers­mededeling, 21 mei 2024)
• Verordening artificiële intelligentie: Raad en Parlement bereiken akkoord over allereerste regels voor AI ter wereld (pers­mededeling, 9 december 2023)

Op 29 juni 2026 gaf de Raad definitief groen licht voor een nieuwe verordening die bepaalde regels voor AI stroomlijnt en vereenvoudigt. De nieuwe wetgeving behoort tot het Omnibus VII-wetgevingspakket, dat deel uitmaakt van de vereenvoudiging­s­agenda van de EU. Een belangrijke bepaling van de nieuwe verordening is het verbod op AI-praktijken waarbij niet-consensuele seksuele en intieme inhoud of materiaal van seksueel misbruik van kinderen wordt gegenereerd.

Zie ook