Verordnung über künstliche Intelligenz
Die KI-Verordnung der EU ist die weltweit erste Vorschrift zur Regulierung von künstlicher Intelligenz. Mit der Verordnung soll sichergestellt werden, dass KI-Systeme sicher, ethisch und vertrauenswürdig sind.
Die KI-Verordnung
Ziel der KI-Verordnung ist es, dafür zu sorgen, dass Systeme der künstlichen Intelligenz (KI) verantwortungsvoll entwickelt und genutzt werden. Mit den Vorschriften werden Anbietern und Betreibern von KI-Technologien Pflichten auferlegt, und es wird die Zulassung von Systemen künstlicher Intelligenz im EU-Binnenmarkt geregelt.
Die Verordnung befasst sich mit Risiken im Zusammenhang mit KI wie Verzerrungen, Diskriminierung und mangelnde Rechenschaftspflicht und soll Innovationen und die Verbreitung von KI fördern.
Als weltweit erste Vorschrift zur Regulierung von KI könnten die EU-Vorschriften – wie schon die Datenschutz-Grundverordnung (DSGVO) beim Datenschutz – zu einem globalen Standard für die KI-Regulierung werden und eine ethische, sichere und vertrauenswürdige künstliche Intelligenz weltweit fördern.
Höheres Risiko, strengere Vorschriften
Die KI-Verordnung befasst sich mit den Risiken im Zusammenhang mit bestimmten Anwendungen der KI, teilt diese in vier Risikostufen ein und legt entsprechend unterschiedliche Vorschriften fest.
Klicken oder tippen Sie auf die Beispiele in dieser Pyramide, um herauszufinden, unter welche Risikostufe sie fallen und welche Vorschriften jeweils gelten.
Interaktives Diagramm in Form einer umgekehrten Pyramide, die aus vier Arten von KI-Systemen, die den unterschiedlichen Risikostufen entsprechen, besteht.
In der KI-Verordnung werden vier Risikostufen mit entsprechenden Vorschriften festgelegt:
Minimales oder kein Risiko
Die meisten KI-Systeme bergen keine Risiken. KI-gestützte Spiele oder Spam-Filter sind ohne Einschränkung nutzbar. Sie werden durch die KI-Verordnung der EU nicht reglementiert oder beeinträchtigt.
Begrenztes Risiko
Für KI-Systeme mit begrenztem Risiko, wie Chatbots oder KI-Systeme, die Inhalte generieren, gelten Transparenzpflichten, z. B. die Pflicht, Nutzerinnen und Nutzer über die KI-generierten Inhalte zu informieren, sodass sie fundierte Entscheidungen über deren Weiterverwendung treffen können.
Hohes Risiko
Hochrisiko-KI-Systeme, z. B. Systeme für Krankheitsdiagnosen, autonomes Fahren oder die biometrische Identifizierung von Personen, die an kriminellen Aktivitäten beteiligt sind oder gegen die Ermittlungen geführt werden, müssen strenge Anforderungen und Verpflichtungen erfüllen, um Zugang zum EU-Markt zu erhalten. Dazu gehören strenge Prüfverfahren, Transparenz und menschliche Überwachung.
Unannehmbares Risiko
Die Verwendung von KI-Systemen, die eine Bedrohung für die Sicherheit, die Rechte oder die Lebensgrundlagen der Menschen darstellen, ist in der EU verboten. Dazu gehören kognitive Verhaltensmanipulation, vorausschauende Polizeiarbeit („Predictive Policing“), Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen und Sozialkreditsysteme. Die Verwendung biometrischer Echtzeit-Fernidentifizierungssysteme wie Gesichtserkennung durch Strafverfolgungsbehörden im öffentlichen Raum ist – mit einigen begrenzten Ausnahmen – ebenfalls verboten.
KI mit allgemeinem Verwendungszweck
KI-Modelle mit allgemeinem Verwendungszweck („general purpose artificial intelligence systems“, GPAI) bilden die Grundlage für KI-Systeme, die in der Lage sind, ein breites Spektrum von Aufgaben wie Texterstellung und Bilderkennung über verschiedene Anwendungen hinweg auszuführen.
GPAI-Modelle, die keine systemischen Risiken bergen, unterliegen einigen begrenzten Anforderungen, z. B. in Bezug auf die Transparenzpflichten, während diejenigen mit systemischen Risiken strengeren Vorschriften genügen müssen.
Governance-Architektur
Um eine ordnungsgemäße Durchsetzung zu gewährleisten, werden mit der KI-Verordnung mehrere Gremien eingerichtet:
- ein Amt für Künstliche Intelligenz („KI-Amt“) innerhalb der Europäischen Kommission zur Durchsetzung der gemeinsamen Vorschriften in der gesamten EU
- ein wissenschaftliches Gremium unabhängiger Sachverständiger zur Unterstützung der Durchsetzungsmaßnahmen
- ein Ausschuss für künstliche Intelligenz („KI-Ausschuss“) aus Vertretern der Mitgliedstaaten, der die Kommission und die Mitgliedstaaten bei der kohärenten und wirksamen Anwendung der KI-Verordnung berät und unterstützt
- ein Beratungsforum für Interessenträger, das dem KI-Ausschuss und der Kommission technisches Fachwissen zur Verfügung stellt
Sanktionen
In der KI-Verordnung sind Geldbußen für Verstöße gegen die Vorschriften vorgesehen.
Sie werden als Prozentsatz des weltweiten Jahresumsatzes des Unternehmens im Vorjahr bzw. als Pauschalbetrag festgelegt, je nachdem, welcher Betrag höher ist. KMU und Start-up-Unternehmen werden mit verhältnismäßigen Geldbußen belegt.
Innovationsförderung
Die Ziele der KI-Verordnung bestehen nicht nur darin, die wirksame Durchsetzung bestehender Rechtsvorschriften zu Grundrechten und Sicherheit zu verbessern. Mit ihr sollen auch Investitionen und Innovationen im Bereich der KI in der EU gefördert und die Entwicklung eines Binnenmarkts für KI-Anwendungen erleichtert werden.
Dementsprechend enthalten die Vorschriften weitere Bestimmungen zur Unterstützung von KI-Innovationen in der EU. Dieser Vorschlag wird von anderen Initiativen flankiert, darunter der Koordinierte Plan für künstliche Intelligenz der EU, mit dem die Investitionen in KI in Europa beschleunigt werden sollen.
Die Arbeit des Rates zur KI
Im Oktober 2020 hat sich der Europäische Rat mit dem digitalen Wandel befasst.
In Bezug auf KI forderten die EU-Führungsspitzen die Kommission auf,
- Möglichkeiten aufzuzeigen, wie die öffentlichen und privaten Investitionen auf europäischer und nationaler Ebene in Forschung, Innovation und Einführung im Bereich künstliche Intelligenz erhöht werden können;
- für eine bessere Koordinierung und mehr Netzwerke und Synergien zwischen europäischen Forschungszentren auf der Grundlage von Exzellenz zu sorgen;
- eine klare und objektive Definition von hochriskanten Systemen künstlicher Intelligenz vorzulegen.
Im April 2021 hat die Kommission einen Vorschlag für eine Verordnung zur Harmonisierung der Vorschriften über künstliche Intelligenz (KI-Verordnung) und einen koordinierten Plan vorgelegt, der eine Reihe gemeinsamer Maßnahmen für die Kommission und die Mitgliedstaaten umfasst. Dieses Paket von Vorschriften zielt darauf ab, das Vertrauen in künstliche Intelligenz zu stärken und die Entwicklung und Aktualisierung von KI-Technologien zu fördern.
Der Rat hat den vorgeschlagenen Rechtsakt im Oktober 2021 erörtert und deutlich gemacht, dass künstliche Intelligenz in zahlreichen Sektoren einen beträchtlichen gesellschaftlichen und wirtschaftlichen Nutzen bieten kann, dass aber auch der Schutz der Privatsphäre sowie Sicherheit und Gefahrenabwehr gewährleistet werden müssen.
Der Rat hat seinen Standpunkt zu neuen Vorschriften für künstliche Intelligenz am 6. Dezember 2022 festgelegt. Der Rat will eine sichere, rechtskonforme, vertrauenswürdige und die Grundrechte wahrende KI.
Am 9. Dezember 2023 haben die Verhandlungsführer des Rates und des Europäischen Parlaments nach dreitätigen Marathonverhandlungen eine vorläufige Einigung über die KI-Verordnung erzielt.
Die Verordnung wurde vom Rat am 21. Mai 2024 förmlich angenommen und ist am 1. August 2024 in Kraft getreten.
- Verordnung über künstliche Intelligenz (KI): Rat gibt grünes Licht für weltweit erste KI-Vorschriften (Pressemitteilung, 21. Mai 2024)
- Verordnung über künstliche Intelligenz: Rat und Parlament einigen sich über weltweit erste Regelung von KI (Pressemitteilung, 9. Dezember 2023)
Der Rat hat am 29. Juni 2026 endgültig grünes Licht für eine neue Verordnung gegeben, mit der die Vorschriften über künstliche Intelligenz gestrafft und vereinfacht werden. Die neue Verordnung ist Teil des „Omnibus VII“-Gesetzgebungspakets im Rahmen der Vereinfachungsagenda der EU. Mit einer wichtigen Bestimmung der neuen Rechtsvorschrift werden KI-Praktiken verboten, die nicht einvernehmliche sexuelle und intime Inhalte oder Darstellungen von sexuellem Missbrauch von Kindern erzeugen.
Wie die EU den Online-Alltag leichter und sicherer macht
Die Europäische Union arbeitet aktiv daran, das digitale Umfeld im Interesse aller Menschen in Europa zu verbessern. Unser digitaler Alltag muss sicher und einfach sein, wobei die Grundfreiheiten zu achten sind.
Lesen Sie unseren ausführlichen Beitrag und erfahren Sie, wie die EU eine gemeinsame elektronische Identifizierung (eID) schafft, Vorschriften zur Gewährleistung einer sicheren und vertrauenswürdigen KI anstrebt und den Austausch von Gesundheitsdaten im Europäischen Raum für Gesundheitsdaten erleichtert.
Siehe auch
Verwendung und Auswirkungen von KI
Nutzen und Risiken von KI
Digitaler Wandel: Wie die digitale Zukunft der EU gestaltet wird
Letzte Überprüfung: 29. April 2025