Legistisch innovativ und technologisch auf neuerem Stand: Das EU-Parlament und die Verhandlungen zum AI Act

1. Einleitung

In Brüssel laufen die Trilog-Verhandlungen um das neue Gesetz über Künstliche Intelligenz auf Hochtouren. Verhandlungsgrundlage sind der Entwurf der Kommission vom April 2021 (nachstehend bezeichnet als "KI-VO_E"),¹ der gemeinsame Standpunkt des Rats der EU vom Dezember 2022 (nachstehend als "KI-VO_R" bezeichnet)² sowie die Abänderungsvorschläge, auf die sich das Parlament im Juni 2023 geeinigt hat (nachstehend als "KI-VO_P" bezeichnet).³ Formal beziehen sich sowohl der Standpunkt des Rats als auch die Abänderungsvorschläge des Parlaments auf den ursprünglichen Kommissionsentwurf. Die zeitliche Abfolge macht jedoch augenscheinlich, dass dem Parlament bei der Annahme seiner Vorschläge auch der Standpunkt des Rats bekannt war und es sich, jedenfalls indirekt, auch darauf beziehen konnte.

Wie schon der Rat fasst auch das Parlament die der KI-VO zugrunde liegende Definition von KI enger, als im ursprünglichen Entwurf der Kommission vorgesehen. Das Parlament orientiert sich dabei weitgehend an der Definition der OECD und bezeichnet ein KI-System in Art 3(1) KI-VO_P als "ein maschinengestütztes System, das so konzipiert ist, dass es mit unterschiedlichem Grad an Autonomie operieren kann und das für explizite oder implizite Ziele Ergebnisse wie Vorhersagen, Empfehlungen oder Entscheidungen hervorbringen kann, die das physische oder virtuelle Umfeld beeinflussen".⁴

2. Rechtlich bindend: Allgemeine Grundsätze für alle KI-Systeme

Bereits mit dem (neuen) ersten Satz in Art 1 KI-VO_P signalisiert das Parlament, welche Prioritäten es in seinen Abänderungsvorschlägen setzt. Ziel der KI-VO_P ist demgemäß die Förderung von "menschenzentrierter und vertrauenswürdiger" künstlicher Intelligenz, "ein hohes Maß an Schutz der Gesundheit, der Sicherheit, der Grundrechte, der Demokratie und der Rechtsstaatlichkeit sowie der Umwelt vor schädlichen Auswirkungen" bei gleichzeitiger Förderung von Innovation.⁵ Ausdrücklich hält das Parlament zudem fest, dass sämtliches Unionsrecht zum Schutz von personenbezogenen Daten und zum Verbraucherschutz wie auch zur Produktsicherheit unberührt bleibt.⁶ Mit Blick auf die vielfältigen Anwendungen von KI in einer digitalen Arbeitswelt sieht die KI-VO_P, anders als die beiden Positionen von Kommission und Rat, nun vor, dass die KI-VO_P die Mitgliedstaaten oder die Union nicht daran hindern soll, Rechtsvorschriften einzuführen, die für Arbeitnehmer zum Schutz ihrer Rechte vorteilhafter sind.⁷

Im neuen Art 4a KI-VO_P lenkt das Parlament die Aufmerksamkeit zurück auf jene ethischen Prinzipien, die zwar die Diskussion um eine europäische KI-VO von Anfang begleitet haben,⁸ sich so verbindlich aber nicht in den beiden anderen Dokumenten wiederfinden. Art 4a(1) KI-VO_P erläutert sechs "Allgemeine, für alle KI-Systeme geltende Grundsätze" (also nicht nur für Hochrisiko-KI-Systeme), die alle Betreiber, die KI-Systeme entwickeln oder nutzen, verwirklichen sollen: menschliches Handeln und menschliche Aufsicht, technische Robustheit und Sicherheit, Privatsphäre und Datenqualitätsmanagement, Transparenz, Vielfalt, Diskriminierungsfreiheit und Fairness und Soziales und ökologisches Wohlergehen.⁹ Die Verankerung im rechtlich bindenden Teil ist ein Versuch, sicherzustellen, dass tragende ethische Prinzipien in der KI-VO nicht bloße Lippenbekenntnisse bleiben, sondern die EU tatsächlich Künstliche Intelligenz fördert, die auf den Menschen ausgerichtet ist, ethisch und vertrauenswürdig ist und die uneingeschränkt mit der Grundrechtecharta und den Werten der Union übereinstimmt.

Das Parlament bringt an dieser Stelle darüber hinaus einen Punkt in den Diskurs, der bisher weder in der KI-VO_E noch in der KI-VO_R zu finden war: KI-Kompetenz ("AI literacy").¹⁰ Die Union und die Mitgliedsländer sollen gem Art 4b KI-VO_P Maßnahmen zur Entwicklung eines ausreichenden Niveaus an KI-Kompetenz fördern, sektorübergreifend durch bspw Aus- und Weiterbildungs-, Qualifizierungs- und Umschulungsprogramme und unter Berücksichtigung der unterschiedlichen Bedürfnisse. Für Anbieter und Betreiber von KI-Systemen sieht die KI-VO_P vor, dass ihr Personal über ein ausreichendes Niveau an KI-Kompetenz verfügen soll.

3. Ausweitung der Liste der verbotenen KI-Systeme

Art 5 KI-VO_E mit seiner Liste der verbotenen KI-Systeme war seit Vorlage des Entwurfs immer wieder Ziel von Kritik¹¹ und bleibt weiterhin heiß diskutiert. Art 5(1)(a) KI-VO_E sieht ein Verbot von KI-Systemen vor, die "Techniken der unterschwelligen Beeinflussung außerhalb des Bewusstseins" einsetzen. Die Formulierung "unterschwellig" ("subliminal"), insb auch deren mangelnde Definition und Abgrenzung, wurde wiederholt beanstandet.¹² Das Parlament ergänzt nun die unterschwellige Beeinflussung in Art 5(1)(a) KI-VO_P um "absichtlich manipulative oder täuschende Techniken".¹³ Darüber hinaus erweitert das Parlament die Liste substanziell um:

-	KI-Systeme zur biometrischen Kategorisierung, die auf "sensitiven oder geschützten Attributen oder Merkmalen oder auf der Grundlage von Rückschlüssen auf diese Attribute oder Merkmale" beruhen (lit ba);
-	biometrische Echtzeit-Fernidentifizierungssysteme in öffentlich zugänglichen Räumen unter Streichung der Ausnahmen für Strafverfolgung (lit d);
-	KI-Systeme zur Risikobeurteilung und zur Einschätzung, ob Personen (pro futuro) straffällig oder erneut straffällig werden, also KI-Systeme für vorhersagende Polizeiarbeit, basierend auf profiling unter Einbeziehung ihrer Persönlichkeitsmerkmale, Standorte und vergangenem kriminellen Verhalten (lit da);
-	KI-Systeme, die Datenbanken zur Gesichtserkennung durch ungezieltes Auslesen von Gesichtsbildern aus dem Internet oder von Überwachungsaufnahmen erstellen oder erweitern (lit db);
-	KI-Systeme zur Emotionserkennung in den Bereichen Strafverfolgung, Grenzmanagement, am Arbeitsplatz und in Bildungseinrichtungen (lit dc) sowie
-	nachträgliche biometrische Fernidentifizierung, es sei denn, es gibt dafür eine vorgerichtliche Genehmigung und sie stehen im Zusammenhang mit einer bestimmten schweren Straftat (lit dd).

4. Grundrechte-Folgenabschätzung für Hochrisiko-KI-Systeme, Konkretisierungen für Niedrigrisiko-KI-Systeme

Hochrisiko-KI-Systeme umfassen weiterhin KI-Systeme, die den Harmonisierungsrechtsvorschriften in Annex II unterliegen, sowie jene, die in Annex III aufgelistet sind. Annex III wird vom Parlament präzisiert und teilweise ausgeweitet, insb in den Bereichen Strafverfolgung und Migration. Beachtenswert ist vor allem die Erweiterung von Annex III um KI-Systeme, die bestimmungsgemäß genutzt werden sollen, um "das Ergebnis einer Wahl oder eines Referendums oder das Wahlverhalten natürlicher Personen bei der Ausübung ihres Wahlrechts bei einer Wahl oder einem Referendum zu beeinflussen"¹⁴, sowie um KI-Systeme, die bestimmungsgemäß von sehr großen Social-Media-Plattformen iSv Art 33 Gesetz über Digitale Dienste (VO [EU] 2022/2065) verwendet werden sollen, also eine durchschnittliche monatliche Zahl von mindestens 45 Mio aktiven Nutzern in der Union haben‚ "um dem Empfänger der Dienstleistung auf der Plattform verfügbare nutzergenerierte Inhalte zu empfehlen" ¹⁵ (sogenannte "recommender systems").

Die Verpflichtungen für Betreiber von Hochrisiko-KI-Systemen sind in Bezug auf Risikomanagement, Daten-Governance und technische Dokumentation bestimmter ausformuliert. Neu kommen im Parlamentsvorschlag Protokollierungsfunktionen hinzu, die während aller Phasen des Lebenszyklus den Energieverbrauch aufzeichnen und den Ressourcenverbrauch sowie die Umweltauswirkungen des Hochrisiko-KI-Systems messen oder berechnen.¹⁶

Ähnlich der Ratsposition zieht auch das Parlament ein zusätzliches regulatorisches Auffangnetz für die Klassifizierung als Hochrisiko-KI-System ein. So sieht Art 6 KI-VO_P vor, dass KI-Systeme nur dann unter die Bestimmungen für Hochrisiko-Systeme fallen, wenn sie gemäß Selbsteinschätzung der Anbieter auch tatsächlich ein Risiko für Gesundheit und Sicherheit bzw im Falle von Annex III-KI-Systemen zusätzlich für die Grundrechte darstellen.¹⁷ Dies führte zu teils heftiger Kritik vonseiten von über 115 Zivilgesellschaftsorganisationen, die ernste Zweifel an der Selbstregulierungsfähigkeit und vor allem -willigkeit der Anbieter (unter anderem Big-Tech-Unternehmen) hegen hinsichtlich der Frage, ob ein KI-System den umfangreichen Verpflichtungen für Hochrisiko-KI-Systeme unterliegen soll oder nicht, und eine Rückkehr zum ursprünglichen Entwurf des Art 6 KI-VO_E fordern.¹⁸ Auch der eigene juristische Dienst des Europäischen Parlaments äußert Bedenken gegen den vorgeschlagenen Filter.¹⁹

Gänzlich neu ist Art 29a KI-VO_P. Dieser sieht eine neue Folgenabschätzung im Hinblick auf die Grundrechte für Hochrisiko-KI-Systeme vor, die vor Inbetriebnahme zu erfolgen hat.²⁰ Als Rechtsinstrument ist eine solche Grundrechte-Folgenabschätzung noch jung, Ansätze dazu finden sich auf EU-Ebene aber bereits im Gesetz über Digitale Dienste.²¹ Erste praktische Erfahrungen finden zurzeit in den Niederlanden²² statt, auch in Dänemark²³ gibt es schon erste praktische Anleitungen hierzu.

In der KI-VO_P soll diese Folgenabschätzung mindestens folgende Elemente enthalten:

a.	eine klare Darstellung des beabsichtigten Verwendungszwecks des Systems;
b.	eine klare Darstellung des geplanten geografischen und zeitlichen Anwendungsbereichs des Systems;
c.	die Kategorisierung der natürlichen Personen und Gruppen, die von der Verwendung des Systems betroffen sein könnten;
d.	die Prüfung und Bestätigung, dass die Verwendung des Systems dem Unionsrecht und den nationalen Rechtsvorschriften sowie den Grundrechten entspricht;
e.	die vernünftigerweise vorhersehbaren Auswirkungen der Inbetriebnahme des Hochrisiko-KI-Systems auf die Grundrechte;
f.	spezifische Schadensrisiken, die sich auf marginalisierte Personen oder schutzbedürftige Gruppen auswirken könnten;
g.	die vernünftigerweise vorhersehbaren negativen Auswirkungen der Nutzung des Systems auf die Umwelt;
h.	einen ausführlichen Plan, wie das erkannte Schadensrisiko sowie die negativen Auswirkungen auf die Grundrechte gemindert werden sollen;
i.	das Governance-System, das der Betreiber einsetzen wird, einschließlich menschlicher Überwachung, Bearbeitung von Beschwerden und Rechtsbehelfen.24

Nähere Erläuterungen zu dieser Grundrechte-Folgenabschätzung finden sich in ErwGr 58a KI-VO_P.²⁵ Die nationale Aufsichtsbehörde sowie Interessenvertreter und Vertreter von Betroffenengruppen sollen bei der Folgenabschätzung in Bezug auf die Grundrechte einbezogen werden, KMUs sind mit Verweis auf die dafür möglicherweise fehlenden Ressourcen von diesen Konsultationen jedoch ausdrücklich ausgenommen.²⁶

Bei Niedrig-Risiko-Systemen gem Art 52 KI-VO_P werden vom Parlament die Transparenzpflichten konkretisiert. Sie sollen ua Angaben darüber enthalten, welche Funktionen KI-gestützt sind, ob es eine menschliche Aufsicht gibt bzw wer verantwortlich ist, und sie sollen über die bestehenden Rechte und Verfahren Auskunft geben, die natürlichen Personen zur Verfügung stehen.²⁷ Bezüglich Deepfakes legt das Parlament fest, dass diese in angemessener, zeitnaher, klarer und sichtbarer Weise offengelegt werden müssen (dh, der Inhalt muss gekennzeichnet sein und es muss für den Empfänger deutlich sichtbar sein, dass der Inhalt nicht echt ist) und dass, wann immer möglich, der Name dessen angegeben werden muss, der sie erstellt hat.²⁸ Deepfakes, die "Teil eines offensichtlich kreativen, satirischen, künstlerischen oder fiktionalen Filmwerks, Videospiels, visuellen Werks oder analogen Programms" sind, lösen eine eingeschränkte Transparenzpflicht aus, die sich auf eine Offenlegung beschränkt, die die Darstellung des Werks nicht beeinträchtigt und ggf Urheberrechte offenlegt.²⁹

5. KI-Systeme mit allgemeinem Verwendungszweck, Basismodelle und generative KI

Der Entwurf der KI-VO durch die Kommission geht auf April 2021 zurück. In technologischer Zeitrechnung ist seitdem eine halbe Ewigkeit vergangen, Begriffe wie KI-Systeme mit allgemeinem Verwendungszweck ("general purpose AI"), große Sprachmodelle ("Large Language Models"), generative KI ("generative AI") waren zum damaligen Zeitpunkt zumeist nur Informatiker:innen bekannt, sie waren jedenfalls nicht Gegenstand des öffentlichen politischen Diskurses und finden sich daher auch nicht im ursprünglichen Kommissionentwurf.

Die Markteinführung des KI-basierten Sprachmodells ChatGPT im November 2022 hat einer breiten Öffentlichkeit das Potenzial und das mögliche Ausmaß an Veränderung durch neue Formen von KI vor Augen geführt. Die Annahme des Standpunktes des Rats Anfang Dezember 2022 enthält - anders als der Kommissionsentwurf - bereits erste Ansätze, wie KI-Systeme mit allgemeinem Verwendungszweck reguliert werden können.³⁰ Doch auch hier waren die Verhandlungen bereits zu weit fortgeschritten, um auf zu die neuesten Entwicklungen zu reagieren.

Mit großer Spannung wurde darum erwartet, wie das Parlament in seinem Vorschlag diese Entwicklungen rezipieren würde. Bei seinen Überlegungen ist das Parlament auf einige konzeptionelle Herausforderungen gestoßen.³¹ Der ursprüngliche Kommissionsentwurf ist nach dem Modell von Produktsicherheitsgesetzen entworfen, die von an sich unveränderlichen Produkten ausgehen (ein Toaster bleibt ein Toaster), und hat sich für einen risikobasierten Ansatz entschieden (das Risiko eines KI-Systems wird ex ante bewertet, daraus erwachsen entsprechende Verpflichtungen). Beides ist für neuere KI-Formen, die für viele Anwendungen geeignet sind und sich fortwährend verändern, als Regulierungsansatz wenig geeignet. Darüber hinaus bestünde beim herkömmlichen Ansatz die Gefahr, dass ausländische Big-Tech-Firmen grundlegende KI-Systeme entwickeln, während europäische Unternehmen sie nur für ihre Bedürfnisse modifizieren, womöglich aber überproportional von Pflichten (und ggf Sanktionen) getroffen würden, die sie ohne die notwendigen Informationen nicht erfüllen könnten.

Das Parlament hat sich für einen mehrstufigen Ansatz entschieden. Drei Schlüsselbegriffe sind darin von Bedeutung: KI mit allgemeinem Verwendungszweck, Basismodelle ("foundation models") und generative KI. Ein KI-System mit allgemeinem Verwendungszweck wird vom Parlament als "KI-System, das in einem breiten Spektrum von Anwendungen eingesetzt und an diese angepasst werden kann, für die es nicht absichtlich und speziell entwickelt wurde"³², definiert. Ein Basismodell ("foundation model") ist gem KI-VO_P ein "KI-Systemmodell, das auf einer breiten Datenbasis trainiert wurde, auf eine allgemeine Ausgabe ausgelegt ist und an eine breite Palette unterschiedlicher Aufgaben angepasst werden kann".³³ ErwGr 60e KI-VO_P erläutert, wie diese beiden miteinander interagieren:

"Basismodelle sind eine neuere Entwicklung, bei der KI-Modelle auf der Grundlage von Algorithmen entwickelt werden, die im Hinblick auf Allgemeinheit und Vielseitigkeit der Ergebnisse optimiert wurden. Diese Modelle werden häufig auf der Grundlage eines breiten Spektrums von Datenquellen und großer Datenmengen trainiert, um eine Fülle nachgelagerter Aufgaben zu erfüllen, darunter auch solche, für die sie nicht speziell entwickelt und trainiert wurden. Das Basismodell kann unimodal oder multimodal sein und durch verschiedene Methoden wie überwachtes Lernen oder bestärkendes Lernen trainiert werden. KI-Systeme mit spezifischer Zweckbestimmung oder KI-Systeme mit allgemeinem Verwendungszweck können eine Implementierung eines Basismodells sein, was bedeutet, dass jedes Basismodell in unzähligen nachgelagerten KI-Systemen oder KI-Systemen mit allgemeinem Verwendungszweck wiederverwendet werden kann. Diese Modelle sind für viele nachgelagerte Anwendungen und Systeme von wachsender Bedeutung."³⁴

Nicht alle Basismodelle sind somit zwingend KI-Systeme mit allgemeinem Verwendungszweck. KI-Systeme mit allgemeinem Verwendungszweck sind insgesamt weiter gefasst als Basismodelle, den grundlegenden Unterschied zwischen KI-Systemen mit allgemeinem Verwendungszweck und Basismodellen sieht das Parlament in der Menge an Trainingsdaten und in der Adaptierbarkeit des KI-Systems für ungeplante Zwecke. Die exakte Trennlinie zwischen den beiden ist hier nicht näher ausgeführt und könnte in weiterer Folge zahlreiche Fragen für die rechtliche Praxis aufwerfen. Es bleibt abzuwarten, ob sich dieser Ansatz in dieser Form in den Trilog-Verhandlungen durchsetzen wird.

Generative KI-Systeme wie ChatGPT, Stable Diffusion ua sind in der KI-VO_P nicht legaldefiniert, werden aber in Art 28b(4) KI-VO_P beschrieben als eine Sub-Kategorie von Basismodellen, welche "in KI-Systemen verwendet werden, die speziell dazu bestimmt sind, mit unterschiedlichem Grad an Autonomie Inhalte wie komplexe Texte, Bilder, Audio- oder Videodateien zu generieren (‚generative KI‘)".³⁵ Nicht jedes Basismodell ist also ein generatives KI-System.

KI-Systeme mit allgemeinem Verwendungszweck folgen der allgemeinen Systematik der KI-VO_P und sind entsprechend dem Risiko einzuordnen, das sie darstellen. Für Basismodelle schlägt das Parlament ein gesondertes Regulierungskonzept vor: Art 28b(1)-(3) KI-VO_P regelt die Pflichten von Anbietern von Basismodellen im Allgemeinen, Art 28(4) KI-VO_P widmet sich den (zusätzlichen) Pflichten für Anbieter von generativer KI im Besonderen. Unter Berücksichtigung des Standes der Technik muss ein Anbieter von Basismodellen gem Art 28b(2) KI-VO_P

-	durch Planung, Erprobung und Analyse die "vernünftigerweise vorhersehbaren Risiken für Gesundheit, Sicherheit, Grundrechte, Umwelt sowie Demokratie und Rechtsstaatlichkeit" identifizieren und verringern (lit a);
-	nur Datensätze verarbeiten und einbeziehen, die angemessenen Data-Governance-Maßnahmen unterliegen (lit b);
-	das Basismodell so konzipieren und entwickeln, dass während seines gesamten Lebenszyklus ein angemessenes Niveau an Vorhersagbarkeit, Korrigierbarkeit und Sicherheit erreicht wird (lit c);
-	das Basismodell so entwickeln, dass Energie- und Ressourcenverbrauch möglichst gering sind und dass der Energieverbrauch sowie der Verbrauch anderer Ressourcen und andere Umweltauswirkungen während des gesamten Lebenszyklus gemessen und aufgezeichnet werden können (lit d);
-	eine umfassende technische Dokumentation und verständliche Gebrauchsanweisungen erstellen (lit e);
-	ein Qualitätsmanagementsystem einrichten (lit f) und
-	das Basismodell in einer entsprechenden EU-Datenbank registrieren (lit g).36

Anbieter von generativen KI-Systemen müssen außerdem die Transparenzpflichten von Niedrigrisiko-KI-Systemen gem Art 52(1) KI-VO_P beachten, ihr KI-System so gestalten, "dass ein angemessener Schutz gegen die Erzeugung von Inhalten, die gegen das Unionsrecht verstoßen, (...) einschließlich des Rechts auf freie Meinungsäußerung, sichergestellt ist", sowie eine detaillierte Zusammenfassung der Verwendung von urheberrechtlich geschützten Ausbildungsdaten dokumentieren und der Öffentlichkeit zugänglich machen.³⁷ Inter alia bedeutet dies, dass Anbieter, wie oben ausgeführt, KI-generierte Inhalte kennzeichnen müssen.

Mit Blick auf die Wertschöpfungskette ist der Parlamentsvorschlag bemüht, die Verantwortung angemessen zu verteilen. Demzufolge müssen Anbieter relevante Information und Dokumentation zur Verfügung stellen, während Händler, Betreiber³⁸ und Einführer dann in die Pflicht genommen werden, wenn sie das KI-System so modifizieren, dass es als Hochrisiko-System zu qualifizieren ist.³⁹

6. Einführung von Betroffenenrechten

Einer der Kritikpunkte am Entwurf der Kommission war der Mangel an unmittelbaren Betroffenenrechten in der KI-VO_E.⁴⁰ Das Parlament reagiert darauf und nimmt betroffene Personen ("jede natürliche Person oder Personengruppe, die einem KI-System unterliegt oder anderweitig davon betroffen ist")⁴¹ in die Legaldefinitionen auf und erweitert den Anwendungsbereich der KI-VO in Art 2 KI-VO_P um eben diese.⁴² Vor allem aber schlägt es die Einführung von unmittelbaren Rechtsmitteln vor. So sieht die KI-VO_P für betroffene Personen das Recht auf Beschwerde bei einer nationalen Aufsichtsbehörde,⁴³ das Recht auf einen wirksamen gerichtlichen Rechtsbehelf gegen eine nationale Aufsichtsbehörde⁴⁴ und das Recht auf Erläuterung der individuellen Entscheidungsfindung⁴⁵ vor sowie das Recht darauf, dass Betreiber sie darüber informieren, dass ein Hochrisiko-KI-System zur Anwendung gelangt.⁴⁶

7. Innovationsförderung mit besonderem Augenmerk auf KMU und Start-ups

Innovationsförderung ist dem Parlament erkennbar ein Anliegen. Die vom Anwendungsgebiet der KI-VO bereits im Standpunkt des Rats ausgenommenen Forschungs- und Entwicklungsaktivitäten zu KI-Systemen⁴⁷ erweitert das Parlament in der KI-VO_P sogar noch um Testtätigkeiten (bevor das System auf den Markt gebracht und in Betrieb genommen ist).⁴⁸ Neu kommt eine Ausnahme für KI-Komponenten hinzu, die unter freien Lizenzen und Open-Source-Lizenzen bereitgestellt werden.⁴⁹ Kapitel V über die Maßnahmen zur Innovationsförderung ist im Parlamentsvorschlag deutlich ausgeweitet und präzisiert.

Das Parlament erkennt insb die innovationsfördernde Wirkung von KI-Reallaboren an und streicht das bereits in dem neu hinzugefügten Art 1(ea) KI-VO_P hervor, indem es "Maßnahmen zur Innovationsförderung mit besonderem Augenmerk auf KMU und Start-ups, einschließlich der Einrichtung von Reallaboren und gezielter Maßnahmen zur Verringerung des Regelungsaufwands für KMU und Start-ups", als ein Ziel der KI-VO_P ausweist.⁵⁰ Über den Vorschlag der KI-VO_E und der KI-VO_R hinausgehend, fordert das Parlament, dass Mitgliedstaaten verpflichtend mindestens ein Reallabor einrichten. Die in der KI-VO_R vorgeschlagene Testung von KI-Reallaboren unter realen Bedingungen findet sich nicht in der KI-VO_P. Stattdessen findet sich an dieser Stelle ein neuer Paragraf, der Mitgliedstaaten auffordert, KI-Forschung und -Entwicklung zur Unterstützung sozial und ökologisch vorteilhafter Resultate zu fördern.⁵¹

Die Maßnahmen für KMU und Start-up-Unternehmen in Art 55 KI-VO_P sind ebenfalls erweitert und präzisiert. Darüber hinaus fügt das Parlament mit Art 29a KI-VO_P einen neuen Artikel ein, der missbräuchliche Vertragsklauseln, die einem KMU oder einem Start-up einseitig auferlegt werden, für rechtlich nicht bindend erklärt, und begründet das mit vertraglichen Ungleichgewichten, die besonders Kleinstunternehmen, KMU und Start-ups schaden können.⁵²

8. Sanktionen und ein Europäisches Amt für Künstliche Intelligenz

Wie zuvor schon der Rat, schlägt auch das Parlament bei den Sanktionen einen differenzierteren Zugang bei Sanktionen vor. Im Falle der Missachtung eines Verbots aus Art 5 KI-VO_P, also der verbotenen KI-Systeme, hebt das Parlament die Geldbußen von 30 Mio € oder 6 % des weltweiten Jahresumsatzes im Kommissionsentwurf auf 40 Mio € oder 7 % des weltweiten Jahresumsatzes an.⁵³ Gleichzeitig senkt es die Geldbußen bei einem Verstoß gegen Art 10 und Art 13 auf 20 Mio € oder 4 %.⁵⁴ Bei Verstößen gegen andere Verpflichtungen sieht das Parlament 10 Mio € oder 2 % vor, bei falschen, unvollständigen oder irreführenden Angaben gegenüber nationalen Behörden werden bis zu 5 Mio € oder 1 % fällig.⁵⁵ Außerdem räumt das Parlament neu die Möglichkeit ein, nicht-monetäre Maßnahmen oder Anordnungen zu verhängen und berücksichtigt diverse erschwerende und mildernde Umstände.⁵⁶

Die Rolle des ursprünglich vorgesehenen Europäischen Ausschusses für Künstliche Intelligenz wertet das Parlament auf zu einem Europäischen Amt für Künstliche Intelligenz, das eine selbstständige Einrichtung der Union sein und über eine eigene Rechtspersönlichkeit verfügen soll.⁵⁷ Das Amt soll dem Rat und dem Parlament gegenüber rechenschaftspflichtig sein.⁵⁸

9. Schlussbemerkung

Das EU-Gesetzgebungsverfahren ist ein sorgsam orchestriertes Zusammenspiel politischer Kräfte. Die am legislativen Prozess beteiligten Institutionen sind dabei unterschiedlichen Primärinteressen verpflichtet. Die vorrangige Aufgabe der Kommission ist es, die Interessen der Union zu wahren, während der Rat die Interessen der Mitgliedsländer vertritt. Das Parlament, das einzige direkt gewählte Organ der Union, hat sein Hauptaugenmerk auf die Interessen der Unionsbürger zu richten. Genau dieser Funktion versucht es mit seinen Abänderungsvorschlägen zur KI-VO nachzukommen. Während der Rat den Kommissionsentwurf verstärkt unternehmerfreundlich interpretiert,⁵⁹ stellt das Parlament die Unionsbürger ins Zentrum, für die es eine grundrechtskonforme, vertrauenswürdige KI in Europa garantieren möchte. Welche Elemente des Parlamentsvorschlags sich in der endgültigen Fassung der KI-VO wiederfinden werden, ist Gegenstand der laufenden Verhandlungen und normaler Bestandteil von politischen Interessenabwägungen. Das Ende des Trilogs und damit die Einigung auf den ersten europäischen AI Act wird für Ende 2023, spätestens Anfang 2024 erwartet. Danach wird sich zeigen, wie sich die KI-VO in der rechtlichen Praxis bewähren kann.