Das neue KI-Gesetz der Europäischen Union (EU AI-Act): Ein umfassender Rahmen für künstliche Intelligenz

Die Europäische Union hat einen vorläufigen Konsens über das “Artificial Intelligence Act” erreicht, ein Regelwerk, das darauf abzielt, Grundrechte, Demokratie, Rechtsstaatlichkeit und Umweltschutz im Umgang mit risikoreichen KI-Systemen zu schützen und gleichzeitig Innovation zu fördern und Europa in diesem Bereich zum Vorreiter zu machen. Die Gesetzgebung schafft Verpflichtungen für Künstliche Intelligenz basierend auf potenziellen Risiken und Auswirkungsgraden.

Durch den AI-Act verbotene Anwendungen künstlicher Intelligenz

Der Gesetzgeber erkennt die Bedrohung, die von bestimmten KI-Anwendungen für die Bürgerrechte und die Demokratie ausgehen kann, und hat sich daher auf ein Verbot folgender Systeme geeinigt:

• Biometrische Kategorisierungssysteme, die sensible Merkmale nutzen (z. B. politische, religiöse oder philosophische Überzeugungen, sexuelle Orientierung, Rasse),
• Zielloses Abrufen von Gesichtsbildern aus dem Internet oder CCTV-Material zur Erstellung von Gesichtserkennungsdatenbanken,
• Emotionserkennung am Arbeitsplatz und in Bildungsinstitutionen,
• Sozialscoring basierend auf sozialem Verhalten oder persönlichen Merkmalen,
• KI-Systeme, die menschliches Verhalten manipulieren, um den freien Willen zu umgehen,
• Künstliche Intelligenz, die dazu verwendet wird, die Schwachstellen von Menschen auszunutzen (aufgrund von Alter, Behinderung oder sozialen bzw. wirtschaftlichen Umständen).

Ausnahmen für Strafverfolgungsbehörden

Die Verhandlungsführer haben sich auf strenge Sicherheitsvorkehrungen und eng begrenzte Ausnahmen für die Verwendung von biometrischen Identifikationssystemen in öffentlich zugänglichen Räumen für Strafverfolgungszwecke geeinigt. Diese sind an eine vorherige gerichtliche Genehmigung gebunden und auf eine genau definierte Liste von Verbrechen beschränkt. Die “post-remote” Verwendung dieser Systeme dient der gezielten Suche nach einer Person, die eines schweren Verbrechens verurteilt oder verdächtigt wird.

Die “Realzeit”-Nutzung hingegen muss strengen Bedingungen folgen und ist zeitlich und örtlich beschränkt auf:

• gezielte Suche nach Opfern von Entführung, Menschenhandel und sexueller Ausbeutung,
• Prävention von terroristischen Bedrohungen,
• Auffinden oder Identifizieren von Personen, die verdächtigt werden, eines der im Gesetz genannten Verbrechen begangen zu haben (z.B. Terrorismus, Menschenhandel, Mord).
• Verpflichtungen für hochriskante Systeme
• KI-Systeme, die als hochriskant eingestuft sind, müssen klaren Verpflichtungen nachkommen.

Hochriskante Systeme künstlicher Intelligenz

Diese Kategorie umfasst Systeme, die ein signifikantes Schadenspotenzial für Gesundheit, Sicherheit, Grundrechte, Umwelt, Demokratie und Rechtsstaat aufweisen. Zu diesen Verpflichtungen gehört auch eine obligatorische Grundrechte-Folgenabschätzung, die auch für den Versicherungs- und Bankensektor gilt. KI-Systeme, die Einfluss auf Wahlergebnisse und Wählerverhalten nehmen könnten, gelten ebenfalls als hochriskant. Bürger haben das Recht, Beschwerden über KI-Systeme einzureichen und Erklärungen über Entscheidungen zu erhalten, die auf der Grundlage hochriskanter KI-Systeme getroffen werden und ihre Rechte beeinflussen.

Schutzmechanismen für allgemeine KI-Systeme

Um der Vielfalt der Aufgaben, die durch KI-Systeme bewältigt werden können, sowie der schnellen Erweiterung ihrer Fähigkeiten Rechnung zu tragen, wurde festgelegt, dass allgemeine KI-Systeme und die zugrunde liegenden GPAI-Modelle Transparenzanforderungen erfüllen müssen. Dazu gehört die Erstellung technischer Dokumentationen, die Einhaltung des EU-Urheberrechts und die Verbreitung detaillierter Zusammenfassungen des für das Training verwendeten Inhalts.

Für GPAI-Modelle mit systemischem Risiko wurden strengere Verpflichtungen festgelegt. Sollten diese Modelle bestimmte Kriterien erfüllen, müssen sie Modellbewertungen durchführen, systemische Risiken beurteilen und mindern, adversatives Testen durchführen, der Kommission über schwerwiegende Vorfälle Bericht erstatten, Cybersicherheit gewährleisten und über ihre Energieeffizienz Bericht erstatten. Zudem bestanden die Abgeordneten darauf, dass GPAIs mit systemischem Risiko auf Verhaltenskodizes zurückgreifen können, um den Vorschriften zu entsprechen, bis harmonisierte EU-Standards veröffentlicht werden.

Innovation und KMU unterstützen

Die Europaabgeordneten wollen sicherstellen, dass Unternehmen, insbesondere KMUs, KI-Lösungen entwickeln können ohne unangemessenen Druck von Branchenriesen, die die Wertschöpfungskette kontrollieren. Zu diesem Zweck fördert die Vereinbarung regulatorische Sandkästen und Tests unter realen Bedingungen, die durch nationale Behörden eingerichtet werden, um innovative KI vor der Markteinführung zu entwickeln und zu trainieren.

Sanktionen und Inkrafttreten

Nichteinhaltung der Regeln kann zu Bußgeldern von bis zu 35 Millionen Euro oder bis zu 7% des weltweiten Umsatzes bzw. bis zu 7,5 Millionen Euro oder 1,5% des Umsatzes führen, je nach Verstoß und Unternehmensgröße.

Stellungnahmen zum aktuellen Entwurf des EU-AI-Acts

Brando Benifei (S&D, Italien) erklärte nach der Einigung, dass der Einsatz und die korrekte Umsetzung des ersten weltweiten horizontalen Gesetzes zur künstlichen Intelligenz entscheidend sein wird und das Europäische Parlament weiterhin darauf achten wird, dass es Unterstützung für neue Geschäftsideen mit Sandboxes gibt und effektive Regeln für die mächtigsten Modelle bestehen.

Dragos Tudorache (Renew, Rumänien) unterstrich, dass die EU als erste weltweit eine robuste KI-Regulierung implementiert und sie so in eine menschenzentrierte Richtung lenkt. Er hebt die starken Sicherheitsmechanismen für Bürger und Demokratien gegen Missbrauch durch öffentliche Behörden hervor und betont den Schutz für KMUs und die Stärkung der Innovations- und Führungskapazität im KI-Bereich.

Einzelheiten zu einer gemeinsamen Pressekonferenz, die nach den Verhandlungen von führenden MEPs, der Staatssekretärin für Digitalisierung und KI Carme Artigas und Kommissar Thierry Breton abgehalten wurde, sind über die jeweiligen Links abrufbar.

Nächste Schritte

Der vereinbarte Text muss nun vom Parlament und Rat formell angenommen werden, um EU-Recht zu werden. Die zuständigen Ausschüsse des Parlaments werden in einer der nächsten Sitzungen über die Vereinbarung abstimmen.

Image by rawpixel.com on Freepik