Das neue KI-Gesetz der Europäischen Union (EU AI-Act) wurde beschlossen.

#eu ai act

#eu artificial intellignce

#generative KI

Virtuelle Assistenten und Chatbots revolutionieren den Kundenservice und Vertrieb durch KI: Sie bieten 24/7 Verfügbarkeit, reduzieren Kosten, durchsuchen effizient Dokumente, skalieren den Kundendienst und stärken die Kundenbindung. Sie sind eine unverzichtbare Investition für zukunftsorientierte Unternehmen, die Effizienz und Kundenloyalität steigern wollen.

chatbot
Portrait von Bernhard Mayr

Mag. Dr. Bernhard Mayr, MBA

Geschäftsführer, passgenau digital GmbH

Published 10.12.2023

Das neue KI-Gesetz der Europäischen Union (EU AI-Act): Ein umfassender Rahmen für künstliche Intelligenz

Die Europäische Union hat einen vorläufigen Konsens über das “Artificial Intelligence Act” erreicht, ein Regelwerk, das darauf abzielt, Grundrechte, Demokratie, Rechtsstaatlichkeit und Umweltschutz im Umgang mit risikoreichen KI-Systemen zu schützen und gleichzeitig Innovation zu fördern und Europa in diesem Bereich zum Vorreiter zu machen. Die Gesetzgebung schafft Verpflichtungen für Künstliche Intelligenz basierend auf potenziellen Risiken und Auswirkungsgraden.

Durch den AI-Act verbotene Anwendungen künstlicher Intelligenz

Der Gesetzgeber erkennt die Bedrohung, die von bestimmten KI-Anwendungen für die Bürgerrechte und die Demokratie ausgehen kann, und hat sich daher auf ein Verbot folgender Systeme geeinigt:

Ausnahmen für Strafverfolgungsbehörden

Die Verhandlungsführer haben sich auf strenge Sicherheitsvorkehrungen und eng begrenzte Ausnahmen für die Verwendung von biometrischen Identifikationssystemen in öffentlich zugänglichen Räumen für Strafverfolgungszwecke geeinigt. Diese sind an eine vorherige gerichtliche Genehmigung gebunden und auf eine genau definierte Liste von Verbrechen beschränkt. Die “post-remote” Verwendung dieser Systeme dient der gezielten Suche nach einer Person, die eines schweren Verbrechens verurteilt oder verdächtigt wird.

Die “Realzeit”-Nutzung hingegen muss strengen Bedingungen folgen und ist zeitlich und örtlich beschränkt auf:

Hochriskante Systeme künstlicher Intelligenz

Diese Kategorie umfasst Systeme, die ein signifikantes Schadenspotenzial für Gesundheit, Sicherheit, Grundrechte, Umwelt, Demokratie und Rechtsstaat aufweisen. Zu diesen Verpflichtungen gehört auch eine obligatorische Grundrechte-Folgenabschätzung, die auch für den Versicherungs- und Bankensektor gilt. KI-Systeme, die Einfluss auf Wahlergebnisse und Wählerverhalten nehmen könnten, gelten ebenfalls als hochriskant. Bürger haben das Recht, Beschwerden über KI-Systeme einzureichen und Erklärungen über Entscheidungen zu erhalten, die auf der Grundlage hochriskanter KI-Systeme getroffen werden und ihre Rechte beeinflussen.

Schutzmechanismen für allgemeine KI-Systeme

Um der Vielfalt der Aufgaben, die durch KI-Systeme bewältigt werden können, sowie der schnellen Erweiterung ihrer Fähigkeiten Rechnung zu tragen, wurde festgelegt, dass allgemeine KI-Systeme und die zugrunde liegenden GPAI-Modelle Transparenzanforderungen erfüllen müssen. Dazu gehört die Erstellung technischer Dokumentationen, die Einhaltung des EU-Urheberrechts und die Verbreitung detaillierter Zusammenfassungen des für das Training verwendeten Inhalts.

Für GPAI-Modelle mit systemischem Risiko wurden strengere Verpflichtungen festgelegt. Sollten diese Modelle bestimmte Kriterien erfüllen, müssen sie Modellbewertungen durchführen, systemische Risiken beurteilen und mindern, adversatives Testen durchführen, der Kommission über schwerwiegende Vorfälle Bericht erstatten, Cybersicherheit gewährleisten und über ihre Energieeffizienz Bericht erstatten. Zudem bestanden die Abgeordneten darauf, dass GPAIs mit systemischem Risiko auf Verhaltenskodizes zurückgreifen können, um den Vorschriften zu entsprechen, bis harmonisierte EU-Standards veröffentlicht werden.

Innovation und KMU unterstützen

Die Europaabgeordneten wollen sicherstellen, dass Unternehmen, insbesondere KMUs, KI-Lösungen entwickeln können ohne unangemessenen Druck von Branchenriesen, die die Wertschöpfungskette kontrollieren. Zu diesem Zweck fördert die Vereinbarung regulatorische Sandkästen und Tests unter realen Bedingungen, die durch nationale Behörden eingerichtet werden, um innovative KI vor der Markteinführung zu entwickeln und zu trainieren.

Sanktionen und Inkrafttreten

Nichteinhaltung der Regeln kann zu Bußgeldern von bis zu 35 Millionen Euro oder bis zu 7% des weltweiten Umsatzes bzw. bis zu 7,5 Millionen Euro oder 1,5% des Umsatzes führen, je nach Verstoß und Unternehmensgröße.

Stellungnahmen zum aktuellen Entwurf des EU-AI-Acts

Brando Benifei (S&D, Italien) erklärte nach der Einigung, dass der Einsatz und die korrekte Umsetzung des ersten weltweiten horizontalen Gesetzes zur künstlichen Intelligenz entscheidend sein wird und das Europäische Parlament weiterhin darauf achten wird, dass es Unterstützung für neue Geschäftsideen mit Sandboxes gibt und effektive Regeln für die mächtigsten Modelle bestehen.

Dragos Tudorache (Renew, Rumänien) unterstrich, dass die EU als erste weltweit eine robuste KI-Regulierung implementiert und sie so in eine menschenzentrierte Richtung lenkt. Er hebt die starken Sicherheitsmechanismen für Bürger und Demokratien gegen Missbrauch durch öffentliche Behörden hervor und betont den Schutz für KMUs und die Stärkung der Innovations- und Führungskapazität im KI-Bereich.

Einzelheiten zu einer gemeinsamen Pressekonferenz, die nach den Verhandlungen von führenden MEPs, der Staatssekretärin für Digitalisierung und KI Carme Artigas und Kommissar Thierry Breton abgehalten wurde, sind über die jeweiligen Links abrufbar.

Nächste Schritte

Der vereinbarte Text muss nun vom Parlament und Rat formell angenommen werden, um EU-Recht zu werden. Die zuständigen Ausschüsse des Parlaments werden in einer der nächsten Sitzungen über die Vereinbarung abstimmen.

Image by rawpixel.com on Freepik

Interessiert? In einem kostenlosen Beratungsgespräch besprechen wir Ihre individuellem Anforderungen an den Einsatz künstlicher Intelligenz! Beratungstermin vereinbaren