Weg frei für KI-Gesetz

Das Europäische Parlament (EU) mit Sitz in Straßburg hat mehrheitlich zugestimmt und dem KI-Gesetz (sog. „AI-Act“) verabschiedet, das erste staatliche Gesetz zur Regulierung künstlicher Intelligenz weltweit. Nach einer Einigung im Dezember 2023 zwischen der EU-Kommission, dem Europaparlament und den Mitgliedsstaaten, gibt das EU-Parlament nun grünes Licht für schärfere KI-Regeln in der Europäischen Union. Das Gesetz legt fest, wie KI in der Europäischen Union eingesetzt werden darf und unter welchen Voraussetzungen. Nach wochenlanger Debatte nahmen die EU-Länder das KI-Gesetz Anfang Februar an. Aufgrund von Bedenken, insbesondere in Deutschland und Frankreich, stand der Beschluss lange Zeit auf der Kippe.

Einteilung in 4 Risikogruppen

Gemäß dem neuen KI-Gesetz erfolgt eine Einteilung der Anwendung der KI-Systeme nach Risikograden abhängig von dem potenziellen Risiko, das sie für die Gesellschaft und Individuen darstellen. Dabei gilt: Je höher das Risiko, desto strenger sind die Vorschriften. Die oberste Stufe umfasst Anwendungen, die als inakzeptables Risiko gelten. Diese beinhalten Systeme, die fundamentale Rechte und Sicherheiten bedrohen könnten, wie zum Beispiel Technologien, die zu unfairen Diskriminierungen führen oder die Privatsphäre und Daten der Menschen auf invasive Weise nutzen. Solche Anwendungen sind unter dem neuen Gesetz strikt verboten, um sicherzustellen, dass die Grundrechte und Sicherheiten aller Bürger geschützt bleiben.

Unterhalb dieser obersten Ebene sind die KI-Systeme angesiedelt, die ein hohes Risiko darstellen. Diese umfassen Technologien, die in sensiblen Bereichen wie Gesundheitswesen, Bildung, Beschäftigung und Strafverfolgung eingesetzt werden. Für diese Kategorien von KI-Anwendungen werden strenge Auflagen gefordert, darunter die Notwendigkeit transparenter Informationsbereitstellung, hohe Datenqualität, robuste Sicherheitsmaßnahmen und die Möglichkeit, die Entscheidungen der Systeme nachzuvollziehen und zu überprüfen.

Für KI-Systeme, die ein begrenztes Risiko aufweisen, schreibt das Gesetz spezifische Transparenzverpflichtungen vor. Das bedeutet, dass Nutzer klar darüber informiert werden müssen, wenn sie mit einer KI interagieren, etwa bei der Nutzung von Chatbots. So soll sichergestellt werden, dass die Menschen verstehen, wann ihre Interaktionen von KI-Systemen beeinflusst werden und sie fundierte Entscheidungen über ihre Interaktionen treffen können.

Schließlich gibt es KI-Anwendungen, die als minimales oder kein Risiko eingestuft werden. Diese können weitgehend frei von regulatorischen Beschränkungen betrieben werden. Dazu gehören beispielsweise KI-Systeme, die in der Unterhaltungselektronik oder als Teil von Videospielen eingesetzt werden. Für diese Kategorie erkennt das Gesetz an, dass die Vorteile der Technologie die potenziellen Risiken weit überwiegen und ermöglicht daher ihre Entwicklung und Anwendung mit minimaler regulatorischer Einmischung.

Keine Gesichtserkennung – Kein social Scoring

Das KI-Gesetz verbietet explizit KI-Anwendungen, die gegen Grundwerte der EU verstoßen, wie zum Beispiel das „Social Scoring“, das in China zur Überwachung und Kategorisierung von Bürgern verwendet wird.

Insbesondere wird die Gesichtserkennung im öffentlichen Raum, wie beispielsweise durch Videoüberwachung an öffentlichen Plätzen, im Allgemeinen verboten. Eine Ausnahme davon darf lediglich gemacht werden, wenn die Videoüberwachung durch die Polizei und andere Sicherheitsbehörden zur Verfolgung schwerwiegender Straftaten wie Terrorismus oder Menschenhandel eingesetzt wird.

Um die Einhaltung dieser Regeln sicherzustellen, müssen die Mitgliedstaaten das Gesetz innerhalb eines Zeitraums von zwei Jahren vollständig umsetzen. Dafür sollen zunächst schrittweise verbotene Systeme außer Betrieb genommen werden. Außerdem müssen die Mitgliedstaaten Sanktionen für Unternehmen festlegen, die gegen die Bestimmungen verstoßen – beispielsweise Geldstrafen. Privatpersonen sollen sich außerdem nationalen Behörden beschweren können, wenn sie Verstöße feststellen.

Kritik an der geplanten Umsetzung

Es gibt allerdings Bedenken und Kritik seitens der Industrie gegenüber dem geplanten Gesetz. Insbesondere wird befürchtet, dass es die Entwicklung neuer KI-Anwendungen bremsen und europäische Unternehmen im globalen Wettbewerb, insbesondere mit Konkurrenten aus den USA und China, benachteiligen könnte. Der Bundesverband der Deutschen Industrie warnt vor möglichen Nachteilen für europäische Start-ups wie Aleph Alpha aus Deutschland und Mistral AI in Frankreich.

Während das Gesetz den rechtlichen Rahmen für die Entwicklung und Anwendung von Künstlicher Intelligenz festlegt, bleibt die Ausarbeitung konkreter technischer Details sowie die Überwachung der Umsetzung eine komplexe Aufgabe. Dabei muss der Gesetzgeber stets potenzielle Schäden durch den Einsatz von KI abwägen, insbesondere in zentralen Lebensbereichen wie Gesundheit, Demokratie, Umwelt und Sicherheit.

Ein weiterer Kritikpunkt betrifft den zeitlichen Rahmen des Gesetzes, das erst ab Frühjahr 2026 in Kraft treten soll. Bis dahin setzt die EU-Kommission auf freiwillige Absprachen mit Unternehmen. Angesichts der raschen technologischen Entwicklungen in diesem Bereich besteht die Sorge, dass die EU-Vorgaben bereits veraltet sein könnten, wenn sie endlich in Kraft treten.

Allerdings gibt es auch viele Befürworter, die die Endfassung der KI-Regulierung positiv sehen. Gelobt wird unter anderem die mit den Regelungen verbundene Rechtssicherheit. Außerdem könnte die EU so zukünftig für eine vertrauenswürdige künstliche Intelligenz stehen.

KI-Gesetz stärkt den Datenschutz

Der Bundesdatenschutzbeauftragte Prof. Ulrich Kelber ist jedoch mit dem KI-Gesetz zufrieden, da es den Datenschutz stärke. Besonders begrüßte er, dass die Datenschutzaufsichtsbehörden die Überwachung von Hochrisiko-KI-Systemen übernehmen sollen, da viele dieser Vorgaben eng mit dem Datenschutz verbunden seien. Allerdings bedauerte Kelber, dass einige Kritikpunkte aus einer Stellungnahme aus dem Jahre 2021 des EU-Datenschutzbeauftragten und dem EU-Datenschutzausschusses nicht umgesetzt worden seien. Insbesondere sei das Verbot für die biometrische Fernerkennung im öffentlichen Raum nicht deutlich und klar erkennbar. Daher werde vorgeschlagen, dass diese Öffnungsklausel auf nationaler deutscher Ebene strikter verwirklicht werde und Verbote implementiert werden sollen.

akl/agr