ZVEI-Stellungnahme zur europäischen KI-Verordnung

Am 06. August hat der ZVEI eine umfassende Stellungnahme zum Verordnungsentwurf zur Festlegung harmonisierter Vorschriften für Künstliche Intelligenz („AI Act“) veröffentlicht. Mit dem Positionspapier will sich der ZVEI in den weiteren Gesetzgebungsprozess einbringen und sich für eine rechtssichere, innovationsfördernde KI-Regulierung einsetzen. 

Der Regulierungsvorschlag sieht eine Unterteilung von KI-Software in Hochrisiko- und Nicht-Hochrisikokategorien vor. Sowohl für den Anbieter als auch den Nutzer der jeweiligen Hochrisiko-KI sieht die Kommission mehrere Verpflichtungen vor. Während KI-Systeme mit minimalem oder keinem Risiko ohne zusätzliche Einschränkungen zur bestehenden Gesetzgebung erlaubt sind, werden für Hochrisikosysteme umfangreiche Anforderungen gelten, darunter Risiko- und Qualitätsmanagement, Informations- und Transparenzpflichten, qualitativ hochwertige Trainingsdaten und Post-Market-Monitoring. 

Der ZVEI bewertet das Ziel der Kommission, durch einen risikobasierten Ansatz ein europäisches Konzept für vertrauenswürdige KI zu stärken, als positiv. Allerdings sollte der Gesetzgeber Lücken in der Regulierung überall dort sorgfältig prüfen, wo KI als Technologie in ihrer Gesamtheit betrachtet wird. Insbesondere im Fall von KI, die in Produkte eingebettet ist, sind die potenziellen Risiken in Bezug auf die Produktsicherheit bereits durch bestehende Regulierungen und Funktionseinschränkungen begrenzt. 

Der ZVEI befürwortet, dass der AI Act dem etablierten Konzept des New Legislative Framework (NLF) für Hochrisiko-KI-Systeme als Sicherheitskomponenten von Produkten folgt und so konsistent mit existierender Gesetzgebung zur Produktsicherheit ausgestaltet ist. Sobald produktbezogene Risiken adressiert werden, sollten die EU-Kommission mögliche Verknüpfungen zwischen AI Act und harmonisierten Richtlinien in Annex II, z.B. der Maschinenrichtlinie, eingehend prüfen, um Doppelregulierung zu vermeiden. Es sollte zudem sichergestellt werden, dass eine Doppelzertifizierung vermieden wird. Das kann etwa dann auftreten, wenn eine zertifizierte KI-Software in eine neue Komponente oder ein neues Produkt in der Wertschöpfungskette eingebettet wird. Generell muss die Kommission vermeiden, dass überbordende Verpflichtungen für Anbieter von KI-Systemen Innovationen und die KI-Entwicklung behindern. 
Rechtliche Klarheit lässt auch die im vorliegenden Vorschlag verwendete Definition von KI missen. Indem die Europäische Kommission rein logik- und wissensbasierte Ansätze sowie statistische Methoden in die Techniken und Ansätze zur Definition von KI in Anhang I aufnimmt, macht sie es unmöglich, KI-Software von herkömmlichen Datenanalysetools zu unterscheiden.

Nun gilt es diese kritischen Punkte und rechtlichen Unklarheiten im weiteren Gesetzgebungsprozess zu adressieren und mögliche Hemmnisse für das Inverkehrbringen unkritischer Produkte mit KI-Komponenten einzudämmen. Nach einer initialen, öffentlichen Konsultation der EU-Kommission, an welcher sich der ZVEI im August mit seiner Stellungnahme eingebracht hat, liegt der Verordnungsentwurf nun zur ersten Lesung beim zuständigen Ausschuss im Europäischen Parlament sowie zur weiteren Verhandlung im Ministerrat. Mit dem Vorstoß dieser weltweit ersten Regulierung für einen harmonisierten Rechtsrahmen für Künstliche Intelligenz, begibt sich die EU-Kommission auf noch unbekanntes Terrain. Daher werden sich die anschließenden Verhandlungen im Trilog voraussichtlich noch weit bis in das kommende Jahr ziehen. Nach einer Einigung müsste die Anwendung laut vorliegendem Entwurf 24 Monate nach Inkrafttreten der KI-Verordnung angewendet werden.