AI Act

Entwurf weist bei der Klassifizierung von Hochrisiko-KI-Systemen noch große Lücken auf

Das Europäische Parlament hat seit Mitte Juni seine finale Position zur europäischen KI-Regulierun – bekannt als AI Act – verabschiedet. Bereits im Dezember des letzten Jahres hatten die EU-Mitgliedsstaaten sich auf einen gemeinsamen Standpunkt geeinigt. Nun laufen seit Juni die Verhandlungen zwischen den EU-Institutionen, um einen Kompromiss auszuloten. Dabei zeigt sich, dass das eigentliche Regelwerk noch reichlich löchrig ist.

Der von den EU-Institutionen vorgesehene risikobasierte Ansatz wird grundsätzlich als der richtige eingeschätzt. Allerdings greifen die darauf basierenden Klassifizierungsvorschriften wohl derzeit noch viel zu kurz, wie das Brüsseler Büro des TÜV-Verbandes mitteilt. Als hochriskant sollen nach den bisherigen Vorschlägen nur solche KI-Systeme eingestuft werden, bei denen bereits die physischen Produkte, in die sie integriert werden, einer verpflichtenden Prüfung durch unabhängige Stellen unterliegen. Diese Klassifizierung betrifft damit vor allem Industrieprodukte wie zum Beispiel Aufzüge.

Der Großteil der Verbraucherprodukte hingegen, darunter vor allem Spielzeuge oder Smart-Home-Geräte, fallen allerdings nicht unter diese Prüfpflicht. Die Konsequenz daraus ist, dass so die meisten KI-basierten Verbraucherprodukte nicht als Hochrisikoprodukte, im Sinne des AI Acts, eingestuft werden können. Damit entfallen für diese die strengeren Sicherheitsanforderungen. An dieser Stelle offenbart sich daher eine gewaltige Regelungslücke, die der EU-Gesetzgeber dringend noch angehen muss.

Ebenfalls schwierig ist die Klassifizierung von KI-Systemen, die als Software-Produkt für bestimmte Anwendungsbereiche auf den Markt gebracht werden. Beispielhaft an dieser Stelle sind Systeme für Einstellungsverfahren oder Kreditwürdigkeitsprüfungen zu nennen. Nach dem Vorschlag des Europäischen Parlaments sollen die Anbieter die Risikobewertung selbst durchführen. Am Ende könnten diese dann selber, über die Einstufung ihres Produktes als Hochrisikoprodukt, entscheiden. Neben der bestehenden Gefahr von Fehleinschätzungen, gesellt sich dazu die Option des Missbrauchs. Für den EU-Gesetzgeber besteht also auch dort noch Handlungsbedarf.