Erster Schritt für mehr Rechtssicherheit und Transparenz im Umgang mit KI

Nach jahrelangen Verhandlungen ist der AI Act der EU nun unter Dach und Fach. Auch wenn sich der Gesetzestext noch in der Feinabstimmung befindet, sind zentrale Streitpunkte rund um die Themen Generative AI und KI in der Strafverfolgung geklärt. Der umfassende AI Act ist ein historischer Schritt, um den vertrauenswürdigen Einsatz der Technologie zu fördern und sicherzustellen, dass sowohl Unternehmen und öffentliche Einrichtungen als auch Kunden und Bürger von ihr profitieren. Unternehmen, die gegen das Gesetz verstoßen, müssen mit Strafen von bis zu sieben Prozent ihres weltweiten Umsatzes rechnen.

Regulierung dedizierter KI-Systeme

Das Thema wurde bereits 2018 mit dem Bericht der „Hochrangigen Expertengruppe für Künstliche Intelligenz“ angestoßen, der den Fokus auf ethische Grundsätze wie Transparenz, Fairness, Robustheit, Datenschutz, Rechenschaftspflicht und Nachhaltigkeit legte. Ein Vorschlag vom April 2021 konzentrierte sich hingegen verstärkt auf die Regulierung dedizierter KI-Systeme und nicht auf die Technologie im Allgemeinen. Rückblickend war dies ein sinnvoller Schritt, da es für Kunden und Bürger doch weniger wichtig ist, welche Art von KI-Technologie genau zu einer Entscheidung führt – beispielsweise ob Maschinelles Lernen oder statistisch basierte prädiktive Analysen zur Ablehnung von Krediten oder Sozialleistungen führen. Darüber hinaus wurde ein risikobasiertes Framework eingeführt, das auf dem Zweck des KI-Systems und seinem Risiko, Schaden anzurichten, basiert, um eine Über- oder Unterregulierung zu vermeiden. 

Obwohl das Europäische Parlament bis zuletzt über den Einsatz von KI-Systemen in den Bereichen Strafverfolgung und Biometrie diskutiert hat, konnte eine Einigung erzielt werden – jetzt geht es nur noch um die Details. Die EU-Gesetzgebung soll den sinnvollen Einsatz von KI fördern und ist darauf ausgelegt, Innovationen im Bereich der vertrauenswürdigen KI zu unterstützen, anstatt sie einzuschränken. Ohne die jetzt beschlossenen Regelungen kann es schlicht keine gleichen Wettbewerbsbedingungen geben und letztlich keine nachhaltige Zukunft für die KI.

KI-Gesetzesentwurf bietet die notwendige Struktur und Orientierung

Es wird spannend sein, die Auswirkungen dieses „Brüsseler Effekts“ zu beobachten. Ich gehe davon aus, dass die Global Player die Kernideen als De-facto-Standard übernehmen werden, da sie diese ohnehin anwenden müssen, wenn sie mit Kunden und Bürgern in der EU zusammenarbeiten. Organisationen sind nun gesetzlich verpflichtet, sich ernsthaft mit dem verantwortungsvollen Einsatz von KI auseinanderzusetzen. Der KI-Gesetzesentwurf wird die notwendige Struktur und Orientierung bieten, um KI für die richtigen Zwecke und auf die richtige Art und Weise einzusetzen. Darüber hinaus soll er alle Beteiligten in die Lage versetzen, die zahlreichen Vorteile effektiv zu nutzen. Beispielsweise müssen Unternehmen expliziter und transparenter darlegen, wie sie automatisierte Entscheidungen treffen. Dazu gehört auch, welche Regeln und andere Lösungen sie verwenden und wie wichtige automatisierte Entscheidungen auf Voreingenommenheit getestet werden.

Der AI Act ist ein wichtiger erster Schritt, der sowohl auf Rechtssicherheit als auch auf mehr Transparenz im Umgang mit der KI-Technologie abzielt. Die weitere Entwicklung bleibt auch vor dem Hintergrund der sich schnell verändernden Möglichkeiten und Anwendungsfälle von KI-Lösungen spannend zu beobachten. Für den Moment hat die EU aber die dringend benötigten Richtlinien auf den Weg gebracht.

Peter van der Putten

ist Director AI Lab bei Pegasystems.