Die Europäische Union hat einen meilensteinartigen Schritt in Richtung Regulierung und Kontrolle der Künstlichen Intelligenz unternommen. Nach einigen Verhandlungen haben sich die EU-Mitgliedstaaten auf den sogenannten „AI Act“ geeinigt, der erstmals rechtlich verbindliche Regeln für den Einsatz von KI aufstellt. Dieses Gesetz ist aktuell weltweit einzigartig und könnte den globalen Standard setzen. Der AI Act soll sicherstellen, dass KI-Technologien in der EU transparent, nachvollziehbar, diskriminierungsfrei und umweltfreundlich eingesetzt werden – und dabei stets unter der Kontrolle des Menschen bleiben. Das Gesetz wurde nun bestätigt und tritt nach Veröffentlichung im Amtsblatt 20 Tage später in Kraft. Zwei Jahre nach dem Inkrafttreten gilt das Gesetz dann.
Der AI Act der EU im Überblick
Es gibt mehrere wichtige Aspekte, die zu diesem AI Act zählen. Zu den Kernpunkten des Gesetzes gehören:
Risikobasierte Einstufung von KI-Anwendungen
KI-Systeme werden nach ihrem Risikopotenzial in verschiedene Kategorien eingeteilt. Hochriskante Anwendungen, etwa in kritischen Infrastrukturen oder im Gesundheitswesen, müssen daher besonders strenge Sicherheits- und Transparenzstandards erfüllen. Bestimmte KI-Anwendungen, die gegen europäische Werte verstoßen, werden gänzlich verboten.
Verbot von „Social Scoring“ und Emotionserkennung
Explizit verboten sind laut AI Act Systeme zum „Social Scoring“, also zur Bewertung des sozialen Verhaltens von Bürgern. Auch die Emotionserkennung am Arbeitsplatz oder in Bildungseinrichtungen ist in der EU untersagt.
Einschränkungen bei Gesichtserkennung im öffentlichen Raum
Die anlasslose Gesichtserkennung in öffentlichen Räumen wird grundsätzlich verboten. Ausnahmen gibt es lediglich für Strafverfolgungsbehörden bei der Suche nach bestimmten Straftaten wie Menschenhandel oder Terrorismus.
Transparenzpflichten und Überwachung durch Menschen
Anbieter von KI-Systemen müssen deren Funktionsweise transparent machen und sicherstellen, dass Menschen die Systeme überwachen. Verstöße gegen die Regeln können mit Strafen geahndet werden.
Whitepaper
KI Studie 2025
Wie setzen Unternehmen KI ein und welche Chancen entstehen für dich? Immer mehr nutzen sie erfolgreich – verpasse nicht den Anschluss!
Globale Auswirkungen des AI Acts
Der AI Act hat das Potenzial, zum globalen Maßstab für die Regulierung Künstlicher Intelligenz zu werden. Als weltweit erste rechtlich bindende Regulierung dieser Art könnte das Gesetz Signalwirkung entfalten und andere Länder dazu inspirieren, ähnliche Regeln zu schaffen. Allerdings ist die Umsetzung des AI Act nicht unumstritten. Kritiker befürchten, dass die strengen Vorgaben die Innovationskraft und Wettbewerbsfähigkeit der europäischen KI-Branche beeinträchtigen könnten. Insbesondere kleine und mittelständische Unternehmen sehen sich vor große Hürden gestellt. Kritiker merken auch an, dass die Nutzung von KI-Systemen, die außerhalb der EU entwickelt oder angeboten werden, problematisch werden kann.
Umsetzung des AI Acts in Deutschland
Das Gesetz ist zwar beschlossen, dennoch gibt es noch viele offene Fragen. Die genaue Umsetzung in Deutschland wird nun konkret ausgestaltet. Bei der Umsetzung gibt es wahrscheinlich enge Absprachen mit der Wirtschaft, um eine Balance zu schaffen. Da KI gerade und auch in Zukunft dynamisch ist, wird auch das Gesetz eher dynamisch bleiben. Das heißt, dass die Regelungen, die festgelegt werden, ständig kontrolliert und gegebenenfalls angepasst werden. So werden Transparenz und Sicherheit hergestellt und Diskriminierung verhindert. Das zumindest betont Bundesdigitalminister Volker Wissing.
Fazit: Richtungsweisende Regulierung mit Herausforderungen
Der AI Act der EU markiert einen Meilenstein in der Regulierung Künstlicher Intelligenz. Erstmals werden weltweit rechtlich verbindliche Regeln für den Einsatz von KI-Systemen geschaffen, um deren Sicherheit, Transparenz sowie Zuverlässigkeit sicherzustellen. Welche klaren Regeln für Deutschland aufgestellt werden, bleibt abzuwarten.
Lea Minge
