KI-Richtlinien nicht beachtet: Unternehmen muss 300.000 Euro Strafe zahlen

Die Online-Bank DKB muss jetzt tief in die Tasche greifen: Sie hatte für die Prüfung von Kreditkartenanträgen einen KI-Algorithmus eingesetzt. Der Algorithmus hatte anhand von Regeln automatisch über die online gestellten Kreditkartenanträge entschieden. Das allein stellt noch kein Problem dar, vielmehr ist es ein mittlerweile recht typischer Anwendungsfall von KI in Unternehmen. Problematisch wurde es erst, als ein Kunde Auskunft darüber verlangte, warum sein Antrag abgelehnt wurde – trotz guter Schufa und einem regelmäßig hohen Einkommen. Dies konnte die Bank jedoch nicht ausreichend erläutern und versteckte sich stattdessen hinter allgemeinen Aussagen und Floskeln.

Einsatz von KI muss transparent und nachvollziehbar sein

Damit hatte die DKB gegen geltendes Recht verstoßen. Denn gut versteckt, in einem kleinen Nebensatz in Artikel 15,  Absatz 1 der Datenschutzgrundverordnung werden Firmen dazu verpflichtet, ihren Kunden gegenüber den Einsatz von KI transparent und nachvollziehbar zu erläutern, falls diese Auskunft darüber verlangen. Der Betroffene hatte genau das getan und wollte die Gründe sowie die in die Bewertung eingeflossenen Daten, Kriterien und Regeln wissen. Dies konnte oder wollte die Bank jedoch nicht offenlegen, woraufhin der Antragsteller sich an die zuständige Berliner Datenschutzbeauftragte Meike Kamp wandte.

300.000 Euro Bußgeld für DKB-Bank

  „Wenn Unternehmen automatisiert Entscheidungen treffen, sind sie verpflichtet, diese stichhaltig und nachvollziehbar zu begründen“, so die Datenschutzbeauftragte Kamp. „Da die Bank aber selbst auf die konkrete Anfrage hin nicht nachvollziehbar über die automatisierte Ablehnung informiert habe, sei das Bußgeld fällig geworden“, führt sie weiter aus. Problematisch war also nicht der Einsatz der KI, sondern die „fehlende Transparenz über eine automatisierte Einzelentscheidung“, wie es in der zugehörigen Pressemitteilung vom Berliner Amt für Datenschutz und Informationsfreiheit hieß.

Die DKB hatte schließlich das Bußgeld akzeptiert. Bei der Bußgeldzumessung berücksichtigte die Behörde den hohen Umsatz der Bank sowie die vorsätzliche Ausgestaltung des Antragsprozesses und der Auskunft. Als bußgeldmindernd hingegen wurde eingestuft, dass das Unternehmen den Verstoß eingeräumt hat und das für die Prozesse bereits Verbesserungen angekündigt wurden. In diesem Fall hat ein Unternehmen versagt – und wurde dafür bestraft. Was aber, wenn Mitarbeiter ohne das Wissen ihrer Führungskräfte sensible Daten an eine KI weitergeben? Auch dafür drohen hohe Bußgelder und viele Mitarbeiter nutzen KI ohne das Wissen ihrer Vorgesetzten.

6 von 10 Mitarbeitern nutzen bereits KI im Arbeitsalltag

Die Schweizer Unternehmensberatung Delloitte führt regelmäßig Umfragen und Studien zum Thema KI in der Arbeitswelt durch. Eine Umfrage unter ca. 1.000 Beschäftigten hat jetzt ergeben, das bereits jeder 6. KI aktiv in seinem Arbeitsalltag nutzt. „Diese Quote zeigt einerseits den bereits hohen Implementierungsgrad von Generativer KI im Berufsalltag“, sagt Marc Beierschoder, Leiter der Abteilung Artificial Intelligence and Data Offering bei Deloitte Schweiz. „Mit der breiten Nutzung Generativer KI durch Angestellte geht jedoch auch ein Problem einher, das für Unternehmen große Risiken birgt. Denn in vielen Betrieben wird die KI-Implementierung nicht durch das Management gesteuert und folglich mit klaren KI Richtlinien versehen, sondern geschieht durch die Mitarbeiter selbst – in einem Viertel aller Fälle (26%) sogar ohne das Wissen der direkten Vorgesetzten“, führt er weiter aus.

In vielen Unternehmen fehlen KI Richtlinien

61 Prozent der Befragten gaben an, ihre Firma verfüge nicht über Unternehmensrichtlinien für den Einsatz von KI. 24 Prozent der Befragten geben zudem an, dass die Nutzung von KI in ihrem Betrieb – zumindest vorerst – untersagt ist. Knapp 60 Prozent der Befragten geben an, ihre persönlichen Computer oder Handys bei der Nutzung von Generativer KI für die Arbeit einzusetzen. Für Unternehmen birgt dies große Risiken, etwa im Hinblick auf den Datenschutz oder die Umgehung von etablierten Betriebsprozessen.

Trotz dieser teils unbedarften Nutzung von KI, sind sich viele der Befragten jedoch über mögliche Risiken, die sich für ihren Arbeitgeber durch den Einsatz von KI entstehen können, bewusst. Zwei Drittel halten (67%) falsche, fehlerhafte oder unvollständige Informationen für einen der Hauptnachteile von Generativer KI. 65 Prozent der Befragten haben Bedenken hinsichtlich der Cybersicherheit, 64 Prozent nennen den Datenschutz als Problem und 61 Prozent bemängeln die fehlende Transparenz in Bezug auf die verwendeten Quellen und Informationen bei der Nutzung von KI-Programmen.

Wie können Unternehmen KI sinnvoll in ihre Unternehmensprozesse integrieren?

Für viele Unternehmen wird es ein Learning-by-Doing-Prozess sein. Sie müssen zuerst rechtliche und technologische Grundlagen klären, um sicherzustellen, dass KI-Richtlinien eingehalten und Risiken wirksam gemanagt werden. “Unternehmen können die KI-Implementierung in den Arbeitsalltag nicht einfach ignorieren oder beiläufig vornehmen. Sie müssen vielmehr aktive Prozesse aufbauen, um das volle Potenzial von Generativer KI auszuschöpfen und den beschriebenen Risiken zu begegnen, da viele Mitarbeiter solche Programme bereits nutzen”, sagt Beierschoder von Deloitte Schweiz.

Erst in einem zweiten Schritt geht es dann um Produktivitätssteigerungen, so die Schweizer Studie. Der letzte Schritt bestehe darin, über die unmittelbar sichtbaren Vorteile hinaus eine langfristige Strategie zu definieren. Dafür seien Investitionen notwendig – diese würden sich aber langfristig mehr als bezahlt machen.

eBook

Besser arbeiten mit KI

Das KI Handbuch 2024: Dein Leitfaden für KI in der Arbeitswelt. Expertentipps & Use Cases inklusive!

Jetzt kostenlos herunterladen