Schatten-KI in Unternehmen: Unterschätze Gefahren verstehen und rechtzeitig reagieren

Schatten-KI: Steigende Risiken im Verborgenen

Heute nutzen viele Büroangestellte nicht offiziell autorisierte KI-Tools auf ihren Rechnern. Derartige Schatten-KI (engl. „Shadow AI“) entsteht, wenn die Belegschaft KI-Systeme ohne offizielle Genehmigung, Kontrolle oder Aufsicht einsetzt. In Deutschland tun dies bereits 54 Prozent der Wissensarbeiter.

Sie greifen eigenständig auf KI-Tools zurück, um ihre Aufgaben schneller und effizienter zu bewältigen, statt auf die Implementierung durch die IT-Abteilung zu warten. Oft mangelt es an Vertrauen in die von der IT bereitgestellten KI-Tools, die als unzureichend oder leistungsschwach wahrgenommen werden. Die einfache Verfügbarkeit von KI-Tools im Internet senkt zudem die Hürden für den Einsatz von Schatten-KI erheblich. Teams bedienen sich daher vermehrt nicht genehmigter Systeme.  

Die Risiken sind gravierend. Da Schatten-KI außerhalb der IT-Sicherheitsstrukturen operiert, steigt das Potenzial für Datenverlust und Cyberangriffe. Der unautorisierte Einsatz kann rechtliche Konsequenzen nach sich ziehen, besonders in regulierten Branchen, wo strikte Datenschutz- und Ethikvorgaben gelten. Zudem unterliegen Schatten-KI-Systeme oft keiner umfassenden Prüfung, was zu fehlerhaften oder voreingenommenen Ergebnissen führt. Auch lässt sich Schatten-KI nur schwer in bestehende Systeme integrieren, was ineffiziente Arbeitsabläufe, redundante Prozesse und höhere Kosten verursachen kann.

Wie weit verbreitet diese Praxis bereits ist, verdeutlicht die aktuelle Studie „Chasing Shadows – Getting Ahead of Shadow AI“ der Software AG. Dazu hat das Unternehmen im Zeitraum vom 13. – 25.09.2024 insgesamt 6.000 Personen (sogenannte „Wissensarbeiter“) in den USA, UK und Deutschland zur Nutzung von Künstlicher Intelligenz (KI) befragt, davon 2.000 aus Deutschland.

Kernergebnisse:

  • Jeder Zweite setzt sich über KI-Verbot hinweg

Fast die Hälfte (49 Prozent) der deutschen Wissensarbeiter gibt an, dass sie die von ihnen verwendeten KI-Tools auch dann noch verwenden würden, wenn ihr Unternehmen die Nutzung dieser Tools verbieten würde. Vor allem jüngere Altersgruppen und Mitarbeiter in höheren Positionen verwenden die nicht-autorisierten KI-Tools eher weiter.

Dies ist ein deutlicher Indikator für die hohe Bedeutung, die Wissensarbeiter – vor allem in Deutschland – ihrer Eigenständigkeit und Flexibilität bei der Auswahl von KI-Tools beimessen. So betonen 50 Prozent der befragten Deutschen, dass sie ihre Unabhängigkeit bei der Auswahl von KI-Tools als besonders wichtig betrachten. Zudem bemängeln 36 Prozent, dass ihr IT-Team die benötigten Tools nicht bereitstellt.

  • Mehr als die Hälfte der Deutschen haben kein „KI-FOMO“

51 Prozent der befragten Deutschen haben kein „FOMO“ (fear of missing out) und glauben nicht, dass sie etwas verpassen, wenn sie nicht mit KI arbeiten. Im Vergleich zu ihren internationalen Kollegen haben deutsche Wissensarbeiter seltener das Gefühl, etwas zu verpassen, wenn sie KI-Tools nicht regelmäßig nutzen. 51 Prozent der Deutschen stimmen dieser Aussage zu, während der globale Durchschnitt bei 46 Prozent liegt.  

  • Starkes Sicherheitsbewusstsein bei deutschen KI-Anwendern

Im internationalen Vergleich verfügen deutsche Wissensarbeiter im Vergleich zu ihren internationalen Kollegen über ein höheres Sicherheitsbewusstsein bei der KI-Nutzung. So geben 34 Prozent der befragten Deutschen an, sensible Daten vor der Eingabe in ein KI-Tool zu anonymisieren, während der globale Durchschnitt bei 28 Prozent liegt. Dieser Fokus auf Anonymisierung spiegelt die strengen Datenschutzvorgaben in Deutschland wider, die eine zentrale Rolle im Umgang mit KI spielen.

  • KI-Nutzung: Eher Texterstellung als Recherche

Aus dem Sicherheitsbewusstsein deutscher KI-Anwender resultieren andere Nutzungspräferenzen als die ihrer internationalen Kollegen. So nutzen nur 19 Prozent der deutschen Wissensarbeiter (global: 35 Prozent) KI zur Recherche. Deutlich wichtiger ist die KI dagegen für die Erstellung von schriftlichen Inhalten. Jeder zweite
Wissensarbeiter (49 Prozent) setzt sie ein, um schriftliche Inhalte zu erstellen, zu bearbeiten oder zu optimieren. Darüber hinaus nutzen deutsche Wissensarbeiter KI häufiger zur Automatisierung sich wiederholender Aufgaben (37 Prozent im Vergleich zu 34 Prozent weltweit).

 

Was bedeutet das für Unternehmen?

Auf Grundlage der Studie lassen sich klare Handlungsempfehlungen ableiten, wie Unternehmen auf die wachsende Nutzung von Schatten-KI und die damit verbundenen Risiken reagieren können. Durch gezielte Maßnahmen lässt sich nicht nur das Sicherheitsniveau steigern, sondern auch das Potenzial von KI effizienter ausschöpfen und die Nutzung nicht autorisierter Tools reduzieren.

1. Gezielte Schulung zur Förderung der KI-Nutzung

39 Prozent der Wissensarbeiter in Deutschland nutzen KI nicht, da sie nicht wissen, wie sie diese in ihre Arbeitsprozesse einbinden können. Unternehmen sollten daher verstärkt Schulungsprogramme anbieten, die darauf abzielen, den Mitarbeitern praktische Anleitungen zur effektiven Integrion von KI zu bieten. Insbesondere, da 44 Prozent der Wissensarbeiter angeben, dass sie KI häufiger verwenden würden, wenn sie besser geschult wären.

Der Anteil der deutschen Wissensarbeiter, die KI für Recherchen (19 Prozent) und Datenanalyse (33 Prozent) nutzen, ist vergleichsweise gering. Unternehmen sollten verstärkt Tools und Schulungen bereitstellen, um den Mehrwert von KI in diesen Bereichen zu verdeutlichen. Dies kann insbesondere in forschungs- und datenintensiven Aufgabenfeldern Wettbewerbsvorteile bringen

2. Nutzung von KI-Tools für spezifische Aufgaben stärken

In Deutschland wird KI bereits in Bereichen wie der Automatisierung wiederholender Aufgaben (37 Prozent) und Anonymisierung sensibler Daten (34 Prozent) eingesetzt. Unternehmen sollten diesen Trend unterstützen, indem sie geeignete KI-Tools bereitstellen, die solche Aufgaben effizienter gestalten.

3. Hürden für den Einsatz von KI-Tools abbauen

48 Prozent der deutschen Wissensarbeiter wünschen sich, dass KI-Tools besser auf ihre Rolle und Aufgaben zugeschnitten sind. Unternehmen sollten daher stärker auf benutzerfreundliche, firmeneigene KI-Tools setzen, die leicht zugänglich sind. Zudem muss die IT-Abteilung stärker eingebunden werden, um die Einführung dieser Tools aktiv zu unterstützen und den Einsatz von Schatten-KI zu verhindern.

4. Sicherheits- und Datenschutzrisiken proaktiv angehen

Cybersicherheit und Datenschutz sind weiterhin wichtige Themen: 68 Prozent der deutschen Wissensarbeiter sehen Cybersicherheit als großes Risiko, und 71 Prozent haben Bedenken bei der Datenverwaltung. Unternehmen sollten klare Richtlinien und Technologien zur Anonymisierung und Verschlüsselung einführen, um den Einsatz von KI-Tools datenschutzkonform zu gestalten und potenzielle Risiken zu minimieren.

5. Regelmäßige Nutzung und Schatten-KI adressieren

Fast die Hälfte (49 Prozent) der deutschen Wissensarbeiter würde verbotene KI-Tools weiterverwenden, selbst wenn das Unternehmen deren Nutzung untersagt. Dieser Widerstand ist in Deutschland etwas stärker ausgeprägt als in den USA (47 Prozent) und dem Vereinigten Königreich (42 Prozent). Unternehmen sollten klare Richtlinien schaffen und regelmäßige Überprüfungen durchführen, um Schatten-KI zu reduzieren und gleichzeitig sicherzustellen, dass genehmigte Tools die Bedürfnisse der Mitarbeiter erfüllen.

ICS JPG PDF WRD XLS