Einsatz von KI: Was IT-Unternehmen beachten sollten

Als IT-Unternehmen sind auch wir stetig mit den neuen Entwicklungen und Trends bezüglich künstlicher Intelligenz (KI) konfrontiert – insbesondere wenn es um KIs auf mobilen Geräten geht. Doch das Thema greift viel weiter als die Anwendung nützlicher Apps oder Funktionen auf Smartphones und Tablets — KI hat mittlerweile fast alle Bereiche des täglichen Lebens erreicht.
Anlass genug, um uns im folgenden Artikel einmal kritisch mit KI Anwendungen auseinanderzusetzen. Wir betrachten, was hinter dem Begriff “KI” überhaupt steckt und welche Auswirkungen diese auf den Arbeitsalltag und die Umwelt haben. Im Anschluss bemühen wir uns um eine sachliche Einordnung der Thematik, um Ihnen die Möglichkeit zu geben, die eigene Nutzung von KI abzuwägen.

Künstliche Intelligenz: Was soll das überhaupt sein?

Würde man eine Straßenumfrage durchführen, würden wahrscheinlich 80-90% aller Befragten angeben, sie wüssten, was hinter dem Begriff KI steckt. Doch so einfach ist es nicht: der Begriff “Intelligenz” ist per se abstrakt und es gibt keine allgemeingültige Definition. Gemeinhin wird “Intelligenz” jedoch oft als die Fähigkeit zum Denken, Lernen und Problemlösen verstanden.
Der Grad der Intelligenz wird häufig daran bemessen, wie gut eine Person schlussfolgernd denken, planen, Probleme lösen, komplexe Ideen verstehen und ausführen sowie aus Erfahrungen lernen kann. (Gottfredson, 1997).

Betrachtet man diese Faktoren und bedient dann eine Anwendung wie ChatGPT, entsteht natürlich schnell der Eindruck, dass man es hier mit einer Art Intelligenz zu tun hat. Dennoch handelt die KI nicht aus sich heraus — generiert keine neuen Ideen oder Konzepte, sondern imitiert nur menschliches Handeln und Denken. Die Basis dafür ist eine riesige Menge an Daten, mit der eine KI trainiert werden muss, damit sie Ergebnisse liefern kann.
Bei medizinischen KIs stammen diese Daten beispielsweise aus Patienten Datenbanken, in denen zum Beispiel die Wahrscheinlichkeiten an bestimmten Krebsarten zu erkranken für bestimmte Risikofaktoren und Bevölkerungsgruppen ausgewertet werden können. Andere KIs hingegen beruhen auf Texten und anderen Inhalten, aus denen sie ihre Antworten speisen. Nicht immer geht es dabei datenschutzrechtlich und Copyright technisch mit den richtigen Dingen zu.

Spricht man also von künstlicher Intelligenz, meint man eigentlich ein LLM (= Large Language Model). Diese wenig werbewirksame Bezeichnung wird jedoch nicht verwendet — im Gegenteil haben die Vorreiter der KI Welle, wie der Meta Konzern oder OpenAI von Anfang an mit dem Begriff künstliche Intelligenz geworben, der sich somit schnell zum gehypten Marketingbegriff entwickelte. Viele Unternehmen, gerade Start-Ups springen noch immer auf diesen Zug auf. Was sich dann jedoch konkret hinter ihren Produkten versteckt, bleibt oft obskur und der Mehrwert ebenfalls unklar. Sinnvoll ist es also immer zu schauen: Was will mir hier jemand unter dem Deckmantel “Künstliche Intelligenz” verkaufen?

Typische Einsatzbereiche künstlicher Intelligenz

Der Einfachheit halber verbleiben wir jedoch auch in diesem Artikel beim Begriff KI, um das Thema näher zu beleuchten. Was sind also typische Einsatzgebiete von KI? Wie oben bereits kurz erwähnt, wird KI vorrangig dort eingesetzt, wo große Datenmengen verarbeitet werden müssen, um daraus wichtige Informationen zu ziehen.
Mit menschlicher Arbeit würde die Auswertung von zum Beispiel Krankenakten sonst teilweise mehrere Jahre dauern.
KI kommt aber auch in der Industrie zum Einsatz, zum Beispiel bei optischen Inspektionen, Prozessanalysen, Predictive Maintenance und Energiemanagement. Ein weiteres Anwendungsgebiet stellt die Administration dar, wo KIs, wie z.B. Chatbots, die eine erste Kundenschnittstelle bilden können.

Auch E-Mail-Programme, die E-Mails automatisch nach Anliegen gruppieren oder auch die Personalplanung erleichtern können, sind beliebte Einsatzgebiete. Auch in der Pflege kommt KI längst zum Einsatz, wenn etwa Assistenzroboter oder Spracherkennungssysteme eingesetzt werden. Wir alle kennen KIs außerdem aus unserem Alltag. Das beste Beispiel sind E-Commerce Seiten, die uns personalisierte Produktempfehlungen anzeigen, oder virtuelle Shopping Berater bereitstellen. Auch anderswo kommt KI vor: beim autonomen Fahren, digitalen Sprachassistenten, Smartphone Gesichtserkennung und noch mehr. KIs sind also grundsätzlich nicht mehr aus unserem Alltag wegzudenken. Dennoch beruhen alle diese Anwendungen nicht auf echter Intelligenz, sondern auf einem automatisierten Lernprozess, der nur stattfindet, weil Benutzer*innen ihre Daten bereitstellen.

KI in der Arbeitswelt: Welche Auswirkungen gibt es wirklich?

Seit Beginn des KI-Hypes wird befürchtet , dass dadurch ganze Berufszweige, “vorzugsweise” die der Kreativbranche verschwinden oder sich zumindest komplett wandeln. Ganz so einfach ist es jedoch nicht. Natürlich müssen Arbeitnehmer*innen sich auf großflächige Veränderungen einstellen und die, die es nicht können (oder wollen), werden über kurz oder lang andere Positionen bekleiden. Dennoch ist ein Friss-oder-Stirb Gedanke zu kurz gedacht: Denn, ja KI kann vieles “übernehmen”, jedoch zeigt sich immer wieder, dass die verschiedenen KIs nach wie vor fehleranfällig sind.

Bestes Beispiel sind Meldungen über KI-generierte Berichte, bei denen der Großteil der angegebenen Daten und Prognosen schlichtweg falsch waren. Dasselbe gilt auch für kreative Berufe, die gerne totgesagt werden, schließlich könne jede*r mit KI nun Illustrationen, Design — ja sogar ganze Websites generieren. Ganz zu schweigen davon ob es ethisch vertretbar ist, die kreative Leistung anderer zu „ernten“, ohne diese dafür zu kompensieren, liegt das Problem jedoch auch noch woanders:
KIs können derzeit nicht iterieren. Das bedeutet, gebe ich der KI einen kreativen Auftrag und muss im Anschluss nur einige wenige Details ändern, ist das Ergebnis nicht überzeugend, dass das Konzept einer kreativen Iteration nicht “verstanden” wird. Die KI generiert jeden Inhalt jedes Mal aufs Neue. Deshalb ist es sinnvoll, wenn überhaupt nur grundlegende kreative Dinge von einer KI generieren zu lassen und dann selbstständig weiterzumachen, was wiederum bedeutet, dass diejenige die den Prompt schreibt trotzdem Expert*in auf ihrem Gebiet sein muss.
Nur mit KI geht es also nicht.

Auch in der Markenbildung beobachten wir mehrere kritische Entwicklungen. Zum einen, springen viele Firmen auf neue KI-Trends auf, sodass zum Beispiel Grafiken auf der Webseite, Social Media Posts oder Marketingmaterialien sehr ähnlich aussehen. Abgesehen davon, dass dies immer von mangelnder Kreativität zeugt, sollten Unternehmen es sich in der heutigen Aufmerksamkeitsökonomie überlegen, ob sie es sich leisten können, aus hunderten ähnlich aussehenden Firmen nicht herauszustechen.

Zum anderen wissen natürlich auch die Konsumenten, dass mit der Nutzung von KI-generierten Inhalten das Hauptziel der Firmen ist, Geld zu sparen. Mit den Einsparungen im Design durch KI wird Design als Produkt degradiert, dass nur noch so schnell und billig wie möglich produziert werden soll – das bei Gestaltung aber nicht funktioniert, da Design von Psychologie und Empathie (z.B. UX Design) lebt und KI die menschliche Komponente nicht auswerten kann. Ohne Menschen wird auch an Qualität eingespart, was sich wiederum auf den Ruf der Marke auswirkt – die niedrige Qualität fällt nämlich auf: 62% der Konsumenten lehnen Produkte ab, wenn KI im Marketing genutzt wird, wie eine Studie von Yahoo zeigt. Dadurch, dass KI zudem omnipräsent ist, löst schon die alleinige Erwähnung von KI bei vielen Nutzer*innen eine “AI Fatigue” aus. Der Begriff bezeichnet dabei, dass Menschen KI leid sind.

Grundsätzlich spricht für den Einsatz von KI, dass standardisierte Prozesse beschleunigt werden können. Und viele Unternehmen setzten auch schon vor dem KI-Boom LLMs ein, wie wir oben bereits beschrieben haben. Der Einsatz von KI kann Zeit sparen und Ressourcen für andere Aufgaben schaffen, sollte aber echte Expertise nicht ersetzen.

KI und der Datenschutz: Volles Risiko?

Aufgrund des anhaltenden KI- Booms sehen sich verständlicherweise viele Unternehmen dazu angehalten, ebenfalls KI-Anwendungen zu nutzen. Auf der anderen Seite kann man KIs auch sowieso kaum noch entkommen, denn sie sind oft bereits integraler Bestandteil von neuen Laptops und Smartphones. Dennoch ist es wichtig, sich vor Augen zu führen, dass eine KI nur mit den Daten des Unternehmens und der Mitarbeitenden laufen kann. Das bedeutet, man muss sie mit eigenen Daten füttern, um überhaupt passende Ergebnisse zu erhalten.
Doch wo zieht man die Grenze? Wie findet man für sein Unternehmen die Best Practice in Bezug auf den Datenschutz? Welche KIs sollen Mitarbeitende nutzen (dürfen)? Und: Was bleibt weiterhin verboten?
All diese Fragen sollten sich Unternehmen stellen, um nicht in Konflikt mit der DSGVO zu geraten.

Verstoßen KIs gegen die DSGVO?

Grundsätzlich gibt es hier zwei Problemfelder die beachtet werden müssen:
Zum einen, die Verarbeitung von Kund*innen-oder Mitarbeiter*innen Daten mithilfe einer KI durch das Unternehmen, z.B. bei personalisierten Angeboten, zum anderen der Einsatz von KI im Unternehmen zur Arbeit mit firmeninternen Daten.

Obwohl der Begriff “künstliche Intelligenz” nicht explizit in DSGVO vorkommt, ist diese jedoch so formuliert, dass sie “technologieneutral” ist. Das bedeutet, dass auch neuere Technologien mit eingeschlossen sind.

Möchten Firmen eine eigene generative KI, also eine KI, die aus vorhandenen Daten eigene, originale Inhalte generiert, trainieren, zum Beispiel einen Chatbot, müssen sie beachten, dass die Verarbeitung personenbezogener Daten immer unter die DSGVO fällt.
Das bedeutet, dass auch Bestandsdaten nicht einfach zum trainieren einer KI genutzt werden dürfen, da deren Erfassung ursprünglich zu einem anderen Zweck geschah. Nutzer*innen müssten demnach noch einmal ein explizites Einverständnis geben — indem sie zum Beispiel geänderten AGBs zustimmen. Bei der Verarbeitung von gekauften oder durch Scraping gewonnen Daten, kann dieses Einverständnis in der Regel jedoch nicht eingeholt werden, weil die Inhaber*innen der Daten dem Unternehmen in der Regel nicht bekannt sind.
Um eine interne KI rechtskonform trainieren zu können, liegt die Lösung darin, anonymisierte oder aggregierte Daten zu verwenden, die keine Rückschlüsse mehr auf einzelne Individuen zulassen. Zusätzlich müssen unter anderem die Datenschutzhinweise und die Verarbeitungshinweise des Unternehmens angepasst werden.

Darüber hinaus birgt der Einsatz von KIs in Unternehmen weitere Fallstricke, die im Ernstfall teuer werden können: Mangelnde Transparenz in Bezug auf die Datenverarbeitung, Verletzung des Rechts auf Löschung und die automatisierte Entscheidungsfindung ohne explizite Zustimmung des Nutzers. Auch die Sicherheit der Daten ist nicht immer gewährleistet, da KI-Systeme anfällig für Cyberangriffe sein können. In Haftungsfragen kann die KI natürlich nicht belangt werden, sollten sich durch automatisierte Entscheidungen Datenschutzverstöße ergeben. Dementsprechend müssen Unternehmen Verantwortlichkeiten festlegen. Für mehr Datenschutz können KIs auch lokal gehostet werden.

Große Datenschutzbedenken gibt es auch in Bezug auf den Einsatz von externen KI-Tools in Unternehmen, die zum Beispiel verwendet werden, um Texte zu verfassen, Photos und Grafiken zu bearbeiten oder Business – Forecasts zu erstellen. Viele dieser Anwendungen laufen auf US-basierten Cloud Servern, wo nicht immer gewährleistet werden kann, dass diese alle DSGVO-Vorschriften einhalten. Mit dem EU AI Act von 2024 will die EU einen wichtigen Schritt bei der Regulierung von KI-Anwendungen gehen. Ziel ist es unter anderem, dass auch kleine und mittelständische Unternehmen Risiken beim Einsatz von KI schnell und zuverlässig identifizieren können und zumindest ein Stück weit geschützt sind.

KI Anwendungen: Nicht alles Gold, was glänzt

Beim Einsatz von KI Anwendungen in Unternehmen muss nicht nur der Datenschutz beachtet werden. Die meisten KIs wurden mit einer schier unendlichen Masse an Daten trainiert — deren Erhebung nicht immer nachvollziehbar ist. Dies bedeutet, dass KIs unter Umständen das Urheberrecht verletzen können, zum Beispiel wenn bereits existierende Marken und Slogans für eine neue Firma vorgeschlagen werden oder Content fast identisch reproduziert wird.
Hier liegt es jedoch auch in der Verantwortung der Nutzer*innen, dass diese eben nicht von der KI eine blanke Kopie erfolgreicher Brandingmaßnahmen erstellen lassen.

Weiterhin sollten möglichst wenig interne und sensible Informationen an eine KI weitergegeben werden – da diese wiederum zum Training verwendet werden können. Bei der Erhebung interner Statistiken sowie zur Erstellung von Berichten oder anderweitigen Texten sollten die Fakten, die die KI angibt, immer überprüft werden. KI können Daten auch “halluzinieren” oder Zusammenhänge darstellen, wo keine sind und damit die Angaben verfälschen.

Im Konkurrenzkampf der Unternehmen ist zudem darauf zu achten, dass KIs nicht missbräuchlich eingesetzt werden, um zum Beispiel falsche oder irreführende Informationen über Konkurrenzunternehmen zu verbreiten. Auch für Unternehmen braucht es also interne Richtlinien zum richtigen Umgang mit KI-Anwendungen. Wichtig ist auch hier, dass Unternehmen abwägen, welche Anwendungen sie wirklich benötigen und diese auf deren Compliance mit den Unternehmensrichtlinien überprüfen. Zusätzlich müssen Mitarbeitende im Umgang mit KI-Anwendungen geschult werden. In Bereichen mit besonders hohen Datenschutzanforderungen sollten KIs unserer Empfehlung möglichst gar nicht eingesetzt und auch auf mobilen Geräten deaktiviert werden. Wie Sie das umsetzen können, haben wir in diesem Artikel zusammengefasst.

Fazit:

Ob der KI-Hype nur eine Blase ist oder uns langfristig begleiten wird, ist derzeit nicht absehbar. Dennoch müssen Arbeitnehmer*innen und Unternehmen sich auf die Neuerungen, die mit dem Einsatz von KI einhergehen, vertraut machen, um den Anschluss nicht zu verlieren. Aus Datenschutzperspektive sollte man jedoch nicht jede Aufgabe, die im Unternehmen anfällt, in die Hände einer KI legen. Am Ende benötigt jeder Output der KI dennoch noch eine Person, welche die Ergebnisse mit Expertise einordnen und kontrollieren kann. Es ist zudem grundsätzlich empfehlenswert, eine interne Richtlinie für den Umgang mit KI zu formulieren, die auch festhält, welche Anwendungen in welchem Umfang genutzt werden dürfen und welche nicht. Unternehmen sollten sich zudem bewusst machen, dass mit dem Einsatz von KI neue rechtliche Herausforderungen auf sie zukommen. Außerdem stellt der Einsatz von KI gerade für die Markenbildung ein zweischneidiges Schwert dar: es wird zwar Geld und Zeit gespart, doch Nutzer*innen oder potenzielle Kund*innen nehmen dies oft als wenig authentisch und vertrauenserweckend wahr.