Vorsicht bei Prompt-Eingaben: Warum KI-Nutzung im Unternehmen klare Regeln braucht
Künstliche Intelligenz ist längst im Arbeitsalltag angekommen. Texte werden zusammengefasst, Ideen entwickelt, E-Mails formuliert, Dokumente geprüft oder Informationen recherchiert. Das kann enorm hilfreich sein. Aber es kann auch gefährlich werden, wenn Mitarbeitende unüberlegt Daten in KI-Systeme eingeben.
Der wichtigste Grundsatz lautet deshalb: Erst denken, dann eingeben. Denn ein guter Prompt verbessert zwar die Antwort. Eine falsche oder ungeprüfte Eingabe kann aber Datenschutz, Vertraulichkeit und Informationssicherheit gefährden.
 |
KI kann im Arbeitsalltag helfen – aber nur, wenn klar ist, welche Daten eingegeben werden dürfen und welche nicht.
Warum gute KI-Antworten gute Daten brauchen
Auch die beste KI kann nur mit den Informationen arbeiten, die ihr zur Verfügung stehen. Viele kennen die Situation: Die Antwort klingt sprachlich überzeugend, wirkt logisch und ist sauber formuliert. Erst im fachlichen Austausch zeigt sich dann, dass der Inhalt unvollständig, falsch oder zu oberflächlich ist.
Das Problem liegt oft nicht nur am KI-System. Häufig fehlen Kontext, belastbare Quellen oder unternehmensspezifische Informationen. Genau deshalb entsteht schnell der Gedanke: Dann geben wir der KI eben mehr Daten.
Unternehmensdaten in Prompts: sinnvoll, aber nicht grenzenlos
Zusätzliche Daten können die Qualität einer KI-Antwort deutlich verbessern. Das gilt zum Beispiel für interne Richtlinien, Prozessbeschreibungen, Projektinformationen oder fachliche Unterlagen.
Aber genau hier beginnt das Risiko. Nicht jede Information aus dem Unternehmen darf automatisch in ein KI-System eingegeben werden. Manche Datenbestände sind vertraulich, personenbezogen, geschäftskritisch oder durch interne Vorgaben ausdrücklich von der KI-Nutzung ausgeschlossen.
Wer solche Informationen trotzdem in einen Prompt kopiert, um eine bessere Antwort zu erhalten, umgeht möglicherweise interne Regeln. Das ist kein kleiner Formfehler. Es kann ein Datenschutz- und Compliance-Problem werden.
Daten aus dem Internet: hilfreich, aber nicht automatisch vertrauenswürdig
Viele KI-Nutzungen beginnen mit externen Informationen: Webseiten, PDFs, Blogartikel, Forenbeiträge oder öffentlich verfügbare Dokumente. Auch hier gilt: Die Qualität der Antwort hängt an der Qualität der Daten.
Eine einfache Kontrollfrage hilft: Wäre es unangenehm, später erklären zu müssen, woher die verwendeten Informationen stammen?
Wenn ja, sollte die Quelle nicht ungeprüft in die KI-Nutzung einfließen. Unternehmen sollten nachvollziehbar dokumentieren, welche Quellen genutzt wurden und warum sie für die jeweilige Aufgabe geeignet sind.
Warum externe Inhalte sogar gefährlich sein können
Bei KI-Systemen kommt eine Besonderheit hinzu: In einem Prompt können sowohl Daten als auch Arbeitsanweisungen stehen. Genau diese Vermischung ist eine zentrale Schwachstelle.
Ein Text kann für Menschen harmlos aussehen, aber versteckte Anweisungen enthalten, die ein KI-System verarbeitet. Beispiele sind unsichtbarer Text, manipulierte Webseiten, präparierte Dokumente oder Inhalte, die ausdrücklich darauf abzielen, die KI von ihrer eigentlichen Aufgabe abzubringen.
Diese Angriffsklasse wird als Prompt Injection bezeichnet. Besonders kritisch sind sogenannte Indirect Prompt Injections. Dabei stammen die manipulativen Anweisungen nicht direkt vom Nutzer, sondern aus externen Inhalten, die das KI-System verarbeitet. Das BSI warnt seit 2023 ausdrücklich vor diesem Angriffsvektor bei anwendungsintegrierten KI-Sprachmodellen.
KI-Agenten verschärfen das Problem
Noch kritischer wird es bei KI-Agenten. Sie können Quellen selbstständig suchen, Inhalte auswerten, Daten zusammenführen oder sogar Aktionen auslösen. Je mehr ein KI-System darf, desto größer wird das Risiko, dass manipulierte externe Inhalte eine unerwünschte Wirkung entfalten.
Das Problem ist nicht, dass KI-Agenten grundsätzlich gefährlich sind. Das Problem ist fehlende Steuerung: Welche Quellen dürfen genutzt werden? Welche Aktionen darf das System ausführen? Wann braucht es menschliche Freigabe? Welche Daten dürfen niemals verarbeitet werden?
Das BSI beschreibt Indirect Prompt Injections als intrinsische Schwachstelle anwendungsintegrierter großer Sprachmodelle. Genau deshalb sollten Unternehmen das Risiko nicht ignorieren, aber auch nicht überdramatisieren. Entscheidend sind klare Grenzen und kontrollierte Nutzung.
Was Unternehmen konkret regeln sollten
Unternehmen sollten KI-Nutzung nicht dem Zufall überlassen. Es reicht nicht, Mitarbeitenden zu sagen: „Nutzt KI vorsichtig.“ Diese Vorgabe ist zu unkonkret.
Sinnvoll sind klare Regeln, zum Beispiel:
- Welche Daten dürfen in KI-Systeme eingegeben werden?
- Welche Daten sind ausgeschlossen?
- Welche KI-Tools sind freigegeben?
- Welche Quellen dürfen für Recherchen genutzt werden?
- Wann ist eine menschliche Prüfung verpflichtend?
- Wie werden Ergebnisse dokumentiert und bewertet?
- Welche Aufgaben dürfen KI-Agenten selbstständig ausführen?
Passend dazu lesen Sie auch unsere Beiträge KI-Kompetenz – warum ist sie nötig? und KI-Systeme & Datenschutz – Anforderungen an Governance und Datenkontrolle.
Warum das auch ein Thema für NIS2, ISO 27001 und TISAX ist
KI-Nutzung ist nicht nur eine Frage der Effizienz. Sie betrifft Datenschutz, Informationssicherheit, Zugriffskontrolle, Vertraulichkeit, Lieferketten und Nachweisfähigkeit.
Genau deshalb passt das Thema in Managementsysteme wie ISO 27001 und TISAX sowie in die Governance-Diskussion rund um NIS2. Unternehmen müssen nicht nur Tools bereitstellen, sondern festlegen, wie Informationen geschützt, Risiken bewertet und Verantwortlichkeiten geregelt werden.
Fazit: Erst denken, dann eingeben
KI kann im Unternehmensalltag großen Nutzen bringen. Aber dieser Nutzen entsteht nicht durch blindes Kopieren möglichst vieler Daten in ein Eingabefeld. Er entsteht durch klare Regeln, bewusste Quellenwahl, geschulte Mitarbeitende und kontrollierte Prozesse.
Die richtige Frage lautet deshalb nicht: „Wie bekommen wir die beste KI-Antwort?“
Sondern: „Welche Daten dürfen wir der KI überhaupt geben – und unter welchen Bedingungen?“
Sie möchten klare Regeln für den sicheren KI-Einsatz in Ihrem Unternehmen schaffen?
Wir unterstützen Unternehmen dabei, KI-Nutzung datenschutzkonform, sicher und praxistauglich zu organisieren – von Richtlinien über Awareness bis zur Einbindung in ISO 27001, TISAX und NIS2.
Jetzt Kontakt aufnehmen
