Das Leck ist normaler Arbeitsalltag
Wenn Mitarbeitende Firmendaten in öffentliche KI-Werkzeuge einfügen, können diese Daten die Modelle des Anbieters trainieren und in Antworten anderer Nutzer wieder auftauchen. Dafür braucht es keinen Angreifer.
Vier Belege, alle fremd und mit Quelle:
- In der Wiederaufbaubehörde von New South Wales wurde im März 2025 eine Tabelle mit Namen, Anschriften, Geburtsdaten und sensiblen Angaben in ChatGPT hochgeladen. Die Behörde beziffert 2.031 Betroffene (nsw.gov.au).
- Cyberhaven Labs misst, dass 39,7 % der Eingaben in KI-Werkzeuge sensible Daten enthalten (cyberhaven.com).
- IBM beziffert eine KI-gestützte Datenpanne mit durchschnittlich 6 Mio. US-Dollar (ibm.com).
- Die Europäische Kommission setzt den AI Act durch (digital-strategy.ec.europa.eu).
Fünf Stellen, an denen es passiert
- PII in Mitarbeiter-Prompts. Namen, Adressen, IDs, oft unbewusst kopiert.
- Geschäftsgeheimnisse in „Entwirf mal". Roadmaps, Preismodelle, M&A-Entwürfe als Kontext für ein öffentliches Modell.
- Patient-IDs an externe APIs. Klinik-Workflows ohne Maskierung vor dem Egress.
- Quellcode-Uploads. Entwickler debuggen mit einem Assistenten; das geistige Eigentum verlässt das Haus.
- Vertragsklauseln an Zusammenfasser. NDAs und Rahmenverträge werden Trainingsdaten fremder Modelle.
Was tatsächlich hilft
Eine Sperre verlagert das Leck. Wirksam ist eine Kontrollschicht vor dem Modell: sie klassifiziert jeden Prompt in Echtzeit, ersetzt sensible Entitäten durch stabile Tokens, entscheidet je Datenklasse zwischen erlauben, maskieren, blockieren und lokal verarbeiten, und protokolliert die Entscheidung.
Was das nicht leistet. Geprüft wird, was in die KI geht — nicht, was ein Mensch danach mit der Antwort tut. Und der Kanal ist die KI-Nutzung, nicht E-Mail, USB oder ein abfotografierter Bildschirm.