Der Vortrag sollte beeindrucken. PowerPoint offen, der Projektor surrt. Die Folie zeigt ein schönes Zitat. „Das stammt aus meinem letzten KI-Chat“, sagt die Mitarbeiterin stolz. „Ich hab das mit ChatGPT ausgearbeitet.“
Die Hand eines Zuhörers geht hoch: „Übrigens … dieser Chat ist bei Google auffindbar. Ich hab ihn gerade gefunden.“
Eisige Stille. Gesicht wird blass. Denn im gleichen Chat stehen auch: Namen. Interne Details. Geschäftliche Infos. Ein Link zu einem internen Server. Alles live alles für die Welt sichtbar.
Google als Datensammler
Was viele nicht wissen: Google scannt das Internet automatisch nach neuen Inhalten auch nach geteilten ChatGPT-Gesprächen, wenn man sie über einen „öffentlichen Link“ freigibt. Und genau das ist in zehntausenden Fällen passiert. Der Trick ist banal: Man gibt bei Google einfach ein:
site:chatgpt.com/share Passwort
Was man findet, sind manchmal echte Datenschätze. Aber nicht im positiven Sinn.
→ Namen, Kündigungen, API-Zugangsschlüssel (das sind geheime digitale Schlüssel, die Systemzugriff erlauben, quasi wie ein Hauptschlüssel fürs digitale Haus), Geschäftsideen, Diagnosen alles offen zugänglich.
Was ist technisch passiert?
OpenAI, der Betreiber von ChatGPT, führte eine Funktion ein: „Geteilter Link“ ein Button, mit dem man einen Gesprächsverlauf als Link freigeben konnte. Was viele übersehen haben: Wer beim Erstellen des Links ein kleines Häkchen setzte (teils unbemerkt), erlaubte damit, dass Suchmaschinen wie Google den Inhalt erfassen. Dieser Vorgang heißt „Indexierung“ das bedeutet, dass der Inhalt in den Google-Suchergebnissen auftauchen kann.
Das Problem: Die wenigsten wussten, dass ihre Inhalte so öffentlich werden. Und noch weniger wussten, dass dieser Link nicht mehr gelöscht werden kann, wenn er einmal im Internet gelandet ist zumindest nicht sofort.
Sicherheitslücke inzwischen geschlossen
Am 1. August 2025 kündigte OpenAI an, die Funktion zu entfernen, die es erlaubte, einen Chat für Suchmaschinen sichtbar zu machen. Das "discoverable"-Checkbox, mit der Google, Bing & Co Zugriffsrechte bekamen, wurde abgeschaltet. Zudem arbeitet OpenAI aktiv daran, bereits indexierte Chats aus den Suchmaschinen entfernen zu lassen.
Wichtig: Die Funktion war opt‑in und nicht automatisch aktiv aber viele Nutzer aktivierten sie unbewusst oder ohne Rücksicht. Die Konsequenz: Link permanent im Netz auch wenn der Chat selbst gelöscht wird.
Chatten ist kein Tagebuch
Viele behandeln ihren KI-Chat wie ein privates Notizbuch. Man tippt rein, was einem durch den Kopf geht. Verträge, Kündigungen, persönliche Sorgen, sogar Passwörter (leider). Doch ChatGPT ist kein geschlossener Raum es ist ein digitaler Kommunikationskanal. Und wenn du teilst, dann öffentlich nicht „nur kurz mit der Kollegin“.
Warum das brandgefährlich ist
Aus Sicht der IT-Sicherheit ist das ein Super-GAU:
Vertraulichkeit verletzt: Interne Infos plötzlich öffentlich.Integrität gefährdet: Inhalte könnten von Dritten übernommen, verändert, falsch zitiert werden.Verfügbarkeit ausgenutzt: Angreifer könnten durch öffentliche Inhalte Rückschlüsse auf Systeme, Schwächen oder Ansprechpartner ziehen.
Und aus Sicht des Datenschutzes (z. B. nach DSGVO): Sobald personenbezogene Daten auftauchen Namen, Diagnosen, E-Mails wird es kritisch. Denn dann sprechen wir über einen möglichen Datenverstoß mit allen Konsequenzen.
Warum das auch normativ relevant ist: ISO 27001, DSGVO, TISAX & Co.
Spätestens hier wird klar: Das ist kein Einzelfehler sondern ein strukturelles Problem, wenn Unternehmen keine klaren Regeln zur Nutzung von KI-Tools wie ChatGPT haben. Und genau das fordern alle relevanten Normen von der Informationssicherheit bis zum Qualitätsmanagement.
Was schreibt ISO/IEC 27001 konkret vor?
In der Norm ISO/IEC 27001:2022, die den internationalen Standard für Informationssicherheit definiert, finden sich gleich mehrere Kontrollmaßnahmen, die durch den Vorfall mit öffentlichen Chat-Links direkt betroffen sind:
Maßnahme (Annex A): A.5.10 Acceptable use of information and assets
Bedeutung & Bezug zur ChatGPT-Freigabe: Es muss geregelt sein, wie Informationen verarbeitet werden dürfen z. B. in Chat-Systemen.
A.8.9 Information transfer: Informationen, die außerhalb der Organisation übermittelt werden (wie z. B. durch einen geteilten Link), müssen geschützt und kontrolliert werden.
A.7.2 Information classification and labelling:Informationen müssen bewertet und klassifiziert werden (vertraulich, intern etc.) das wurde in vielen KI-Chats übergangen.
A.6.1 Policies for information security: Eine klare Policy (Richtlinie) zur Nutzung von KI gehört heute zum Pflichtprogramm insbesondere zur Kontrolle externer Tools.
→ Wenn ein Unternehmen keinen Prozess zur Prüfung und Freigabe externer KI-Dienste hat, verstößt es gegen zentrale Kontrollen der ISO 27001.
Was fordert TISAX?
Auch der TISAX-Standard (Trusted Information Security Assessment Exchange), insbesondere relevant für die Automobilbranche, stellt im Modul "Information Handling" Anforderungen an:
VertraulichkeitseinstufungZugriffskontrolleTransparenz bei externer Verarbeitung
Ein öffentlich geteiltes KI-Gespräch mit vertraulichen Daten würde bei einem TISAX-Audit sofort als Abweichung gewertet.
DSGVO & Technisch-organisatorische Maßnahmen (TOMs)
Gemäß Art. 32 DSGVO müssen Unternehmen „geeignete technische und organisatorische Maßnahmen“ treffen, um personenbezogene Daten zu schützen. Das bedeutet konkret:
Tools wie ChatGPT dürfen nicht unkontrolliert genutzt werden, wenn personenbezogene Daten eingegeben oder verarbeitet werden.Es braucht Verarbeitungsverzeichnisse, klare Freigaben und ggf. AV-Verträge mit Anbietern was bei externen KI-Diensten oft fehlt.
Qualitätsmanagement nach ISO 9001
Auch die ISO 9001 (QM) schreibt unter Kapitel 6.1 die Bewertung von Risiken und Chancen bei der Einführung neuer Technologien vor insbesondere wenn diese Auswirkungen auf die Qualität von Produkten oder Dienstleistungen haben.
→ Wer KI-Tools wie ChatGPT in interne Prozesse integriert, muss die Risiken dokumentieren, bewerten und gegensteuern. Das Teilen von Inhalten ohne Freigabeverfahren wäre hier ein Prozessfehler mit hohem Reifegradverlust.
Handlungsempfehlung für Unternehmen (konform zu ISO 27001 & DSGVO):
KI-Nutzungsrichtlinie (KI Policy) erstellen: Klar regeln, welche Tools erlaubt sind, was eingegeben werden darf, und wie Inhalte verarbeitet werden. → Bezug zu A.5.10 und A.6.1 ISO 27001KI-Tool-Freigabeverfahren einführen: Neue KI-Systeme dürfen erst nach Risikobewertung und Datenschutzprüfung eingesetzt werden. → Bezug zu Art. 32 DSGVO + ISO 9001, Kap. 6.1Mitarbeiter sensibilisieren und schulen: z. B. mit Awareness-Kampagnen und verpflichtenden KI-Schulungen. → Bezug zu ISO 27001 A.7.2 & A.6.3Technische Vorkehrungen treffen: Nutzung von ChatGPT kann z. B. nur im Unternehmensnetz mit bestimmten Content-Filtern oder ohne Teilen-Option erlaubt werden. → Bezug zu ISO 27001 A.8.9Auditierung & Kontrolle: Nutzung von KI-Diensten regelmäßig auf Sicherheits- und Datenschutzkonformität prüfen (z. B. in internen Audits oder TISAX Assessments). → Bezug zu ISO 27001 Kap. 9 & 10
Handlungsempfehlungen für Organisationen
KI-Policy aufstellen, Wer darf ChatGPT nutzen, für welche Inhalte, mit welchen Einschränkungen?Schulungen anbieten, Mitarbeitende müssen verstehen, wie KI funktioniert und wo Risiken lauern.Freigabeprozess für KI-Tools etablieren, Jede neue Plattform braucht Datenschutzprüfung & technische Bewertung.Teilen-Funktion technisch sperren oder einschränken, z. B. durch Netzwerkregeln oder Browser-ErweiterungenArchivdienste aktiv prüfen, Tools wie die Wayback Machine gezielt nach Firmenbezug durchsuchen.
Der vergessene IT-Hack
Viele Tools wie Wayback Machine, Google Cache oder sogar kleinere Suchdienste wie Yandex speichern ChatGPT-Inhalte selbst wenn du sie längst gelöscht hast.
Das bedeutet: Auch wenn du heute einen öffentlichen Link entfernst, kann er in Archivsystemen noch jahrelang abrufbar sein. Wer dich gezielt ausspionieren will als Konkurrent oder Angreifer kann in der Zeit zurückreisen.
Praxistipp: So findest du eigene Leaks
Teste mal:
site:chatgpt.com/share "Dein Firmenname"
site:chatgpt.com/share "Vertraulich"
site:chatgpt.com/share "API-Key"
Wenn du Treffer bekommst: Sofort löschen. Screenshots machen. Archivdienste prüfen. Awareness starten.
Teilen heißt nicht immer Teamwork, manchmal heißt es Kontrollverlust.
Was als „schnelle Hilfe“ gedacht war ein geteiltes ChatGPT-Gespräch kann zum Sicherheitsproblem werden. Für dich persönlich. Für dein Unternehmen. Für deine Kunden.
Denn in Zeiten von KI gilt mehr denn je:
Wer Daten produziert, muss wissen, wo sie landen.
← Alle Beiträge