Gefährliches Halbwissen: Warum Sie Ihre Sicherheitslücken niemals ChatGPT oder Cloud-KIs anvertrauen dürfen
Von DataWil Tech · Veröffentlicht am · aktualisiert am · 12 Min. Lesezeit · Cybersecurity
Die Erkenntnis setzt sich durch: Unternehmen müssen ihre Sicherheitslage aktiv analysieren, statt auf den nächsten Vorfall zu warten. KI kann dabei helfen, Schwachstellen schneller und systematischer zu identifizieren. Das ist die richtige Schlussfolgerung aus der aktuellen Bedrohungslage.
Doch bei der Umsetzung passiert vielen Unternehmen ein gravierender Fehler. Sie nehmen ihre sensibelsten Daten und laden sie in genau die Systeme hoch, die sie am wenigsten kontrollieren können.
Was in der Praxis geschieht
Die Szenarien sind alltäglicher, als man vermuten würde:
- Ein Entwickler kopiert einen Abschnitt des Quellcodes in ChatGPT und fragt: „Findest du hier eine Sicherheitslücke?"
- Ein IT-Administrator fügt Systemprotokolle in eine Cloud-KI ein, um ungewöhnliche Muster erkennen zu lassen.
- Ein Sicherheitsverantwortlicher lädt eine Netzwerkskizze hoch und bittet das Modell um eine Bewertung der Architektur.
- Ein Geschäftsführer beschreibt die IT-Infrastruktur seines Unternehmens in einem Chat-Dialog, um eine erste Einschätzung zu erhalten.
In jedem dieser Fälle werden Informationen, die zu den sensibelsten eines Unternehmens gehören, an einen externen Dienst übermittelt. Nicht an einen beauftragten Dienstleister mit Vertraulichkeitsvereinbarung, sondern an eine öffentlich zugängliche KI-Plattform eines US-amerikanischen Anbieters.
Das Paradox: Die Sicherheitsanalyse wird selbst zum Sicherheitsrisiko
Die Ironie ist offensichtlich, aber ihre Tragweite wird häufig unterschätzt.
Quellcode enthält die Logik einer Anwendung. Wer den Quellcode kennt, kennt die Architektur, die Datenflüsse, die Authentifizierungsmechanismen und potenziell die Schwachstellen. Systemprotokolle enthalten Informationen über eingesetzte Software, Versionen, Konfigurationen und Fehlermuster. Netzwerkskizzen zeigen, welche Systeme existieren, wie sie verbunden sind und wo die Schnittstellen liegen.
Jede dieser Informationen ist für einen Angreifer wertvoll. Zusammengenommen ergeben sie eine detaillierte Karte der Schwachstellen eines Unternehmens. Und genau diese Karte wird an einen externen Dienst übermittelt, über den das Unternehmen keine Kontrolle hat.
Was mit den Daten geschehen kann
Öffentliche KI-Dienste wie ChatGPT, Claude, Gemini oder vergleichbare Angebote werden von Unternehmen betrieben, die eigenen Geschäftsinteressen folgen. Die Nutzungsbedingungen regeln, was mit den eingegebenen Daten geschieht, und sie ändern sich regelmäßig.
Trainingsdaten
Mehrere Anbieter haben in der Vergangenheit Nutzereingaben zum Training ihrer Modelle verwendet oder sich das Recht dazu in ihren Nutzungsbedingungen vorbehalten. Auch wenn einzelne Anbieter mittlerweile Opt-out-Möglichkeiten anbieten: Die Standardeinstellung ist häufig die Nutzung der Daten, und die Opt-out-Mechanismen sind nicht immer offensichtlich oder lückenlos dokumentiert.
Wenn Quellcode oder Systeminformationen in Trainingsdaten einfließen, können Fragmente davon in Antworten an andere Nutzer auftauchen. Das Risiko ist nicht theoretisch: Forscher haben wiederholt gezeigt, dass große Sprachmodelle in der Lage sind, Teile ihrer Trainingsdaten zu reproduzieren.
Datenspeicherung und Zugriff
Eingaben werden auf Servern des Anbieters gespeichert, typischerweise in Rechenzentren außerhalb der EU. Der Anbieter und seine Mitarbeiter haben potenziell Zugriff auf diese Daten, etwa für Qualitätssicherung, Fehlerbehebung oder die Untersuchung von Missbrauch. Bei einem Sicherheitsvorfall beim Anbieter selbst könnten gespeicherte Eingaben in die Hände Dritter gelangen.
Reale Vorfälle
Das bekannteste Beispiel stammt von Samsung. Im Jahr 2023 luden Samsung-Mitarbeiter vertraulichen Quellcode und interne Besprechungsnotizen in ChatGPT hoch. Der Vorfall wurde öffentlich bekannt und führte dazu, dass Samsung die Nutzung externer KI-Dienste für vertrauliche Daten untersagte. Samsung war weder das erste noch das letzte Unternehmen, dem dies passierte, es war lediglich das prominenteste.
Die rechtliche Dimension: DSGVO und Geschäftsgeheimnisse
Die Übermittlung sensibler Unternehmensdaten an Cloud-KI-Dienste hat nicht nur sicherheitstechnische, sondern auch erhebliche rechtliche Konsequenzen.
DSGVO-Verstöße
Wenn Systemprotokolle, Kundendaten oder andere Informationen mit Personenbezug in eine Cloud-KI eingegeben werden, findet eine Datenübermittlung an einen Dritten statt. Bei US-amerikanischen Anbietern handelt es sich zudem um eine Übermittlung in ein Drittland. Ohne angemessene Rechtsgrundlage, Auftragsverarbeitungsvertrag und Sicherstellung eines angemessenen Datenschutzniveaus verstößt dies gegen die DSGVO. Die möglichen Bußgelder sind erheblich: bis zu 20 Millionen Euro oder 4 Prozent des weltweiten Jahresumsatzes.
Verlust des Geheimnisschutzes
Das Geschäftsgeheimnisgesetz (GeschGehG) schützt vertrauliche Geschäftsinformationen nur dann, wenn das Unternehmen angemessene Geheimhaltungsmaßnahmen getroffen hat. Wer Quellcode oder Architekturinformationen in einen öffentlich zugänglichen Dienst eingibt, riskiert, dass diese Informationen ihren Status als Geschäftsgeheimnis verlieren. Im Streitfall, etwa bei einem Wettbewerbsverfahren oder einem Angriff auf geistiges Eigentum, könnte das Unternehmen seinen Schutzanspruch verlieren.
Compliance-Anforderungen
In regulierten Branchen wie Finanzdienstleistungen, Gesundheitswesen oder kritischer Infrastruktur gelten zusätzliche Anforderungen an die Vertraulichkeit und den Umgang mit sensiblen Informationen. Die Nutzung öffentlicher Cloud-KIs für sicherheitsrelevante Analysen kann gegen branchenspezifische Vorschriften verstoßen und aufsichtsrechtliche Konsequenzen nach sich ziehen.
Das Risiko für Angreifer als Chance
Es gibt eine weitere Dimension, die selten diskutiert wird: Angreifer wissen, dass Unternehmen ihre Schwachstellen zunehmend mit Cloud-KIs analysieren. Das eröffnet neue Angriffsvektoren.
Wenn ein Cloud-KI-Anbieter kompromittiert wird oder wenn gespeicherte Nutzereingaben durch eine Sicherheitslücke zugänglich werden, erhalten Angreifer nicht nur allgemeine Kundendaten. Sie erhalten die Schwachstellenanalysen der Unternehmen selbst: welche Systeme eingesetzt werden, wo die bekannten Schwachstellen liegen, welche Architekturentscheidungen getroffen wurden und welche Bereiche das Unternehmen bereits als problematisch identifiziert hat.
Das ist das Äquivalent einer detaillierten Schatzkarte für Angreifer. Und das Unternehmen hat sie freiwillig erstellt und auf einem fremden Server hinterlegt.
Die Lösung: KI-gestützte Analyse im geschlossenen System
Die Antwort ist nicht, auf KI-gestützte Sicherheitsanalyse zu verzichten. Die Fähigkeiten moderner KI-Systeme sind zu wertvoll, um sie aus Sicherheitsbedenken nicht zu nutzen. Die Antwort ist, die richtige Infrastruktur für diese Analyse zu verwenden.
KI-gestützte Sicherheitsanalysen müssen ausnahmslos auf lokalen, isolierten Systemen durchgeführt werden. Das Konzept wird im Französischen als „Circuit Fermé" bezeichnet, ein geschlossener Kreislauf, in dem keine Daten das kontrollierte System verlassen.
Konkret bedeutet das:
- Lokale GPU-Infrastruktur: Die KI-Modelle laufen auf eigener Hardware, nicht in der Cloud. Kein Quellcode, kein Systemprotokoll, keine Netzwerkskizze verlässt den physischen Standort.
- Keine Internetverbindung während der Analyse: Das Analysesystem ist vom Internet getrennt. Es gibt keine Möglichkeit, dass Daten versehentlich oder absichtlich nach außen übermittelt werden.
- Keine Abhängigkeit von Drittanbietern: Die verwendeten KI-Modelle werden lokal betrieben. Es gibt keinen API-Aufruf an OpenAI, Anthropic, Google oder einen anderen externen Dienst.
- Vollständige Datenkontrolle: Das Unternehmen oder sein beauftragter Dienstleister hat die vollständige Kontrolle darüber, welche Daten verarbeitet werden, wo sie gespeichert werden und wann sie gelöscht werden.
- DSGVO-Konformität: Da keine Daten das kontrollierte System verlassen und keine Übermittlung an Dritte oder in Drittländer stattfindet, entfallen die DSGVO-Risiken der Cloud-Nutzung.
Die Frage der Modellqualität
Ein häufiger Einwand lautet: „Sind lokale KI-Modelle nicht schlechter als die großen Cloud-Dienste?"
Diese Frage war vor zwei Jahren berechtigt. Heute ist sie es nur noch eingeschränkt. Die Entwicklung offener KI-Modelle hat in den letzten Jahren enorme Fortschritte gemacht. Modelle, die lokal auf professioneller GPU-Hardware betrieben werden können, erreichen für spezialisierte Aufgaben wie Code-Analyse, Musterverkennung in Protokollen oder die Auswertung strukturierter Informationen eine Qualität, die für eine professionelle Sicherheitsanalyse vollkommen ausreichend ist.
Für die Sicherheitsanalyse eines Unternehmens ist nicht das größte Modell entscheidend, sondern das richtige. Ein spezialisiertes, lokal betriebenes System, das auf die relevanten Aufgaben abgestimmt ist, liefert in der Praxis häufig bessere Ergebnisse als ein allgemeines Cloud-Modell, das für maximale Vielseitigkeit optimiert wurde.
Eine Frage der Verantwortung
Die Entscheidung, wo und wie sicherheitsrelevante Analysen durchgeführt werden, ist keine rein technische Frage. Sie ist eine Frage der unternehmerischen Verantwortung.
Ein Geschäftsführer, der zulässt oder nicht verhindert, dass Quellcode, Systeminformationen und Schwachstellenanalysen in öffentliche Cloud-KIs eingegeben werden, setzt das Unternehmen bewusst einem vermeidbaren Risiko aus. Im Schadensfall stellt sich die Frage, ob angemessene organisatorische und technische Maßnahmen zum Schutz vertraulicher Informationen getroffen wurden.
Die Lösung ist keine Verbotspolitik, die KI-Nutzung generell untersagt. Die Lösung ist eine klare Strategie, die definiert, welche Daten in welchen Systemen verarbeitet werden dürfen, und die für sicherheitsrelevante Analysen eine kontrollierte, lokale Infrastruktur bereitstellt.
Wie DataWil Tech Sie dabei unterstützt
Bei DataWil Tech führen wir alle KI-gestützten Sicherheitsanalysen ausnahmslos auf unserer eigenen, lokal betriebenen GPU-Infrastruktur durch. Kein Quellcode, kein Systemprotokoll, keine Analyse verlässt unsere kontrollierte Umgebung. Wir verwenden keine Cloud-KI-Dienste und übermitteln keine Analyseinhalte an Drittanbieter.
Das bedeutet für Sie: Die Vertraulichkeit Ihrer Daten ist nicht von den Nutzungsbedingungen eines US-amerikanischen Tech-Konzerns abhängig, sondern von einer klaren vertraglichen Vereinbarung mit uns als Ihrem Dienstleister, unter deutschem Recht.
Unsere Analyse kombiniert die technische Prüfung Ihrer öffentlichen Angriffsfläche mit der systematischen Auswertung organisatorischer Informationen. Das Ergebnis ist eine nachvollziehbare Einschätzung mit dokumentierten Beobachtungen, bewerteten Risiken und priorisierten Handlungsempfehlungen, durchgeführt in einer geschlossenen Umgebung, in der Ihre Daten genau dort bleiben, wo sie hingehören: unter Ihrer Kontrolle.
Wenn Sie eine Sicherheitsanalyse benötigen, die Ihre vertraulichen Daten auch tatsächlich vertraulich behandelt, sprechen Sie uns an: info@datawiltech.de
Themen: Cybersecurity, DSGVO, Datenschutz, Cloud-KI, On-Premise, Geschäftsgeheimnisse, Sicherheitsanalyse, KI, Datensouveränität, Compliance