Lokale KI-Agenten: Wie Unternehmen autonome KI nutzen, ohne die Kontrolle über ihre Daten abzugeben
Von DataWil Tech · Veröffentlicht am · 9 Min. Lesezeit · KI & Software
Die erste Welle der künstlichen Intelligenz in Unternehmen war überschaubar. Mitarbeitende kopierten einen Text in ein Chatfenster, ließen ihn umformulieren und übernahmen das Ergebnis. Die Frage, welche Daten dabei das Haus verlassen, stellte sich zwar, aber sie ließ sich mit einer Richtlinie beantworten: keine Kundendaten, keine Verträge, keine internen Zahlen.
Mit KI-Agenten verändert sich diese Lage grundlegend. Ein Agent wartet nicht darauf, dass ihm jemand einen Text hineinkopiert. Er arbeitet selbstständig mit den Informationen, die er für seine Aufgabe braucht. Er liest eingehende Nachrichten, durchsucht Vertragsarchive, gleicht Rechnungen mit Bestellungen ab und trägt Ergebnisse in Ihre Systeme ein. Damit ein Agent wirklich nützlich ist, muss er genau auf jene Daten zugreifen, die ein Unternehmen am stärksten schützen will. Für Geschäftsführer stellt sich deshalb eine Frage, die weit über die IT hinausgeht: Wo arbeitet dieser Agent eigentlich, und wer hat außer uns noch Einblick?
Vom Chatbot zum Agenten
Ein Chatbot beantwortet Fragen. Ein KI-Agent erledigt Aufgaben. Er zerlegt ein Ziel in einzelne Schritte, ruft dafür Programme und Datenquellen auf, bewertet Zwischenergebnisse und entscheidet, wie es weitergeht. Ein Agent im Einkauf kann zum Beispiel eine Lieferantenanfrage lesen, die passenden Rahmenverträge heraussuchen, Preise mit früheren Bestellungen vergleichen und einen Vorschlag zur Freigabe vorbereiten. Ein Agent in der Rechtsabteilung kann neue Verträge mit den Standardklauseln des Hauses abgleichen und Abweichungen markieren.
Noch leistungsfähiger werden solche Systeme, wenn mehrere spezialisierte Agenten zusammenarbeiten. Einer recherchiert, ein zweiter analysiert, ein dritter fasst zusammen. Dieser Gedanke steht hinter dem, was viele als KI-native Arbeitsweise bezeichnen: Aufgaben werden nicht mehr nur von Menschen erledigt, die gelegentlich ein Werkzeug benutzen, sondern von Teams aus Menschen und Agenten, in denen jeder das übernimmt, was er am besten kann.
Warum Agenten die Datenfrage verschärfen
Je mehr ein Agent tun darf, desto mehr sieht er. Ein Agent für die Wissensverwaltung kennt die internen Handbücher, Projektberichte und Preiskalkulationen. Ein Agent im Personalwesen verarbeitet Bewerbungsunterlagen und damit besonders schützenswerte personenbezogene Daten. Ein Agent im Vertrieb kennt Kundenbeziehungen, Konditionen und Verhandlungsstände. Läuft ein solcher Agent über die Plattform eines externen Anbieters, fließen all diese Informationen fortlaufend in eine Umgebung, die das Unternehmen nicht selbst kontrolliert.
Das muss nicht in jedem Fall ein Problem sein. Viele Anbieter bieten vertragliche Zusicherungen, europäische Rechenzentren und Optionen, bei denen Eingaben nicht zum Training verwendet werden. Dennoch bleibt eine Abhängigkeit. Das Unternehmen muss darauf vertrauen, dass Zusagen eingehalten werden, dass sich Nutzungsbedingungen nicht ändern und dass der Anbieter selbst ausreichend geschützt ist. Für Unternehmen mit sensiblen Kundendaten, regulierten Prozessen oder wertvollen Geschäftsgeheimnissen ist das oft ein Risiko, das sie nicht eingehen möchten.
Was lokale KI bedeutet
Lokale KI, oft auch private KI genannt, bedeutet, dass die KI-Modelle auf der eigenen Infrastruktur des Unternehmens laufen. Das kann ein Server im eigenen Rechenzentrum sein oder eine private Umgebung bei einem Hostinganbieter, über die das Unternehmen die alleinige Kontrolle hat. Die Daten, die ein Agent verarbeitet, verlassen diesen Rahmen nicht. Anfragen, Dokumente und Ergebnisse bleiben dort, wo sie auch heute schon gespeichert sind.
Möglich wird das durch die rasante Entwicklung offener Sprachmodelle. Anbieter wie Mistral aus Frankreich oder Meta stellen leistungsfähige Modelle bereit, die Unternehmen selbst betreiben dürfen. Für viele typische Aufgaben im Unternehmensalltag, etwa das Auswerten von Dokumenten, das Beantworten von Fragen zu internem Wissen oder das Erstellen von Entwürfen, reichen solche Modelle heute vollkommen aus. Sie lassen sich zudem gezielt auf die Fachsprache und die Abläufe eines Unternehmens abstimmen.
Der Betrieb ist anspruchsvoller als die Nutzung eines fertigen Dienstes aus dem Internet. Es braucht passende Hardware, eine sorgfältige Auswahl und Konfiguration der Modelle, Anbindungen an die bestehenden Systeme und eine laufende Betreuung. Dafür gewinnt das Unternehmen etwas, das sich mit keinem Vertrag vollständig herstellen lässt: die tatsächliche Kontrolle über seine Daten.
Datenschutz, Geschäftsgeheimnisse und Regulierung
Der rechtliche Rahmen spricht in vielen Fällen zusätzlich für lokale Lösungen. Die Datenschutz Grundverordnung verlangt, dass personenbezogene Daten nur auf einer klaren Rechtsgrundlage, zweckgebunden und mit angemessenen Schutzmaßnahmen verarbeitet werden. Wer einen externen Anbieter einsetzt, braucht in der Regel einen Vertrag zur Auftragsverarbeitung nach Art. 28 DSGVO. Werden Daten in Länder außerhalb der Europäischen Union übermittelt, gelten zusätzlich die besonderen Anforderungen an solche Übermittlungen. Läuft der Agent auf eigener Infrastruktur, entfallen viele dieser Fragen oder werden deutlich einfacher zu beantworten.
Ähnliches gilt für Geschäftsgeheimnisse. Das deutsche Geschäftsgeheimnisgesetz schützt Informationen nur dann, wenn das Unternehmen angemessene Maßnahmen zu ihrer Geheimhaltung trifft. Wer Konstruktionsdaten, Kalkulationen oder Strategiepapiere ungeprüft an externe Dienste weitergibt, kann diesen Schutz im Streitfall schwächen. Eine lokale KI ist hier ein starkes Argument dafür, dass ein Unternehmen seine Geheimnisse ernsthaft schützt.
Hinzu kommt die europäische KI Verordnung, die Verordnung (EU) 2024/1689. Sie stellt je nach Einsatzzweck Anforderungen an Transparenz, Dokumentation und menschliche Aufsicht, insbesondere bei Anwendungen mit hohem Risiko, etwa im Personalbereich. Lokale Systeme machen diese Pflichten nicht überflüssig, erleichtern aber die Nachvollziehbarkeit, weil das Unternehmen jederzeit weiß, welches Modell in welcher Version mit welchen Daten arbeitet.
Wo lokale Agenten ihre Stärken ausspielen
Besonders überzeugend sind lokale Agenten dort, wo vertrauliche Inhalte den Kern der Arbeit bilden. In der Rechtsabteilung oder in einer Kanzlei kann ein Agent Verträge durchsuchen, Klauseln vergleichen und Risiken markieren, ohne dass ein einziges Dokument das Haus verlässt. In der Finanzabteilung liest ein Agent Eingangsrechnungen aus, gleicht sie mit Bestellungen und Lieferscheinen ab und bereitet die Freigabe vor, während die Zahlungsdaten im eigenen Netz bleiben.
In der internen Wissensverwaltung zeigt sich der Nutzen oft am schnellsten. Ein lokaler Assistent, der Fragen auf Grundlage von Handbüchern, Arbeitsanweisungen und Projektdokumentationen beantwortet, macht das Wissen erfahrener Kolleginnen und Kollegen für alle zugänglich. Neue Mitarbeitende finden sich schneller zurecht, und Fachleute werden seltener mit Routinefragen unterbrochen. Im Vertrieb wiederum kann ein Agent Gesprächsnotizen zusammenfassen, Angebote vorbereiten und an offene Vorgänge erinnern, ohne dass Kundendaten und Konditionen bei einem Dritten landen.
In der Praxis entstehen häufig Mischformen. Hochsensible Aufgaben laufen lokal, während weniger kritische Anwendungen, etwa das Formulieren öffentlicher Marketingtexte, auf externe Dienste zurückgreifen dürfen. Entscheidend ist, dass diese Aufteilung bewusst getroffen wird und nicht dem Zufall oder der Gewohnheit einzelner Mitarbeitender überlassen bleibt.
Was lokale KI nicht automatisch löst
Lokal bedeutet nicht automatisch sicher. Ein Agent, der auf eigener Infrastruktur läuft, kann trotzdem zu weitreichende Berechtigungen erhalten. Er kann durch manipulierte Inhalte getäuscht werden, etwa durch eine präparierte Nachricht oder ein Dokument mit versteckten Anweisungen. Diese Angriffsform wird als Prompt Injection bezeichnet und gehört zu den wichtigsten neuen Risiken der KI-Agent-Ära. Ein Agent, der Nachrichten liest und gleichzeitig Daten verschicken darf, kann so im schlimmsten Fall zum Werkzeug eines Angreifers werden.
Deshalb gehören zu jedem Agentensystem klare Sicherheitsprinzipien. Jeder Agent erhält nur die Rechte, die er für seine Aufgabe wirklich braucht. Kritische Aktionen wie Zahlungen, der Versand nach außen oder das Löschen von Daten erfordern eine menschliche Freigabe. Alle Schritte werden protokolliert, damit sich nachvollziehen lässt, was ein Agent getan hat und warum. Und die Systeme werden regelmäßig darauf geprüft, ob sie sich durch gezielte Manipulation zu unerwünschtem Verhalten bringen lassen.
Auch die Qualität der Ergebnisse bleibt eine Aufgabe. Sprachmodelle können sich irren oder Lücken mit plausibel klingenden, aber falschen Angaben füllen. Ein gut gestalteter Ablauf berücksichtigt das, indem Agenten ihre Quellen angeben und Menschen dort prüfen, wo Fehler teuer wären.
Wie ein Einstieg gelingt
Der beste Einstieg ist ein konkreter Anwendungsfall mit spürbarem Nutzen und überschaubarem Risiko. Häufig eignet sich ein Assistent für internes Wissen oder ein Agent, der wiederkehrende Dokumentenprozesse übernimmt. Zunächst wird geklärt, welche Daten der Agent benötigt, wer die Ergebnisse prüft und welche Systeme angebunden werden müssen. Danach wird die passende Infrastruktur eingerichtet, das Modell ausgewählt und auf die Aufgabe abgestimmt. In einer Testphase mit echten, aber begrenzten Daten zeigt sich, wie gut der Agent arbeitet und wo nachgeschärft werden muss.
Gelingt der erste Schritt, lässt sich das System Bereich für Bereich erweitern. Aus einem einzelnen Agenten wird ein Verbund spezialisierter Agenten, die gemeinsam größere Abläufe übernehmen. So entsteht nach und nach eine KI-native Arbeitsweise, die auf den eigenen Daten des Unternehmens aufbaut und unter seiner Kontrolle bleibt. Genau darin liegt ein Wettbewerbsvorteil, den kein externer Anbieter kopieren kann.
Häufige Fragen
Sind lokale Modelle so gut wie die bekannten Cloud Dienste?
Für sehr allgemeine und besonders anspruchsvolle Aufgaben sind die größten Modelle der Cloud Anbieter oft noch im Vorteil. Für viele konkrete Aufgaben im Unternehmen, etwa das Auswerten von Dokumenten oder das Beantworten von Fragen zu internem Wissen, liefern offene Modelle auf eigener Infrastruktur heute sehr gute Ergebnisse, vor allem wenn sie auf die jeweilige Aufgabe abgestimmt werden.
Welche Hardware wird für lokale KI benötigt?
Das hängt von der Größe des Modells, der Zahl der Nutzer und den Anforderungen an die Geschwindigkeit ab. Für einen ersten Anwendungsfall genügt oft ein einzelner leistungsfähiger Server mit geeigneten Grafikprozessoren. Größere Installationen werden schrittweise ausgebaut, sobald sich der Nutzen gezeigt hat.
Macht lokale KI einen Datenschutzbeauftragten überflüssig?
Nein. Auch bei lokaler Verarbeitung gelten die Pflichten der DSGVO, etwa zu Rechtsgrundlage, Zweckbindung und Transparenz. Lokale KI erleichtert die Einhaltung vieler Anforderungen erheblich, ersetzt aber nicht die sorgfältige Prüfung durch die zuständigen Fachleute.
Lokale KI für Ihr Unternehmen einrichten
Wir entwickeln individuelle KI-Agenten und installieren lokale KI auf Ihrer Infrastruktur oder in einer von Ihnen kontrollierten Umgebung. Dabei verbinden wir die Agenten mit Ihren bestehenden Systemen und sichern sie gegen die neuen Angriffsformen der KI-Agent-Ära ab. Schildern Sie uns Ihr Vorhaben, und wir zeigen Ihnen, welcher Einstieg für Ihr Unternehmen sinnvoll ist. Das Erstgespräch ist kostenlos und unverbindlich.
Lokale KI für Ihr Unternehmen besprechen
Themen: Lokale KI, Private KI, KI-Agenten, Datenschutz, DSGVO, KI-Sicherheit, Prompt Injection, KI-native Unternehmen