Betrieb im eigenen Netz
On-Premise-KI: self-hosted für sensible Unternehmens
On-Premise-KI, self-hosted, im eigenen Rechenzentrum – gefragt ist jedes Mal dasselbe: Was läuft bei uns? Eine pauschale Antwort darauf wäre unbrauchbar, denn die Eigenschaft gilt nicht für ein Produkt, sondern pro Komponente. Deshalb steht hier einzeln, was heute in Ihrer Infrastruktur läuft und was als Nächstes dazukommt.
Begriffsklärung
Die Frage ist nicht, ob self-hosted. Sondern welcher Teil.
Bei einem KI-System, das Unternehmensdaten auswertet, sind mehrere Komponenten beteiligt: die Beschreibung Ihres Fachmodells, die Schicht, die Abfragepläne prüft, der Datenbankzugang, eine Oberfläche und ein Sprachmodell, das die Denkarbeit übernimmt.
Diese Komponenten müssen nicht am selben Ort laufen – und für eine Datenschutzbewertung ist genau die Aufteilung die relevante Information. Eine pauschale Aussage „läuft bei Ihnen“ verdeckt die einzige Stelle, an der es interessant wird.
Der Datenbestand bleibt in jedem Fall bei Ihnen. Es gibt keine Replikation, keine Synchronisation und keinen Import.
Komponenten
Welche Komponente wo läuft.
Diese Aufstellung ist der Kern der Seite. Sie ist auch die Grundlage, auf der eine Datenschutzfolgenabschätzung aufsetzen kann.
- Semantisches Modell
- In Ihrer Infrastruktur. Die Beschreibung Ihrer Fachbegriffe, Beziehungen und Regeln ist eine Beschreibung Ihres Systems und liegt bei Ihnen.
- Prüfschicht
- In Ihrer Infrastruktur. Die Stelle, an der Abfragepläne gegen Modell und Rollenrechte geprüft und in lesende Abfragen übersetzt werden.
- Datenbankzugang
- In Ihrer Infrastruktur. Die Verbindung besteht zwischen Ihrer Datenbank und der Prüfschicht – läuft diese bei Ihnen, verlässt die Datenbankverbindung Ihr Netz nicht.
- Eigene Oberfläche
- In Ihrer Infrastruktur. Umgesetzt; der Weg ohne externen KI-Client.
- Protokollierung
- In Ihrer Infrastruktur. Frage, geprüfter Plan und ausgeführte Abfrage werden auf Ihrer Seite protokolliert.
- Sprachmodell
- Die eine Komponente, die heute außerhalb Ihres Netzes arbeitet – warum, steht im folgenden Abschnitt. Ein vollständig lokal betriebenes Modell ist in Arbeit und wird mit dem Projekt umgesetzt, das es braucht.
Die eine Ausnahme
Das Sprachmodell ist heute die einzige Komponente außerhalb Ihres Netzes.
Für mehrstufige Fragen wird ein aktuelles Reasoning-Modell benötigt – eines, das eine Frage in Schritten abarbeitet, Zwischenergebnisse bewertet und sich korrigiert. Diese Fähigkeit ist der Grund, warum zusammengesetzte Fragen überhaupt beantwortbar sind.
Ein vollständig lokal betriebenes Modell steht im Entwicklungsstand unter „In Arbeit“ – als Ziel, noch nicht als Zusage. Wenn für Ihr Haus kein einziger ausgehender Modellaufruf in Frage kommt, ist das genau die Anforderung, die diesen Schritt trägt: Wir nehmen sie in die technische Sichtung und setzen sie im Pilotprojekt gemeinsam um.
Umgesetzt: In der eigenen Oberfläche werden Abfrageergebnisse nicht an das Sprachmodell übermittelt. Der nächste Schritt: auch der Modellaufruf im eigenen Netz – gemeinsam mit dem Projekt, das ihn braucht.
Der Unterschied ist erheblich. In der eigenen Oberfläche sieht das Sprachmodell nur die Beschreibung des semantischen Modells – Begriffe, Beziehungen und Regeln – und nicht die Daten, die eine Abfrage zurückgibt. Übermittelt wird damit die Struktur Ihres Fachmodells, nicht Ihr Datenbestand.
Ob diese Struktur für Ihr Haus schon als schützenswert gilt, entscheiden Sie. Diese Bewertung treffen wir gemeinsam im Sicherheitsgespräch – dort lässt sie sich sauber führen, in einer pauschalen Zusage auf einer Website nicht.
Betriebsmodi
Was in welchem Modus das Unternehmen verlässt.
Beide Modi sind umgesetzt; in der Alpha erprobt ist der Weg über einen KI-Assistenten am Desktop. Die Wahl ist eine Datenschutzentscheidung, keine Komfortfrage.
Wie das mit der KI aussieht – Frage, Antwort und Herleitung: Beispiele ansehen →
Was das bringt
Warum die Aufteilung praktisch relevant ist.
Nicht aus Prinzip, sondern weil sie vier konkrete Fragen beantwortbar macht.
Der Datenbestand bleibt an einem Ort
Keine Kopie Ihres Datenbestands, kein Ladeprozess, kein Zeitversatz zwischen Original und Kopie. Damit entfällt auch die Frage, wer die Kopie schützt. Das Protokoll enthält einzelne Abfrageergebnisse und wird wie ein Auszug geschützt.
Der Zugriff ist entziehbar
Der lesende Datenbankbenutzer wird auf Ihrer Seite angelegt und gehört Ihnen. Ihn zu entziehen beendet den Zugriff – ohne Rückbau in Ihrer Software.
Die Protokolle liegen bei Ihnen
Wer wann was gefragt hat und welche Abfrage lief, steht in Ihrem Netz. Für eine Prüfung ist das der Unterschied zwischen Nachweis und Anfrage beim Anbieter.
Rollen und Rechte bleiben in Ihrer Hand
Die Rollenprüfung findet in der Prüfschicht statt, also bei Ihnen. Was eine Rolle nicht sehen darf, wird nicht abgefragt und geht damit auch nicht an ein externes Modell.
Ort der Verarbeitung
Self-hosted und EU-Datenresidenz sind zwei Fragen.
Sie werden fast immer als eine gestellt – und deshalb regelmäßig mit einer Antwort verwechselt, die nur für die eine gilt. „Läuft es bei uns?“ ist eine Frage nach der Komponente. „Bleibt die Verarbeitung in der EU?“ ist eine Frage nach dem Ort. Die Aufstellung oben beantwortet die erste, diese hier die zweite.
- Was in Ihrem Netz verarbeitet wird
- Semantisches Modell, Prüfschicht, Datenbankzugang, Privacy Layer, Protokollierung und Oberfläche. Für diese Komponenten ist die Ortsfrage mit Ihrem Rechenzentrum beantwortet – es gibt dafür keinen fremden Standort.
- Der ausgehende Aufruf
- Solange das Sprachmodell extern arbeitet, verlässt ein Aufruf Ihr Netz. Wo dieser Aufruf verarbeitet wird, bestimmt der Modellanbieter und nicht diese Software – deshalb ist es eine Frage an seinen Vertrag.
- EU-Datenresidenz
- Wird je Projekt über den Modellanbieter geklärt. Was für Ihren Fall erreichbar ist, gehört in die technische Sichtung; eine pauschale Zusage steht hier nicht, weil sie nicht von uns abhängt.
- Der Weg ohne diese Frage
- In der eigenen Oberfläche gehen keine Abfrageergebnisse hinaus – übermittelt werden Frage und Modellbeschreibung. Umgesetzt. Wenn Ergebnisse die EU nicht verlassen dürfen, ist das heute der belastbarere Weg.
- Vollständig lokales Modell
- In Arbeit. Damit entfiele der ausgehende Aufruf und die Ortsfrage vollständig. Heute ist es kein Teil des Leistungsstands – und eine Anforderung, die mitentscheidet, was als Nächstes entsteht.
Klare Karten
Worauf Sie sich bei diesen Angaben verlassen können.
Solange das Sprachmodell extern arbeitet, gibt es einen ausgehenden Aufruf – auch in der eigenen Oberfläche, in der keine Abfrageergebnisse übermittelt werden. Das steht hier, damit Sie es vor dem Sicherheitsgespräch wissen und nicht danach.
Wir kennzeichnen auf dieser Website ausdrücklich, was heute umgesetzt ist und was in Arbeit ist – und beides ist auf den ersten Blick unterscheidbar. Wenn Ihnen eine Angabe nicht belegt erscheint, sagen Sie es uns: Wir prüfen sie vor dem Gespräch.
Hardwarebedarf und Betriebskosten hängen von Ihrer Datenmenge und Ihrem Abfrageprofil ab. Beides klären wir in der technischen Sichtung – dann stimmen die Angaben auch.
Häufige Fragen
Fehlt Ihnen eine Frage? Ausführliche Antworten zu Betrieb und Datenzugriff stehen auf der Sicherheitsseite.
- Kann KI on-premise auf unseren Unternehmensdaten laufen?
Zum großen Teil ja: Nowl selbst, die semantische Schicht, die Prüfung jeder Abfrage, der Privacy Layer und der lesende Zugriff auf Ihre Datenbanken laufen in Ihrer Infrastruktur. Ihr Datenbestand verlässt das Haus nicht. Für das Reasoning ist heute ein extern betriebenes Sprachmodell angebunden; was dorthin geht, steht weiter unten.
Der Betrieb in Ihrer Umgebung wird im Pilotprojekt gemeinsam aufgesetzt.
- Bleibt die Verarbeitung vollständig in der EU?
Für alles, was in Ihrer Infrastruktur läuft, ja – dort bestimmen Sie den Standort, und das betrifft semantisches Modell, Prüfschicht, Datenbankzugang, Privacy Layer und Protokolle. Ihr Datenbestand wird ohnehin nicht kopiert und verlässt Ihr Rechenzentrum nicht.
Offen bleibt der ausgehende Aufruf an das Sprachmodell, solange es extern angebunden ist: Wo dieser verarbeitet wird, regelt der Vertrag des Modellanbieters. Ob und in welcher Form eine EU-Datenresidenz dort erreichbar ist, klären wir je Projekt – das ist die ehrliche Antwort, weil es nicht von dieser Software abhängt.
Wenn Abfrageergebnisse die EU nicht verlassen dürfen, ist heute die eigene Oberfläche der belastbarere Weg: Dort gehen keine Ergebnisse hinaus. Ein vollständig lokal betriebenes Modell, das den ausgehenden Aufruf ganz entfallen lässt, ist in Arbeit.
- Ist On-Premise für einen Mittelständler ohne eigene Data-Abteilung realistisch?
Ja, und es ist der Regelfall in den Gesprächen. Vorausgesetzt wird keine Data-Abteilung, sondern eine Stelle, die Container betreiben kann – häufig ist das die IT, die ohnehin schon Anwendungen im Haus betreibt, oder Ihr IT-Dienstleister.
Was nicht vorausgesetzt wird: ein Data Warehouse, ein Datenkatalog, ein KI-Team oder eine bereinigte Datenbasis. Der Dienst hängt sich in eine bestehende Umgebung ein, ohne dass Ihre Anwendungen davon berührt werden, und der Betrieb wird im Pilotprojekt gemeinsam aufgesetzt.
Wenn Sie niemanden im Haus haben, der das übernehmen soll, ist auch der Betrieb mit direktem Zugriff durch Gerling Solutions möglich. Was passt, wird pro Projekt festgelegt statt standardisiert.
- Können wir das System vollständig offline betreiben?
Heute zum größten Teil: Semantisches Modell, Prüfschicht, Datenbankzugang, Oberfläche und Protokollierung laufen in Ihrer Infrastruktur. Außerhalb liegt allein das Sprachmodell für das Reasoning.
Ein vollständig lokal betriebenes Modell ist in Arbeit – als Ziel im Entwicklungsstand, noch nicht als verfügbare Eigenschaft. Wenn genau das Ihre Anforderung ist, sprechen Sie uns darauf an: Solche Anforderungen entscheiden mit, was als Nächstes umgesetzt wird.
- Was genau wird an das externe Sprachmodell übermittelt?
In der eigenen Oberfläche: die Frage des Anwenders und die Beschreibung des semantischen Modells – Begriffe, Beziehungen und Regeln, die das Modell für einen Abfrageplan braucht. Darin können Statuswerte und Definitionstexte aus Ihrem Haus stehen. Nicht übermittelt werden Abfrageergebnisse und Zugangsdaten; das Modell plant ohne Kenntnis Ihrer Tabellenstruktur.
Bei Anbindung einer externen KI-Anwendung kommen die Abfrageergebnisse hinzu, weil dessen Modell sie für das Reasoning bewerten muss. Welcher Modus für Ihr Haus in Frage kommt, ist deshalb vor der Einführung zu klären.
- In welcher Form wird das bei uns bereitgestellt?
Der Betrieb in Ihrer Infrastruktur (Container) wird im Pilotprojekt gemeinsam aufgesetzt. Damit lässt sich der Dienst in eine bestehende Container-Plattform einhängen, ohne dass Ihre Anwendungen davon berührt werden.
Welche konkrete Ausgestaltung passt – Netzsegment, Zugriffswege, Protokollziele – wird pro Projekt festgelegt und schriftlich vereinbart, bevor das System an echten Daten arbeitet.
- Wer betreibt den Dienst, wenn er in unserem Netz läuft?
Das legen wir pro Projekt gemeinsam fest, statt es zu standardisieren. Beide Wege funktionieren: Betrieb durch Ihre IT mit fachlicher Begleitung oder Betrieb mit direktem Zugriff durch Gerling Solutions.
In der Pilotphase läuft der Support dabei ohne Ticketsystem: Sie sprechen direkt mit dem Entwickler, der das System gebaut hat.
Sicherheit & Datenschutz
Dieselbe Prüfung aus den anderen Richtungen.
- Nowl
Betrieb & Zugriff
Die acht Fragen, die Ihre IT-Sicherheit ohnehin stellt – Datenzugriff, Rechte, ausgehende Daten, Protokollierung.
- Nowl
Privacy Layer
Was aus einem Abfrageergebnis entfernt wird, bevor es ein externes Modell sieht – und was der Filter nicht leistet.
- Nowl
k-Anonymität
Wann eine Summe über besonders geschützte Daten anonym ist – und wann ihre Differenz eine Einzelperson zeigt.
- Nowl
Datenbankzugriff
Warum das Sprachmodell keine Zugangsdaten erhält und die Grenze in der Architektur liegt.
Verwandte Themen
Angrenzende Fragen, jeweils auf einer eigenen Seite beantwortet.
KI-Assistenten mit Unternehmens
Was im KI-Assistenten passiert, was der Anbieter dabei sieht und was im Haus bleibt.
MCP für Unternehmens
Warum ein MCP-Server für Unternehmensdaten mehr können muss, als eine Datenbank durchzureichen.
KI für Unternehmens
Welche Ansätze es gibt, KI auf eigene Unternehmensdaten zu bringen – und woran sie in der Praxis scheitern.
DSGVO-konforme KI
Welche Felder ein Ergebnis vor der Übermittlung verlassen, wer das festlegt – und wo die Grenzen liegen.
Wenn Ihre Vorgaben bestimmen, wo welche Komponente laufen darf: Genau das ist ein gutes erstes Gespräch.
Oder direkt anrufen: 0151 235 331 19 · oder schreiben Sie uns: