Leitfaden / Industrielle KI
KI on-premise, in der EU-Cloud oder per API? Eine Entscheidung nach Workload
KI on-premise läuft auf Infrastruktur am eigenen Standort. Eine private Cloud stellt eine abgegrenzte Betriebsumgebung bereit; eine Modell-API ermöglicht den Zugriff auf einen Dienst. Diese Kategorien können sich überschneiden: Auch ein privat betriebenes Modell hat eine API. Entscheidend sind Datenwege, Zugriffe und Betriebsverantwortung.
Eine eigene KI-Infrastruktur kann sinnvoll sein, wenn Daten die kontrollierte Umgebung nicht verlassen dürfen oder ein Prozess auch ohne externe Verbindung funktionieren muss. Für eine selten genutzte Aufgabe kann sie dagegen unnötigen Betriebsaufwand erzeugen.
Die Entscheidung beginnt mit dem Workload: Welche Daten verarbeitet die Anwendung, welche Qualität benötigt sie, wie oft läuft sie und wer betreibt sie? Eine pauschale Cloud- oder On-Premise-Strategie beantwortet diese Fragen für den einzelnen Prozess nicht.
Vier Fragen vor der Produktauswahl
Beschreiben Sie zunächst die Datenarten und ihre erlaubten Verarbeitungsorte. Erfassen Sie auch Anhänge, abgerufene Dokumente und Protokolle. Der eigentliche Prompt ist häufig nur ein Teil des Datenflusses.
Legen Sie anschließend eine prüfbare Aufgabe fest. Ein Modell, das kurze Rückmeldungen zusammenfasst, muss andere Anforderungen erfüllen als eines, das aus technischen Anlagen eine vollständige Anforderungsliste erstellt.
Ermitteln Sie die Last: durchschnittliches Volumen, Spitzen, zulässige Wartezeit und notwendige Verfügbarkeit. Klären Sie schließlich, wer Updates, Kapazität, Störungen und Sicherheitsfragen übernimmt. Ein Serverstandort ist noch kein Betriebsmodell.
Vergleichen Sie die Optionen an derselben Aufgabe
| Option | Wann sie in Betracht kommt | Was Sie genauer prüfen müssen |
|---|---|---|
| Externe Modell-API | Ein geeigneter Dienst erfüllt die Datenvorgaben und die Aufgabe | Datenwege, Aufbewahrung, Modelländerungen und Ausfallverhalten |
| Verarbeitung in einer EU-Region | Geografische Grenzen sind eine konkrete Anforderung | Administrative Zugriffe, Support und Unterauftragnehmer zusätzlich zum Standort |
| Infrastruktur mit weitergehenden Souveränitätsanforderungen | Kontroll- und Rechtsverhältnisse sind für den Prozess entscheidend | Wer tatsächlich betreibt und kontrolliert; welche Abhängigkeiten bestehen bleiben |
| Private Cloud oder eigener Standort | Die Anwendung braucht kundenseitig kontrollierte Infrastruktur | Personal, Hardware, Modelllizenz, Updates, Lastspitzen und Wiederherstellung |
Diese Kategorien sind Auswahlhilfen von Welf, keine Zertifizierungen. Europäische Datenhaltung allein macht eine Anwendung nicht automatisch datenschutzkonform. Verträge, Datenverarbeitung und Schutzmaßnahmen müssen zum konkreten Einsatz passen.
Rechnen Sie pro brauchbar abgeschlossenem Fall
Ein günstiger Tokenpreis ist kein ausreichender Vergleich. Zur Rechnung gehören die Kosten für das gesamte Verfahren:
Kosten pro nutzbarem Fall = (Modell + Infrastruktur + Betrieb + anteilige Einführung + Prüfung + Nacharbeit) / nutzbar abgeschlossene Fälle
Legen Sie den Zeitraum und die Annahmen offen. Bei eigener Hardware beeinflusst die tatsächliche Auslastung die Rechnung. Bei APIs gehören wiederholte Aufrufe und umfangreicher Kontext dazu. In beiden Fällen kann menschliche Nacharbeit einen erheblichen Teil des Aufwands ausmachen; messen Sie ihn, statt ihn zu schätzen, sobald ein Test möglich ist.
Eine Tabelle mit drei eigenen Lastannahmen genügt für den Anfang: normale Nutzung, geringe Auslastung und eine plausible Spitze. Aktuelle Preise tragen Sie anhand konkreter Angebote ein. Ohne diese Angaben wäre ein pauschaler Sieger irreführend.
Fragen für ein vergleichbares Angebot
Bitten Sie Anbieter um dieselben Angaben: nutzbare Kapazität unter Ihrer Last, Abrechnung bei Wiederholungen, verfügbare Modellversionen, Änderungsfristen und Aufwand für einen vollständigen Export. Für den Eigenbetrieb gehören Vertretung und Bereitschaft in das Angebot.
Lassen Sie Einmalkosten und laufende Kosten getrennt ausweisen. Vereinbaren Sie für die Bewertung dieselbe Qualitätsschwelle. Ein günstigeres Verfahren mit mehr unbrauchbaren Fällen ist kein gleichwertiges Angebot.
Planen Sie unterschiedliche Umgebungen bewusst
Nicht jede Aufgabe muss denselben Weg nehmen. Ein öffentliches Produktdatenblatt und eine vertrauliche Konstruktionsunterlage können unterschiedliche Verarbeitungsregeln benötigen.
Eine solche Aufteilung verlangt jedoch eine zuverlässige Zuordnung. Die Anwendung muss vor dem Aufruf wissen, welche Umgebung erlaubt ist. Das Modell sollte diese Entscheidung nicht allein anhand eines frei formulierten Prompts treffen.
Halten Sie zudem fest, was bei einem Ausfall passiert. Ein Ersatzdienst braucht dieselbe Prüfung der zulässigen Datenwege wie der Hauptdienst.
Welf beginnt die Deployment-Entscheidung mit Ihrem Workflow und testet die in Betracht kommenden Varianten daran. Lesen Sie dazu unseren Exit-Test oder die Übersicht zu privater KI.