Robin, Consultant für GenAI bei Pexon Consulting | 9 Min. Lesezeit | 08.10.2026
TL;DR: Hybrid GPU ohne Headline-Spam
Hybrid GPU heißt bei Pexon Consulting: sensible Inference bleibt im vereinbarten Perimeter, oft on-prem oder in der privaten Zone. Training und Burst können in einer EU-Cloud laufen, wenn Datenklassen das erlauben. Das ist eine Betriebsentscheidung mit Owner und 8×5 – keine Souveränitäts-Phrase auf der Folie.
| Workload | Typischer Ort | Warum |
|---|---|---|
| Inference auf Fachdaten | On-Prem / private Zone | Daten, Latenz, Audit |
| Feintuning freigegeben | EU-Cloud möglich | Kapazität, Burst |
| Chat ohne Fachdaten | SaaS oder EU-Tenant | schneller Start |
| Air-Gap | On-Prem only | kein Cloud-Pfad |
Die ehrliche Hybrid-Frage
Viele Briefings verlangen volle Kontrolle und gleichzeitig Gigafactory-Kapazität. Beides gleichzeitig als 100 Prozent on-prem ist teuer und oft unnötig. Die bessere Frage: Welche Datenklasse darf welchen Perimeter?
Pexon Consulting (Deutschland, Microsoft Partner, ISO 27001) baut hybride Architektur so, dass der Schnitt dokumentiert ist. In Fertigung und Energie sehen wir eigene Grafikkarten im Haus und gleichzeitig EU-Cloud für nicht-sensible Jobs. Das ist Hybrid – nicht ein Marketingwort für multi-cloud.
Die Money-Seite Hybride KI-Infrastruktur bleibt die Angebotsorientierung. Dieser Blog ist die Decision-Hilfe davor. Marktangebote zu Industrial AI Cloud und EU-Rechenkapazität sind Belege für verfügbare Kapazität – kein automatischer Architekturzwang und keine Kundennamen.
Wann on-prem, wann EU-Cloud
On-prem oder private Zone, wenn personenbezogene oder betriebsgeheime Daten im Prompt landen, wenn Audit-Logs im eigenen Netz bleiben müssen, oder wenn Betrieb keinen Cloud-Ausfall akzeptiert. Auch wenn Exit- und Exportpflichten strikt sind, bleibt der sensible Pfad lokal.
EU-Cloud, wenn Trainingsdaten freigegeben sind, wenn GPU-Burst nur phasenweise gebraucht wird, oder wenn Sie Kapazität mieten statt kaufen wollen. Burst für Experimente entlastet teure On-Prem-Karten, die sonst Idle laufen.
Kubernetes als Betriebsbasis lohnt sich, wenn beide Welten denselben Betriebsvertrag brauchen. Dann ist AI-ready Managed Kubernetes der Cluster-Pfad, nicht nur ein leerer Managed-Cluster. Policies und Netzwerkzonen machen Hybrid beherrschbar – zwei wilde Piloten nicht.
Drei Fallen in Hybrid-Projekten
- Alles on-prem aus Prinzip – Lieferzeiten und Capex für GPUs werden zum Projektkiller. Teams warten Monate auf Karten, die sie nicht auslasten.
- Alles Cloud aus Tempo – Fachdaten landen im falschen Tenant. NIS2 und interne Richtlinien greifen zu spät. Aufräumen kostet mehr als der schnelle Start.
- Kein Owner – Platform und Data Science teilen keinen 8×5-Vertrag. Hybrid ohne Betrieb ist zwei Piloten mit zwei Wahrheiten.
Default bei Pexon: Betrieb 8×5, nicht 24/7. Wer Leitstellen-SLA braucht, scoped das explizit. Wer Air-Gap braucht, bekommt keinen Hybrid-Verkaufsdruck.
Datenklassen als Entscheidungsraster
Ohne Datenklassen endet jede Hybrid-Diskussion in Glaubenssätzen. Mit Datenklassen wird sie operativ:
- Klasse A: darf den Perimeter nicht verlassen. Inference lokal.
- Klasse B: darf EU-Cloud mit Logging und Vertrag. Training und Auswertung möglich.
- Klasse C: unkritisch, SaaS erlaubt.
Dieses Raster ist absichtlich grob. Feinschliff gehört in den Workshop. Wichtig ist: Jeder Prompt und jede Pipeline kennt ihre Klasse, bevor GPU-Stunden gebucht werden.
Kostenlogik ohne Fake-Preise
Hybrid ist anfangs oft teurer, weil zwei Perimeters betrieben werden. Über 24 Monate kann Burst-Cloud plus schlankes on-prem günstiger sein als überdimensionierte On-Prem-GPUs. Die Gegenrechnung: Cloud ohne Klassensteuerung erzeugt Schattenkosten und Nacharbeit.
Pexon nennt auf diesem Blog keine erfundenen Hybrid-Pauschalen. Endpreise folgen nach Scoping. Public Anker für verwandte Angebote stehen auf den jeweiligen Money-Seiten.
Ein pragmatisches Nummernbild für den Lenkungskreis:
- Capex oder Opex für lokale Inference-Kapazität
- Opex für EU-Burst und Storage
- Personenstunden Platform Engineering
- Kosten für Logging, Backup und Key-Management
Wer nur Punkt 2 sieht, unterschätzt Hybrid. Wer nur Punkt 1 sieht, überschätzt On-Prem-Pflicht.
Netzwerk, Identity und Exit
Hybrid scheitert selten am Modell. Es scheitert an Netzwerkpfaden, Identity und Exit. Brauchen Jobs ExpressRoute oder VPN? Welche Service Principities gelten? Wie exportieren Sie Modelle und Indizes, wenn der Cloud-Vertrag endet?
Diese Fragen gehören in Woche eins. Sonst bauen Sie eine schöne Demo und eine schlechte Betriebsübergabe. Exit ist Teil von Hybrid, nicht das Gegenteil davon.
Entscheidungsbaum in sechs Schritten
- Use Cases und Datenklassen listen.
- Sensible Inference-Pfade markieren.
- Burst- und Trainingskandidaten markieren.
- Netzwerk und IdP skizzieren.
- Betriebsmodell 8×5 festlegen.
- Erst dann Hardware und Cloud-Kontingente bestellen.
Wer bei Schritt 6 beginnt, kauft Kapazität für eine Architektur, die noch nicht existiert.
Abgrenzung zu benachbarten Seiten
Hybride KI-Infrastruktur ist die Money-Orientierung. AI-ready Managed Kubernetes ist der Cluster-Pfad darunter. Firmeneigene KI on-premise ist der striktere On-Prem-Intent. Dieser Blog entscheidet zwischen den Pfaden – er klont keine der Seiten.
Praxisbeispiel ohne Kundennamen
Ein Maschinenbauer hält Konstruktionswissen on-prem. Feintuning auf freigegebenen, anonymisierten Fehlerbildern läuft in der EU-Cloud. Inference für den Service-Assistenten bleibt lokal. Platform Engineering besitzt beide Pfade unter einem 8×5-Vertrag. Data Science bekommt Quotas, keine Root-Rechte auf dem sensiblen Cluster.
Ein Energieversorger hält Anlagendaten im Perimeter. Allgemeine Modell-Evalutionen ohne Betriebsgeheimnisse dürfen in der EU-Cloud laufen. Hybrid bedeutet hier nicht zwei Chatbots, sondern zwei klar getrennte Datenwege mit einem Owner.
GPU-Auslastung und Idle-Kosten
Idle-GPUs on-prem sind teuer und politisch schwer zu erklären. Burst in der Cloud ohne Klassensteuerung ist ebenso teuer, nur später sichtbar. Hybrid mit Quotas und Messungen macht beide Seiten steuerbar. Ohne Messung bleibt jede Architektur eine Glaubensfrage.
Zusätzlich zählen Strom, Kühlung, Rackplatz und Ersatzteile. Cloud zählt Egress, Storage und Reserved Capacity. Wer nur GPU-Stundensätze vergleicht, vergleicht die falsche Einheit.
Sicherheits- und Compliance-Schnitt
Hybrid ändert nicht die Pflicht zu Logging und Key-Management. Es verdoppelt sie oft. Deshalb früh klären: Wo liegen Keys? Wer rotiert sie? Welche Retentions gelten wo? Welche Subprozessoren sind freigegeben? Diese Liste gehört in den Architekturentscheid, nicht in den Anhang nach Go-live.
Für regulierte Häuserer ist der Schnitt oft strenger als für den allgemeinen Mittelstand. Trotzdem gilt: Air-Gap nur dort, wo er wirklich Pflicht ist. Sonst zahlen Sie Kapazität, die Sie nicht brauchen.
Vertiefung für den Lenkungskreis
Der Lenkungskreis braucht keine Tool-Namen zuerst. Er braucht eine Entscheidungslogik: Risiko, Budget und Betriebs-Owner nach Go-live müssen klar sein. Ohne diese drei Antworten entstehen parallele Piloten, die später teuer zusammengeführt werden.
Schreiben Sie die Entscheidung in einem Absatz nieder. Nicht als Strategiepapier, sondern als verbindliche Notiz: Zielbild in sechs Monaten, Ausschlüsse, Owner, Budgetrahmen. Diese Notiz ist der Filter für jede nachfolgende Lizenz-, Cloud- oder Beratungsanfrage.
Zahlen helfen, wenn sie ehrlich sind. Eine Spanne nach Scoping schlägt Scheingenauigkeit. Ein 8×5-Betriebsversprechen schlägt 24/7-Marketing ohne Team. Branchen-anonyme Referenzen schlagen Kundennamen ohne Freigabe.
Zusätzlich lohnt eine Gegenfolie: Was passiert, wenn wir nichts tun? Schatten-KI wächst weiter, Kosten bleiben unsichtbar, Audits werden schwieriger. Diese Gegenfolie ist oft überzeugender als jede Feature-Liste.
Operative nächste 30 Tage
- Inventur der aktuellen KI-Zugänge und Schattenwege
- Datenklassen-Entwurf mit Fachbereichen
- Entscheidung Cluster- versus Plattform-First
- Ein Pilot-Use-Case mit Erfolgskriterien
- Betriebsmodell skizzieren (Inhouse oder Managed 8×5)
Nach 30 Tagen sollte klar sein, ob gebaut, gekauft oder bewusst pausiert wird. Pause ist eine valide Entscheidung – unkontrolliertes Weiterlaufen nicht.
Was in Angeboten stehen muss
Jedes belastbare Angebot nennt Scope, Ausschlüsse, Annahmen und den Betriebsübergang. Fehlt der Betriebsübergang, kaufen Sie ein Projektende statt einer Lösung. Fehlen Ausschlüsse, entstehen Change Requests als Überraschung.
Pexon formuliert Angebote so, dass Einführung und Betrieb getrennte Intents bleiben können. Das schützt Budget und Erwartung auf beiden Seiten.
Drittes visuelles Element
- Scope schriftlich
- Owner benannt
- Ausschlüsse gelistet
- Betrieb 8×5 geklärt
- Nächster Termin mit Entscheidung
Ergänzung zum Betriebsmodell
Betrieb heißt nicht nur Erreichbarkeit. Betrieb heißt Patch-Fenster, Alarmierung, Key-Rotation, Backup-Tests und eine klare Eskalation. 8×5 ist der Default bei Pexon, weil die meisten Mittelstands- und KRITIS-nahen Teams genau dieses Fenster realistisch besetzen können. Wer 24/7 braucht, scoped Personen und Prozesse explizit – sonst entsteht ein Versprechen ohne Schichtplan.
Dokumentieren Sie den Betriebsübergang als eigene Lieferleistung. Sonst endet das Projekt am Demo-Tag und das Risiko wandert still in die Fachbereiche zurück.
Das gilt auch dann, wenn der erste Pilot klein bleibt und bewusst nur einen Fachbereich betrifft.
FAQ
Ist Hybrid teurer als nur Cloud?
Oft anfangs ja. Über 24 Monate kann Burst-Cloud plus schlankes on-prem günstiger sein als überdimensionierte On-Prem-GPUs.
Brauchen wir zwei Cluster?
Nicht zwingend. Ein Cluster mit klaren Zonen reicht oft. Hybrid kann Workload-Steuerung heißen, nicht zwei Plattformen.
Was kostet der Einstieg?
Einstieg über die hybride KI-Infrastruktur-Seite und Scoping. Keine Fake-Hybrid-Pauschale auf diesem Blog.
Wo steht die Money-Seite?
Unter Hybride KI-Infrastruktur. Bei Clusterbedarf zusätzlich AI-ready Managed Kubernetes.
Wann passt Hybrid nicht?
Wenn Air-Gap Pflicht ist oder wenn Sie nur einen SaaS-Chat ohne Fachdaten brauchen. Dann nicht Hybrid erzwingen.



