Open-Source-KI-Plattform aufbauen, ohne den bestehenden KI-Stack abzuschalten
Eine Open-Source-KI-Plattform von Pexon Consulting führen Sie ein, ohne Microsoft Copilot abzuschalten: Sie betreiben den bestehenden KI-Stack und die neue Plattform parallel, verschieben Use-Cases erst, sobald sie bereit sind, und setzen das Gateway als Kontrollebene für Modelle, Keys und Policies. Copilot bleibt an. Für IT-Leitung und CISO im Mittelstand mit Copilot oder Chat-Pilot ist das der Weg, eine KI-Plattform aufbauen zu können. Laut Gartner Market Guide for AI Gateways betreiben 70 Prozent der Engineering-Teams mit Multimodell-Anwendungen bis 2028 eine Gateway-Schicht.
Schrittweiser Übergang, kein Cutover
Für IT-Leitung und CISO, die schon Copilot oder einen Chat-Pilot haben: ein Cutover schaltet den bestehenden KI-Stack ab und reißt Office-Arbeit mit. Parallel zur Open-Source-KI-Plattform bleibt Copilot an, Use-Cases wandern erst, wenn sie bereit sind. Bitkom 2026: Datenschutz ist mit 77 Prozent die größte Hürde der Digitalisierung in Deutschland.
Was das Setup belegt, ohne Paketpreis
Zahlen aus Branchenerhebungen, nicht aus Pexon-Projekten: sie begründen Gateway, Parallelbetrieb und eine eigene Schicht, ersetzen aber kein Festpreis-Angebot in Euro.
Ab wann sich das Plattform-Setup lohnt
Was später kommt, und was zuerst wandert
Gateway, Entra-SSO, eine RAG-Quelle
IT-Leitung mit Copilot und einem Chat-Pilot bekommt im Setup das Gateway als Kontrollebene, Entra-SSO und eine erste Wissensquelle. Guardrails sind fail-closed. Copilot bleibt an, Office-Arbeit läuft weiter, Fachdaten wandern über die neue Schicht.
Was Sie hinterher besitzen
Das Setup landet als Infrastruktur-as-Code im Kunden-Repo. Keys-Prozess, Policies und Monitoring-Minimum gehören Ihnen. Keine Blackbox, kein Vendor-Lock im Anwendungscode. Pexon Consulting übergibt, Sie entscheiden über Änderungen.
Was bewusst später kommt
Hermes, Hintergrund-Agenten und Stufe 2 bis 4 gehören nicht in die ersten 6-8 Wochen. Wer sie jetzt mitbestellt, kauft Scope, der das Setup sprengt. Agenten brauchen erst Gateway, SSO und eine belastbare Quelle. Unabhängigkeit prüfen Sie später, nicht als Cutover.
Chat-Oberfläche nur als Ergänzung
Eine Chat-UI auf Ubuntu zu installieren ersetzt Gateway, SSO und Guardrails nicht. Ergänzung: Open WebUI auf Ubuntu installieren. Das Setup bleibt die App-Schicht.
Was Sie hinterher besitzen
Ja, wenn Entra schon da ist und Copilot oder ein Chat-Pilot läuft. Das Setup setzt auf Ihre Identität, nicht auf eine zweite Benutzerwelt. GPU und Stufe 2 bis 4 gehören nicht in diesen Lieferumfang. Unabhängigkeit und Exit prüfen Sie auf der Unabhängigkeits-Seite.
Identität, Daten, Guardrails
Repo, Keys, Betrieb danach
Wie der Aufbau in 6-8 Wochen abläuft
Cutover, Chat-Pilot allein oder Setup mit Pexon
Ablauf in vier Blöcken, ohne Fake-Gantt
Cutover oder parallel: was passt wann
Für IT-Leitung mit laufendem Copilot oder Chat-Pilot: parallel halten, Use-Cases verschieben, Gateway als Kontrollebene. Ein Cutover schaltet den bestehenden KI-Stack ab.
| Kriterium | Cutover | Parallel mit Setup |
|---|---|---|
| Copilot | wird abgeschaltet | bleibt an |
| Use-Cases | alles an einem Stichtag | wandern, sobald sie bereit sind |
| Gateway | oft nachträglich, Keys verstreut | Kontrollebene von Tag 1 |
| Risiko | Betriebsbruch, Rollback unklar | kontrollierter Übergang |
| Passt, wenn | kein Alt-Stack, Greenfield | Copilot oder Chat-Pilot läuft schon |
Setup-Paket nach Scope, ohne Paketpreis
Das Setup ist ein Festpreis nach Scope, ohne Paketpreis in Euro auf dieser Seite. Grob 6-8 Wochen, App-Schicht: Gateway, Entra-SSO, eine RAG-Quelle, Guardrails fail-closed, Monitoring-Minimum, IaC im Kunden-Repo. Der Endpreis steht nach dem Scoping im Plattform-Check fest. Copilot bleibt an.
Lieferumfang App-Schicht · Gateway, Entra-SSO, eine RAG-Quelle, Guardrails fail-closed, Monitoring-Minimum, IaC im Kunden-Repo
Was Sie brauchen · Entra-Zugang, eine benannte RAG-Quelle, Ansprechpartner Keys und Security, Copilot darf weiterlaufen
Abnahme und danach · Abnahme gegen Scope. Danach 8x5-Betrieb, nicht 24/7. Die Zahl steht auf der Betriebsseite. Cloud extra. Hermes und Stufe 2-4 sind Folgeaufträge.
Häufige Fragen
Wie führt man eine eigene KI-Plattform ein, ohne Microsoft Copilot abzuschalten?
Was ist im Setup-Lieferumfang?
Was kostet das?
Was besitzen wir nach der Open-Source-KI-Plattform-Implementierung?
Wo endet das Setup?
Was kommt nach den 6-8 Wochen?
Nachricht senden
Kein passender Termin? Schreiben Sie uns, wir melden uns innerhalb von 24 Stunden.
Sie suchen einen Partner für Ihr Projekt?
Wir analysieren Ihren individuellen Bedarf, geben erste Empfehlungen zu Umsetzungsstrategien und bieten Ihnen transparente Einblicke in unsere Methoden, Technologien und Referenzen.
Vertrieb kontaktieren