KI-Tools konsolidieren: raus aus dem Wildwuchs 2026

Pexon Consulting | 10 Min. Lesezeit | 16.07.2026

TL;DR

Wenn jede Abteilung ihr eigenes KI-Tool kauft, entsteht Shadow AI: unkontrollierte Kosten, kein Überblick, offene Datenabflüsse und kein Nachweis für den EU AI Act. Ein LLM-Gateway konsolidiert den Wildwuchs zu einem governten Zugangspunkt mit Modell-Routing, Kostenkontrolle und Audit. Pexon Consulting (80 Mitarbeiter, Microsoft-Partner, Deutschland) baut diese Konsolidierung, ohne den Abteilungen ihre Werkzeuge wegzunehmen.

Das Problem: jede Abteilung kauft ihr eigenes KI-Tool

Der Vertrieb hat ein KI-Tool abonniert, das Marketing ein anderes, die Entwicklung ein drittes, und die Geschäftsführung erfährt davon aus der Kreditkartenabrechnung. Das ist der Normalzustand 2026, und er fühlt sich anfangs harmlos an. Jedes Team löst sein Problem, schnell und ohne IT-Ticket.

Der Albtraum kommt später. Niemand weiß mehr, welche Unternehmensdaten in welches Tool fließen. Die Kosten summieren sich über Dutzende kleiner Abos, die keiner bündelt. Und wenn jemand fragt, welche KI-Systeme im Einsatz sind, kann das niemand vollständig beantworten. Genau diese Frage stellt aber der EU AI Act.

Dieser Artikel klärt drei Dinge: warum Wildwuchs technisch und regulatorisch zum Problem wird, wie ein Gateway konsolidiert, ohne die Abteilungen auszubremsen, und warum Verbieten der falsche Weg ist.

Warum Wildwuchs zum Albtraum wird

Die kurze Antwort: weil jedes einzelne Tool eine eigene Datenabfluss-, Kosten- und Nachweislücke ist. Drei Dinge laufen parallel aus dem Ruder. Erstens die Daten: Jedes Tool bekommt eigene Zugänge und sieht Inhalte, die niemand freigegeben hat. Zweitens die Kosten: Zehn kleine Abonnements sind in Summe teurer und intransparenter als ein gebündelter Zugang. Drittens der Nachweis: Ohne zentrales Inventar gibt es keine Antwort auf die Frage, welche KI mit welchen Daten arbeitet.

Das ist nicht nur ein Governance-Ärgernis, es ist ein reales Risiko. Ein einzelnes Tool ohne Auftragsverarbeitungsvertrag oder mit Servern außerhalb der EU reicht, um ein Datenschutzproblem zu erzeugen. Und der Aufwand, das im Nachhinein zu entwirren, ist um ein Vielfaches höher als eine saubere Konsolidierung von Anfang an.

Der Hebel: ein Gateway statt zehn Verträge

Die Konsolidierung gelingt nicht, indem man Tools verbietet, sondern indem man den Zugang zu den Modellen zentralisiert. Ein LLM-Gateway ist ein einziger, governter Punkt, über den alle KI-Anfragen laufen. Dahinter sitzen die Modelle, davor sitzt die Kontrolle: Wer darf was, welches Modell für welchen Zweck, und was kostet es.

So sieht eine solche Routing-Regel im Kern aus:

# LLM-Gateway: Zugang zentral steuern statt pro Tool (LiteLLM-Stil)
model_list:
  - model_name: standard          # günstig, für den Alltag
    litellm_params: { model: databricks-llama-3, max_budget: 200 }
  - model_name: premium           # stark, nur für harte Fälle
    litellm_params: { model: claude-sonnet-4-6, max_budget: 500 }
# Jedes Team bekommt ein Budget, jeder Aufruf wird geloggt.

Wie sich die verfügbaren Gateways unterscheiden, ordnet unser 4er-Vergleich von LLM-Gateways ein. Wie der Aufbau als Plattform aussieht, zeigen wir in den verwandten Themen am Ende.

Governance: ohne Inventar kein EU AI Act

Seit dem 2. August 2026 ist der Kern des EU AI Act anwendbar. Er verlangt unter anderem, dass Unternehmen wissen und dokumentieren, welche KI-Systeme sie einsetzen und wofür. Mit einem Wildwuchs aus Schatten-Tools ist diese Anforderung schlicht nicht erfüllbar, weil niemand die vollständige Liste hat.

Ein Gateway löst das als Nebeneffekt: Weil alle Anfragen darüber laufen, entsteht automatisch das Inventar, das die Governance verlangt. Wer welche Modelle nutzt, mit welchen Daten, in welchem Umfang, steht im Log. Wie ein solcher Governance-Rahmen aussieht, zeigt unser Überblick zur KI-Governance.

Warum Verbieten nicht funktioniert

Die naheliegende Reaktion auf Wildwuchs ist ein Verbot: Ab sofort nur noch genehmigte Tools. Unsere klare Position: Das funktioniert nicht. Die Teams haben zu ihren Tools gegriffen, weil sie ein echtes Problem gelöst haben. Ein Verbot treibt die Nutzung nur tiefer in den Schatten, auf private Accounts, wo die Kontrolle vollständig verloren geht.

Der bessere Weg ist kanalisieren statt verbieten. Ein Gateway macht den offiziellen Weg zum bequemeren: schneller Zugang, mehr Modelle, klare Budgets. Wenn der governte Weg der einfachste ist, wählen ihn die Teams von selbst. So bekommen Sie Kontrolle zurück, ohne gegen die eigene Mannschaft zu arbeiten. Wie ein solcher zentraler Zugang im Mittelstand konkret aussieht, zeigen wir in den verwandten Themen.

Häufig gestellte Fragen

Was bedeutet KI-Wildwuchs oder Shadow AI?

Dass verschiedene Abteilungen unabhängig voneinander eigene KI-Tools einführen, ohne zentrale Übersicht. Der Vertrieb nutzt ein Tool, das Marketing ein anderes, die IT erfährt oft erst aus der Abrechnung davon. Das Ergebnis sind unkontrollierte Kosten, offene Datenabflüsse und kein Nachweis, welche KI mit welchen Daten arbeitet.

Wie konsolidiert man KI-Tools sinnvoll?

Nicht durch Verbote, sondern durch einen zentralen, governten Zugang. Ein LLM-Gateway leitet alle KI-Anfragen über einen Punkt, an dem Modell-Routing, Kostenkontrolle, Zugriffskontrolle und Audit-Logging sitzen. Die Teams behalten ihre Anwendungsfälle, aber der Zugang wird steuerbar und nachvollziehbar.

Was ist ein LLM-Gateway?

Ein zentraler Zugangspunkt zwischen den Nutzern und den Sprachmodellen. Es entscheidet, welches Modell für welche Anfrage genutzt wird, setzt Budgets pro Team, kontrolliert Zugriffe und protokolliert jeden Aufruf. Damit wird aus zehn einzelnen Tool-Verträgen eine governte Plattform mit Überblick über Kosten und Datenflüsse.

Warum ist Wildwuchs ein EU-AI-Act-Problem?

Weil der EU AI Act, dessen Kern seit dem 2. August 2026 anwendbar ist, verlangt, dass Unternehmen ihre eingesetzten KI-Systeme kennen und dokumentieren. Mit verstreuten Schatten-Tools ist diese vollständige Liste nicht zu erstellen. Ein Gateway erzeugt das nötige Inventar automatisch, weil alle Anfragen darüber laufen.

Sollten wir nicht-genehmigte KI-Tools einfach verbieten?

Das führt selten zum Ziel. Ein Verbot treibt die Nutzung auf private Accounts, wo jede Kontrolle verloren geht. Wirksamer ist, den offiziellen Weg zum bequemsten zu machen: schneller Zugang, mehr Modelle, klare Budgets über ein Gateway. Wenn der governte Weg der einfachste ist, wählen die Teams ihn freiwillig.

Nächster Schritt

Wenn bei Ihnen jede Abteilung ihr eigenes KI-Tool fährt, kartieren wir den Bestand und zeigen den Weg zur Konsolidierung. Ehrlich, auch bei der Frage, welche Tools bleiben dürfen und welche nicht.

Verwandte Themen