AI Agent Consulting: Wann braucht ein Unternehmen einen externen Berater?

AI Agent Consulting für deutsche Mittelstand-CIOs: Wann lohnt sich externe Beratung, wann intern aufbauen? Konkrete Trigger, transparente Kosten, Berater-Red-Flags und 4-Wochen-Festpreis-Pilot.

6 Juli. 2026 | AI

Inhaltsverzeichnis

Pexon Consulting | 9 Min. Lesezeit | 22.05.2026


TL;DR

AI Agent Consulting lohnt sich, wenn der Pilot bei 60% steht und nicht in Produktion kommt, wenn die EU-AI-Act-Deadline 02.12.2027 für Hochrisiko-Systeme drückt, oder wenn die Multi-Agent-Framework-Entscheidung über sechs Monate Rewrite entscheidet. Pexon Consulting liefert Senior-Only-Pilotierung in 4 Wochen Festpreis 15-25k EUR mit Skill-Transfer auf interne Devs. 40% aller Agent-Projekte werden laut Gartner bis 2027 gecancelt — meist aus den gleichen drei Gründen.

Eigene Entwicklung AI Agent Consulting extern
Time-to-First-Result 3-6 Monate (mit Hiring) 2-4 Wochen Pilot
Gesamtkosten erstes Jahr 200k+ Vollkosten 2 ML Engineers 25-180k je nach Scope
Skill-Transfer nicht relevant explizit im Vertrag
Framework-Risiko Lock-in durch erste Wahl Multi-Framework-Erfahrung
Production-Reife 11% schaffen es laut Gartner 70%+ mit Eval-Pipeline

Wann fragen Unternehmen uns an?

Es gibt einen Punkt, an dem ein internes KI-Projekt entweder durchstartet oder kippt. Wir kennen ihn aus 40+ Kundenprojekten in den letzten 18 Monaten: Der Pilot funktioniert auf zehn Demo-Cases, aber sobald reale Datenvielfalt dazukommt, halluziniert das System bei 8% der Anfragen. Eval-Pipeline gibt es nicht. Monitoring auch nicht. Und das interne Team hat zwei ML Engineers, die parallel noch Forecasting und Empfehlungs-Modelle betreuen.

Genau in dem Moment ruft uns der CTO an. Nicht weil ihm Strategie fehlt — die ist da. Sondern weil ihm Implementation-Tiefe fehlt: Wer baut die Eval-Pipeline so, dass sie zukünftige Regressions früh erkennt? Welches Framework hält in zwölf Monaten noch? Wie sieht Multi-Agent-Architektur aus, die später nicht komplett umgeschrieben werden muss?

Gartner hat im Juni 2025 eine Studie mit 3.400 Organisationen veröffentlicht, in der über 40% angeben, ihre Agentic-AI-Projekte bis Ende 2027 zu canceln. Die häufigsten Gründe: Pilot-Purgatory (86% der Unternehmen bleiben dort hängen), Integration-Failure (70% scheitern an Datenintegration mit 8+ Quellen), und Eval-Lücken, durch die Drift und Halluzinationen unerkannt produktiv laufen.


Sieben konkrete Trigger für externes AI Agent Consulting

Wir haben aus den letzten Projekten eine Trigger-Liste destilliert. Wenn drei oder mehr davon zutreffen, lohnt sich der externe Blick.

Trigger 1: Pilot funktioniert, Skalierung nicht. Ein Use-Case läuft, fünf weitere sollen kommen. Aber niemand weiß, wie das Framework, das auf zehn Beispielen passt, auf 200 Workflows skaliert. Ownership, Governance, Eval-Konsistenz — alle drei sind Eigenarbeit, die im Tagesgeschäft niemand macht.

Trigger 2: Multi-Agent-Framework-Wahl steht an. LangGraph, Claude Agent SDK, AWS Strands, OpenAI Agents, AutoGen, CrewAI — sechs ernstzunehmende Frameworks 2026, alle mit unterschiedlichem Sweet-Spot. Die falsche Wahl ist sechs Monate Rewrite später. Wir machen die Architektur-Entscheidung in 1-2 Workshops, weil wir in allen sechs Frameworks Production-Code gesehen haben.

Trigger 3: EU AI Act 02.08.2026. Ab dem Tag startet die Bundesnetzagentur aktive Marktüberwachung. AI Literacy ist seit Februar 2025 wirksam, ein Audit oder Zertifikat ist dafür nicht vorgeschrieben. Wer ein produktives KI-System ohne Risiko-Klassifizierung, Audit-Trail und Anbieter-vs-Betreiber-Klärung betreibt, baut Compliance-Schulden auf, die später teurer werden.

Trigger 4: RAG/MCP-Integration mit 8+ Datenquellen. 42% der Enterprise-Agent-Projekte brauchen acht oder mehr Datenquellen, 70% scheitern an der Integration. Das ist keine Toolauswahl, das ist eine Architekturfrage — wie wird konsistent über SharePoint, Confluence, SAP, Salesforce, GitHub und sechs weitere Systeme geretrieved, ohne dass jeder Connector eigenständig driftet.

Trigger 5: Eval-Pipeline existiert nicht. Ohne Eval keine belastbare Aussage über Qualität, ohne Quality-Signal keine Production. Wir bauen Eval-Pipelines mit Golden-Sets, Online-Scorern und Regression-Detection — typisch 5-10 Tage Aufwand, danach läuft sie automatisch in der CI.

Trigger 6: Cost-Spike, der niemand erklärbar ist. Die LLM-Rechnung war im März 18.000 EUR, im April 47.000 EUR — gleiches Featureset. Wer hier nicht innerhalb von 48 Stunden eine Antwort hat, fährt blind. Token-Tracking, Caching-Strategie und Modell-Routing-Policy sind das Standard-Optimierungsfeld.

Trigger 7: Skill-Transfer auf interne Devs ist erwünscht. Wenn extern starten und intern fortführen das eigentliche Ziel ist, muss der Berater das von Tag 1 vertraglich liefern. Pair-Programming-Sprints, dokumentierte Architektur-Entscheidungen, Eval-Pipeline mit Onboarding-Doku — das ist kein Nice-to-have.


Kosten extern vs intern — der ehrliche Vergleich

Ein Senior AI Consultant in DACH kostet aktuell zwischen 1.600 und 2.500 EUR pro Tag, je nach Setup und Vertragsart. Bei Big4 (Capgemini, Accenture, Deloitte) liegen die Tagessätze bei 2.200-3.200 EUR — oft Junior-Heavy, mit einem Senior als Account-Lead, der drei Junior-Teams parallel supervidiert. Boutique-Häuser im DACH-Raum, zu denen wir uns zählen, bewegen sich bei 1.400-1.800 EUR Tagessatz, dafür ohne Junior-Pyramid und ohne Strategiepapier-Bias.

Was ein 6-Monats-Projekt extern kostet, hängt vom Senioritätsmix und Tagessatz ab. Ein Senior-FTE-Äquivalent über ein halbes Jahr landet bei 180-220k EUR netto. Ein Festpreis-Pilot mit Workshop und 4-Wochen-MVP rangiert bei uns zwischen 15.000 und 25.000 EUR — ohne T&M, ohne versteckte Tagessatz-Eskalation.

Eigene Entwicklung sieht oberflächlich günstiger aus, ist aber selten so. Zwei ML Engineers in Deutschland kosten als Vollkosten rund 200.000 EUR pro Jahr (Bruttogehalt + Lohnnebenkosten + Tools + Arbeitsplatz). Dazu Time-to-Hire — 60-90 Tage realistisch für Senior LLM/AI Platform Engineer, oft länger. Plus Recruiting-Cost 20-25k EUR. Plus die ersten 3 Monate Onboarding, in denen produktiver Output begrenzt ist.

Unsere Faustregel aus der Praxis: Externe Beratung amortisiert sich, wenn die KI-Roadmap unter 12 Monaten liegt. Hybrid (extern starten, intern übernehmen) ist der Standard bei 12-18 Monaten. Voll-interner Aufbau lohnt erst bei einer kontinuierlichen KI-Pipeline über 18 Monate hinaus — mit klarer Karriereperspektive für die ML Engineers, sonst verlieren Sie sie wieder.


Wie ein Pilot bei uns aussieht

Wir starten meistens mit einem 4-stündigen Architektur-Workshop. Da nehmen wir den Use-Case auseinander, prüfen ihn gegen unseren Anti-Pattern-Katalog („Multi-Agent zuerst“ ist der häufigste Killer) und definieren die Eval-Baseline. Der Workshop kostet 3.000 bis 5.000 EUR und führt entweder zu einem Pilot-Angebot oder zu einer ehrlichen Empfehlung, das Projekt anders zu schneiden.

Der 4-Wochen-Pilot läuft als Festpreis. Woche 1: Datenintegration und Setup (LangGraph oder Claude Agent SDK auf Azure DE-Region, MCP-Server, Vector Store). Woche 2: Erste produktive Workflows mit Eval-Baseline. Woche 3: Iteration auf Quality-Score und Latency-Budget. Woche 4: Hand-off, Doku, Skill-Transfer an interne Devs. Was am Ende steht: ein laufendes System auf Ihrer Azure-Subscription, eine reproduzierbare Eval-Pipeline und ein klarer Migrationspfad für die nächsten drei Monate.

Was wir nicht machen: Pilot ohne Eval-Baseline. Pilot ohne dokumentierten Hand-off. Pilot, dessen Code im Berater-Repo liegt statt in Ihrem GitHub. Das sind drei Anti-Patterns, an denen wir oft Projekte erkennen, die für den Berater profitabler sind als für den Kunden.


Berater-Red-Flags

Wir empfehlen, jeden AI-Berater an fünf Punkten zu prüfen, bevor Sie unterschreiben.

Erstens: Senior-Anteil unter 70% ist ein Warnsignal. „Senior“ heißt: 5+ Jahre Production-Erfahrung mit LLM-Systemen, nicht „5 Jahre Data Science und letztes Jahr ChatGPT entdeckt“. Lassen Sie sich Production-Cases zeigen — konkrete Repositories, konkrete Architektur-Entscheidungen, konkrete Eval-Pipelines.

Zweitens: Kein Eval-Setup im Scope. Wenn das Angebot keine Eval-Pipeline enthält, ist es kein Pilot, sondern ein Demo. Demos sind billiger, lösen aber das eigentliche Production-Problem nicht.

Drittens: Vendor-Lock-in auf eine eigene Plattform. Manche Berater verkaufen ein Festpreis-Pilot, das auf ihrer proprietären Cloud-Plattform läuft. Wechsel später teuer, Daten-Migration unklar — das ist ein „Berater wird Mini-SaaS“-Modell, das die Kontrolle aus dem Kunden-Tenant zieht.

Viertens: „Agentic AI“ als pauschaler Claim ohne Framework-Tiefe. Wenn auf die Frage „Welches Agent-Framework empfehlen Sie für welches Szenario?“ keine differenzierte Antwort kommt, sondern ein Pitch — Berater wechseln.

Fünftens: Pauschalisiertes T&M-Modell ohne Festpreis-Pilot vorab. Wir bieten Festpreis-Pilot grundsätzlich an, weil er das Risiko fair verteilt. Berater, die nur T&M anbieten, schieben das gesamte Eskalations-Risiko auf den Kunden.


Häufig gestellte Fragen

Was kostet AI Agent Consulting bei Pexon konkret?

Workshop 3.000 bis 5.000 EUR, Festpreis-Pilot 15.000 bis 25.000 EUR für 4 Wochen MVP. Senior-Tagessatz für laufende Engagements liegt zwischen 1.600 und 2.000 EUR netto. Ein 6-Monats-Projekt mit Senior-FTE-Äquivalent rangiert bei 180.000 bis 220.000 EUR — abhängig vom Senioritätsmix und der Anzahl der eingebundenen Spezialisten.

Wie wähle ich den richtigen AI Agent Consulting Partner?

Fünf Kriterien: Senior-Anteil über 70%, dokumentierte Multi-Agent-Production-Cases mit Repository-Nachweis, Azure- oder AWS-Partnerstatus, nachvollziehbares EU-AI-Act-Know-how, expliziter Skill-Transfer im Vertrag. Festpreis-Pilot vor T&M-Engagement ist Pflicht, sonst ist die Risiko-Verteilung schief.

Lohnt sich AI Agent Consulting für ein 50-MA-Unternehmen?

Ja, wenn der Use-Case mehr als 5 Stunden pro Woche wiederkehrende manuelle Arbeit ersetzt. Ein Festpreis-Pilot zwischen 5.000 und 15.000 EUR amortisiert sich bei einer eingesparten FTE-Stunde pro Tag innerhalb von 6-9 Monaten. Unter dieser Schwelle reicht meistens ein Tool wie Microsoft Copilot oder Claude Pro mit interner Begleitung.

Wann intern aufbauen statt extern beauftragen?

Wenn die KI-Roadmap über 18 Monate kontinuierliche Pipeline vorsieht und das Unternehmen eine Karriereperspektive für ML Engineers bieten kann. Unter 12 Monaten Roadmap: extern starten. Zwischen 12 und 18 Monaten: hybrid (extern starten, intern hand-off nach Pilot). Das ist die Standardempfehlung, die wir auch dann geben, wenn es uns weniger Folgeumsatz bringt.

Was muss ich für den EU AI Act vorbereiten und kann ein Berater dabei helfen?

Konkret: Risiko-Klassifizierung pro KI-System gemäß Annex III, Logging mit Zeitstempel-Traces für Audit-Trail, Konformitätsbewertung bei Hochrisiko-Systemen, Human-Oversight-Hooks operational, AI Literacy durch Schulungsmaßnahmen gefördert. Ein Berater hilft bei Klassifizierung, Audit-Trail-Architektur und Eval-Setup. Die organisatorische Verantwortung bleibt beim KI-Governance-Owner intern — das delegieren wir nicht.


Nächster Schritt

Wenn Sie gerade evaluieren, ob ein externer Berater für Ihr Agent-Projekt der richtige Hebel ist: Wir machen einen kostenfreien 60-Minuten-Call, gehen Ihren konkreten Use-Case durch und sagen Ihnen ehrlich, ob ein Festpreis-Pilot bei uns Sinn macht — oder ob Sie das intern besser lösen.


Verwandte Themen


Microsoft Fabric. Bilder Blogtemplate Whitepaper

Claude Code im Unternehmen

  • Praxis-Guide für IT-Leiter – mit konkreten Einblicken zu Kosten, Sicherheit und Rollout von Claude Code im Unternehmen.

Beratungsgespräch

Sichern Sie sich Ihre kostenfreie Erstberatung

Analyse Ihres individuellen Cloud- oder KI-Bedarfs
Erste Empfehlungen zu Umsetzungsstrategien
Transparente Einblicke in unsere Methoden, Technologien & Referenzen