Eigene KI Praxis 2026: raus aus dem Frontier-Lab

Constantin Budin, Principal Data & AI bei Pexon Consulting | 9 Min. Lesezeit | 04.10.2026

TL;DR: eigene KI Praxis in fünf Sätzen

Eine eigene KI Praxis ist das Können im Haus, Modell, Daten und Prüfung selbst zu führen, statt ein Frontier-Lab zum stillen Partner zu machen. Pexon Consulting (80 Mitarbeitende, Deutschland, Azure, AWS und GCP) baut dafür die Schicht: Wechselrecht, Evals, mehrere Modelle. Der Vorstand bekommt eine Antwort, die ein nacktes Abo nicht ersetzt.

Das Problem: Das KI-Thema ist kein Haken in der Quartalsfolie

Alex Atallah, OpenRouter, beschreibt im a16z-Gespräch vom 3. Oktober 2026 denselben Moment, den wir in Lenkungskreisen sehen. Niemand geht in den Vorstand und sagt, das KI-Problem sei dieses Quartal erledigt. Der Vorstand fragt jeden Monat, was als Nächstes kommt. Ein internes Team existiert inzwischen fast überall. Eine Strategie dahinter oft nicht.

Die bequeme Antwort ist ein Vertrag mit einem Frontier-Lab. Die Anwendung spricht mit einem Modell, die Rechnung ist verständlich, die Marke kennt der Einkauf. Atallah hält das für die Falle, die er beim Start von OpenRouter vor drei Jahren erwartet hat: Enterprises kaufen, was andere Enterprises kaufen, weil niemand den Unterschied sicher beurteilen kann. Überrascht hat ihn, dass diese Bewegung nur zum Teil gegriffen hat. Viele wollten raus aus den proprietären Labs. Zwei Gründe: Kosten, und der Wunsch, die eigene Intelligenz zu besitzen.

Unsere Empfehlung ist hart. Ein einziges Frontier-Abo ist keine Praxis. Es ist ein Haken.

Warum ein Frontier-Lab ein schlechter exklusiver Partner ist

Amjad Masad (Replit) legt die zweite Kante daneben, und die ist unbequemer als der Preis. Foundation-Labs ziehen in das Geschäft ihrer Kunden. Er nennt Figma und das Nebeneinander von Harvey und OpenAI. Partnern sei schwer, weil diese Firmen die Welt als ihren Markt beschreiben. Die Zahl, mit der er das zuspitzt, steht schon im Cold Open: 30 Billionen gegen ein Welt-BIP von 100 Billionen. Das ist seine Rhetorik im Gespräch, keine geprüfte Filing-Zahl. Die Richtung ist trotzdem klar. Wer sein Kerngeschäft an einen Anbieter hängt, dessen Ehrgeiz ein großer Teil der Wirtschaft ist, kauft einen Partner, der später im selben Markt steht.

Masad beruft sich außerdem auf die Linie des Microsoft-Chefs. Erst wurde jede Firma eine Internetfirma, dann hatte jede Software-Ingenieure. Jetzt braucht jede eine KI-Fähigkeit, die im Haus wächst: welches Modell zum Fall passt, wie Geld gespart wird, was das Team im nächsten Quartal besser kann als das nackte Modell.

Wir raten ab, diese Fähigkeit an den Anbieter zu delegieren, der sie später selbst verkaufen will. Der Vertrag ändert die Ambition nicht. Details zu Harvey oder Figma stehen in der Folge nicht, und wir erfinden keine. Der Beschaffungssatz reicht: Exklusivität ist das Risiko, nicht die fehlende Feature-Liste.

Was „besitzen“ hier heißt, und was es nicht heißt

Atallah meint mit Intelligenz besitzen kein eigenes Foundation-Modell. Er meint eine interne Praxis. Der Käufer seiner Kunden stellt die eine Frage, an der Scheinprodukte scheitern: Was, wenn ich das Modell direkt nehme? Prompts auf einem einzelnen Modell sind für ihn keine Antwort. Den Unterschied sucht er in dem, was er Neurodiversität nennt. Mehrere Modelle, auf verschiedene Arten trainiert, darunter eigene, plus Daten, die der direkte Modellzugang nicht hat.

Dazu kommt der Marktplatz, und der ist ein Kostenargument, kein Philosophie-Seminar. Es gebe Geschäfte, die erst entstehen, wenn sie billig genug sind. Ein Anbieter mit gefangenem Markt senkt die Preise nicht freiwillig. Atallah sagt, vor diesem Marktplatz habe es einen Spieler gegeben, OpenAI, und das hätte eine sehr seltsame Welt werden können. Den Katalog eines Modells kann man seiner Meinung nach nicht auf eine Webseite schreiben. Man muss sehen, wie es benutzt wird.

Was in der Folge fehlt, sagen wir offen. Es gibt kein Organigramm, kein Budget, keine Eval-Suite zum Abschreiben. Atallah wünscht sich mehr Firmen-Benchmarks und sagt, sie fingen erst an. Irgendwann sollen sie zeigen, dass die eigene Lösung besser ist, als Claude direkt zu benutzen. Masad verweist auf Replit, Kosten pro Aufgabe und Experimente mit Agenten, ohne das Verfahren auszubreiten.

Unsere klare Empfehlung: Die Praxis besteht aus drei Dingen, die ein Modellwechsel überleben, und aus nichts, was im Prompt des Monats steht.

1. Eine Zugangsschicht, die Aufgabe und Modell trennt. Die Anwendung kennt die Aufgabe. Welches Modell sie heute bedient, ist austauschbar.
2. Evals aus den eigenen Fällen. Nicht das öffentliche Leaderboard des Labs.
3. Daten und Rechte, die nicht in einem Consumer-Agenten landen, nur weil der im Privatleben schon an der Bank hängt.

# Die Anwendung kennt Aufgaben. Das Modell ist austauschbar.
routen:
  - aufgabe: klasse-vergeben
    ziel: eigenes-modell
  - aufgabe: offene-recherche
    pool: [modell-a, modell-b]

Wer den Wechsel als Projekt für den Tag der Abschaltmail plant, hat keine Praxis. Wie sich so ein Wechsel in Embeddings und Fristen auswirkt, steht in unserem Text zum KI-Modellwechsel und dem, was den Lock-in überlebt.

Die Schicht über Token, Cloud und Daten

Masad zieht die Unabhängigkeit eine Etage höher als den Modellkatalog. Replit werde eine Schicht zwischen dem Unternehmen und den Modellen: das brauchbare Token zum niedrigsten Preis. Dazu eine Abstraktion, die auf AWS und auf Azure deployen kann und Databricks wie Snowflake benutzbar hält. Nicht nur bei KI. Bei Technologie überhaupt brauche es Plattformen, die Firmen Unabhängigkeit verschaffen.

Der Teil, der uns am meisten überzeugt, ist nicht der Token-Preis. Es ist die Kehrtwende bei der Betriebsform. Vor zwei Jahren hätte er Bring-your-own-Cloud abgelehnt. Cloud sei die Zukunft gewesen, Software as a Service. Fast ein Jahr Arbeit später lässt sich Replit in die Cloud des Kunden legen. Der Anlass sind Datenlecks durch Agenten. Consumer ist klar: Muse an Kreditkarte und Bank. Enterprise-Daten an Muse oder Grokbot zu hängen, sei etwas anderes. Er verweist auf Screenshots, in denen ein Assistent Daten vermischt und einen Menschen mit fremdem Namen anspricht, und sagt dazu, er wisse nicht, wie wahr sie sind.

Diese Unsicherheit behalten wir bei. Wir bauen keine Architektur auf einen Twitter-Screenshot. Wir sehen denselben Druck in Projekten: Sobald ein Agent Mandantendaten, Tickets und Postfächer sieht, ist „das läuft in der US-Cloud des Herstellers“ keine Nebensache mehr. On-premise ist dabei nicht die automatische Antwort. Es löst die Datenklasse und erzeugt Betrieb. Wo die Daten das Land nicht verlassen dürfen, ist die Datensouveränität der Modelle die engere Frage, nicht ein zweites US-Abo. Pexon Consulting baut beides und rät zu on-premise, wenn die Datenklasse es verlangt, nicht weil ein Podcast es romantisch findet.

Die überall gleiche Agent-Schleife (Memory, Sandbox, Konnektoren, Benachrichtigung) ist für Atallah ein Pflichtbaukasten, so wie 2005 Login und Users-Tabelle Pflicht waren. Differenzierung entsteht danach. Im Unternehmen sei echte Arbeit mit diesen Bausteinen noch ungelöst. Genau dort sitzt die Praxis: nicht der Baukasten, sondern die Frage, welche Daten welches Modell unter wessen Recht überhaupt sehen darf. Wer das als Produktfeature eines Labs erwartet, wartet auf den Mitbewerber.

Ein selbst gehosteter Router ist der engere Verwandte dieses Gedankens, nicht ein zweites Abo. Dazu der Text OpenRouter souverän selbst betreiben.

Was wir nicht aus dieser Folge machen

Drei Grenzen, damit aus einem Gespräch kein Angebot wird, das keiner der beiden beschrieben hat.

Stripe hat OpenRouter übernommen. Atallah sagt, der Anstoß sei im Juli gekommen, Verkaufen sei vorher kein Plan gewesen, Stripe sei unter denkbaren Käufern seine erste Wahl gewesen. Marke und Roadmap sollten autonom bleiben. Ein Kaufpreis steht nicht im Gespräch. Payments und Inference „wachsen zusammen“ ist eine Richtung, keine Architektur, die wir nachbauen.

„PTO frontier“ im Caption lesen wir nicht als Produktnamen. Der Satz meint die verschiebbare Grenze von Preis und Leistung. Wer daraus eine Kennzahl macht, erfindet sie.

Und Neurodiversität ist kein Freibrief, fünf Modelle parallel zu betreiben, weil es modern aussieht. Atallah bindet sie an einen Nachweis: besser sein als das Modell direkt, auf der Aufgabe des Käufers, zu Kosten, bei denen das Geschäft überhaupt entsteht. Ohne Eval ist das ein Stapel Lizenzen.

Häufig gestellte Fragen

Was ist eine eigene KI Praxis?

Eine eigene KI Praxis ist das interne Können, Modellwahl, eigene Daten und eigene Prüfungen zu führen. Alex Atallah beschreibt sie als das Gegenteil eines abgehakten Features: Der Vorstand fragt jeden Monat weiter, und die Antwort darf nicht „wir haben ein Abo“ sein.

Reichen gute Prompts auf einem Frontier-Modell?

Für den Unterschied zu „ich nehme das Modell direkt“ reichen sie Atallah nicht. Er sucht mehrere, unterschiedlich trainierte Modelle, darunter eigene, und Daten, die der direkte Zugang nicht hat. Prompts bleiben notwendig. Sie sind nicht die Praxis.

Was kostet der Ausstieg aus einem Frontier-Lab?

Eine Gesamtsumme nennt die Folge nicht, und wir erfinden keine. Sichtbar sind die Posten, die eine Praxis klein hält: Evals, die einen Wechsel in Tagen prüfbar machen, eine Zugangsschicht, die das Modell austauscht, und Daten, die nicht neu eingebettet werden müssen, nur weil der Anbieter wechselt.

Open-Weight oder ein zweites Closed-Model: was meinte Atallah?

Ihn hat überrascht, dass Unternehmen Open-Weight-Modelle ernster geprüft haben, als die Markenlogik erwarten ließ. Motiv waren Kosten und Differenzierung, nicht ein Prinzip. Ein zweites Closed-Model ohne eigene Prüfung verschiebt den Lock-in nur.

Müssen wir dafür on-premise gehen?

Nein. Masad beschreibt Bring-your-own-Cloud als Reaktion auf Datenlecks durch Agenten, nachdem er Software as a Service lange für ausreichend gehalten hat. On-premise löst eine Datenklasse. Wer die Klasse nicht hat, betreibt eine teure Antwort auf die falsche Frage.

Nächster Schritt

Verwandte Themen