soofi integrieren: das souveräne deutsche LLM 2026

Pexon Consulting | 8 Min. Lesezeit | 17.07.2026

TL;DR

soofi ist ein souveränes, quelloffenes deutsches Sprachmodell, das komplett in Deutschland trainiert und betrieben wird. Wir bei Pexon (80 Mitarbeitende, Microsoft Partner) begleiten die Evaluierung, den Piloten und die produktive Anbindung von Soofi S an Ihre Prozesse: RAG, Agenten und Dokumentenverarbeitung, DSGVO-konform auf Ihrer Infrastruktur. Das Modell ersetzt die Abhängigkeit von US- und China-Modellen.

Was soofi ist (und was nicht)

soofi steht für Sovereign Open Source Foundation Models, ein deutsches Konsortialprojekt unter Leitung der Leibniz Universität Hannover mit sechs Forschungseinrichtungen und zwei Startups. Das Flaggschiff Soofi S ist ein Mixture-of-Experts-Modell mit 30 Milliarden Parametern, von denen pro Token nur rund 3 Milliarden aktiv sind. Trainiert wurde es auf 27 Billionen Tokens, schwerpunktmäßig auf deutschen und englischen Texten, gebaut auf der Industrial AI Cloud der Deutschen Telekom in München.

Der entscheidende Punkt ist die Herkunft. soofi wird in Europa trainiert und betrieben, bildet europäische Werte und den EU AI Act von Grund auf ab, und ist offen statt geschlossen. Für regulierte deutsche Unternehmen ist das kein Marketing, sondern ein Architektur-Argument: Sie kontrollieren das Modell, statt es zu mieten.

Und weil hier keine Werbebroschüre steht, die ehrliche Einordnung: soofi befindet sich aktuell in der Industrie-Partner-Testphase und ist noch nicht allgemein verfügbar. Genau deshalb ist jetzt der richtige Moment, sich vorzubereiten, statt bis zur öffentlichen Freigabe zu warten.

Warum das gerade 2026 relevant wird

Hinter soofi steht kein Hobbyprojekt. Das Bundeswirtschaftsministerium fördert die Initiative mit 20 Millionen Euro, unterstützt von der Fraunhofer-Gesellschaft, dem KI-Bundesverband und dem Center for Sovereign AI. Seit März 2026 läuft ein Verbund von rund 130 NVIDIA-DGX-B200-Systemen mit über 1.000 GPUs exklusiv für das Modell. Im Juli 2026 erschien das begleitende Forschungspapier zur Architektur.

Das ist ein anderes Kaliber als ein weiteres offenes Modell aus Übersee. Die technische Auslegung zielt auf den Industriebetrieb: Das MoE-Design hält den Inferenz-Cache über wachsenden Kontext nahezu konstant, was einen spürbaren Durchsatzvorteil bringt. Übersetzt heißt das: geringere Betriebskosten bei langen Dokumenten und Agenten-Workflows, genau den Lasten, die im Unternehmen anfallen.

Unsere klare Position: Wer Datensouveränität ernst meint, kommt an europäischen Open-Weight-Modellen nicht vorbei. Ein US-Cloud-LLM in einer EU-Region senkt den Datenabfluss, löst die strukturelle Abhängigkeit aber nicht. soofi ist einer der ersten ernstzunehmenden deutschen Kandidaten, der beides zusammenbringt: industrietaugliche Qualität und echte Souveränität.

Wo soofi im Unternehmen andockt

Ein Foundation Model allein ist noch kein Produkt. Der Wert entsteht erst, wenn das Modell an Ihre Daten und Prozesse angebunden ist. soofi ist laut Konsortium auf genau diese Fälle ausgelegt: technische und regulatorische Dokumentenverarbeitung, Codegenerierung und agentische Systeme. Das deckt sich mit den Workloads, die wir bei unseren Kunden ohnehin am häufigsten sehen.

Der Weg dorthin führt über eine saubere Architektur: das Modell auf souveräner Infrastruktur, eine Retrieval-Schicht auf Ihren Dokumenten, SSO und Rechte, sowie Audit-Logging für den Nachweis. Wie sich die Hosting-Varianten für solche KI-Dienste im Detail unterscheiden, haben wir im Architektur-Vergleich ChatGPT, Azure OpenAI und Self-Hosted aufgeschlüsselt. Souveränität ist am Ende eine Frage der Datensouveränität in der KI-Architektur, nicht des Modellnamens.

Wie wir soofi einbauen: drei Phasen

Wir arbeiten in drei klar getrennten Phasen, damit der Einstieg risikoarm bleibt und Sie an jedem Punkt entscheiden können, ob es weitergeht.

Zuerst die Evaluierung. Wir prüfen anhand Ihrer echten Use-Cases, ob soofi die Qualität liefert, die Sie brauchen, und wo die Grenzen liegen. Ehrlich gesagt ist nicht jeder Anwendungsfall ein Modellfall, und wir sagen Ihnen klar, wenn ein anderer Weg besser passt. Danach der Pilot: eine lauffähige Anbindung an eine abgegrenzte Datenbasis, mit Retrieval, Guardrails und Messung an echten Fragen. Zuletzt der Betrieb: die Härtung für den Produktivbetrieb, von der Skalierung über SSO bis zum Audit-Nachweis.

Weil soofi offen ist, sind Sie an keinen Anbieter gebunden. Fällt in der Evaluierung auf, dass ein anderes Open-Weight-Modell besser passt, tauschen wir es aus, ohne die umgebende Architektur neu zu bauen. Genau das ist der Vorteil einer sauberen Trennung zwischen Modell und Anwendung.

Was soofi heute noch nicht leistet

Ehrlichkeit gehört zu einer Kaufentscheidung. soofi ist ein junges Modell in einem jungen Ökosystem, und das bringt reale Grenzen mit sich. Die Tooling-Landschaft rund um die etablierten US-Modelle ist über Jahre gewachsen, hier ist vieles noch im Aufbau. Wer heute eine fertige Plug-and-Play-Lösung erwartet, wird enttäuscht. Wer bereit ist, mit einem Integrationspartner die ersten Kilometer zu gehen, sichert sich einen Vorsprung.

Auch bei der reinen Modellgröße spielt Soofi S mit 30 Milliarden Parametern nicht in der Liga der größten geschlossenen Frontier-Modelle. Für die exotische Reasoning-Spitze greifen manche Kunden weiterhin zu einem Spitzenmodell. Für den Standard-Geschäftsbetrieb, also deutschsprachige Dokumentenverarbeitung, RAG und Agenten, ist die Größe dagegen mehr als ausreichend, und der Souveränitätsgewinn wiegt den Unterschied in der Praxis auf.

Genau hier setzt unsere Arbeit an. Wir überbrücken die jungen Stellen des Ökosystems mit bewährten Bausteinen: erprobte Retrieval-Pipelines, Guardrails, Monitoring und ein Betriebskonzept, das nicht am Forschungscluster hängt. Das Modell liefert die Sprachkompetenz, die Integration liefert die Produktreife. Unsere klare Empfehlung: soofi jetzt evaluieren, die Architektur um das Modell herum aber auf austauschbaren Fundamenten bauen, damit Sie flexibel bleiben.

Häufig gestellte Fragen

Ist soofi schon produktiv einsetzbar?

Noch nicht allgemein. soofi ist 2026 in der Industrie-Partner-Testphase und rekrutiert Pilotorganisationen. Sinnvoll ist jetzt die Vorbereitung: Use-Cases schärfen, Architektur planen und die Datenbasis aufbereiten, damit Sie zum Freigabezeitpunkt startklar sind statt bei null anzufangen.

Was kostet die Integration von soofi?

Das Modell selbst ist quelloffen. Die Kosten liegen in Infrastruktur (GPU) und Integration. Ein abgegrenzter Pilot startet typischerweise im Rahmen eines 6-Wochen-Projekts, der produktive Ausbau hängt von Nutzerzahl, Verfügbarkeitsanspruch und Integrationstiefe ab. Wir nennen den Rahmen vorab, keine Tagessatz-Überraschungen.

soofi oder ein US-Cloud-LLM, was ist besser?

Kommt auf die Anforderung an. Für maximale Souveränität, deutsche Sprache und Compliance by Design spricht viel für soofi. Wo es rein um Feature-Breite ohne Datenschutzdruck geht, kann ein Cloud-Modell schneller sein. Wir bewerten das faktenbasiert an Ihren Use-Cases, statt pauschal eine Seite zu empfehlen.

Läuft soofi auch on-premise?

Ja, das ist der Kern des souveränen Ansatzes. soofi ist für den Betrieb auf eigener oder deutscher Infrastruktur ausgelegt. Wir planen das GPU-Sizing, die Anbindung und den Betrieb so, dass Daten und Modell in Ihrer Kontrolle bleiben.

Brauchen wir für soofi ein eigenes KI-Team?

Nein, nicht zwingend. Wir übernehmen Aufbau und Härtung und übergeben ein betreibbares System samt Dokumentation. Ob Sie danach selbst betreiben oder den Betrieb bei uns lassen, entscheiden Sie.

Nächster Schritt

Der Fehler wäre, bis zur öffentlichen Freigabe zu warten und dann bei null zu starten. Wer jetzt die Use-Cases schärft und die Architektur plant, ist zum Freigabezeitpunkt vorn.

Verwandte Themen