Aleph Alpha Kolibri 2026: Test, Hardware und Lizenz

Micha, Consultant für Sovereign AI bei Pexon Consulting | 9 Min. Lesezeit | 03.10.2026

TL;DR: Aleph Alpha Kolibri in fünf Sätzen

Aleph Alpha Kolibri ist ein deutsch-englisches Open-Weight-Modell mit 78 Milliarden Parametern, von denen pro Token nur rund 3,5 Milliarden rechnen. Es erschien am 03.10.2026 unter Apache 2.0. Pexon Consulting hat Modellkarte und Benchmarks ausgewertet. Unser Urteil: stark für deutsche RAG- und Verwaltungs-Workflows, beim Coding liegt Qwen vorn.

Das Problem: Souveräne KI scheiterte bisher am Modell

Wer KI in Behörde, Versicherung oder Fertigung ohne US-Cloud betreiben wollte, hatte zwei schlechte Optionen. Entweder ein chinesisches Open-Weight-Modell wie Qwen, das technisch überzeugt, aber in Ausschreibungen und Betriebsräten regelmäßig Fragen nach Herkunft und Trainingsdaten auslöst. Oder ein europäisches Modell, das bei Reasoning und Tool-Aufrufen deutlich hinterherlief.

Aleph Alpha hatte sich nach den Luminous-Modellen weitgehend aus dem Modellrennen zurückgezogen und auf Plattform und Beratung konzentriert. Mit Kolibri kommt das Heidelberger Unternehmen am Tag der Deutschen Einheit zurück, und zwar mit vollständig offenen Gewichten auf Hugging Face. Trainiert wurde in Deutschland und Finnland, unter europäischem Recht, auf 768 Nvidia-B200-GPUs. Aleph Alpha hat zudem den GPAI Code of Practice der EU unterzeichnet.

Unsere Meinung dazu: Die Herkunft allein ist kein Kaufgrund. Ein Modell, das in der Fachabteilung schlechtere Antworten liefert, wird umgangen, egal wie souverän es ist. Deshalb lohnt der Blick auf die Zahlen.

Was in Kolibri steckt: 78B Parameter, 3B aktiv

Kolibri ist ein Mixture-of-Experts-Modell mit 50 Schichten. Jede Schicht hat 384 Experten, pro Token arbeiten davon sechs plus ein gemeinsamer Experte. Das ergibt 3,46 Milliarden aktive von insgesamt 78,1 Milliarden Parametern. Rechenaufwand und Latenz liegen damit auf dem Niveau eines kleinen Modells, das Wissen auf dem Niveau eines deutlich größeren.

Der Haken ist der Speicher. Alle 78 Milliarden Parameter müssen geladen sein, auch wenn nur ein Bruchteil rechnet. In FP8 sind das rund 78 GB.

Beim Kontext setzt Aleph Alpha auf einen Trick: 40 der 50 Schichten schauen nur auf ein Fenster von 512 Token, jede fünfte Schicht sieht den gesamten Kontext. Das hält den KV-Cache klein. Laut Tech-Blog bedient die 78B-Variante auf zwei H100 bis zu 18 gleichzeitige Anfragen mit 256k Kontext, ein getestetes 123B-Modell schaffte nur 3.

Drei Details, die für deutsche Unternehmen zählen:

1. Deutscher Trainingsanteil: 21,3 Prozent der 20 Billionen Pre-Training-Token sind Deutsch, rund 4,3 Billionen. Übersetzt wurde kaum, der Großteil ist kuratiertes oder umformuliertes deutsches Web, ergänzt um Parlamentsprotokolle und Gesetzestexte.
2. Eigener Tokenizer: Kolibri packt im Schnitt 4,90 Byte deutschen Text in ein Token, GPT-5 schafft 4,35. Für dieselbe deutsche Akte braucht Kolibri also rund 11 Prozent weniger Token, was Latenz und Kontextbudget direkt entlastet.
3. Steuerbares Reasoning: Über reasoning_effort lässt sich die Denkzeit auf none, low, medium oder high stellen. Einfache Klassifikation läuft ohne Denkphase, schwierige Prüfungen mit voller Tiefe.

Der Wissensstand reicht bis 18.06.2026, für Deutsch und Englisch gleich. Kolibri Origin, ein 30B-Vorgänger aus derselben Pipeline, wurde übrigens nie öffentlich veröffentlicht.

Aleph Alpha Kolibri im Benchmark-Vergleich

Die kurze Antwort: Kolibri gewinnt dort, wo deutsche Sprache, Mathematik und Belegtreue zählen. Bei Coding und allgemeinem Tool-Calling ist Qwen3.6 35B-A3B mit gleich vielen aktiven Parametern vorn. Alle Zahlen stammen von Aleph Alpha selbst, gemessen mit eigenen Harnesses. Unabhängige Messungen fehlen am Launch-Tag noch.

Zwei Werte fallen auf. Im Banking-Agenten-Test Tau3 erreicht Kolibri 38,1 Prozent, alle Vergleichsmodelle bleiben unter 16. Und beim Honeypot-Test, der prüft, ob ein RAG-Agent sich von irreführenden Dokumenten ablenken lässt, liegt Kolibri vor allen verglichenen Modellen. Beides passt zu dem, wofür Aleph Alpha trainiert hat: Kolibri soll „Ich weiß es nicht“ sagen, wenn die Antwort nicht im Kontext steht.

Die Kehrseite: Beim Wissenstest MMLU-ProX auf Deutsch liegt Qwen3.6 gut sechs Punkte vorn. Und ein dichtes Modell wie Qwen3.8 27B schlägt Kolibri in fast jeder Kategorie, braucht pro Token aber rund achtmal so viele aktive Parameter.

Unsere klare Empfehlung: Kolibri ist kein Coding-Agent. Wer Software-Entwicklung automatisieren will, bleibt bei Qwen oder GLM, wie in unserem Vergleich von GLM-5.3-Flash und Qwen3.8-Flash beschrieben. Für Sachbearbeitung, Wissensabfrage über eigene Dokumente und deutschsprachige Assistenz gehört Kolibri ab heute auf die Shortlist.

Kolibri selbst hosten: Hardware und vLLM-Setup

Ein einzelner Server reicht. Die Mindestanforderung liegt bei 2× A100 80 GB, 2× H100 SXM5 oder einer einzelnen H200, B200 oder B300. Empfohlen sind 2× H100 SXM5, 2× H200 oder eine B200. Für einen Pilot mit 20 bis 50 Nutzern ist eine H200 bei einem deutschen Hoster der pragmatische Startpunkt.

Kolibri läuft über vLLM, braucht aber das Plugin-Paket aleph-alpha-inference. Version 1.0.0 erschien am 03.10.2026, das GitHub-Repository zählte am selben Tag 13 Sterne, die Modellseite auf Hugging Face 209 Likes. Das ist ein Frischemarker, kein Reifegrad.

# Plugin installieren, zieht die passende vLLM-Version mit
pip install "aleph-alpha-inference>=1.0"

# Modell mit Reasoning und Tool-Calling starten (FP8-KV-Cache spart Speicher)
vllm serve Aleph-Alpha/Kolibri-1 --kv-cache-dtype fp8 
  --reasoning-parser kolibri1 
  --tool-call-parser kolibri1 
  --enable-auto-tool-choice

Der Endpoint ist OpenAI-kompatibel. Bestehende Clients lassen sich damit ohne Umbau testen:

from openai import OpenAI

client = OpenAI(base_url="http://localhost:8000/v1", api_key="EMPTY")

antwort = client.chat.completions.create(
    model="Aleph-Alpha/Kolibri-1",
    messages=[{"role": "user", "content": "Fasse den Bescheid in drei Sätzen zusammen: ..."}],
    temperature=1.0,
    top_p=0.97,
    # Denkzeit steuern: none, low, medium oder high
    extra_body={"chat_template_kwargs": {"reasoning_effort": "low"}},
)
print(antwort.choices[0].message.content)

Mehr als 262.144 Token Kontext schalten Sie mit --max-model-len 1048576 frei. Wir raten davon ab, die Million in eine Kapazitätsplanung zu schreiben. Jeder zusätzliche Kontext belegt KV-Cache und senkt die Zahl paralleler Nutzer. Für die meisten Dokumenten-Workflows ist sauberes Retrieval mit 32k bis 128k Kontext günstiger und genauer.

Der Modellname gehört in ein Gateway, nicht fest in jede Anwendung. Wie das mit einem Router wie LiteLLM aussieht, haben wir beim Test von Qwen3.8-Flash-Next gezeigt. So können Sie Kolibri und Qwen parallel betreiben und je Use Case das bessere Modell wählen.

Lizenz, Kosten und für wen sich Kolibri lohnt

Apache 2.0 ist das stärkste Argument für Kolibri. Kommerzielle Nutzung, Anpassung und Weiterverteilung sind erlaubt, ohne Nutzerschwellen oder Sonderklauseln. Das unterscheidet Kolibri von Modellen unter eigenen Community-Lizenzen, bei denen die Rechtsabteilung jeden Einsatz einzeln prüfen muss.

Einen Tokenpreis gibt es beim Selbstbetrieb nicht. Kosten entstehen durch GPU-Miete oder Kauf, Strom, Bereitschaft und Updates. Bei gleichmäßiger Last über den Tag kann das günstiger sein als eine API, bei zehn Anfragen am Tag sicher nicht. Wir sehen bei unseren Kunden, dass sich ein eigener Modellserver meist erst ab mehreren hundert aktiven Nutzern oder bei Daten rechnet, die das Haus ohnehin nicht verlassen dürfen.

Für wen Kolibri passt:

• Öffentliche Verwaltung und KRITIS, wenn Herkunft, Trainingsort und Lieferkette dokumentiert sein müssen
• Versicherungen und Banken, die RAG über Bedingungswerke und Verträge mit nachvollziehbarer Belegtreue brauchen
• Fertigung und Zulieferer, die technische Dokumentation auf Deutsch durchsuchbar machen wollen

Für wen nicht: Teams, die einen Coding-Agenten suchen, und Unternehmen, die mehr als Deutsch und Englisch abdecken müssen. Französische oder polnische Standorte bedient Kolibri nicht.

Kolibri ist zudem für Systeme gedacht, in denen ein Mensch das Ergebnis prüft, bevor gehandelt wird. Das schreibt Aleph Alpha selbst in die Modellkarte. Für Hochrisiko-Anwendungen nach EU AI Act ersetzt das Modell also keine Governance, es erleichtert nur die Dokumentation. Den Architekturrahmen für Datenresidenz über das einzelne Modell hinaus beschreibt unser Deutschland-hosted AI App Stack, die rechtliche Seite unsere Seite zur Datensouveränität bei KI.

Pexon Consulting begleitet Unternehmen mit 300 bis 3.000 Mitarbeitenden beim Betrieb offener Modelle in Deutschland, als Microsoft Partner mit rund 80 Mitarbeitenden. Unser Vorschlag für die nächsten sechs Wochen: Kolibri und Qwen3.6 auf denselben 50 echten Fachanfragen gegeneinander laufen lassen, mit Ihren Dokumenten und Ihrer Bewertung. Dann entscheiden Zahlen statt Herkunft.

Häufig gestellte Fragen

Was ist Aleph Alpha Kolibri?

Kolibri ist ein Open-Weight-Sprachmodell von Aleph Alpha aus Heidelberg, veröffentlicht am 03.10.2026. Es ist ein Mixture-of-Experts-Modell mit 78 Milliarden Parametern, von denen pro Token rund 3,5 Milliarden aktiv sind, und auf Deutsch und Englisch spezialisiert.

Welche Hardware braucht Kolibri?

Die Gewichte belegen in FP8 rund 78 GB. Minimum sind 2× A100 80 GB, 2× H100 SXM5 oder eine einzelne H200, B200 oder B300. Für produktiven Betrieb mit langem Kontext empfiehlt Aleph Alpha 2× H100 SXM5, 2× H200 oder eine B200.

Was kostet Kolibri?

Das Modell selbst ist kostenlos und steht unter Apache 2.0. Es fallen nur Infrastruktur- und Betriebskosten an, also GPU, Strom, Hosting und Wartung. Ob das günstiger als eine API ist, hängt von Auslastung, Nutzerzahl und Kontextlänge ab.

Ist Kolibri besser als Qwen?

Kommt auf die Aufgabe an. Bei deutschem Reasoning, Mathematik, Banking-Agenten und Belegtreue im RAG liegt Kolibri laut Hersteller-Benchmarks vorn. Bei Coding, allgemeinem Tool-Calling und Wissensfragen ist Qwen3.6 35B-A3B stärker.

Ist Aleph Alpha Kolibri DSGVO-konform?

Ein Modell ist nicht per se DSGVO-konform, die Anwendung muss es sein. Kolibri erleichtert das, weil es vollständig in Ihrer Infrastruktur läuft und keine Daten an Dritte gehen. Auftragsverarbeitung, Löschkonzept und Rechtemodell bleiben trotzdem Ihre Aufgabe.

Nächster Schritt

Verwandte Themen