Was ist Chunking?
RetrievalChunking ist das Zerlegen von Dokumenten in kleinere Textabschnitte, bevor sie in einen Suchindex wandern. Jeder Abschnitt wird einzeln auffindbar, damit ein Sprachmodell zu einer Frage nur die passenden Stellen bekommt statt ganzer Handbücher.
Kurz vorwegDie Zerlegung der Dokumente entscheidet über die Trefferqualität. Zur RAG-Dokumentensuche
Chunking: Definition
Chunking bezeichnet den Arbeitsschritt in einem RAG-System, bei dem lange Dokumente in kleinere, in sich verständliche Abschnitte zerlegt werden. Jeder dieser Abschnitte, der Chunk, bekommt anschließend eine eigene Vektordarstellung und wird einzeln im Index abgelegt. Gesucht wird später im Chunk, nicht im Dokument.
Der Grund für die Zerlegung ist praktisch: Ein Sprachmodell verarbeitet pro Anfrage nur eine begrenzte Menge Text, und die Trefferqualität sinkt, je mehr Beiwerk mitgeschickt wird. Zu große Chunks verwässern die Vektordarstellung, weil mehrere Themen in einer Zahlenfolge zusammenfallen. Zu kleine Chunks reißen Zusammenhänge auseinander, sodass ein Abschnitt allein nicht mehr verständlich ist. Ein verbreiteter Ausgangswert sind Abschnitte um 512 Token mit 10 bis 20 Prozent Überlappung.
Von zwei Nachbarbegriffen ist Chunking klar zu trennen: Das Embedding wandelt den fertigen Abschnitt in Zahlen um, die Vektordatenbank speichert ihn und findet ihn wieder. Chunking entscheidet also, was überhaupt gefunden werden kann - die beiden anderen Schritte entscheiden, wie gut es gefunden wird.
- Zweck
- Dokumente in einzeln auffindbare Abschnitte zerlegen
- Kernidee
- Gesucht wird im Chunk, nicht im Dokument
- Verbreiteter Ausgangswert
- rund 512 Token je Abschnitt, 10 bis 20 Prozent Überlappung
- Typische Verfahren
- feste Länge, rekursiv, strukturbasiert, semantisch
- Folgeschritt
- Embedding und Ablage in einer Vektordatenbank
Wie läuft Chunking ab?
Der Ablauf folgt dem Weg eines Dokuments in den Suchindex:
- Struktur lesenÜberschriften, Absätze, Tabellen und Listen werden erkannt, damit Trennstellen nicht mitten in einem Satz oder einer Tabelle liegen.
- ZerlegenDas Dokument wird an diesen Grenzen geteilt, meist mit einer Überlappung, damit ein Satz an der Nahtstelle nicht verloren geht.
- AnreichernJeder Abschnitt bekommt Metadaten: Quelle, Überschriftenpfad, Stand und Zugriffsmerkmal. Ohne diese Angaben lässt sich später weder filtern noch zitieren.
- Einbetten und ablegenDer Abschnitt wird per Embedding in einen Vektor umgewandelt und in der Vektordatenbank gespeichert.
Welche Chunking-Verfahren gibt es?
Die vier verbreiteten Verfahren unterscheiden sich darin, woran sie die Trennstelle festmachen:
| Verfahren | Trennt an | Geeignet für |
|---|---|---|
| Feste Länge | einer festen Token-Zahl | Fließtext ohne erkennbare Struktur |
| Rekursiv | Absatz-, dann Satz-, dann Zeichengrenzen | der robuste Standardfall |
| Strukturbasiert | Überschriften, Tabellen und Listen | Handbücher, Normen, Verträge |
| Semantisch | der Stelle, an der der Inhalt wechselt | heterogene Texte, wenn Messwerte es rechtfertigen |
Wie groß sollte ein Abschnitt sein?
Es gibt keinen allgemein richtigen Wert. Die Spanne unten ist der Bereich, in dem sich die meisten Projekte einpendeln, und die Struktur des Dokuments schlägt jede Faustregel.
Was in einem Abschnitt mitgespeichert wird
Der Text allein reicht nicht. Ohne Herkunftsangaben kann das System später weder die Quelle nennen noch Berechtigungen prüfen.
{
"text": "Die Prüfung erfolgt nach Abschnitt 4.2 ...",
"dokument": "Werksnorm WN-2140",
"stand": "2026-03-01",
"abschnitt": "4.2",
"seite": 17,
"berechtigung": "werk-nord"
}Bei technischen Dokumenten entscheidet die Struktur, nicht die Token-Zahl. Wer eine Tabelle mittendrin trennt oder die Überschrift vom Abschnitt löst, produziert Chunks, die für sich genommen niemand mehr versteht - das Modell auch nicht.
„Kleinere Chunks bringen bessere Treffer.“ Nur bis zu einem Punkt. Ein Abschnitt muss allein verständlich bleiben. Verliert er seinen Bezug - welches Bauteil, welche Version, welches Jahr -, findet die Suche ihn zwar, aber die Antwort wird falsch.
Häufige Fragen zu Chunking
Wie groß sollte ein Chunk sein?
Ein verbreiteter Ausgangswert liegt bei rund 512 Token mit 10 bis 20 Prozent Überlappung. Die passende Größe hängt vom Dokumenttyp ab: Kurze Faktenfragen profitieren von kleineren Abschnitten, zusammenhängende Erklärungen von größeren. Belastbar wird die Entscheidung erst durch eine Messung an eigenen Fragen.
Was bedeutet Overlap beim Chunking?
Overlap heißt, dass benachbarte Abschnitte sich an den Rändern überschneiden. So geht ein Satz, der genau auf einer Trennstelle liegt, nicht verloren. Es gibt allerdings Untersuchungen, die in ihrem Testaufbau keinen messbaren Nutzen fanden - Overlap ist ein Parameter zum Messen, keine feste Regel.
Warum reicht es nicht, ganze Dokumente zu indexieren?
Ein ganzes Dokument ergibt eine einzige Vektordarstellung, in der alle Themen zusammenfallen. Die Suche findet dann das Dokument, aber nicht die Stelle. Außerdem müsste das Modell den kompletten Text mitverarbeiten, was Antwortqualität und Antwortzeit verschlechtert.
Ob sich Ihre Dokumente sauber zerlegen lassen, entscheidet sich am Material - wir sehen uns Ihre Handbücher, Normen und Verträge an.
Zur RAG-Dokumentensuche