Agentic Chunking

Was ist Agentic Chunking?

Herkömmliches Chunking scheitert bei komplexen Dokumenten: Ein Vertrag wird anders strukturiert als eine FAQ oder ein technischer Bericht. Agentic Chunking löst dieses Problem, indem ein KI-Agent den Dokumenttyp erkennt und die Aufteilung individuell anpasst. Der Aufwand ist höher — jedes Dokument wird vom LLM verarbeitet —, aber bei geschäftskritischen Wissensbasen rechtfertigt die Qualitätssteigerung der Retrieval-Ergebnisse diese Investition deutlich.

Agentic Chunking ist ein fortschrittlicher Ansatz zur Dokumentzerlegung in RAG-Systemen, bei dem ein LLM die Chunking-Entscheidungen trifft. Klassisches Chunking teilt Texte nach festen Regeln — alle 500 Zeichen, an Absatzgrenzen oder nach Überschriften. Semantic Chunking verbessert dies, indem es inhaltliche Zusammenhänge berücksichtigt. Agentic Chunking geht noch weiter: Ein KI-Agent liest das Dokument, versteht seinen Aufbau und entscheidet für jeden Abschnitt individuell, wo die sinnvollen Grenzen liegen.

Der Agent kann dabei unterschiedliche Strategien für verschiedene Dokumenttypen anwenden: Einen technischen Bericht teilt er nach logischen Abschnitten, eine FAQ nach Frage-Antwort-Paaren, einen Vertrag nach Klauseln. Er erkennt, wenn eine Information über mehrere Absätze verteilt ist und zusammen gehört, oder wenn ein einzelner Absatz zwei verschiedene Themen behandelt und getrennt werden sollte. Diese Kontextintelligenz ist mit regelbasierten Ansätzen nicht erreichbar.

Für Unternehmen, die Agentic RAG einsetzen, liefert Agentic Chunking deutlich bessere Retrievalergebnisse. Der Aufwand ist höher als bei einfachem Chunking — jedes Dokument muss von einem LLM verarbeitet werden —, aber die Qualitätssteigerung rechtfertigt dies bei geschäftskritischen Wissensbasen. Agentic Engineering hilft, den Trade-off zwischen Kosten und Qualität systematisch zu steuern.