Pexon Consulting | 9 Min. Lesezeit | 09.07.2026
TL;DR
Ein KI Schadengutachten muss zwei Dinge gleichzeitig liefern: die fachlich korrekte Antwort und den nachvollziehbaren Beleg dafür. Die Fachlichkeit kann eine spezialisierte KI-Firma stellen. Die Compliance-Schicht (Quellenangabe, Audit-Log, DSGVO-Basis) baut Pexon Consulting: Azure oder On-Prem, EU-Datenraum, prüffest bis zum Zitat. Ergebnis: ein Chatbot, der vor Gericht standhält.
Das Problem: fachlich brillant, rechtlich blank
Der Chatbot beantwortet die Tierschaden-Frage korrekt. Der Sachverständige übernimmt die Formulierung ins Gutachten. Zwei Monate später fragt das Gericht: worauf stützt sich diese Aussage? Und niemand kann es sagen.
Das ist der Standardfall, wenn eine externe Fach-KI-Firma einen Experten-Chatbot für Gutachten baut. Sie kennt ihr Fachgebiet, ob Tierschaden, Arztgutachten oder Gebäudeschaden, besser als jeder Generalist. Aber ihr Produkt ist die fachliche Antwort. Die Frage, ob diese Antwort rechtlich verwertbar, quellenbelegt und auditierbar ist, liegt außerhalb ihres Kerngeschäfts.
Für ein informelles Tool reicht das. Für ein Gutachten, das in einer Regulierung, einem Prozess oder einer Behördenprüfung landet, reicht es nicht. Ein Landgericht in Darmstadt hat Anfang Januar 2026 die Vergütung eines Sachverständigen auf 0,00 Euro festgesetzt, weil dieser sein Gutachten in erheblichem Umfang mit KI erstellt hatte, ohne das Gericht davon in Kenntnis zu setzen. Der fachliche Inhalt war nicht das Problem. Die fehlende Nachvollziehbarkeit war es.
Unsere klare Position: Fachlichkeit ohne Nachvollziehbarkeit ist im regulierten Umfeld wertlos. Wer nur die Antwort optimiert und die Beleg-Schicht weglässt, baut ein Haftungsrisiko, kein Werkzeug.
Warum ein reiner Fach-Chatbot vor Gericht scheitert
Die kurze Antwort: Weil er die Antwort kennt, aber nicht belegen kann, woher sie kommt. Ein LLM generiert plausiblen Text. Ohne angehängte Retrieval-Schicht produziert es auch bei Fachfragen Aussagen, die es nicht belegen kann. Das ist keine Randerscheinung.
Frontier-Modelle im Stand Juni 2026 liegen bei Halluzinationsraten zwischen 4,62 Prozent (claude-haiku-4-5) und 6,10 Prozent bei allgemeinen Aufgaben. In rechtlich-fachlichen Kontexten wird es deutlich schlechter: Studien messen in Legal-NLP-Szenarien Halluzinationsraten zwischen 17 und 33 Prozent, im Schnitt 27,5 Prozent. Jede dritte bis fünfte Aussage kann also falsch sein, wenn keine Quellenbindung existiert.
Retrieval-Augmented Generation (RAG) senkt das drastisch: je nach Domäne um 30 bis 70 Prozent, bei sauberer Umsetzung um bis zu 71 Prozent. Aber RAG allein löst nur die Fachlichkeit. Die eigentliche Compliance-Frage ist: Kann der Chatbot zu jeder Aussage sagen, aus welchem Absatz welches Fachdokuments sie stammt, und wird jede Interaktion so protokolliert, dass sie ein Prüfer zwei Jahre später rekonstruieren kann?
Genau hier steht die reine Fach-KI-Firma blank. Sie hat das Domänenwissen. Sie hat weder das Audit-Log, noch das Löschkonzept, noch die EU-Datenraum-Basis.
So sieht die Compliance-Schicht konkret aus
Wir setzen zwischen die fachliche Antwort und den Nutzer eine Schicht, die drei Dinge erzwingt: erzwungene Quellenangabe, geprüfte Antwort und lückenloses Audit-Log. Ohne belegbare Quelle geht keine Antwort raus.
Der Kern ist ein RAG-Prozess über die Fachgutachten, der jede Aussage an ein konkretes Quelldokument mit Seiten- oder Absatzangabe bindet. Das ist nicht optional, es ist die Vorbedingung dafür, dass die Antwort überhaupt ausgeliefert wird.
# RAG-Antwort mit erzwungener Quellenbindung über die Fachgutachten.
# Ohne belegte Quelle wird KEINE Antwort ausgeliefert (Compliance-Gate).
from dataclasses import dataclass
@dataclass
class Quelle:
dokument: str # Beispiel: "Gutachten-Standard Tierschaden 2026"
absatz: str # Beispiel: "Abschnitt 4.2"
relevanz: float # Retrieval-Score 0..1
def beantworte_fachfrage(frage: str, retriever, llm, min_relevanz: float = 0.72):
# 1. Relevante Passagen aus dem Fachkorpus holen
treffer = retriever.suche(frage, top_k=5)
belege = [t for t in treffer if t.relevanz >= min_relevanz]
# 2. Compliance-Gate: keine belastbare Quelle, keine Antwort
if not belege:
return {
"antwort": "Dazu liegt keine belegbare Quelle vor. "
"Bitte an eine sachverständige Person übergeben.",
"quellen": [],
"auslieferbar": False,
}
# 3. Antwort strikt auf die Belege stützen (kein freies Fabulieren)
kontext = "nn".join(f"[{b.dokument}, {b.absatz}] {b.text}" for b in belege)
antwort = llm.generiere(
system="Antworte NUR auf Basis der Quellen. "
"Markiere jede Aussage mit [Dokument, Absatz]. "
"Bei fehlendem Beleg: sage das offen, erfinde nichts.",
frage=frage,
kontext=kontext,
)
return {
"antwort": antwort,
"quellen": [{"dokument": b.dokument, "absatz": b.absatz} for b in belege],
"auslieferbar": True,
}Darüber liegt ein Guardrail- und Audit-Layer, der jede Interaktion prüffest wegschreibt: wer hat wann was gefragt, welche Quellen wurden gezogen, welche Antwort ging raus, war sie belegt. Das ist die Ebene, die ein Prüfer sehen will, und die eine reine Fach-KI-Firma nicht mitliefert.
# Audit- und Guardrail-Layer: jede Interaktion revisionssicher protokollieren.
# Deckt die Dokumentationspflicht aus DSGVO und EU AI Act ab.
import hashlib
import json
from datetime import datetime, timezone
def protokolliere_interaktion(nutzer_id: str, frage: str, ergebnis: dict) -> dict:
eintrag = {
"zeit": datetime.now(timezone.utc).isoformat(),
"nutzer": nutzer_id,
"frage": frage,
"antwort_kurz": ergebnis["antwort"][:280],
"quellen": ergebnis["quellen"],
"belegt": ergebnis["auslieferbar"],
"modell_id": "claude-sonnet-4-6",
"region": "eu-central", # kein Datenabfluss aus dem EU-Datenraum
}
# Hash-Kette macht spätere Manipulation sichtbar (Revisionssicherheit)
roh = json.dumps(eintrag, ensure_ascii=False, sort_keys=True)
eintrag["audit_hash"] = hashlib.sha256(roh.encode("utf-8")).hexdigest()
return eintragWas der EU AI Act ab August 2026 verlangt
Seit dem 2. August 2026 greifen die Transparenzvorgaben verbindlich, die Pflichten für Hochrisiko-KI nach Anhang III ab dem 2. Dezember 2027. Für einen Gutachten-Chatbot heißt das konkret: Nutzer müssen wissen, dass sie mit einer KI interagieren, die Datenquellen müssen dokumentiert sein, und je nach Einsatz greift der volle Hochrisiko-Pflichtenkatalog von Risikomanagement bis menschlicher Aufsicht.
Die Sanktionen sind nicht symbolisch. Verstöße gegen die Hochrisiko-Anforderungen können bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes kosten, bei den schwersten Verstößen bis 35 Millionen Euro oder 7 Prozent. Für einen Versicherer oder einen Sachverständigen-Dienstleister ist das kein Restrisiko, das man auf später schiebt.
Die praktische Konsequenz für die Architektur: Die Dokumentationspflicht (Records of Processing, Datenquellen, menschliche Aufsicht) ist keine nachträgliche Beilage. Sie muss im System eingebaut sein. Genau das leistet der Audit-Layer oben. Wer ihn weglässt, erfüllt die Pflicht nicht, egal wie gut die fachliche Antwort ist. Details zur regulatorischen Einordnung stehen im offiziellen Text der EU-KI-Verordnung.
Die sichere Basis: EU-Datenraum, Azure oder On-Prem
Die kurze Antwort auf die Infrastrukturfrage: Der Datenabfluss muss verhindert werden, bevor die erste Frage gestellt wird. Ein Gutachten enthält personenbezogene und oft besonders sensible Daten. Die dürfen den EU-Datenraum nicht verlassen.
In Azure heißt das konkret: EU Data Zone oder eine Deutschland-Region wie Germany West Central, ein sauberer Auftragsverarbeitungsvertrag (AVV), und die Klärung, welche Telemetrie überhaupt Deutschland verlässt. Ein DPA allein reicht nicht, das ist der häufigste Irrtum. Standardmäßig werden Prompts bei Azure OpenAI bis zu 30 Tage zur Missbrauchserkennung vorgehalten. Für Gutachten-Daten muss dieses Retention-Verhalten aktiv abgeschaltet oder auf null gesetzt werden.
Wo das nicht reicht, etwa bei Behörden oder besonders schutzbedürftigen Gutachten, bauen wir die Basis On-Prem oder in einer souveränen Cloud. Das ist teurer und langsamer im Setup, aber es ist der einzige Weg, wenn kein Byte das Haus verlassen darf. Wir sagen ehrlich: Für 80 Prozent der Fälle reicht die EU-Azure-Variante. Die On-Prem-Diskussion führen wir nur, wenn die Datenklasse sie erzwingt, nicht als Reflex.
Pexon Consulting baut diese Schicht als Cloud- und KI-Dienstleister mit 80 Mitarbeitern in Deutschland, Microsoft Partner, mit AWS, Azure und GCP im Stack. Die Fachlichkeit liefert Ihr Team oder Ihr KI-Partner. Die prüffeste Basis liefern wir. Verwandte Muster für die Quellenbindung beschreiben wir in unserem Beitrag dazu, warum Standard-RAG an technischen Dokumenten scheitert, und die DSGVO-Aspekte im Detail im Beitrag zur datenschutzkonformen LLM-Nutzung nach HmbBfDI.
Kosten, Zeitrahmen und der Business-Case
Der Nutzen ist messbar. In der Schadenregulierung verkürzt KI-Assistenz die Bearbeitung typischer Fälle von mehreren Tagen auf unter fünf Minuten, rund 70 Prozent schneller. Sachverständigenkosten sinken in automatisierbaren Segmenten um bis zu 50 Prozent, bei 100.000 Fällen pro Jahr sind das 300.000 bis 500.000 Euro Einsparung. Der Chatbot ersetzt dabei nicht den Sachverständigen, er beschleunigt die Routine und hält ihm den Rücken für die schwierigen Fälle frei.
Die Compliance-Schicht kostet in der Regel weniger als die nachträgliche Sanierung eines Chatbots, der ohne sie live ging. Unser 6-Wochen-Pilot liefert die belegbare Quellenbindung, den Audit-Layer und die EU-Datenraum-Basis auf Ihrer bestehenden Fach-KI. Kein Powerpoint, ein lauffähiger Prototyp mit prüffestem Log.
Häufig gestellte Fragen
Was kostet ein KI Schadengutachten mit Compliance-Schicht?
Die Fachlichkeit hängt von Ihrem KI-Partner ab. Die Compliance- und Infrastruktur-Schicht bauen wir als 6-Wochen-Pilot im typischen Rahmen von 50.000 bis 100.000 Euro, abhängig von der Datenklasse und ob Azure oder On-Prem. Dem stehen Einsparungen von 300.000 bis 500.000 Euro pro Jahr bei hohem Fallvolumen gegenüber.
Reicht die Fach-KI-Firma allein, oder brauche ich einen zweiten Partner?
Kommt auf Ihr Ziel an. Für ein internes Hilfstool reicht die Fach-KI. Sobald das Gutachten rechtlich verwertbar sein muss, brauchen Sie die Compliance-Schicht, und die liegt außerhalb des Kerngeschäfts der meisten Fach-KI-Anbieter. Die zwei Rollen ergänzen sich, sie konkurrieren nicht.
Ist ein Experten-Chatbot für Gutachten Hochrisiko-KI nach EU AI Act?
Das hängt vom Einsatz ab. Ein reines Recherche-Tool fällt oft unter die Transparenzpflichten (begrenztes Risiko). Sobald die Ausgabe eine Entscheidung mit Rechtsfolge stützt, kann der volle Hochrisiko-Pflichtenkatalog greifen. Wir klären die Einstufung im Pilot, bevor Sie in die Falle laufen.
Wie verhindert die Compliance-Schicht Halluzinationen?
Durch ein Gate: Ohne belegbare Quelle mit ausreichendem Retrieval-Score wird keine Antwort ausgeliefert. RAG senkt Halluzinationen je nach Domäne um 30 bis 70 Prozent, das Gate fängt den Rest ab, indem es unbelegte Antworten schlicht blockiert und an einen Menschen weiterleitet.
Muss ich offenlegen, dass ein Gutachten mit KI erstellt wurde?
Ja, das ist rechtlich zunehmend Pflicht und praktisch existenziell. Ein Landgericht hat Anfang 2026 die Vergütung eines Sachverständigen auf null gesetzt, weil der KI-Einsatz nicht offengelegt war. Der Audit-Layer dokumentiert die KI-Nutzung automatisch und macht die Offenlegung damit zum Nebenprodukt statt zum Risiko.
Nächster Schritt
Wenn Sie bereits eine Fach-KI haben oder evaluieren, ist der teure Fehler, sie ohne Compliance-Schicht live zu schalten. Klären Sie zuerst die Governance-Basis.
Verwandte Themen
→RAG-System im Unternehmen aufbauen: Praxis-Anleitung
→KI-Workflows für Versicherungen
