Mission 005 · Evals, Reliability & Observability

In 30 Sekunden

KI-Systeme müssen nicht nur verfügbar sein. Fachliche Qualität, Entscheidungen, Kosten und Tool-Aufrufe müssen kontinuierlich sichtbar werden. Klassische Tests allein reichen bei probabilistischen Systemen nicht aus.

Warum das wichtig ist

Ein nichtdeterministisches System kann gestern richtig und heute falsch antworten, ohne dass sich der Code geändert hat. Verfügbarkeit sagt nichts über fachliche Qualität.

Evals, Traces bis zum Tool-Aufruf, Qualitäts-SLOs und Replay-Fähigkeit machen aus „läuft“ ein belastbares „arbeitet zuverlässig“.

Redaktionelle EinordnungObservability bei Agenten muss bis zum einzelnen Tool-Aufruf reichen. Ein Trace, der beim Modellaufruf endet, verbirgt genau die Stelle, an der Agenten realen Schaden anrichten.

Die zentralen Architekturfragen

Woran messen wir fachliche Qualität — und mit welchen Golden Datasets?
Werden Entscheidungen, Kosten und Tool-Aufrufe durchgängig getract?
Welche Qualitäts-SLOs gelten, und was passiert bei Verletzung?
Können wir einen Vorfall per Replay rekonstruieren?
Wann eskaliert das System an einen Menschen?

Typische Muster

Continuous Evals: fortlaufende Bewertung gegen kuratierte Testfälle.
Golden Datasets: stabile Referenzfälle für Qualitätsvergleiche.
Tool-Call-Tracing: Nachvollziehbarkeit bis zur einzelnen Aktion.
Qualitäts-SLOs: messbare Grenzen statt Bauchgefühl.
Replay: Vorfälle reproduzierbar nachstellen.

Häufige Fehlannahmen & Anti-Patterns

Nur Infrastruktur-Monitoring, keine fachliche Qualität.
Tracing endet beim Modellaufruf statt beim Tool-Aufruf.
Keine Referenzfälle — Regressionen bleiben unbemerkt.
Kein definierter Eskalationsweg an Menschen.

Praktische Prüffragen

Haben wir Golden Datasets für unsere wichtigsten Anwendungsfälle?
Reicht unser Tracing bis zum Tool-Aufruf?
Sind Qualitäts-SLOs definiert und überwacht?
Können wir einen konkreten Vorfall vollständig nachstellen?

Bezug zum durchgehenden Praxisbeispiel

Wie wird Antwortqualität getestet, wie werden Tool-Aufrufe protokolliert — und wann wird eskaliert?

Golden Datasets mit typischen Servicefällen prüfen die Empfehlungsqualität fortlaufend (Continuous Evals).
Das Tracing reicht bis zum einzelnen Tool-Aufruf, nicht nur bis zum Modellaufruf.
Qualitäts-SLOs und überwachte Fehlerbilder lösen bei Verletzung definierte Reaktionen aus.
Unsichere oder riskante Fälle eskalieren automatisch an einen Menschen; Vorfälle sind per Replay rekonstruierbar.

Zum vollständigen Praxisbeispiel: Service-Agent

Bezug zur Referenzarchitektur

Diese Mission wirkt im Control Plane (Evaluation & Quality, Observability & Audit) und ist die Voraussetzung dafür, Agenten (003) und ihre Identitäten (004) überhaupt verantwortbar zu betreiben.

Mission 003 APIs werden zu Werkzeugen Mission 004 Identität begrenzt Handlungsmacht