Senior AI Engineering

Production-Systeme sind keine offenen Loops mehr.

Das Arize Handbook dokumentiert, wie sich Agent-Architekturen zu bounded, hybriden Systemen entwickelt haben — Code besitzt deterministische Rules und Controls, Models treffen flexible Interpretationen [Quelle: Arize]. Explizites State Management, Checkpoints, Verification gegen die Umgebung und strenge Stop-Conditions mit Budgets sind Pflicht. Die Patterns reichen von Single Model Call über Router und Parallel Workers bis zu Multi-Agent Handoffs mit klar definierten Tradeoffs.

Wer ohne Budgets und Stop-Conditions deployed, zahlt früher oder später.

Dein Tool-Interface ist das Agent-Computer-Interface.

Gutes Tool-Design braucht spezifische Namen, typisierte Parameter-Schemas, klare Beschreibungen und strukturierte Responses — die Tool-Definition fungiert als Schnittstelle zwischen Agent und Außenwelt [Quelle: Arize]. Der Guide empfiehlt, jedes Tool wie eine API zu behandeln: Wenn ein Mensch die Signatur nicht versteht, wird das LLM es auch nicht tun. Typisierung fängt Fehler ab, bevor der Agent sie machen kann.

Vage Tool-Descriptions sind vage Agent-Entscheidungen.

50-100ms pro Chain-Aufruf — das summiert sich.

LangChain bleibt mit 105k GitHub Stars und 500+ Integrationen das größte Ökosystem für LLM-Orchestrierung, aber der Overhead pro Chain-Aufruf liegt bei 50-100ms [Quelle: EveryLocalAI]. LangGraph für stateful Multi-Agent-Workflows und LangSmith für Debugging sind die Hauptargumente. Für maximale Flexibilität bleibt LangChain gesetzt, aber spezialisierte Alternativen wie Haystack für RAG oder CrewAI für Multi-Agent-Orchestrierung können sinnvoller sein.

Messen, nicht raten — der Overhead variiert stark nach Workflow.

Das Framework wächst — und du hast es positiv bewertet.

Wie in den vorherigen Ausgaben beschrieben, setzt DeepSeek Harness auf austauschbare Plugins für Modelle, Tools, Skills und Sandboxes unter MIT-Lizenz. Die vier vordefinierten Runtime-Modi mit vollständigem Event-Logging bleiben der Hauptgrund für die Evaluierung trotz Entwicklervorschau-Status. Die Plugin-Architektur passt zum Bounded-Hybrid-Ansatz aus dem Arize Guide — Code kontrolliert, das Modell interpretiert.

Breaking Changes kommen, aber die Richtung stimmt weiter.

Nicht jeder Agent braucht einen Planner-Executor.

Das Arize Handbook listet acht Production-Patterns mit konkreten Use Cases: Single Model Call für einfache Tasks, Prompt Chains für sequentielle Verarbeitung, Router für Aufgabenverteilung, Tool-using Loops für iterative Problemlösung [Quelle: Arize]. Multi-Agent Handoffs und Planner-Executor kommen erst bei komplexer Koordination ins Spiel. Die Entscheidung hängt davon ab, wie viel Zustand du tracken und wie viel Kontrolle du abgeben willst.

Einfacher starten, nur bei Bedarf skalieren.