Wie ein KI-Agent funktioniert

← andblack Check · Übersicht

Original-Infografik: „HOW AN AI AGENT WORKS — End-to-End Agent Execution Workflow“ von @TheAgenticAIEngineer — 14 nummerierte Schritte vom User-Request bis zur Produktionsinfrastruktur, mit Security, Tool-Nutzung, Agent-Loop, RAG, Multi-Agent und Observability.

Quelle: Instagram — @TheAgenticAIEngineer ↗

How an AI Agent Works - TheAgenticAIEngineer

Kernidee: Ein KI-Agent ist nicht „eine ChatGPT-Antwort“, sondern ein komplettes System: Anfrage kommt rein → wird geprüft (Sicherheit) → LLM plant und denkt → nutzt Werkzeuge (Tools) → läuft im Agent-Loop (Plan → Denken → Handeln → Beobachten) bis die Aufgabe fertig ist → finale Antwort wird verifiziert → Zustand wird gespeichert. Und das alles beobachtet, bewertet und auf Produktions-Infrastruktur (MCP, Docker, Datenbanken) betrieben.

Basics: Was ist ein KI-Agent?

Ein LLM (Sprachmodell) antwortet aus dem Gedächtnis — es kann nur Text erzeugen. Ein KI-Agent geht weiter: Es bekommt ein Ziel, kann Werkzeuge nutzen (Datenbanken, APIs, Code, Suche), führt mehrere Schritte aus, prüft Zwischenergebnisse und entscheidet selbst, was als Nächstes kommt. Wichtig ist der Loop: Planen → Handeln → Beobachten → neu planen, bis die Aufgabe erledigt ist. Sicherheit und „Mensch im Loop“ (bei heiklen Aktionen) sind dabei zentrale Bestandteile.

Der Workflow in 14 Schritten

01 · User Request

Eingang: User-Anfrage + Kontext + Gesprächsverlauf + Aufgabe/Ziel. Eine Eingabevalidierung prüft die Daten.

02 · Agent Entry

Agent API + Runtime: verwaltet Request, Session-ID, Benutzer-Identität, Berechtigungen und den Zustand (Konversation, Aufgabe, aktueller Schritt, bisherige Ergebnisse).

03 · Context + Memory

Ein Context Manager kombiniert Kurzzeit-Gedächtnis (Gespräch) und Langzeit-Gedächtnis (Nutzerpräferenzen) + abgerufene relevante Infos. Daraus entsteht der komplette Agent-Kontext.

04 · Security & Guardrails

Input-Guardrails prüfen auf Prompt-Injection, Autorisierung, Tool-Berechtigungen und Datenzugriff. Unsicher → blockieren.

05 · LLM Reasoning

Versteht die Aufgabe, plant, zerlegt sie in Teilaufgaben. Braucht es ein Werkzeug? Nein → Antwort generieren + verifizieren; Ja → Werkzeug-Auswahl.

06 · Tool Selection & Execution

Wählt Werkzeug (Suche, Datenbank, API, RAG, Code, extern), prüft Berechtigung, ruft den Tool-Call als JSON auf und verarbeitet das Ergebnis (oder Fehler mit Retry).

07 · Agent Loop

Der Kernkreislauf: Plan → Think → Act → Observe → Evaluate → Replan. Ruft immer wieder Reasoning + Werkzeuge auf, bis „Task Complete?“.

08 · Agentic RAG (optional)

Retrieval-Augmented Generation: Query-Rewrite, Retrieval (Vektor + Keyword-Suche), Reranking, Kontext-Erweiterung → füttert den Loop mit relevantem Gesamtkontext.

09 · Multi-Agent (optional)

Ein Supervisor-Agent delegiert an Spezialisten (Research, RAG, SQL, Coding, Validation) und trifft über Handoffs die End-Entscheidung.

10 · Human-in-the-Loop (optional)

Bei heiklen Aktionen: Menschliche Freigabe nötig? Ja → Human Review (Approve → ausführen / Reject → stoppen & neu planen); nein → Automatik.

11 · Final Response

Final-Verifikation + Output-Guardrails: Gültig + sicher + belegt? Sonst Selbstkorrektur-Schleife; sonst Antwort an den User.

12 · State & Memory Update

Ergebnis speichern: Zustand aktualisieren, Checkpoint, Gedächtnis zusammenfassen, persistent (Redis, PostgreSQL, Vector-DB) → bereit für die nächste Anfrage.

13 · Observability & Evaluation

Tracing von LLM-/Tool-Calls, Agent-Verlauf, Token-Verbrauch, Latenz, Kosten, Fehlern; Monitoring + Auswertung (Task Success, Retrieval-Qualität, Groundedness).

14 · Production Infrastructure

Der Technik-Stack: Agent API, Runtime, MCP-Layer (Model Context Protocol: Client ↔ Server ↔ Tools), Async/Queue, State-Store, Datenbank, Tool-Services, Docker/Kubernetes.

Wichtig fürs Verständnis: Die Schritte 08–10 (RAG, Multi-Agent, Human-in-the-Loop) sind optional — ein einfacher Agent läuft ohne sie. Aufbauend ausbauen: erst der Loop (07), dann RAG, dann Multi-Agent, dann Absicherung und Observability. Security (04), Verification (11) und State-Update (12) sollten nie fehlen.

Selbsttest

Worin unterscheidet sich ein KI-Agent von einem einfachen LLM? (Agent kann Werkzeuge nutzen, mehrere Schritte ausführen und im Loop selbst entscheiden, was als Nächstes kommt)
Was prüfen die Input-Guardrails in Schritt 04? (Prompt-Injection, Autorisierung, Tool-Berechtigungen, Datenzugriff)
Wie heißt der Kernkreislauf des Agent-Loops? (Plan → Think → Act → Observe → Evaluate → Replan)
Wozu dient das MCP (Model Context Protocol) in Schritt 14? (Standard-Schnittstelle zwischen Agent/Client und externen Tools/Ressourcen)
Warum ist Observability (13) wichtig? (Man sieht, was das System tut: Token, Latenz, Kosten, Fehler, Qualität — nötig zum Debuggen und Verbessern)