Zum Inhalt springen
Alle Projekte

Agentische KI · Production Engineering / v1.0.0

AI Operations Agent

Eine Plattform zur agentischen Automatisierung von Geschäftsprozessen mit den technischen Kontrollmechanismen, die nötig werden, wenn KI operative Aktionen vorschlagen und ausführen kann: Schema-Validierung, deterministische Richtlinien, Human-in-the-Loop-Freigaben, erlaubte Tools, Audit-Ereignisse, Hintergrundverarbeitung, Zuverlässigkeit, Observability, Security Gates und cloudfähige Infrastruktur.

PythonFastAPILangGraphPydanticPostgreSQLSQLAlchemyAlembicCeleryRedisDockerTerraformAWS ECS/FargateAmazon RDSElastiCacheECRSecrets ManagerCloudWatchGitHub ActionspytestmypyRuffBanditpip-audit

Die Ausgangslage

Sobald ein KI-Assistent nicht nur Text erzeugt, sondern reale Geschäftsaktionen vorschlägt, steigen die Risiken deutlich. Ein produktionsorientierter Workflow braucht klare Autorisierungsgrenzen, deterministische Kontrollen, menschliche Prüfung für sensible Aktionen, zuverlässige asynchrone Verarbeitung, Nachvollziehbarkeit, Security-Prüfungen und eine Infrastruktur, in der das LLM nicht als Autorisierungsinstanz dient.

Mein Lösungsansatz

Ich habe einen FastAPI- und LangGraph-Workflow entwickelt, in dem Modellausgaben per Schema validiert und durch deterministische Anwendungsregeln geprüft werden, bevor eine Aktion ausgeführt werden darf. Sensible Anfragen gehen in einen persistenten Freigabeprozess, genehmigte Aktionen laufen ausschließlich über eine explizite Tool-Registry, PostgreSQL speichert Workflow- und Audit-Zustände und Celery/Redis übernimmt die asynchrone Verarbeitung mit Idempotenz und begrenzten Retries. Docker, GitHub Actions, strukturierte Logs, Correlation IDs, Security Scanning und validiertes Terraform erweitern das Projekt um produktionsorientiertes Software Engineering.

Projektüberblick

FastAPI nimmt interne Operations-Anfragen entgegen und speichert Zustand und Audit-Trail in PostgreSQL.

Celery und Redis verarbeiten Agent-Aufgaben asynchron und trennen längere Workflows vom API-Request.

LangGraph erzeugt einen schema-validierten Vorschlag; deterministische Anwendungsregeln entscheiden über automatische Ausführung oder menschliche Freigabe.

Genehmigte Aktionen laufen ausschließlich über eine Allow-List-Tool-Registry; Freigaben und Zustandswechsel bleiben auditierbar.

Idempotenz, begrenzte Retries, strukturierte JSON-Logs, Correlation IDs, Health/Readiness, Docker, Security Scanning und Terraform ergänzen die produktionsorientierte Betriebsschicht.

Systemablauf

01

Anfrage

FastAPI → persistente Operations-Anfrage + Audit-Ereignis

02

Planen

LangGraph → schema-validierter strukturierter Vorschlag

03

Autorisieren

Deterministische Policy → automatische Route oder Human-Approval-Gate

04

Ausführen

Genehmigter Vorschlag → explizite Allow-List-Tool-Registry

05

Betreiben

Celery/Redis + Idempotenz + Retries + strukturierte Observability

Herausforderungen und Lösungen

Autorisierung außerhalb des LLM

Modellausgaben gelten als nicht vertrauenswürdig. Pydantic-Schemas und deterministische Anwendungsregeln entscheiden, was ausgeführt werden darf; ausführbare Fähigkeiten sind auf eine explizite Tool-Registry begrenzt.

Zuverlässige Hintergrundverarbeitung

Celery arbeitet mit At-least-once-Zustellung. Deshalb schützen Idempotenzregeln abgeschlossene und auf Freigabe wartende Requests vor doppelter Verarbeitung; temporäre Fehler nutzen begrenztes exponentielles Backoff.

Produktionsreife ohne Übertreibung

Das Repository validiert AWS Infrastructure as Code und dokumentiert Deployment und Rollback, unterscheidet diese Nachweise aber ausdrücklich von einer tatsächlich provisionierten Produktionsumgebung.

Ergebnis und Erkenntnisse

Das Projekt zeigt eine End-to-End-Architektur für agentische Operations-Automatisierung statt eines weiteren Chat-Demos: auditierbare Request-Zustände, strukturierte KI-Vorschläge, policy-gesteuerte Tool-Ausführung, Freigabe-/Ablehnungsprozesse, asynchrone Worker, Reliability-Kontrollen, Security Quality Gates und validierte AWS Infrastructure as Code für ECS/Fargate, RDS, ElastiCache, ECR, Secrets Manager, ALB und CloudWatch. Die AWS-Architektur wird bewusst als produktionsorientierte IaC und nicht als bereits live betriebene Produktionsumgebung beschrieben.

Umfang und Grenzen

Mehr zur Umsetzung

Dieser Projektbericht basiert auf der Projektdokumentation. Die verlinkten Originaldokumente sind auf Englisch.

Weitere Projekte

Sprechen wir über KI und Softwareentwicklung