KI-Agenten mit dem Microsoft Agent Framework: Praxisleitfaden

Inhalt
Das Microsoft Agent Framework ist Microsofts Open-Source-Framework für KI-Agenten in Python und C#. Es führt die Multi-Agent-Muster von AutoGen mit den Enterprise-Funktionen von Semantic Kernel zusammen und bringt mit, was Agenten im Produktivbetrieb brauchen: Tracing mit OpenTelemetry, Anbindung an Entra ID, Freigaben durch Menschen (Human-in-the-Loop) und Checkpointing für lange laufende Workflows. Dieser Leitfaden erklärt zuerst die Architektur und baut dann einen IT-Helpdesk-Agenten, von den Tools bis zum FastAPI-Endpunkt im Docker-Container.
Warum ist das wichtig? Beeindruckende Demos von Agenten, die komplexe Aufgaben planen, durchdenken und ausführen, kennt inzwischen jeder (zwei davon zeigen wir auf Englisch: mit smolagents und von Grund auf gebaut). Vom Proof of Concept zu einer verlässlichen Anwendung im Produktivbetrieb ist es aber ein weiter Weg. Im Unternehmen reichen gute Prompts und eine durchdachte Agentenschleife nicht. Sie brauchen Zustandsverwaltung, strenge Sicherheit, eine zuverlässige Anbindung von Tools und eine nachvollziehbare Spur dessen, was der Agent wann und warum getan hat.
Viele Frameworks eignen sich hervorragend für schnelle Prototypen, bieten aber kein Gerüst für Produktivsysteme. Observability, Fehlerbehandlung und vor allem lange laufende Aufgaben bleiben den Entwicklern überlassen. Zwischen einer Demo auf dem Laptop und einem Geschäftsprozess, dem man kritische Abläufe anvertraut, klafft deshalb eine große Lücke. Microsoft will sie mit einem einzigen Framework für den gesamten Lebenszyklus eines Agenten schließen, Enterprise-Funktionen inklusive.
HINWEIS: Ein großer Vorteil des Microsoft Agent Framework: Es ist eines der wenigen Agenten-Frameworks, das Python und C# gleichermaßen unterstützt. Für C#- und .NET-Entwickler ist es praktisch das einzige große Agenten-Framework.
Update (November 2026): Die Python-API hat sich seit dem Erscheinen dieses Beitrags geändert. Laut Microsofts
Upgrade-Leitfaden für 2026
heißt ChatAgent jetzt Agent (python-1.0.0b260210), aus AgentThread wurde AgentSession, und
agent.create_session() ersetzt get_new_thread(). AzureOpenAIResponsesClient wurde in
python-1.0.0rc6 entfernt, stattdessen gibt es FoundryChatClient oder OpenAIChatClient. Azure AI Foundry heißt jetzt
Microsoft Foundry. Der Code unten
verwendet die Preview-Versionen von Ende 2025, etwa agent-framework==1.0.0b251104.
Die Architektur des Microsoft Agent Framework: ein Betriebssystem für Agenten
Was das Microsoft Agent Framework besonders macht, versteht man am besten, wenn man es sich als Betriebssystem für KI-Agenten vorstellt. Das klingt nach Clickbait, aber der Vergleich trägt. Ein Betriebssystem stellt die Dienste bereit, die Anwendungen für einen stabilen Betrieb brauchen: Es verwaltet den Speicher, plant Aufgaben ein und gibt Software einen einheitlichen Zugang zur Hardware. Genauso verwaltet das Agent Framework das Gedächtnis eines Agenten (den Zustand), führt seine Programme aus (die Tools) und regelt die Kommunikation mit anderen Systemen (die Workflows).
Das ist eine attraktive Aussicht: Alle nötigen Bausteine stecken in einem Framework, und die Entwickler kümmern sich nur noch um die Logik des Agenten. Ob das Framework dieses Versprechen hält, sehen wir uns jetzt an.
Die vier Kernkomponenten des Microsoft Agent Framework
Das Framework besteht aus vier Komponenten, die zusammenspielen.
-
KI-Agenten sind die eigentlichen "Arbeiter", das "Gehirn" des Systems. Jeder Agent nutzt ein LLM, um auf Basis seiner Anweisungen zu überlegen, zu planen und zu handeln. Microsoft hat diese Agenten als Weiterentwicklung der eigenen Vorgängerprojekte entworfen: Sie verbinden die Multi-Agent-Gesprächsmuster von AutoGen mit dem strukturierten, toolorientierten Ansatz von Semantic Kernel.
-
Tools (AIFunctions) sind die Verbindung des Agenten zur Außenwelt. Statt sich auf fehleranfälliges Parsen von Text zu verlassen, definieren Sie Tools als streng typisierte Python- oder C#-Funktionen. Sie versehen eine normale Funktion mit einem Decorator, und der Agent sieht sie mit ihren Ein- und Ausgaben. Das Framework übersetzt die Absicht des LLM in einen gültigen Funktionsaufruf. Dadurch sind Tools sicherer, berechenbarer und leichter zu debuggen.
-
Workflows verbinden die Agenten, ähnlich wie ein Nervensystem. Mehrstufige Prozesse definieren Sie als Graph, und das ist deutlich mehr als eine einfache, lineare Kette von Agenten. Mit Workflows orchestrieren Sie mehrere Agenten und Tools, bauen Bedingungen ein ("wenn X, dann Y"), führen Aufgaben parallel aus und, besonders wichtig, halten an, bis ein Mensch eine Freigabe erteilt.
-
Die Zustandsverwaltung gibt Agenten ein Gedächtnis. Ohne Gedächtnis ist ein Agent nur ein zustandsloses Tool. Das Framework stellt dafür das Objekt AgentThread bereit, das den gesamten Verlauf und Kontext eines Gesprächs oder einer Aufgabe enthält. Dieses dauerhafte Gedächtnis brauchen Sie für Gespräche über mehrere Runden und für lange laufende Jobs.
Enterprise-Funktionen des Microsoft Agent Framework
Auf den Kernkomponenten bauen Funktionen auf, die für den Einsatz im Unternehmen gedacht sind. Hier will sich das Framework von der Konkurrenz abheben.
-
Observability. Bei jedem Produktivsystem müssen Sie die Frage "Warum hat es das getan?" beantworten können. Das Framework unterstützt von Haus aus OpenTelemetry, den Industriestandard für Tracing und Logging. Sie können jeden Schritt eines Agenten nachverfolgen, von der ersten Überlegung über das aufgerufene Tool bis zum zurückgelieferten Ergebnis. So finden Sie Fehler, prüfen Entscheidungen nach und optimieren die Leistung. Unser Beitrag über LLM-Tracing mit Opik (auf Englisch) stellt ein Open-Source-Tool vor, mit dem Sie solche Traces sammeln und auswerten.
-
Sicherheit und Governance. Das Framework lässt sich mit Diensten wie Azure AI Content Safety verbinden, die schädliche Inhalte filtern (siehe unseren Beitrag über die Inhaltsfilter von Azure OpenAI), und mit Microsoft Entra ID für Authentifizierung und Autorisierung. Besonders gefällt uns, dass Human-in-the-Loop-Workflows fest eingebaut sind. Sie können Agenten so gestalten, dass sie bei heiklen Aktionen anhalten und eine Freigabe einholen, etwa bevor sie eine Zahlung autorisieren, Daten löschen oder eine Nachricht an Kunden schicken. Das letzte Wort hat dann immer ein Mensch. KI kann erstaunliche Dinge, aber meistens soll trotzdem ein Mensch die Kontrolle behalten.
-
Dauerhaftigkeit und lange laufende Aufgaben. Geschäftsprozesse sind nicht immer in Sekunden erledigt. Sie können Stunden oder Tage dauern und müssen Neustarts und Unterbrechungen überstehen. Die Workflows des Frameworks sind darauf ausgelegt. Mit Checkpointing wird der Zustand eines Workflows dauerhaft gespeichert und später wieder aufgenommen. So bauen Sie Agenten, die eine mehrtägige Spesenfreigabe begleiten oder eine Datenmigration über das ganze Wochenende steuern und genau dort weitermachen, wo sie aufgehört haben.
-
Offene Standards und Interoperabilität. Wer sich in eine Unternehmens-IT einfügen will, muss dieselbe Sprache sprechen wie die anderen Systeme. Das Framework bindet bestehende APIs über OpenAPI an (aus denselben OpenAPI-Spezifikationen lassen sich übrigens auch automatisch MCP-Server erzeugen) und unterstützt das Model Context Protocol (MCP). MCP ist ein neuer Standard, um KI-Modelle mit externen Datenquellen und Tools zu verbinden. Agenten auf Basis des Frameworks kommen so an die Informationen, die sie brauchen.
Und schließlich unterstützt das Microsoft Agent Framework .NET vollständig. Damit ist es im Microsoft-Ökosystem ein vollwertiger Bestandteil.
So funktionieren Dauerhaftigkeit und lange laufende Aufgaben
Die Fähigkeit, lange laufende Aufgaben dauerhaft abzusichern, gehört zu den wichtigsten Enterprise-Funktionen des Frameworks. Es lohnt sich, sie genauer zu verstehen. Denken Sie an einen Spielstand. Während ein Agent läuft, liegt sein Zustand (Verlauf, Pläne usw.) im Arbeitsspeicher. Muss er auf einen lange laufenden externen Prozess warten, macht das Framework einen "Schnappschuss" dieses Zustands, speichert ihn an einem dauerhaften Ort und kann den Prozess beenden. Ist das externe Ereignis eingetreten, "lädt das Framework den Spielstand": Es stellt den Zustand des Agenten wieder her, und der Agent macht genau dort weiter, wo er stehen geblieben ist.
Der Ablauf hat drei Phasen:
-
Anhalten und Checkpoint: Muss ein Workflow warten, etwa auf eine Freigabe oder einen stundenlangen Datenjob, serialisiert das Framework den gesamten AgentThread des Agenten in ein speicherbares Format wie JSON. Die offizielle Dokumentation nennt das "Checkpointing".
-
Dauerhafte Speicherung: Der serialisierte Zustand landet bei einem konfigurierbaren Persistenz-Provider. Im Produktivbetrieb binden Sie eine Datenbank wie Azure Cosmos DB an, die den Zustand außerhalb des Arbeitsspeichers der Anwendung hält.
-
Fortsetzen und Wiederherstellen: Kommt ein externer Auslöser (etwa ein API-Aufruf von einem Freigabe-Button), lädt ein neuer Prozess den gespeicherten Zustand aus der Datenbank. Er deserialisiert die Daten und macht daraus wieder ein lebendiges AgentThread-Objekt. Der Agent ist wieder "wach", mit vollem Gedächtnis und Kontext, und bereit für den nächsten Schritt.
Nehmen wir als Beispiel einen Bot für Spesenfreigaben. Eine Mitarbeiterin reicht eine Ausgabe über 500 Dollar ein. Der Agent prüft die Unternehmensrichtlinie und stellt fest, dass die Führungskraft zustimmen muss. Hier beginnt der lange laufende Prozess. Der Workflow des Agenten schickt eine Freigabeanfrage an die Führungskraft und erreicht dann einen Haltepunkt. Das Framework speichert den AgentThread mit den Belegdaten, dem Ergebnis der Richtlinienprüfung und dem aktuellen Status "awaiting_manager_approval" als Checkpoint in einer Datenbank. Stunden später klickt die Führungskraft auf "Freigeben", was einen API-Aufruf auslöst. Der API-Handler lädt den gespeicherten Zustand, stellt den Agenten wieder her und übergibt ihm das Ereignis "approved". Der Agent wacht auf, ruft das Tool für die Zahlungsabwicklung auf und bestätigt der Mitarbeiterin den Abschluss.
Genau diese Fähigkeit, anzuhalten, den Zustand zu sichern und weiterzumachen, macht das Microsoft Agent Framework aus unserer Sicht so interessant.
Wie das Microsoft Agent Framework mit Copilot Studio und Microsoft 365 zusammenhängt
Sie können das Microsoft Agent Framework eigenständig einsetzen. Es ist aber auch ein Grundbaustein von Microsofts übergreifender KI- und Copilot-Strategie.
Das Framework ist Microsofts "Pro-Code"-Engine. Entwickler bauen damit Agenten für den Unternehmenseinsatz, die sich anschließend im gesamten Microsoft-Ökosystem einbinden, verwalten und bereitstellen lassen. So verbindet es individuelle Entwicklung mit den Anwendungen, die Endnutzer täglich verwenden.
Hinweis: Microsoft sieht Copilot Studio als seine "Low-Code"-Plattform und Microsoft Foundry (früher Azure AI Foundry) als die darunterliegende Infrastruktur, die alles zusammenhält.
So sieht die Verbindung zwischen Microsoft 365 Copilot und dem Agent Framework aus:
- Das Framework ist die Pro-Code-Grundlage für Copilot Studio, Microsofts Low-Code-Plattform zum Erstellen und Anpassen von Copilots. Entwickler bauen mit dem Agent Framework in Python oder C# zustandsbehaftete Agenten mit umfangreicher Geschäftslogik und vielen Tool-Anbindungen. Diese Agenten lassen sich anschließend mit Copilot Studio verbinden und dort verwalten. Die Entwickler kümmern sich um die Logik im Backend, während Fachanwender oder IT-Administratoren die Agenten in der Low-Code-Oberfläche konfigurieren, bereitstellen und überwachen, ohne Code zu schreiben. (Ein Low-Code-Beispiel zeigt unser Beitrag über SharePoint-Listen als Wissensquelle in Copilot Studio.)
Das Agent Framework im Zusammenspiel mit Copilot Studio, Microsoft Foundry (früher Azure AI Foundry) und dem M365 Agents SDK
Praxis: ein IT-Helpdesk-Agent mit dem Microsoft Agent Framework
Jetzt setzen wir das Microsoft Agent Framework praktisch ein und sehen, wie es wirklich funktioniert. Wir bauen einen einfachen, aber praxistauglichen IT-Helpdesk-Agenten, der Zustandsverwaltung, Gespräche über mehrere Runden und Tool-Aufrufe nutzt.
Das Ziel: Unser Agent sortiert IT-Supportanfragen vor. Zuerst prüft er, ob eine Störung bereits bekannt ist, damit keine unnötigen Tickets entstehen. Gibt es keine Störung, sammelt er die nötigen Informationen vom Benutzer und legt ein Support-Ticket an.
HINWEIS: Die Beispiele sind in Python geschrieben, lassen sich aber problemlos nach .NET C# übertragen. Den gleichwertigen C#-Code finden Sie im GitHub-Repository.
Voraussetzungen
Bevor Sie loslegen, richten Sie Folgendes ein:
-
Installieren Sie die nötigen Pakete:
-
Setzen Sie die Umgebungsvariablen für Azure OpenAI. Der
AzureOpenAIResponsesClientbraucht Ihren Endpunkt und die Namen Ihrer Bereitstellungen. Folgende Variablen müssen in Ihrer Umgebung gesetzt sein:- AZURE_OPENAI_ENDPOINT: Ihr Azure-OpenAI-Endpunkt
- AZURE_OPENAI_CHAT_DEPLOYMENT_NAME: der Name Ihrer Bereitstellung des Chatmodells in Azure OpenAI
- AZURE_OPENAI_RESPONSES_DEPLOYMENT_NAME: der Name Ihrer Responses-Bereitstellung in Azure OpenAI
- AZURE_OPENAI_API_KEY: Ihr API-Schlüssel für Azure OpenAI
Schritt 1: Die Tools definieren (die "Hände" des Agenten)
Zuerst legen wir die Tools an, die unser Agent verwenden kann. Das sind ganz
normale Python-Funktionen. Mit typing.Annotated und pydantic.Field
beschreiben wir die Parameter, damit das LLM die Funktionen richtig aufruft.
Legen Sie eine Datei tools.py an:
Schritt 2: Den Agenten anlegen und ausführen
Als Nächstes definieren wir den Agenten und sprechen mit ihm. Die zentrale
Klasse heißt ChatAgent. Wir konfigurieren sie mit einem Client, den
Anweisungen und unserer Liste von Tools. Der Agent selbst merkt sich den
Gesprächsverlauf zwischen zwei run()-Aufrufen nicht. Dieser Verlauf liegt in
einem AgentThread: Wir erzeugen einen mit get_new_thread() und übergeben
ihn an jeden Aufruf, der zum selben Gespräch gehört. So entstehen
zustandsbehaftete Gespräche über mehrere Runden.
Legen Sie eine Datei main.py an:
Schritt 3: Debuggen mit der Dev UI des Agent Framework
Mit der eingebauten Dev UI können Sie die Überlegungen des Agenten sehr bequem Schritt für Schritt verfolgen. Wir passen unseren Code so an, dass er sie startet.
1. Die Web-Komponenten installieren
2. main.py so ändern, dass der Agent bereitgestellt wird
Ersetzen Sie in main.py den Teil mit run_conversation durch einen Aufruf
von serve aus agent_framework.devui.
Wenn Sie das Skript starten, öffnet sich im Browser unter
http://localhost:8090 eine Weboberfläche. Dort chatten Sie mit dem Agenten
und sehen live, welche Tools er aufruft und was er antwortet.
HINWEIS: Das ist wirklich gelungen. Die Oberfläche ist sehr gut gemacht und gibt einen ausgezeichneten Überblick über Ihren Chat-Client.
Die Dev UI mit einem Helpdesk-Chat und dem Aufruf des Tools check_system_status
Schritt 4: Den Agenten für den Produktivbetrieb bereitstellen
Die Dev UI ist ideal für die lokale Entwicklung und das Debuggen, aber nicht für den Produktivbetrieb gebaut. Damit andere Anwendungen Ihren Agenten nutzen können, stellen Sie ihn über eine standardisierte, skalierbare Web-API bereit. Wir verwenden dafür FastAPI, ein schnelles Python-Webframework, und bauen einen produktionstauglichen Endpunkt.
1. Den API-Endpunkt für den Produktivbetrieb anlegen
Für den Webserver legen wir eine neue Datei api.py an. So bleibt die Logik
für den Produktivbetrieb von den Skripten zum lokalen Debuggen getrennt.
Installieren Sie zuerst FastAPI und den Webserver Uvicorn:
Legen Sie jetzt api.py an. Die Datei importiert die Bausteine des Agenten
und macht den helpdesk_agent über einen API-Endpunkt erreichbar.
Hinweis zum Zustand: Diese einfache API speichert keinen
Gesprächsverlauf: Jede Anfrage läuft in einem neuen AgentThread. Für
Gespräche über mehrere Runden halten Sie pro Gespräch einen Thread und
übergeben ihn an run(..., thread=thread). Soll die Umgebung skalieren oder
neu starten können, ohne den Kontext zu verlieren, brauchen Sie zusätzlich
eine Persistenzschicht, die diese Threads speichert und wieder lädt, wie im
Abschnitt über Dauerhaftigkeit und lange laufende Aufgaben beschrieben.
2. Dateien für die Containerisierung vorbereiten
Als Nächstes bereiten wir die Dateien vor, mit denen die Anwendung in einen Docker-Container verpackt wird.
-
requirements.txt# requirements.txt agent-framework agent-framework-azure-ai fastapi uvicorn pydantic -
DockerfileDiese Datei startet unsere FastAPI-Anwendung mit Uvicorn.
3. Die API bauen, starten und testen
Mit API und Dockerfile können Sie den Container bauen und starten.
-
Docker-Image bauen:
-
Container starten. Übergeben Sie Ihre Azure-Zugangsdaten als Umgebungsvariablen.
-
Mit
curltesten. Sobald der Container läuft, öffnen Sie ein neues Terminal und rufen den Endpunkt/chatauf:
Ihr Agent antwortet mit JSON, und damit ist bestätigt, dass die API funktioniert. Den Container können Sie bei jedem Cloud-Dienst betreiben, zum Beispiel in Azure App Service oder Azure Container Apps.
Fazit: Was das Microsoft Agent Framework bietet
Das Microsoft Agent Framework ist ein Werkzeugkasten für KI-Anwendungen im Unternehmen, der auf den Produktivbetrieb ausgerichtet ist. Seine größte Stärke: Es verbindet die forschungsnahen Muster von AutoGen mit der Stabilität, Sicherheit und Struktur, die echte Geschäftsprozesse brauchen.
Als "Betriebssystem" für Agenten übernimmt es Zustandsverwaltung,
Observability und lange laufende Aufgaben, damit sich Entwickler auf die Logik
des Agenten konzentrieren können. In diesem Leitfaden waren das typisierte
Tools, ein ChatAgent mit Anweisungen, die Dev UI zum Debuggen und ein
FastAPI-Endpunkt in einem Docker-Container.
Da Python und .NET gleichermaßen unterstützt werden, rechnen wir damit, dass es zum führenden Agenten-Framework für Unternehmen im .NET-Ökosystem wird. Python-Entwickler bekommen gleichzeitig eine solide, vertraute Umgebung.
Der nächste Schritt liegt nahe: Ergänzen Sie den Helpdesk-Agenten aus diesem Leitfaden um eine Persistenzschicht, damit er Neustarts übersteht. Danach geht es um mehrstufige Prozesse: Teil 2: Komplexe Aufgaben mit Workflows im Microsoft Agent Framework orchestrieren setzt diese Serie fort.
Planen Sie einen solchen Agenten für Ihre eigenen IT- oder Geschäftsprozesse? Unser Team für KI-Beratung setzt solche Projekte gemeinsam mit Unternehmen um, vom ersten Prototyp bis zum Produktivbetrieb.
Offizielle Ressourcen
- Offizielle Dokumentation: Der beste Einstieg, um Architektur und Möglichkeiten des Frameworks im Detail kennenzulernen.
- GitHub-Repository: Quellcode, weitere Beispiele und die Möglichkeit, selbst zum Projekt beizutragen.
- Ankündigung im Blog: Microsofts ursprüngliche Ankündigung mit Hintergründen zu Vision und Strategie hinter dem Framework (auf Englisch).
Sie möchten zuverlässige KI-Agenten-Systeme bauen?
Wir haben auf Basis aktueller Forschung einen ausführlichen Leitfaden (auf Englisch) erstellt, wie Sie robuste KI-Agenten-Systeme bauen, die auch im produktiven Betrieb funktionieren. Der Leitfaden behandelt:
- die 14 systematischen Fehlerquellen in Multi-Agenten-Systemen
- belegte Best Practices für das Design von Agenten
- strukturierte Kommunikationsprotokolle und Prüfmechanismen
Weiterlesen
- Zuverlässige KI-Agenten-Systeme bauen: Best Practices und Architekturmuster für robuste, verlässliche KI-Agenten.
- AI Agents From Scratch (auf Englisch): Eine Einführung in die Grundlagen von KI-Agenten, von der Planung bis zur Ausführung von Tools.
- Langfuse: Observability für LLM-Anwendungen: Mehr zur Observability von LLM-Anwendungen, einem zentralen Thema für Agenten im Unternehmenseinsatz.
- Smolagents: A Minimalist Agent Framework (auf Englisch): Ein anderer, schlanker Ansatz für die Agentenentwicklung, zum Vergleich.
- RAG mit Azure AI Search: Wie Sie Ihre Agenten mit internem Wissen versorgen, indem Sie ein Retrieval-Augmented-Generation-System auf Azure bauen.


