Was ist LibreChat? Funktionen, Installation und Vergleich

Inhalt

LibreChat ist eine kostenlose Open-Source-Chatplattform, die Sie auf Ihrem eigenen Server betreiben. Sie sieht ähnlich aus wie ChatGPT, aber Sie wählen die Modelle selbst (OpenAI, Anthropic, Google, Azure OpenAI, AWS Bedrock oder jeden OpenAI-kompatiblen Endpunkt, auch lokale Modelle), und Chats, Dateien und Benutzer liegen in Ihrer eigenen Datenbank. 2026 ist LibreChat weit mehr als ein Chatfenster: Agents mit Werkzeugen, MCP-Server, Suche in eigenen Dokumenten, Artifacts, Websuche, Memory und ein Admin-Panel mit Rollen.

Wir haben die aktuelle Version v0.8.8 (Oktober 2026) mit dem offiziellen Docker-Compose-Setup installiert und mit gpt-5.4-mini von OpenAI getestet: Registrierung und Login, ein normaler Chat, ein Agent mit MCP-Server, ein Agent, der aus einem hochgeladenen PDF antwortet, ein React-Artifact, Websuche und Memory. Alles davon hat funktioniert. Aufwand macht die Konfiguration rundherum.

Was ist LibreChat?

LibreChat begann 2023 als Open-Source-Nachbau der ChatGPT-Oberfläche. Heute ist es ein KI-Arbeitsplatz für viele Benutzer: Jede Mitarbeiterin und jeder Mitarbeiter bekommt einen Login, wählt ein Modell oder einen Agent und arbeitet mit den Funktionen, die viele schon von ChatGPT oder Claude kennen. Der Code steht unter der MIT-Lizenz und hat auf GitHub rund 46.800 Sterne (November 2026). 2025 wurde das Projekt von ClickHouse übernommen, das LibreChat intern für agentische Datenanalyse einsetzt. Seitdem erscheinen alle paar Wochen neue Versionen oder Release Candidates.

LibreChat betreibt selbst kein Sprachmodell. Es schickt die Anfragen an die Anbieter, die Sie konfigurieren, und braucht deshalb keine GPU. Gut passt es in diesen Fällen:

• Unternehmen, die ihren Mitarbeitenden einen Chat wie ChatGPT geben wollen, aber mit eigenen API-Schlüsseln, eigener Datenhaltung und frei gewählten Modellen.
• Teams, die mehrere Anbieter nutzen und eine Oberfläche wollen, mit Agents und Werkzeugen, die anbieterübergreifend funktionieren.
• Organisationen, die Single Sign-on, Rollen und ein Audit-Log brauchen, was gehostete Chat-Apps für Endkunden nicht bieten.

Wenn Sie nur privat mit lokalen Modellen auf dem Laptop chatten wollen, ist LibreChat mehr als nötig. Dafür ist Open WebUI einfacher; den Vergleich finden Sie weiter unten.

Die Chatansicht von LibreChat: gpt-5.4-mini beantwortet eine Frage zu KI-Nutzungsregeln für Mitarbeitende

So funktioniert LibreChat

Die Standard-Compose-Datei startet sechs Dienste. Die LibreChat-API (Node.js) liefert die Weboberfläche aus, verwaltet Logins und spricht mit den Modellanbietern. MongoDB speichert Benutzer, Chats, Agents und Memories. Meilisearch macht den Chatverlauf durchsuchbar. Die RAG API, ein kleiner Python-Dienst, zerlegt hochgeladene Dateien in Abschnitte, erzeugt Embeddings und legt die Vektoren in PostgreSQL mit pgvector ab. Das Admin-Panel ist eine eigene Web-App für Rollen, Gruppen und Konfiguration.

Architektur des Standard-Docker-Compose-Stacks von LibreChat: LibreChat-API mit MongoDB, Meilisearch, RAG API, pgvector und Admin-Panel, dazu externe Modellanbieter, MCP-Server, Websuche, Code Interpreter und Embedding-Modell

Alles andere ist extern: die Sprachmodelle, MCP-Server, die Agents mit Werkzeugen versorgen, ein Suchanbieter für die Websuche, ein Embedding-Modell für die Dateisuche und optional ein Code-Interpreter-Dienst.

Die Konfiguration verteilt sich auf zwei Dateien. In .env stehen Geheimnisse, API-Schlüssel und Schalter (die Beispieldatei hat 1.456 Zeilen). librechat.yaml beschreibt die Funktionen: eigene Endpunkte, MCP-Server, Websuche, Memory, Optionen der Oberfläche. Seit v0.8.5 lässt sich das meiste davon auch im Admin-Panel im Browser bearbeiten.

LibreChat mit Docker Compose installieren

Sie brauchen Git und Docker. Laut der Docker-Anleitung von LibreChat brauchen die Container mindestens 1 GiB RAM und 1 vCPU; wenn alles läuft, werden 2 GB Arbeitsspeicher für Docker empfohlen. In unserem Test belegten die sechs Container nach einer Reihe von Chats rund 1,4 GB RAM, die Images rund 10 GB Platte (das LibreChat-Image allein 4,2 GB).

Die offiziellen Schritte laut Dokumentation:

1git clone https://github.com/LibreChat-AI/LibreChat.git
2cd LibreChat
3cp .env.example .env
4docker compose up -d

Um genau die getestete Version zu bekommen, checken Sie mit --branch v0.8.8 das Release-Tag aus.

Schlüssel und Geheimnisse in .env setzen

Bevor andere die Instanz nutzen, setzen Sie echte Geheimnisse. Diese Werte haben wir in .env geändert (die Zufallswerte erzeugen Sie mit openssl rand -hex 32, für CREDS_IV mit openssl rand -hex 16):

1OPENAI_API_KEY=sk-...
2OPENAI_MODELS=gpt-5.4-mini,gpt-5-mini,gpt-4.1-mini
3CREDS_KEY=<64 hex characters>
4CREDS_IV=<32 hex characters>
5JWT_SECRET=<random>
6JWT_REFRESH_SECRET=<random>
7MEILI_MASTER_KEY=<random>
8ADMIN_PANEL_SESSION_SECRET=<random>

Ist OPENAI_API_KEY gesetzt, teilen sich alle Benutzer Ihren Schlüssel. Setzen Sie stattdessen user_provided, trägt jeder Benutzer seinen eigenen Schlüssel in der Oberfläche ein. OPENAI_MODELS beschränkt die Modellliste auf die Modelle, die Sie bezahlen wollen.

librechat.yaml einbinden und die Version festlegen

librechat.yaml wird nur gelesen, wenn Sie die Datei in den Container einbinden. Die Dokumentation macht das mit einer docker-compose.override.yml, damit die offizielle Compose-Datei für Updates unverändert bleibt. Unsere Datei legt zusätzlich die Images auf Release-Tags fest:

1services:
2  api:
3    image: registry.librechat.ai/librechat-ai/librechat:v0.8.8
4    volumes:
5      - type: bind
6        source: ./librechat.yaml
7        target: /app/librechat.yaml
8  rag_api:
9    image: registry.librechat.ai/librechat-ai/librechat-rag-api-dev-lite:v0.9.0

Das ist wichtig: Die Standard-docker-compose.yml verwendet librechat-dev:latest, und dieses Image wird aus dem main-Branch gebaut, nicht aus einem Release. Die Release-Images heißen librechat und tragen die Versionsnummer als Tag.

Das ist die librechat.yaml aus unserem Test. Sie schaltet Memory ein, ergänzt die Websuche über Keenable (funktioniert ohne API-Schlüssel) und bindet den öffentlichen MCP-Server von Microsoft Learn an:

1version: 1.3.17
2cache: true
3
4interface:
5  customWelcome: "Welcome to LibreChat!"
6  agents:
7    use: true
8    create: true
9
10memory:
11  tokenLimit: 2000
12  personalize: true
13
14webSearch:
15  searchProvider: keenable
16  scraperProvider: keenable
17  rerankerType: none
18
19mcpServers:
20  microsoft-learn:
21    type: streamable-http
22    url: https://learn.microsoft.com/api/mcp

Nach jeder Änderung an einer der beiden Dateien starten Sie den Stack neu (laut Dokumentation):

1docker compose down && docker compose up -d

Das erste Konto anlegen

Öffnen Sie http://localhost:3080 und klicken Sie auf Sign up. Standard-Zugangsdaten gibt es nicht. In einer Installation mit einem Mandanten bekommt das erste registrierte Konto die Rolle ADMIN. Legen Sie es also selbst an, bevor Sie die Adresse weitergeben. Danach entscheiden Sie, ob sich Benutzer selbst registrieren dürfen (ALLOW_REGISTRATION) oder über Ihren Identity Provider anmelden.

LibreChat unterstützt E-Mail und Passwort mit optionaler E-Mail-Bestätigung, OAuth2 und OpenID Connect (etwa Microsoft Entra ID, Keycloak oder Authentik), SAML, LDAP und Passkeys. Für lokale Konten lässt sich die Zwei-Faktor-Authentifizierung erzwingen. Die Details stehen in der Dokumentation zur Authentifizierung.

OpenAI und andere Modellanbieter anbinden

Mit der .env von oben erscheint OpenAI im Modellmenü mit den drei Modellen aus OPENAI_MODELS. Google, Anthropic und Assistants erscheinen ebenfalls, mit einem Zahnrad: .env.example setzt deren Schlüssel auf user_provided, sodass jeder Benutzer einen eigenen Schlüssel eintragen könnte. Wenn Sie das nicht wollen, setzen Sie einen echten Schlüssel oder kommentieren Sie die Zeile aus. Vor allem der Assistants-Endpunkt ist überholt, weil OpenAI die Assistants API am 26. August 2026 abgeschaltet hat. Nutzen Sie stattdessen Agents.

Das Modellmenü von LibreChat mit OpenAI, My Agents, Assistants, Google und Anthropic

Eigene Integrationen gibt es für OpenAI, Azure OpenAI, Anthropic, Google und AWS Bedrock. Alles andere, von OpenRouter bis zu einem lokalen Ollama- oder vLLM-Server, binden Sie als Custom Endpoint in librechat.yaml an, weil diese Dienste die OpenAI-API sprechen. Wenn Sie einen eigenen Modellserver betreiben, beschreibt unser Beitrag Eigenes LLM mit HTTPS hosten die Serverseite.

Diese LibreChat-Funktionen haben wir getestet

Agents und der Agent Builder

Agents sind heute der Kern von LibreChat. Ein Agent bündelt Modell, Anweisungen und Werkzeuge. Sie bauen ihn in der Seitenleiste und wählen ihn danach im Modellmenü wie ein Modell aus. Agents lassen sich mit anderen Benutzern oder Gruppen teilen.

Der Agent Builder von LibreChat mit Name, Modell gpt-5.4-mini, Anweisungen und dem MCP-Server microsoft-learn als Werkzeug

Add unter Tools öffnet die Werkzeugbibliothek. Eingebaute Werkzeuge sind Run Code, Web Search, Artifacts, File Search, Ask User und Memory. Darunter folgen Ihre MCP-Server und zwölf mitgelieferte Tools wie DALL-E 3, OpenAI Image Tools, Wolfram, Tavily, Azure AI Search und ein Rechner. Das beantwortet auch die alte Frage nach den "LibreChat Plugins": Den Plugin-Store früherer Versionen gibt es nicht mehr, an seine Stelle sind Tools, MCP-Server und Actions (OpenAPI) getreten.

Die Tool Library von LibreChat mit eingebauten Werkzeugen, dem MCP-Server microsoft-learn und mitgelieferten Tools

MCP-Server

MCP-Server (Model Context Protocol) geben Agents Zugriff auf externe Werkzeuge. Sie definieren sie in librechat.yaml (wie oben) oder, mit den passenden Rechten, in der Oberfläche unter MCP Settings. LibreChat unterstützt stdio-Server, die es selbst startet, und entfernte Server über Streamable HTTP, auch mit OAuth.

Beim Start verband sich LibreChat mit dem Server von Microsoft Learn und fand dessen drei Werkzeuge (microsoft_docs_search, microsoft_code_sample_search, microsoft_docs_fetch). Wir haben einen Agent "Microsoft Docs Helper" mit gpt-5.4-mini gebaut und gefragt, wie man in Copilot Studio eine SharePoint-Liste als Wissensquelle hinzufügt. Der Agent hat zweimal gesucht (0,6 und 0,7 Sekunden) und mit Schritten, Limits und Links auf die verwendeten Seiten geantwortet. Unsere eigene Anleitung zu SharePoint-Listen als Wissensquelle in Copilot Studio geht ins Detail.

Antwort eines Agents in LibreChat mit zwei aufgeklappten Aufrufen von microsoft_docs_search, Schritten, Limits und Quellenlinks

Gibt es für Ihr Werkzeug noch keinen MCP-Server, können Sie selbst einen schreiben; wie das geht, zeigt unser Beitrag MCP-Server mit FastMCP erstellen.

Dateien hochladen und RAG

LibreChat kennt zwei Wege, mit Dateien zu arbeiten, und der Unterschied ist wichtig.

In einem normalen Chat hängt die Büroklammer eine Datei an die Nachricht. In v0.8.8 verteilt LibreChat Anhänge automatisch; unser PDF ging als Dokument direkt an das Modell, ohne Umweg über den Vektorindex, auch mit eingeschalteter File Search. Für ein kurzes Dokument passt das gut, weil das Modell den ganzen Text liest.

Für eine Wissensbasis, die ein Team nutzt, bauen Sie einen Agent mit File Search und laden die Dateien im Agent Builder hoch. LibreChat schickt sie an die RAG API, die sie zerlegt, Embeddings erzeugt (Standard: text-embedding-3-small von OpenAI) und die Vektoren in pgvector ablegt. Alle, die mit dem Agent chatten, können dann in diesen Dateien suchen. Unser zweiseitiges Test-PDF, eine Beispiel-Reisekostenrichtlinie, war in 2,5 Sekunden indexiert.

Der File-Search-Dialog eines LibreChat-Agents mit einem hochgeladenen PDF

Wir haben den Agent gefragt, was eine Mitarbeiterin für eine Fahrt über 620 km mit einem Kollegen und zwei Hotelnächten abrechnen kann. Er hat in den Dateien gesucht und mit den richtigen Sätzen, den richtigen Summen und dem Abschnitt der Richtlinie geantwortet, aus dem jede Regel stammt.

Ein LibreChat-Agent beantwortet eine Reisekostenfrage aus der hochgeladenen Richtlinie, mit dem Schritt "Searched your files"

Laut der Dokumentation zur Dateisuche holt LibreChat pro Datei die 5 ähnlichsten Abschnitte und gibt die besten 10 an das Modell weiter. Für Richtlinien, Handbücher und einige Dutzend Dokumente reicht das. Ein Dokumentenmanagement ist es nicht: Es gibt keine Synchronisierung mit SharePoint oder einem Dateiserver und keine Rechte pro Dokument, nur die Frage, wer den Agent nutzen darf. Für größere Bestände mit komplexen Layouts ist eine eigene RAG-Engine wie RAGFlow das bessere Werkzeug.

Artifacts

Mit dem Werkzeug Artifacts kann ein Agent React-Komponenten, HTML-Seiten, SVG, Markdown-Dokumente oder Mermaid-Diagramme liefern, die in einem Bereich neben dem Chat gerendert werden. Wir haben einen Agent um einen Reisekostenrechner mit den Regeln aus der Richtlinie gebeten. gpt-5.4-mini hat eine funktionierende React-Komponente gebaut; mit 620 km, einem Mitfahrer, zwei Nächten und 155 Euro Hotelpreis kam sie auf 1.086 Euro, genau den Betrag, der sich aus den Sätzen der Richtlinie ergibt (Hotel gedeckelt auf 140 Euro pro Nacht).

Ein React-Artifact als Reisekostenrechner im Seitenbereich von LibreChat

Die Vorschau läuft in einem abgeschotteten iframe, der den Sandpack-Bundler von CodeSandbox von codesandbox.io lädt. Wenn Ihr Netzwerk diese Domain sperrt oder Sie die Abhängigkeit nicht wollen, beschreibt die Dokumentation, wie Sie den Bundler selbst hosten.

Websuche

Die Websuche braucht einen Suchanbieter und einen Scraper; ein Reranker (Jina oder Cohere) ist optional. Keenable funktioniert ohne Schlüssel und ist damit der schnellste Weg zum Ausprobieren. Mit eingeschalteter Web Search hat das Modell zweimal gesucht und unsere Frage nach dem neuesten LibreChat-Release richtig beantwortet, mit Quellenangaben.

Eine LibreChat-Antwort mit "Searched the web, 2 searches" und Quellenverweisen im Text

Für den Produktivbetrieb beschreibt die Dokumentation zur Websuche die anderen Anbieter: Serper, SearXNG oder Tavily für die Suche, Firecrawl oder die Scraper der Anbieter zum Lesen der Seiten.

Memory

Memory speichert einige Fakten über jeden Benutzer und gibt sie jedem neuen Gespräch mit. Die Funktion ist aus, bis Sie einen memory-Block in librechat.yaml ergänzen. Wir haben das Modell gebeten, sich zu merken, dass wir Antworten auf Deutsch mit einer kurzen Zusammenfassung am Anfang wollen; es hat einen Eintrag gespeichert (25 Token). Ein neuer Chat mit einer englischen Frage bekam danach eine deutsche Antwort, die mit "Kurz gesagt" begann. Benutzer sehen, bearbeiten und löschen ihre Einträge im Bereich Memories, und Admins können ihnen erlauben, Memory abzuschalten.

Der Memories-Bereich von LibreChat mit einem gespeicherten Eintrag und einer deutschen Antwort, die der gespeicherten Vorgabe folgt

Code Interpreter

Agents können auch Code ausführen, dafür braucht es aber einen eigenen Dienst. LibreChat nutzt ClickHouse/code-interpreter (Apache 2.0), der Python, JavaScript, Go, Java, Rust und weitere Sprachen in einer Sandbox ausführt. Er ist nicht Teil der Standard-Compose-Datei, und wir haben ihn nicht getestet. Die Einrichtung steht in der Dokumentation zum Code Interpreter.

Prompts, Presets und weitere Chatfunktionen

In der Seitenleiste finden Sie außerdem Prompts (wiederverwendbare Vorlagen mit Variablen, die Benutzer ausfüllen), Bookmarks und Parameters, in der oberen Leiste Presets für gespeicherte Modelleinstellungen. Gespräche verzweigen (Fork), Nachrichten bearbeiten, Spracheingabe, Chats per Link teilen und ein temporärer Chatmodus sind ebenfalls vorhanden.

Benutzer, Rollen und Admin-Panel

Die fehlende Rollenverwaltung war in unserem Test von 2024 der größte Nachteil. Das ist gelöst. Das Admin-Panel läuft als eigener Container auf Port 3000 und braucht ein Konto mit der Rolle ADMIN. Es bietet Rollen (standardmäßig ADMIN und USER, dazu eigene), Gruppen, Grants, die festlegen, welche Fähigkeiten jede Rolle hat, ein Audit-Log und einen Konfigurationseditor für Anbieter, eigene Endpunkte, Model Specs, MCP-Server und Funktionen, ohne YAML anzufassen.

Das Admin-Panel von LibreChat mit dem Konfigurationseditor für KI-Anbieter

LibreChat oder Open WebUI?

Beide sind Open-Source-Chatoberflächen zum Selbsthosten, und beide haben inzwischen Agents, MCP, RAG und rollenbasierte Rechte. Die Unterschiede liegen in Architektur, Erweiterbarkeit und Lizenz. Die Spalte zu LibreChat stammt aus unserem Test von v0.8.8, die Spalte zu Open WebUI aus unserem Beitrag zu Open WebUI, in dem wir v0.13.0 getestet haben (November 2026), und der Dokumentation von Open WebUI.

Unsere Einschätzung: Open WebUI ist schneller aufgesetzt und besser, wenn Sie vor allem lokale Modelle über Ollama nutzen oder den Chat mit eigenem Python-Code erweitern wollen (ein Beispiel ist n8n mit Open WebUI verbinden). LibreChat passt besser, wenn viele Benutzer eine Oberfläche wie ChatGPT bekommen sollen, mehrere kommerzielle Anbieter nebeneinander laufen, Agents React-Artifacts liefern sollen und Sie eine freizügige MIT-Lizenz wollen, die eigenes Branding ohne Einschränkung erlaubt.

Grenzen und Stolperfallen

Die Konfiguration ist verteilt

Geheimnisse und Schalter stehen in .env, Funktionen in librechat.yaml, weitere Einstellungen im Admin-Panel, und das Admin-Panel kann YAML-Werte pro Rolle oder Gruppe überschreiben. Legen Sie fest, wer was ändert, und halten Sie beide Dateien in der Versionsverwaltung (ohne die Geheimnisse).

Das Standard-Image ist ein Entwicklungs-Build

Wie oben beschrieben, lädt docker-compose.yml das Image librechat-dev:latest. Legen Sie in Ihrer Override-Datei librechat:<version> fest und aktualisieren Sie bewusst; allein das Changelog zu v0.8.8 listet seit dem letzten Release Candidate mehr als 100 Änderungen.

Ressourcen

LibreChat läuft gut auf einer kleinen VM, aber der Stack ist nicht winzig: rund 1,4 GB RAM und 10 GB Images in unserem Test, dazu ein eigener Code-Interpreter-Dienst, wenn Sie Code ausführen lassen wollen.

Standardmäßig offene Dienste

MongoDB läuft in der Standard-Compose-Datei ohne Authentifizierung (--noauth). Das ist in Ordnung, solange nur die LibreChat-Container sie erreichen; veröffentlichen Sie ihren Port nie. Stellen Sie LibreChat hinter einen Reverse Proxy mit HTTPS, bevor Sie Benutzer einladen.

Login-Limit

Standardmäßig akzeptiert LibreChat 7 Logins pro IP-Adresse in 5 Minuten (LOGIN_MAX und LOGIN_WINDOW), erfolgreiche mitgezählt, und beantwortet weitere Versuche mit HTTP 429. Erhöhen Sie den Wert, wenn sich viele Benutzer hinter einer gemeinsamen NAT-Adresse anmelden, und setzen Sie TRUST_PROXY hinter einem Reverse Proxy richtig, damit LibreChat die echten Client-IPs sieht.

Lizenzen

LibreChat, die RAG API und der Code Interpreter stehen unter freizügigen Lizenzen (MIT, MIT, Apache 2.0). Das Admin-Panel steht unter AGPL-3.0. Das spielt eine Rolle, wenn Sie es verändern und anderen über ein Netzwerk anbieten. Für alles, was Benutzer eintippen, gelten außerdem die Bedingungen Ihres Modellanbieters.

Unsere Einschätzung

LibreChat v0.8.8 deckt ab, wofür die meisten Teams einen gehosteten ChatGPT-Tarif nutzen, auf Ihrer eigenen Infrastruktur und mit den Modellen Ihrer Wahl. Einmal konfiguriert, hat jede getestete Funktion ihre Aufgabe erfüllt: Der MCP-Agent fand aktuelle Dokumentation, der Agent mit Dateisuche antwortete mit korrekten Zahlen aus einem Richtlinien-PDF, und das Artifact rechnete richtig. Die Oberfläche ist so vertraut, dass Benutzer keine Schulung brauchen. Zeit kostet das Drumherum: Geheimnisse, SSO, ein Reverse Proxy, festgelegte Versionen, die Entscheidung, welche Anbieter und Werkzeuge jede Rolle nutzen darf, und ein Plan für Updates.

Wenn Sie eine selbst gehostete Chatplattform für Ihr Unternehmen prüfen, starten Sie mit einem Pilot wie oben: ein Anbieter, zwei oder drei Agents für echte Aufgaben, eine Handvoll Benutzer. Wir unterstützen Unternehmen in Österreich, Deutschland und der Schweiz bei Planung und Betrieb von selbst gehostetem KI-Chat mit Agents, MCP und RAG; ein guter Einstieg ist unsere KI-Beratung.

Sie möchten zuverlässige KI-Agenten-Systeme bauen?

Wir haben auf Basis aktueller Forschung einen ausführlichen Leitfaden (auf Englisch) erstellt, wie Sie robuste KI-Agenten-Systeme bauen, die auch im produktiven Betrieb funktionieren. Der Leitfaden behandelt:

• die 14 systematischen Fehlerquellen in Multi-Agenten-Systemen
• belegte Best Practices für das Design von Agenten
• strukturierte Kommunikationsprotokolle und Prüfmechanismen

Über den Autor

Andreas Nigg

Mitgründer, Pondhouse Data

Andreas entwickelt seit mehr als acht Jahren Datenanwendungen. Bei Pondhouse Data konzipiert und baut er KI-Systeme und integriert sie in komplexe, gewachsene Unternehmensumgebungen.

Sprechen Sie mit Andreas über Ihr ProjektAuf LinkedIn folgen