What is Open WebUI used for?

Open WebUI is a self-hosted interface for large language models. It lets you chat with local or cloud models, build RAG workflows with your documents, and manage prompts and teams in one place.

How do I use Open WebUI with Ollama?

Install Ollama, pull a model like `llama3` or `mistral`, and then point Open WebUI’s Ollama connection to `http://localhost:11434`. You can set a default model and start chatting locally with full privacy.

Can Open WebUI do RAG with my PDFs and notes?

Yes. Create a knowledge base, upload documents, generate embeddings, and enable retrieval in chat. The model will cite and summarize from your own sources for grounded answers.

Is Open WebUI secure for teams?

You can enforce sign-in, manage API keys by role, and set rate limits. For production, use HTTPS behind a reverse proxy and restrict which providers or endpoints are allowed.

Should I use local or cloud models in Open WebUI?

Use local models for privacy, speed, and cost control; use cloud models for complex tasks requiring higher quality. Many teams combine both and set chat-specific defaults.

So verwenden Sie Open WebUI: Eine freundliche Schritt-für-Schritt-Anleitung für schnellere KI-Workflows

Wenn Sie sich jemals gewünscht haben, dass ChatGPT einen anpassbaren, selbst gehosteten Zwilling hätte, den Sie mit Ihren eigenen Modellen und Daten verbinden könnten, ist Open WebUI genau das. Es ist eine moderne, leichtgewichtige Schnittstelle für die Kommunikation mit lokalen oder Remote Large Language Models (LLMs), die Verwaltung von Prompts, den Aufbau von RAG (Retrieval-Augmented Generation) Workflows und die Zusammenarbeit mit Teammitgliedern – alles über Ihren Browser.

In dieser praktischen, lösungsorientierten Anleitung führen wir Sie durch die End-to-End-Nutzung von Open WebUI: Setup-Optionen, Verbindung zu Ollama oder APIs, Modellverwaltung, Erstellung von Retrieval-Flows, Sicherung Ihrer Instanz und eine Handvoll Profi-Tipps. Am Ende werden Sie in der Lage sein, leistungsstarke KI-Workflows zu Ihren eigenen Bedingungen auszuführen – schnell.

Was ist Open WebUI (und warum sollte man es verwenden)?

Open WebUI ist eine selbst hostbare Web-Oberfläche für LLMs. Stellen Sie es sich als Kommandozentrale für Ihre KI-Interaktionen vor – bringen Sie Ihre eigenen Modelle (lokal oder Cloud), erstellen Sie wiederverwendbare Prompts, fügen Sie Ihre Dokumente hinzu und arbeiten Sie über eine saubere, intuitive Benutzeroberfläche zusammen. Es ist besonders beliebt bei Entwicklern, Datenteams und datenschutzbewussten Benutzern, die Kontrolle, Erweiterbarkeit und Geschwindigkeit wünschen.

Hauptgründe, warum sich Leute für Open WebUI entscheiden:

Besitzen Sie Ihre Daten: Führen Sie es lokal oder auf Ihrem Server aus.

Flexible Backends: Verbinden Sie sich mit lokalen Engines wie Ollama oder Remote-Providern über API.

Workflow-ready: RAG, Tools, Embeddings und strukturierte Prompts.

Admin-Kontrollen: API-Schlüsselverwaltung, Authentifizierung und Umgebungskonfiguration.

Der schnellste Weg zum Start: Docker Quick Start

Wenn Sie mit Docker vertraut sind, können Sie innerhalb von Minuten loslegen.

Pull the image

docker pull ghcr.io/open-webui/open-webui:main

Run the container

docker run -d --name open-webui -p 3000:8080 ghcr.io/open-webui/open-webui:main

Öffnen Sie Ihren Browser und besuchen Sie

Sie gelangen zur Benutzeroberfläche, erstellen ein Administratorkonto und sind bereit, Modelle zu verbinden.

Tipp: Für persistenten Speicher und Umgebungsvariablen (wie API-Schlüsselbeschränkungen und Auth) wechseln Sie zu einer docker-compose.yml, damit Sie Volumes mounten und die Konfiguration sauber definieren können.

Verbindung zu Modellen: Lokale (Ollama) oder Cloud-APIs

Open WebUI ist Backend-agnostisch. Sie können:

Ollama verwenden, um Modelle lokal auszuführen (z. B. Llama 3, Phi-3, Mistral). Dies ist ideal für Datenschutz und Offline-Arbeit.

Cloud-APIs wie OpenAI, Anthropic, Google oder andere über API-Schlüssel verwenden.

Option A: Verwenden Sie Ollama lokal

Installieren Sie Ollama (macOS, Linux, Windows)

Besuchen Sie `, um es zu installieren.

Pull a model with Ollama

ollama pull llama3

Sie können llama3 durch Modelle wie mistral, phi3 oder llama3:instruct ersetzen, je nach Ihren Bedürfnissen.

Starten Sie Open WebUI

Stellen Sie sicher, dass Open WebUI den lokalen Endpunkt von Ollama erreichen kann (normalerweise `).

Gehen Sie in Open WebUI zu Admin-Einstellungen → Verbindungen → Ollama

Fügen Sie den Endpunkt hinzu, wählen Sie Standardmodelle aus und testen Sie die Verbindung.

Jetzt können Sie direkt im Browser mit lokalen Modellen chatten.

Option B: Verwenden Sie Cloud-Provider über API-Schlüssel

In Admin-Einstellungen → Provider (oder API/Keys)

Fügen Sie Schlüssel für OpenAI, Anthropic oder Google hinzu.

Wählen Sie ein Standardmodell pro Provider

Zum Beispiel: gpt-4o-mini (OpenAI), claude-3-haiku (Anthropic) oder gemini-1.5-flash (Google).

Set limits

Erzwingen Sie Ratenbeschränkungen, Nutzungsumfänge oder benutzerspezifische Schlüssel, abhängig von Ihrem Team-Setup.

Dieser Hybridansatz (lokal + Cloud) ist üblich: schnelle Entwürfe auf lokalen Modellen, dann Verfeinerung mit einem Cloud-Modell bei Bedarf.

Ihr erster Chat: Prompts, Modi und Anhänge

Sobald ein Modell verbunden ist, starten Sie einen neuen Chat. Einige Grundlagen:

Prompt-Vorlagen: Speichern Sie häufig verwendete Anweisungen (System-Prompts) wie „Sie sind mein Python-Tutor – erklären Sie mit Beispielen und Tests.“

Modi: Wechseln Sie zwischen kreativen, prägnanten oder technischen Stilen, indem Sie System-Prompts oder die Temperatur anpassen.

Anhänge: Laden Sie Dateien (PDFs, TXT, CSV) hoch, auf die sich das Modell beziehen soll. Für große oder wiederkehrende Datenbestände erstellen Sie eine Wissensdatenbank mit Embeddings (siehe RAG unten).

Profi-Tipp: Organisieren Sie Chats nach Projekt. Verwenden Sie Tags wie #docs, #code oder #analysis, damit Sie zukünftig schnell Dinge finden.

Erstellen Sie RAG in Minuten: Wissen, Embeddings und Suche

RAG (Retrieval-Augmented Generation) ermöglicht es Ihrem Modell, Fragen mit Ihren Inhalten (Dokumente, Notizen, Richtlinien, Code) zu beantworten. So setzen Sie es zusammen:

Erstellen Sie eine Wissensdatenbank (KB)

Erstellen Sie in der Seitenleiste eine neue KB oder „Sammlungen“.

Laden Sie Dokumente hoch: PDFs, Markdown, HTML oder Textdateien.

Generate Embeddings

Wählen Sie das Embeddings-Backend (lokal über Ollama, wenn Sie ein Embeddings-Modell haben, oder einen Cloud-Provider über API).

Indizieren Sie Ihre Dokumente; größere Mengen können einige Minuten dauern.

Aktivieren Sie die Retrieval in Chat

Aktivieren Sie in einem Chat die Retrieval und wählen Sie Ihre KB aus.

Stellen Sie Fragen wie „Fassen Sie unsere Onboarding-Richtlinie zusammen und listen Sie Aktionspunkte auf“ oder „Welche Ausnahmen erlauben wir in der Sicherheitsrichtlinie?“

Iterate

Überprüfen Sie Quellen, verfeinern Sie Ihre Dokumente, passen Sie die Chunking-Größe an und betten Sie sie erneut ein, wenn Antworten falsch erscheinen.

Profi-Tipp: Führen Sie separate KBs für die Genauigkeit (z. B. „Marketing-Texte“, „Rechtliche Richtlinien“, „Runbooks“). Dies reduziert irrelevante Retrievals.

Aktionen, Tools und Workflows

Open WebUI unterstützt Tool-gesteuerte Interaktionen, sodass das Modell „Dinge tun“ kann, nicht nur chatten. Abhängig von Ihrem Setup können Sie:

Funktionen/Tools aufrufen, die Sie definieren (z. B. ein Skript ausführen, eine URL abrufen, eine Datenbank abfragen).

System-Prompt-Workflows verwenden, um mehrstufige Aufgaben zu strukturieren.

Plugins/Erweiterungen hinzufügen, wenn Ihre Bereitstellung diese unterstützt.

Beispiel: Ein „Content Brief“-Workflow

Schritt 1: Bitten Sie das Modell, Schlüsselwörter aus einem Thema zu extrahieren.

Schritt 2: Recherchieren Sie über ein Web-Tool (falls aktiviert) und fassen Sie Quellen zusammen.

Schritt 3: Entwerfen Sie eine Gliederung + Titelvarianten.

Schritt 4: Erstellen Sie eine kurze/lange Version.

Speichern Sie diese Schritte in einer wiederverwendbaren Vorlage, damit Ihr Team sie mit einem Klick ausführen kann.

Modelle verwalten wie ein Profi

Mehrere Standards: Legen Sie Standards pro Arbeitsbereich oder pro Chat fest (z. B. schnell lokal für Brainstorming, präzise Cloud für endgültigen Text).

Model Cards: Dokumentieren Sie, was jedes Modell am besten kann – „Verwenden Sie Llama 3 für Code, Mistral für prägnante Zusammenfassungen.“

Batch-Aufgaben: Verwenden Sie längere System-Prompts und strukturierte Ausgabe (JSON, Checklisten) für wiederholbare Aufgaben wie QA-Prüfungen, Übersetzung oder Tagging.

Admin-Einstellungen: Sicherheit und Governance

Wenn Sie selbst für ein Team hosten, nehmen Sie sich ein paar Minuten Zeit, um Ihre Instanz zu härten und zu verwalten.

Authentifizierung: Erfordern Sie die Anmeldung. Aktivieren Sie gegebenenfalls SSO/OIDC.

API-Schlüsselrichtlinien: Beschränken Sie, welche Provider verwendet werden können, beschränken Sie Schlüssel nach Benutzer/Rolle und beschränken Sie den Ausgang bei Bedarf.

Umgebungsvariablen: Konfigurieren Sie Dinge wie Modell-Endpunkt-URLs, Embeddings-Backends und Schlüsselbeschränkungen über Env-Einstellungen.

Ratenbeschränkungen und Kontingente: Verhindern Sie außer Kontrolle geratene Kosten mit Beschränkungen pro Benutzer oder pro Arbeitsbereich.

Auditierbarkeit: Ermutigen Sie Teams, Chats zu kennzeichnen und Zusammenfassungen zu speichern, damit Sie Entscheidungen nachvollziehen können.

Entwickler-Tipp: Schalten Sie Open WebUI hinter einen Reverse-Proxy (z. B. Nginx/Caddy) mit HTTPS und legen Sie zulässige Ursprünge fest.

Team-Zusammenarbeit und Wissenshygiene

Gemeinsame Prompts und KBs: Erstellen Sie kuratierte Prompt-Bibliotheken und Wissensdatenbanken. Weisen Sie Verantwortliche zu.

Versionieren Sie Inhalte: Speichern Sie für Richtliniendokumente oder Spezifikationen Quellen in Git oder einem Dokument-Hub und betten Sie sie bei Aktualisierungen erneut ein.

Source-First-Antworten: Ermutigen Sie Benutzer, auf Zitate zu klicken und Originaldokumente zu scannen. Vertrauen ist gut, Kontrolle ist besser.

Alltägliche Anwendungsfälle (Kopieren Sie diese)

Content & Marketing

Verwandeln Sie ein Briefing in drei zielgruppenspezifische Entwürfe.

Generieren Sie SEO-Gliederungen, FAQs und Titel.

Engineering

Erklären Sie eine Funktion und generieren Sie Edge-Case-Tests.

Fassen Sie PRs zusammen und erstellen Sie Release Notes.

Ops & Support

Erstellen Sie eine KB aus Runbooks und SOPs.

Entwerfen Sie Antworten anhand Ihres Ton-/Styleguides.

Research & Strategie

Fassen Sie 10 Dokumente in einem 1-Pager mit Zitaten zusammen.

Vergleichen Sie Anbieter anhand einer strukturierten Matrix.

Fehlerbehebung: Schnelle Lösungen

„Kann keine Verbindung zu Ollama herstellen“

Prüfen Sie, ob Ollama läuft: `curl

Überprüfen Sie den Netzwerkzugriff vom Container zum Host.

„Modell nicht gefunden“

Pull das Modell über Ollama: ollama pull mistral

Bestätigen Sie für die Cloud den genauen Modellnamen und die Berechtigungen.

„RAG-Ergebnisse scheinen irrelevant zu sein“

Betten Sie mit einem besseren Embeddings-Modell erneut ein.

Passen Sie die Chunk-Größe (z. B. 500–1.000 Token) und die Überlappung an.

Teilen Sie Ihre KB in kleinere, thematische Sammlungen auf.

„Kosten steigen sprunghaft an“

Legen Sie Ratenbeschränkungen fest und verwenden Sie für Entwürfe standardmäßig lokale Modelle.

Performance-Tipps und fortgeschrittene Vorgehensweisen

Verwenden Sie kleinere lokale Modelle für die Ideenfindung und größere/Cloud-Modelle für die Fertigstellung.

Cachen Sie häufige Prompts und Antworten, wo immer dies möglich ist.

Verwenden Sie strukturierte Ausgaben (JSON, Bullet-Checklisten) für nachgelagerte Automatisierungen.

Bewahren Sie für sensible Daten alles lokal auf (Ollama + lokale Embeddings + On-Prem-Speicher).

Verwenden Sie System-Prompts, um Ton, Formatierung und Leitplanken zu definieren.

Erwähnenswert: Open WebUI mit Sider.AI kombinieren

Wenn Sie viele Inhalte erstellen oder recherchieren, kann ein Workflow-Begleiter helfen. Erwähnenswert: Sider.AI unterstützt Sie beim Verfassen, Zusammenfassen und Organisieren von Langform-Arbeiten. Sie können in Open WebUI Ideen entwickeln oder Kontexte abrufen und dann mit der Editor-ähnlichen Unterstützung von Sider.AI Artikel für die Veröffentlichung optimieren, umstrukturieren und SEO-optimieren. Es ist eine hilfreiche Kombination, wenn Sie sowohl Kontrolle (selbst gehosteter Chat + RAG) als auch Geschwindigkeit (kollaboratives Bearbeiten und Optimieren) wünschen.

Ein einfacher Starter-Blueprint

Führen Sie Open WebUI über Docker aus.

Installieren Sie Ollama, pull llama3 und mistral.

Verbinden Sie Open WebUI mit und setzen Siemistral` als Standard für den Chat.

Erstellen Sie KBs: Richtlinien, Marketing, Runbooks; betten Sie sie mit einem starken Embeddings-Modell ein.

Speichern Sie drei Prompt-Vorlagen: „Zusammenfasser mit Aufzählungszeichen“, „SEO-Gliederungsgenerator“ und „Release Notes Writer“.

Fügen Sie Ratenbeschränkungen hinzu und erfordern Sie die Anmeldung.

Mit diesem Setup können die meisten Teams 80 % der täglichen KI-Aufgaben abdecken.

Wichtige Erkenntnisse

Open WebUI bietet Ihnen eine saubere, kontrollierbare Benutzeroberfläche für die Arbeit mit lokalen und Cloud-LLMs.

Kombinieren Sie es für Datenschutz und Geschwindigkeit lokal mit Ollama; mischen Sie bei Bedarf Cloud-Modelle ein.

Verwenden Sie RAG, um Antworten in Ihren Dokumenten zu verankern; halten Sie KBs klein und fokussiert.

Sichern Sie Ihre Instanz mit Auth, Schlüsselrichtlinien und Ratenbeschränkungen.

Standardisieren Sie Prompts und Ausgaben, damit die Arbeit Ihres Teams konsistent und automatisierbar ist.

Nächste Schritte

Starten Sie Open WebUI mit Docker und verbinden Sie sich mit Ollama.

Erstellen Sie Ihre erste Wissensdatenbank und probieren Sie einen Retrieval-basierten Chat aus.

Speichern Sie drei Prompt-Vorlagen, die Ihr Team täglich wiederverwenden wird.

Wenn Sie Inhalte veröffentlichen, leiten Sie Entwürfe über Sider.AI, um Ton, Struktur und SEO zu verfeinern, bevor Sie live gehen.

FAQ

F1: Wofür wird Open WebUI verwendet? Open WebUI ist eine selbst gehostete Schnittstelle für große Sprachmodelle. Sie können mit lokalen oder Cloud-Modellen chatten, RAG-Workflows mit Ihren Dokumenten erstellen und Prompts und Teams an einem Ort verwalten.

F2: Wie verwende ich Open WebUI mit Ollama? Installieren Sie Ollama, ziehen Sie ein Modell wie llama3 oder mistral und verweisen Sie dann die Ollama-Verbindung von Open WebUI auf http://localhost:11434. Sie können ein Standardmodell festlegen und lokal mit voller Privatsphäre chatten.

F3: Kann Open WebUI RAG mit meinen PDFs und Notizen durchführen? Ja. Erstellen Sie eine Wissensdatenbank, laden Sie Dokumente hoch, generieren Sie Einbettungen und aktivieren Sie die Suche im Chat. Das Modell zitiert und fasst aus Ihren eigenen Quellen zusammen, um fundierte Antworten zu erhalten.

F4: Ist Open WebUI für Teams sicher? Sie können die Anmeldung erzwingen, API-Schlüssel nach Rolle verwalten und Ratenbeschränkungen festlegen. Verwenden Sie für die Produktion HTTPS hinter einem Reverse-Proxy und beschränken Sie, welche Provider oder Endpunkte zulässig sind.

F5: Sollte ich lokale oder Cloud-Modelle in Open WebUI verwenden? Verwenden Sie lokale Modelle für Datenschutz, Geschwindigkeit und Kostenkontrolle. Verwenden Sie Cloud-Modelle für komplexe Aufgaben, die eine höhere Qualität erfordern. Viele Teams kombinieren beides und legen chatspezifische Standards fest.