如何使用 Open WebUI：友善的 AI 工作流程加速逐步指南
更新於 2025年9月18日
8 分鐘
如何使用 Open WebUI：友善的 AI 工作流程加速逐步指南
如果您曾希望 ChatGPT 有一個可自定義、可自架的雙生版本，讓您可以連接到自己的模型和數據，那麼 Open WebUI 正是您所需要的。它是一個現代、輕量級的介面，用於與本地或遠程大型語言模型 (LLM) 聊天、管理提示、構建 RAG (檢索增強生成) 工作流程，並與團隊成員協作——所有這些都可以在您的瀏覽器中完成。
在這個實用、以解決方案為導向的指南中，我們將逐步介紹如何端到端地使用 Open WebUI：設定選項、連接到 Ollama 或 API、管理模型、構建檢索流程、保護您的實例，以及一些專業提示。到最後，您將能夠按照自己的方式快速運行強大的 AI 工作流程。
什麼是 Open WebUI（以及為什麼要使用它）？
Open WebUI 是一個可自行託管的 LLM Web 介面。可以把它想像成您 AI 互動的指揮中心——帶上您自己的模型（本地或雲端）、製作可重複使用的提示、添加您的文檔，並通過簡潔、直觀的 UI 進行協作。它在開發人員、數據團隊和注重隱私的用戶中特別受歡迎，因為他們需要控制、可擴展性和速度。
人們選擇 Open WebUI 的主要原因：
- 擁有您的數據：在本地或您的伺服器上運行。
- 靈活的後端：通過 API 連接到像 Ollama 這樣的本地引擎或遠程提供商。
- 為工作流程做好準備：RAG、工具、嵌入和結構化提示。
- 管理員控制：API 密鑰管理、身份驗證和環境配置。
最快的開始方式：Docker 快速啟動
如果您熟悉 Docker，您可以在幾分鐘內啟動並運行。
- 拉取映像
docker pull ghcr.io/open-webui/open-webui:main- 運行容器
docker run -d --name open-webui -p 3000:8080 ghcr.io/open-webui/open-webui:main- 打開您的瀏覽器並訪問
您將進入 UI，創建一個管理員帳戶，然後就可以連接模型了。
提示：為了持久化儲存和環境變量（例如 API 密鑰限制和身份驗證），切換到
docker-compose.yml，以便您可以掛載卷並清晰地定義配置。連接到模型：本地 (Ollama) 或雲端 API
Open WebUI 與後端無關。您可以：
- 使用 Ollama 在本地運行模型（例如 Llama 3、Phi-3、Mistral）。這非常適合隱私和離線工作。
- 使用 雲端 API，例如 OpenAI、Anthropic、Google 或其他通過 API 密鑰。
選項 A：在本地使用 Ollama
- 安裝 Ollama (macOS、Linux、Windows)
- 訪問 ` 來安裝。
- 使用 Ollama 拉取模型
ollama pull llama3您可以根據您的需要將
llama3 替換為 mistral、phi3 或 llama3:instruct 等模型。- 啟動 Open WebUI
- 確保 Open WebUI 可以訪問 Ollama 的本地端點（通常是 `）。
- 在 Open WebUI 中，轉到管理設置 → 連接 → Ollama
- 添加端點，選擇預設模型，然後測試連接。
現在您就可以直接在瀏覽器中與本地模型聊天了。
選項 B：通過 API 密鑰使用雲端提供商
- 在管理設置 → 提供商（或 API/密鑰）中
- 添加 OpenAI、Anthropic 或 Google 的密鑰。
- 為每個提供商選擇一個預設模型
- 例如：
gpt-4o-mini(OpenAI)、claude‑3‑haiku(Anthropic) 或gemini‑1.5‑flash(Google)。
- 設置限制
- 根據您的團隊設置，實施速率限制、使用範圍或每個用戶的密鑰。
這種混合方法（本地 + 雲端）很常見：在本地模型上快速起草，然後在需要時使用雲端模型進行完善。
您的第一次聊天：提示、模式和附件
連接模型後，開始新的聊天。以下是一些基本知識：
- 提示模板：保存常用的指令（系統提示），例如“您是我的 Python 導師——用示例和測試來解釋。”
- 模式：通過調整系統提示或溫度來切換創意、簡潔或技術風格。
- 附件：上傳文件（PDF、TXT、CSV）供模型參考。對於大型或重複出現的語料庫，使用嵌入創建知識庫（參見下面的 RAG）。
專業提示：按項目組織聊天。使用
#docs、#code 或 #analysis 之類的標籤，以便將來的您可以快速找到內容。在幾分鐘內構建 RAG：知識、嵌入和搜索
RAG（檢索增強生成）讓您的模型可以使用您的內容（文檔、筆記、策略、代碼）回答問題。以下是如何將其組合在一起：
- 創建知識庫 (KB)
- 在側邊欄中，創建一個新的 KB 或“集合”。
- 上傳文檔：PDF、markdown、HTML 或文本文件。
- 生成嵌入
- 選擇嵌入後端（如果您有嵌入模型，則通過 Ollama 在本地選擇，或者通過 API 選擇雲端提供商）。
- 索引您的文檔；較大的集合可能需要幾分鐘。
- 在聊天中啟用檢索
- 在聊天中，切換檢索並選擇您的 KB。
- 提出諸如“總結我們的入職政策並列出行動項目”或“我們在安全策略中允許哪些例外？”之類的問題
- 迭代
- 檢查來源，完善您的文檔，調整分塊大小，如果答案看起來不對，則重新嵌入。
專業提示：為了準確性，維護單獨的 KB（例如，“營銷文案”、“法律政策”、“運行手冊”）。這減少了不相關的檢索。
操作、工具和工作流程
Open WebUI 支持工具驅動的互動，因此模型可以“做事情”，而不僅僅是聊天。根據您的設置，您可以：
- 調用您定義的函數/工具（例如，運行腳本、獲取 URL、查詢數據庫）。
- 使用系統提示工作流程來構建多步驟任務。
- 如果您的部署支持，則添加插件/擴展。
示例：“內容簡介”工作流程
- 步驟 1：要求模型從主題中提取關鍵字。
- 步驟 2：通過 Web 工具（如果已啟用）進行研究並總結來源。
- 步驟 3：起草大綱 + 標題變體。
- 步驟 4：創建短/長版本。
將這些步驟保存在可重複使用的模板中，以便您的團隊可以一鍵運行它們。
像專業人士一樣管理模型
- 多個預設：設置每個工作區或每個聊天的預設值（例如，快速本地用於集思廣益，精確雲端用於最終副本）。
- 模型卡：記錄每個模型最擅長的事情——“使用 Llama 3 進行編碼，Mistral 進行簡潔的摘要。”
- 批量任務：對於可重複的任務（如 QA 檢查、翻譯或標記），使用更長的系統提示和結構化輸出 (
JSON、清單)。
管理設置：安全和治理
如果您為團隊進行自我託管，請花幾分鐘時間來加強和管理您的實例。
- 身份驗證：要求登錄。如果可用，啟用 SSO/OIDC。
- API 密鑰策略：限制可以使用哪些提供商，按用戶/角色劃分密鑰範圍，並在適當的情況下限制出口。
- 環境變量：通過 env 設置配置模型端點 URL、嵌入後端和密鑰限制等。
- 速率限制和配額：通過每個用戶或每個工作區的限制來防止失控的成本。
- 可審計性：鼓勵團隊標記聊天並存儲摘要，以便您可以追蹤決策。
開發提示：將 Open WebUI 放在反向代理（例如，Nginx/Caddy）後面，使用 HTTPS 並設置允許的來源。
團隊協作和知識衛生
- 共享提示和 KB：創建精選的提示庫和知識庫。分配維護者。
- 版本內容：對於策略文檔或規範，將源存儲在 Git 或文檔中心中，並在更新時重新嵌入。
- 源優先答案：鼓勵用戶點擊引文並掃描原始文檔。信任，但要驗證。
日常用例（複製這些）
- 內容和營銷
- 將簡介轉換為三個針對特定受眾的草稿。
- 生成 SEO 大綱、常見問題解答和標題。
- 工程
- 解釋一個函數並生成邊緣案例測試。
- 總結 PR 並生成發布說明。
- 運營和支持
- 從運行手冊和 SOP 構建 KB。
- 使用您的語氣/風格指南起草響應。
- 研究和策略
- 將 10 個文檔總結為帶有引文的 1 頁紙。
- 使用結構化矩陣比較供應商。
疑難排解：快速修復
- “無法連接到 Ollama”
- 檢查 Ollama 是否正在運行：`curl
- 驗證從容器到主機的網絡訪問。
- “找不到模型”
- 通過 Ollama 拉取模型：
ollama pull mistral
- 對於雲端，確認確切的模型名稱和權限。
- “RAG 結果看起來不相關”
- 使用更好的嵌入模型重新嵌入。
- 調整分塊大小（例如，500–1,000 個令牌）和重疊。
- 將您的 KB 分割成更小、主題性的集合。
- “成本飆升”
- 設置速率限制，並默認使用本地模型進行草稿。
性能提示和高級操作
- 使用 較小的本地模型 進行構思，並使用 較大/雲模型 進行定稿。
- 盡可能緩存常用的提示和響應。
- 採用 結構化輸出（
JSON、項目符號清單）用於下游自動化。
- 對於敏感數據，將所有內容保存在本地（Ollama + 本地嵌入 + 內部部署儲存）。
- 使用 系統提示 來定義語氣、格式和防護欄。
值得注意：將 Open WebUI 與 Sider.AI 配對
如果您產生大量內容或研究，工作流程助手可以提供幫助。值得注意的是：Sider.AI 協助起草、總結和組織長篇作品。您可以在 Open WebUI 中構思或檢索上下文，然後使用 Sider.AI 的編輯器式輔助來潤色、重組和 SEO 優化文章以進行發布。當您既想要控制（自託管聊天 + RAG）又想要速度（協作編輯和優化）時，這是一個有用的配對。
一個簡單的入門藍圖
- 通過 Docker 運行 Open WebUI。
- 安裝 Ollama，拉取
llama3和mistral。
- 將 Open WebUI 連接到
並將mistral` 設置為聊天的默認值。
- 創建 KB：
策略、營銷、運行手冊；使用強大的嵌入模型嵌入。
- 保存三個提示模板：“帶有項目符號的摘要器”、“SEO 大綱生成器”和“發布說明編寫器”。
- 添加速率限制並要求登錄。
通過此設置，大多數團隊可以涵蓋 80% 的日常 AI 任務。
主要收穫
- Open WebUI 為您提供了一個 簡潔、可控的 UI，用於與本地和雲端 LLM 協作。
- 為了隱私和速度，將其與本地 Ollama 配對；在需要時混合雲端模型。
- 使用 RAG 將答案基於您的文檔；保持 KB 小而集中。
- 使用 身份驗證、密鑰策略和速率限制 來保護您的實例。
- 標準化 提示和輸出，以便您團隊的工作保持一致且可自動化。
下一步
- 使用 Docker 啟動 Open WebUI 並連接到 Ollama。
- 創建您的第一個知識庫，並嘗試支持檢索的聊天。
- 保存您的團隊每天都會重複使用的三個提示模板。
- 如果您發布內容，請在發布前通過 Sider.AI 傳遞草稿，以完善語氣、結構和 SEO。
常見問題解答
Q1：Open WebUI 用於什麼？
Open WebUI 是大型語言模型的自託管介面。它讓您可以與本地或雲端模型聊天、使用您的文檔構建 RAG 工作流程，並在一個地方管理提示和團隊。
Q2：如何將 Open WebUI 與 Ollama 搭配使用？
安裝 Ollama，拉取像
llama3 或 mistral 這樣的模型，然後將 Open WebUI 的 Ollama 連接指向 http://localhost:11434。您可以設置預設模型，並以完全隱私的方式開始在本地聊天。Q3：Open WebUI 可以使用我的 PDF 和筆記進行 RAG 嗎？
是的。創建知識庫、上傳文檔、生成嵌入，並在聊天中啟用檢索。該模型將引用和總結您自己的來源，以獲得有根據的答案。
Q4：Open WebUI 對於團隊來說安全嗎？
您可以強制登錄、按角色管理 API 密鑰，並設置速率限制。對於生產環境，請在反向代理後面使用 HTTPS，並限制允許的提供商或端點。
Q5：我應該在 Open WebUI 中使用本地還是雲端模型？
使用本地模型來獲得隱私、速度和成本控制；使用雲端模型來處理需要更高質量的複雜任務。許多團隊將兩者結合起來並設置特定於聊天的默認值。
