如何使用 Open WebUI：一份友好的分步指南，加速你的 AI 工作流程
更新于 2025年9月18日
8 分钟
如何使用 Open WebUI：一份友好的分步指南，加速你的 AI 工作流程
如果你曾希望 ChatGPT 有一个可定制、自托管的“双胞胎”，可以连接到你自己的模型和数据，那么 Open WebUI 正是为此而生。它是一个现代、轻量级的界面，用于与本地或远程大型语言模型 (LLM) 聊天、管理提示词、构建 RAG (检索增强生成) 工作流程以及与团队成员协作——所有这些都在你的浏览器中完成。
在这份实用、以解决方案为导向的指南中，我们将逐步介绍如何端到端地使用 Open WebUI：设置选项、连接到 Ollama 或 API、管理模型、构建检索流程、保护你的实例，以及一些专业技巧。到最后，你将能够按照你自己的方式快速运行强大的 AI 工作流程。
什么是 Open WebUI（以及为什么要使用它）？
Open WebUI 是一个可自托管的 LLM Web 界面。可以把它想象成你 AI 交互的指挥中心——自带模型（本地或云端）、创建可重用的提示词、添加你的文档，并通过简洁、直观的 UI 进行协作。它在希望获得控制权、可扩展性和速度的开发者、数据团队和注重隐私的用户中尤其受欢迎。
人们选择 Open WebUI 的主要原因：
- ：在本地或你的服务器上运行。
- ：通过 API 连接到 Ollama 等本地引擎或远程提供商。
- ：RAG、工具、嵌入和结构化提示词。
- ：API 密钥管理、身份验证和环境配置。
最快的启动方式：Docker 快速启动
如果你熟悉 Docker，你可以在几分钟内启动并运行。
- 拉取镜像
- 运行容器
- 打开你的浏览器并访问
你将进入 UI，创建一个管理员帐户，然后就可以连接模型了。
提示：为了持久化存储和环境变量（如 API 密钥限制和身份验证），切换到
docker-compose.yml，这样你就可以挂载卷并清晰地定义配置。连接到模型：本地 (Ollama) 或云 API
Open WebUI 与后端无关。你可以：
- 使用 Ollama 在本地运行模型（例如，Llama 3、Phi‑3、Mistral）。这非常适合隐私和离线工作。
- 使用 云 API，例如 OpenAI、Anthropic、Google 或其他通过 API 密钥提供的服务。
选项 A：在本地使用 Ollama
- 安装 Ollama (macOS, Linux, Windows)
- 访问 ` 安装。
- 使用 Ollama 拉取模型
你可以根据你的需要将
llama3 替换为 mistral、phi3 或 llama3:instruct 等模型。- 启动 Open WebUI
- 确保 Open WebUI 可以访问 Ollama 的本地端点（通常是 `）。
- 在 Open WebUI 中，转到 Admin Settings → Connections → Ollama
- 添加端点，选择默认模型，并测试连接。
现在你可以直接在浏览器中与本地模型聊天了。
选项 B：通过 API 密钥使用云提供商
- 在 Admin Settings → Providers (或 API/Keys) 中
- 添加 OpenAI、Anthropic 或 Google 的密钥。
- 为每个提供商选择一个默认模型
- 例如：
gpt-4o-mini(OpenAI)、claude‑3‑haiku(Anthropic) 或gemini‑1.5‑flash(Google)。
- 设置限制
- 根据你的团队设置，强制执行速率限制、使用范围或每个用户的密钥。
这种混合方法（本地 + 云端）很常见：在本地模型上快速起草，然后在需要时使用云模型进行完善。
你的第一次聊天：提示词、模式和附件
连接模型后，开始新的聊天。 一些基础知识：
- ：保存常用的指令（系统提示词），例如“你是我的 Python 导师——用例子和测试来解释。”
- ：通过调整系统提示词或温度来在创意、简洁或技术风格之间切换。
- ：上传文件（PDF、TXT、CSV）供模型参考。 对于大型或重复出现的语料库，请使用嵌入创建知识库（参见下面的 RAG）。
专业提示：按项目组织聊天。 使用
#docs、#code 或 #analysis 等标签，以便将来你能快速找到所需内容。在几分钟内构建 RAG：知识、嵌入和搜索
RAG（检索增强生成）让你的模型可以使用你的内容（文档、笔记、策略、代码）来回答问题。 以下是如何将其组合在一起：
- 创建知识库 (KB)
- 在侧边栏中，创建一个新的 KB 或“Collections”。
- 上传文档：PDF、markdown、HTML 或文本文件。
- 生成嵌入
- 选择嵌入后端（如果你有嵌入模型，则通过 Ollama 在本地选择，或者通过 API 选择云提供商）。
- 索引你的文档；较大的集合可能需要几分钟。
- 在聊天中启用检索
- 在聊天中，切换检索并选择你的 KB。
- 提出诸如“总结我们的入职政策并列出行动项”或“我们在安全政策中允许哪些例外情况？”之类的问题。
- 迭代
- 检查来源，改进你的文档，调整分块大小，如果答案看起来不正确，则重新嵌入。
专业提示：为了确保准确性，维护单独的 KB（例如，“营销文案”、“法律政策”、“运行手册”）。 这减少了无关的检索。
行动、工具和工作流程
Open WebUI 支持工具驱动的交互，因此模型可以“做事情”，而不仅仅是聊天。 根据你的设置，你可以：
- （例如，运行脚本、获取 URL、查询数据库）。
- 来构建多步骤任务。
- （如果你的部署支持它们）。
示例：“内容概要”工作流程
- 步骤 1：要求模型从主题中提取关键字。
- 步骤 2：通过 Web 工具（如果已启用）进行研究并总结来源。
- 步骤 3：起草一个大纲 + 标题变体。
- 步骤 4：创建一个短/长版本。
将这些步骤保存在可重用的模板中，以便你的团队只需单击一下即可运行它们。
像专业人士一样管理模型
- ：设置每个工作区或每个聊天的默认值（例如，快速本地用于集思广益，精确云用于最终副本）。
- ：记录每个模型最擅长做什么——“使用 Llama 3 进行代码编写，使用 Mistral 进行简洁的摘要。”
- ：使用更长的系统提示词和结构化输出 (JSON, checklists) 用于可重复的任务，如 QA 检查、翻译或标记。
管理设置：安全性和治理
如果你为团队进行自托管，请花几分钟时间来加强和管理你的实例。
- ：要求登录。 如果可用，启用 SSO/OIDC。
- ：限制可以使用的提供商，按用户/角色划分密钥范围，并在适当情况下限制出口。
- ：通过 env 设置配置模型端点 URL、嵌入后端和密钥限制等内容。
- ：通过每个用户或每个工作区的限制来防止失控的成本。
- ：鼓励团队标记聊天并存储摘要，以便你可以跟踪决策。
开发提示：将 Open WebUI 放在反向代理（例如，Nginx/Caddy）后面，使用 HTTPS 并设置允许的来源。
团队协作和知识卫生
- ：创建精选的提示词库和知识库。 分配维护者。
- ：对于策略文档或规范，将源存储在 Git 或文档中心中，并在更新时重新嵌入。
- ：鼓励用户单击引用并扫描原始文档。 信任，但要验证。
日常用例（复制这些）
- 内容与营销
- 将一个简报变成三个针对特定受众的草稿。
- 生成 SEO 大纲、常见问题解答和标题。
- 工程
- 解释一个函数并生成边缘案例测试。
- 总结 PR 并生成发行说明。
- 运营与支持
- 从运行手册和 SOP 构建 KB。
- 使用你的语气/风格指南起草回复。
- 研究与策略
- 将 10 个文档总结成一个带有引用的 1 页纸。
- 使用结构化矩阵比较供应商。
故障排除：快速修复
- “无法连接到 Ollama”
- 检查 Ollama 是否正在运行：`curl
- 验证从容器到主机的网络访问。
- “找不到模型”
- 通过 Ollama 拉取模型：
ollama pull mistral
- 对于云，确认确切的模型名称和权限。
- “RAG 结果看起来不相关”
- 使用更好的嵌入模型重新嵌入。
- 调整分块大小（例如，500–1,000 个 token）和重叠。
- 将你的 KB 分成更小的、主题性的集合。
- “成本飙升”
- 设置速率限制并默认为本地模型进行草稿。
性能提示和高级操作
- 使用 较小的本地模型 进行构思，使用 较大/云模型 进行定稿。
- 尽可能缓存频繁的提示词和响应。
- 采用 结构化输出 (JSON, bullet checklists) 用于下游自动化。
- 对于敏感数据，将所有内容保存在本地（Ollama + 本地嵌入 + 本地存储）。
- 使用 系统提示词 来定义语气、格式和安全措施。
值得注意的是：将 Open WebUI 与 Sider.AI 配对
如果你生成大量内容或进行研究，工作流程助手可以提供帮助。 值得注意的是：Sider.AI 协助起草、总结和组织长篇作品。 你可以在 Open WebUI 中构思或检索上下文，然后使用 Sider.AI 的编辑器风格的辅助功能来润色、重组和 SEO 优化文章以供发布。 当你既想要控制权（自托管聊天 + RAG）又想要速度（协作编辑和优化）时，这是一个有用的配对。
一个简单的入门蓝图
- 通过 Docker 运行 Open WebUI。
- 安装 Ollama，拉取
llama3和mistral。
- 将 Open WebUI 连接到
and setmistral` 作为聊天的默认值。
- 创建 KB：
策略、营销、运行手册；使用强大的嵌入模型进行嵌入。
- 保存三个提示词模板：“带项目符号的摘要”、“SEO 大纲生成器”和“发行说明编写器”。
- 添加速率限制并要求登录。
通过此设置，大多数团队可以完成 80% 的日常 AI 任务。
主要收获
- Open WebUI 为你提供了一个 简洁、可控的 UI 来处理本地和云 LLM。
- 为了隐私和速度，请在本地将其与 Ollama 配对； 在需要时混入云模型。
- 使用 RAG 将答案植根于你的文档中； 保持 KB 小而专注。
- 使用 身份验证、密钥策略和速率限制 来保护你的实例。
- 标准化 提示词和输出，以便你团队的工作保持一致且可自动化。
下一步
- 使用 Docker 启动 Open WebUI 并连接到 Ollama。
- 创建你的第一个知识库并尝试支持检索的聊天。
- 保存你的团队每天将重复使用的三个提示词模板。
- 如果你发布内容，请在上线之前通过 Sider.AI 传递草稿，以优化语气、结构和 SEO。
常见问题解答
Q1:Open WebUI 用于做什么？
Open WebUI 是大型语言模型的自托管界面。 它允许你与本地或云模型聊天，使用你的文档构建 RAG 工作流程，并在一个地方管理提示和团队。
Q2:如何将 Open WebUI 与 Ollama 一起使用？
安装 Ollama，拉取诸如
llama3 或 mistral 之类的模型，然后将 Open WebUI 的 Ollama 连接指向 http://localhost:11434。 你可以设置一个默认模型，并以完全的隐私开始在本地聊天。Q3:Open WebUI 可以使用我的 PDF 和笔记进行 RAG 吗？
是的。 创建知识库、上传文档、生成嵌入并在聊天中启用检索。 该模型将引用你自己的来源并从中进行总结，以获得有根据的答案。
Q4:Open WebUI 对于团队来说安全吗？
你可以强制登录，按角色管理 API 密钥，并设置速率限制。 对于生产环境，请在反向代理后面使用 HTTPS，并限制允许的提供商或端点。
Q5:我应该在 Open WebUI 中使用本地模型还是云模型？
使用本地模型来保证隐私、速度和成本控制； 使用云模型来执行需要更高质量的复杂任务。 许多团队将两者结合起来并设置特定于聊天的默认值。
