What is Open WebUI used for?

Open WebUI is a self-hosted interface for large language models. It lets you chat with local or cloud models, build RAG workflows with your documents, and manage prompts and teams in one place.

How do I use Open WebUI with Ollama?

Install Ollama, pull a model like `llama3` or `mistral`, and then point Open WebUI’s Ollama connection to `http://localhost:11434`. You can set a default model and start chatting locally with full privacy.

Can Open WebUI do RAG with my PDFs and notes?

Yes. Create a knowledge base, upload documents, generate embeddings, and enable retrieval in chat. The model will cite and summarize from your own sources for grounded answers.

Is Open WebUI secure for teams?

You can enforce sign-in, manage API keys by role, and set rate limits. For production, use HTTPS behind a reverse proxy and restrict which providers or endpoints are allowed.

Should I use local or cloud models in Open WebUI?

Use local models for privacy, speed, and cost control; use cloud models for complex tasks requiring higher quality. Many teams combine both and set chat-specific defaults.

Cách Sử Dụng Open WebUI: Hướng Dẫn Từng Bước Thân Thiện Để Tăng Tốc Quy Trình Làm Việc AI

Nếu bạn từng ước ChatGPT có một bản song sinh tự lưu trữ, tùy chỉnh được để kết nối với các mô hình và dữ liệu của riêng bạn, thì Open WebUI chính xác là như vậy. Đây là một giao diện hiện đại, nhẹ để trò chuyện với các mô hình ngôn ngữ lớn (LLM) cục bộ hoặc từ xa, quản lý lời nhắc, xây dựng quy trình RAG (Tạo Sinh Tăng Cường Tìm Kiếm) và cộng tác với đồng đội—tất cả từ trình duyệt của bạn.

Trong hướng dẫn thực tế, hướng đến giải pháp này, chúng ta sẽ cùng nhau tìm hiểu cách sử dụng Open WebUI từ đầu đến cuối: các tùy chọn thiết lập, kết nối với Ollama hoặc API, quản lý mô hình, xây dựng quy trình truy xuất, bảo mật phiên bản của bạn và một vài mẹo chuyên nghiệp. Đến cuối cùng, bạn sẽ có thể chạy các quy trình làm việc AI mạnh mẽ theo các điều khoản của riêng bạn—một cách nhanh chóng.

Open WebUI Là Gì (và Tại Sao Nên Sử Dụng)?

Open WebUI là một giao diện web tự lưu trữ cho LLM. Hãy nghĩ về nó như một trung tâm điều khiển cho các tương tác AI của bạn—mang các mô hình của riêng bạn (cục bộ hoặc đám mây), tạo lời nhắc có thể tái sử dụng, thêm tài liệu của bạn và cộng tác thông qua một giao diện người dùng trực quan, rõ ràng. Nó đặc biệt phổ biến với các nhà phát triển, nhóm dữ liệu và người dùng coi trọng quyền riêng tư, những người muốn kiểm soát, khả năng mở rộng và tốc độ.

Những lý do chính khiến mọi người chọn Open WebUI:

: Chạy cục bộ hoặc trên máy chủ của bạn.

: Kết nối với các công cụ cục bộ như Ollama hoặc các nhà cung cấp từ xa thông qua API.

: RAG, công cụ, nhúng và lời nhắc có cấu trúc.

: Quản lý khóa API, xác thực và cấu hình môi trường.

Cách Nhanh Nhất Để Bắt Đầu: Khởi Động Nhanh Docker

Nếu bạn đã quen với Docker, bạn có thể thiết lập và chạy nó chỉ trong vài phút.

Kéo ảnh

Chạy container

Mở trình duyệt của bạn và truy cập

Bạn sẽ đến giao diện người dùng, tạo một tài khoản quản trị viên và bạn đã sẵn sàng kết nối các mô hình.

Mẹo: Để lưu trữ liên tục và các biến môi trường (như hạn chế khóa API và xác thực), hãy chuyển sang docker-compose.yml để bạn có thể gắn các volume và xác định cấu hình một cách rõ ràng.

Kết Nối Với Các Mô Hình: API Cục Bộ (Ollama) Hoặc Đám Mây

Open WebUI không phụ thuộc vào phần phụ trợ. Bạn có thể:

Sử dụng Ollama để chạy các mô hình cục bộ (ví dụ: Llama 3, Phi‑3, Mistral). Điều này rất tốt cho quyền riêng tư và làm việc ngoại tuyến.

Sử dụng API đám mây như OpenAI, Anthropic, Google hoặc các API khác thông qua khóa API.

Tùy Chọn A: Sử Dụng Ollama Cục Bộ

Cài Đặt Ollama (macOS, Linux, Windows)

Truy cập `` để cài đặt.

Kéo một mô hình bằng Ollama

Bạn có thể thay thế llama3 bằng các mô hình như mistral, phi3 hoặc llama3:instruct tùy thuộc vào nhu cầu của bạn.

Khởi Động Open WebUI

Đảm bảo Open WebUI có thể truy cập điểm cuối cục bộ của Ollama (thường là ``).

Trong Open WebUI, hãy chuyển đến Admin Settings → Connections → Ollama

Thêm điểm cuối, chọn (các) mô hình mặc định và kiểm tra kết nối.

Bây giờ bạn có thể trò chuyện với các mô hình cục bộ trực tiếp trong trình duyệt.

Tùy Chọn B: Sử Dụng Các Nhà Cung Cấp Đám Mây Thông Qua Khóa API

Trong Admin Settings → Providers (hoặc API/Keys)

Thêm khóa cho OpenAI, Anthropic hoặc Google.

Chọn một mô hình mặc định cho mỗi nhà cung cấp

Ví dụ: gpt-4o-mini (OpenAI), claude‑3‑haiku (Anthropic) hoặc gemini‑1.5‑flash (Google).

Đặt giới hạn

Thực thi giới hạn tỷ lệ, phạm vi sử dụng hoặc khóa cho mỗi người dùng tùy thuộc vào thiết lập nhóm của bạn.

Cách tiếp cận kết hợp này (cục bộ + đám mây) là phổ biến: bản nháp nhanh trên các mô hình cục bộ, sau đó tinh chỉnh bằng mô hình đám mây khi cần.

Cuộc Trò Chuyện Đầu Tiên Của Bạn: Lời Nhắc, Chế Độ và Tệp Đính Kèm

Khi một mô hình được kết nối, hãy bắt đầu một cuộc trò chuyện mới. Một vài điều cơ bản:

: Lưu các hướng dẫn thường dùng (lời nhắc hệ thống) như “Bạn là gia sư Python của tôi—hãy giải thích bằng các ví dụ và bài kiểm tra.”

: Chuyển đổi giữa các phong cách sáng tạo, ngắn gọn hoặc kỹ thuật bằng cách điều chỉnh lời nhắc hệ thống hoặc nhiệt độ.

: Tải lên các tệp (PDF, TXT, CSV) để mô hình tham khảo. Đối với các tập hợp lớn hoặc định kỳ, hãy tạo cơ sở kiến thức với phần nhúng (xem RAG bên dưới).

Mẹo chuyên nghiệp: Sắp xếp các cuộc trò chuyện theo dự án. Sử dụng các thẻ như #docs, #code hoặc #analysis để bạn có thể tìm thấy mọi thứ nhanh chóng trong tương lai.

Xây Dựng RAG Trong Vài Phút: Kiến Thức, Nhúng và Tìm Kiếm

RAG (Tạo Sinh Tăng Cường Tìm Kiếm) cho phép mô hình của bạn trả lời các câu hỏi bằng nội dung của bạn (tài liệu, ghi chú, chính sách, mã). Đây là cách để kết hợp nó:

Tạo Cơ Sở Kiến Thức (KB)

Trong thanh bên, hãy tạo một KB hoặc “Bộ sưu tập” mới.

Tải lên tài liệu: PDF, markdown, HTML hoặc tệp văn bản.

Tạo Phần Nhúng

Chọn phần phụ trợ nhúng (cục bộ qua Ollama nếu bạn có mô hình nhúng hoặc nhà cung cấp đám mây thông qua API).

Lập chỉ mục tài liệu của bạn; các bộ lớn hơn có thể mất vài phút.

Bật Truy Xuất Trong Trò Chuyện

Trong một cuộc trò chuyện, hãy bật/tắt truy xuất và chọn KB của bạn.

Đặt câu hỏi như “Tóm tắt chính sách giới thiệu của chúng tôi và liệt kê các mục hành động” hoặc “Những ngoại lệ nào chúng tôi cho phép trong chính sách bảo mật?”

Lặp lại

Kiểm tra nguồn, tinh chỉnh tài liệu của bạn, điều chỉnh kích thước phân đoạn và nhúng lại nếu câu trả lời có vẻ không chính xác.

Mẹo chuyên nghiệp: Duy trì các KB riêng biệt để đảm bảo độ chính xác (ví dụ: “Bản sao tiếp thị”, “Chính sách pháp lý”, “Sổ tay hướng dẫn”). Điều này làm giảm các truy xuất không liên quan.

Hành Động, Công Cụ và Quy Trình Làm Việc

Open WebUI hỗ trợ các tương tác dựa trên công cụ để mô hình có thể “làm mọi thứ”, chứ không chỉ trò chuyện. Tùy thuộc vào thiết lập của bạn, bạn có thể:

mà bạn xác định (ví dụ: chạy tập lệnh, tìm nạp URL, truy vấn cơ sở dữ liệu).

để cấu trúc các tác vụ nhiều bước.

nếu quá trình triển khai của bạn hỗ trợ chúng.

Ví dụ: Quy trình làm việc “Tóm Tắt Nội Dung”

Bước 1: Yêu cầu mô hình trích xuất các từ khóa từ một chủ đề.

Bước 2: Nghiên cứu thông qua một công cụ web (nếu được bật) và tóm tắt các nguồn.

Bước 3: Soạn thảo một dàn ý + các biến thể tiêu đề.

Bước 4: Tạo một phiên bản ngắn/dài.

Lưu các bước này trong một mẫu có thể tái sử dụng để nhóm của bạn có thể chạy chúng chỉ bằng một cú nhấp chuột.

Quản Lý Mô Hình Như Một Chuyên Gia

: Đặt mặc định cho mỗi không gian làm việc hoặc cho mỗi cuộc trò chuyện (ví dụ: cục bộ nhanh để động não, đám mây chính xác cho bản sao cuối cùng).

: Ghi lại những gì mỗi mô hình làm tốt nhất—“Sử dụng Llama 3 cho mã, Mistral cho các bản tóm tắt ngắn gọn.”

: Sử dụng lời nhắc hệ thống dài hơn và đầu ra có cấu trúc (JSON, danh sách kiểm tra) cho các tác vụ lặp đi lặp lại như kiểm tra QA, dịch thuật hoặc gắn thẻ.

Cài Đặt Quản Trị: Bảo Mật và Quản Trị

Nếu bạn đang tự lưu trữ cho một nhóm, hãy dành vài phút để củng cố và quản lý phiên bản của bạn.

: Yêu cầu đăng nhập. Nếu có, hãy bật SSO/OIDC.

: Hạn chế những nhà cung cấp nào có thể được sử dụng, phạm vi khóa theo người dùng/vai trò và hạn chế lưu lượng truy cập ra ngoài khi thích hợp.

: Định cấu hình những thứ như URL điểm cuối mô hình, phần phụ trợ nhúng và hạn chế khóa thông qua cài đặt môi trường.

: Ngăn chặn chi phí tăng vọt với giới hạn cho mỗi người dùng hoặc cho mỗi không gian làm việc.

: Khuyến khích các nhóm gắn nhãn các cuộc trò chuyện và lưu trữ các bản tóm tắt để bạn có thể theo dõi các quyết định.

Mẹo dành cho nhà phát triển: Đặt Open WebUI đằng sau một proxy ngược (ví dụ: Nginx/Caddy) với HTTPS và đặt các nguồn gốc được phép.

Cộng Tác Nhóm và Vệ Sinh Kiến Thức

: Tạo thư viện lời nhắc và cơ sở kiến thức được tuyển chọn. Chỉ định người bảo trì.

: Đối với tài liệu chính sách hoặc thông số kỹ thuật, hãy lưu trữ các nguồn trong Git hoặc một trung tâm tài liệu và nhúng lại khi được cập nhật.

: Khuyến khích người dùng nhấp vào trích dẫn và quét tài liệu gốc. Tin tưởng, nhưng hãy xác minh.

Các Trường Hợp Sử Dụng Hàng Ngày (Sao Chép Những Trường Hợp Này)

Nội dung & tiếp thị

Biến một bản tóm tắt thành ba bản nháp dành riêng cho đối tượng.

Tạo dàn ý SEO, Câu hỏi thường gặp và tiêu đề.

Kỹ thuật

Giải thích một hàm và tạo các bài kiểm tra trường hợp biên.

Tóm tắt PR và tạo ghi chú phát hành.

Vận hành & hỗ trợ

Xây dựng KB từ sổ tay hướng dẫn và SOP.

Soạn thảo các phản hồi bằng cách sử dụng hướng dẫn về giọng điệu/phong cách của bạn.

Nghiên cứu & chiến lược

Tóm tắt 10 tài liệu thành một tài liệu dài 1 trang với các trích dẫn.

So sánh các nhà cung cấp bằng cách sử dụng ma trận có cấu trúc.

Khắc Phục Sự Cố: Các Bản Sửa Nhanh

“Không thể kết nối với Ollama”

Kiểm tra xem Ollama đang chạy: `curl

Xác minh quyền truy cập mạng từ container đến máy chủ.

“Không tìm thấy mô hình”

Kéo mô hình qua Ollama: ollama pull mistral

Đối với đám mây, hãy xác nhận tên và quyền chính xác của mô hình.

“Kết quả RAG có vẻ không liên quan”

Nhúng lại bằng một mô hình nhúng tốt hơn.

Điều chỉnh kích thước phân đoạn (ví dụ: 500–1.000 mã thông báo) và độ chồng chéo.

Chia KB của bạn thành các bộ sưu tập theo chủ đề, nhỏ hơn.

“Chi phí tăng vọt”

Đặt giới hạn tỷ lệ và mặc định cho các mô hình cục bộ cho bản nháp.

Mẹo Về Hiệu Suất và Các Bước Nâng Cao

Sử dụng các mô hình cục bộ nhỏ hơn để hình thành ý tưởng và các mô hình lớn hơn/đám mây để hoàn thiện.

Bộ nhớ đệm các lời nhắc và phản hồi thường xuyên nếu có thể.

Áp dụng đầu ra có cấu trúc (JSON, danh sách kiểm tra dấu đầu dòng) để tự động hóa xuôi dòng.

Đối với dữ liệu nhạy cảm, hãy giữ mọi thứ cục bộ (Ollama + nhúng cục bộ + lưu trữ tại chỗ).

Sử dụng lời nhắc hệ thống để xác định giọng điệu, định dạng và biện pháp bảo vệ.

Đáng Chú Ý: Ghép Nối Open WebUI với Sider.AI

Nếu bạn tạo nhiều nội dung hoặc nghiên cứu, một người bạn đồng hành trong quy trình làm việc có thể giúp ích. Đáng chú ý: Sider.AI hỗ trợ soạn thảo, tóm tắt và sắp xếp công việc dạng dài. Bạn có thể hình thành ý tưởng hoặc truy xuất ngữ cảnh trong Open WebUI, sau đó sử dụng hỗ trợ kiểu trình chỉnh sửa của Sider.AI để đánh bóng, tái cấu trúc và tối ưu hóa SEO cho các bài viết để xuất bản. Đây là một sự ghép nối hữu ích khi bạn muốn cả quyền kiểm soát (trò chuyện tự lưu trữ + RAG) và tốc độ (chỉnh sửa và tối ưu hóa cộng tác).

Bản Thiết Kế Khởi Đầu Đơn Giản

Chạy Open WebUI qua Docker.

Cài đặt Ollama, kéo llama3 và mistral.

Kết nối Open WebUI với và đặtmistral` làm mặc định cho trò chuyện.

Tạo KB: Chính sách, Tiếp thị, Sổ tay hướng dẫn; nhúng với một mô hình nhúng mạnh mẽ.

Lưu ba mẫu lời nhắc: “Người tóm tắt có dấu đầu dòng”, “Trình tạo dàn ý SEO” và “Người viết ghi chú phát hành”.

Thêm giới hạn tỷ lệ và yêu cầu đăng nhập.

Với thiết lập này, hầu hết các nhóm có thể bao gồm 80% các tác vụ AI hàng ngày.

Những Điểm Chính

Open WebUI cung cấp cho bạn một giao diện người dùng rõ ràng, có thể kiểm soát để làm việc với LLM cục bộ và đám mây.

Để đảm bảo quyền riêng tư và tốc độ, hãy ghép nối nó với Ollama cục bộ; trộn các mô hình đám mây khi cần.

Sử dụng RAG để đặt câu trả lời trong tài liệu của bạn; giữ cho KB nhỏ và tập trung.

Bảo mật phiên bản của bạn bằng xác thực, chính sách khóa và giới hạn tỷ lệ.

Tiêu chuẩn hóa lời nhắc và đầu ra để công việc của nhóm bạn nhất quán và có thể tự động hóa.

Các Bước Tiếp Theo

Khởi động Open WebUI với Docker và kết nối với Ollama.

Tạo cơ sở kiến thức đầu tiên của bạn và thử một cuộc trò chuyện được hỗ trợ bởi truy xuất.

Lưu ba mẫu lời nhắc mà nhóm của bạn sẽ sử dụng lại hàng ngày.

Nếu bạn xuất bản nội dung, hãy chuyển các bản nháp qua Sider.AI để tinh chỉnh giọng điệu, cấu trúc và SEO trước khi xuất bản.

Câu Hỏi Thường Gặp

Q1: Open WebUI được sử dụng để làm gì? Open WebUI là một giao diện tự lưu trữ cho các mô hình ngôn ngữ lớn. Nó cho phép bạn trò chuyện với các mô hình cục bộ hoặc đám mây, xây dựng quy trình làm việc RAG với tài liệu của bạn và quản lý lời nhắc và nhóm ở một nơi.

Q2: Làm cách nào để sử dụng Open WebUI với Ollama? Cài đặt Ollama, kéo một mô hình như llama3 hoặc mistral, sau đó trỏ kết nối Ollama của Open WebUI đến http://localhost:11434. Bạn có thể đặt một mô hình mặc định và bắt đầu trò chuyện cục bộ với đầy đủ quyền riêng tư.

Q3: Open WebUI có thể thực hiện RAG với PDF và ghi chú của tôi không? Có. Tạo cơ sở kiến thức, tải lên tài liệu, tạo phần nhúng và bật truy xuất trong trò chuyện. Mô hình sẽ trích dẫn và tóm tắt từ các nguồn của riêng bạn để có câu trả lời có cơ sở.

Q4: Open WebUI có an toàn cho các nhóm không? Bạn có thể thực thi đăng nhập, quản lý khóa API theo vai trò và đặt giới hạn tỷ lệ. Đối với sản xuất, hãy sử dụng HTTPS đằng sau một proxy ngược và hạn chế những nhà cung cấp hoặc điểm cuối nào được phép.

Q5: Tôi có nên sử dụng mô hình cục bộ hay đám mây trong Open WebUI? Sử dụng mô hình cục bộ để đảm bảo quyền riêng tư, tốc độ và kiểm soát chi phí; sử dụng mô hình đám mây cho các tác vụ phức tạp đòi hỏi chất lượng cao hơn. Nhiều nhóm kết hợp cả hai và đặt mặc định cụ thể cho cuộc trò chuyện.