What is Open WebUI used for?

Open WebUI is a self-hosted interface for large language models. It lets you chat with local or cloud models, build RAG workflows with your documents, and manage prompts and teams in one place.

How do I use Open WebUI with Ollama?

Install Ollama, pull a model like `llama3` or `mistral`, and then point Open WebUI’s Ollama connection to `http://localhost:11434`. You can set a default model and start chatting locally with full privacy.

Can Open WebUI do RAG with my PDFs and notes?

Yes. Create a knowledge base, upload documents, generate embeddings, and enable retrieval in chat. The model will cite and summarize from your own sources for grounded answers.

Is Open WebUI secure for teams?

You can enforce sign-in, manage API keys by role, and set rate limits. For production, use HTTPS behind a reverse proxy and restrict which providers or endpoints are allowed.

Should I use local or cloud models in Open WebUI?

Use local models for privacy, speed, and cost control; use cloud models for complex tasks requiring higher quality. Many teams combine both and set chat-specific defaults.

Paano Gamitin ang Open WebUI: Isang Gabay na Madaling Sundan para sa Mas Mabilis na AI Workflows

Kung nais mo na sana ang ay may customizable, self-hosted na kambal na maaari mong ikabit sa iyong sariling mga modelo at datos, ang Open WebUI ang eksaktong sagot. Ito ay isang moderno at lightweight na interface para sa pakikipag-chat sa mga local o remote na large language models (LLMs), pamamahala ng mga prompt, pagbuo ng mga RAG (Retrieval-Augmented Generation) na workflows, at pakikipagtulungan sa mga kasamahan sa team—lahat mula sa iyong browser.

Sa praktikal at solusyon-oriented na gabay na ito, ipaliliwanag namin kung paano gamitin ang Open WebUI mula simula hanggang dulo: mga opsyon sa pag-setup, pagkonekta sa o mga API, pamamahala ng mga modelo, pagbuo ng retrieval flows, pag-secure ng iyong instance, at ilang pro tips. Sa pagtatapos nito, magagawa mong patakbuhin ang mga malalakas na AI workflows sa iyong sariling mga termino—nang mabilis.

Ano ang Open WebUI (at Bakit Ito Gagamitin)?

Ang Open WebUI ay isang self-hostable na web interface para sa mga LLM. Isipin ito bilang command center para sa iyong mga AI interaction—dalhin ang iyong sariling mga modelo (local o cloud), gumawa ng mga reusable na prompt, idagdag ang iyong mga dokumento, at makipagtulungan sa pamamagitan ng isang malinis at intuitive na UI. Ito ay lalong popular sa mga developer, mga team ng datos, at mga user na conscious sa privacy na gustong kontrol, extensibility, at bilis.

Mga pangunahing dahilan kung bakit pinipili ng mga tao ang Open WebUI:

Pagmamay-ari ng iyong datos: Patakbuhin nang local o sa iyong server.

Flexible na mga backend: Kumonekta sa mga local engine tulad ng o mga remote provider sa pamamagitan ng API.

Workflow-ready: RAG, mga tool, embeddings, at structured na mga prompt.

Mga kontrol ng admin: Pamamahala ng API key, authentication, at configuration ng environment.

Ang Pinakamabilis na Paraan para Magsimula: Docker Quick Start

Kung komportable ka sa Docker, maaari kang magsimula sa loob lamang ng ilang minuto.

Kunin ang image

docker pull ghcr.io/open-webui/open-webui:main

Patakbuhin ang container

docker run -d --name open-webui -p 3000:8080 ghcr.io/open-webui/open-webui:main

Buksan ang iyong browser at bisitahin ang

Mapupunta ka sa UI, gagawa ng isang admin account, at handa ka nang kumonekta ng mga modelo.

Tip: Para sa persistent storage at mga environment variable (tulad ng mga paghihigpit sa API key at auth), lumipat sa isang docker-compose.yml upang maaari kang mag-mount ng mga volume at tukuyin ang configuration nang malinis.

Pagkonekta sa Mga Modelo: Local () o Cloud APIs

Ang Open WebUI ay backend-agnostic. Maaari mong:

Gamitin ang Llama 3 upang patakbuhin ang mga modelo nang local (hal., Llama 3, , ). Ito ay mahusay para sa privacy at offline na trabaho.

Gumamit ng mga OpenAI tulad ng OpenAI, , , o iba pa sa pamamagitan ng mga API key.

Opsyon A: Gumamit ng nang Local

I-install ang (macOS, Linux, Windows)

Bisitahin ang ` para mag-install.

Kumuha ng isang modelo gamit ang

ollama pull llama3

Maaari mong palitan ang llama3 ng mga modelo tulad ng mistral, phi3, o llama3:instruct depende sa iyong mga pangangailangan.

Simulan ang Open WebUI

Tiyakin na maabot ng Open WebUI ang local endpoint ng (karaniwan ay `).

Sa Open WebUI, pumunta sa Admin Settings → Connections →

Idagdag ang endpoint, pumili ng (mga) default na modelo, at subukan ang koneksyon.

Ngayon ay maaari kang makipag-chat sa mga local na modelo nang direkta sa browser.

Opsyon B: Gumamit ng Mga Cloud Provider sa pamamagitan ng API Keys

Sa Admin Settings → Providers (o API/Keys)

Magdagdag ng mga key para sa , , o .

Pumili ng isang default na modelo bawat provider

Halimbawa: OpenAI (OpenAI), Anthropic (Anthropic), o Google (Google).

Magtakda ng mga limitasyon

Ipatupad ang mga limitasyon sa rate, mga saklaw ng paggamit, o mga key bawat user depende sa setup ng iyong team.

Ang hybrid na approach na ito (local + cloud) ay karaniwan: mabilisang mga draft sa mga local na modelo, pagkatapos ay pinuhin gamit ang isang cloud model kung kinakailangan.

Ang Iyong Unang Chat: Mga Prompt, Mode, at Attachment

Kapag nakakonekta na ang isang modelo, magsimula ng isang bagong chat. Ilang mga pangunahing bagay:

Mga template ng prompt: I-save ang mga madalas gamiting tagubilin (system prompts) tulad ng “Ikaw ang aking Python tutor—magpaliwanag gamit ang mga halimbawa at mga pagsubok.”

Mga Mode: Lumipat sa pagitan ng mga creative, concise, o technical na istilo sa pamamagitan ng pag-aayos ng mga system prompt o temperatura.

Mga Attachment: Mag-upload ng mga file (PDFs, TXT, CSV) para sa sanggunian ng modelo. Para sa malalaki o paulit-ulit na corpora, lumikha ng isang knowledge base na may mga embedding (tingnan ang RAG sa ibaba).

Pro tip: Ayusin ang mga chat ayon sa proyekto. Gumamit ng mga tag tulad ng #docs, #code, o #analysis upang madaling mahanap ng iyong future self ang mga bagay.

Bumuo ng RAG sa Loob ng Ilang Minuto: Kaalaman, Mga Embedding, at Paghahanap

Pinapayagan ng RAG (Retrieval-Augmented Generation) ang iyong modelo na sagutin ang mga tanong gamit ang iyong nilalaman (mga dokumento, tala, mga patakaran, code). Narito kung paano ito buuin:

Lumikha ng isang Knowledge Base (KB)

Sa sidebar, lumikha ng isang bagong KB o “Collections.”

Mag-upload ng mga dokumento: Mga PDF, markdown, HTML, o text file.

Bumuo ng Mga Embedding

Piliin ang backend ng mga embedding (local sa pamamagitan ng kung mayroon kang isang embeddings model, o isang cloud provider sa pamamagitan ng API).

I-index ang iyong mga dokumento; maaaring tumagal ng ilang minuto ang mas malalaking set.

Paganahin ang Retrieval sa Chat

Sa isang chat, i-toggle ang retrieval at piliin ang iyong KB.

Magtanong tulad ng “I-summarize ang aming onboarding policy at ilista ang mga action item,” o “Anong mga exception ang pinapayagan namin sa security policy?”

Ulit-ulitin

Suriin ang mga pinagmulan, pinuhin ang iyong mga dokumento, ayusin ang laki ng chunking, at muling i-embed kung mukhang mali ang mga sagot.

Pro tip: Panatilihin ang mga hiwalay na KB para sa katumpakan (hal., “Marketing copy,” “Mga legal na patakaran,” “Runbooks”). Binabawasan nito ang mga hindi kaugnay na retrieval.

Mga Aksyon, Mga Tool, at Workflows

Sinusuportahan ng Open WebUI ang mga interaction na hinihimok ng tool upang ang modelo ay maaaring “gumawa ng mga bagay,” hindi lamang makipag-chat. Depende sa iyong setup, maaari kang:

Tumawag ng mga function/tool na iyong tinukoy (hal., magpatakbo ng isang script, kumuha ng isang URL, mag-query ng isang database).

Gumamit ng mga workflow ng system prompt upang buuin ang mga multi-step na gawain.

Magdagdag ng mga plugin/extension kung sinusuportahan ito ng iyong deployment.

Halimbawa: Isang “Content Brief” na workflow

Hakbang 1: Hilingin sa modelo na kumuha ng mga keyword mula sa isang paksa.

Hakbang 2: Magsaliksik sa pamamagitan ng isang web tool (kung pinagana) at i-summarize ang mga pinagmulan.

Hakbang 3: Gumawa ng isang outline + mga variant ng pamagat.

Hakbang 4: Lumikha ng isang maikli/mahabang bersyon.

I-save ang mga hakbang na ito sa isang reusable na template upang mapatakbo ito ng iyong team sa isang click.

Pamamahala ng Mga Modelo Tulad ng Isang Pro

Maramihang mga default: Magtakda ng mga default bawat workspace o bawat chat (hal., mabilis na local para sa brainstorming, tumpak na cloud para sa panghuling kopya).

Mga card ng modelo: I-document kung ano ang pinakamahusay na ginagawa ng bawat modelo—“Gamitin ang para sa code, para sa concise na mga summary.”

Mga batch task: Gumamit ng mas mahahabang mga system prompt at structured na output (JSON, mga checklist) para sa mga repeatable na gawain tulad ng mga QA check, pagsasalin, o pag-tag.

Mga Setting ng Admin: Seguridad at Pamamahala

Kung ikaw ay nagse-self-host para sa isang team, maglaan ng ilang minuto upang patatagin at pamahalaan ang iyong instance.

Authentication: Hilingin ang pag-sign in. Kung available, paganahin ang SSO/OIDC.

Mga patakaran sa API key: Limitahan kung aling mga provider ang maaaring gamitin, saklawin ang mga key ayon sa user/role, at paghigpitan ang egress kung saan naaangkop.

Mga variable ng environment: I-configure ang mga bagay tulad ng mga URL ng model endpoint, mga embedding backend, at mga paghihigpit sa key sa pamamagitan ng mga setting ng env.

Mga limitasyon sa rate at mga quota: Pigilan ang mga runaway cost gamit ang mga limitasyon bawat user o bawat workspace.

Auditability: Hikayatin ang mga team na i-label ang mga chat at mag-imbak ng mga summary upang masubaybayan mo ang mga desisyon.

Dev tip: Ilagay ang Open WebUI sa likod ng isang reverse proxy (hal., Nginx/Caddy) na may HTTPS at itakda ang mga pinapayagang pinagmulan.

Pakikipagtulungan ng Team at Kalinisan ng Kaalaman

Mga shared na prompt at KB: Lumikha ng mga curated na library ng prompt at mga knowledge base. Magtalaga ng mga maintainer.

Bersyon ng nilalaman: Para sa mga dokumento ng patakaran o mga spec, mag-imbak ng mga pinagmulan sa Git o isang doc hub at muling i-embed kapag na-update.

Mga sagot na pinagmulan-muna: Hikayatin ang mga user na i-click ang mga citation at i-scan ang mga orihinal na dokumento. Magtiwala, ngunit beripikahin.

Mga Pang-araw-araw na Use Case (Kopyahin Ito)

Nilalaman at marketing

Gawing tatlong audience-specific na mga draft ang isang brief.

Bumuo ng mga SEO outline, FAQs, at mga pamagat.

Engineering

Ipaliwanag ang isang function at bumuo ng mga edge-case na pagsubok.

I-summarize ang mga PR at gumawa ng mga release note.

Ops at suporta

Bumuo ng isang KB mula sa mga runbook at SOP.

Gumawa ng mga tugon gamit ang iyong tono/gabay sa istilo.

Pananaliksik at diskarte

I-summarize ang 10 dokumento sa isang 1-pager na may mga citation.

Paghambingin ang mga vendor gamit ang isang structured na matrix.

Pag-troubleshoot: Mabilis na Pag-aayos

“Hindi makakonekta sa ”

Suriin kung tumatakbo ang : `curl

Beripikahin ang network access mula sa container patungo sa host.

“Hindi mahanap ang modelo”

Kunin ang modelo sa pamamagitan ng ollama pull mistral: ollama pull mistral

Para sa cloud, kumpirmahin ang eksaktong pangalan ng modelo at mga pahintulot.

“Mukhang hindi kaugnay ang mga resulta ng RAG”

Muling i-embed gamit ang isang mas mahusay na embeddings model.

Ayusin ang laki ng chunk (hal., 500–1,000 mga token) at overlap.

Hatiin ang iyong KB sa mas maliliit, topical na mga koleksyon.

“Tumataas ang mga gastos”

Magtakda ng mga limitasyon sa rate at i-default sa mga local na modelo para sa mga draft.

Mga Tip sa Pagganap at Mga Advanced na Pagkilos

Gumamit ng mas maliliit na mga local na modelo para sa ideation at mas malalaki/cloud na mga modelo para sa pagtatapos.

I-cache ang mga madalas na prompt at mga tugon kung saan posible.

Magpatibay ng structured na mga output (JSON, mga bullet na checklist) para sa mga downstream na automation.

Para sa sensitibong datos, panatilihing local ang lahat (Ollama + local embeddings + on‑prem na storage).

Gumamit ng mga system prompt upang tukuyin ang tono, pag-format, at mga guardrail.

Kapansin-pansin: Pagpapares ng Open WebUI sa

Kung gumagawa ka ng maraming nilalaman o pananaliksik, makakatulong ang isang workflow companion. Kapansin-pansin: Tumutulong ang sa paggawa ng draft, pag-summarize, at pag-aayos ng long‑form na trabaho. Maaari kang mag-ideate o kumuha ng konteksto sa Open WebUI, pagkatapos ay gamitin ang tulong na istilo ng editor ng upang pakinisin, muling buuin, at i-SEO-optimize ang mga artikulo para sa pag-publish. Ito ay isang kapaki-pakinabang na pagpapares kapag gusto mo ang parehong kontrol (self‑hosted chat + RAG) at bilis (collaborative na pag-edit at pag-optimize).

Isang Simpleng Starter na Blueprint

Patakbuhin ang Open WebUI sa pamamagitan ng Docker.

I-install ang llama3, kunin ang llama3 at mistral.

Ikonekta ang Open WebUI sa at itakdamistral` bilang default para sa chat.

Lumikha ng mga KB: Mga Patakaran, Marketing, Runbooks; i-embed gamit ang isang malakas na embeddings model.

I-save ang tatlong template ng prompt: “Summarizer na may mga bullet,” “SEO outline generator,” at “Tagasulat ng mga release note.”

Magdagdag ng mga limitasyon sa rate at hilingin ang pag-login.

Sa setup na ito, maaaring saklawin ng karamihan sa mga team ang 80% ng mga pang-araw-araw na gawain ng AI.

Mga Pangunahing Takeaway

Binibigyan ka ng Open WebUI ng isang malinis at nakokontrol na UI upang gumana sa mga local at cloud LLM.

Para sa privacy at bilis, ipares ito sa Ollama nang local; isama ang mga cloud model kung kinakailangan.

Gumamit ng RAG upang ibatay ang mga sagot sa iyong mga dokumento; panatilihing maliit at nakatuon ang mga KB.

I-secure ang iyong instance gamit ang auth, mga patakaran sa key, at mga limitasyon sa rate.

I-standardize ang mga prompt at output upang ang trabaho ng iyong team ay pare-pareho at maaaring i-automate.

Mga Susunod na Hakbang

Paikutin ang Open WebUI gamit ang Docker at kumonekta sa .

Lumikha ng iyong unang knowledge base at subukan ang isang chat na may suporta sa retrieval.

I-save ang tatlong template ng prompt na muling gagamitin ng iyong team araw-araw.

Kung nagpa-publish ka ng nilalaman, ipasa ang mga draft sa pamamagitan ng upang pinuhin ang tono, istraktura, at SEO bago mag-live.

FAQ

Q1:Para saan ang Open WebUI? Ang Open WebUI ay isang self-hosted na interface para sa mga large language model. Hinahayaan ka nitong makipag-chat sa mga local o cloud na modelo, bumuo ng mga RAG workflow gamit ang iyong mga dokumento, at pamahalaan ang mga prompt at team sa isang lugar.

Q2:Paano ko gagamitin ang Open WebUI sa Ollama? I-install ang Ollama, kumuha ng isang modelo tulad ng Ollama o mistral, at pagkatapos ay ituro ang koneksyon ng Ollama ng Open WebUI sa http://localhost:11434. Maaari kang magtakda ng isang default na modelo at magsimulang makipag-chat nang local na may ganap na privacy.

Q3:Kaya ba ng Open WebUI na gumawa ng RAG gamit ang aking mga PDF at mga tala? Oo. Lumikha ng isang knowledge base, mag-upload ng mga dokumento, bumuo ng mga embedding, at paganahin ang retrieval sa chat. I-cite at i-summarize ng modelo mula sa iyong sariling mga pinagmulan para sa mga grounded na sagot.

Q4:Secure ba ang Open WebUI para sa mga team? Maaari mong ipatupad ang pag-sign in, pamahalaan ang mga API key ayon sa role, at magtakda ng mga limitasyon sa rate. Para sa produksyon, gumamit ng HTTPS sa likod ng isang reverse proxy at paghigpitan kung aling mga provider o endpoint ang pinapayagan.

Q5:Dapat ba akong gumamit ng mga local o cloud na modelo sa Open WebUI? Gumamit ng mga local na modelo para sa privacy, bilis, at kontrol sa gastos; gumamit ng mga cloud na modelo para sa mga kumplikadong gawain na nangangailangan ng mas mataas na kalidad. Pinagsasama ng maraming team ang pareho at nagtatakda ng mga default na partikular sa chat.