What is Open WebUI used for?

Open WebUI is a self-hosted interface for large language models. It lets you chat with local or cloud models, build RAG workflows with your documents, and manage prompts and teams in one place.

How do I use Open WebUI with Ollama?

Install Ollama, pull a model like `llama3` or `mistral`, and then point Open WebUI’s Ollama connection to `http://localhost:11434`. You can set a default model and start chatting locally with full privacy.

Can Open WebUI do RAG with my PDFs and notes?

Yes. Create a knowledge base, upload documents, generate embeddings, and enable retrieval in chat. The model will cite and summarize from your own sources for grounded answers.

Is Open WebUI secure for teams?

You can enforce sign-in, manage API keys by role, and set rate limits. For production, use HTTPS behind a reverse proxy and restrict which providers or endpoints are allowed.

Should I use local or cloud models in Open WebUI?

Use local models for privacy, speed, and cost control; use cloud models for complex tasks requiring higher quality. Many teams combine both and set chat-specific defaults.

Kā Lietot Open WebUI: Draudzīgs, Soli pa Solim Ceļvedis Ātrākiem AI Darbplūsmām

Ja jūs kādreiz esat vēlējies, lai ChatGPT būtu pielāgojams, pašmitināts dvīnis, ko varētu savienot ar saviem modeļiem un datiem, Open WebUI ir tieši tas. Tā ir moderna, viegla saskarne, lai tērzētu ar lokāliem vai attāliem lielu valodu modeļiem (LLM), pārvaldītu uzvednes, veidotu RAG (Retrieval-Augmented Generation) darbplūsmas un sadarbotos ar komandas biedriem — tas viss no jūsu pārlūkprogrammas.

Šajā praktiskajā, uz risinājumiem orientētajā ceļvedī mēs iziesim cauri, kā lietot Open WebUI no A līdz Z: iestatīšanas iespējas, savienojuma izveide ar Ollama vai API, modeļu pārvaldība, izguves plūsmu veidošana, instances nodrošināšana un daži profesionāli padomi. Līdz beigām jūs varēsiet palaist jaudīgas AI darbplūsmas atbilstoši saviem noteikumiem — ātri.

Kas Ir Open WebUI (un Kāpēc To Lietot)?

Open WebUI ir pašmitināma tīmekļa saskarne LLM. Uztveriet to kā savu AI mijiedarbību komandcentru — izmantojiet savus modeļus (vietējos vai mākoņa), izveidojiet atkārtoti izmantojamas uzvednes, pievienojiet savus dokumentus un sadarbojieties, izmantojot tīru, intuitīvu lietotāja saskarni. Tas ir īpaši populārs izstrādātāju, datu komandu un privātumu apzinušos lietotāju vidū, kuri vēlas kontroli, paplašināmību un ātrumu.

Galvenie iemesli, kāpēc cilvēki izvēlas Open WebUI:

Pārvaldiet savus datus: palaidiet lokāli vai savā serverī.

Elastīgi aizmugursistēmas: izveidojiet savienojumu ar vietējiem dzinējiem, piemēram, Ollama, vai attāliem pakalpojumu sniedzējiem, izmantojot API.

Darbplūsmai gatavs: RAG, rīki, iegulumi un strukturētas uzvednes.

Administratora vadīklas: API atslēgu pārvaldība, autentifikācija un vides konfigurācija.

Ātrākais Veids, Kā Sākt: Docker Ātrā Startēšana

Ja jums ir ērti strādāt ar Docker, jūs varat sākt darbu dažu minūšu laikā.

Izvelciet attēlu

docker pull ghcr.io/open-webui/open-webui:main

Palaidiet konteineru

docker run -d --name open-webui -p 3000:8080 ghcr.io/open-webui/open-webui:main

Atveriet savu pārlūkprogrammu un apmeklējiet

Jūs nokļūsiet lietotāja saskarnē, izveidojiet administratora kontu, un jūs esat gatavs savienot modeļus.

Padoms: lai nodrošinātu pastāvīgu krātuvi un vides mainīgos (piemēram, API atslēgu ierobežojumus un autentifikāciju), pārslēdzieties uz docker-compose.yml, lai jūs varētu pievienot apjomus un tīri definēt konfigurāciju.

Savienojuma Izveide ar Modeļiem: Lokāli (Ollama) vai Mākoņa API

Open WebUI ir neatkarīgs no aizmugursistēmas. Jūs varat:

Izmantojiet Ollama, lai lokāli palaistu modeļus (piemēram, Llama 3, Phi-3, Mistral). Tas ir lieliski piemērots privātumam un darbam bezsaistē.

Izmantojiet mākoņa API, piemēram, OpenAI, Anthropic, Google vai citus, izmantojot API atslēgas.

A Variants: Izmantojiet Ollama Lokāli

Instalējiet Ollama (macOS, Linux, Windows)

Apmeklējiet ` lai instalētu.

Izvelciet modeli ar Ollama

ollama pull llama3

Jūs varat aizstāt llama3 ar tādiem modeļiem kā mistral, phi3 vai llama3:instruct atkarībā no jūsu vajadzībām.

Startējiet Open WebUI

Pārliecinieties, vai Open WebUI var sasniegt Ollama vietējo galapunktu (parasti `).

Open WebUI dodieties uz Admin Settings → Connections → Ollama

Pievienojiet galapunktu, izvēlieties noklusējuma modeļus un pārbaudiet savienojumu.

Tagad jūs varat tērzēt ar vietējiem modeļiem tieši pārlūkprogrammā.

B Variants: Izmantojiet Mākoņa Pakalpojumu Sniedzējus, Izmantojot API Atslēgas

Admin Settings → Providers (vai API/Keys)

Pievienojiet atslēgas OpenAI, Anthropic vai Google.

Izvēlieties noklusējuma modeli katram pakalpojumu sniedzējam

Piemēram: gpt-4o-mini (OpenAI), claude‑3‑haiku (Anthropic) vai gemini‑1.5‑flash (Google).

Iestatiet limitus

Ieviesiet ātruma ierobežojumus, lietošanas jomas vai atslēgas katram lietotājam atkarībā no jūsu komandas iestatījuma.

Šī hibrīda pieeja (vietējais + mākonis) ir izplatīta: ātri melnraksti vietējos modeļos, pēc tam precizējiet ar mākoņa modeli, kad nepieciešams.

Jūsu Pirmā Tērzēšana: Uzvednes, Režīmi un Pielikumi

Kad modelis ir savienots, sāciet jaunu tērzēšanu. Daži pamati:

Uzvedņu veidnes: saglabājiet bieži izmantotas instrukcijas (sistēmas uzvednes), piemēram, “Jūs esat mans Python pasniedzējs — paskaidrojiet ar piemēriem un testiem.”

Režīmi: pārslēdzieties starp radošiem, kodolīgiem vai tehniskiem stiliem, pielāgojot sistēmas uzvednes vai temperatūru.

Pielikumi: augšupielādējiet failus (PDF, TXT, CSV), lai modelis varētu tos atsaukties. Lieliem vai atkārtotiem korpusiem izveidojiet zināšanu bāzi ar iegulumiem (skatiet RAG zemāk).

Profesionāls padoms: organizējiet tērzēšanas pēc projekta. Izmantojiet atzīmes, piemēram, #docs, #code vai #analysis, lai jūs varētu ātri atrast lietas nākotnē.

Izveidojiet RAG Dažu Minūšu Laikā: Zināšanas, Iegulumi un Meklēšana

RAG (Retrieval‑Augmented Generation) ļauj jūsu modelim atbildēt uz jautājumiem ar jūsu saturu (dokumentiem, piezīmēm, politikām, kodu). Lūk, kā to salikt kopā:

Izveidojiet Zināšanu Bāzi (KB)

Sānjoslā izveidojiet jaunu KB vai “Collections”.

Augšupielādējiet dokumentus: PDF, markdown, HTML vai teksta failus.

Ģenerējiet Iegulumus

Izvēlieties iegulumu aizmugursistēmu (vietējo, izmantojot Ollama, ja jums ir iegulumu modelis, vai mākoņa pakalpojumu sniedzēju, izmantojot API).

Indeksējiet savus dokumentus; lielākiem komplektiem var būt nepieciešamas dažas minūtes.

Iespējojiet Izgūšanu Tērzēšanā

Tērzēšanā ieslēdziet izgūšanu un atlasiet savu KB.

Uzdodiet jautājumus, piemēram, “Apkopojiet mūsu ieviešanas politiku un uzskaitiet darbības”, vai “Kādus izņēmumus mēs atļaujam drošības politikā?”

Atkārtojiet

Pārbaudiet avotus, precizējiet savus dokumentus, pielāgojiet fragmentēšanas izmēru un atkārtoti ieguliet, ja atbildes šķiet nepareizas.

Profesionāls padoms: uzturiet atsevišķas KB precizitātei (piemēram, “Mārketinga kopija”, “Juridiskās politikas”, “Runbooks”). Tas samazina neatbilstošus izgūšanas gadījumus.

Darbības, Rīki un Darbplūsmas

Open WebUI atbalsta uz rīkiem balstītu mijiedarbību, lai modelis varētu “darīt lietas”, ne tikai tērzēt. Atkarībā no jūsu iestatījuma jūs varat:

Izsaukt funkcijas/rīkus, ko definējat (piemēram, palaist skriptu, iegūt URL, vaicāt datubāzi).

Izmantojiet sistēmas uzvedņu darbplūsmas, lai strukturētu daudzpakāpju uzdevumus.

Pievienojiet spraudņus/paplašinājumus, ja jūsu izvietojums tos atbalsta.

Piemērs: “Satura Īss” darbplūsma

1. solis: lūdziet modelim izvilkt atslēgvārdus no tēmas.

2. solis: veiciet izpēti, izmantojot tīmekļa rīku (ja iespējots), un apkopojiet avotus.

3. solis: izveidojiet izklāstu + nosaukumu variantus.

4. solis: izveidojiet īsu/garu versiju.

Saglabājiet šos soļus atkārtoti lietojamā veidnē, lai jūsu komanda varētu tos palaist ar vienu klikšķi.

Modeļu Pārvaldība Kā Profesionālim

Vairāki noklusējumi: iestatiet noklusējumus katrai darba telpai vai katrai tērzēšanai (piemēram, ātrs vietējais modeļa izmantošana ideju ģenerēšanai, precīzs mākoņa modeļa izmantošana galīgajai kopijai).

Modeļu kartītes: dokumentējiet, ko katrs modelis dara vislabāk — “Izmantojiet Llama 3 kodam, Mistral kodolīgiem kopsavilkumiem.”

Paketes uzdevumi: izmantojiet garākas sistēmas uzvednes un strukturētu izvadi (JSON, kontrolsarakstus) atkārtojamiem uzdevumiem, piemēram, QA pārbaudēm, tulkošanai vai atzīmēšanai.

Administratora Iestatījumi: Drošība un Pārvaldība

Ja veicat pašmitināšanu komandai, veltiet dažas minūtes, lai pastiprinātu un pārvaldītu savu instanci.

Autentifikācija: pieprasiet pierakstīšanos. Ja pieejams, iespējojiet SSO/OIDC.

API atslēgu politikas: ierobežojiet, kurus pakalpojumu sniedzējus var izmantot, norādiet atslēgu darbības jomu pēc lietotāja/lomas un ierobežojiet izeju, kur nepieciešams.

Vides mainīgie: konfigurējiet tādas lietas kā modeļu galapunktu URL, iegulumu aizmugursistēmas un atslēgu ierobežojumus, izmantojot env iestatījumus.

Ātruma ierobežojumi un kvotas: novērsiet nekontrolētas izmaksas, izmantojot ierobežojumus katram lietotājam vai katrai darba telpai.

Pārbaudāmība: mudiniet komandas atzīmēt tērzēšanas un saglabāt kopsavilkumus, lai jūs varētu izsekot lēmumiem.

Izstrādātāja padoms: ievietojiet Open WebUI aiz reverso starpniekserveri (piemēram, Nginx/Caddy) ar HTTPS un iestatiet atļautos avotus.

Komandas Sadarbība un Zināšanu Higiēna

Koplietojamas uzvednes un KB: izveidojiet atlasītas uzvedņu bibliotēkas un zināšanu bāzes. Piešķiriet uzturētājus.

Versijas saturs: politikas dokumentiem vai specifikācijām saglabājiet avotus Git vai dokumentu centrā un atkārtoti ieguliet, kad tie tiek atjaunināti.

Atbildes vispirms no avota: mudiniet lietotājus noklikšķināt uz citātiem un skenēt oriģinālos dokumentus. Uzticieties, bet pārbaudiet.

Ikdienas Lietošanas Gadījumi (Kopējiet Šos)

Saturs un mārketings

Pārvērtiet īsu informāciju par trim auditorijai specifiskiem melnrakstiem.

Ģenerējiet SEO izklāstus, FAQ un nosaukumus.

Inženierija

Paskaidrojiet funkciju un ģenerējiet edge‑case testus.

Apkopojiet PR un sagatavojiet laidiena piezīmes.

Ops un atbalsts

Izveidojiet KB no runbooks un SOP.

Sagatavojiet atbildes, izmantojot savu toni/stila vadlīnijas.

Pētniecība un stratēģija

Apkopojiet 10 dokumentus vienā lapā ar citātiem.

Salīdziniet pārdevējus, izmantojot strukturētu matricu.

Traucējummeklēšana: Ātri Labojumi

“Nevar izveidot savienojumu ar Ollama”

Pārbaudiet, vai Ollama darbojas: `curl

Pārbaudiet tīkla piekļuvi no konteinera uz resursdatoru.

“Modelis nav atrasts”

Izvelciet modeli, izmantojot Ollama: ollama pull mistral

Mākonim apstipriniet precīzu modeļa nosaukumu un atļaujas.

“RAG rezultāti izskatās neatbilstoši”

Atkārtoti ieguliet ar labāku iegulumu modeli.

Pielāgojiet fragmenta izmēru (piemēram, 500–1000 žetoni) un pārklājumu.

Sadaliet savu KB mazākās, tematiskās kolekcijās.

“Izmaksas pieaug”

Iestatiet ātruma ierobežojumus un noklusējiet vietējos modeļus melnrakstiem.

Veiktspējas Padomi un Papildu Gājieni

Izmantojiet mazākus vietējos modeļus ideju ģenerēšanai un lielākus/mākoņa modeļus pabeigšanai.

Kešatmiņā saglabājiet bieži sastopamas uzvednes un atbildes, kur iespējams.

Pieņemiet strukturētu izvadi (JSON, aizzīmju kontrolsarakstus) lejupējām automatizācijām.

Jutīgiem datiem glabājiet visu lokāli (Ollama + vietējie iegulumi + uz vietas krātuve).

Izmantojiet sistēmas uzvednes, lai definētu toni, formatējumu un drošības pasākumus.

Vērts Atzīmēt: Open WebUI Savienošana Pārī ar Sider.AI

Ja jūs veidojat daudz satura vai pētniecības, darbplūsmas pavadonis var palīdzēt. Vērts atzīmēt: Sider.AI palīdz sagatavot, apkopot un organizēt garus darbus. Jūs varat ģenerēt idejas vai izgūt kontekstu Open WebUI, pēc tam izmantot Sider.AI redaktora stila palīdzību, lai pulētu, pārstrukturētu un SEO‑optimizētu rakstus publicēšanai. Tas ir noderīgs savienojums pārī, ja vēlaties gan kontroli (pašmitinātu tērzēšanu + RAG), gan ātrumu (sadarbības rediģēšana un optimizācija).

Vienkāršs Sākuma Plāns

Palaidiet Open WebUI, izmantojot Docker.

Instalējiet Ollama, izvelciet llama3 un mistral.

Savienojiet Open WebUI ar un iestatietmistral` kā noklusējumu tērzēšanai.

Izveidojiet KB: Politikas, Mārketings, Runbooks; ieguliet ar spēcīgu iegulumu modeli.

Saglabājiet trīs uzvedņu veidnes: “Apkopotājs ar aizzīmēm,” “SEO izklāsta ģenerators” un “Izlaiduma piezīmju rakstītājs.”

Pievienojiet ātruma ierobežojumus un pieprasiet pieteikšanos.

Ar šo iestatījumu lielākā daļa komandu var aptvert 80% no ikdienas AI uzdevumiem.

Galvenās Atziņas

Open WebUI sniedz jums tīru, kontrolējamu lietotāja saskarni, lai strādātu ar vietējiem un mākoņa LLM.

Privātumam un ātrumam savienojiet to pārī ar Ollama lokāli; pēc vajadzības pievienojiet mākoņa modeļus.

Izmantojiet RAG, lai pamatotu atbildes jūsu dokumentos; uzturiet KB mazus un fokusētus.

Nodrošiniet savu instanci ar autentifikāciju, atslēgu politikām un ātruma ierobežojumiem.

Standardizējiet uzvednes un izvadi, lai jūsu komandas darbs būtu konsekvents un automatizējams.

Nākamie Soļi

Uzsāciet Open WebUI ar Docker un izveidojiet savienojumu ar Ollama.

Izveidojiet savu pirmo zināšanu bāzi un izmēģiniet tērzēšanu, kas balstīta uz izgūšanu.

Saglabājiet trīs uzvedņu veidnes, ko jūsu komanda atkārtoti izmantos katru dienu.

Ja publicējat saturu, palaidiet melnrakstus caur Sider.AI, lai precizētu toni, struktūru un SEO pirms publicēšanas.

FAQ

Q1:Kam tiek izmantots Open WebUI? Open WebUI ir pašmitināta saskarne lieliem valodu modeļiem. Tas ļauj tērzēt ar vietējiem vai mākoņa modeļiem, veidot RAG darbplūsmas ar saviem dokumentiem un pārvaldīt uzvednes un komandas vienuviet.

Q2:Kā es varu izmantot Open WebUI ar Ollama? Instalējiet Ollama, izvelciet modeli, piemēram, llama3 vai mistral, un pēc tam norādiet Open WebUI Ollama savienojumu uz http://localhost:11434. Jūs varat iestatīt noklusējuma modeli un sākt tērzēt lokāli ar pilnīgu privātumu.

Q3:Vai Open WebUI var veikt RAG ar maniem PDF un piezīmēm? Jā. Izveidojiet zināšanu bāzi, augšupielādējiet dokumentus, ģenerējiet iegulumus un iespējojiet izgūšanu tērzēšanā. Modelis citēs un apkopos no jūsu pašu avotiem pamatotām atbildēm.

Q4:Vai Open WebUI ir drošs komandām? Jūs varat ieviest pierakstīšanos, pārvaldīt API atslēgas pēc lomas un iestatīt ātruma ierobežojumus. Ražošanai izmantojiet HTTPS aiz reverso starpniekserveri un ierobežojiet, kuri pakalpojumu sniedzēji vai galapunkti ir atļauti.

Q5:Vai man Open WebUI jāizmanto vietēji vai mākoņa modeļi? Izmantojiet vietējos modeļus privātumam, ātrumam un izmaksu kontrolei; izmantojiet mākoņa modeļus sarežģītiem uzdevumiem, kuriem nepieciešama augstāka kvalitāte. Daudzas komandas apvieno abus un iestata tērzēšanai specifiskus noklusējumus.