What is Open WebUI used for?

Open WebUI is a self-hosted interface for large language models. It lets you chat with local or cloud models, build RAG workflows with your documents, and manage prompts and teams in one place.

How do I use Open WebUI with Ollama?

Install Ollama, pull a model like `llama3` or `mistral`, and then point Open WebUI’s Ollama connection to `http://localhost:11434`. You can set a default model and start chatting locally with full privacy.

Can Open WebUI do RAG with my PDFs and notes?

Yes. Create a knowledge base, upload documents, generate embeddings, and enable retrieval in chat. The model will cite and summarize from your own sources for grounded answers.

Is Open WebUI secure for teams?

You can enforce sign-in, manage API keys by role, and set rate limits. For production, use HTTPS behind a reverse proxy and restrict which providers or endpoints are allowed.

Should I use local or cloud models in Open WebUI?

Use local models for privacy, speed, and cost control; use cloud models for complex tasks requiring higher quality. Many teams combine both and set chat-specific defaults.

Kuidas kasutada Open WebUI-d: sõbralik, samm-sammult juhend kiiremateks AI töövoogudeks

Kui oled kunagi soovinud, et -l oleks kohandatav, ise hostitud kaksik, mille saaksid ühendada oma mudelite ja andmetega, siis Open WebUI on just see. See on kaasaegne, kergekaaluline liides kohalike või kaugete suurte keelemudelitega (LLM) vestlemiseks, viipade haldamiseks, (Retrieval‑Augmented Generation) töövoogude loomiseks ja meeskonnakaaslastega koostööks – kõik otse sinu brauserist.

Selles praktilises, lahendustele orienteeritud juhendis vaatame samm-sammult, kuidas Open WebUI-d kasutada: seadistusvõimalused, ühendamine või -dega, mudelite haldamine, otsinguvoogude loomine, oma eksemplari turvamine ja mõned kasulikud nipid. Selle lõpuks saad käivitada võimsaid AI töövoogusid omal moel – kiiresti.

Mis on Open WebUI (ja miks seda kasutada)?

Open WebUI on ise hostitav veebiliides LLM-ide jaoks. Mõtle sellele kui oma AI interaktsioonide juhtimiskeskusele – too oma mudelid (kohalikud või pilvepõhised), loo korduskasutatavaid viipasid, lisa oma dokumendid ja tee koostööd puhta ja intuitiivse kasutajaliidese kaudu. See on eriti populaarne arendajate, andmetiimide ja privaatsust hindavate kasutajate seas, kes soovivad kontrolli, laiendatavust ja kiirust.

Peamised põhjused, miks inimesed valivad Open WebUI:

Oma andmed: käivita kohapeal või oma serveris.

Paindlikud taustarakendused: ühenda kohalike mootoritega nagu või kaugete pakkujatega kaudu.

Töövoo-valmis: , tööriistad, manustamised ja struktureeritud viipad.

Administreerimiskontrollid: võtmete haldamine, autentimine ja keskkonna seadistamine.

Kiireim viis alustamiseks: Dockeri kiirkäivitus

Kui sa oled Dockeriga sina peal, saad mõne minutiga tööle hakata.

Tõmba pilt

docker pull ghcr.io/open-webui/open-webui:main

Käivita konteiner

docker run -d --name open-webui -p 3000:8080 ghcr.io/open-webui/open-webui:main

Ava oma brauser ja külasta

Sa jõuad kasutajaliidesesse, lood administraatori konto ja oled valmis mudeleid ühendama.

Nipp: Püsiva salvestusruumi ja keskkonnamuutujate (nagu docker-compose.yml võtmete piirangud ja autentimine) jaoks lülitu docker-compose.yml peale, et saaksid puhtalt mahtusid ühendada ja konfiguratsiooni määratleda.

Ühendamine mudelitega: kohalik () või pilve -d

Open WebUI on taustarakenduse suhtes agnostiline. Sa saad:

Kasutada Ollama, et käivitada mudeleid kohalikult (nt , , ). See on suurepärane privaatsuse ja võrguühenduseta töö jaoks.

Kasutada pilve <a4>API</a4>-sid nagu , , või teised võtmete kaudu.

Variant A: Kasuta kohalikult

Installi (, , )

Külasta ``, et installida.

Tõmba mudel -ga

ollama pull llama3

Sa võid asendada llama3 mudelitega nagu mistral, phi3 või llama3:instruct sõltuvalt oma vajadustest.

Käivita Open WebUI

Veendu, et Open WebUI pääseb kohalikule lõpp-punktile (tavaliselt ``) juurde.

Mine Open WebUI-s Admin Settings → Connections →

Lisa lõpp-punkt, vali vaikimisi mudel(id) ja testi ühendust.

Nüüd saad kohalike mudelitega otse brauseris vestelda.

Variant B: Kasuta pilvepakkujaid võtmete kaudu

Admin Settings → Providers (või /Keys)

Lisa võtmed , või jaoks.

Vali vaike mudel pakkuja kohta

Näiteks: gpt-4o-mini (OpenAI), claude‑3‑haiku () või ().

Sea piirangud

Rakenda kiiruspiiranguid, kasutusulatusi või kasutajapõhiseid võtmeid sõltuvalt oma meeskonna seadistusest.

See hübriidne lähenemine (kohalik + pilv) on tavaline: kiired visandid kohalikel mudelitel, seejärel täpsusta pilvemudeliga, kui vaja.

Sinu esimene vestlus: viipad, režiimid ja manused

Kui mudel on ühendatud, alusta uut vestlust. Mõned põhiteadmised:

Viipade mallid: Salvesta sageli kasutatavad juhised (süsteemiviipad) nagu “Sa oled minu juhendaja – selgita näidete ja testidega.”

Režiimid: Lülitu loomingulise, lühikese või tehnilise stiili vahel, kohandades süsteemiviipasid või temperatuuri.

Manused: Laadi üles faile (-id, , ), millele mudel saab viidata. Suurte või korduvate andmekogumite jaoks loo teadmusbaas manustamistega (vt all).

Profi näpunäide: Korralda vestlused projekti järgi. Kasuta silte nagu #dokumendid, #kood või #analüüs, et tulevane sina saaks kiiresti asju leida.

Loo minutitega: teadmised, manustamised ja otsing

(Retrieval‑Augmented Generation) võimaldab sinu mudelil vastata küsimustele sinu sisuga (dokumendid, märkmed, poliitikad, kood). Siin on, kuidas seda kokku panna:

Loo teadmusbaas (KB)

Külgribal loo uus KB või “Collections”.

Laadi üles dokumente: -id, , või tekstifailid.

Genereeri manustamised

Vali manustamise taustarakendus (kohalik kaudu, kui sul on manustamismudel, või pilvepakkuja kaudu).

Indekseeri oma dokumendid; suuremad kogumid võivad võtta paar minutit.

Luba otsing vestluses

Vestluses lülita otsing sisse ja vali oma KB.

Esita küsimusi nagu “Võta kokku meie sisseelamispoliitika ja loetle tegevused” või “Milliseid erandeid me turvapoliitikas lubame?”

Korda

Uuri allikaid, täpsusta oma dokumente, kohanda tükeldamise suurust ja manusta uuesti, kui vastused tunduvad valed.

Profi näpunäide: Säilita eraldi KB-sid täpsuse tagamiseks (nt “Turundusmaterjal”, “Õiguspoliitikad”, “Runbooks”). See vähendab ebaolulisi otsinguid.

Tegevused, tööriistad ja töövoogud

Open WebUI toetab tööriistapõhiseid interaktsioone, nii et mudel saab “asju teha”, mitte ainult vestelda. Sõltuvalt sinu seadistusest saad:

Kutsuda funktsioone/tööriistu, mille sa määratled (nt käivita skript, too , päri andmebaasi).

Kasutada süsteemiviipade töövoogusid, et struktureerida mitmeastmelisi ülesandeid.

Lisada pistikprogramme/laiendusi, kui sinu juurutus neid toetab.

Näide: “Sisu ülevaade” töövoog

Samm 1: Palu mudelil teemast märksõnu eraldada.

Samm 2: Uuri veebitööriista kaudu (kui see on lubatud) ja võta allikad kokku.

Samm 3: Koosta ülevaade + pealkirja variandid.

Samm 4: Loo lühike/pikk versioon.

Salvesta need sammud korduskasutatavasse malli, et sinu meeskond saaks neid ühe klõpsuga käivitada.

Mudelite haldamine nagu proff

Mitu vaikesätet: Sea tööruumi- või vestlusepõhised vaikesätted (nt kiire kohalik ajurünnakuks, täpne pilv lõpliku koopia jaoks).

Mudelikaardid: Dokumenteeri, mida iga mudel kõige paremini teeb – “Kasuta koodi jaoks, lühikeste kokkuvõtete jaoks.”

Partiiülesanded: Kasuta pikemaid süsteemiviipasid ja struktureeritud väljundit (JSON, kontrollnimekirjad) korratavate ülesannete jaoks nagu kvaliteedikontroll, tõlkimine või sildistamine.

Administreerimisseaded: turvalisus ja juhtimine

Kui sa ise hostid meeskonna jaoks, võta paar minutit, et oma eksemplari tugevdada ja hallata.

Autentimine: Nõua sisselogimist. Kui saadaval, luba .

API võtmete poliitikad</a1>: Piira, milliseid pakkujaid saab kasutada, piira võtmeid kasutaja/rolli järgi ja piira väljapääsu, kui see on asjakohane.

Keskkonnamuutujad: Konfigureeri asju nagu mudeli lõpp-punkti -id, manustamise taustarakendused ja võtmete piirangud keskkonna seadete kaudu.

Kiiruspiirangud ja kvoodid: Väldi kontrollimatuid kulusid kasutaja- või tööruumipõhiste piirangutega.

Auditeeritavus: Julgusta meeskondi vestlusi sildistama ja kokkuvõtteid salvestama, et saaksid otsuseid jälgida.

Arendaja näpunäide: Pane Open WebUI tagurpidi puhverserveri (nt ) taha koos -iga ja sea lubatud allikad.

Meeskonna koostöö ja teadmiste hügieen

Jagatud viipad ja KB-d: Loo kureeritud viipade teeke ja teadmusbaase. Määra haldajad.

Versiooni sisu: Poliitikadokumentide või spetsifikatsioonide puhul salvesta allikad -is või dokumendikeskuses ja manusta uuesti, kui neid uuendatakse.

Allikapõhised vastused: Julgusta kasutajaid klõpsama tsitaatidel ja skannima originaaldokumente. Usalda, aga kontrolli.

Igapäevased kasutusjuhud (kopeeri need)

Sisu ja turundus

Muuda ülevaade kolmeks sihtrühmale vastavaks mustandiks.

Genereeri ülevaated, ja pealkirjad.

Inseneritöö

Selgita funktsiooni ja genereeri äärmusjuhtumite teste.

Võta -id kokku ja koosta väljalaskemärkmed.

ja tugi

Ehita runbookidest ja -idest.

Koosta vastuseid, kasutades oma tooni/stiilijuhendit.

Uurimine ja strateegia

Võta 10 dokumenti kokku 1-leheküljeliseks kokkuvõtteks koos tsitaatidega.

Võrdle tarnijaid struktureeritud maatriksi abil.

Veaotsing: Kiired parandused

“Ei saa -ga ühendust”

Kontrolli, kas töötab: `curl

Veendu võrgule juurdepääsus konteinerist hostini.

“Mudelit ei leitud”

Tõmba mudel ollama pull mistral kaudu: ollama pull mistral

Pilve puhul kinnita täpne mudeli nimi ja load.

“ tulemused tunduvad ebaolulised”

Manusta uuesti parema manustamismudeliga.

Kohanda tükeldamise suurust (nt 500–1000 tokenit) ja kattuvust.

Jaga oma KB väiksemateks, temaatilisteks kogudeks.

“Kulud kasvavad”

Sea kiiruspiirangud ja vaikeväärtuseks kohalikud mudelid mustandite jaoks.

Jõudluse näpunäited ja täiustatud käigud

Kasuta väiksemaid kohalikke mudeleid ideede genereerimiseks ja suuremaid/pilvemudeleid lõplikuks vormistamiseks.

Vahemällu sagedased viipad ja vastused, kus võimalik.

Võta kasutusele struktureeritud väljundid (JSON, punktide kontrollnimekirjad) allavoolu automatiseerimiste jaoks.

Tundlike andmete puhul hoia kõike kohalikult ( + kohalikud manustamised + kohapealne salvestusruum).

Kasuta süsteemiviipasid, et määratleda tooni, vormingut ja piirdeid.

Väärib märkimist: Open WebUI sidumine Sider.AI-ga

Kui sa toodad palju sisu või uurimistööd, võib töövoo kaaslane aidata. Väärib märkimist: aitab mustandite koostamisel, kokkuvõtete tegemisel ja pikaajalise töö korraldamisel. Sa võid Open WebUI-s ideid genereerida või konteksti hankida, seejärel kasutada redaktori stiilis abi, et artikleid avaldamiseks poleerida, ümber struktureerida ja -optimeerida. See on kasulik sidumine, kui soovid nii kontrolli (ise hostitud vestlus + ) kui ka kiirust (ühine redigeerimine ja optimeerimine).

Lihtne stardiplaan

Käivita Open WebUI kaudu.

Installi Ollama, tõmba llama3 ja .

Ühenda Open WebUI ja sea mistral vestluse vaikeväärtuseks.

Loo KB-d: Poliitikad, Turundus, Runbooks; manusta tugeva manustamismudeliga.

Salvesta kolm viipade malli: “Kokkuvõtja punktidega”, “ ülevaate generaator” ja “Väljalaskemärkmete kirjutaja”.

Lisa kiiruspiirangud ja nõua sisselogimist.

Selle seadistusega saab enamik meeskondi katta 80% igapäevastest AI ülesannetest.

Peamised järeldused

Open WebUI annab sulle puhta, kontrollitava kasutajaliidese kohalike ja pilve LLM-idega töötamiseks.

Privaatsuse ja kiiruse tagamiseks seo see kohalikult Ollama-ga; sega sisse pilvemudeleid, kui vaja.

Kasuta RAG, et maandada vastused oma dokumentides; hoia KB-d väikesed ja fokuseeritud.

Turva oma eksemplar autentimise, võtmepoliitikate ja kiiruspiirangutega.

Standardiseeri viipad ja väljundid, et sinu meeskonna töö oleks järjepidev ja automatiseeritav.

Järgmised sammud

Käivita Open WebUI ja ühenda -ga.

Loo oma esimene teadmusbaas ja proovi otsingupõhist vestlust.

Salvesta kolm viipade malli, mida sinu meeskond igapäevaselt taaskasutab.

Kui sa avaldad sisu, saada mustandid läbi , et enne avaldamist tooni, struktuuri ja -d täpsustada.

K1: Milleks Open WebUI-d kasutatakse? Open WebUI on isehostitav liides suurtele keelemudelitele. See võimaldab sul vestelda kohalike või pilvemudelitega, ehitada RAG töövooge oma dokumentidega ning hallata viipasid ja meeskondi ühes kohas.

K2: Kuidas ma saan Open WebUI-d Ollamaga kasutada? Installi Ollama, tõmba mudel nagu llama3 või mistral ja seejärel suuna Open WebUI Ollama ühendus aadressile http://localhost:11434. Sa saad seada vaike mudeli ja alustada kohalikult vestlemist täieliku privaatsusega.

K3: Kas Open WebUI saab teha RAG-i minu PDF-ide ja märkmetega? Jah. Loo teadmusbaas, laadi üles dokumente, genereeri manustamisi ja luba otsing vestluses. Mudel viitab ja võtab kokku sinu enda allikatest põhjendatud vastuste saamiseks.

K4: Kas Open WebUI on meeskondadele turvaline? Sa saad jõustada sisselogimist, hallata API võtmeid rolli järgi ja seada kiiruspiiranguid. Tootmiskeskkonna jaoks kasuta HTTPS-i tagurpidi puhverserveri taga ja piira, millised pakkujad või lõpp-punktid on lubatud.

K5: Kas ma peaksin Open WebUI-s kasutama kohalikke või pilvemudeleid? Kasuta kohalikke mudeleid privaatsuse, kiiruse ja kulude kontrolli jaoks; kasuta pilvemudeleid keerukate ülesannete jaoks, mis nõuavad kõrgemat kvaliteeti. Paljud meeskonnad kombineerivad mõlemat ja seavad vestluspõhised vaikeväärtused.