What is Open WebUI used for?

Open WebUI is a self-hosted interface for large language models. It lets you chat with local or cloud models, build RAG workflows with your documents, and manage prompts and teams in one place.

How do I use Open WebUI with Ollama?

Install Ollama, pull a model like `llama3` or `mistral`, and then point Open WebUI’s Ollama connection to `http://localhost:11434`. You can set a default model and start chatting locally with full privacy.

Can Open WebUI do RAG with my PDFs and notes?

Yes. Create a knowledge base, upload documents, generate embeddings, and enable retrieval in chat. The model will cite and summarize from your own sources for grounded answers.

Is Open WebUI secure for teams?

You can enforce sign-in, manage API keys by role, and set rate limits. For production, use HTTPS behind a reverse proxy and restrict which providers or endpoints are allowed.

Should I use local or cloud models in Open WebUI?

Use local models for privacy, speed, and cost control; use cloud models for complex tasks requiring higher quality. Many teams combine both and set chat-specific defaults.

Kaip naudoti „Open WebUI“: patogus, žingsnis po žingsnio vadovas greitesniam AI darbui

Jei kada nors norėjote, kad ChatGPT turėtų pritaikomą, savarankiškai talpinamą dvynį, kurį galėtumėte prijungti prie savo modelių ir duomenų, „Open WebUI“ yra būtent tai. Tai moderni, lengva sąsaja, skirta bendrauti su vietiniais arba nuotoliniais dideliais kalbos modeliais (LLM), valdyti raginimus, kurti RAG (Retrieval-Augmented Generation) darbo eigas ir bendradarbiauti su komandos nariais – visa tai iš jūsų naršyklės.

Šiame praktiškame, į sprendimus orientuotame vadove apžvelgsime, kaip naudoti „Open WebUI“ nuo pradžios iki galo: sąrankos parinktys, prisijungimas prie Ollama arba API, modelių valdymas, paieškos srautų kūrimas, jūsų egzemplioriaus apsauga ir keletas profesionalų patarimų. Pabaigoje galėsite vykdyti galingas AI darbo eigas savo sąlygomis – greitai.

Kas yra „Open WebUI“ (ir kodėl ją naudoti)?

„Open WebUI“ yra savarankiškai talpinama LLM žiniatinklio sąsaja. Pagalvokite apie tai kaip apie savo AI sąveikų komandų centrą – atsineškite savo modelius (vietinius arba debesijos), kurkite daugkartinius raginimus, pridėkite savo dokumentus ir bendradarbiaukite per švarią, intuityvią vartotojo sąsają. Ji ypač populiari tarp kūrėjų, duomenų komandų ir privatumą vertinančių vartotojų, kurie nori kontrolės, išplečiamumo ir greičio.

Pagrindinės priežastys, kodėl žmonės renkasi „Open WebUI“:

Valdykite savo duomenis: paleiskite lokaliai arba savo serveryje.

Lanksčios galinės sistemos: prisijunkite prie vietinių variklių, tokių kaip Ollama, arba nuotolinių tiekėjų per API.

Paruošta darbo eigai: RAG, įrankiai, įterpiniai ir struktūruoti raginimai.

Administratoriaus valdikliai: API raktų valdymas, autentifikavimas ir aplinkos konfigūracija.

Greičiausias būdas pradėti: „Docker“ greitas startas

Jei patogiai dirbate su Docker, galite pradėti veikti per kelias minutes.

Atsisiųskite atvaizdą

docker pull ghcr.io/open-webui/open-webui:main

Paleiskite konteinerį

docker run -d --name open-webui -p 3000:8080 ghcr.io/open-webui/open-webui:main

Atidarykite naršyklę ir apsilankykite

Atsidursite vartotojo sąsajoje, sukursite administratoriaus paskyrą ir būsite pasiruošę prijungti modelius.

Patarimas: norėdami nuolatinės saugyklos ir aplinkos kintamųjų (pvz., API raktų apribojimų ir autentifikavimo), perjunkite į docker-compose.yml, kad galėtumėte švariai prijungti tomus ir apibrėžti konfigūraciją.

Prisijungimas prie modelių: vietiniai (Ollama) arba debesijos API

„Open WebUI“ yra agnostiška galinei sistemai. Galite:

Naudokite Ollama, kad paleistumėte modelius lokaliai (pvz., Llama 3, Phi-3, Mistral). Tai puikiai tinka privatumui ir darbui neprisijungus.

Naudokite debesijos API, pvz., OpenAI, Anthropic, Google ar kitus, per API raktus.

A variantas: naudokite Ollama lokaliai

Įdiekite Ollama (macOS, Linux, Windows)

Apsilankykite ` ir įdiekite.

Atsisiųskite modelį su Ollama

ollama pull llama3

Galite pakeisti llama3 modeliais, tokiais kaip mistral, phi3 arba llama3:instruct, atsižvelgiant į jūsų poreikius.

Paleiskite „Open WebUI“

Įsitikinkite, kad „Open WebUI“ gali pasiekti vietinį Ollama galinį tašką (paprastai `).

„Open WebUI“ eikite į Admin Settings → Connections → Ollama

Pridėkite galinį tašką, pasirinkite numatytuosius modelius ir patikrinkite ryšį.

Dabar galite tiesiogiai naršyklėje kalbėtis su vietiniais modeliais.

B variantas: naudokite debesijos teikėjus per API raktus

Admin Settings → Providers (arba API/Keys)

Pridėkite OpenAI, Anthropic arba Google raktus.

Pasirinkite numatytąjį modelį kiekvienam teikėjui

Pavyzdžiui: gpt-4o-mini (OpenAI), claude-3-haiku (Anthropic) arba gemini-1.5-flash (Google).

Nustatykite apribojimus

Įgyvendinkite dažnio apribojimus, naudojimo sritis arba raktus vienam vartotojui, atsižvelgiant į jūsų komandos sąranką.

Šis hibridinis metodas (vietinis + debesija) yra įprastas: greiti juodraščiai su vietiniais modeliais, tada patobulinimas su debesijos modeliu, kai reikia.

Jūsų pirmas pokalbis: raginimai, režimai ir priedai

Kai modelis bus prijungtas, pradėkite naują pokalbį. Keletas pagrindų:

Raginimų šablonai: išsaugokite dažnai naudojamas instrukcijas (sistemos raginimus), pvz., „Jūs esate mano Python dėstytojas – paaiškinkite su pavyzdžiais ir testais.“

Režimai: perjunkite kūrybinius, glaustus arba techninius stilius koreguodami sistemos raginimus arba temperatūrą.

Priedai: įkelkite failus (PDF, TXT, CSV), kad modelis galėtų į juos atsižvelgti. Dideliems arba pasikartojantiems rinkiniams sukurkite žinių bazę su įterpiniais (žr. RAG žemiau).

Profesionalų patarimas: tvarkykite pokalbius pagal projektą. Naudokite žymas, tokias kaip #docs, #code arba #analysis, kad ateityje galėtumėte greitai rasti reikiamus dalykus.

Sukurkite RAG per kelias minutes: žinios, įterpiniai ir paieška

RAG (Retrieval-Augmented Generation) leidžia jūsų modeliui atsakyti į klausimus naudojant jūsų turinį (dokumentus, pastabas, taisykles, kodą). Štai kaip tai sujungti:

Sukurkite žinių bazę (KB)

Šoninėje juostoje sukurkite naują KB arba „Collections“.

Įkelkite dokumentus: PDF, markdown, HTML arba tekstinius failus.

Generuokite įterpinius

Pasirinkite įterpinių galinę sistemą (vietinę per Ollama, jei turite įterpinių modelį, arba debesijos teikėją per API).

Indeksuokite savo dokumentus; didesniems rinkiniams tai gali užtrukti kelias minutes.

Įgalinkite paiešką pokalbyje

Pokalbyje perjunkite paiešką ir pasirinkite savo KB.

Užduokite klausimus, tokius kaip „Apibendrinkite mūsų įtraukimo politiką ir išvardykite veiksmų elementus“ arba „Kokias išimtis leidžiame saugumo politikoje?

Kartokite

Patikrinkite šaltinius, patobulinkite dokumentus, koreguokite skaidymo dydį ir iš naujo įterpkite, jei atsakymai atrodo neteisingi.

Profesionalų patarimas: palaikykite atskiras KB, kad užtikrintumėte tikslumą (pvz., „Marketingo kopija“, „Teisės politika“, „Runbooks“). Tai sumažina nesusijusias paieškas.

Veiksmai, įrankiai ir darbo eigos

„Open WebUI“ palaiko įrankiais pagrįstas sąveikas, kad modelis galėtų „daryti dalykus“, o ne tik kalbėtis. Atsižvelgiant į jūsų sąranką, galite:

Iškvieskite funkcijas/įrankius, kuriuos apibrėžiate (pvz., paleiskite scenarijų, gaukite URL, užklauskite duomenų bazę).

Naudokite sistemos raginimo darbo eigas, kad struktūruotumėte kelių etapų užduotis.

Pridėkite papildinius/plėtinius, jei jūsų diegimas juos palaiko.

Pavyzdys: „Turinio santraukos“ darbo eiga

1 žingsnis: paprašykite modelio išgauti raktinius žodžius iš temos.

2 žingsnis: atlikite tyrimą per žiniatinklio įrankį (jei įgalinta) ir apibendrinkite šaltinius.

3 žingsnis: parengkite kontūrą + pavadinimo variantus.

4 žingsnis: sukurkite trumpą/ilgą versiją.

Išsaugokite šiuos veiksmus daugkartiniame šablone, kad jūsų komanda galėtų juos paleisti vienu spustelėjimu.

Modelių valdymas kaip profesionalas

Keli numatytieji: nustatykite numatytuosius nustatymus kiekvienai darbo sričiai arba kiekvienam pokalbiui (pvz., greitas vietinis idėjų generavimui, tikslus debesijos galutinei kopijai).

Modelių kortelės: dokumentuokite, ką kiekvienas modelis daro geriausiai – „Naudokite Llama 3 kodui, Mistral glaustam apibendrinimui.“

Paketinių užduočių: naudokite ilgesnius sistemos raginimus ir struktūruotą išvestį (JSON, kontrolinius sąrašus) pasikartojančioms užduotims, tokioms kaip QA patikrinimai, vertimas arba žymėjimas.

Administratoriaus nustatymai: saugumas ir valdymas

Jei talpinate savo komandai, skirkite kelias minutes, kad sustiprintumėte ir valdytumėte savo egzempliorių.

Autentifikavimas: reikalaukite prisijungimo. Jei įmanoma, įgalinkite SSO/OIDC.

API raktų politika: apribokite, kuriuos teikėjus galima naudoti, apribokite raktus pagal vartotoją/rolę ir apribokite išėjimą, kur tinkama.

Aplinkos kintamieji: konfigūruokite tokius dalykus kaip modelio galinio taško URL, įterpinių galinės sistemos ir raktų apribojimai per env nustatymus.

Dažnio apribojimai ir kvotos: užkirskite kelią nekontroliuojamoms išlaidoms taikydami apribojimus vienam vartotojui arba vienai darbo sričiai.

Audito galimybė: paskatinkite komandas žymėti pokalbius ir saugoti santraukas, kad galėtumėte atsekti sprendimus.

Kūrėjų patarimas: patalpinkite „Open WebUI“ už atvirkštinio tarpinio serverio (pvz., Nginx/Caddy) su HTTPS ir nustatykite leidžiamus šaltinius.

Komandos bendradarbiavimas ir žinių higiena

Bendrinami raginimai ir KB: sukurkite kuruojamas raginimų bibliotekas ir žinių bazes. Paskirkite prižiūrėtojus.

Versijos turinys: politikos dokumentams ar specifikacijoms saugokite šaltinius Git arba dokumentų centre ir iš naujo įterpkite, kai atnaujinama.

Atsakymai pirmiausia iš šaltinio: paskatinkite vartotojus spustelėti citatas ir nuskaityti originalius dokumentus. Pasitikėkite, bet patikrinkite.

Kasdienio naudojimo atvejai (nukopijuokite šiuos)

Turinys ir rinkodara

Paverskite trumpą santrauką trimis konkrečios auditorijos juodraščiais.

Generuokite SEO kontūrus, DUK ir pavadinimus.

Inžinerija

Paaiškinkite funkciją ir sugeneruokite kraštinių atvejų testus.

Apibendrinkite PR ir sukurkite išleidimo pastabas.

Operacijos ir palaikymas

Sukurkite KB iš „runbooks“ ir SOP.

Parengkite atsakymus naudodami savo toną/stiliaus vadovą.

Tyrimai ir strategija

Apibendrinkite 10 dokumentų į 1 puslapį su citatomis.

Palyginkite pardavėjus naudodami struktūruotą matricą.

Trikčių šalinimas: greiti pataisymai

„Nepavyksta prisijungti prie Ollama“

Patikrinkite, ar Ollama veikia: `curl

Patikrinkite tinklo prieigą iš konteinerio į pagrindinį kompiuterį.

„Modelis nerastas“

Atsisiųskite modelį per Ollama: ollama pull mistral

Debesijos atveju patvirtinkite tikslų modelio pavadinimą ir leidimus.

„RAG rezultatai atrodo nesusiję“

Iš naujo įterpkite su geresniu įterpinių modeliu.

Koreguokite skaidymo dydį (pvz., 500–1 000 žetonų) ir persidengimą.

Padalinkite KB į mažesnes, temines kolekcijas.

„Išlaidos didėja“

Nustatykite dažnio apribojimus ir numatytuosius nustatymus vietiniams modeliams juodraščiams.

Veiklos patarimai ir pažangūs veiksmai

Naudokite mažesnius vietinius modelius idėjų generavimui ir didesnius/debesijos modelius galutiniam patvirtinimui.

Kai įmanoma, talpinkite dažnus raginimus ir atsakymus.

Priimkite struktūruotus išvesties (JSON, kontrolinius sąrašus su punktais) tolesniam automatizavimui.

Slaptiems duomenims laikykite viską lokaliai (Ollama + vietiniai įterpiniai + patalpų saugykla).

Naudokite sistemos raginimus, kad apibrėžtumėte toną, formatavimą ir apsaugas.

Verta paminėti: „Open WebUI“ susiejimas su Sider.AI

Jei kuriate daug turinio arba atliekate tyrimus, darbo eigos palydovas gali padėti. Verta paminėti: Sider.AI padeda rengti, apibendrinti ir tvarkyti ilgus darbus. Galite generuoti idėjas arba atgauti kontekstą „Open WebUI“, tada naudoti Sider.AI redaktoriaus stiliaus pagalbą, kad poliruotumėte, restruktūrizuotumėte ir SEO optimizuotumėte straipsnius publikavimui. Tai naudingas susiejimas, kai norite tiek kontrolės (savarankiškai talpinamas pokalbis + RAG), tiek greičio (bendradarbiavimo redagavimas ir optimizavimas).

Paprastas pradinio kodo planas

Paleiskite „Open WebUI“ per Docker.

Įdiekite Ollama, atsisiųskite llama3 ir mistral.

Prijunkite „Open WebUI“ prie ir nustatykitemistral` kaip numatytąjį pokalbiui.

Sukurkite KB: Politika, Rinkodara, Runbooks; įterpkite su stipriu įterpinių modeliu.

Išsaugokite tris raginimo šablonus: „Apibendrintojas su punktais“, „SEO kontūro generatorius“ ir „Išleidimo pastabų rašytojas“.

Pridėkite dažnio apribojimus ir reikalaukite prisijungimo.

Su šia sąranka dauguma komandų gali atlikti 80% kasdienių AI užduočių.

Pagrindiniai dalykai

„Open WebUI“ suteikia jums švarią, valdomą vartotojo sąsają darbui su vietiniais ir debesijos LLM.

Norėdami užtikrinti privatumą ir greitį, susiekite ją su Ollama lokaliai; įmaišykite debesijos modelius, kai reikia.

Naudokite RAG, kad pagrįstumėte atsakymus savo dokumentuose; laikykite KB mažas ir sutelktas.

Apsaugokite savo egzempliorių su autentifikavimu, raktų politika ir dažnio apribojimais.

Standartizuokite raginimus ir išvesties, kad jūsų komandos darbas būtų nuoseklus ir automatizuojamas.

Tolesni veiksmai

Paleiskite „Open WebUI“ su Docker ir prisijunkite prie Ollama.

Sukurkite savo pirmąją žinių bazę ir išbandykite pokalbį su paieška.

Išsaugokite tris raginimo šablonus, kuriuos jūsų komanda naudos kasdien.

Jei publikuojate turinį, perduokite juodraščius per Sider.AI, kad patobulintumėte toną, struktūrą ir SEO prieš skelbdami tiesiogiai.

DUK

Q1:Kam naudojamas „Open WebUI“? „Open WebUI“ yra savarankiškai talpinama didelių kalbos modelių sąsaja. Ji leidžia jums kalbėtis su vietiniais arba debesijos modeliais, kurti RAG darbo eigas su jūsų dokumentais ir valdyti raginimus bei komandas vienoje vietoje.

Q2:Kaip naudoti „Open WebUI“ su Ollama? Įdiekite Ollama, atsisiųskite modelį, pvz., llama3 arba mistral, ir tada nukreipkite „Open WebUI“ Ollama ryšį į http://localhost:11434. Galite nustatyti numatytąjį modelį ir pradėti kalbėtis lokaliai su visišku privatumu.

Q3:Ar „Open WebUI“ gali atlikti RAG su mano PDF ir pastabomis? Taip. Sukurkite žinių bazę, įkelkite dokumentus, sugeneruokite įterpinius ir įgalinkite paiešką pokalbyje. Modelis cituos ir apibendrins iš jūsų pačių šaltinių pagrįstiems atsakymams.

Q4:Ar „Open WebUI“ yra saugi komandoms? Galite priversti prisijungti, valdyti API raktus pagal rolę ir nustatyti dažnio apribojimus. Gamybai naudokite HTTPS už atvirkštinio tarpinio serverio ir apribokite, kurie teikėjai ar galiniai taškai yra leidžiami.

Q5:Ar turėčiau naudoti vietinius ar debesijos modelius „Open WebUI“? Naudokite vietinius modelius privatumui, greičiui ir išlaidų kontrolei; naudokite debesijos modelius sudėtingoms užduotims, kurioms reikia aukštesnės kokybės. Daugelis komandų derina abu ir nustato konkrečius pokalbių numatytuosius nustatymus.