What is Open WebUI used for?

Open WebUI is a self-hosted interface for large language models. It lets you chat with local or cloud models, build RAG workflows with your documents, and manage prompts and teams in one place.

How do I use Open WebUI with Ollama?

Install Ollama, pull a model like `llama3` or `mistral`, and then point Open WebUI’s Ollama connection to `http://localhost:11434`. You can set a default model and start chatting locally with full privacy.

Can Open WebUI do RAG with my PDFs and notes?

Yes. Create a knowledge base, upload documents, generate embeddings, and enable retrieval in chat. The model will cite and summarize from your own sources for grounded answers.

Is Open WebUI secure for teams?

You can enforce sign-in, manage API keys by role, and set rate limits. For production, use HTTPS behind a reverse proxy and restrict which providers or endpoints are allowed.

Should I use local or cloud models in Open WebUI?

Use local models for privacy, speed, and cost control; use cloud models for complex tasks requiring higher quality. Many teams combine both and set chat-specific defaults.

Kako koristiti Open WebUI: Prijateljski vodič korak po korak za brže AI radne procese

Ako ste ikada poželjeli da ChatGPT ima prilagodljiv, samostalno hostiran dvojnik kojeg možete povezati s vlastitim modelima i podacima, Open WebUI je upravo to. To je moderno, lagano sučelje za razgovor s lokalnim ili udaljenim velikim jezičnim modelima (LLM-ovima), upravljanje upitima, izgradnju RAG (Retrieval-Augmented Generation) radnih procesa i suradnju s članovima tima – sve iz vašeg preglednika.

U ovom praktičnom vodiču usmjerenom na rješenja, proći ćemo korake korištenja Open WebUI od početka do kraja: opcije postavljanja, povezivanje s Ollamom ili API-jima, upravljanje modelima, izgradnja protoka dohvaćanja, osiguranje vaše instance i nekoliko profesionalnih savjeta. Na kraju ćete moći pokretati snažne AI radne procese pod vlastitim uvjetima – brzo.

Što je Open WebUI (i zašto ga koristiti)?

Open WebUI je samostalno hostirano web sučelje za LLM-ove. Zamislite ga kao zapovjedni centar za vaše AI interakcije – donesite vlastite modele (lokalne ili u oblaku), izradite upite za višekratnu upotrebu, dodajte svoje dokumente i surađujte putem čistog, intuitivnog korisničkog sučelja. Posebno je popularan među programerima, podatkovnim timovima i korisnicima svjesnim privatnosti koji žele kontrolu, proširivost i brzinu.

Glavni razlozi zašto ljudi biraju Open WebUI:

Vlasništvo nad podacima: Pokrenite lokalno ili na svom poslužitelju.

Fleksibilne pozadine: Povežite se s lokalnim motorima poput Ollame ili udaljenim pružateljima usluga putem API-ja.

Spreman za radni proces: RAG, alati, ugradnje i strukturirani upiti.

Administrativne kontrole: Upravljanje API ključevima, autentifikacija i konfiguracija okruženja.

Najbrži način za početak: Brzi početak s Dockerom

Ako ste upoznati s Dockerom, možete biti spremni za rad u nekoliko minuta.

Povucite sliku

docker pull ghcr.io/open-webui/open-webui:main

Pokrenite spremnik

docker run -d --name open-webui -p 3000:8080 ghcr.io/open-webui/open-webui:main

Otvorite svoj preglednik i posjetite

Doći ćete do korisničkog sučelja, stvoriti administratorski račun i spremni ste za povezivanje modela.

Savjet: Za trajnu pohranu i varijable okruženja (kao što su ograničenja API ključeva i autentifikacija), prebacite se na docker-compose.yml kako biste mogli montirati volumene i čisto definirati konfiguraciju.

Povezivanje s modelima: Lokalni (Ollama) ili Cloud API-ji

Open WebUI je agnostičan prema pozadini. Možete:

Koristiti Ollama za pokretanje modela lokalno (npr. Llama 3, Phi-3, Mistral). Ovo je izvrsno za privatnost i rad izvan mreže.

Koristiti cloud API-je kao što su OpenAI, Anthropic, Google ili drugi putem API ključeva.

Opcija A: Koristite Ollama lokalno

Instalirajte Ollama (macOS, Linux, Windows)

Posjetite ` za instalaciju.

Povucite model s Ollamom

ollama pull llama3

Možete zamijeniti llama3 s modelima kao što su mistral, phi3 ili llama3:instruct ovisno o vašim potrebama.

Pokrenite Open WebUI

Provjerite može li Open WebUI doći do Ollamine lokalne krajnje točke (obično `).

U Open WebUI, idite na Admin Settings → Connections → Ollama

Dodajte krajnju točku, odaberite zadane modele i testirajte vezu.

Sada možete razgovarati s lokalnim modelima izravno u pregledniku.

Opcija B: Koristite pružatelje usluga u oblaku putem API ključeva

U Admin Settings → Providers (ili API/Keys)

Dodajte ključeve za OpenAI, Anthropic ili Google.

Odaberite zadani model po pružatelju usluga

Na primjer: gpt-4o-mini (OpenAI), claude‑3‑haiku (Anthropic) ili gemini‑1.5‑flash (Google).

Postavite ograničenja

Nametnite ograničenja brzine, opsege upotrebe ili ključeve po korisniku, ovisno o postavkama vašeg tima.

Ovaj hibridni pristup (lokalno + oblak) je uobičajen: brzi nacrti na lokalnim modelima, zatim dorada s modelom u oblaku kada je potrebno.

Vaš prvi razgovor: Upiti, načini i prilozi

Nakon što je model povezan, započnite novi razgovor. Nekoliko osnova:

Predlošci upita: Spremite često korištene upute (sustavne upite) kao što je „Vi ste moj Python mentor – objasnite s primjerima i testovima.”

Načini: Prebacujte se između kreativnih, sažetih ili tehničkih stilova podešavanjem sustavnih upita ili temperature.

Prilozi: Prenesite datoteke (PDF-ove, TXT, CSV) za referencu modelu. Za velike ili ponavljajuće korpuse, stvorite bazu znanja s ugradnjama (vidi RAG u nastavku).

Profesionalni savjet: Organizirajte razgovore po projektu. Koristite oznake kao što su #docs, #code ili #analysis kako biste budućnosti brzo pronašli stvari.

Izgradite RAG u nekoliko minuta: Znanje, ugradnje i pretraživanje

RAG (Retrieval-Augmented Generation) omogućuje vašem modelu da odgovara na pitanja s vašim sadržajem (dokumenti, bilješke, politike, kod). Evo kako ga sastaviti:

Stvorite bazu znanja (KB)

U bočnoj traci stvorite novu KB ili „Zbirke”.

Prenesite dokumente: PDF-ove, markdown, HTML ili tekstualne datoteke.

Generirajte ugradnje

Odaberite pozadinu ugradnji (lokalno putem Ollame ako imate model ugradnji ili pružatelja usluga u oblaku putem API-ja).

Indeksirajte svoje dokumente; veći skupovi mogu potrajati nekoliko minuta.

Omogućite dohvaćanje u razgovoru

U razgovoru uključite dohvaćanje i odaberite svoju KB.

Postavite pitanja kao što su „Sažmite našu politiku uvođenja i navedite akcijske stavke” ili „Koje iznimke dopuštamo u sigurnosnoj politici?”

Ponavljajte

Pregledajte izvore, doradite svoje dokumente, prilagodite veličinu dijelova i ponovno ugradite ako se odgovori čine pogrešnima.

Profesionalni savjet: Održavajte odvojene KB-ove za točnost (npr. „Marketinški tekst”, „Pravne politike”, „Operativni priručnici”). Ovo smanjuje irelevantna dohvaćanja.

Radnje, alati i radni procesi

Open WebUI podržava interakcije vođene alatima tako da model može „raditi stvari”, a ne samo razgovarati. Ovisno o vašoj postavci, možete:

Pozivati funkcije/alate koje definirate (npr. pokrenuti skriptu, dohvatiti URL, upitati bazu podataka).

Koristiti radne procese sustavnih upita za strukturiranje zadataka u više koraka.

Dodati dodatke/proširenja ako vaša implementacija podržava.

Primjer: Radni proces „Sadržajni brief”

Korak 1: Zamolite model da izdvoji ključne riječi iz teme.

Korak 2: Istražite putem web alata (ako je omogućen) i sažmite izvore.

Korak 3: Nacrtajte obris + varijante naslova.

Korak 4: Stvorite kratku/dugu verziju.

Spremite ove korake u predložak za višekratnu upotrebu kako bi ih vaš tim mogao pokrenuti jednim klikom.

Upravljanje modelima kao profesionalac

Više zadanih vrijednosti: Postavite zadane vrijednosti po radnom prostoru ili po razgovoru (npr. brzi lokalni za razmišljanje, precizni oblak za konačni primjerak).

Kartice modela: Dokumentirajte što svaki model radi najbolje – „Koristite Llama 3 za kod, Mistral za sažete sažetke.”

Grupni zadaci: Koristite duže sustavne upite i strukturirani izlaz (JSON, kontrolne liste) za ponavljajuće zadatke kao što su QA provjere, prijevod ili označavanje.

Administrativne postavke: Sigurnost i upravljanje

Ako sami hostirate za tim, odvojite nekoliko minuta da ojačate i upravljate svojom instancom.

Autentifikacija: Zahtijevajte prijavu. Ako je dostupno, omogućite SSO/OIDC.

Pravila API ključeva: Ograničite koje se usluge mogu koristiti, opseg ključeva po korisniku/ulozi i ograničite izlaz tamo gdje je to prikladno.

Varijable okruženja: Konfigurirajte stvari kao što su URL-ovi krajnjih točaka modela, pozadine ugradnje i ograničenja ključeva putem postavki env.

Ograničenja brzine i kvote: Spriječite nekontrolirane troškove s ograničenjima po korisniku ili po radnom prostoru.

Revizija: Potičite timove da označe razgovore i pohrane sažetke kako biste mogli pratiti odluke.

Savjet za razvoj: Stavite Open WebUI iza obrnutog proxyja (npr. Nginx/Caddy) s HTTPS-om i postavite dopuštena podrijetla.

Timski rad i higijena znanja

Dijeljeni upiti i KB-ovi: Stvorite kurirane biblioteke upita i baze znanja. Dodijelite održavatelje.

Verzioniranje sadržaja: Za dokumente politike ili specifikacije, pohranite izvore u Git ili čvorište dokumenata i ponovno ugradite kada se ažuriraju.

Odgovori na prvom mjestu: Potičite korisnike da kliknu citate i skeniraju izvorne dokumente. Vjerujte, ali provjerite.

Svakodnevni slučajevi upotrebe (kopirajte ove)

Sadržaj i marketing

Pretvorite brief u tri nacrta specifična za publiku.

Generirajte SEO obrise, FAQ-ove i naslove.

Inženjering

Objasnite funkciju i generirajte testove rubnih slučajeva.

Sažmite PR-ove i izradite bilješke o izdanju.

Operacije i podrška

Izgradite KB iz operativnih priručnika i SOP-ova.

Nacrtajte odgovore koristeći svoj vodič za ton/stil.

Istraživanje i strategija

Sažmite 10 dokumenata u 1 stranicu s citatima.

Usporedite dobavljače pomoću strukturirane matrice.

Rješavanje problema: Brza rješenja

„Ne mogu se povezati s Ollamom”

Provjerite radi li Ollama: `curl

Provjerite mrežni pristup od spremnika do hosta.

„Model nije pronađen”

Povucite model putem Ollame: ollama pull mistral

Za oblak, potvrdite točan naziv modela i dopuštenja.

„RAG rezultati izgledaju irelevantno”

Ponovno ugradite s boljim modelom ugradnji.

Podesite veličinu komada (npr. 500–1000 tokena) i preklapanje.

Podijelite svoj KB u manje, tematske zbirke.

„Troškovi rastu”

Postavite ograničenja brzine i zadane lokalne modele za nacrte.

Savjeti za performanse i napredni potezi

Koristite manje lokalne modele za ideaciju i veće/cloud modele za finalizaciju.

Predmemorirajte česte upite i odgovore gdje je to moguće.

Usvojite strukturirane izlaze (JSON, kontrolne liste s točkama) za daljnje automatizacije.

Za osjetljive podatke, držite sve lokalno (Ollama + lokalne ugradnje + lokalna pohrana).

Koristite sustavne upite za definiranje tona, oblikovanja i zaštitnih ograda.

Vrijedno napomenuti: Uparivanje Open WebUI s Sider.AI

Ako proizvodite puno sadržaja ili istraživanja, pomoćnik za radni proces može pomoći. Vrijedno napomenuti: Sider.AI pomaže pri izradi nacrta, sažimanju i organiziranju dugih radova. Možete razmišljati ili dohvatiti kontekst u Open WebUI, a zatim koristiti Sider.AI-jev pomoćnik u stilu uređivača za poliranje, restrukturiranje i SEO optimizaciju članaka za objavljivanje. To je korisno uparivanje kada želite i kontrolu (samostalno hostirani chat + RAG) i brzinu (kolaborativno uređivanje i optimizacija).

Jednostavan početni nacrt

Pokrenite Open WebUI putem Dockera.

Instalirajte Ollama, povucite llama3 i mistral.

Povežite Open WebUI s i postavitemistral` kao zadani za chat.

Stvorite KB-ove: Pravila, Marketing, Operativni priručnici; ugradite s jakim modelom ugradnji.

Spremite tri predloška upita: „Sažimač s točkama”, „Generator SEO obrisa” i „Pisac bilješki o izdanju.”

Dodajte ograničenja brzine i zahtijevajte prijavu.

S ovom postavkom, većina timova može pokriti 80% dnevnih AI zadataka.

Ključni zaključci

Open WebUI vam daje čisto, kontrolirano korisničko sučelje za rad s lokalnim i cloud LLM-ovima.

Za privatnost i brzinu, uparite ga s Ollama lokalno; umiješajte cloud modele kada je potrebno.

Koristite RAG za utemeljenje odgovora u vašim dokumentima; držite KB-ove malim i fokusiranim.

Osigurajte svoju instancu s autentifikacijom, pravilima ključeva i ograničenjima brzine.

Standardizirajte upite i izlaze tako da je rad vašeg tima dosljedan i automatiziran.

Sljedeći koraci

Pokrenite Open WebUI s Dockerom i povežite se s Ollamom.

Stvorite svoju prvu bazu znanja i isprobajte chat podržan dohvaćanjem.

Spremite tri predloška upita koje će vaš tim svakodnevno ponovno koristiti.

Ako objavljujete sadržaj, proslijedite nacrte kroz Sider.AI kako biste poboljšali ton, strukturu i SEO prije nego što krenete uživo.

FAQ

P1: Za što se koristi Open WebUI? Open WebUI je samostalno hostirano sučelje za velike jezične modele. Omogućuje vam razgovor s lokalnim ili cloud modelima, izgradnju RAG radnih procesa s vašim dokumentima i upravljanje upitima i timovima na jednom mjestu.

P2: Kako koristiti Open WebUI s Ollamom? Instalirajte Ollama, povucite model kao što je llama3 ili mistral, a zatim usmjerite Open WebUI-jevu Ollama vezu na http://localhost:11434. Možete postaviti zadani model i početi razgovarati lokalno uz potpunu privatnost.

P3: Može li Open WebUI raditi RAG s mojim PDF-ovima i bilješkama? Da. Stvorite bazu znanja, prenesite dokumente, generirajte ugradnje i omogućite dohvaćanje u razgovoru. Model će citirati i sažimati iz vaših vlastitih izvora za utemeljene odgovore.

P4: Je li Open WebUI siguran za timove? Možete nametnuti prijavu, upravljati API ključevima po ulozi i postaviti ograničenja brzine. Za proizvodnju, koristite HTTPS iza obrnutog proxyja i ograničite koji su pružatelji usluga ili krajnje točke dopušteni.

P5: Trebam li koristiti lokalne ili cloud modele u Open WebUI? Koristite lokalne modele za privatnost, brzinu i kontrolu troškova; koristite cloud modele za složene zadatke koji zahtijevaju veću kvalitetu. Mnogi timovi kombiniraju oboje i postavljaju zadane vrijednosti specifične za chat.