What is Open WebUI used for?

Open WebUI is a self-hosted interface for large language models. It lets you chat with local or cloud models, build RAG workflows with your documents, and manage prompts and teams in one place.

How do I use Open WebUI with Ollama?

Install Ollama, pull a model like `llama3` or `mistral`, and then point Open WebUI’s Ollama connection to `http://localhost:11434`. You can set a default model and start chatting locally with full privacy.

Can Open WebUI do RAG with my PDFs and notes?

Yes. Create a knowledge base, upload documents, generate embeddings, and enable retrieval in chat. The model will cite and summarize from your own sources for grounded answers.

Is Open WebUI secure for teams?

You can enforce sign-in, manage API keys by role, and set rate limits. For production, use HTTPS behind a reverse proxy and restrict which providers or endpoints are allowed.

Should I use local or cloud models in Open WebUI?

Use local models for privacy, speed, and cost control; use cloud models for complex tasks requiring higher quality. Many teams combine both and set chat-specific defaults.

Open WebUI कसे वापरावे: जलद AI वर्कफ्लोसाठी एक मैत्रीपूर्ण, चरण-दर-चरण मार्गदर्शक

जर तुम्हाला कधी ChatGPT चा एक कस्टमाइज करता येण्याजोगा, सेल्फ-होस्टेड पर्याय हवा असेल, ज्याला तुम्ही तुमच्या स्वतःच्या मॉडेल्स आणि डेटामध्ये जोडू शकाल, तर Open WebUI अगदी तेच आहे. हे लोकल किंवा रिमोट मोठ्या भाषिक मॉडेल्स (LLMs) सोबत चॅट करण्यासाठी, प्रॉम्प्ट्स (prompts) व्यवस्थापित करण्यासाठी, RAG (Retrieval-Augmented Generation) वर्कफ्लो तयार करण्यासाठी आणि टीममधील सदस्यांशी सहयोग करण्यासाठी एक आधुनिक, हलके इंटरफेस आहे—हे सर्व तुमच्या ब्राउझरमधून.

या व्यावहारिक, सोल्यूशन-ओरिएंटेड मार्गदर्शिकामध्ये, आपण Open WebUI चा एंड-टू-एंड वापर कसा करायचा ते पाहू: सेटअप पर्याय, Ollama किंवा APIs कनेक्ट करणे, मॉडेल्स व्यवस्थापित करणे, रिट्रीव्हल फ्लो (retrieval flow) तयार करणे, तुमच्या इंस्टन्सला सुरक्षित करणे आणि काही प्रो टिप्स. यानंतर, तुम्ही तुमच्या स्वतःच्या शर्तीनुसार शक्तिशाली AI वर्कफ्लो जलदगतीने चालवण्यास सक्षम असाल.

Open WebUI काय आहे (आणि ते का वापरावे)?

Open WebUI हे LLMs साठी एक सेल्फ-होस्टेबल वेब इंटरफेस आहे. याला तुमच्या AI इंटरॅक्शनसाठी कमांड सेंटर म्हणून समजा—तुमचे स्वतःचे मॉडेल्स (लोकल किंवा क्लाउड) आणा, पुन्हा वापरता येतील अशा प्रॉम्प्ट्स तयार करा, तुमचे डॉक्युमेंट्स (documents) जोडा आणि स्वच्छ, सोप्या UI द्वारे सहयोग करा. हे विशेषतः डेव्हलपर्स (developers), डेटा टीम्स (data teams) आणि प्रायव्हसी (privacy)-सजग वापरकर्त्यांमध्ये लोकप्रिय आहे, ज्यांना कंट्रोल, एक्स्टेंसिबिलिटी (extensibility) आणि गती हवी आहे.

Open WebUI निवडण्याची प्रमुख कारणे:

तुमच्या डेटाचे मालक व्हा: ते लोकल किंवा तुमच्या सर्व्हरवर चालवा.

लवचिक बॅकएंड्स (backends): Ollama सारख्या लोकल इंजिनशी (engine) किंवा API द्वारे रिमोट प्रोव्हायडरशी (remote provider) कनेक्ट करा.

वर्कफ्लोसाठी सज्ज: RAG, टूल्स, एम्बेडिंग्ज (embeddings) आणि संरचित प्रॉम्प्ट्स.

ॲडमिन कंट्रोल्स (admin controls): API की (key) व्यवस्थापन, ऑथेंटिकेशन (authentication) आणि पर्यावरण कॉन्फिगरेशन (environment configuration).

सुरुवात करण्याचा सर्वात जलद मार्ग: Docker Quick Start

जर तुम्ही Docker सोबत आरामदायक असाल, तर तुम्ही काही मिनिटांत सुरू करू शकता.

इमेज (image) पुल (pull) करा

docker pull ghcr.io/open-webui/open-webui:main

कंटेनर (container) चालवा

docker run -d --name open-webui -p 3000:8080 ghcr.io/open-webui/open-webui:main

तुमचा ब्राउझर उघडा आणि भेट द्या

तुम्ही UI वर पोहोचल्यावर, ॲडमिन अकाउंट (admin account) तयार करा आणि तुम्ही मॉडेल्स कनेक्ट (connect) करण्यासाठी तयार आहात.

टीप: परसिस्टंट स्टोरेज (persistent storage) आणि एन्व्हायरनमेंट व्हेरिएबल्ससाठी (environment variables) (जसे की API की रिस्ट्रिक्शन्स (key restrictions) आणि ऑथ (auth)), docker-compose.yml वर स्विच करा, जेणेकरून तुम्ही व्हॉल्यूम्स (volumes) माउंट (mount) करू शकता आणि कॉन्फिगरेशन (configuration) स्पष्टपणे परिभाषित करू शकता.

मॉडेल्सशी कनेक्ट (connect) करणे: लोकल (Ollama) किंवा क्लाउड APIs

Open WebUI बॅकएंड-अग्नोस्टिक (backend-agnostic) आहे. तुम्ही करू शकता:

मॉडेल्स लोकली (locally) चालवण्यासाठी Ollama वापरा (उदा. Llama 3, Phi‑3, Mistral). हे प्रायव्हसी (privacy) आणि ऑफलाइन (offline) कामासाठी उत्तम आहे.

API की (key) द्वारे OpenAI, Anthropic, Google किंवा इतर क्लाउड APIs वापरा.

पर्याय A: Ollama लोकली (locally) वापरा

Ollama इंस्टॉल (install) करा (macOS, Linux, Windows)

इंस्टॉल (install) करण्यासाठी ` ला भेट द्या.

Ollama सह मॉडेल पुल (pull) करा

ollama pull llama3

तुम्ही तुमच्या गरजेनुसार llama3 ऐवजी mistral, phi3, किंवा llama3:instruct सारखे मॉडेल्स वापरू शकता.

Open WebUI सुरू करा

Open WebUI Ollama च्या लोकल (local) एंडपॉइंटपर्यंत (endpoint) पोहोचू शकेल याची खात्री करा (सामान्यतः `).

Open WebUI मध्ये, ॲडमिन सेटिंग्स (Admin Settings) → कनेक्शन्स (Connections) → Ollama वर जा

एंडपॉइंट (endpoint) ॲड (add) करा, डिफॉल्ट (default) मॉडेल(मॉडेल्स) निवडा आणि कनेक्शन (connection) तपासा.

आता तुम्ही ब्राउझरमध्ये थेट लोकल मॉडेल्ससोबत चॅट (chat) करू शकता.

पर्याय B: API की (key) द्वारे क्लाउड प्रोव्हायडर्स (cloud providers) वापरा

ॲडमिन सेटिंग्स (Admin Settings) → प्रोव्हायडर्स (Providers) (किंवा API/Keys) मध्ये

OpenAI, Anthropic किंवा Google साठी की (key) ॲड (add) करा.

प्रत्येक प्रोव्हायडरनुसार डिफॉल्ट (default) मॉडेल (model) निवडा

उदाहरणार्थ: gpt-4o-mini (OpenAI), claude‑3‑haiku (Anthropic), किंवा gemini‑1.5‑flash (Google).

मर्यादा सेट (set) करा

तुमच्या टीम सेटअपनुसार रेट लिमिट्स (rate limits), युसेज स्कोप्स (usage scopes) किंवा प्रति-वापरकर्ता की (key) लागू करा.

हा हायब्रीड ॲप्रोच (hybrid approach) (लोकल + क्लाउड) सामान्य आहे: लोकल मॉडेल्सवर (local models) त्वरित ड्राफ्ट (draft) तयार करा, नंतर आवश्यकतेनुसार क्लाउड मॉडेलने (cloud model) सुधारा.

तुमची पहिली चॅट: प्रॉम्प्ट्स (Prompts), मोड्स (Modes) आणि अटॅचमेंट्स (Attachments)

एकदा मॉडेल कनेक्ट (connect) झाल्यावर, नवीन चॅट (chat) सुरू करा. काही मूलभूत गोष्टी:

प्रॉम्प्ट टेम्प्लेट्स (prompt templates): वारंवार वापरल्या जाणार्‍या सूचना (सिस्टम प्रॉम्प्ट्स) (system prompts) सेव्ह (save) करा, जसे की “तुम्ही माझे पायथन ट्यूटर (Python tutor) आहात—उदाहरणे आणि चाचण्यांसह स्पष्ट करा.”

मोड (Modes): सिस्टम प्रॉम्प्ट्स (system prompts) किंवा टेम्परेचर (temperature) ॲडजस्ट (adjust) करून क्रिएटिव्ह (creative), संक्षिप्त किंवा टेक्निकल (technical) शैलींमध्ये स्विच (switch) करा.

अटॅचमेंट्स (Attachments): मॉडेलला संदर्भ देण्यासाठी फाईल्स (files) (PDFs, TXT, CSV) अपलोड (upload) करा. मोठ्या किंवा वारंवार येणाऱ्या कॉर्पोरासाठी (corpora), एम्बेडिंग्जसह (embeddings) नॉलेज बेस (knowledge base) तयार करा (खाली RAG पहा).

प्रो टीप: प्रोजेक्टनुसार चॅट्स (chats) आयोजित करा. #docs, #code, किंवा #analysis सारखे टॅग (tag) वापरा, जेणेकरून भविष्यात तुम्हाला गोष्टी लवकर सापडतील.

मिनिटांमध्ये RAG तयार करा: नॉलेज (Knowledge), एम्बेडिंग्ज (Embeddings) आणि सर्च (Search)

RAG (Retrieval-Augmented Generation) तुमच्या मॉडेलला तुमच्या कंटेंटसह (content) (डॉक्युमेंट्स, नोट्स, पॉलिसी, कोड) प्रश्नांची उत्तरे देण्यास मदत करते. हे कसे एकत्र करायचे ते येथे आहे:

नॉलेज बेस (Knowledge Base) (KB) तयार करा

साइडबारमध्ये (sidebar), नवीन KB किंवा “Collections” तयार करा.

डॉक्युमेंट्स (documents) अपलोड (upload) करा: PDFs, markdown, HTML किंवा टेक्स्ट फाईल्स (text files).

एम्बेडिंग्ज (Embeddings) जनरेट (generate) करा

एम्बेडिंग्ज (embeddings) बॅकएंड (backend) निवडा (जर तुमच्याकडे एम्बेडिंग्ज मॉडेल (embeddings model) असेल तर Ollama द्वारे लोकल (local), किंवा API द्वारे क्लाउड प्रोव्हायडर (cloud provider)).

तुमच्या डॉक्युमेंट्सची (documents) इंडेक्स (index) तयार करा; मोठ्या सेटला काही मिनिटे लागू शकतात.

चॅटमध्ये (Chat) रिट्रीव्हल (Retrieval) सक्षम करा

चॅटमध्ये (chat), रिट्रीव्हल (retrieval) टॉगल (toggle) करा आणि तुमचा KB सिलेक्ट (select) करा.

प्रश्न विचारा जसे की “आमच्या ऑनबोर्डिंग (onboarding) पॉलिसीचा सारांश द्या आणि ॲक्शन आयटम्सची (action items) यादी करा,” किंवा “सुरक्षा धोरणात (security policy) आम्ही कोणत्या अपवादांना परवानगी देतो?”

पुनरावृत्ती करा

स्त्रोतांचे निरीक्षण करा, तुमच्या डॉक्युमेंट्समध्ये (documents) सुधारणा करा, चंकिंग (chunking) आकार ॲडजस्ट (adjust) करा आणि उत्तरे बरोबर वाटत नसल्यास पुन्हा एम्बेड (embed) करा.

प्रो टीप: अचूकतेसाठी स्वतंत्र KBs ठेवा (उदा., “मार्केटिंग कॉपी,” “कायदेशीर धोरणे,” “रनबुक्स”). हे असंबंधित रिट्रीव्हल्स (retrievals) कमी करते.

ॲक्शन्स (Actions), टूल्स (Tools) आणि वर्कफ्लो (Workflows)

Open WebUI टूल-ड्रिव्हन (tool-driven) इंटरॅक्शन्सला (interactions) सपोर्ट (support) करते, ज्यामुळे मॉडेल (model) फक्त चॅट (chat) न करता “काहीतरी करू” शकते. तुमच्या सेटअपनुसार, तुम्ही हे करू शकता:

तुम्ही परिभाषित केलेली फंक्शन्स/टूल्स (functions/tools) कॉल (call) करा (उदा., स्क्रिप्ट चालवा, URL फेच (fetch) करा, डेटाबेस क्वेरी (database query) करा).

मल्टी-स्टेप (multi-step) कार्ये संरचित करण्यासाठी सिस्टम प्रॉम्प्ट (system prompt) वर्कफ्लो (workflow) वापरा.

जर तुमच्या डिप्लॉयमेंटला (deployment) सपोर्ट (support) असेल तर प्लगइन्स/एक्स्टेंशन्स (plugins/extensions) ॲड (add) करा.

उदाहरण: “कंटेंट ब्रीफ (Content Brief)” वर्कफ्लो (workflow)

पायरी 1: मॉडेलला (model) एका विषयातील कीवर्ड (keywords) काढण्यास सांगा.

पायरी 2: वेब टूलद्वारे (web tool) (सक्षम असल्यास) संशोधन करा आणि स्त्रोतांचा सारांश द्या.

पायरी 3: एक रूपरेषा + शीर्षक प्रकार तयार करा.

पायरी 4: एक शॉर्ट (short)/लाँग (long) व्हर्जन (version) तयार करा.

हे स्टेप्स (steps) एका पुन्हा वापरता येण्याजोग्या टेम्प्लेटमध्ये (template) सेव्ह (save) करा, जेणेकरून तुमची टीम ते एका क्लिकमध्ये चालवू शकेल.

एका प्रो प्रमाणे मॉडेल्स (Models) व्यवस्थापित करा

एकापेक्षा जास्त डिफॉल्ट्स (defaults): प्रति-वर्कस्पेस (per-workspace) किंवा प्रति-चॅट (per-chat) डिफॉल्ट (default) सेट (set) करा (उदा., विचारमंथनासाठी जलद लोकल (fast local), अंतिम कॉपीसाठी अचूक क्लाउड (precise cloud)).

मॉडेल कार्ड्स (model cards): प्रत्येक मॉडेल (model) काय सर्वोत्तम करते ते डॉक्युमेंट (document) करा—“कोडसाठी Llama 3 वापरा, संक्षिप्त सारांशासाठी Mistral.”

बॅच (batch) कार्ये: QA तपासणी, भाषांतर किंवा टॅगिंग (tagging) सारख्या पुन्हा करता येण्याजोग्या कार्यांसाठी लांब सिस्टम प्रॉम्प्ट्स (system prompts) आणि संरचित आउटपुट (JSON, चेकलिस्ट्स) वापरा.

ॲडमिन सेटिंग्स (Admin Settings): सुरक्षा आणि गव्हर्नन्स (Governance)

जर तुम्ही एखाद्या टीमसाठी सेल्फ-होस्टिंग (self-hosting) करत असाल, तर तुमच्या इंस्टन्सला (instance) मजबूत आणि नियंत्रित करण्यासाठी काही मिनिटे द्या.

ऑथेंटिकेशन (Authentication): साइन-इन (sign-in) आवश्यक करा. उपलब्ध असल्यास, SSO/OIDC सक्षम करा.

API की (key) धोरणे: कोणते प्रोव्हायडर्स (providers) वापरले जाऊ शकतात ते मर्यादित करा, वापरकर्ता/रोलनुसार (user/role) की (key) स्कोप (scope) करा आणि योग्य ठिकाणी एग्रेस (egress) प्रतिबंधित करा.

एन्व्हायरनमेंट व्हेरिएबल्स (Environment variables): मॉडेल (model) एंडपॉइंट URLs (endpoint URLs), एम्बेडिंग्ज (embeddings) बॅकएंड्स (backends) आणि की (key) रिस्ट्रिक्शन्स (restrictions) सारख्या गोष्टी env सेटिंग्जद्वारे (settings) कॉन्फिगर (configure) करा.

रेट लिमिट्स (rate limits) आणि कोटा (quotas): प्रति-वापरकर्ता किंवा प्रति-वर्कस्पेस (per-workspace) मर्यादांसह अनियंत्रित खर्च टाळा.

ऑडिटेबिलिटी (Auditability): टीम सदस्यांना चॅट्स (chats) लेबल (label) करण्यास आणि निर्णयांचा मागोवा घेण्यासाठी सारांश स्टोअर (store) करण्यास प्रोत्साहित करा.

डेव्ह टीप: HTTPS सह रिव्हर्स प्रॉक्सीमागे (reverse proxy) (उदा., Nginx/Caddy) Open WebUI ठेवा आणि परवानगी असलेले ओरिजिन्स (origins) सेट (set) करा.

टीम कोलॅबोरेशन (Team Collaboration) आणि नॉलेज हायजीन (Knowledge Hygiene)

शेअर्ड (shared) प्रॉम्प्ट्स (prompts) आणि KBs: क्युरेटेड (curated) प्रॉम्प्ट लायब्ररी (prompt library) आणि नॉलेज बेस (knowledge base) तयार करा. देखरेख करणाऱ्या व्यक्तींना नियुक्त करा.

व्हर्जन (version) कंटेंट (content): पॉलिसी डॉक्युमेंट्स (policy documents) किंवा स्पेसिफिकेशन्ससाठी (specifications), स्त्रोत Git मध्ये किंवा डॉक्युमेंट हबमध्ये (document hub) स्टोअर (store) करा आणि अपडेट (update) झाल्यावर पुन्हा एम्बेड (embed) करा.

स्रोत-प्रथम उत्तरे: वापरकर्त्यांना साइटेशन्सवर (citations) क्लिक (click) करण्यास आणि मूळ डॉक्युमेंट्स (documents) स्कॅन (scan) करण्यास प्रोत्साहित करा. विश्वास ठेवा, पण पडताळणी करा.

रोजच्या वापराची उदाहरणे (ही कॉपी करा)

कंटेंट (Content) आणि मार्केटिंग (marketing)

एका ब्रीफला (brief) तीन ऑडियन्स-स्पेसिफिक (audience-specific) ड्राफ्टमध्ये (drafts) रूपांतरित करा.

SEO रूपरेषा, FAQs आणि शीर्षके जनरेट (generate) करा.

इंजिनीअरिंग (Engineering)

एका फंक्शनचे (function) स्पष्टीकरण करा आणि एज-केस टेस्ट्स (edge-case tests) जनरेट (generate) करा.

PR चा सारांश द्या आणि रीलिज नोट्स (release notes) तयार करा.

ऑप्स (Ops) आणि सपोर्ट (support)

रनबुक्स (runbooks) आणि SOPs मधून KB तयार करा.

तुमच्या टोन (tone)/शैली मार्गदर्शकाचा वापर करून प्रतिसाद ड्राफ्ट (draft) करा.

रिसर्च (Research) आणि स्ट्रॅटेजी (strategy)

साइटेशन्ससह (citations) 10 डॉक्युमेंट्सचे (documents) 1-पेजरमध्ये रूपांतर करा.

एका संरचित मॅट्रिक्सचा (structured matrix) वापर करून विक्रेत्यांची तुलना करा.

समस्यानिवारण: त्वरित उपाय

“Ollama शी कनेक्ट (connect) होऊ शकत नाही”

Ollama चालू आहे का ते तपासा: `curl

कंटेनरमधून (container) होस्टपर्यंत (host) नेटवर्क ॲक्सेस (network access) तपासा.

“मॉडेल (model) सापडले नाही”

Ollama द्वारे मॉडेल पुल (pull) करा: ollama pull mistral

क्लाउडसाठी (cloud), अचूक मॉडेलचे (model) नाव आणि परवानग्या तपासा.

“RAG चे निकाल असंबंधित दिसत आहेत”

चांगल्या एम्बेडिंग्ज मॉडेलने (embeddings model) पुन्हा एम्बेड (embed) करा.

चंक साईज (chunk size) (उदा. 500–1,000 टोकन्स (tokens)) आणि ओव्हरलॅप (overlap) ॲडजस्ट (adjust) करा.

तुमच्या KB ला लहान, विषयानुसार असलेल्या कलेक्शनमध्ये (collections) विभाजित करा.

“खर्च वाढत आहे”

रेट लिमिट्स (rate limits) सेट (set) करा आणि ड्राफ्ट्ससाठी (drafts) लोकल मॉडेल्सना (local models) डिफॉल्ट (default) करा.

परफॉर्मन्स टिप्स (Performance Tips) आणि ॲडव्हान्स्ड मूव्ह्स (Advanced Moves)

आयडिएशनसाठी (ideation) लहान लोकल मॉडेल्स (local models) वापरा आणि अंतिम करण्यासाठी मोठे/क्लाउड मॉडेल्स (cloud models) वापरा.

शक्य असल्यास वारंवार वापरल्या जाणाऱ्या प्रॉम्प्ट्स (prompts) आणि प्रतिसादांना कॅशे (cache) करा.

डाउनस्ट्रीम ऑटोमेशन्ससाठी (downstream automations) स्ट्रक्चर्ड आउटपुट (structured outputs) (JSON, बुलेट चेकलिस्ट्स) ॲडॉप्ट (adopt) करा.

संवेदनशील डेटासाठी, सर्वकाही लोकल (local) ठेवा (Ollama + लोकल एम्बेडिंग्ज (local embeddings) + ऑन-प्रेम स्टोरेज (on-prem storage)).

टोन (tone), फॉर्मेटिंग (formatting) आणि गार्डरेल्स (guardrails) परिभाषित करण्यासाठी सिस्टम प्रॉम्प्ट्स (system prompts) वापरा.

लक्षात घेण्यासारखे: Open WebUI ला Sider.AI सोबत जोडणे

जर तुम्ही भरपूर कंटेंट (content) तयार करत असाल किंवा रिसर्च (research) करत असाल, तर एक वर्कफ्लो कंपेनियन (workflow companion) मदत करू शकते. लक्षात घेण्यासारखे: Sider.AI लांब-फॉर्म (long-form) कामाचे ड्राफ्टिंग (drafting), सारांश आणि आयोजन करण्यात मदत करते. तुम्ही Open WebUI मध्ये कल्पना करू शकता किंवा संदर्भ मिळवू शकता, त्यानंतर Sider.AI च्या एडिटर-शैलीतील (editor-style) मदतीने लेख प्रकाशित करण्यासाठी पॉलिश (polish), पुनर्रचना आणि SEO-ऑप्टिमाइज (SEO-optimize) करू शकता. जेव्हा तुम्हाला कंट्रोल (सेल्फ-होस्टेड चॅट + RAG) आणि गती (सहयोगी संपादन आणि ऑप्टिमायझेशन) दोन्ही हवे असतील तेव्हा हे उपयुक्त आहे.

एक साधा स्टार्टर ब्लूप्रिंट (Starter Blueprint)

Docker द्वारे Open WebUI चालवा.

Ollama इंस्टॉल (install) करा, llama3 आणि mistral पुल (pull) करा.

Open WebUI ला कनेक्ट (connect) करा आणिmistral` ला चॅटसाठी डिफॉल्ट (default) म्हणून सेट (set) करा.

KBs तयार करा: धोरणे, मार्केटिंग, रनबुक्स; मजबूत एम्बेडिंग्ज मॉडेलने (embeddings model) एम्बेड (embed) करा.

तीन प्रॉम्प्ट टेम्प्लेट्स (prompt templates) सेव्ह (save) करा: “बुलेट्ससह (bullets) सारांशकार,” “SEO रूपरेषा जनरेटर (generator),” आणि “रीलिज नोट्स रायटर (release notes writer).”

रेट लिमिट्स (rate limits) ॲड (add) करा आणि लॉगिन (login) आवश्यक करा.

या सेटअपसह (setup), बहुतेक टीम्स (teams) रोजच्या AI कार्यांपैकी 80% कार्ये पूर्ण करू शकतात.

महत्वाचे मुद्दे

Open WebUI तुम्हाला लोकल (local) आणि क्लाउड LLMs सोबत काम करण्यासाठी स्वच्छ, नियंत्रित UI देते.

प्रायव्हसी (privacy) आणि गतीसाठी, ते लोकली (locally) Ollama सोबत जोडा; आवश्यकतेनुसार क्लाउड मॉडेल्स (cloud models) मिक्स (mix) करा.

तुमच्या डॉक्युमेंट्समध्ये (documents) उत्तरांना आधार देण्यासाठी RAG वापरा; KBs लहान आणि केंद्रित ठेवा.

ऑथ (auth), की (key) धोरणे आणि रेट लिमिट्स (rate limits) सह तुमच्या इंस्टन्सला (instance) सुरक्षित करा.

प्रॉम्प्ट्स (prompts) आणि आउटपुट (outputs) प्रमाणित करा, जेणेकरून तुमच्या टीमचे (team) काम सुसंगत आणि ऑटोमेटेबल (automatable) असेल.

पुढील पायऱ्या

Docker सह Open WebUI सुरू करा आणि Ollama शी कनेक्ट (connect) करा.

तुमचा पहिला नॉलेज बेस (knowledge base) तयार करा आणि रिट्रीव्हल-बॅक्ड (retrieval-backed) चॅट वापरून पहा.

तुमची टीम (team) दररोज पुन्हा वापरणार असलेले तीन प्रॉम्प्ट टेम्प्लेट्स (prompt templates) सेव्ह (save) करा.

जर तुम्ही कंटेंट (content) प्रकाशित करत असाल, तर लाईव्ह (live) होण्यापूर्वी टोन (tone), स्ट्रक्चर (structure) आणि SEO सुधारण्यासाठी Sider.AI द्वारे ड्राफ्ट्स (drafts) पास (pass) करा.

FAQ

Q1: Open WebUI कशासाठी वापरले जाते? Open WebUI हे मोठ्या भाषिक मॉडेल्ससाठी (large language models) एक सेल्फ-होस्टेड (self-hosted) इंटरफेस (interface) आहे. हे तुम्हाला लोकल (local) किंवा क्लाउड मॉडेल्ससोबत (cloud models) चॅट (chat) करण्यास, तुमच्या डॉक्युमेंट्ससह (documents) RAG वर्कफ्लो (workflow) तयार करण्यास आणि एकाच ठिकाणी प्रॉम्प्ट्स (prompts) आणि टीम्स (teams) व्यवस्थापित करण्यास मदत करते.

Q2: मी Ollama सह Open WebUI कसे वापरू? Ollama इंस्टॉल (install) करा, llama3 किंवा mistral सारखे मॉडेल पुल (pull) करा आणि नंतर Open WebUI चे Ollama कनेक्शन (connection) http://localhost:11434 वर पॉइंट (point) करा. तुम्ही डिफॉल्ट (default) मॉडेल सेट (set) करू शकता आणि पूर्ण प्रायव्हसीसह (privacy) लोकली (locally) चॅटिंग (chatting) सुरू करू शकता.

Q3: Open WebUI माझ्या PDFs आणि नोट्ससह RAG करू शकते का? होय. नॉलेज बेस (knowledge base) तयार करा, डॉक्युमेंट्स (documents) अपलोड (upload) करा, एम्बेडिंग्ज (embeddings) जनरेट (generate) करा आणि चॅटमध्ये (chat) रिट्रीव्हल (retrieval) सक्षम करा. मॉडेल (model) तुमच्या स्वतःच्या स्त्रोतांकडून माहिती देईल आणि सारांश देईल.

Q4: Open WebUI टीम्ससाठी (teams) सुरक्षित आहे का? तुम्ही साइन-इन (sign-in) करणे आवश्यक करू शकता, रोलनुसार (role) API की (key) व्यवस्थापित करू शकता आणि रेट लिमिट्स (rate limits) सेट (set) करू शकता. प्रॉडक्शनसाठी (production), रिव्हर्स प्रॉक्सीमागे (reverse proxy) HTTPS वापरा आणि कोणते प्रोव्हायडर्स (providers) किंवा एंडपॉइंट्सना (endpoints) परवानगी आहे ते प्रतिबंधित करा.

Q5: मी Open WebUI मध्ये लोकल (local) किंवा क्लाउड मॉडेल्स (cloud models) वापरावे? प्रायव्हसी (privacy), गती आणि खर्च नियंत्रणासाठी लोकल मॉडेल्स (local models) वापरा; उच्च गुणवत्तेची आवश्यकता असलेल्या जटिल कार्यांसाठी क्लाउड मॉडेल्स (cloud models) वापरा. बर्‍याच टीम्स (teams) दोन्ही एकत्र करतात आणि चॅट-स्पेसिफिक (chat-specific) डिफॉल्ट्स (defaults) सेट (set) करतात.