What is Open WebUI used for?

Open WebUI is a self-hosted interface for large language models. It lets you chat with local or cloud models, build RAG workflows with your documents, and manage prompts and teams in one place.

How do I use Open WebUI with Ollama?

Install Ollama, pull a model like `llama3` or `mistral`, and then point Open WebUI’s Ollama connection to `http://localhost:11434`. You can set a default model and start chatting locally with full privacy.

Can Open WebUI do RAG with my PDFs and notes?

Yes. Create a knowledge base, upload documents, generate embeddings, and enable retrieval in chat. The model will cite and summarize from your own sources for grounded answers.

Is Open WebUI secure for teams?

You can enforce sign-in, manage API keys by role, and set rate limits. For production, use HTTPS behind a reverse proxy and restrict which providers or endpoints are allowed.

Should I use local or cloud models in Open WebUI?

Use local models for privacy, speed, and cost control; use cloud models for complex tasks requiring higher quality. Many teams combine both and set chat-specific defaults.

Open WebUI কীভাবে ব্যবহার করবেন: দ্রুত এআই ওয়ার্কফ্লোর জন্য একটি বন্ধুত্বপূর্ণ, ধাপে ধাপে গাইড

আপনি যদি কখনও চাইতেন যে ChatGPT-এর একটি কাস্টমাইজযোগ্য, স্ব-হোস্টেড সংস্করণ থাকুক যা আপনি নিজের মডেল এবং ডেটার সাথে যুক্ত করতে পারেন, তাহলে Open WebUI ঠিক তেমনটাই। এটি স্থানীয় বা দূরবর্তী বৃহৎ ভাষা মডেল (LLM)-এর সাথে চ্যাট করা, প্রম্পটগুলি পরিচালনা করা, RAG (Retrieval-Augmented Generation) ওয়ার্কফ্লো তৈরি করা এবং আপনার ব্রাউজার থেকে সতীর্থদের সাথে সহযোগিতা করার জন্য একটি আধুনিক, হালকা ইন্টারফেস।

এই ব্যবহারিক, সমাধান-ভিত্তিক গাইডে, আমরা Open WebUI শুরু থেকে শেষ পর্যন্ত কীভাবে ব্যবহার করতে হয় তা দেখাব: সেটআপ অপশন, Ollama বা API-এর সাথে সংযোগ স্থাপন, মডেল পরিচালনা, পুনরুদ্ধার ফ্লো তৈরি, আপনার ইনস্ট্যান্স সুরক্ষিত করা এবং কিছু প্রো টিপস। শেষ পর্যন্ত, আপনি নিজের শর্তে শক্তিশালী এআই ওয়ার্কফ্লো চালাতে সক্ষম হবেন—দ্রুত।

Open WebUI কী (এবং কেন এটি ব্যবহার করবেন)?

Open WebUI হল LLM-এর জন্য একটি স্ব-হোস্টেবল ওয়েব ইন্টারফেস। এটিকে আপনার এআই ইন্টারঅ্যাকশনের কমান্ড সেন্টার হিসাবে মনে করুন—আপনার নিজের মডেল (স্থানীয় বা ক্লাউড) নিয়ে আসুন, পুনরায় ব্যবহারযোগ্য প্রম্পট তৈরি করুন, আপনার ডকুমেন্ট যুক্ত করুন এবং একটি পরিচ্ছন্ন, স্বজ্ঞাত UI-এর মাধ্যমে সহযোগিতা করুন। এটি বিশেষভাবে ডেভেলপার, ডেটা টিম এবং গোপনীয়তা-সচেতন ব্যবহারকারীদের মধ্যে জনপ্রিয় যারা নিয়ন্ত্রণ, প্রসারণযোগ্যতা এবং গতি চান।

Open WebUI বেছে নেওয়ার প্রধান কারণ:

নিজের ডেটার মালিক হোন: স্থানীয়ভাবে বা আপনার সার্ভারে চালান।

নমনীয় ব্যাকেন্ড: Ollama-র মতো স্থানীয় ইঞ্জিন বা API-এর মাধ্যমে দূরবর্তী প্রদানকারীর সাথে সংযোগ করুন।

ওয়ার্কফ্লো-প্রস্তুত: RAG, সরঞ্জাম, এম্বেডিং এবং স্ট্রাকচার্ড প্রম্পট।

অ্যাডমিন নিয়ন্ত্রণ: API কী পরিচালনা, প্রমাণীকরণ এবং পরিবেশ কনফিগারেশন।

শুরু করার দ্রুততম উপায়: ডকার কুইক স্টার্ট

আপনি যদি ডকারের সাথে পরিচিত হন, তবে আপনি কয়েক মিনিটের মধ্যে শুরু করতে পারেন।

ইমেজটি পুল করুন

docker pull ghcr.io/open-webui/open-webui:main

কন্টেইনার চালান

docker run -d --name open-webui -p 3000:8080 ghcr.io/open-webui/open-webui:main

আপনার ব্রাউজার খুলুন এবং ভিজিট করুন

আপনি UI-তে পৌঁছাবেন, একটি অ্যাডমিন অ্যাকাউন্ট তৈরি করবেন এবং মডেলগুলি সংযোগ করার জন্য প্রস্তুত।

টিপ: স্থায়ী স্টোরেজ এবং এনভায়রনমেন্ট ভেরিয়েবলের (যেমন API কী বিধিনিষেধ এবং প্রমাণীকরণ) জন্য, একটি docker-compose.yml-এ স্যুইচ করুন যাতে আপনি ভলিউম মাউন্ট করতে এবং কনফিগারেশন পরিষ্কারভাবে সংজ্ঞায়িত করতে পারেন।

মডেলের সাথে সংযোগ স্থাপন: স্থানীয় (Ollama) বা ক্লাউড API

Open WebUI ব্যাকেন্ড-অজ্ঞেয়বাদী। আপনি যা করতে পারেন:

স্থানীয়ভাবে মডেল চালানোর জন্য Ollama ব্যবহার করুন (যেমন, Llama 3, Phi-3, Mistral)। এটি গোপনীয়তা এবং অফলাইন কাজের জন্য দুর্দান্ত।

API কী-এর মাধ্যমে OpenAI, Anthropic, Google বা অন্যান্যদের মতো ক্লাউড API ব্যবহার করুন।

Option A: স্থানীয়ভাবে Ollama ব্যবহার করুন

Ollama ইনস্টল করুন (macOS, Linux, Windows)

ইনস্টল করতে ` ভিজিট করুন।

Ollama দিয়ে একটি মডেল পুল করুন

ollama pull llama3

আপনি আপনার প্রয়োজন অনুসারে llama3-এর পরিবর্তে mistral, phi3 বা llama3:instruct-এর মতো মডেল ব্যবহার করতে পারেন।

Open WebUI শুরু করুন

নিশ্চিত করুন যে Open WebUI Ollama-র স্থানীয় এন্ডপয়েন্টে পৌঁছাতে পারে (সাধারণত ``)।

Open WebUI-তে, Admin Settings → Connections → Ollama-তে যান

এন্ডপয়েন্ট যুক্ত করুন, ডিফল্ট মডেল(গুলি) চয়ন করুন এবং সংযোগটি পরীক্ষা করুন।

এখন আপনি ব্রাউজারে সরাসরি স্থানীয় মডেলের সাথে চ্যাট করতে পারেন।

Option B: API কী-এর মাধ্যমে ক্লাউড প্রদানকারী ব্যবহার করুন

Admin Settings → Providers (বা API/Keys)-এ

OpenAI, Anthropic বা Google-এর জন্য কী যুক্ত করুন।

প্রতি প্রদানকারীর জন্য একটি ডিফল্ট মডেল চয়ন করুন

উদাহরণস্বরূপ: gpt-4o-mini (OpenAI), claude‑3‑haiku (Anthropic), বা gemini‑1.5‑flash (Google)।

সীমা নির্ধারণ করুন

আপনার টিমের সেটআপের উপর নির্ভর করে হার সীমা, ব্যবহারের সুযোগ বা প্রতি ব্যবহারকারীর কী প্রয়োগ করুন।

এই সংকর পদ্ধতি (স্থানীয় + ক্লাউড) সাধারণ: স্থানীয় মডেলে দ্রুত খসড়া তৈরি করুন, তারপরে প্রয়োজনে একটি ক্লাউড মডেল দিয়ে পরিমার্জন করুন।

আপনার প্রথম চ্যাট: প্রম্পট, মোড এবং সংযুক্তি

একটি মডেল সংযুক্ত হয়ে গেলে, একটি নতুন চ্যাট শুরু করুন। কয়েকটি বেসিক:

প্রম্পট টেমপ্লেট: প্রায়শই ব্যবহৃত নির্দেশাবলী (সিস্টেম প্রম্পট) সংরক্ষণ করুন যেমন “আপনি আমার পাইথন শিক্ষক—উদাহরণ এবং পরীক্ষা সহ ব্যাখ্যা করুন।”

মোড: সিস্টেম প্রম্পট বা তাপমাত্রা সামঞ্জস্য করে সৃজনশীল, সংক্ষিপ্ত বা প্রযুক্তিগত শৈলীর মধ্যে স্যুইচ করুন।

সংযুক্তি: মডেলটিকে রেফারেন্স করার জন্য ফাইল (PDF, TXT, CSV) আপলোড করুন। বড় বা পুনরাবৃত্ত কর্পোরার জন্য, এম্বেডিং সহ একটি জ্ঞান বেস তৈরি করুন (নীচে RAG দেখুন)।

পেশাদার টিপ: প্রকল্প অনুসারে চ্যাটগুলি সাজান। #docs, #code বা #analysis-এর মতো ট্যাগ ব্যবহার করুন যাতে ভবিষ্যতের আপনি দ্রুত জিনিস খুঁজে পেতে পারেন।

কয়েক মিনিটের মধ্যে RAG তৈরি করুন: জ্ঞান, এম্বেডিং এবং অনুসন্ধান

RAG (Retrieval-Augmented Generation) আপনার মডেলকে আপনার সামগ্রী (ডকুমেন্ট, নোট, নীতি, কোড) দিয়ে প্রশ্নের উত্তর দিতে দেয়। এটি একসাথে রাখার উপায় এখানে:

একটি জ্ঞান বেস (KB) তৈরি করুন

সাইডবারে, একটি নতুন KB বা “Collections” তৈরি করুন।

ডকুমেন্ট আপলোড করুন: PDF, মার্কডাউন, HTML বা টেক্সট ফাইল।

এম্বেডিং তৈরি করুন

এম্বেডিং ব্যাকেন্ড চয়ন করুন (আপনার যদি একটি এম্বেডিং মডেল থাকে তবে Ollama-র মাধ্যমে স্থানীয়, বা API-এর মাধ্যমে একটি ক্লাউড প্রদানকারী)।

আপনার ডকুমেন্টগুলি ইনডেক্স করুন; বৃহত্তর সেটের জন্য কয়েক মিনিট সময় লাগতে পারে।

চ্যাটে পুনরুদ্ধার সক্ষম করুন

একটি চ্যাটে, পুনরুদ্ধার টগল করুন এবং আপনার KB নির্বাচন করুন।

প্রশ্ন জিজ্ঞাসা করুন যেমন “আমাদের অনবোর্ডিং নীতি সংক্ষেপিত করুন এবং কর্মের আইটেমগুলি তালিকাভুক্ত করুন” বা “সুরক্ষা নীতিতে আমরা কী কী ব্যতিক্রমের অনুমতি দিই?”

পুনরাবৃত্তি করুন

উৎসগুলি পরিদর্শন করুন, আপনার ডকুমেন্টগুলি পরিমার্জন করুন, চঙ্কিং আকার সামঞ্জস্য করুন এবং উত্তরগুলি ভুল মনে হলে পুনরায় এম্বেড করুন।

পেশাদার টিপ: নির্ভুলতার জন্য পৃথক KB বজায় রাখুন (যেমন, “মার্কেটিং কপি,” “আইনগত নীতি,” “রানবুক”)। এটি অপ্রাসঙ্গিক পুনরুদ্ধার হ্রাস করে।

অ্যাকশন, সরঞ্জাম এবং ওয়ার্কফ্লো

Open WebUI সরঞ্জাম-চালিত ইন্টারঅ্যাকশন সমর্থন করে যাতে মডেলটি কেবল চ্যাট না করে “কিছু করতে” পারে। আপনার সেটআপের উপর নির্ভর করে, আপনি যা করতে পারেন:

ফাংশন/সরঞ্জাম কল করুন আপনি সংজ্ঞায়িত করেন (যেমন, একটি স্ক্রিপ্ট চালান, একটি URL আনুন, একটি ডাটাবেস প্রশ্ন করুন)।

বহু-পদক্ষেপের কাজগুলি কাঠামোবদ্ধ করতে সিস্টেম প্রম্পট ওয়ার্কফ্লো ব্যবহার করুন।

যদি আপনার স্থাপনা সমর্থন করে তবে প্লাগইন/এক্সটেনশন যুক্ত করুন।

উদাহরণ: একটি “কন্টেন্ট ব্রিফ” ওয়ার্কফ্লো

ধাপ 1: মডেলটিকে একটি বিষয় থেকে কীওয়ার্ড বের করতে বলুন।

ধাপ 2: একটি ওয়েব টুলের মাধ্যমে গবেষণা করুন (যদি সক্ষম করা থাকে) এবং উৎসগুলি সংক্ষিপ্ত করুন।

ধাপ 3: একটি রূপরেখা + শিরোনামের ভিন্নতা তৈরি করুন।

ধাপ 4: একটি সংক্ষিপ্ত/দীর্ঘ সংস্করণ তৈরি করুন।

একটি পুনরায় ব্যবহারযোগ্য টেমপ্লেটে এই পদক্ষেপগুলি সংরক্ষণ করুন যাতে আপনার দল এক ক্লিকে সেগুলি চালাতে পারে।

একজন পেশাদারের মতো মডেল পরিচালনা করুন

একাধিক ডিফল্ট: প্রতি ওয়ার্কস্পেস বা প্রতি চ্যাট ডিফল্ট সেট করুন (যেমন, ব্রেইনস্টর্মিংয়ের জন্য দ্রুত স্থানীয়, চূড়ান্ত কপির জন্য সুনির্দিষ্ট ক্লাউড)।

মডেল কার্ড: প্রতিটি মডেল কী সবচেয়ে ভাল করে তা নথিভুক্ত করুন—“কোডের জন্য Llama 3 ব্যবহার করুন, সংক্ষিপ্ত সারসংক্ষেপের জন্য Mistral ব্যবহার করুন।”

ব্যাচ টাস্ক: পুনরাবৃত্তিযোগ্য কাজের জন্য দীর্ঘ সিস্টেম প্রম্পট এবং স্ট্রাকচার্ড আউটপুট (JSON, চেকলিস্ট) ব্যবহার করুন যেমন QA চেক, অনুবাদ বা ট্যাগিং।

অ্যাডমিন সেটিংস: সুরক্ষা এবং পরিচালনা

আপনি যদি কোনও দলের জন্য স্ব-হোস্টিং করছেন, তবে আপনার উদাহরণকে শক্তিশালী করতে এবং পরিচালনা করতে কয়েক মিনিট সময় নিন।

প্রমাণীকরণ: সাইন-ইন প্রয়োজন। যদি উপলভ্য হয় তবে SSO/OIDC সক্ষম করুন।

API কী নীতি: কোন প্রদানকারী ব্যবহার করা যেতে পারে তা সীমাবদ্ধ করুন, ব্যবহারকারী/ভূমিকা অনুসারে কী সুযোগ দিন এবং যেখানে উপযুক্ত সেখানে বহির্গমন সীমাবদ্ধ করুন।

পরিবেশ ভেরিয়েবল: মডেল এন্ডপয়েন্ট URL, এম্বেডিং ব্যাকেন্ড এবং env সেটিংসের মাধ্যমে কী বিধিনিষেধের মতো জিনিস কনফিগার করুন।

হার সীমা এবং কোটা: প্রতি ব্যবহারকারী বা প্রতি ওয়ার্কস্পেস সীমার সাথে runaway খরচ প্রতিরোধ করুন।

নিরীক্ষণযোগ্যতা: চ্যাটগুলি লেবেল করতে এবং সারসংক্ষেপগুলি সঞ্চয় করতে দলগুলিকে উত্সাহিত করুন যাতে আপনি সিদ্ধান্তগুলি সন্ধান করতে পারেন।

দেব টিপ: HTTPS সহ একটি রিভার্স প্রক্সির (যেমন, Nginx/Caddy) পিছনে Open WebUI রাখুন এবং অনুমোদিত উত্সগুলি সেট করুন।

দলগত সহযোগিতা এবং জ্ঞান স্বাস্থ্যবিধি

ভাগ করা প্রম্পট এবং KB: কিউরেটেড প্রম্পট লাইব্রেরি এবং জ্ঞান বেস তৈরি করুন। রক্ষণাবেক্ষণকারী নিয়োগ করুন।

সংস্করণ সামগ্রী: নীতি নথি বা স্পেসিফিকেশনের জন্য, গিট বা একটি ডক হাবে উত্সগুলি সঞ্চয় করুন এবং আপডেট হলে পুনরায় এম্বেড করুন।

উৎস-প্রথম উত্তর: ব্যবহারকারীদের উদ্ধৃতিগুলিতে ক্লিক করতে এবং মূল নথিগুলি স্ক্যান করতে উত্সাহিত করুন। বিশ্বাস করুন, তবে যাচাই করুন।

প্রতিদিনের ব্যবহারের ঘটনা (এগুলি অনুলিপি করুন)

বিষয়বস্তু ও বিপণন

একটি সংক্ষিপ্ত বিবরণকে তিনটি শ্রোতা-নির্দিষ্ট খসড়াতে পরিণত করুন।

SEO রূপরেখা, FAQ এবং শিরোনাম তৈরি করুন।

প্রকৌশলী

একটি ফাংশন ব্যাখ্যা করুন এবং প্রান্ত-কেস পরীক্ষা তৈরি করুন।

PRs সংক্ষিপ্ত করুন এবং রিলিজ নোট তৈরি করুন।

Ops ও সমর্থন

রানবুক এবং SOP থেকে একটি KB তৈরি করুন।

আপনার সুর/স্টাইল গাইড ব্যবহার করে প্রতিক্রিয়া খসড়া করুন।

গবেষণা ও কৌশল

উদ্ধৃতি সহ 10টি নথিকে 1-পেজারে সংক্ষিপ্ত করুন।

একটি স্ট্রাকচার্ড ম্যাট্রিক্স ব্যবহার করে বিক্রেতাদের তুলনা করুন।

সমস্যা সমাধান: দ্রুত সমাধান

“Ollama-র সাথে সংযোগ করা যাচ্ছে না”

Ollama চলছে কিনা তা পরীক্ষা করুন: `curl

কন্টেইনার থেকে হোস্টের নেটওয়ার্ক অ্যাক্সেস যাচাই করুন।

“মডেল পাওয়া যায়নি”

Ollama-র মাধ্যমে মডেলটি পুল করুন: ollama pull mistral

ক্লাউডের জন্য, সঠিক মডেলের নাম এবং অনুমতি নিশ্চিত করুন।

“RAG ফলাফলগুলি অপ্রাসঙ্গিক দেখাচ্ছে”

আরও ভাল এম্বেডিং মডেল দিয়ে পুনরায় এম্বেড করুন।

চঙ্কিং আকার (যেমন, 500–1,000 টোকেন) এবং ওভারল্যাপ সামঞ্জস্য করুন।

আপনার KB-কে ছোট, বিষয়ভিত্তিক সংগ্রহে বিভক্ত করুন।

“খরচ বাড়ছে”

হার সীমা নির্ধারণ করুন এবং খসড়ার জন্য স্থানীয় মডেলগুলিতে ডিফল্ট করুন।

পারফরম্যান্স টিপস এবং উন্নত পদক্ষেপ

ধারণা তৈরির জন্য ছোট স্থানীয় মডেল এবং চূড়ান্তকরণের জন্য বৃহত্তর/ক্লাউড মডেল ব্যবহার করুন।

সম্ভব হলে ঘন ঘন প্রম্পট এবং প্রতিক্রিয়া ক্যাশে করুন।

ডাউনস্ট্রিম অটোমেশনের জন্য স্ট্রাকচার্ড আউটপুট (JSON, বুলেট চেকলিস্ট) গ্রহণ করুন।

সংবেদনশীল ডেটার জন্য, সবকিছু স্থানীয় রাখুন (Ollama + স্থানীয় এম্বেডিং + অন-প্রিম স্টোরেজ)।

সুর, বিন্যাস এবং গার্ডরেইল সংজ্ঞায়িত করতে সিস্টেম প্রম্পট ব্যবহার করুন।

উল্লেখ করার মতো: Sider.AI এর সাথে Open WebUI যুক্ত করা

আপনি যদি প্রচুর সামগ্রী তৈরি করেন বা গবেষণা করেন তবে একটি ওয়ার্কফ্লো সহযোগী সাহায্য করতে পারে। উল্লেখ করার মতো: Sider.AI দীর্ঘ-ফর্মের কাজ খসড়া করা, সংক্ষিপ্ত করা এবং সংগঠিত করতে সহায়তা করে। আপনি Open WebUI-তে ধারণা তৈরি করতে বা প্রসঙ্গ পুনরুদ্ধার করতে পারেন, তারপরে Sider.AI-এর সম্পাদক-শৈলীর সহায়তা ব্যবহার করে প্রকাশনার জন্য নিবন্ধগুলিকে পালিশ, পুনর্গঠন এবং SEO-অপ্টিমাইজ করতে পারেন। আপনি যখন নিয়ন্ত্রণ (স্ব-হোস্টেড চ্যাট + RAG) এবং গতি (সহযোগিতামূলক সম্পাদনা এবং অপ্টিমাইজেশন) উভয়ই চান তখন এটি একটি সহায়ক জুটি।

একটি সাধারণ স্টার্টার ব্লুপ্রিন্ট

ডকারের মাধ্যমে Open WebUI চালান।

Ollama ইনস্টল করুন, llama3 এবং mistral পুল করুন।

Open WebUI কে এবং সেটmistral`-এর সাথে চ্যাটের জন্য ডিফল্ট হিসাবে সংযুক্ত করুন।

KB তৈরি করুন: নীতি, বিপণন, রানবুক; একটি শক্তিশালী এম্বেডিং মডেল দিয়ে এম্বেড করুন।

তিনটি প্রম্পট টেমপ্লেট সংরক্ষণ করুন: “বুলেট সহ সারসংক্ষেপকারী,” “SEO রূপরেখা জেনারেটর” এবং “রিলিজ নোট লেখক।”

হার সীমা যুক্ত করুন এবং লগইন প্রয়োজন।

এই সেটআপের সাথে, বেশিরভাগ দল দৈনিক এআই কাজের 80% কভার করতে পারে।

মূল বিষয়গুলি

Open WebUI আপনাকে স্থানীয় এবং ক্লাউড LLM-এর সাথে কাজ করার জন্য একটি পরিষ্কার, নিয়ন্ত্রণযোগ্য UI দেয়।

গোপনীয়তা এবং গতির জন্য, স্থানীয়ভাবে Ollama-এর সাথে যুক্ত করুন; প্রয়োজনে ক্লাউড মডেল মিশ্রিত করুন।

আপনার ডকুমেন্টগুলিতে উত্তরের ভিত্তি স্থাপনের জন্য RAG ব্যবহার করুন; KB ছোট এবং ফোকাসড রাখুন।

প্রমাণীকরণ, কী নীতি এবং হার সীমা দিয়ে আপনার ইনস্ট্যান্স সুরক্ষিত করুন।

প্রম্পট এবং আউটপুট স্ট্যান্ডার্ডাইজ করুন যাতে আপনার দলের কাজ সামঞ্জস্যপূর্ণ এবং স্বয়ংক্রিয় হয়।

পরবর্তী পদক্ষেপ

ডকার দিয়ে Open WebUI স্পিন করুন এবং Ollama-র সাথে সংযোগ করুন।

আপনার প্রথম জ্ঞান বেস তৈরি করুন এবং পুনরুদ্ধার-সমর্থিত চ্যাট চেষ্টা করুন।

তিনটি প্রম্পট টেমপ্লেট সংরক্ষণ করুন যা আপনার দল প্রতিদিন পুনরায় ব্যবহার করবে।

আপনি যদি সামগ্রী প্রকাশ করেন তবে লাইভ হওয়ার আগে সুর, কাঠামো এবং SEO পরিমার্জন করতে Sider.AI এর মাধ্যমে খসড়াগুলি পাস করুন।

FAQ

Q1: Open WebUI কীসের জন্য ব্যবহৃত হয়? Open WebUI হল বৃহৎ ভাষা মডেলের জন্য একটি স্ব-হোস্টেড ইন্টারফেস। এটি আপনাকে স্থানীয় বা ক্লাউড মডেলের সাথে চ্যাট করতে, আপনার ডকুমেন্টগুলির সাথে RAG ওয়ার্কফ্লো তৈরি করতে এবং এক জায়গায় প্রম্পট এবং দলগুলি পরিচালনা করতে দেয়।

Q2: আমি Ollama-র সাথে Open WebUI কীভাবে ব্যবহার করব? Ollama ইনস্টল করুন, llama3 বা mistral-এর মতো একটি মডেল পুল করুন এবং তারপরে Open WebUI-এর Ollama সংযোগটি http://localhost:11434 এ নির্দেশ করুন। আপনি একটি ডিফল্ট মডেল সেট করতে পারেন এবং সম্পূর্ণ গোপনীয়তার সাথে স্থানীয়ভাবে চ্যাট করা শুরু করতে পারেন।

Q3: Open WebUI কি আমার PDF এবং নোটগুলির সাথে RAG করতে পারে? হ্যাঁ। একটি জ্ঞান বেস তৈরি করুন, ডকুমেন্ট আপলোড করুন, এম্বেডিং তৈরি করুন এবং চ্যাটে পুনরুদ্ধার সক্ষম করুন। মডেলটি গ্রাউন্ডেড উত্তরের জন্য আপনার নিজের উত্স থেকে উদ্ধৃত এবং সংক্ষিপ্ত করবে।

Q4: Open WebUI কি দলের জন্য সুরক্ষিত? আপনি সাইন-ইন প্রয়োগ করতে পারেন, ভূমিকা অনুসারে API কী পরিচালনা করতে পারেন এবং হার সীমা সেট করতে পারেন। উৎপাদনের জন্য, একটি রিভার্স প্রক্সির পিছনে HTTPS ব্যবহার করুন এবং কোন প্রদানকারী বা এন্ডপয়েন্ট অনুমোদিত তা সীমাবদ্ধ করুন।

Q5: Open WebUI-তে আমার স্থানীয় বা ক্লাউড মডেল ব্যবহার করা উচিত? গোপনীয়তা, গতি এবং খরচ নিয়ন্ত্রণের জন্য স্থানীয় মডেল ব্যবহার করুন; উচ্চ মানের প্রয়োজন এমন জটিল কাজের জন্য ক্লাউড মডেল ব্যবহার করুন। অনেক দল উভয়কে একত্রিত করে এবং চ্যাট-নির্দিষ্ট ডিফল্ট সেট করে।