What is Open WebUI used for?

Open WebUI is a self-hosted interface for large language models. It lets you chat with local or cloud models, build RAG workflows with your documents, and manage prompts and teams in one place.

How do I use Open WebUI with Ollama?

Install Ollama, pull a model like `llama3` or `mistral`, and then point Open WebUI’s Ollama connection to `http://localhost:11434`. You can set a default model and start chatting locally with full privacy.

Can Open WebUI do RAG with my PDFs and notes?

Yes. Create a knowledge base, upload documents, generate embeddings, and enable retrieval in chat. The model will cite and summarize from your own sources for grounded answers.

Is Open WebUI secure for teams?

You can enforce sign-in, manage API keys by role, and set rate limits. For production, use HTTPS behind a reverse proxy and restrict which providers or endpoints are allowed.

Should I use local or cloud models in Open WebUI?

Use local models for privacy, speed, and cost control; use cloud models for complex tasks requiring higher quality. Many teams combine both and set chat-specific defaults.

Cara Menggunakan Open WebUI: Panduan Mesra, Langkah demi Langkah untuk Aliran Kerja AI yang Lebih Pantas

Jika anda pernah berhasrat agar ChatGPT mempunyai kembar hos sendiri yang boleh disesuaikan dan anda boleh sambungkan ke model dan data anda sendiri, Open WebUI adalah tepat seperti itu. Ia adalah antara muka moden dan ringan untuk berbual dengan model bahasa besar (LLM) tempatan atau jauh, mengurus gesaan, membina aliran kerja RAG (Retrieval‑Augmented Generation), dan bekerjasama dengan rakan sepasukan—semuanya dari pelayar anda.

Dalam panduan praktikal dan berorientasikan penyelesaian ini, kita akan meneliti cara menggunakan Open WebUI dari hujung ke hujung: pilihan persediaan, menyambung ke Ollama atau API, mengurus model, membina aliran perolehan, melindungi contoh anda, dan beberapa petua pro. Pada akhirnya, anda akan dapat menjalankan aliran kerja AI yang berkuasa mengikut syarat anda sendiri—dengan pantas.

Apakah Itu Open WebUI (dan Mengapa Menggunakannya)?

Open WebUI ialah antara muka web yang boleh dihoskan sendiri untuk LLM. Anggap ia sebagai pusat arahan untuk interaksi AI anda—bawa model anda sendiri (tempatan atau awan), buat gesaan yang boleh digunakan semula, tambahkan dokumen anda, dan bekerjasama melalui UI yang bersih dan intuitif. Ia amat popular dalam kalangan pembangun, pasukan data dan pengguna yang mementingkan privasi yang mahukan kawalan, kebolehluasan dan kelajuan.

Sebab utama orang ramai memilih Open WebUI:

Miliki data anda: Jalankan secara tempatan atau pada pelayan anda.

Backend yang fleksibel: Sambung ke enjin tempatan seperti Ollama atau penyedia jauh melalui API.

Sedia aliran kerja: RAG, alat, pembenaman dan gesaan berstruktur.

Kawalan pentadbir: Pengurusan kunci API, pengesahan dan konfigurasi persekitaran.

Cara Terpantas untuk Bermula: Mula Pantas Docker

Jika anda selesa dengan Docker, anda boleh bersedia dan beroperasi dalam beberapa minit.

Tarik imej

docker pull ghcr.io/open-webui/open-webui:main

Jalankan kontena

docker run -d --name open-webui -p 3000:8080 ghcr.io/open-webui/open-webui:main

Buka pelayar anda dan lawati

Anda akan tiba di UI, membuat akaun pentadbir, dan anda bersedia untuk menyambung model.

Petua: Untuk storan berterusan dan pemboleh ubah persekitaran (seperti sekatan kunci API dan pengesahan), bertukar kepada docker-compose.yml supaya anda boleh memasang volum dan mentakrifkan konfigurasi dengan bersih.

Menyambung ke Model: Tempatan (Ollama) atau API Awan

Open WebUI adalah agnostik backend. Anda boleh:

Gunakan Ollama untuk menjalankan model secara tempatan (contohnya, Llama 3, Phi‑3, Mistral). Ini bagus untuk privasi dan kerja luar talian.

Gunakan API awan seperti OpenAI, Anthropic, Google, atau yang lain melalui kunci API.

Pilihan A: Gunakan Ollama Secara Tempatan

Pasang Ollama (macOS, Linux, Windows)

Lawati ` untuk memasang.

Tarik model dengan Ollama

ollama pull llama3

Anda boleh menggantikan llama3 dengan model seperti mistral, phi3, atau llama3:instruct bergantung pada keperluan anda.

Mulakan Open WebUI

Pastikan Open WebUI boleh mencapai titik akhir tempatan Ollama (biasanya `).

Dalam Open WebUI, pergi ke Admin Settings → Connections → Ollama

Tambahkan titik akhir, pilih model lalai, dan uji sambungan.

Kini anda boleh berbual dengan model tempatan terus dalam pelayar.

Pilihan B: Gunakan Penyedia Awan melalui Kunci API

Dalam Admin Settings → Providers (atau API/Keys)

Tambahkan kunci untuk OpenAI, Anthropic, atau Google.

Pilih model lalai setiap penyedia

Contohnya: gpt-4o-mini (OpenAI), claude‑3‑haiku (Anthropic), atau gemini‑1.5‑flash (Google).

Tetapkan had

Kuatkuasakan had kadar, skop penggunaan, atau kunci setiap pengguna bergantung pada persediaan pasukan anda.

Pendekatan hibrid ini (tempatan + awan) adalah biasa: draf pantas pada model tempatan, kemudian perhalusi dengan model awan apabila diperlukan.

Sesi Sembang Pertama Anda: Gesaan, Mod dan Lampiran

Sebaik sahaja model disambungkan, mulakan sembang baharu. Beberapa asas:

Templat gesaan: Simpan arahan yang kerap digunakan (gesaan sistem) seperti “Anda ialah tutor Python saya—terangkan dengan contoh dan ujian.”

Mod: Bertukar antara gaya kreatif, ringkas atau teknikal dengan melaraskan gesaan sistem atau suhu.

Lampiran: Muat naik fail (PDF, TXT, CSV) untuk model dirujuk. Untuk korpus yang besar atau berulang, buat pangkalan pengetahuan dengan pembenaman (lihat RAG di bawah).

Petua pro: Susun sembang mengikut projek. Gunakan teg seperti #docs, #code, atau #analysis supaya anda akan datang dapat mencari sesuatu dengan pantas.

Bina RAG dalam Beberapa Minit: Pengetahuan, Pembenaman dan Carian

RAG (Retrieval‑Augmented Generation) membolehkan model anda menjawab soalan dengan kandungan anda (dokumen, nota, dasar, kod). Berikut ialah cara untuk menyediakannya:

Buat Pangkalan Pengetahuan (KB)

Dalam bar sisi, buat KB atau “Koleksi” baharu.

Muat naik dokumen: PDF, markdown, HTML atau fail teks.

Jana Pembenaman

Pilih backend pembenaman (tempatan melalui Ollama jika anda mempunyai model pembenaman, atau penyedia awan melalui API).

Indeks dokumen anda; set yang lebih besar mungkin mengambil masa beberapa minit.

Dayakan Perolehan dalam Sembang

Dalam sembang, togol perolehan dan pilih KB anda.

Tanya soalan seperti “Ringkaskan dasar onboarding kami dan senaraikan perkara tindakan,” atau “Pengecualian apa yang kami benarkan dalam dasar keselamatan?”

Ulang

Periksa sumber, perhalusi dokumen anda, laraskan saiz chunking, dan benamkan semula jika jawapan kelihatan tidak betul.

Petua pro: Kekalkan KB yang berasingan untuk ketepatan (contohnya, “Salinan pemasaran,” “Dasar undang-undang,” “Buku panduan”). Ini mengurangkan perolehan yang tidak berkaitan.

Tindakan, Alat dan Aliran Kerja

Open WebUI menyokong interaksi yang dipacu alat supaya model boleh “melakukan sesuatu,” bukan sekadar berbual. Bergantung pada persediaan anda, anda boleh:

Panggil fungsi/alat yang anda takrifkan (contohnya, jalankan skrip, ambil URL, pertanyaan pangkalan data).

Gunakan aliran kerja gesaan sistem untuk menstrukturkan tugas berbilang langkah.

Tambahkan pemalam/sambungan jika penggunaan anda menyokongnya.

Contoh: Aliran kerja “Brief Kandungan”

Langkah 1: Minta model mengekstrak kata kunci daripada topik.

Langkah 2: Buat penyelidikan melalui alat web (jika didayakan) dan ringkaskan sumber.

Langkah 3: Draf rangka + varian tajuk.

Langkah 4: Buat versi pendek/panjang.

Simpan langkah ini dalam templat yang boleh digunakan semula supaya pasukan anda boleh menjalankannya dengan satu klik.

Mengurus Model Seperti Profesional

Lalai berbilang: Tetapkan lalai setiap ruang kerja atau setiap sembang (contohnya, tempatan pantas untuk sumbang saran, awan tepat untuk salinan akhir).

Kad model: Dokumentasikan perkara yang model lakukan terbaik—“Gunakan Llama 3 untuk kod, Mistral untuk ringkasan ringkas.”

Tugas kelompok: Gunakan gesaan sistem yang lebih panjang dan output berstruktur (JSON, senarai semak) untuk tugas berulang seperti pemeriksaan QA, terjemahan atau pengetegan.

Tetapan Pentadbir: Keselamatan dan Tadbir Urus

Jika anda menghoskan sendiri untuk pasukan, luangkan beberapa minit untuk mengukuhkan dan mentadbir contoh anda.

Pengesahan: Perlukan log masuk. Jika tersedia, dayakan SSO/OIDC.

Dasar kunci API: Hadkan penyedia yang boleh digunakan, skop kunci mengikut pengguna/peranan, dan sekatan keluar jika sesuai.

Pemboleh ubah persekitaran: Konfigurasikan perkara seperti URL titik akhir model, backend pembenaman dan sekatan kunci melalui tetapan env.

Had kadar dan kuota: Elakkan kos larian dengan had setiap pengguna atau setiap ruang kerja.

Keboleh аудиtan: Galakkan pasukan untuk melabel sembang dan menyimpan ringkasan supaya anda boleh mengesan keputusan.

Petua pembangun: Letakkan Open WebUI di belakang proksi terbalik (contohnya, Nginx/Caddy) dengan HTTPS dan tetapkan asal yang dibenarkan.

Kerjasama Pasukan dan Kebersihan Pengetahuan

Gesaan dan KB yang dikongsi: Buat pustaka gesaan dan pangkalan pengetahuan yang dipilih susun. Tugaskan penyelenggara.

Versi kandungan: Untuk dokumen dasar atau spesifikasi, simpan sumber dalam Git atau hab dokumen dan benamkan semula apabila dikemas kini.

Jawapan berasaskan sumber: Galakkan pengguna untuk mengklik petikan dan mengimbas dokumen asal. Percaya, tetapi sahkan.

Kes Penggunaan Harian (Salin Ini)

Kandungan & pemasaran

Tukar brief kepada tiga draf khusus khalayak.

Jana rangka SEO, Soalan Lazim dan tajuk.

Kejuruteraan

Terangkan fungsi dan jana ujian kes tepi.

Ringkaskan PR dan hasilkan nota keluaran.

Operasi & sokongan

Bina KB daripada buku panduan dan SOP.

Draf respons menggunakan panduan nada/gaya anda.

Penyelidikan & strategi

Ringkaskan 10 dokumen menjadi 1 helaian dengan petikan.

Bandingkan vendor menggunakan matriks berstruktur.

Penyelesaian Masalah: Pembetulan Pantas

“Tidak dapat menyambung ke Ollama”

Semak Ollama sedang berjalan: `curl

Sahkan akses rangkaian daripada kontena ke hos.

“Model tidak ditemui”

Tarik model melalui Ollama: ollama pull mistral

Untuk awan, sahkan nama dan kebenaran model yang tepat.

“Keputusan RAG kelihatan tidak berkaitan”

Benamkan semula dengan model pembenaman yang lebih baik.

Laraskan saiz chunk (contohnya, 500–1,000 token) dan bertindih.

Pisahkan KB anda kepada koleksi topik yang lebih kecil.

“Kos meningkat”

Tetapkan had kadar dan lalai kepada model tempatan untuk draf.

Petua Prestasi dan Langkah Lanjutan

Gunakan model tempatan yang lebih kecil untuk idea dan model yang lebih besar/awan untuk pemuktamadan.

Cache gesaan dan respons yang kerap jika boleh.

Guna pakai output berstruktur (JSON, senarai semak bertitik) untuk automasi hiliran.

Untuk data sensitif, simpan semuanya secara tempatan (Ollama + pembenaman tempatan + storan di premis).

Gunakan gesaan sistem untuk mentakrifkan nada, pemformatan dan rel pengawal.

Perlu Diperhatikan: Memasangkan Open WebUI dengan Sider.AI

Jika anda menghasilkan banyak kandungan atau penyelidikan, rakan aliran kerja boleh membantu. Perlu diperhatikan: Sider.AI membantu dengan draf, meringkaskan dan menyusun kerja bentuk panjang. Anda boleh membuat idea atau mendapatkan semula konteks dalam Open WebUI, kemudian menggunakan bantuan gaya editor Sider.AI untuk menggilap, menstruktur semula dan mengoptimumkan SEO artikel untuk penerbitan. Ia merupakan gandingan yang berguna apabila anda mahukan kedua-dua kawalan (sembang hos sendiri + RAG) dan kelajuan (penyuntingan dan pengoptimuman kolaboratif).

Pelan Tindakan Permulaan Mudah

Jalankan Open WebUI melalui Docker.

Pasang Ollama, tarik llama3 dan mistral.

Sambungkan Open WebUI ke dan tetapkanmistral` sebagai lalai untuk sembang.

Buat KB: Dasar, Pemasaran, Buku Panduan; benamkan dengan model pembenaman yang kuat.

Simpan tiga templat gesaan: “Pembuat ringkasan dengan butiran,” “Penjana rangka SEO” dan “Penulis nota keluaran.”

Tambahkan had kadar dan perlukan log masuk.

Dengan persediaan ini, kebanyakan pasukan boleh meliputi 80% daripada tugas AI harian.

Perkara Utama

Open WebUI memberi anda UI yang bersih dan boleh dikawal untuk bekerja dengan LLM tempatan dan awan.

Untuk privasi dan kelajuan, pasangkannya dengan Ollama secara tempatan; campurkan model awan apabila diperlukan.

Gunakan RAG untuk mendasarkan jawapan dalam dokumen anda; pastikan KB kecil dan fokus.

Lindungi contoh anda dengan pengesahan, dasar kunci dan had kadar.

Piawaikan gesaan dan output supaya kerja pasukan anda adalah konsisten dan boleh diautomasikan.

Langkah Seterusnya

Hidupkan Open WebUI dengan Docker dan sambung ke Ollama.

Buat pangkalan pengetahuan pertama anda dan cuba sembang yang disokong perolehan.

Simpan tiga templat gesaan yang akan digunakan semula oleh pasukan anda setiap hari.

Jika anda menerbitkan kandungan, hantar draf melalui Sider.AI untuk memperhalusi nada, struktur dan SEO sebelum disiarkan.

Soalan Lazim

S1:Untuk apakah Open WebUI digunakan? Open WebUI ialah antara muka hos sendiri untuk model bahasa yang besar. Ia membolehkan anda berbual dengan model tempatan atau awan, membina aliran kerja RAG dengan dokumen anda, dan mengurus gesaan dan pasukan di satu tempat.

S2:Bagaimanakah cara saya menggunakan Open WebUI dengan Ollama? Pasang Ollama, tarik model seperti llama3 atau mistral, dan kemudian halakan sambungan Ollama Open WebUI ke http://localhost:11434. Anda boleh menetapkan model lalai dan mula berbual secara tempatan dengan privasi penuh.

S3:Bolehkah Open WebUI melakukan RAG dengan PDF dan nota saya? Ya. Buat pangkalan pengetahuan, muat naik dokumen, jana pembenaman dan dayakan perolehan dalam sembang. Model akan memetik dan meringkaskan daripada sumber anda sendiri untuk jawapan yang berasaskan.

S4:Adakah Open WebUI selamat untuk pasukan? Anda boleh menguatkuasakan log masuk, mengurus kunci API mengikut peranan dan menetapkan had kadar. Untuk pengeluaran, gunakan HTTPS di belakang proksi terbalik dan hadkan penyedia atau titik akhir yang dibenarkan.

S5:Haruskah saya menggunakan model tempatan atau awan dalam Open WebUI? Gunakan model tempatan untuk privasi, kelajuan dan kawalan kos; gunakan model awan untuk tugas kompleks yang memerlukan kualiti yang lebih tinggi. Banyak pasukan menggabungkan kedua-duanya dan menetapkan lalai khusus sembang.