Open WebUI:n käyttö – ystävällinen, vaiheittainen opas nopeampiin tekoälytyönkulkuihin
Oletko koskaan toivonut, että olisi muokattava, itse ylläpidetty kaksonen, jonka voisit yhdistää omiin malleihisi ja dataasi? Open WebUI on juuri sitä. Se on moderni, kevyt käyttöliittymä paikallisten tai etäisten suurten kielimallien (LLM) kanssa keskusteluun, kehotteiden hallintaan, RAG (Retrieval-Augmented Generation) -työnkulkujen rakentamiseen ja tiimikavereiden kanssa yhteistyöhön – kaikki selaimestasi.
Tässä käytännöllisessä, ratkaisukeskeisessä oppaassa käymme läpi Open WebUI:n käytön päästä päähän: asennusvaihtoehdot, yhdistäminen tai API:ihin, mallien hallinta, hakuvirtojen rakentaminen, instanssin suojaaminen ja kourallinen ammattilaisvinkkejä. Lopuksi voit ajaa tehokkaita tekoälytyönkulkuja omilla ehdoillasi – nopeasti.
Mikä on Open WebUI (ja miksi sitä kannattaa käyttää)?
Open WebUI on itse ylläpidettävä verkkokäyttöliittymä LLM:ille. Ajattele sitä tekoälyvuorovaikutuksesi komentokeskuksena – tuo omat mallisi (paikalliset tai pilvipalvelussa), luo uudelleenkäytettäviä kehotteita, lisää dokumenttisi ja tee yhteistyötä puhtaan, intuitiivisen käyttöliittymän kautta. Se on erityisen suosittu kehittäjien, datatiimien ja yksityisyyttitietoisten käyttäjien keskuudessa, jotka haluavat hallintaa, laajennettavuutta ja nopeutta.
Tärkeimmät syyt, miksi ihmiset valitsevat Open WebUI:n:
- Oma data: Aja paikallisesti tai palvelimellasi.
- Joustavat taustajärjestelmät: Yhdistä paikallisiin moottoreihin, kuten , tai etäpalveluntarjoajiin API:n kautta.
- Työnkulkuihin valmis: RAG, työkalut, upotukset ja jäsennetyt kehotteet.
- Ylläpidon hallinta: API-avainten hallinta, todennus ja ympäristön määritys.
Nopein tapa aloittaa: Docker Quick Start
Jos olet sinut kanssa, voit olla toiminnassa muutamassa minuutissa.
docker pull ghcr.io/open-webui/open-webui:main
docker run -d --name open-webui -p 3000:8080 ghcr.io/open-webui/open-webui:main
- Avaa selain ja vieraile osoitteessa
Pääset käyttöliittymään, luot järjestelmänvalvojan tilin ja olet valmis yhdistämään malleja.
Vinkki: Pysyvää tallennustilaa ja ympäristömuuttujia (kuten API-avainten rajoituksia ja todennusta) varten, vaihda docker-compose.yml -tiedostoon, jotta voit liittää volyymit ja määrittää konfiguraation puhtaasti.
Yhdistäminen malleihin: Paikalliset () tai pilvi-API:t
Open WebUI on taustajärjestelmästä riippumaton. Voit:
- Käytä Llama 3 mallien ajamiseen paikallisesti (esim. Llama 3, , ). Tämä on loistava vaihtoehto yksityisyyden ja offline-työskentelyn kannalta.
- Käytä pilvi-API:ita, kuten OpenAI, Anthropic, Google tai muita API-avainten kautta.
Vaihtoehto A: Käytä paikallisesti
- Vieraile osoitteessa `{Ollama_Installation_URL}` asentaaksesi.
Voit korvata llama3:n malleilla, kuten mistral, phi3 tai llama3:instruct tarpeidesi mukaan.
- Varmista, että Open WebUI voi tavoittaa paikallisen päätepisteen (yleensä `{http://localhost:11434}` ).
- Siirry Open WebUI:ssa kohtaan Admin Settings → Connections →
- Lisää päätepiste, valitse oletusmallit ja testaa yhteys.
Nyt voit keskustella paikallisten mallien kanssa suoraan selaimessa.
Vaihtoehto B: Käytä pilvipalveluntarjoajia API-avainten kautta
- Siirry kohtaan Admin Settings → Providers (tai API/Keys)
- Lisää avaimet OpenAI:lle, Anthropicille tai Googlelle.
- Valitse oletusmalli kullekin palveluntarjoajalle
- Esimerkiksi:
gpt-4o-mini (OpenAI), claude‑3‑haiku (Anthropic) tai gemini‑1.5‑flash (Google).
- Ota käyttöön nopeusrajoitukset, käyttöalueet tai käyttäjäkohtaiset avaimet tiimisi asetuksista riippuen.
Tämä hybridimalli (paikallinen + pilvi) on yleinen: nopeat luonnokset paikallisilla malleilla, sitten viimeistely pilvimallilla tarvittaessa.
Ensimmäinen chattisi: Kehotteet, tilat ja liitteet
Kun malli on yhdistetty, aloita uusi chat. Muutama perusasia:
- Kehotemallit: Tallenna usein käytetyt ohjeet (järjestelmäkehotteet), kuten ”Olet Python-opettajani – selitä esimerkkien ja testien avulla.”
- Tilat: Vaihda luovan, ytimekkään tai teknisen tyylin välillä säätämällä järjestelmäkehotteita tai lämpötilaa.
- Liitteet: Lataa tiedostoja (PDF, TXT, CSV), joihin malli voi viitata. Suuria tai toistuvia tietokokonaisuuksia varten luo tietopohja upotusten avulla (katso RAG alla).
Ammattilaisvinkki: Järjestä chatit projektin mukaan. Käytä tunnisteita, kuten #docs, #code tai #analysis, jotta löydät asiat nopeasti tulevaisuudessa.
Rakenna RAG minuuteissa: Tietämys, upotukset ja haku
RAG (Retrieval-Augmented Generation) antaa mallillesi mahdollisuuden vastata kysymyksiin sisällölläsi (dokumentit, muistiinpanot, käytännöt, koodi). Näin saat sen kasaan:
- Luo sivupalkissa uusi KB tai ”Collections” (kokoelmat).
- Lataa dokumentteja: PDF-tiedostoja, , HTML:ää tai tekstitiedostoja.
- Valitse upotusten taustajärjestelmä (paikallinen kautta, jos sinulla on upotusmalli, tai pilvipalveluntarjoaja API:n kautta).
- Indeksoi dokumenttisi; suurempien sarjojen indeksointi voi kestää muutaman minuutin.
- Ota haku käyttöön chatissa
- Ota chatissa haku käyttöön ja valitse KB:si.
- Esitä kysymyksiä, kuten ”Tee yhteenveto perehdytyskäytännöstämme ja listaa toimenpiteet” tai ”Mitä poikkeuksia sallimme tietoturvakäytännössä?”
- Tarkista lähteet, hienosäädä dokumenttejasi, säädä palakokoa ja upota uudelleen, jos vastaukset vaikuttavat virheellisiltä.
Ammattilaisvinkki: Ylläpidä erillisiä KB:itä tarkkuuden vuoksi (esim. ”Markkinointiteksti”, ”Oikeudelliset käytännöt”, ”Käyttöohjeet”). Tämä vähentää merkityksettömiä hakuja.
Toiminnot, työkalut ja työnkulut
Open WebUI tukee työkaluvetoista vuorovaikutusta, joten malli voi ”tehdä asioita”, ei vain keskustella. Asennuksestasi riippuen voit:
- Kutsua määrittämiäsi toimintoja/työkaluja (esim. ajaa skriptiä, hakea URL-osoitteen, tehdä kyselyn tietokantaan).
- Käyttää järjestelmäkehotteiden työnkulkuja monivaiheisten tehtävien jäsentämiseen.
- Lisätä laajennuksia, jos käyttöönotto tukee niitä.
Esimerkki: ”Sisältöluonnos” -työnkulku
- Vaihe 1: Pyydä mallia poimimaan avainsanoja aiheesta.
- Vaihe 2: Tutki verkkotyökalun avulla (jos käytössä) ja tee yhteenveto lähteistä.
- Vaihe 3: Laadi luonnos + nimivariaatiot.
- Vaihe 4: Luo lyhyt/pitkä versio.
Tallenna nämä vaiheet uudelleenkäytettävään malliin, jotta tiimisi voi suorittaa ne yhdellä napsautuksella.
Mallien hallinta kuin ammattilainen
- Useita oletusarvoja: Aseta oletusarvot työtilakohtaisesti tai chattikohtaisesti (esim. nopea paikallinen aivoriihille, tarkka pilvi lopullista kopiota varten).
- Mallikortit: Dokumentoi, mitä kukin malli osaa parhaiten – ”Käytä koodiin, ytimekkäisiin yhteenvetoihin.”
- Erätehtävät: Käytä pidempiä järjestelmäkehotteita ja jäsenneltyä tulostetta (
JSON, tarkistuslistat) toistettaviin tehtäviin, kuten laadunvarmistustarkastuksiin, käännöksiin tai merkitsemiseen.
Ylläpidon asetukset: Turvallisuus ja hallinta
Jos ylläpidät itse tiimiäsi, käytä muutama minuutti instanssisi koventamiseen ja hallintaan.
- Todennus: Vaadi sisäänkirjautuminen. Jos mahdollista, ota SSO/OIDC käyttöön.
- API-avainkäytännöt: Rajoita, mitä palveluntarjoajia voidaan käyttää, rajaa avaimia käyttäjän/roolin mukaan ja rajoita ulosmenevää liikennettä tarvittaessa.
- Ympäristömuuttujat: Määritä asioita, kuten mallien päätepisteiden URL-osoitteet, upotustaustajärjestelmät ja avainrajoitukset ympäristöasetusten kautta.
- Nopeusrajoitukset ja kiintiöt: Estä hallitsemattomat kustannukset käyttäjä- tai työtilakohtaisilla rajoituksilla.
- Auditoitavuus: Kannusta tiimejä merkitsemään chatit ja tallentamaan yhteenvedot, jotta voit jäljittää päätöksiä.
Kehittäjän vinkki: Aseta Open WebUI käänteisen välityspalvelimen (esim. Nginx/Caddy) taakse HTTPS:n kanssa ja aseta sallitut alkuperät.
Tiimiyhteistyö ja tietämyksen hygienia
- Jaetut kehotteet ja KB:t: Luo kuratoituja kehotekirjastoja ja tietopohjia. Määritä ylläpitäjät.
- Versioi sisältö: Säilytä käytäntöasiakirjojen tai eritelmien lähteet tai dokumenttikeskuksessa ja upota uudelleen, kun niitä päivitetään.
- Lähde edellä -vastaukset: Kannusta käyttäjiä napsauttamaan viittauksia ja lukemaan alkuperäisiä dokumentteja. Luota, mutta varmista.
Päivittäiset käyttötapaukset (kopioi nämä)
- Muunna luonnos kolmeksi yleisökohtaiseksi luonnokseksi.
- Luo hakukoneoptimointiluonnoksia, vastauksia usein kysyttyihin kysymyksiin ja otsikoita.
- Selitä toiminto ja luo reunaehdotustestejä.
- Tee yhteenveto PR:istä ja luo julkaisutiedotteita.
- Rakenna KB käyttöohjeista ja vakioiduista toimintatavoista.
- Laadi vastauksia käyttämällä ääni-/tyyliohjetta.
- Tee yhteenveto 10 dokumentista yhdeksi sivuksi viittauksilla.
- Vertaa toimittajia käyttämällä jäsenneltyä matriisia.
Vianmääritys: Nopeat korjaukset
- ”Ei voi muodostaa yhteyttä ”
- Tarkista, että on käynnissä: `curl `{http://localhost:11434}`
- Varmista verkkoyhteys kontista isäntään.
- Hae malli
ollama pull mistral kautta: ollama pull mistral
- Pilvipalvelussa varmista tarkka mallin nimi ja käyttöoikeudet.
- ”RAG-tulokset näyttävät merkityksettömiltä”
- Upota uudelleen paremmalla upotusmallilla.
- Säädä palakokoa (esim. 500–1 000 tokenia) ja päällekkäisyyttä.
- Jaa KB pienempiin, aihekohtaisiin kokoelmiin.
- Aseta nopeusrajoitukset ja oletuksena paikalliset mallit luonnoksille.
Suorituskykyvinkkejä ja kehittyneitä siirtoja
- Käytä pienempiä paikallisia malleja ideointiin ja suurempia/pilvimalleja viimeistelyyn.
- Välimuista usein toistuvat kehotteet ja vastaukset mahdollisuuksien mukaan.
- Ota käyttöön jäsennetyt tulosteet (
JSON, luettelotarkistuslistat) jatkokäsittelyn automatisointeja varten.
- Pidä arkaluonteiset tiedot paikallisina ( + paikalliset upotukset + paikallinen tallennustila).
- Käytä järjestelmäkehotteita määrittääksesi äänen, muotoilun ja suojakaiteet.
Huomionarvoista: Open WebUI:n yhdistäminen Sider.AI:n kanssa
Jos tuotat paljon sisältöä tai teet tutkimusta, työnkulun kumppani voi auttaa. On syytä huomata: Sider.AI avustaa pitkien töiden laatimisessa, tiivistämisessä ja järjestämisessä. Voit ideoida tai hakea kontekstia Open WebUI:ssa ja käyttää sitten Sider.AI:n editorityylistä apua artikkeleiden hiomiseen, uudelleenjärjestelyyn ja hakukoneoptimointiin julkaisua varten. Se on hyödyllinen yhdistelmä, kun haluat sekä hallintaa (itse ylläpidetty chat + RAG) että nopeutta (yhteistyöhön perustuva muokkaus ja optimointi).
Yksinkertainen aloitusmalli
- Asenna
llama3, hae llama3 ja mistral.
- Yhdistä Open WebUI
and setmistral` oletusarvoksi chatille.
- Luo KB:t:
Policies (käytännöt), Marketing (markkinointi), Runbooks (käyttöohjeet); upota vahvalla upotusmallilla.
- Tallenna kolme kehotemallia: ”Yhteenvetotyökalu luettelomerkeillä”, ”Hakukoneoptimointiluonnoksen luoja” ja ”Julkaisutiedotteiden kirjoittaja”.
- Lisää nopeusrajoitukset ja vaadi sisäänkirjautuminen.
Tällä asennuksella useimmat tiimit voivat kattaa 80 % päivittäisistä tekoälytehtävistä.
Tärkeimmät huomiot
- Open WebUI antaa sinulle puhtaan, hallittavan käyttöliittymän työskennellä paikallisten ja pilvi-LLM:ien kanssa.
- Yksityisyyden ja nopeuden vuoksi yhdistä se Ollamaan paikallisesti; sekoita joukkoon pilvimalleja tarvittaessa.
- Käytä RAG:ia perustaaksesi vastaukset dokumentteihisi; pidä KB:t pieninä ja kohdennettuina.
- Suojaa instanssisi todennuksella, avainkäytännöillä ja nopeusrajoituksilla.
- Vakioi kehotteet ja tulosteet, jotta tiimisi työ on johdonmukaista ja automatisoitavissa.
Seuraavat vaiheet
- Käynnistä Open WebUI ja muodosta yhteys .
- Luo ensimmäinen tietopohjasi ja kokeile haulla tuettua chattia.
- Tallenna kolme kehotemallia, joita tiimisi käyttää päivittäin uudelleen.
- Jos julkaiset sisältöä, siirrä luonnokset Sider.AI:n kautta hioaksesi ääntä, rakennetta ja hakukoneoptimointia ennen julkaisua.
UKK
K1: Mihin Open WebUI:ta käytetään?
Open WebUI on itse ylläpidetty käyttöliittymä suurille kielimalleille. Sen avulla voit keskustella paikallisten tai pilvimallien kanssa, rakentaa RAG-työnkulkuja dokumenttiesi avulla ja hallita kehotteita ja tiimejä yhdessä paikassa.
K2: Kuinka käytän Open WebUI:ta Ollaman kanssa?
Asenna Ollama, hae malli, kuten Ollama tai mistral, ja osoita sitten Open WebUI:n Ollama-yhteys osoitteeseen http://localhost:11434. Voit asettaa oletusmallin ja aloittaa keskustelun paikallisesti täysin yksityisesti.
K3: Voiko Open WebUI tehdä RAG:ia PDF-tiedostojeni ja muistiinpanojeni kanssa?
Kyllä. Luo tietopohja, lataa dokumentteja, luo upotuksia ja ota haku käyttöön chatissa. Malli viittaa ja tekee yhteenvedon omista lähteistäsi perusteltujen vastausten saamiseksi.
K4: Onko Open WebUI turvallinen tiimeille?
Voit ottaa käyttöön sisäänkirjautumisen, hallita API-avaimia roolin mukaan ja asettaa nopeusrajoituksia. Tuotannossa käytä HTTPS:ää käänteisen välityspalvelimen takana ja rajoita, mitkä palveluntarjoajat tai päätepisteet ovat sallittuja.
K5: Pitäisikö minun käyttää paikallisia vai pilvimalleja Open WebUI:ssa?
Käytä paikallisia malleja yksityisyyden, nopeuden ja kustannusten hallinnan vuoksi; käytä pilvimalleja monimutkaisiin tehtäviin, jotka vaativat korkeampaa laatua. Monet tiimit yhdistävät molemmat ja asettavat chat-kohtaisia oletusarvoja.