Johdanto: Viikonloppu, jolloin yritin opettaa kannettavaani ajattelemaan
Tunnustus: Vietin lauantain yrittäen saada kannettavani suorittamaan suurta kielimallia. Kuvittele minut, kahvikuppi kädessä, kuiskimassa kannustavia sanoja terminaali-ikkunalle kuin se olisi juurileipätaikina: "Kyllä sinä pystyt." Jos olet leikkinyt Ollaman kanssa – ystävällinen, all-in-one tapa suorittaa AI-malleja omalla tietokoneellasi – olet tuntenut paikallisen tekoälyn jännityksen, joka ei soittele kotiin. Mutta entä jos haluat erilaisen maun: mukavamman käyttöliittymän, nopeuden lisäyksiä, paremman GPU-tuen tai hienosäädetyn hallinnan?
Hyviä uutisia: Ollama ei ole ainoa lapsi korttelissa. Vuonna 2025 on vilkas basaari paikallisia LLM-ajureita, GUI:ta ja mallipalvelimia, jotka voivat muuttaa tietokoneesi aikaa matkaavaksi kirjoituskoneeksi. Tänään tutustumme parhaisiin Ollama-vaihtoehtoihin – missä ne ovat hyviä, missä ne kompastuvat ja mikä niistä sopii sinun kokoonpanoosi – olitpa sitten utelias puuhastelija tai teknologiajohtaja.
Muuten, tarkistin, mikä on kuumaa ja mikä hypeä paikallisessa tekoälymaailmassa, mukaan lukien paikallisten LLM-työkalujen ja vertailujen kokoelmat. Näet viittaukset ripoteltuna pitkin matkaa. Ja kurkistin Sider.AI:n blogimaailmaan nähdäkseni, missä se sopii ihmisille, jotka tutkivat ja kirjoittavat tekoälyn avulla joka päivä. Kenelle tämä on tarkoitettu (ja kuka voi turvallisesti jatkaa)
- Haluat suorittaa AI-malleja paikallisesti yksityisyyden, nopeuden vuoksi tai koska Wi-Fi:si käyttäytyy joskus kuin pesukarhu, joka penkoo roskiasi.
- Olet kokeillut Ollamaa tai kuullut siitä, ja mietit: Onko GPU:lleni parempi työkalu? Työnkulkuihini? Järjellisyyteni säilyttämiseksi?
- Pidät ystävällisistä painikkeista enemmän kuin komentoriveistä – tai päinvastoin. Meillä on molempia.
Jos haluat vain keskustella tekoälyn kanssa selaimessa etkä koskaan koske asetuksiin, tämä saattaa olla ylilyönti. Meille muille: eteenpäin.
Lyhyt lista: Parhaat Ollama-vaihtoehdot persoonallisuuden mukaan
- LM Studio: Paikallisten mallien "App Store" -tunnelma, jossa on hiottu GUI ja helpot lataukset. Erittäin helposti lähestyttävä. Erinomainen mallien selaamiseen ja aloittamiseen.
- Text Generation WebUI (oobabooga): Sveitsiläinen armeijan web-sovellus – paljon kytkimiä, laajennuksia, hahmoasetuksia. Tehokäyttäjän paratiisi.
- OpenWebUI: Puhdas, moderni chat-käyttöliittymä, joka voi istua paikallisten taustaohjelmien päällä. Vähemmän hankala kuin TGWUI, mutta silti joustava.
- llama.cpp (ja ystävät): Monien työkalujen taustalla oleva matalan tason moottori. Kevyt, CPU/GPU-ystävällinen, erinomainen sulautettuihin tai minimaalisiin kokoonpanoihin.
- vLLM: Jos välität suorituskyvystä ja useiden käyttäjien palvelemisesta – ajattele laboratorioita, tiimejä tai vakavaa puuhastelua – vLLM on nopea kaistasi.
- KoboldCpp / KoboldAI: Erinomainen tarinankirjoituksen työnkulkuihin, roolipeleihin ja pitkäkestoisiin luoviin istuntoihin; vankka muisti ja hahmotyökalut.
- LMDeploy ja muut päättely-/palvelupinot: "Haluan maksimaalisen suorituskyvyn GPU:lleni" -joukolle; enemmän konfigurointia, enemmän nopeutta.
Valintakartta: Mitä todella tarvitset?
- "Olen upouusi. Älä pakota minua muistamaan lippuja." LM Studio tai OpenWebUI. Aloita tästä, jos pidät ystävällisestä käyttöliittymästä ja minimaalisesta asennuksesta.
- "Anna minulle jokainen nuppi ja vipu." Text Generation WebUI. Saat ajoitussäätimet, kehotemallit, laajennukset ja paljon muuta.
- "Kannettavani on keskitason, mutta olen itsepäinen." llama.cpp. Kevyt, tehokas, yllättävän pätevä vaatimattomalla laitteistolla.
- "Haluan palvella malleja tiimilleni." vLLM tai vastaava palvelinpino. Suorituskyvyllä ja samanaikaisuudella on tässä merkitystä.
- "Kirjoitan fiktiota ja välitän pitkäkestoisesta muistista." Kobold-makuiset työkalut voivat loistaa kerronnallisessa tekoälyssä pysyvällä muistilla.
Miksi ei vain pysyä Ollamassa?
Ollama on hieno, varsinkin jos haluat yhden rivin asennuksen ja yksinkertaisen mallien noudon. Mutta se tekee asiat Ollama-tavalla – sen mallimuodot, sen rekisteri, sen suoritusaika. Jos haluat kiiltävän GUI:n, monimutkaisen monen käyttäjän palvelun tai ultratarkistetun GPU-optimoinnin, saatat olla onnellisempi muualla. Ja jos sinulla on jo suosikkimallin käyttöliittymä (esimerkiksi OpenWebUI), saatat pitää taustaohjelmasta, joka toimii hyvin sen kanssa.
Kierretään vaihtoehdot, Pogue-tyylillä
LM Studio: Viihtyisä kahvila paikallisille malleille
Jos Ollama on autokaista, LM Studio on kahvila sohvilla. Lataat sovelluksen, selaat malliluetteloa ja napsautat asentaaksesi. Keskustele, kokeile, vaihda malleja – ilman komentorivisyntaksin neuvottelua. Se paljastaa API:n, jos tarvitset sellaisen, mutta se ei saa sinua oppimaan YAML:ää tunteaksesi olosi älykkääksi. Monille ihmisille tämä on "paikallista tekoälyä, joka tuntuu normaalilta sovellukselta", minkä vuoksi se näkyy jatkuvasti parhaiden listalla.
Plussat
- Erinomainen GUI ja mallien löytäminen
- Nopea alku aloittelijoille
- Paikallinen yksityisyys ilman kotitehtäviä
Miinukset
- Ei hienosäädettävin järjestelmä hardcore-viritykseen
- Suorituskyky riippuu suuresti laitteistostasi ja valitusta mallista
Täydellinen: Uteliaille ihmisille, jotka haluavat paikallista tekoälyä ilman määritystiedostoissa marinoitumista.
Text Generation WebUI (oobabooga): Tekoälytähtilaivasi komentokeskus
Tämä on web-sovellus, jonka suoritat paikallisesti. Se on kuin astuisi ohjaamoon: painikkeita, liukusäätimiä, hahmoasetuksia, muistiasetuksia, laajennuspaneeleja näköä, TTS:ää ja muuta varten. Jos kirjoitat, kehität kehotteita tai pelaat roolipelejä, TGWUI on karkkikauppa. Voit kiinnittää erilaisia taustaohjelmia – llama.cpp, exllama, CUDA – GPU:stasi ja mallivalinnastasi riippuen. Se on harrastajan työkalu, mutta ystävällinen sellainen, kun olet oppinut tuntemaan sen.
Plussat
- Massiivinen mukautus- ja laajennusekosysteemi
- Hyvä pitkäkestoiseen kirjoittamiseen ja skenaarioiden testaamiseen
- Toimii useiden taustaohjelmien ja muotojen kanssa
Miinukset
- Asennus voi olla monimutkaisempaa kuin "asenna ja käytä" -sovellus
- Liian monet vaihtoehdot voivat ylikuormittaa upouusia käyttäjiä
Täydellinen: Tehokäyttäjille, kirjoittajille ja harrastajille, jotka haluavat leikkikentän – eivätkä välitä viidakosta.
OpenWebUI: Puhdas, moderni keskustelu malliesi kanssa
Kuvittele tyylikäs chat-sovellus, mutta se puhuu paikalliselle tekoälyllesi. Se on OpenWebUI. Se on kevyempi asetuksissa kuin TGWUI, mutta se integroituu hyvin yleisten taustaohjelmien kanssa. Ajattele sitä "vähemmän hankalana, ystävällisempänä", mikä tekee siitä väkijoukon miellyttäjän tiimeille, jotka haluavat yhtenäisen käyttöliittymän paikallisten suoritusaikojen päälle.
Plussat
- Toimii useiden taustaohjelmien kanssa
- Helppo jakaa kotiverkossa tai pienessä tiimissä
Miinukset
- Vähemmän syviä nuppeja kuin TGWUI:ssa
- Taustaohjelman yhteensopivuus määrää ominaisuutesi
Täydellinen: Ihmisille, jotka arvostavat selkeyttä ja yksinkertaisuutta, mutta haluavat silti paikallisen hallinnan.
llama.cpp: Pieni moottori, joka pystyi
Tekniikka tekniikan takana. llama.cpp on C/C++-päättelymoottori, joka suorittaa kvantisoituja malleja tehokkaasti CPU:illa ja GPU:illa. Ajattele: "Entä jos puristaisimme tekoälyn juomapillin läpi ja se silti toimisi?" Se on ihanteellinen vaatimattomille koneille – MacBookeille, mini-PC:ille, jopa Raspberry Pi -kokoonpanoille – ja se on monien muiden työkalujen selkäranka.
Plussat
- Erittäin tehokas; toimii vaatimattomalla laitteistolla
- Erinomainen sulautettuihin tai offline-kokoonpanoihin
Miinukset
- Ei täydellinen sovellus itsessään; haluat GUI:n tai wrapperin
- Suorituskyky voi jäädä raskaan sarjan GPU-optimoiduista palvelimista suurissa malleissa
Täydellinen: Puuhastelijoille ja minimalisteille, jotka rakastavat pientä, nopeaa ja paikallista.
vLLM: Valtatie raskaalle liikenteelle
Kun välität palvelunopeudesta ja samanaikaisuudesta, vLLM astuu sisään viitta hulmuten. Se on tehokas päättelypalvelin, joka loistaa, kun sinulla on useita käyttäjiä, useita pyyntöjä tai aikaherkkiä sovelluksia. Jos olet muuttamassa kokoonpanoasi mallipalvelimeksi tiimille – tai suoritat vertailuarvoja kuin se olisi sydänlihastreeniäsi – vLLM on tutustumisen arvoinen.
Plussat
- Huippunopea suorituskyky ja tehokas muistin käyttö
- Ihanteellinen monen käyttäjän tai tuotantotyylin kokoonpanoihin
- Toimii hyvin suosittujen kehysten kanssa
Miinukset
- Vaatii enemmän asennus- ja käyttöosaamista
Täydellinen: Kehittäjille, laboratorioille tai pienille yrityksille, jotka isännöivät malleja todellisia työkuormia varten.
KoboldCpp / KoboldAI: Tarinankertojan työkalupakki
Kerronnalliseen kirjoittamiseen ja roolipeleihin Kobold-makuiset työkalut tuovat ominaisuuksia, jotka saavat kirjoittajat pyörtymään: pitkäaikainen muisti, hahmolomakkeet, maailmanmuistiinpanot ja kontekstitemput johdonmukaisuuden varmistamiseksi. Keskustelet muusasi kanssa; se muistaa maailmanrakennuksesi. Jos olet koskaan huutanut tekoälylle siitä, että se unohtaa, kuka roisto on, tämä on sinun juttusi.
Plussat
- Räätälöity fiktiolle ja roolipeleille
- Pitkän muistin ja persoonan työkalut
Miinukset
- Vähemmän yleiskäyttöinen kuin muut käyttöliittymät
- Parhaat tulokset vaativat hieman viritystä ja mallivalintaa
Täydellinen: Kirjoittajille, jotka haluavat paikallisen tekoälyn, joka muistaa enemmän kuin viimeisen kappaleen.
LMDeploy ja suorituskykyyn suuntautuneet pinot: Kun nopeus on tehtävä
LMDeploy ja vastaavat pinot keskittyvät putkilinjan tehokkuuteen, kvantisointistrategioihin ja GPU-optimointeihin. Jos jahtaat ruutuja sekunnissa kuin pelaaja, jolla on vertailuarvoaddiktio, nämä työkalut voivat antaa sinulle sen lisäedun – määritysaikojen kustannuksella.
Plussat
- Viritettävä suorituskyky vakaviin kokoonpanoihin
- Erinomainen kokeiluun ja enemmän puristamiseen GPU:stasi
Miinukset
- Asennus voi olla "ota kypärä mukaan" -tasoa
- Ei ystävällisin valinta satunnaisille käyttäjille
Täydellinen: Suorituskykynörtteille ja tutkijoille, jotka nauttivat nupeista ja kaavioista.
Pikainen todellisuustarkistus "paikallisesta" tekoälystä
Paikallinen ei automaattisesti tarkoita "100 % yksityistä". Jotkin sovellukset voivat noutaa malleja Internetistä, ladata päivityksiä tai soittaa ulkoisiin API:ihin äänen, näön tai upotusten saamiseksi. Jos yksityisyys on tehtäväsi, käännä lentokonetila päälle testauksen aikana, käytä offline-malleja ja lue asetukset kuin allekirjoittaisit asuntolainaa. Monet näistä työkaluista ovat täysin hyviä offline-tilassa – mutta vain jos todella menet offline-tilaan.
Mallien valinta: Kolmen karhun periaate
- Suuret mallit (70B+): Pätevämmät, enemmän RAM/GPU VRAM -muistia vaaditaan, enemmän lämpöä kuin leivänpaahtimesi.
- Keskikokoiset (7B–13B): Ihanteellinen paikka kannettaville tietokoneille, joissa on kunnolliset GPU:t; hyvä yleinen suorituskyky.
- Pienet (3B–4B): Nopea vaatimattomalla laitteistolla, yllättävän pätevä tiettyihin tehtäviin, vaikka ne satunnaisesti hallusinoivat koirasi toisen nimen.
Jos olet epävarma, aloita pienestä. Hanki 7B-malli toimimaan hyvin, sitten skaalaa ylös, kunnes tuulettimesi alkavat säveltää teknoa.
Laitteistotodellisuus: Hiljainen roisto
- GPU VRAM on kuningas. Jos GPU:ssasi on 8 Gt, saavutat todennäköisesti kvantisoidun 13B-mallin huolellisilla asetuksilla.
- RAM-muistilla on merkitystä mallien lataamisessa, mutta VRAM on pullonkaula nopealle päättelylle.
- CPU:t voivat suorittaa kvantisoituja malleja llama.cpp:n kautta, mutta älä odota rakettilaivoja. Tämä on mukava risteily.
Kertomus kahdesta kokoonpanosta: Todellisia skenaarioita
Satunnainen luoja
- Tavoite: Luonnostele uutiskirjeitä, aivoriihi, hahmottele YouTube-skriptejä – paikallisesti.
- Valitse: LM Studio tai OpenWebUI ystävälliseen käyttöliittymään.
- Malli: 7B-yleismalli 4-bittisessä kvantisoinnissa nopeutta varten.
- Vihje: Pidä kehotteesi lyhyinä ja täsmällisinä. Vaihda malleja, jos sävy tuntuu oudolta. Se on kuin kitaroiden vaihtaminen eri kappaleeseen.
Kotilaboratorion sankari
- Tavoite: Useita käyttäjiä; ehkä perheen wiki tai koodausapu.
- Valitse: vLLM taustapalvelimeksi; OpenWebUI chat-käyttöliittymäksi.
- Malli: Jotain keskikokoista tasapainon saavuttamiseksi. Harkitse erikoistunutta koodausmallia kehitystehtäviin.
- Vihje: Suorita vertailuarvoja kvantisoinnin kanssa ja ilman, jotta ymmärrät suorituskykysi.
Fiktiokirjailija
- Tavoite: Pitkäkestoinen johdonmukaisuus ja hahmomuisti.
- Valitse: KoboldAI/KoboldCpp tai TGWUI muistilaajennuksilla.
- Malli: Tarinankerrontaan viritetty malli; kokeile pienempiä kokoja nopeampaa iteraatiota varten.
- Vihje: Käytä maailmanmuistiinpanoja ja hahmokortteja. Tekoälysi on erittäin kärsivällinen improvisaatiopartneri.
Entä Multimodaalinen: Teksti, kuvat ja ääni?
Paikallinen ekosysteemi on tulossa multimodaalisemmaksi viikko viikolta. Joidenkin käyttöliittymien avulla voit lisätä kuvan ymmärtämisen, TTS- tai STT-moduuleja. Se on kuin uusien instrumenttien lisääminen bändiin – testaa vain yhtä kerrallaan, jotta tiedät, mikä laajennus aiheutti symbaalin iskun. Yhteisöt, kuten r/LocalLLaMA, ovat täynnä työkalupakkeja, jotka yhdistävät tekstin, äänen ja kuvien luomisen todelliseksi "AI-studioksi" työpöydälläsi.
Sider.AI sekoituksessa: Missä selainpuolen avustaja auttaa Tässä yllätys: Sider.AI (kyllä, tämän blogin isännät) on parhaimmillaan, kun tutkit, luonnostelet ja järjestät ideoita suoraan selaimessa. Se ei ole paikallinen malliajo – sitä kaikki nämä Ollama-vaihtoehdot tekevät – mutta se on loistava tukirooli, kun kamppailet lähteiden kanssa, leikkaat katkelmia tai syntetisoit muistiinpanoja ihmisen luettavaksi proosaksi. Ajattele sitä tutkimuskumppanina, kun paikallinen mallisi hyrrää taustalla. Heidän kattavuutensa kehittäjäagenttien ja tietokehysten vaihtoehtoisista pinoista osoittaa, että he pitävät silmällä tekoälytyökalujen käytännön puolta, eivät vain kiiltäviä esittelyjä. Ansat ja kuinka väistää ne
- Mallikeitto: Eri muodot (GGUF, Safetensors jne.) ja kvantisointitasot voivat olla hämmentäviä. Aloita hyvin dokumentoidulla mallikortilla ja noudata työkalun suosittelemaa muotoa.
- VRAM-harhakuva: Jos malli melkein latautuu, se kaatuu silti viisi minuuttia keskustelun jälkeen. Tarkista VRAM-vaatimukset ja jätä pelivaraa.
- Laajennusten kasaantuminen: Lisää yksi laajennus kerrallaan. Jos suorituskyky laskee, tiedät syyllisen.
- Päivitysongelmat: Versioiden yhteensopimattomuudet taustaohjelmien ja käyttöliittymien välillä aiheuttavat salaperäisiä virheitä. Jäädytä versiot, kun sinulla on vakaa kokoonpano.
Käytännön miniohje: Vaihtaminen Ollamasta vaihtoehtoon
Skenaario: Olet käyttänyt Ollamaa, mutta haluat ystävällisemmän GUI:n ja enemmän hallintaa.
- Lataa sovellus käyttöjärjestelmällesi.
- Selaa malleja ja valitse 7B aloittaaksesi.
- Keskustele ja säädä näytteenottoparametreja (lämpötila, top-p) liukusäätimillä.
- Jos tarvitset API-käyttöoikeuden, ota palvelintila käyttöön ja osoita asiakkaasi localhostiin.
- Tai kokeile OpenWebUI + llama.cpp
- Asenna llama.cpp-koontiversio alustallesi.
- Hanki GGUF-malli (aloita 7B:llä, 4-bittinen).
- Suorita OpenWebUI ja aseta llama.cpp taustaohjelmaksi.
- Nauti puhtaasta chat-käyttöliittymästä mallinvaihdolla.
- Asenna Text Generation WebUI (noudata repojen ohjeita; hengitä syvään).
- Valitse GPU:llesi sopiva taustaohjelma (CUDA, ROCm, Metal).
- Tutki muistin, kehotteiden ja multimodaalisten lisäosien laajennuksia.
Kokemuksen vertailu: Tuntuma vs. nopeus vs. hallinta
- Tuntuma (UX): LM Studio ja OpenWebUI voittavat ystävällisyydessä. TGWUI on syvempi, mutta kiireisempi.
- Nopeus: vLLM ja viritetyt taustaohjelmat, kuten exllama/LLMDeploy, voivat huutaa oikealla laitteistolla.
- Hallinta: TGWUI ja Kobold-keskeiset työkalut antavat sinulle nuppeja päiviksi. llama.cpp antaa sinulle minimalismia ja yhteensopivuutta.
Mitä kokoelmat sanovat (ja missä olla skeptinen)
Kokoelmat korostavat johdonmukaisesti Ollamaa, LM Studioa, TGWUI:ta ja vLLM:ää tukipilareina, ja llama.cpp saa maininnan tehokkuudesta ja Kobold-työkalut kirjailijoille. Ole varovainen yhden koon sopivien tuomioiden kanssa – laitteisto, mallit ja sietokykysi asennukselle ovat kaikki tärkeämpiä kuin mikään "Top 5" -luettelo. Se, mikä lentää 24 Gt:n GPU:lla, saattaa ryömiä MacBook Airissa ja päinvastoin, jos valitset älykkäitä kvantisointeja.
Minun näkemykseni: Ystävällinen suosituslista
- Aloita: LM Studio tai OpenWebUI. Hanki voitto nopeasti.
- Sitten: Kokeile TGWUI:ta, jos haluat enemmän hallintaa ja laajennuksia.
- Seuraavaksi: Tutki llama.cpp:tä, jos haluat kevyen ja kannettavan.
- Tiimeille: Pyöritä vLLM tai vastaava palvelin, kun tarvitset samanaikaisuutta.
- Kirjoittajille: Kobold-makuiset työkalut muistiominaisuuksilla.
Vielä yksi asia… (Koska aina on yksi)
Paikallinen tekoäly on kuin takapihan puutarhanhoito. Ensimmäinen tomaatti on pieni, ja olet joka tapauksessa järjettömän ylpeä. Säädät maaperää (kvantisointi), auringonvaloa (VRAM) ja vettä (näytteenottoparametrit). Ja jonain päivänä vedät täydellisen, yksityisen, salamannopean chatbotin omasta koneestasi – ja tajuat, että et koskaan palaa entiseen.
Tärkeimmät huomiot yhteenvedettynä
- Ollama on hieno, mutta vaihtoehdot loistavat GUI:issa (LM Studio, OpenWebUI), teholla ja laajennuksilla (TGWUI), nopeudella/palvelulla (vLLM), tehokkuudella (llama.cpp) ja tarinankerronnalla (Kobold-työkalut).
- Sovita työkalu laitteistoosi ja tavoitteisiisi; aloita pienestä, sitten skaalaa.
- Lue mallikortit; huomioi VRAM; lisää laajennuksia hitaasti.
- Käytä Sider.AI:ta tutkimuskumppanina, kun keräät lähteitä ja muokkaat luonnoksia selaimessa – paikalliset ajurit tekevät päättelyn, Sider.AI auttaa sinua kamppailemaan sanojen kanssa.
UKK
K1: Mitkä ovat parhaat Ollama-vaihtoehdot aloittelijoille?
LM Studio ja OpenWebUI ovat ystävällisimmät Ollama-vaihtoehdot. Ne antavat sinulle puhtaan käyttöliittymän, helpon mallin selaamisen ja nopeat voitot ilman komentorivin aarteenetsintää.
K2: Mikä Ollama-vaihtoehto on nopein monen käyttäjän palvelemiseen?
vLLM on rakennettu suorituskykyä ja samanaikaisuutta varten, mikä tekee siitä huippuvalinnan monen käyttäjän tai tiimin skenaarioihin. Se vaatii enemmän asennusta kuin yhden napsautuksen sovellus, mutta suorituskyvyn tuotto on todellista.
K3: Jos minulla on vaatimaton kannettava tietokone, mitä työkalua minun pitäisi kokeilla ensin?
Aloita llama.cpp:llä yksinkertaisen käyttöliittymän, kuten OpenWebUI:n tai LM Studion, kautta. Käytä pienempää, 4-bittistä kvantisoitua 7B-mallia, jotta se toimii nopeasti ilman, että tuulettimet ylikuumenevat.
K4: Olen kirjailija – mikä on paras paikallinen asetus pitkien tarinoiden kirjoittamiseen?
KoboldCpp tai KoboldAI loistavat tarinankerronnassa muistiominaisuuksien ja hahmotyökalujen ansiosta. Text Generation WebUI on toinen vahva vaihtoehto, jos haluat lisäosia ja syvällistä säätöä.
K5: Voinko yhdistää ystävällisen käyttöliittymän tehokkaaseen taustajärjestelmään?
Totta kai. Yhdistä OpenWebUI tai TGWUI taustajärjestelmään, kuten vLLM tai llama.cpp. Saat mukavan chat-käyttöliittymän, kun taas raskas työ tapahtuu konepellin alla.
