Hogyan használd a SillyTavernt: Gyakorlati útmutató a beállításhoz, modellekhez és a haladó RP funkciókhoz
Hallottad már a felhajtást: a SillyTavern az egyik legrugalmasabb felület a nagyméretű nyelvi modellekkel való szerepjátékhoz és csevegéshez. De hol kezdd, mely modelleket használd, és hogyan oldd fel a legjobb funkcióit anélkül, hogy elrontanál valamit? Ez az útmutató lépésről lépésre végigvezet – nincs sallang, csak egy gyakorlatias, megoldásközpontú út az installálástól a profi szintű munkamenetekig.
Mi az a SillyTavern – és miért érdemes használni?
A SillyTavern egy hatékony, testreszabható felhasználói felület az LLM-ekkel való interakcióhoz – mind a hosztolt API-khoz, mind a helyi modellekhez. Tekintsd úgy, mint egy vezérlőtermet a magával ragadó csevegéshez, karakteres szerepjátékhoz, világépítéshez és történetírási együttműködéshez. Csatlakozik olyan API-khoz, mint az OpenAI, az Anthropic és a Google, vagy olyan helyi backendekhez, mint a KoboldAI és az oobabooga/text-generation-webui (TGI/ExLlama, stb.), lehetővé téve a munkamenetek hangulatának, memóriájának és stílusának finomhangolását. Úgy tervezték, hogy megközelíthető, mégis mély legyen, olyan funkciókkal, mint a karakterkártyák, a hosszú távú memória, a bővítmények, valamint a promptok és a mintavételezés részletes vezérlése.
Gyors beállítás: Nulláról az első csevegésig
Kövesd ezt az egyszerűsített folyamatot. A haladó beállításokhoz később visszatérhetsz, ha már kényelmesen használod.
1) Telepítés és indítás
- Klónozd vagy töltsd le a SillyTavernt a GitHub repójából (vagy egy karbantartott forkból), és kövesd a mellékelt indító szkriptet az operációs rendszeredhez. Windows rendszeren általában egy
start.bat fájlt futtatsz a helyi webszerver elindításához; macOS/Linux rendszeren egy start.sh szkript a szokásos.
- Nyisd meg a terminálban megjelenő helyi URL-t (általában ` vagy a SillyTavern által kiírt portot) a felhasználói felület eléréséhez.
Tipp: Tartsd rendben a SillyTavern mappádat – a karakterkártyák, a beállítások és a bővítmények előre meghatározott almappákban találhatók, ami megkönnyíti a biztonsági mentéseket.
2) Válaszd ki a modell útvonalát: API vagy helyi
- Hosztolt API: A leggyorsabb a kezdéshez; add meg az API-kulcsodat a SillyTavern API-beállítások paneljén.
- Helyi backend: A legjobb az adatvédelem és a vezérlés szempontjából; csatlakoztasd a SillyTavernt egy helyi szerverhez, mint például a KoboldAI vagy az oobabooga/text-generation-webui.
A SillyTavern API-szolgáltatók és helyi csatlakozók széles skáláját támogatja, a dokumentációban a javasolt felhasználási módokkal és korlátokkal.
3) Add meg az API hitelesítő adatait (ha hosztolt modelleket használsz)
- Az OpenAI, az Anthropic, a Google (Gemini) és mások hozzáadhatók az API-kulcsok SillyTavern kapcsolati fülére történő beillesztésével.
- Tipp: Használj szolgáltatónkénti beállításokat; a különböző modellek jobban reagálnak a kissé eltérő rendszerüzenetekre, hőmérsékletre és büntetésekre.
A közösségi jelentések szerint a Google Gemini ingyenesen használható Google AI Studio kulccsal, ami költséghatékony kiindulóponttá teszi a kísérletezéshez.
4) Csatlakozz a helyi LLM-ekhez (opcionális)
- Indítsd el a helyi backendet (KoboldAI, text-generation-webui/oobabooga, LM Studio stb.), és ellenőrizd, hogy egy API végpontot szolgáltat-e.
- A SillyTavernben válaszd ki a megfelelő csatlakozót, és add meg a helyi URL-t és a szükséges paramétereket.
- Ellenőrizd egy rövid tesztüzenet küldésével.
5) Hozz létre vagy importálj egy karaktert
- Kattints a Characters → New gombra, hogy a nulláról építsd fel, vagy importálj egy karakterkártyát (PNG/JSON) a könyvtáradból.
- Töltsd ki a személyiség, a leírás, a mintadialógus és a definíciós mezőket. Minél konkrétabb a karakterleírás, annál jobb az RP konzisztenciája.
6) Kezdj el csevegni
- Válaszd ki a karakteredet és a modelledet, majd írd meg az első üzenetedet.
- Használj egy lágy nyitást, például: „Kezdjük a jelenettel: .
- Helyi Llama-alapú modellek: Privát, testreszabható; a minőség a kvantálástól és a finomhangolástól függ.
- KoboldAI/oobabooga stackek: Mélyreható vezérlés a következtetés, a prompt formátumok és a bővítmények felett.
A SillyTavern API-kapcsolati útmutatója egy helyen vázolja fel a támogatott szolgáltatókat és a kikötéseket.
Karakteralkotás: Olyan személyiségek építése, amelyek hűek maradnak a karakterhez
Egy nagyszerű munkamenet egy nagyszerű karakterkártyával kezdődik.
- Személyiség: 2–4 mondat a személyazonosságról, a szerepről, a hangról.
- Háttértörténet: 3–5 felsoroláspont a formatív történelemről; kerüld a kimerítő idővonalakat.
- Célok és határok: Tisztázd a vágyakat és azokat a határokat, amelyeket a karakter nem lép át.
- Beszédminták: Adj hozzá néhány példát idiómákra vagy furcsaságokra.
- Minta dialógus: 3 csere, amely kiemeli a hangnemet, a tempót és az érzelmi tartományt.
Pro tipp: Adj hozzá környezeti horgonyokat (pl. „a város eső és régi neon szagú”), hogy a modell leíró maradjon anélkül, hogy állandóan emlékeztetni kellene rá.
Bővítmények, pluginok és hatékony funkciók
A SillyTavern egy kiegészítőkkel rendelkező ökoszisztémával rendelkezik, amelyek kiterjesztik a képességeit:
- Memória és Lorebookok: Kulcsfontosságú tények automatikus beadása, amikor triggereket észlel.
- Világ-/Történeteszközök: Jelenetsablonok, NPC-névsorok és eseményüzenetek.
- TTS/STT: Hangalapúvá teheted a munkameneteidet szövegfelolvasóval és beszédfelismeréssel.
- Képkampók: Egyes csatlakozók támogatják a képüzeneteket/válaszokat (modelltől függően).
- Automatizálás: Makrók az ismétlődő narratív ütemekhez vagy formázáshoz.
A haladó integrációk engedélyezése előtt nézd meg a dokumentációt a szolgáltatóspecifikus funkciókról, a prompt formátumokról és a sebességkorlátozási megjegyzésekről.
Biztonság, szűrők és határok
- Modellszabályzatok: Az API-modellek (pl. Anthropic, Google) biztonsági szabályokat érvényesítenek, amelyek befolyásolhatják bizonyos tartalomtípusokat. Ehhez igazítsd a kreatív céljaidat.
- Helyi vezérlés: A helyi modellek nagyobb szabadságot biztosítanak, de nagyobb felelősséget is – állíts be személyes határokat és tartalomcímkéket előre.
- Munkamenet-higiénia: Használj tartalomra vonatkozó figyelmeztetéseket, opt-in jeleneteket és egyértelmű átmeneteket. Ha valami kisiklik, foglald össze, állítsd vissza a hangnemet, és horgonyozd újra a forgatókönyvet.
Hibaelhárítás: Gyors javítások gyakori problémákra
- A modell ismétli vagy hurkolja magát: Növeld az ismétlési büntetést, enyhén csökkentsd a hőmérsékletet, adj hozzá több megalapozó tényt a memóriába.
- Karakteren kívüli válaszok: Erősítsd meg a karakter definícióját, és adj hozzá 2–3 mintadialógust; szigorítsd a rendszerüzenetet.
- A költségek megugranak (API-használat): Csökkentsd a kontextus hosszát, engedélyezd a rövidebb válaszokat, rendszeresen foglald össze, vagy válts alacsonyabb költségű modellre a kitöltő jelenetekhez.
- A helyi modell lassú: Próbálj ki egy kisebb kvantálást, engedélyezd a GPU-gyorsítást, vagy csökkentsd a maximális tokenek számát.
- Kapcsolati hibák: Ellenőrizd újra a szolgáltató URL-jét, a kulcs érvényességét és a modell nevét. A pontos paraméterekért nézd meg az API-kapcsolatok oldalt.
10 perces kezdő munkafolyamat (másold ezt)
- Válassz egy szolgáltatót (pl. a Geminit az olcsó tesztekhez vagy a Claude-ot a hosszú történetívekhez).
- Hozz létre egy karaktert személyiséggel, háttértörténeti pontokkal és 3 mintadialógussal.
- Állítsd a hőmérsékletet 0,8-ra, a Top‑p-t 0,9-re, az ismétlési büntetést közepesre.
- Adj hozzá egy kis memóriakönyvet: beállítás, kapcsolatok, aktív célok.
- Kezdd a csevegést egyértelmű jelenetbeállítással és a kívánt hangnemmel.
- 10 üzenet után exportáld a csevegést, jegyezz fel két fejlesztést, és frissítsd a karakterkártyát.
Ismételd meg ezt a ciklust, és drámai konzisztencia-növekedést fogsz látni.
Modellspezifikus tippek (puska)
- OpenAI: Szereti a tömör rendszerüzeneteket; formázd az utasításokat világosan számozott lépésekkel.
- Claude: Virágzik a több bekezdéses összefoglalókon; nagyszerű a narratív folytonosság és az összefoglalók szempontjából.
- Gemini: Jól működik a strukturált üzenetekkel és a kifejezett korlátozásokkal; ellenőrizd az ingyenes csomag kvótáit.
- Helyi Llama: Használj utasításra hangolt változatokat; tesztelj 2–3 kvantálást a sebesség/minőség érdekében.
Biztonsági mentések, exportok és rendszerezés
- Használj külön mappákat „univerzumonként” a lore keresztfertőzésének megakadályozására.
- Exportáld a csevegéseket rendszeresen (JSON/HTML), és készíts pillanatfelvételeket a karakterkártyáidról.
- Vezess egy „meta” dokumentumot a mintavételi beállítások, a modellverziók és a figyelemre méltó munkamenetek rögzítésére.
Érdemes megjegyezni: A munkafolyamat felgyorsítása a Sider.AI segítségével
Ha karakteréletrajzokat, jelenetvázlatokat vagy lore részleteket készítesz a SillyTavernen kívül, egy oldalsó asszisztens segíthet a gyors iterációban. Mellesleg, a Sider.AI böngészőn belüli asszisztense összefoglalhatja a hosszú átiratokat, karakteres furcsaságokat javasolhat, vagy jelenetmagvakat generálhat, majd a találatokat közvetlenül beillesztheted a SillyTavernbe. Ez egy praktikus előkészítési kiegészítő a világépítéshez és a prompt csiszolásához. Főbb tudnivalók
- Kezdd egyszerűen: válassz egy szolgáltatót, egy karaktert és egy kis memóriakönyvet.
- A vezérlés a legfontosabb: a rendszerüzenetek, a mintavételezés és a memória alakítja a konzisztenciát.
- Válassz modelleket a cél szerint: narratív hossz, költség, kreativitás vagy adatvédelem.
- Iterálj: exportáld, vizsgáld felül és finomítsd a karakterkártyádat és az előbeállításokat.
Források
- SillyTavern API-kapcsolatok áttekintése: támogatott szolgáltatók, korlátok és megjegyzések.
- Közösségi vita a legjobb modellekről és az ingyenes/alacsony költségű lehetőségekről, mint például a Gemini.
- A SillyTavern GitHub áttekintése, mint LLM frontend a szerepjátékhoz és a csevegéshez.
GYIK
Q1:Hogyan csatlakoztathatom a SillyTavernt az OpenAI-hoz, a Claude-hoz vagy a Geminihez?
Nyisd meg a SillyTavern API-beállításait, és illeszd be az API-kulcsaidat az egyes szolgáltatókhoz, majd válaszd ki a modell nevét, és mentsd el. A hivatalos API-kapcsolati útmutató felsorolja a támogatott szolgáltatókat és azokat a paramétereket, amelyeket be kell állítanod.
Q2:Használhatom a SillyTavernt helyi modellel, például a Llama-val?
Igen. Futtass egy helyi backendet, például a KoboldAI-t vagy az oobabooga/text-generation-webui-t, majd irányítsd a SillyTavernt a helyi szerver URL-jére. Győződj meg arról, hogy a backend közzétesz egy API végpontot, és kompatibilis, utasításra hangolt modellt használ.
Q3:Mely beállítások javítják a szerepjáték konzisztenciáját a SillyTavernben?
Finomítsd a rendszerüzenetet, adj hozzá mintadialógust a karakterkártyához, és használj egy kis memóriakönyvet a tényekhez és a kapcsolatokhoz. Hangold a hőmérsékletet, a Top‑p-t és az ismétlési büntetéseket a kreativitás és a koherencia egyensúlyozásához.
Q4:Melyik modell a legjobb a hosszú formátumú történetmeséléshez a SillyTavernben?
A Claude modellek erősek a hosszú kontextusú narratív koherencia szempontjából, míg az OpenAI és a Gemini sokoldalú és költséghatékony az általános csevegéshez. A helyi Llama modellek nagyszerűek az adatvédelem szempontjából, ha kényelmesen tudod hangolni őket.
Q5:Hogyan csökkenthetem a tokenköltségeket az API-modellekkel a SillyTavernben?
Rövidítsd le a kontextus hosszát, engedélyezd a tömör válaszokat, és rendszeresen foglald össze az íveket. Válthatsz alacsonyabb költségű modellekre is a kitöltő jelenetekhez, és megtarthatod a prémium modelleket a kulcsfontosságú pillanatokhoz.
