Ako používať SillyTavern: Praktický sprievodca nastavením, modelmi a pokročilými funkciami RP
Počuli ste o tom: SillyTavern je jedno z najflexibilnejších rozhraní pre hranie rolí a chat s rozsiahlymi jazykovými modelmi. Ale kde začať, ktoré modely by ste mali používať a ako odomknúť jeho najlepšie funkcie bez toho, aby ste niečo pokazili? Tento sprievodca vás prevedie krok za krokom – žiadne zbytočnosti, len praktická cesta zameraná na riešenia od inštalácie až po sessions na profesionálnej úrovni.
Čo je SillyTavern – a prečo ho používať?
SillyTavern je výkonné, prispôsobiteľné používateľské rozhranie na interakciu s LLM – hostovanými API aj lokálnymi modelmi. Predstavte si ho ako vašu riadiacu miestnosť pre pohlcujúci chat, hranie rolí postáv, budovanie sveta a spoluprácu na príbehoch. Pripojuje sa k API ako OpenAI, Anthropic a Google, alebo k lokálnym backendom, ako sú KoboldAI a oobabooga/text-generation-webui (TGI/ExLlama, atď.), čo vám umožní doladiť atmosféru, pamäť a štýl vašich sessions. Je navrhnutý tak, aby bol prístupný, ale zároveň hlboký, s funkciami, ako sú karty postáv, dlhodobá pamäť, rozšírenia a podrobné ovládacie prvky pre podnety a vzorkovanie.
Rýchle nastavenie: Od nuly k prvému chatu
Postupujte podľa tohto zjednodušeného postupu. Pokročilé nastavenia môžete znova navštíviť neskôr, keď sa budete cítiť pohodlne.
1) Inštalácia a spustenie
- Naklonujte alebo stiahnite SillyTavern z jeho GitHub repozitára (alebo udržiavanej vetvy) a postupujte podľa priloženého spúšťacieho skriptu pre váš OS. V systéme Windows zvyčajne spustíte
start.bat na spustenie lokálneho webového servera; v systémoch macOS/Linux je bežný skript start.sh.
- Otvorte lokálnu URL adresu zobrazenú v termináli (zvyčajne ` alebo port, ktorý SillyTavern vytlačí), aby ste získali prístup k používateľskému rozhraniu.
Tip: Udržujte svoj priečinok SillyTavern uprataný – karty postáv, predvoľby a rozšírenia sa nachádzajú v predvídateľných podpriečinkoch, čo uľahčuje zálohovanie.
2) Vyberte cestu k modelu: API alebo Lokálny
- Hostované API: Najrýchlejšie na začatie; zadajte svoj API kľúč v paneli nastavení API v SillyTavern.
- Lokálny backend: Najlepší pre súkromie a kontrolu; pripojte SillyTavern k lokálnemu serveru, ako je KoboldAI alebo oobabooga/text-generation-webui.
SillyTavern podporuje širokú škálu poskytovateľov API a lokálnych konektorov s poznámkami o silných stránkach, limitoch a prípadoch použitia v dokumentácii.
3) Zadajte poverenia API (ak používate hostované modely)
- OpenAI, Anthropic, Google (Gemini) a ďalšie je možné pridať vložením API kľúčov do karty pripojení v SillyTavern.
- Tip: Používajte predvoľby pre jednotlivých poskytovateľov; rôzne modely lepšie reagujú na mierne odlišné systémové podnety, teplotu a penalizácie.
Komunita uvádza, že Google Gemini sa dá používať zadarmo s kľúčom Google AI Studio, čo z neho robí nákladovo efektívny východiskový bod pre experimentovanie.
4) Pripojte sa k lokálnym LLM (voliteľné)
- Spustite svoj lokálny backend (KoboldAI, text-generation-webui/oobabooga, LM Studio atď.) a overte, či poskytuje API endpoint.
- V SillyTavern vyberte príslušný konektor a zadajte lokálnu URL adresu a všetky požadované parametre.
- Overte odoslaním krátkej testovacej správy.
5) Vytvorte alebo importujte postavu
- Kliknite na Characters → New (Postavy → Nová) a vytvorte postavu od začiatku, alebo importujte kartu postavy (PNG/JSON) z vašej knižnice.
- Vyplňte polia persona, popis, ukážkový dialóg a definícia. Čím je charakteristika špecifickejšia, tým lepšia je konzistentnosť RP.
6) Začnite chatovať
- Vyberte si postavu a model a potom napíšte svoju prvú správu.
- Použite jemný úvod, ako napríklad: „Poďme nastaviť scénu: .
- Lokálne modely založené na Llama: Súkromné, prispôsobiteľné; kvalita závisí od kvantizácie a doladenia.
- KoboldAI/oobabooga stacks: Hlboká kontrola nad inferenciou, formátmi podnetov a rozšíreniami.
Sprievodca API pripojeniami SillyTavern uvádza podporovaných poskytovateľov a upozornenia na jednom mieste.
Tvorba postáv: Budovanie osobností, ktoré zostávajú v charaktere
Skvelá session začína skvelou kartou postavy.
- Persona: 2 – 4 vety o identite, úlohe, hlase.
- História: 3 – 5 odrážok formatívnej histórie; vyhýbajte sa vyčerpávajúcim časovým osiam.
- Ciele a hranice: Objasnite túžby a hranice, ktoré postava neprekročí.
- Rečové vzorce: Pridajte niekoľko príkladov idiómov alebo zvláštností.
- Ukážkový dialóg: 3 výmeny zdôrazňujúce tón, tempo a emocionálny rozsah.
Profesionálny tip: Pridajte environmentálne kotvy (napr. „v meste cítiť dážď a starý neón“), aby model zostal popisný bez neustálych pripomienok.
Rozšírenia, pluginy a výkonné funkcie
SillyTavern má ekosystém doplnkov, ktoré rozširujú jeho možnosti:
- Pamäť a Lorebooks: Automatické vkladanie kľúčových faktov pri zistení spúšťačov.
- Nástroje World/Story: Šablóny scén, súpisky NPC a podnety udalostí.
- TTS/STT: Hlasové povolenie sessions pomocou prevodu textu na reč a reči na text.
- Image Hooks: Niektoré konektory podporujú obrazové podnety/odpovede (v závislosti od modelu).
- Automatizácia: Makrá pre opakujúce sa naratívne takty alebo formátovanie.
Pred povolením pokročilých integrácií si prečítajte dokumentáciu pre funkcie špecifické pre poskytovateľa, formáty podnetov a poznámky o obmedzení frekvencie.
Bezpečnosť, filtre a hranice
- Zásady modelu: API modely (napr. Anthropic, Google) presadzujú bezpečnostné pravidlá, ktoré môžu ovplyvniť určité typy obsahu. Prispôsobte tomu svoje kreatívne ciele.
- Lokálna kontrola: Lokálne modely vám poskytujú väčšiu voľnosť, ale aj väčšiu zodpovednosť – vopred si nastavte osobné hranice a značky obsahu.
- Hygiena sessions: Používajte upozornenia na obsah, scény so súhlasom a jasné prechody. Ak sa niečo pokazí, zhrňte to, resetujte tón a znova ukotvite scenár.
Riešenie problémov: Rýchle opravy bežných problémov
- Model sa opakuje alebo slučkuje: Zvýšte penalizáciu opakovania, mierne znížte teplotu, pridajte do pamäte viac základných faktov.
- Odpovede mimo charakteru: Posilnite definíciu postavy a pridajte 2 – 3 ukážkové dialógy; sprísnite systémový podnet.
- Náklady prudko rastú (používanie API): Znížte dĺžku kontextu, povoľte kratšie odpovede, pravidelne sumarizujte alebo prepnite na lacnejší model pre výplňové scény.
- Lokálny model je pomalý: Vyskúšajte menšiu kvantizáciu, povoľte akceleráciu GPU alebo znížte maximálny počet tokenov.
- Chyby pripojenia: Znova skontrolujte URL adresu poskytovateľa, platnosť kľúča a názov modelu. Pre presné parametre si pozrite stránku API pripojení.
10-minútový pracovný postup pre začiatočníkov (skopírujte toto)
- Vyberte si poskytovateľa (napr. Gemini pre lacné testy alebo Claude pre dlhé dejové oblúky).
- Vytvorte postavu s personou, odrážkami histórie a 3 ukážkovými dialógmi.
- Nastavte teplotu na 0,8, Top‑p 0,9, penalizáciu opakovania na strednú.
- Pridajte malú pamäťovú knihu: nastavenie, vzťahy, aktívne ciele.
- Začnite chat s jasným nastavením scény a požadovaným tónom.
- Po 10 správach exportujte chat, zapíšte dve vylepšenia a aktualizujte kartu postavy.
Zopakujte túto slučku a uvidíte dramatické zlepšenie konzistentnosti.
Tipy špecifické pre model (ťahák)
- OpenAI: Má rád stručné systémové podnety; formátujte pokyny jasne s očíslovanými krokmi.
- Claude: Darí sa mu s viacodsekovými zadaniami; skvelý pre kontinuitu príbehu a súhrny.
- Gemini: Funguje dobre so štruktúrovanými podnetmi a explicitnými obmedzeniami; skontrolujte kvóty bezplatnej úrovne.
- Local Llama: Používajte varianty vyladené na inštrukcie; testujte 2 – 3 kvantizácie pre rýchlosť/kvalitu.
Zálohy, exporty a organizácia
- Používajte samostatné priečinky pre každý „vesmír“, aby ste zabránili krížovej kontaminácii príbehu.
- Pravidelne exportujte chaty (JSON/HTML) a snímky kariet postáv.
- Uchovávajte „meta“ dokument zaznamenávajúci nastavenia vzorkovania, verzie modelov a pozoruhodné sessions.
Stojí za zmienku: Zrýchlenie vášho pracovného postupu pomocou Sider.AI
Ak vytvárate návrhy životopisov postáv, náčrty scén alebo úryvky príbehov mimo SillyTavern, asistent na bočnom paneli vám môže pomôcť rýchlo iterovať. Mimochodom, asistent Sider.AI v prehliadači dokáže sumarizovať dlhé prepisy, navrhnúť zvláštnosti postáv alebo generovať zárodky scén, a potom môžete výsledky priamo vložiť do SillyTavern. Je to praktický spoločník pre predprodukciu na budovanie sveta a vylepšovanie podnetov. Kľúčové poznatky
- Začnite jednoducho: vyberte si jedného poskytovateľa, jednu postavu a malú pamäťovú knihu.
- Kontrola je kráľ: systémové podnety, vzorkovanie a pamäť formujú konzistentnosť.
- Vyberajte modely podľa cieľa: dĺžka príbehu, náklady, kreativita alebo súkromie.
- Iterujte: exportujte, skontrolujte a vylepšite kartu postavy a predvoľby.
Zdroje
- Prehľad API pripojení SillyTavern: podporovaní poskytovatelia, limity a poznámky.
- Diskusia komunity o najlepších modeloch a bezplatných/nízkonákladových možnostiach, ako je Gemini.
- Prehľad GitHub o SillyTavern ako LLM frontend pre hranie rolí a chat.
FAQ
Q1: Ako pripojím SillyTavern k OpenAI, Claude alebo Gemini?
Otvorte nastavenia API SillyTavern a vložte svoje API kľúče pre každého poskytovateľa, potom vyberte názov modelu a uložte. Oficiálny sprievodca API pripojeniami uvádza podporovaných poskytovateľov a parametre, ktoré možno budete musieť nastaviť.
Q2: Môžem používať SillyTavern s lokálnym modelom, ako je Llama?
Áno. Spustite lokálny backend, ako je KoboldAI alebo oobabooga/text-generation-webui, potom nasmerujte SillyTavern na lokálnu URL adresu servera. Uistite sa, že backend sprístupňuje API endpoint a používa kompatibilný model vyladený na inštrukcie.
Q3: Aké nastavenia zlepšujú konzistentnosť hrania rolí v SillyTavern?
Vylepšite systémový podnet, pridajte ukážkový dialóg do karty postavy a použite malú pamäťovú knihu pre fakty a vzťahy. Nalaďte teplotu, Top‑p a penalizácie opakovania, aby ste vyvážili kreativitu a súvislosť.
Q4: Ktorý model je najlepší pre rozsiahle rozprávanie príbehov v SillyTavern?
Modely Claude sú silné pre dlhú kontextovú súvislosť príbehu, zatiaľ čo OpenAI a Gemini sú všestranné a nákladovo efektívne pre všeobecný chat. Lokálne modely Llama sú skvelé pre súkromie, ak vám vyhovuje ich ladenie.
Q5: Ako znížim náklady na tokeny s API modelmi v SillyTavern?
Skráťte dĺžku kontextu, povoľte stručné odpovede a pravidelne sumarizujte oblúky. Môžete tiež prepnúť na lacnejšie modely pre výplňové scény a ponechať si prémiové modely pre kľúčové momenty.
