How do I connect SillyTavern to OpenAI, Claude, or Gemini?

Open SillyTavern’s API settings and paste your API keys for each provider, then select the model name and save. The official API connections guide lists supported providers and parameters you may need to set.

Can I use SillyTavern with a local model like Llama?

Yes. Run a local backend such as KoboldAI or oobabooga/text-generation-webui, then point SillyTavern to the local server URL. Make sure the backend exposes an API endpoint and is using a compatible instruct-tuned model.

What settings improve roleplay consistency in SillyTavern?

Refine the system prompt, add sample dialogue to the character card, and use a small memory book for facts and relationships. Tune temperature, Top‑p, and repetition penalties to balance creativity and coherence.

Which model is best for long-form storytelling in SillyTavern?

Claude models are strong for long-context narrative coherence, while OpenAI and Gemini are versatile and cost-effective for general chat. Local Llama models are great for privacy if you’re comfortable tuning them.

How do I reduce token costs with API models in SillyTavern?

Shorten context length, enable concise replies, and summarize arcs periodically. You can also switch to lower-cost models for filler scenes and keep premium models for pivotal moments.

Ako používať SillyTavern: Praktický sprievodca nastavením, modelmi a pokročilými funkciami RP

Počuli ste o tom: SillyTavern je jedno z najflexibilnejších rozhraní pre hranie rolí a chat s rozsiahlymi jazykovými modelmi. Ale kde začať, ktoré modely by ste mali používať a ako odomknúť jeho najlepšie funkcie bez toho, aby ste niečo pokazili? Tento sprievodca vás prevedie krok za krokom – žiadne zbytočnosti, len praktická cesta zameraná na riešenia od inštalácie až po sessions na profesionálnej úrovni.

Čo je SillyTavern – a prečo ho používať?

SillyTavern je výkonné, prispôsobiteľné používateľské rozhranie na interakciu s LLM – hostovanými API aj lokálnymi modelmi. Predstavte si ho ako vašu riadiacu miestnosť pre pohlcujúci chat, hranie rolí postáv, budovanie sveta a spoluprácu na príbehoch. Pripojuje sa k API ako OpenAI, Anthropic a Google, alebo k lokálnym backendom, ako sú KoboldAI a oobabooga/text-generation-webui (TGI/ExLlama, atď.), čo vám umožní doladiť atmosféru, pamäť a štýl vašich sessions. Je navrhnutý tak, aby bol prístupný, ale zároveň hlboký, s funkciami, ako sú karty postáv, dlhodobá pamäť, rozšírenia a podrobné ovládacie prvky pre podnety a vzorkovanie.

Rýchle nastavenie: Od nuly k prvému chatu

Postupujte podľa tohto zjednodušeného postupu. Pokročilé nastavenia môžete znova navštíviť neskôr, keď sa budete cítiť pohodlne.

1) Inštalácia a spustenie

Naklonujte alebo stiahnite SillyTavern z jeho GitHub repozitára (alebo udržiavanej vetvy) a postupujte podľa priloženého spúšťacieho skriptu pre váš OS. V systéme Windows zvyčajne spustíte start.bat na spustenie lokálneho webového servera; v systémoch macOS/Linux je bežný skript start.sh.

Otvorte lokálnu URL adresu zobrazenú v termináli (zvyčajne ` alebo port, ktorý SillyTavern vytlačí), aby ste získali prístup k používateľskému rozhraniu.

Tip: Udržujte svoj priečinok SillyTavern uprataný – karty postáv, predvoľby a rozšírenia sa nachádzajú v predvídateľných podpriečinkoch, čo uľahčuje zálohovanie.

2) Vyberte cestu k modelu: API alebo Lokálny

Hostované API: Najrýchlejšie na začatie; zadajte svoj API kľúč v paneli nastavení API v SillyTavern.

Lokálny backend: Najlepší pre súkromie a kontrolu; pripojte SillyTavern k lokálnemu serveru, ako je KoboldAI alebo oobabooga/text-generation-webui.

SillyTavern podporuje širokú škálu poskytovateľov API a lokálnych konektorov s poznámkami o silných stránkach, limitoch a prípadoch použitia v dokumentácii.

3) Zadajte poverenia API (ak používate hostované modely)

OpenAI, Anthropic, Google (Gemini) a ďalšie je možné pridať vložením API kľúčov do karty pripojení v SillyTavern.

Tip: Používajte predvoľby pre jednotlivých poskytovateľov; rôzne modely lepšie reagujú na mierne odlišné systémové podnety, teplotu a penalizácie.

Komunita uvádza, že Google Gemini sa dá používať zadarmo s kľúčom Google AI Studio, čo z neho robí nákladovo efektívny východiskový bod pre experimentovanie.

4) Pripojte sa k lokálnym LLM (voliteľné)

Spustite svoj lokálny backend (KoboldAI, text-generation-webui/oobabooga, LM Studio atď.) a overte, či poskytuje API endpoint.

V SillyTavern vyberte príslušný konektor a zadajte lokálnu URL adresu a všetky požadované parametre.

Overte odoslaním krátkej testovacej správy.

5) Vytvorte alebo importujte postavu

Kliknite na Characters → New (Postavy → Nová) a vytvorte postavu od začiatku, alebo importujte kartu postavy (PNG/JSON) z vašej knižnice.

Vyplňte polia persona, popis, ukážkový dialóg a definícia. Čím je charakteristika špecifickejšia, tým lepšia je konzistentnosť RP.

6) Začnite chatovať

Vyberte si postavu a model a potom napíšte svoju prvú správu.

Použite jemný úvod, ako napríklad: „Poďme nastaviť scénu: .

Lokálne modely založené na Llama: Súkromné, prispôsobiteľné; kvalita závisí od kvantizácie a doladenia.

KoboldAI/oobabooga stacks: Hlboká kontrola nad inferenciou, formátmi podnetov a rozšíreniami.

Sprievodca API pripojeniami SillyTavern uvádza podporovaných poskytovateľov a upozornenia na jednom mieste.

Tvorba postáv: Budovanie osobností, ktoré zostávajú v charaktere

Skvelá session začína skvelou kartou postavy.

Persona: 2 – 4 vety o identite, úlohe, hlase.

História: 3 – 5 odrážok formatívnej histórie; vyhýbajte sa vyčerpávajúcim časovým osiam.

Ciele a hranice: Objasnite túžby a hranice, ktoré postava neprekročí.

Rečové vzorce: Pridajte niekoľko príkladov idiómov alebo zvláštností.

Ukážkový dialóg: 3 výmeny zdôrazňujúce tón, tempo a emocionálny rozsah.

Profesionálny tip: Pridajte environmentálne kotvy (napr. „v meste cítiť dážď a starý neón“), aby model zostal popisný bez neustálych pripomienok.

Rozšírenia, pluginy a výkonné funkcie

SillyTavern má ekosystém doplnkov, ktoré rozširujú jeho možnosti:

Pamäť a Lorebooks: Automatické vkladanie kľúčových faktov pri zistení spúšťačov.

Nástroje World/Story: Šablóny scén, súpisky NPC a podnety udalostí.

TTS/STT: Hlasové povolenie sessions pomocou prevodu textu na reč a reči na text.

Image Hooks: Niektoré konektory podporujú obrazové podnety/odpovede (v závislosti od modelu).

Automatizácia: Makrá pre opakujúce sa naratívne takty alebo formátovanie.

Pred povolením pokročilých integrácií si prečítajte dokumentáciu pre funkcie špecifické pre poskytovateľa, formáty podnetov a poznámky o obmedzení frekvencie.

Bezpečnosť, filtre a hranice

Zásady modelu: API modely (napr. Anthropic, Google) presadzujú bezpečnostné pravidlá, ktoré môžu ovplyvniť určité typy obsahu. Prispôsobte tomu svoje kreatívne ciele.

Lokálna kontrola: Lokálne modely vám poskytujú väčšiu voľnosť, ale aj väčšiu zodpovednosť – vopred si nastavte osobné hranice a značky obsahu.

Hygiena sessions: Používajte upozornenia na obsah, scény so súhlasom a jasné prechody. Ak sa niečo pokazí, zhrňte to, resetujte tón a znova ukotvite scenár.

Riešenie problémov: Rýchle opravy bežných problémov

Model sa opakuje alebo slučkuje: Zvýšte penalizáciu opakovania, mierne znížte teplotu, pridajte do pamäte viac základných faktov.

Odpovede mimo charakteru: Posilnite definíciu postavy a pridajte 2 – 3 ukážkové dialógy; sprísnite systémový podnet.

Náklady prudko rastú (používanie API): Znížte dĺžku kontextu, povoľte kratšie odpovede, pravidelne sumarizujte alebo prepnite na lacnejší model pre výplňové scény.

Lokálny model je pomalý: Vyskúšajte menšiu kvantizáciu, povoľte akceleráciu GPU alebo znížte maximálny počet tokenov.

Chyby pripojenia: Znova skontrolujte URL adresu poskytovateľa, platnosť kľúča a názov modelu. Pre presné parametre si pozrite stránku API pripojení.

10-minútový pracovný postup pre začiatočníkov (skopírujte toto)

Vyberte si poskytovateľa (napr. Gemini pre lacné testy alebo Claude pre dlhé dejové oblúky).

Vytvorte postavu s personou, odrážkami histórie a 3 ukážkovými dialógmi.

Nastavte teplotu na 0,8, Top‑p 0,9, penalizáciu opakovania na strednú.

Pridajte malú pamäťovú knihu: nastavenie, vzťahy, aktívne ciele.

Začnite chat s jasným nastavením scény a požadovaným tónom.

Po 10 správach exportujte chat, zapíšte dve vylepšenia a aktualizujte kartu postavy.

Zopakujte túto slučku a uvidíte dramatické zlepšenie konzistentnosti.

Tipy špecifické pre model (ťahák)

OpenAI: Má rád stručné systémové podnety; formátujte pokyny jasne s očíslovanými krokmi.

Claude: Darí sa mu s viacodsekovými zadaniami; skvelý pre kontinuitu príbehu a súhrny.

Gemini: Funguje dobre so štruktúrovanými podnetmi a explicitnými obmedzeniami; skontrolujte kvóty bezplatnej úrovne.

Local Llama: Používajte varianty vyladené na inštrukcie; testujte 2 – 3 kvantizácie pre rýchlosť/kvalitu.

Zálohy, exporty a organizácia

Používajte samostatné priečinky pre každý „vesmír“, aby ste zabránili krížovej kontaminácii príbehu.

Pravidelne exportujte chaty (JSON/HTML) a snímky kariet postáv.

Uchovávajte „meta“ dokument zaznamenávajúci nastavenia vzorkovania, verzie modelov a pozoruhodné sessions.

Stojí za zmienku: Zrýchlenie vášho pracovného postupu pomocou Sider.AI

Ak vytvárate návrhy životopisov postáv, náčrty scén alebo úryvky príbehov mimo SillyTavern, asistent na bočnom paneli vám môže pomôcť rýchlo iterovať. Mimochodom, asistent Sider.AI v prehliadači dokáže sumarizovať dlhé prepisy, navrhnúť zvláštnosti postáv alebo generovať zárodky scén, a potom môžete výsledky priamo vložiť do SillyTavern. Je to praktický spoločník pre predprodukciu na budovanie sveta a vylepšovanie podnetov.

Kľúčové poznatky

Začnite jednoducho: vyberte si jedného poskytovateľa, jednu postavu a malú pamäťovú knihu.

Kontrola je kráľ: systémové podnety, vzorkovanie a pamäť formujú konzistentnosť.

Vyberajte modely podľa cieľa: dĺžka príbehu, náklady, kreativita alebo súkromie.

Iterujte: exportujte, skontrolujte a vylepšite kartu postavy a predvoľby.

Zdroje

Prehľad API pripojení SillyTavern: podporovaní poskytovatelia, limity a poznámky.

Diskusia komunity o najlepších modeloch a bezplatných/nízkonákladových možnostiach, ako je Gemini.

Prehľad GitHub o SillyTavern ako LLM frontend pre hranie rolí a chat.

FAQ

Q1: Ako pripojím SillyTavern k OpenAI, Claude alebo Gemini? Otvorte nastavenia API SillyTavern a vložte svoje API kľúče pre každého poskytovateľa, potom vyberte názov modelu a uložte. Oficiálny sprievodca API pripojeniami uvádza podporovaných poskytovateľov a parametre, ktoré možno budete musieť nastaviť.

Q2: Môžem používať SillyTavern s lokálnym modelom, ako je Llama? Áno. Spustite lokálny backend, ako je KoboldAI alebo oobabooga/text-generation-webui, potom nasmerujte SillyTavern na lokálnu URL adresu servera. Uistite sa, že backend sprístupňuje API endpoint a používa kompatibilný model vyladený na inštrukcie.

Q3: Aké nastavenia zlepšujú konzistentnosť hrania rolí v SillyTavern? Vylepšite systémový podnet, pridajte ukážkový dialóg do karty postavy a použite malú pamäťovú knihu pre fakty a vzťahy. Nalaďte teplotu, Top‑p a penalizácie opakovania, aby ste vyvážili kreativitu a súvislosť.

Q4: Ktorý model je najlepší pre rozsiahle rozprávanie príbehov v SillyTavern? Modely Claude sú silné pre dlhú kontextovú súvislosť príbehu, zatiaľ čo OpenAI a Gemini sú všestranné a nákladovo efektívne pre všeobecný chat. Lokálne modely Llama sú skvelé pre súkromie, ak vám vyhovuje ich ladenie.

Q5: Ako znížim náklady na tokeny s API modelmi v SillyTavern? Skráťte dĺžku kontextu, povoľte stručné odpovede a pravidelne sumarizujte oblúky. Môžete tiež prepnúť na lacnejšie modely pre výplňové scény a ponechať si prémiové modely pre kľúčové momenty.