Jak používat SillyTavern: Praktický průvodce nastavením, modely a pokročilými RP funkcemi
Slyšeli jste o tom: SillyTavern je jeden z nejflexibilnějších front-endů pro hraní rolí a chat s velkými jazykovými modely. Ale kde začít, které modely byste měli použít a jak odemknout jeho nejlepší funkce, aniž byste něco pokazili? Tento průvodce vás provede krok za krokem – žádné zbytečnosti, jen praktická cesta orientovaná na řešení od instalace po profesionální relace.
Co je SillyTavern – a proč ho používat?
SillyTavern je výkonné, přizpůsobitelné uživatelské rozhraní pro interakci s LLM – jak hostovanými API, tak lokálními modely. Představte si ho jako svou řídicí místnost pro pohlcující chat, hraní rolí postav, budování světa a spolupráci na příbězích. Připojuje se k API jako OpenAI, Anthropic a Google, nebo k lokálním backendům, jako jsou KoboldAI a oobabooga/text-generation-webui (TGI/ExLlama, atd.), což vám umožní doladit atmosféru, paměť a styl vašich relací. Je navržen tak, aby byl přístupný, ale zároveň hluboký, s funkcemi, jako jsou karty postav, dlouhodobá paměť, rozšíření a podrobné ovládací prvky pro výzvy a vzorkování.
Rychlé nastavení: Od nuly k prvnímu chatu
Postupujte podle tohoto zjednodušeného postupu. Pokročilá nastavení můžete navštívit později, až se budete cítit pohodlně.
1) Instalace a spuštění
- Klonujte nebo stáhněte SillyTavern z jeho GitHub repozitáře (nebo udržované forku) a postupujte podle přiloženého spouštěcího skriptu pro váš OS. V systému Windows obvykle spustíte
start.bat pro spuštění lokálního webového serveru; v systémech macOS/Linux je běžný skript start.sh.
- Otevřete lokální URL adresu zobrazenou v terminálu (obvykle ` nebo port, který SillyTavern vytiskne) pro přístup k uživatelskému rozhraní.
Tip: Udržujte svou složku SillyTavern uspořádanou – karty postav, předvolby a rozšíření se nacházejí v předvídatelných podsložkách, což usnadňuje zálohování.
2) Vyberte si cestu modelu: API nebo lokální
- Hostované API: Nejrychlejší pro začátek; zadejte svůj API klíč v panelu nastavení API v SillyTavern.
- Lokální backend: Nejlepší pro soukromí a kontrolu; připojte SillyTavern k lokálnímu serveru, jako je KoboldAI nebo oobabooga/text-generation-webui.
SillyTavern podporuje širokou škálu poskytovatelů API a lokálních konektorů, s poznámkami o silných stránkách, omezeních a případech použití v dokumentaci.
3) Zadejte přihlašovací údaje API (pokud používáte hostované modely)
- OpenAI, Anthropic, Google (Gemini) a další lze přidat vložením API klíčů do záložky připojení v SillyTavern.
- Tip: Používejte předvolby pro jednotlivé poskytovatele; různé modely lépe reagují na mírně odlišné systémové výzvy, teplotu a penalizace.
Komunitní zprávy uvádějí, že Google <a0>Gemini
lze používat zdarma s klíčem Google AI Studio, což z něj činí nákladově efektivní výchozí bod pro experimentování.</a0>4) Připojte se k lokálním LLM (volitelné)
- Spusťte svůj lokální backend (KoboldAI, text-generation-webui/oobabooga, LM Studio atd.) a ověřte, že poskytuje API endpoint.
- V SillyTavern vyberte odpovídající konektor a zadejte lokální URL adresu a všechny požadované parametry.
- Ověřte odesláním krátké testovací zprávy.
5) Vytvořte nebo importujte postavu
- Klikněte na Characters → New pro vytvoření od nuly, nebo importujte kartu postavy (PNG/JSON) z vaší knihovny.
- Vyplňte pole persona, popis, ukázkový dialog a definice. Čím specifičtější je charakteristika, tím lepší je konzistence RP.
6) Začněte chatovat
- Vyberte si svou postavu a model, poté napište svou první zprávu.
- Použijte jemný začátek jako: „Nastavme scénu: .“
- Lokální modely založené na Llama: Soukromé, přizpůsobitelné; kvalita závisí na kvantizaci a doladění.
- KoboldAI/oobabooga stacks: Hluboká kontrola nad inferencí, formáty výzev a rozšířeními.
Průvodce API připojeními SillyTavern uvádí podporované poskytovatele a upozornění na jednom místě.
Tvorba postav: Budování osobností, které zůstanou v charakteru
Skvělá relace začíná skvělou kartou postavy.
- Persona: 2–4 věty o identitě, roli, hlasu.
- Historie: 3–5 odrážek formativní historie; vyhněte se vyčerpávajícím časovým osám.
- Cíle a hranice: Objasněte touhy a hranice, které postava nepřekročí.
- Vzorce řeči: Přidejte několik příkladů idiomů nebo zvláštností.
- Ukázkový dialog: 3 výměny zdůrazňující tón, tempo a emocionální rozsah.
Profesionální tip: Přidejte environmentální kotvy (např. „město voní po dešti a starých neonech“), aby model zůstal popisný bez neustálých připomínek.
Rozšíření, pluginy a pokročilé funkce
SillyTavern má ekosystém doplňků, které rozšiřují jeho možnosti:
- Paměť a Lorebooks: Automaticky vkládejte klíčová fakta, když jsou detekovány spouštěče.
- World/Story Tools: Šablony scén, seznamy NPC a výzvy k událostem.
- TTS/STT: Hlasově aktivujte své relace pomocí převodu textu na řeč a řeči na text.
- Image Hooks: Některé konektory podporují obrázkové výzvy/odpovědi (v závislosti na modelu).
- Automatizace: Makra pro opakující se narativní beaty nebo formátování.
Před povolením pokročilých integrací si přečtěte dokumentaci pro funkce specifické pro poskytovatele, formáty výzev a poznámky o omezení rychlosti.
Bezpečnost, filtry a hranice
- Zásady modelů: API modely (např. Anthropic, Google) prosazují bezpečnostní pravidla, která mohou ovlivnit určité typy obsahu. Upravte podle toho své kreativní cíle.
- Lokální kontrola: Lokální modely vám dávají větší volnost, ale také větší odpovědnost – nastavte osobní hranice a značky obsahu předem.
- Hygiena relací: Používejte varování ohledně obsahu, opt-in scény a jasné přechody. Pokud se něco pokazí, shrňte, resetujte tón a znovu ukotvěte scénář.
Odstraňování problémů: Rychlé opravy běžných problémů
- Model se opakuje nebo smyčkuje: Zvyšte penalizaci opakování, mírně snižte teplotu, přidejte do paměti více základních faktů.
- Odpovědi mimo charakter: Posilte definici postavy a přidejte 2–3 ukázkové dialogy; zpřísněte systémovou výzvu.
- Náklady prudce rostou (použití API): Snižte délku kontextu, povolte kratší odpovědi, pravidelně shrnujte nebo přepněte na levnější model pro výplňové scény.
- Lokální model je pomalý: Vyzkoušejte menší kvantizaci, povolte akceleraci GPU nebo snižte maximální počet tokenů.
- Chyby připojení: Znovu zkontrolujte URL adresu poskytovatele, platnost klíče a název modelu. Pro přesné parametry se podívejte na stránku API připojení.
10minutový startovací pracovní postup (zkopírujte toto)
- Vyberte si poskytovatele (např. Gemini pro levné testy nebo Claude pro dlouhé příběhové oblouky).
- Vytvořte postavu s personou, odrážkami historie a 3 ukázkovými dialogy.
- Nastavte teplotu na 0,8, Top-p 0,9, penalizaci opakování střední.
- Přidejte malou paměťovou knihu: nastavení, vztahy, aktivní cíle.
- Začněte chat s jasným nastavením scény a požadovaným tónem.
- Po 10 zprávách exportujte chat, poznamenejte si dvě vylepšení a aktualizujte kartu postavy.
Opakujte tuto smyčku a uvidíte dramatické zlepšení konzistence.
Tipy specifické pro model (tahák)
- OpenAI: Má rád stručné systémové výzvy; formátujte instrukce jasně s očíslovanými kroky.
- Claude: Daří se mu s víceodstavcovými briefy; skvělý pro narativní kontinuitu a shrnutí.
- Gemini: Funguje dobře se strukturovanými výzvami a explicitními omezeními; zkontrolujte kvóty bezplatné vrstvy.
- Lokální Llama: Používejte varianty vyladěné pro instrukce; otestujte 2–3 kvantizace pro rychlost/kvalitu.
Zálohy, exporty a organizace
- Používejte samostatné složky pro každý „vesmír“, abyste zabránili křížové kontaminaci lore.
- Pravidelně exportujte chaty (JSON/HTML) a pořizujte snímky karet postav.
- Udržujte „meta“ dokument zaznamenávající nastavení vzorkování, verze modelů a pozoruhodné relace.
Stojí za zmínku: Zrychlení vašeho pracovního postupu pomocí Sider.AI
Pokud navrhujete bios postav, osnovy scén nebo úryvky lore mimo SillyTavern, asistent na bočním panelu vám může pomoci rychle iterovat. Mimochodem, asistent v prohlížeči Sider.AI může shrnout dlouhé přepisy, navrhnout zvláštnosti postav nebo generovat zárodky scén, a poté můžete výsledky vložit přímo do SillyTavern. Je to užitečný společník pro předprodukci pro budování světa a leštění výzev. Klíčové poznatky
- Začněte jednoduše: vyberte si jednoho poskytovatele, jednu postavu a malou paměťovou knihu.
- Kontrola je král: systémové výzvy, vzorkování a paměť formují konzistenci.
- Vybírejte modely podle cíle: délka vyprávění, náklady, kreativita nebo soukromí.
- Iterujte: exportujte, zkontrolujte a vylepšete svou kartu postavy a předvolby.
Zdroje
- Přehled API připojení SillyTavern: podporovaní poskytovatelé, limity a poznámky.
- Komunitní diskuse o nejlepších modelech a bezplatných/levných možnostech, jako je Gemini.
- Přehled GitHub SillyTavern jako LLM frontendu pro hraní rolí a chat.
FAQ
Q1: Jak připojím SillyTavern k OpenAI, Claude nebo Gemini?
Otevřete nastavení API v SillyTavern a vložte své API klíče pro každého poskytovatele, poté vyberte název modelu a uložte. Oficiální průvodce API připojeními uvádí podporované poskytovatele a parametry, které možná budete muset nastavit.
Q2: Mohu používat SillyTavern s lokálním modelem, jako je Llama?
Ano. Spusťte lokální backend, jako je KoboldAI nebo oobabooga/text-generation-webui, a poté nasměrujte SillyTavern na lokální URL adresu serveru. Ujistěte se, že backend zpřístupňuje API endpoint a používá kompatibilní model vyladěný pro instrukce.
Q3: Jaká nastavení zlepšují konzistenci hraní rolí v SillyTavern?
Vylepšete systémovou výzvu, přidejte ukázkový dialog do karty postavy a použijte malou paměťovou knihu pro fakta a vztahy. Vylaďte teplotu, Top-p a penalizace opakování, abyste vyvážili kreativitu a koherenci.
Q4: Který model je nejlepší pro dlouhodobé vyprávění příběhů v SillyTavern?
Modely Claude jsou silné pro dlouhodobou narativní koherenci, zatímco OpenAI a Gemini jsou všestranné a nákladově efektivní pro obecný chat. Lokální modely Llama jsou skvělé pro soukromí, pokud je vám pohodlné je ladit.
Q5: Jak snížím náklady na tokeny s API modely v SillyTavern?
Zkraťte délku kontextu, povolte stručné odpovědi a pravidelně shrnujte oblouky. Můžete také přepnout na levnější modely pro výplňové scény a ponechat si prémiové modely pro klíčové okamžiky.
