Kaip naudoti SillyTavern: praktinis vadovas, skirtas sąrankai, modeliams ir išplėstinėms RP funkcijoms
Jau girdėjote apie tai: SillyTavern yra viena iš lanksčiausių sąsajų, skirtų vaidmenų žaidimams ir pokalbiams su dideliais kalbos modeliais. Bet nuo ko pradėti, kuriuos modelius naudoti ir kaip atrakinti geriausias jo funkcijas nieko nesugadinant? Šis vadovas žingsnis po žingsnio nuves jus nuo diegimo iki profesionalaus lygio sesijų – jokio tuščiažodžiavimo, tik praktiškas, į sprendimus orientuotas kelias.
Kas yra SillyTavern ir kodėl jį naudoti?
SillyTavern yra galinga, pritaikoma vartotojo sąsaja, skirta sąveikai su LLM – tiek talpinamomis API, tiek vietiniais modeliais. Pagalvokite apie tai kaip apie savo valdymo kambarį įtraukiantiems pokalbiams, personažų vaidmenų žaidimams, pasaulio kūrimui ir istorijų bendradarbiavimui. Jis jungiasi prie tokių API kaip OpenAI, Anthropic ir Google, arba prie vietinių galinių sistemų, tokių kaip KoboldAI ir oobabooga/text-generation-webui (TGI/ExLlama ir kt.), leisdamas jums tiksliai sureguliuoti sesijų nuotaiką, atmintį ir stilių. Jis sukurtas taip, kad būtų prieinamas, bet kartu ir gilus, su tokiomis funkcijomis kaip personažų kortelės, ilgalaikė atmintis, plėtiniai ir detalūs raginimų bei pavyzdžių valdikliai.
Greita sąranka: nuo nulio iki pirmo pokalbio
Laikykitės šio supaprastinto srauto. Išplėstinius nustatymus galite peržiūrėti vėliau, kai jau jausitės patogiai.
1) Įdiekite ir paleiskite
- Nuklonuokite arba atsisiųskite SillyTavern iš jo GitHub saugyklos (arba prižiūrimo atšakojimo) ir vykdykite pridėtą paleidimo scenarijų, skirtą jūsų OS. „Windows“ sistemoje paprastai paleidžiate
start.bat, kad paleistumėte vietinį žiniatinklio serverį; „macOS/Linux“ sistemoje dažnas start.sh scenarijus.
- Atidarykite vietinį URL, rodomą terminale (paprastai ` arba prievadą, kurį spausdina SillyTavern), kad pasiektumėte vartotojo sąsają.
Patarimas: laikykite savo SillyTavern aplanką tvarkingą – personažų kortelės, išankstiniai nustatymai ir plėtiniai yra numatomuose poaplankiuose, todėl lengviau kurti atsargines kopijas.
2) Pasirinkite modelio kelią: API arba vietinis
- Talpinama API: greičiausia pradėti; įveskite savo API raktą SillyTavern API nustatymų skydelyje.
- Vietinė galinė sistema: geriausia privatumui ir valdymui; prijunkite SillyTavern prie vietinio serverio, pvz., KoboldAI arba oobabooga/text-generation-webui.
SillyTavern palaiko platų API teikėjų ir vietinių jungčių asortimentą, dokumentuose pateikiamos pastabos apie stipriąsias puses, apribojimus ir naudojimo atvejus.
3) Įveskite API kredencialus (jei naudojate talpinamus modelius)
- OpenAI, Anthropic, Google (Gemini) ir kitus galima pridėti įklijuojant API raktus į SillyTavern ryšių skirtuką.
- Patarimas: naudokite kiekvieno teikėjo išankstinius nustatymus; skirtingi modeliai geriau reaguoja į šiek tiek skirtingus sistemos raginimus, temperatūrą ir bausmes.
Bendruomenės pranešimuose pažymima, kad „Google“ Gemini galima naudoti nemokamai su „Google AI Studio“ raktu, todėl tai yra ekonomiškai efektyvi pradinė vieta eksperimentams.
4) Prisijunkite prie vietinių LLM (nebūtina)
- Paleiskite savo vietinę galinę sistemą („KoboldAI“, „text-generation-webui/oobabooga“, „LM Studio“ ir kt.) ir patikrinkite, ar ji teikia API galinį tašką.
- SillyTavern pasirinkite atitinkamą jungtį ir įveskite vietinį URL bei visus reikiamus parametrus.
- Patvirtinkite siųsdami trumpą bandomąjį pranešimą.
5) Sukurkite arba importuokite personažą
- Spustelėkite „Characters“ (Personažai) → „New“ (Naujas), kad sukurtumėte nuo nulio, arba importuokite personažo kortelę (PNG/JSON) iš savo bibliotekos.
- Užpildykite asmens, aprašymo, pavyzdinio dialogo ir apibrėžimo laukus. Kuo konkretesnis apibūdinimas, tuo geresnis RP nuoseklumas.
6) Pradėkite pokalbį
- Pasirinkite savo personažą ir modelį, tada parašykite pirmąjį pranešimą.
- Naudokite švelnų atidarymą, pvz.: „Nustatykime sceną: .
- Vietiniai Llama pagrindu sukurti modeliai: privatūs, pritaikomi; kokybė priklauso nuo kvantavimo ir tikslumo.
- KoboldAI/oobabooga rinkiniai: didelė įtaką išvadoms, raginimų formatams ir plėtiniams.
SillyTavern API ryšių vadove vienoje vietoje pateikiami palaikomi teikėjai ir įspėjimai.
Personažų kūrimas: asmenybių, kurios išlieka personaže, kūrimas
Puiki sesija prasideda nuo puikios personažo kortelės.
- Asmuo: 2–4 sakiniai apie tapatybę, vaidmenį, balsą.
- Ankstesnis gyvenimas: 3–5 pagrindinių istorijos punktų; venkite išsamių laiko juostų.
- Tikslai ir ribos: patikslinkite norus ir ribas, kurių personažas neperžengs.
- Kalbos modeliai: pridėkite keletą idiomų ar keistenybių pavyzdžių.
- Pavyzdinis dialogas: 3 mainai, pabrėžiantys toną, tempą ir emocinį diapazoną.
Profesionalus patarimas: pridėkite aplinkos inkarų (pvz., „miestas kvepia lietumi ir senomis neoninėmis šviesomis“), kad modelis išliktų aprašomas be nuolatinių priminimų.
Plėtiniai, papildiniai ir galingos funkcijos
SillyTavern turi priedų ekosistemą, kuri plečia jo galimybes:
- Atmintis ir žinių knygos: automatiškai įterpkite pagrindinius faktus, kai aptinkami trigeriai.
- Pasaulio/istorijos įrankiai: scenų šablonai, NPC sąrašai ir įvykių raginimai.
- TTS/STT: įgalinkite sesijas balsu naudodami teksto keitimo į kalbą ir kalbos keitimo į tekstą funkcijas.
- Vaizdo kabliukai: kai kurios jungtys palaiko vaizdo raginimus/atsakymus (priklauso nuo modelio).
- Automatizavimas: makrokomandos pasikartojantiems pasakojimo motyvams ar formatavimui.
Prieš įgalindami išplėstines integracijas, peržiūrėkite dokumentus, kuriuose rasite konkrečiam teikėjui skirtų funkcijų, raginimų formatų ir tarifų apribojimų pastabų.
Saugumas, filtrai ir ribos
- Modelio politika: API modeliai (pvz., Anthropic, Google) taiko saugos taisykles, kurios gali paveikti tam tikrų tipų turinį. Atitinkamai koreguokite savo kūrybinius tikslus.
- Vietinis valdymas: vietiniai modeliai suteikia daugiau laisvės, bet ir daugiau atsakomybės – iš anksto nustatykite asmenines ribas ir turinio žymas.
- Sesijos higiena: naudokite įspėjimus apie turinį, pasirinktines scenas ir aiškius perėjimus. Jei kažkas nukrypsta, apibendrinkite, iš naujo nustatykite toną ir iš naujo įtvirtinkite scenarijų.
Trikčių šalinimas: greiti dažniausiai pasitaikančių problemų sprendimai
- Modelis kartoja arba suka ratu: padidinkite kartojimo baudą, šiek tiek sumažinkite temperatūrą, į atmintį įtraukite daugiau pagrindinių faktų.
- Atsakymai ne personažo vardu: sustiprinkite personažo apibrėžimą ir pridėkite 2–3 pavyzdinius dialogus; sugriežtinkite sistemos raginimą.
- Išauga išlaidos (API naudojimas): sumažinkite konteksto ilgį, įgalinkite trumpesnius atsakymus, periodiškai apibendrinkite arba perjunkite į pigesnį modelį, skirtą užpildymo scenoms.
- Vietinis modelis veikia lėtai: išbandykite mažesnį kvantavimą, įgalinkite GPU pagreitinimą arba sumažinkite maksimalius žetonus.
- Ryšio klaidos: dar kartą patikrinkite teikėjo URL, rakto galiojimą ir modelio pavadinimą. Išsamius parametrus rasite API ryšių puslapyje.
10 minučių pradinės darbo eigos (nukopijuokite tai)
- Pasirinkite teikėją (pvz., Gemini, skirtą pigiems testams, arba Claude, skirtą ilgoms istorijos atkarpoms).
- Sukurkite personažą su asmeniu, istorijos punktais ir 3 pavyzdiniais dialogais.
- Nustatykite temperatūrą į 0,8, Top‑p 0,9, kartojimo baudą – vidutinę.
- Pridėkite nedidelę atminties knygą: nustatymus, santykius, aktyvius tikslus.
- Pradėkite pokalbį aiškiai nustatydami sceną ir norimą toną.
- Po 10 pranešimų eksportuokite pokalbį, užsirašykite du patobulinimus ir atnaujinkite personažo kortelę.
Pakartokite šį ciklą ir pamatysite didelį nuoseklumo padidėjimą.
Konkretaus modelio patarimai (apgaulės lapas)
- OpenAI: mėgsta glaustus sistemos raginimus; aiškiai suformatuokite instrukcijas sunumeruotais veiksmais.
- Claude: klesti daugelio pastraipų santraukose; puikiai tinka pasakojimo tęstinumui ir santraukoms.
- Gemini: gerai veikia su struktūruotais raginimais ir aiškiais apribojimais; patikrinkite nemokamo lygio kvotas.
- Vietinė Llama: naudokite pagal instrukcijas suderintus variantus; išbandykite 2–3 kvantavimus, kad nustatytumėte greitį/kokybę.
Atsarginės kopijos, eksportas ir organizavimas
- Naudokite atskirus aplankus kiekvienai „visatai“, kad išvengtumėte žinių kryžminio užteršimo.
- Reguliariai eksportuokite pokalbius (JSON/HTML) ir momentines personažo kortelių nuotraukas.
- Laikykite „meta“ dokumentą, kuriame būtų įrašyti atrankos nustatymai, modelių versijos ir svarbios sesijos.
Verta paminėti: darbo eigos paspartinimas naudojant Sider.AI
Jei rašote personažų biografijas, scenų metmenis ar žinių fragmentus už SillyTavern ribų, šoninė asistentė gali padėti greitai pakartoti. Beje, Sider.AI naršyklėje esantis asistentas gali apibendrinti ilgas nuorašas, pasiūlyti personažų keistenybes arba generuoti scenų užuomazgas, tada galite įklijuoti rezultatus tiesiai į SillyTavern. Tai patogus išankstinio paruošimo kompanionas kuriant pasaulį ir poliruojant raginimus. Pagrindiniai dalykai
- Pradėkite paprastai: pasirinkite vieną teikėją, vieną personažą ir nedidelę atminties knygą.
- Valdymas yra karalius: sistemos raginimai, atranka ir atmintis formuoja nuoseklumą.
- Pasirinkite modelius pagal tikslą: pasakojimo ilgį, kainą, kūrybiškumą ar privatumą.
- Kartokite: eksportuokite, peržiūrėkite ir patikslinkite personažo kortelę ir išankstinius nustatymus.
Ištekliai
- SillyTavern API ryšių apžvalga: palaikomi teikėjai, apribojimai ir pastabos.
- Bendruomenės diskusija apie geriausius modelius ir nemokamas/pigias parinktis, tokias kaip Gemini.
- GitHub SillyTavern apžvalga kaip LLM sąsajos vaidmenų žaidimams ir pokalbiams.
DUK
Q1:Kaip prijungti SillyTavern prie OpenAI, Claude ar Gemini?
Atidarykite SillyTavern API nustatymus ir įklijuokite kiekvieno teikėjo API raktus, tada pasirinkite modelio pavadinimą ir išsaugokite. Oficialiame API ryšių vadove pateikiami palaikomi teikėjai ir parametrai, kuriuos gali tekti nustatyti.
Q2:Ar galiu naudoti SillyTavern su vietiniu modeliu, pvz., Llama?
Taip. Paleiskite vietinę galinę sistemą, pvz., KoboldAI arba oobabooga/text-generation-webui, tada nukreipkite SillyTavern į vietinio serverio URL. Įsitikinkite, kad galinė sistema atidengia API galinį tašką ir naudoja suderinamą pagal instrukcijas suderintą modelį.
Q3:Kokie nustatymai pagerina vaidmenų žaidimo nuoseklumą SillyTavern?
Patikslinkite sistemos raginimą, pridėkite pavyzdinį dialogą prie personažo kortelės ir naudokite nedidelę atminties knygą faktams ir santykiams. Sureguliuokite temperatūrą, Top‑p ir kartojimo baudas, kad subalansuotumėte kūrybiškumą ir darną.
Q4:Kuris modelis geriausiai tinka ilgo formato istorijų pasakojimui SillyTavern?
Claude modeliai yra stiprūs ilgalaikiam pasakojimo nuoseklumui, o OpenAI ir Gemini yra universalūs ir ekonomiškai efektyvūs bendriems pokalbiams. Vietiniai Llama modeliai puikiai tinka privatumui, jei jums patogu juos derinti.
Q5:Kaip sumažinti žetonų kainą naudojant API modelius SillyTavern?
Sutrumpinkite konteksto ilgį, įgalinkite glaustus atsakymus ir periodiškai apibendrinkite lankus. Taip pat galite perjungti į pigesnius modelius, skirtus užpildymo scenoms, ir palikti aukščiausios kokybės modelius svarbiausioms akimirkoms.
