Kā lietot SillyTavern: Praktisks ceļvedis uzstādīšanai, modeļiem un uzlabotām RP funkcijām
Jūs esat dzirdējuši par to: SillyTavern ir viens no elastīgākajiem front-end risinājumiem lomu spēlēm un tērzēšanai ar lieliem valodu modeļiem. Bet ar ko sākt, kurus modeļus izmantot un kā atbloķēt tā labākās funkcijas, neko nesabojājot? Šis ceļvedis soli pa solim izvedīs jūs cauri visam — bez liekvārdības, tikai praktisks, uz risinājumiem orientēts ceļš no instalēšanas līdz profesionāla līmeņa sesijām.
Kas ir SillyTavern — un kāpēc to lietot?
SillyTavern ir spēcīgs, pielāgojams lietotāja interfeiss mijiedarbībai ar LLM — gan viesotām API, gan lokāliem modeļiem. Uztveriet to kā savu vadības telpu ieskaujošai tērzēšanai, tēlu lomu spēlēm, pasaules veidošanai un stāstu sadarbībai. Tas savienojas ar API, piemēram, OpenAI, Anthropic un Google, vai ar lokāliem backend, piemēram, KoboldAI un oobabooga/text-generation-webui (TGI/ExLlama u.c.), ļaujot precīzi noregulēt sesiju noskaņu, atmiņu un stilu. Tas ir izstrādāts tā, lai būtu gan pieejams, gan dziļš, ar tādām funkcijām kā tēlu kartītes, ilgtermiņa atmiņa, paplašinājumi un detalizētas vadīklas uzvednēm un paraugu ņemšanai.
Ātra uzstādīšana: No nulles līdz pirmajai tērzēšanai
Ievērojiet šo racionalizēto plūsmu. Uzlabotus iestatījumus varat pārskatīt vēlāk, kad būsiet pieraduši.
1) Instalēšana un palaišana
- Klonējiet vai lejupielādējiet SillyTavern no tā GitHub repozitorija (vai uzturēta forka) un izpildiet iekļauto starta skriptu savai OS. Operētājsistēmā Windows parasti palaiž
start.bat, lai palaistu lokālo tīmekļa serveri; operētājsistēmā macOS/Linux parasti tiek izmantots start.sh skripts.
- Atveriet terminālī parādīto lokālo URL (parasti ` vai portu, ko izdrukā SillyTavern), lai piekļūtu lietotāja interfeisam.
Padoms: Uzturiet savu SillyTavern mapi kārtībā — tēlu kartītes, sākotnējie iestatījumi un paplašinājumi atrodas paredzamās apakšmapēs, atvieglojot dublēšanu.
2) Izvēlieties modeļa ceļu: API vai lokāls
- Viesota API: Ātrākais veids, kā sākt; ievadiet savu API atslēgu SillyTavern API iestatījumu panelī.
- Lokāls backend: Vislabākais privātumam un kontrolei; savienojiet SillyTavern ar lokālu serveri, piemēram, KoboldAI vai oobabooga/text-generation-webui.
SillyTavern atbalsta plašu API nodrošinātāju un lokālo savienotāju klāstu, un dokumentācijā ir piezīmes par stiprajām pusēm, ierobežojumiem un lietošanas gadījumiem.
3) Ievadiet API akreditācijas datus (ja izmantojat viesotus modeļus)
- OpenAI, Anthropic, Google (Gemini) un citus var pievienot, ielīmējot API atslēgas SillyTavern savienojumu cilnē.
- Padoms: Izmantojiet sākotnējos iestatījumus katram pakalpojumu sniedzējam; dažādi modeļi labāk reaģē uz nedaudz atšķirīgām sistēmas uzvednēm, temperatūru un sodiem.
Kopienas ziņojumi liecina, ka Google Gemini var izmantot bez maksas ar Google AI Studio atslēgu, padarot to par rentablu sākuma punktu eksperimentiem.
4) Izveidojiet savienojumu ar lokāliem LLM (pēc izvēles)
- Palaidiet savu lokālo backend (KoboldAI, text-generation-webui/oobabooga, LM Studio u.c.) un pārliecinieties, vai tas apkalpo API galapunktu.
- SillyTavern izvēlieties atbilstošo savienotāju un ievadiet lokālo URL un visus nepieciešamos parametrus.
- Pārbaudiet, nosūtot īsu testa ziņojumu.
5) Izveidojiet vai importējiet tēlu
- Noklikšķiniet uz Characters → New, lai izveidotu no nulles, vai importējiet tēla kartīti (PNG/JSON) no savas bibliotēkas.
- Aizpildiet personas, apraksta, dialoga parauga un definīcijas laukus. Jo specifiskāks ir raksturojums, jo labāka būs RP konsekvence.
6) Sāciet tērzēt
- Izvēlieties savu tēlu un modeli, pēc tam uzrakstiet savu pirmo ziņojumu.
- Izmantojiet maigu ievadu, piemēram: “Iestatīsim ainu: .
- Lokāli Llama bāzēti modeļi: Privāti, pielāgojami; kvalitāte ir atkarīga no kvantēšanas un precīzas regulēšanas.
- KoboldAI/oobabooga steki: Dziļa kontrole pār secinājumiem, uzvedņu formātiem un paplašinājumiem.
SillyTavern API savienojumu rokasgrāmata vienuviet izklāsta atbalstītos pakalpojumu sniedzējus un brīdinājumus.
Tēlu izstrāde: Personību veidošana, kas paliek tēlam atbilstoša
Lieliska sesija sākas ar lielisku tēla kartīti.
- Persona: 2–4 teikumi par identitāti, lomu, balsi.
- Priekšvēsture: 3–5 aizzīmes par veidojošu vēsturi; izvairieties no izsmeļošām laika līnijām.
- Mērķi un robežas: Precizējiet vēlmes un robežas, kuras tēls nepārkāps.
- Runas modeļi: Pievienojiet dažus idomu vai savdabību piemērus.
- Dialoga paraugs: 3 apmaiņas, kas izceļ toni, tempu un emocionālo diapazonu.
Profesionāļa padoms: Pievienojiet vides enkuru (piemēram, “pilsēta smaržo pēc lietus un vecām neona zīmēm”), lai modelis būtu aprakstošs bez pastāvīgiem atgādinājumiem.
Paplašinājumi, spraudņi un jaudīgas funkcijas
SillyTavern ir papildinājumu ekosistēma, kas paplašina tā iespējas:
- Atmiņa un zināšanu grāmatas: Automātiski ievietojiet galvenos faktus, kad tiek konstatēti trigeri.
- Pasaules/stāstu rīki: Ainu veidnes, NPC saraksti un notikumu uzvednes.
- TTS/STT: Iespējojiet savas sesijas ar teksta pārvēršanu runā un runas pārvēršanu tekstā.
- Attēlu āķi: Daži savienotāji atbalsta attēlu uzvednes/atbildes (atkarībā no modeļa).
- Automatizācija: Makro atkārtotiem stāstījuma ritmiem vai formatēšanai.
Pirms iespējojat uzlabotas integrācijas, pārbaudiet dokumentāciju, lai uzzinātu par pakalpojumu sniedzējam specifiskām funkcijām, uzvedņu formātiem un ātruma ierobežojumiem.
Drošība, filtri un robežas
- Modeļu politikas: API modeļi (piemēram, Anthropic, Google) ievieš drošības noteikumus, kas var ietekmēt noteiktus satura veidus. Attiecīgi pielāgojiet savus radošos mērķus.
- Lokāla kontrole: Lokālie modeļi nodrošina lielāku rīcības brīvību, bet arī lielāku atbildību — iestatiet personīgās robežas un satura atzīmes iepriekš.
- Sesijas higiēna: Izmantojiet satura brīdinājumus, piekrišanas ainas un skaidrus pārejas. Ja kaut kas noiet greizi, apkopo, atiestatiet toni un no jauna noenkurojiet scenāriju.
Problēmu novēršana: Ātri labojumi izplatītākām problēmām
- Modelis atkārtojas vai cilpo: Palieliniet atkārtošanās sodu, nedaudz pazeminiet temperatūru, atmiņai pievienojiet vairāk pamatojošu faktu.
- Atbildes ārpus tēla: Nostipriniet tēla definīciju un pievienojiet 2–3 dialogu paraugus; pastipriniet sistēmas uzvedni.
- Izmaksas strauji pieaug (API izmantošana): Samaziniet konteksta garumu, iespējojiet īsākas atbildes, periodiski apkopojiet vai pārslēdzieties uz lētāku modeli aizpildījuma ainām.
- Lokālais modelis ir lēns: Izmēģiniet mazāku kvantēšanu, iespējojiet GPU paātrinājumu vai samaziniet maksimālos žetonus.
- Savienojuma kļūdas: Vēlreiz pārbaudiet pakalpojumu sniedzēja URL, atslēgas derīgumu un modeļa nosaukumu. Precīzus parametrus skatiet API savienojumu lapā.
10 minūšu sākuma darbplūsma (kopējiet šo)
- Izvēlieties pakalpojumu sniedzēju (piemēram, Gemini zemu izmaksu testiem vai Claude gariem stāstu lokiem).
- Izveidojiet tēlu ar personu, priekšvēstures aizzīmēm un 3 dialogu paraugiem.
- Iestatiet temperatūru uz 0,8, Top‑p 0,9, atkārtošanās sodu vidēju.
- Pievienojiet nelielu atmiņas grāmatu: vide, attiecības, aktīvie mērķi.
- Sāciet tērzēšanu ar skaidru ainas iestatījumu un vēlamo toni.
- Pēc 10 ziņojumiem eksportējiet tērzēšanu, pierakstiet divus uzlabojumus un atjauniniet tēla kartīti.
Atkārtojiet šo cilpu, un jūs redzēsiet dramatiskus konsekvences ieguvumus.
Modeļiem specifiski padomi (špikers)
- OpenAI: Patīk kodolīgas sistēmas uzvednes; formatējiet norādījumus skaidri ar numurētiem soļiem.
- Claude: Plaukst ar daudzpunktu kopsavilkumiem; lieliski piemērots stāstījuma nepārtrauktībai un kopsavilkumiem.
- Gemini: Labi darbojas ar strukturētām uzvednēm un skaidriem ierobežojumiem; pārbaudiet bezmaksas līmeņa kvotas.
- Local Llama: Izmantojiet instruktēšanas variantus; pārbaudiet 2–3 kvantēšanas ātrumam/kvalitātei.
Dublējumi, eksports un organizācija
- Izmantojiet atsevišķas mapes katram "visumam", lai novērstu zināšanu savstarpēju piesārņojumu.
- Regulāri eksportējiet tērzēšanas (JSON/HTML) un momentuzņēmumus savām tēlu kartītēm.
- Glabājiet "meta" dokumentu, kurā reģistrēti paraugu ņemšanas iestatījumi, modeļu versijas un ievērojamas sesijas.
Vērts atzīmēt: Darbplūsmas paātrināšana ar Sider.AI
Ja jūs veidojat tēlu bios, ainu izklāstus vai zināšanu fragmentus ārpus SillyTavern, sānu joslas palīgs var palīdzēt jums ātri atkārtot. Starp citu, Sider.AI pārlūkprogrammā iebūvētais palīgs var apkopot garus atšifrējumus, ierosināt tēlu savdabības vai ģenerēt ainu sēklas, tad jūs varat ielīmēt rezultātus tieši SillyTavern. Tas ir ērts pirmsprodukcijas pavadonis pasaules veidošanai un uzvedņu slīpēšanai. Galvenās atziņas
- Sāciet vienkārši: izvēlieties vienu pakalpojumu sniedzēju, vienu tēlu un nelielu atmiņas grāmatu.
- Kontrole ir karalis: sistēmas uzvednes, paraugu ņemšana un atmiņas formas konsekvence.
- Izvēlieties modeļus pēc mērķa: stāstījuma garums, izmaksas, radošums vai privātums.
- Atkārtojiet: eksportējiet, pārskatiet un pilnveidojiet savu tēla kartīti un sākotnējos iestatījumus.
Resursi
- SillyTavern API savienojumu pārskats: atbalstītie pakalpojumu sniedzēji, ierobežojumi un piezīmes.
- Kopienas diskusija par labākajiem modeļiem un bezmaksas/zemu izmaksu iespējām, piemēram, Gemini.
- GitHub SillyTavern pārskats kā LLM frontend lomu spēlēm un tērzēšanai.
BUJ
Q1: Kā es varu savienot SillyTavern ar OpenAI, Claude vai Gemini?
Atveriet SillyTavern API iestatījumus un ielīmējiet savas API atslēgas katram pakalpojumu sniedzējam, pēc tam atlasiet modeļa nosaukumu un saglabājiet. Oficiālajā API savienojumu rokasgrāmatā ir uzskaitīti atbalstītie pakalpojumu sniedzēji un parametri, kas jums var būt jāiestata.
Q2: Vai es varu izmantot SillyTavern ar lokālu modeli, piemēram, Llama?
Jā. Palaidiet lokālu backend, piemēram, KoboldAI vai oobabooga/text-generation-webui, pēc tam norādiet SillyTavern uz lokālā servera URL. Pārliecinieties, vai backend atklāj API galapunktu un izmanto saderīgu instruktēšanas modeli.
Q3: Kuri iestatījumi uzlabo lomu spēles konsekvenci SillyTavern?
Pilnveidojiet sistēmas uzvedni, pievienojiet dialoga paraugu tēla kartītei un izmantojiet nelielu atmiņas grāmatu faktiem un attiecībām. Noregulējiet temperatūru, Top‑p un atkārtošanās sodus, lai līdzsvarotu radošumu un saskaņotību.
Q4: Kurš modelis ir vislabākais garu stāstu stāstīšanai SillyTavern?
Claude modeļi ir spēcīgi gara konteksta stāstījuma saskaņotībai, savukārt OpenAI un Gemini ir daudzpusīgi un rentabli vispārējai tērzēšanai. Local Llama modeļi ir lieliski piemēroti privātumam, ja jums ir ērti tos regulēt.
Q5: Kā es varu samazināt žetonu izmaksas ar API modeļiem SillyTavern?
Saīsiniet konteksta garumu, iespējojiet kodolīgas atbildes un periodiski apkopojiet lokus. Jūs varat arī pārslēgties uz lētākiem modeļiem aizpildījuma ainām un saglabāt premium modeļus svarīgiem mirkļiem.
