Kuidas kasutada SillyTaverni: praktiline juhend seadistamiseks, mudeliteks ja täiustatud RP funktsioonideks
Oled kuulnud kõmu: SillyTavern on üks paindlikumaid kasutajaliideseid suurte keelemudelitega rollimängimiseks ja vestlemiseks. Aga kust alustada, milliseid mudeleid kasutada ja kuidas avada selle parimad funktsioonid midagi katki tegemata? See juhend juhatab sind samm-sammult – ilma ilustusteta, vaid praktiline, lahendustele orienteeritud tee paigaldamisest kuni professionaalsete sessioonideni.
Mis on SillyTavern – ja miks seda kasutada?
SillyTavern on võimas, kohandatav kasutajaliides LLM-idega suhtlemiseks – nii hostitud API-de kui ka lokaalsete mudelitega. Mõtle sellele kui oma juhtimiskeskusele kaasahaarava vestluse, tegelaste rollimängu, maailma loomise ja lugude koostöö jaoks. See loob ühenduse selliste API-dega nagu OpenAI, Anthropic ja Google või kohalike taustaprogrammidega nagu KoboldAI ja oobabooga/text-generation-webui (TGI/ExLlama jne), võimaldades sul peenhäälestada oma sessioonide meeleolu, mälu ja stiili. See on loodud olema lähenetav, kuid samas sügav, sisaldades selliseid funktsioone nagu tegelaskaardid, pikaajaline mälu, laiendused ja üksikasjalikud kontrollid viipade ja näidiste jaoks.
Kiire seadistamine: nullist esimese vestluseni
Järgi seda sujuvat voogu. Täiustatud sätteid saad hiljem uuesti külastada, kui oled end mugavalt sisse seadnud.
1) Installi ja käivita
- Klooni või laadi alla SillyTavern selle GitHubi repositooriumist (või hooldatavast kahvelharust) ja järgi oma operatsioonisüsteemi jaoks kaasasolevat käivitussskripti. Windowsis käivitatakse tavaliselt
start.bat kohaliku veebiserveri käivitamiseks; macOS/Linuxis on tavaline start.sh skript.
- Ava terminalis kuvatud kohalik URL (tavaliselt ` või port, mille SillyTavern prindib), et pääseda ligi kasutajaliidesele.
Nipp: hoia oma SillyTaverni kaust korras – tegelaskaardid, eelseadistused ja laiendused asuvad ennustatavates alamkaustades, mis muudab varukoopiate tegemise lihtsamaks.
2) Vali oma mudeli tee: API või kohalik
- Hostitud API: kõige kiirem alustamiseks; sisesta oma API võti SillyTaverni API sätete paneelile.
- Kohalik taustaprogramm: parim privaatsuse ja kontrolli jaoks; ühenda SillyTavern kohaliku serveriga, nagu KoboldAI või oobabooga/text-generation-webui.
SillyTavern toetab laia valikut API pakkujaid ja kohalikke ühendusi, koos märkustega tugevuste, piirangute ja kasutusjuhtude kohta dokumentides.
3) Sisesta API mandaadid (kui kasutad hostitud mudeleid)
- OpenAI, Anthropic, Google (Gemini) ja teisi saab lisada, kleepides API võtmed SillyTaverni ühenduste vahekaardile.
- Nipp: kasuta pakkuja põhiseid eelseadistusi; erinevad mudelid reageerivad paremini veidi erinevatele süsteemiviipadele, temperatuurile ja karistustele.
Kogukonna aruanded märgivad, et Google'i Gemini't saab tasuta kasutada Google AI Studio võtmega, mis muudab selle kulutõhusaks lähtepunktiks katsetamiseks.
4) Ühenda kohalike LLM-idega (valikuline)
- Käivita oma kohalik taustaprogramm (KoboldAI, text-generation-webui/oobabooga, LM Studio jne) ja veendu, et see teenindab API lõpp-punkti.
- Vali SillyTavernis vastav konnektor ja sisesta kohalik URL ja kõik vajalikud parameetrid.
- Valideeri, saates lühikese test-sõnumi.
5) Loo või impordi tegelane
- Klõpsa Tegelased → Uus, et luua nullist, või impordi tegelaskaart (PNG/JSON) oma raamatukogust.
- Täida isiku, kirjelduse, näidisdialoogi ja definitsiooni väljad. Mida spetsiifilisem on iseloomustus, seda parem on RP järjepidevus.
6) Alusta vestlust
- Vali oma tegelane ja mudel, seejärel kirjuta oma esimene sõnum.
- Kasuta pehmet avajat nagu: “Seame stseeni: {scene setup} .
- Kohalikud Llama-põhised mudelid: privaatsed, kohandatavad; kvaliteet sõltub kvantiseerimisest ja peenhäälestusest.
- KoboldAI/oobabooga virnad: sügav kontroll järelduse, viipade vormingute ja laienduste üle.
SillyTaverni API ühenduste juhend kirjeldab toetatud pakkujaid ja hoiatusi ühes kohas.
Tegelase loomine: kujundamine isiksusi, mis jäävad tegelaskujuks
Suurepärane seanss algab suurepärase tegelaskaardiga.
- Isik: 2–4 lauset identiteedi, rolli, hääle kohta.
- Taustalugu: 3–5 täpploendit kujundavast ajaloost; väldi ammendavaid ajajooni.
- Eesmärgid ja piirid: selgita soove ja piire, mida tegelane ei ületa.
- Kõnemustrid: lisa mõned näited idioomidest või veidrustest.
- Näidisdialoog: 3 vahetust, mis rõhutavad tooni, tempot ja emotsionaalset ulatust.
Profiitnõuanne: lisa keskkonnaankruid (nt „linn lõhnab vihma ja vana neooni järele“), et hoida mudel kirjeldavana ilma pidevate meeldetuletusteta.
Laiendused, pluginad ja võimsad funktsioonid
SillyTavernil on lisandmoodulite ökosüsteem, mis laiendab selle võimalusi:
- Mälu ja Lorebooks: süsti automaatselt võtmefakte, kui päästikud tuvastatakse.
- Maailma/loo tööriistad: stseenimallid, NPC nimekirjad ja sündmuste viipad.
- TTS/STT: Häälega võimaldamine oma seansid teksti-kõneks ja kõne-tekstiks.
- Pildi konksud: mõned konnektorid toetavad pildi viipasid/vastuseid (oleneb mudelist).
- Automatiseerimine: makrod korduvate narratiivsete taktiliste löökide või vormindamise jaoks.
Enne täiustatud integratsioonide lubamist vaata dokumente pakkuja spetsiifiliste funktsioonide, viipade vormingute ja määrade piirangute märkuste kohta.
Ohutus, filtrid ja piirid
- Mudelite poliitikad: API mudelid (nt Anthropic, Google) jõustavad ohutusreegleid, mis võivad mõjutada teatud sisutüüpe. Kohanda oma loomingulisi eesmärke vastavalt.
- Kohalik kontroll: kohalikud mudelid annavad sulle rohkem vabadust, aga ka rohkem vastutust – määra isiklikud piirid ja sisusildid ette.
- Seansi hügieen: kasuta sisuhoiatusi, valikuvõimalusega stseene ja selgeid üleminekuid. Kui midagi läheb rööpast välja, võta kokku, lähtesta toon ja kinnita stsenaarium uuesti.
Veaotsing: kiired lahendused levinud probleemidele
- Mudel kordab või teeb tsükleid: suurenda korduskaristust, alanda temperatuuri veidi, lisa mällu rohkem maandavaid fakte.
- Väljaspool tegelaskuju vastused: tugevda tegelase määratlust ja lisa 2–3 näidisdialoogi; pinguta süsteemiviipa.
- Kulud kasvavad (API kasutamine): vähenda konteksti pikkust, luba lühemaid vastuseid, võta perioodiliselt kokku või lülitu täite stseenide jaoks odavamale mudelile.
- Kohalik mudel on aeglane: proovi väiksemat kvantiseerimist, luba GPU kiirendus või alanda maksimaalseid tokeneid.
- Ühenduse vead: kontrolli uuesti pakkuja URL-i, võtme kehtivust ja mudeli nime. Täpsete parameetrite saamiseks vaata API ühenduste lehte.
10-minutiline alustamise töövoog (kopeeri see)
- Vali pakkuja (nt Gemini odavateks testideks või Claude pikkade lugude jaoks).
- Loo tegelane koos isiku, taustalugu täppide ja 3 näidisdialoogiga.
- Määra temperatuuriks 0.8, Top‑p 0.9, korduskaristus keskmine.
- Lisa väike mäluraamat: seadistus, suhted, aktiivsed eesmärgid.
- Alusta vestlust selge stseeni seadistuse ja soovitud tooniga.
- Pärast 10 sõnumit ekspordi vestlus, pane kirja kaks täiustust ja uuenda tegelaskaarti.
Korda seda tsüklit ja sa näed dramaatilist järjepidevuse kasvu.
Mudelipõhised näpunäited (spikker)
- OpenAI: talle meeldivad lühikesed süsteemiviipad; vormista juhised selgelt nummerdatud sammudega.
- Claude: areneb mitme lõigu pikkustel lühikokkuvõtetel; suurepärane narratiivse järjepidevuse ja kokkuvõtete jaoks.
- Gemini: töötab hästi struktureeritud viipade ja selgete piirangutega; kontrolli tasuta taseme kvoote.
- Kohalik Llama: kasuta juhendamispõhiseid variante; testi kiiruse/kvaliteedi jaoks 2–3 kvantiseerimist.
Varukoopiad, eksport ja korraldus
- Kasuta eraldi kaustu iga "universumi" jaoks, et vältida teadmiste ristsaastumist.
- Ekspordi vestlusi regulaarselt (JSON/HTML) ja tee hetktõmmis oma tegelaskaartidest.
- Hoia "meta" dokumenti, mis salvestab näidiste seaded, mudelite versioonid ja märkimisväärsed seansid.
Väärib märkimist: oma töövoo kiirendamine Sider.AI-ga
Kui sa koostad tegelaste biosid, stseeni kontuure või teadmiste katkendeid väljaspool SillyTaverni, võib külgriba assistent aidata sul kiiresti itereerida. Muide, Sider.AI brauserisisene assistent saab kokku võtta pikki transkripte, soovitada tegelaste veidrusi või genereerida stseeni seemneid, seejärel saad kleepida tulemused otse SillyTaverni. See on käepärane eeltootmise kaaslane maailma loomiseks ja viipade lihvimiseks. Peamised järeldused
- Alusta lihtsalt: vali üks pakkuja, üks tegelane ja väike mäluraamat.
- Kontroll on kuningas: süsteemiviipad, näidised ja mälu kujundavad järjepidevust.
- Vali mudelid eesmärgi järgi: narratiivi pikkus, hind, loovus või privaatsus.
- Itereeri: ekspordi, vaata üle ja täpsusta oma tegelaskaarti ja eelseadistusi.
Ressursid
- SillyTaverni API ühenduste ülevaade: toetatud pakkujad, piirid ja märkused.
- Kogukonna arutelu parimate mudelite ja tasuta/odavate valikute kohta nagu Gemini.
- GitHubi ülevaade SillyTavernist kui LLM esiliidesest rollimängu ja vestluse jaoks.
KKK
Q1:Kuidas ühendada SillyTavern OpenAI, Claude või Gemini'ga?
Ava SillyTaverni API sätted ja kleebi oma API võtmed iga pakkuja jaoks, seejärel vali mudeli nimi ja salvesta. Ametlik API ühenduste juhend loetleb toetatud pakkujad ja parameetrid, mida sul võib vaja minna seadistada.
Q2:Kas ma saan kasutada SillyTaverni kohaliku mudeliga nagu Llama?
Jah. Käivita kohalik taustaprogramm nagu KoboldAI või oobabooga/text-generation-webui, seejärel suuna SillyTavern kohaliku serveri URL-ile. Veendu, et taustaprogramm avaldab API lõpp-punkti ja kasutab ühilduvat juhendamispõhist mudelit.
Q3:Millised seaded parandavad rollimängu järjepidevust SillyTavernis?
Täpsusta süsteemiviipa, lisa näidisdialoogi tegelaskaardile ja kasuta väikest mäluraamatut faktide ja suhete jaoks. Häälesta temperatuuri, Top‑p ja korduskaristusi, et tasakaalustada loovust ja sidusust.
Q4:Milline mudel on parim pika vormi jutustamiseks SillyTavernis?
Claude mudelid on tugevad pika konteksti narratiivse sidususe jaoks, samas kui OpenAI ja Gemini on mitmekülgsed ja kulutõhusad üldiseks vestluseks. Kohalikud Llama mudelid on suurepärased privaatsuse jaoks, kui sa tunned end mugavalt neid häälestades.
Q5:Kuidas ma saan vähendada tokenite kulusid API mudelitega SillyTavernis?
Vähenda konteksti pikkust, luba lühikesi vastuseid ja võta kaari perioodiliselt kokku. Sa saad ka lülituda madalama hinnaga mudelitele täitestseenide jaoks ja hoida esmaklassilisi mudeleid pöördeliste hetkede jaoks.
