How do I connect SillyTavern to OpenAI, Claude, or Gemini?

Open SillyTavern’s API settings and paste your API keys for each provider, then select the model name and save. The official API connections guide lists supported providers and parameters you may need to set.

Can I use SillyTavern with a local model like Llama?

Yes. Run a local backend such as KoboldAI or oobabooga/text-generation-webui, then point SillyTavern to the local server URL. Make sure the backend exposes an API endpoint and is using a compatible instruct-tuned model.

What settings improve roleplay consistency in SillyTavern?

Refine the system prompt, add sample dialogue to the character card, and use a small memory book for facts and relationships. Tune temperature, Top‑p, and repetition penalties to balance creativity and coherence.

Which model is best for long-form storytelling in SillyTavern?

Claude models are strong for long-context narrative coherence, while OpenAI and Gemini are versatile and cost-effective for general chat. Local Llama models are great for privacy if you’re comfortable tuning them.

How do I reduce token costs with API models in SillyTavern?

Shorten context length, enable concise replies, and summarize arcs periodically. You can also switch to lower-cost models for filler scenes and keep premium models for pivotal moments.

సిల్లీటావెర్న్‌ను ఎలా ఉపయోగించాలి: సెటప్, మోడల్స్ మరియు అధునాతన RP ఫీచర్లకు ఆచరణాత్మక మార్గదర్శి

మీరు సందడి విన్నారు: పెద్ద భాషా నమూనాలతో రోల్‌ప్లే మరియు చాట్ చేయడానికి సిల్లీటావెర్న్ అత్యంత అనువైన ఫ్రంట్-ఎండ్‌లలో ఒకటి. కానీ మీరు ఎక్కడ ప్రారంభించాలి, మీరు ఏ మోడల్‌లను ఉపయోగించాలి మరియు ఏదైనా విచ్ఛిన్నం చేయకుండా దాని ఉత్తమ ఫీచర్లను ఎలా అన్‌లాక్ చేయాలి? ఈ గైడ్ మిమ్మల్ని దశల వారీగా నడిపిస్తుంది—తేలికగా, ఇన్‌స్టాలేషన్ నుండి ప్రో-స్థాయి సెషన్‌ల వరకు ఆచరణాత్మక, పరిష్కార-ఆధారిత మార్గం.

సిల్లీటావెర్న్ అంటే ఏమి—మరియు ఎందుకు ఉపయోగించాలి?

సిల్లీటావెర్న్ అనేది LLMలతో—హోస్ట్ చేయబడిన APIలు మరియు స్థానిక మోడల్‌లు రెండింటితో సంభాషించడానికి శక్తివంతమైన, అనుకూలీకరించదగిన UI. లీనమయ్యే చాట్, క్యారెక్టర్ రోల్‌ప్లే, వరల్డ్‌బిల్డింగ్ మరియు స్టోరీ కొలాబరేషన్ కోసం దీన్ని మీ కంట్రోల్ రూమ్‌గా భావించండి. ఇది OpenAI, Anthropic మరియు Google వంటి APIలకు లేదా KoboldAI మరియు oobabooga/text-generation-webui (TGI/ExLlama, మొదలైనవి) వంటి స్థానిక బ్యాకెండ్‌లకు కనెక్ట్ అవుతుంది, ఇది మీ సెషన్‌ల వైబ్, మెమరీ మరియు శైలిని చక్కగా ట్యూన్ చేయడానికి మిమ్మల్ని అనుమతిస్తుంది. ఇది క్యారెక్టర్ కార్డ్‌లు, దీర్ఘకాలిక మెమరీ, పొడిగింపులు మరియు ప్రాంప్ట్‌లు మరియు శాంప్లింగ్ కోసం గ్రాన్యులర్ నియంత్రణలు వంటి ఫీచర్‌లతో చేరుకోగలిగేలా ఇంకా లోతుగా ఉండేలా రూపొందించబడింది.

శీఘ్ర సెటప్: జీరో నుండి మొదటి చాట్ వరకు

ఈ క్రమబద్ధీకరించబడిన ఫ్లోను అనుసరించండి. మీరు సౌకర్యంగా ఉన్న తర్వాత మీరు తరువాత అధునాతన సెట్టింగ్‌లను తిరిగి సందర్శించవచ్చు.

1) ఇన్‌స్టాల్ చేసి ప్రారంభించండి

దాని GitHub రెపో (లేదా నిర్వహించబడే ఫోర్క్) నుండి SillyTavernను క్లోన్ చేయండి లేదా డౌన్‌లోడ్ చేయండి మరియు మీ OS కోసం చేర్చబడిన స్టార్టప్ స్క్రిప్ట్‌ను అనుసరించండి. Windowsలో, మీరు సాధారణంగా స్థానిక వెబ్ సర్వర్‌ను ప్రారంభించడానికి start.batని అమలు చేస్తారు; macOS/Linuxలో, start.sh స్క్రిప్ట్ సాధారణం.

UIని యాక్సెస్ చేయడానికి టెర్మినల్‌లో చూపబడిన స్థానిక URLని తెరవండి (సాధారణంగా ` లేదా SillyTavern ముద్రించే పోర్ట్).

చిట్కా: మీ SillyTavern ఫోల్డర్‌ను చక్కగా ఉంచండి—క్యారెక్టర్ కార్డ్‌లు, ప్రీసెట్‌లు మరియు పొడిగింపులు ఊహించదగిన సబ్‌ఫోల్డర్‌లలో ఉంటాయి, ఇది బ్యాకప్‌లను సులభతరం చేస్తుంది.

2) మీ మోడల్ పాత్‌ను ఎంచుకోండి: API లేదా స్థానిక

హోస్ట్ చేయబడిన API: ప్రారంభించడానికి వేగవంతమైనది; SillyTavern API సెట్టింగ్‌ల ప్యానెల్‌లో మీ API కీని నమోదు చేయండి.

స్థానిక బ్యాకెండ్: గోప్యత మరియు నియంత్రణ కోసం ఉత్తమమైనది; KoboldAI లేదా oobabooga/text-generation-webui వంటి స్థానిక సర్వర్‌కు SillyTavernను కనెక్ట్ చేయండి.

SillyTavern విస్తృత శ్రేణి API ప్రొవైడర్‌లు మరియు స్థానిక కనెక్టర్‌లకు మద్దతు ఇస్తుంది, డాక్స్‌లో బలాలు, పరిమితులు మరియు వినియోగ సందర్భాలపై గమనికలు ఉన్నాయి.

3) API ఆధారాలను నమోదు చేయండి (హోస్ట్ చేయబడిన మోడల్‌లను ఉపయోగిస్తుంటే)

OpenAI, Anthropic, Google (Gemini) మరియు ఇతరులను SillyTavern కనెక్షన్ల ట్యాబ్‌లో API కీలను అతికించడం ద్వారా జోడించవచ్చు.

చిట్కా: ప్రొవైడర్-కు-ప్రీసెట్‌లను ఉపయోగించండి; విభిన్న మోడల్‌లు కొద్దిగా విభిన్నమైన సిస్టమ్ ప్రాంప్ట్‌లు, ఉష్ణోగ్రత మరియు జరిమానాలకు మెరుగ్గా స్పందిస్తాయి.

Google యొక్క Geminiని Google AI స్టూడియో కీతో ఉచితంగా ఉపయోగించవచ్చని కమ్యూనిటీ నివేదికలు సూచిస్తున్నాయి, ఇది ప్రయోగం కోసం ఖర్చుతో కూడుకున్న ప్రారంభ స్థానం.

4) స్థానిక LLMలకు కనెక్ట్ అవ్వండి (ఐచ్ఛికం)

మీ స్థానిక బ్యాకెండ్‌ను ప్రారంభించండి (KoboldAI, text-generation-webui/oobabooga, LM స్టూడియో మొదలైనవి) మరియు అది API ఎండ్‌పాయింట్‌ను అందిస్తుందో లేదో ధృవీకరించండి.

SillyTavernలో, సంబంధిత కనెక్టర్‌ను ఎంచుకోండి మరియు స్థానిక URL మరియు అవసరమైన పారామితులను నమోదు చేయండి.

చిన్న పరీక్ష సందేశాన్ని పంపడం ద్వారా ధృవీకరించండి.

5) ఒక క్యారెక్టర్‌ను సృష్టించండి లేదా దిగుమతి చేయండి

మొదటి నుండి నిర్మించడానికి క్యారెక్టర్‌లు → కొత్తపై క్లిక్ చేయండి లేదా మీ లైబ్రరీ నుండి క్యారెక్టర్ కార్డ్‌ను (PNG/JSON) దిగుమతి చేయండి.

వ్యక్తిత్వం, వివరణ, నమూనా సంభాషణ మరియు నిర్వచన ఫీల్డ్‌లను పూరించండి. క్యారెక్టరైజేషన్ ఎంత నిర్దిష్టంగా ఉంటే, RP స్థిరత్వం అంత మెరుగ్గా ఉంటుంది.

6) చాటింగ్ ప్రారంభించండి

మీ క్యారెక్టర్ మరియు మోడల్‌ను ఎంచుకోండి, ఆపై మీ మొదటి సందేశాన్ని వ్రాయండి.

“దృశ్యాన్ని సెట్ చేద్దాం: . వంటి సున్నితమైన ఓపెనర్‌ను ఉపయోగించండి.

స్థానిక Llama-ఆధారిత మోడల్‌లు: ప్రైవేట్, అనుకూలీకరించదగినవి; నాణ్యత క్వాంటైజేషన్ మరియు ఫైన్-ట్యూన్‌పై ఆధారపడి ఉంటుంది.

KoboldAI/oobabooga స్టాక్‌లు: అనుమితి, ప్రాంప్ట్ ఫార్మాట్‌లు మరియు పొడిగింపులపై లోతైన నియంత్రణ.

SillyTavern యొక్క API కనెక్షన్ల గైడ్ మద్దతు ఉన్న ప్రొవైడర్‌లు మరియు హెచ్చరికలను ఒకే చోట వివరిస్తుంది.

క్యారెక్టర్ క్రాఫ్ట్: పాత్రలో ఉండే వ్యక్తిత్వాలను నిర్మించడం

గొప్ప సెషన్ గొప్ప క్యారెక్టర్ కార్డ్‌తో ప్రారంభమవుతుంది.

వ్యక్తిత్వం: గుర్తింపు, పాత్ర, స్వరంపై 2–4 వాక్యాలు.

నేపథ్యం: నిర్మాణాత్మక చరిత్ర యొక్క 3–5 బుల్లెట్ పాయింట్లు; సమగ్ర కాలక్రమణికలను నివారించండి.

లక్ష్యాలు మరియు సరిహద్దులు: కోరికలను మరియు క్యారెక్టర్ దాటని గీతలను స్పష్టం చేయండి.

స్పీచ్ పాటర్న్స్: ఇడియమ్స్ లేదా ప్రత్యేకతల యొక్క కొన్ని ఉదాహరణలను జోడించండి.

నమూనా సంభాషణ: స్వరం, వేగం మరియు భావోద్వేగ పరిధిని హైలైట్ చేసే 3 మార్పిడులు.

ప్రో చిట్కా: స్థిరమైన రిమైండర్‌లు లేకుండా మోడల్‌ను వివరణాత్మకంగా ఉంచడానికి పర్యావరణ యాంకర్‌లను జోడించండి (ఉదా., “నగరం వర్షం మరియు పాత నియాన్‌లా వాసన వస్తుంది”).

పొడిగింపులు, ప్లగిన్‌లు మరియు పవర్ ఫీచర్లు

SillyTavern దాని సామర్థ్యాలను విస్తరించే యాడ్-ఆన్‌ల పర్యావరణ వ్యవస్థను కలిగి ఉంది:

మెమరీ మరియు లోర్‌బుక్స్: ట్రిగ్గర్‌లు గుర్తించినప్పుడు స్వయంచాలకంగా కీలక వాస్తవాలను చొప్పించండి.

ప్రపంచం/కథ సాధనాలు: సన్నివేశ టెంప్లేట్‌లు, NPC రోస్టర్‌లు మరియు ఈవెంట్ ప్రాంప్ట్‌లు.

TTS/STT: టెక్స్ట్-టు-స్పీచ్ మరియు స్పీచ్-టు-టెక్స్ట్‌తో మీ సెషన్‌లను వాయిస్-ఎనేబుల్ చేయండి.

చిత్రం హుక్స్: కొన్ని కనెక్టర్‌లు చిత్రం ప్రాంప్ట్‌లు/ప్రతిస్పందనలకు మద్దతు ఇస్తాయి (మోడల్ ఆధారపడి ఉంటుంది).

ఆటోమేషన్: పునరావృత కథన బీట్‌లు లేదా ఫార్మాటింగ్ కోసం మాక్రోలు.

అధునాతన ఇంటిగ్రేషన్‌లను ప్రారంభించే ముందు ప్రొవైడర్-నిర్దిష్ట ఫీచర్‌లు, ప్రాంప్ట్ ఫార్మాట్‌లు మరియు రేట్-పరిమితి గమనికల కోసం డాక్స్‌ను తనిఖీ చేయండి.

భద్రత, ఫిల్టర్‌లు మరియు సరిహద్దులు

మోడల్ పాలసీలు: API మోడల్‌లు (ఉదా., Anthropic, Google) కొన్ని కంటెంట్ రకాలను ప్రభావితం చేసే భద్రతా నియమాలను అమలు చేస్తాయి. మీ సృజనాత్మక లక్ష్యాలను తదనుగుణంగా సర్దుబాటు చేయండి.

స్థానిక నియంత్రణ: స్థానిక మోడల్‌లు మీకు ఎక్కువ స్వేచ్ఛను ఇస్తాయి, అయితే ఎక్కువ బాధ్యతను కూడా ఇస్తాయి—వ్యక్తిగత సరిహద్దులను మరియు కంటెంట్ ట్యాగ్‌లను ముందుగా సెట్ చేయండి.

సెషన్ పరిశుభ్రత: కంటెంట్ హెచ్చరికలను, ఆప్ట్-ఇన్ సన్నివేశాలను మరియు స్పష్టమైన పరివర్తనలను ఉపయోగించండి. ఏదైనా పట్టాలు తప్పితే, సంగ్రహించండి, స్వరాన్ని రీసెట్ చేయండి మరియు దృశ్యాన్ని తిరిగి యాంకర్ చేయండి.

సమస్య పరిష్కారం: సాధారణ సమస్యలకు శీఘ్ర పరిష్కారాలు

మోడల్ పునరావృతం అవుతుంది లేదా లూప్ అవుతుంది: పునరావృత జరిమానాను పెంచండి, ఉష్ణోగ్రతను కొద్దిగా తగ్గించండి, మెమరీకి మరింత గ్రౌండింగ్ వాస్తవాలను జోడించండి.

అవుట్-ఆఫ్-క్యారెక్టర్ ప్రతిస్పందనలు: క్యారెక్టర్ యొక్క నిర్వచనాన్ని బలోపేతం చేయండి మరియు 2-3 నమూనా సంభాషణలను జోడించండి; సిస్టమ్ ప్రాంప్ట్‌ను బిగించండి.

ఖర్చులు పెరుగుతాయి (API ఉపయోగం): సందర్భ పొడవును తగ్గించండి, చిన్న ప్రత్యుత్తరాలను ప్రారంభించండి, క్రమానుగతంగా సంగ్రహించండి లేదా పూరక సన్నివేశాల కోసం తక్కువ-ధర మోడల్‌కు మారండి.

స్థానిక మోడల్ నెమ్మదిగా ఉంది: చిన్న క్వాంటైజేషన్‌ను ప్రయత్నించండి, GPU త్వరణాన్ని ప్రారంభించండి లేదా గరిష్ట టోకెన్‌లను తగ్గించండి.

కనెక్షన్ లోపాలు: ప్రొవైడర్ URL, కీ చెల్లుబాటు మరియు మోడల్ పేరును మళ్లీ తనిఖీ చేయండి. ఖచ్చితమైన పారామితుల కోసం API కనెక్షన్ల పేజీని సంప్రదించండి.

10-నిమిషాల స్టార్టర్ వర్క్‌ఫ్లో (దీన్ని కాపీ చేయండి)

ఒక ప్రొవైడర్‌ను ఎంచుకోండి (ఉదా., తక్కువ-ధర పరీక్షల కోసం Gemini లేదా పొడవైన కథాంశాల కోసం Claude).

వ్యక్తిత్వం, నేపథ్య బుల్లెట్‌లు మరియు 3 నమూనా సంభాషణలతో ఒక క్యారెక్టర్‌ను సృష్టించండి.

ఉష్ణోగ్రతను 0.8కి సెట్ చేయండి, టాప్-p 0.9, పునరావృత జరిమానా మీడియం.

చిన్న మెమరీ పుస్తకాన్ని జోడించండి: సెట్టింగ్, సంబంధాలు, క్రియాశీల లక్ష్యాలు.

స్పష్టమైన సన్నివేశ సెటప్ మరియు కావలసిన స్వరంతో చాట్‌ను ప్రారంభించండి.

10 సందేశాల తర్వాత, చాట్‌ను ఎగుమతి చేయండి, రెండు మెరుగుదలలను వ్రాయండి మరియు క్యారెక్టర్ కార్డ్‌ను నవీకరించండి.

ఈ లూప్‌ను పునరావృతం చేయండి మరియు మీరు నాటకీయ స్థిరత్వ లాభాలను చూస్తారు.

మోడల్-నిర్దిష్ట చిట్కాలు (చీట్ షీట్)

OpenAI: సంక్షిప్త సిస్టమ్ ప్రాంప్ట్‌లను ఇష్టపడుతుంది; సూచనలను సంఖ్యా దశలతో స్పష్టంగా ఫార్మాట్ చేయండి.

Claude: బహుళ-పేరాగ్రాఫ్ బ్రీఫ్‌లలో వృద్ధి చెందుతుంది; కథన కొనసాగింపు మరియు సారాంశాలకు గొప్పది.

Gemini: నిర్మాణాత్మక ప్రాంప్ట్‌లు మరియు స్పష్టమైన పరిమితులతో బాగా పనిచేస్తుంది; ఉచిత-స్థాయి కోటాలను తనిఖీ చేయండి.

స్థానిక Llama: బోధన-సరిచేసిన వేరియంట్‌లను ఉపయోగించండి; వేగం/నాణ్యత కోసం 2–3 క్వాంటైజేషన్‌లను పరీక్షించండి.

బ్యాకప్‌లు, ఎగుమతులు మరియు సంస్థ

లోర్ క్రాస్-కలుషితాన్ని నిరోధించడానికి ప్రతి "విశ్వానికి" ప్రత్యేక ఫోల్డర్‌లను ఉపయోగించండి.

క్రమం తప్పకుండా చాట్‌లను (JSON/HTML) ఎగుమతి చేయండి మరియు మీ క్యారెక్టర్ కార్డ్‌లను స్నాప్‌షాట్ చేయండి.

శాంప్లింగ్ సెట్టింగ్‌లు, మోడల్ వెర్షన్‌లు మరియు ముఖ్యమైన సెషన్‌లను రికార్డ్ చేసే "మెటా" పత్రాన్ని ఉంచండి.

గుర్తించదగినది: Sider.AIతో మీ వర్క్‌ఫ్లోను వేగవంతం చేయడం

మీరు SillyTavern వెలుపల క్యారెక్టర్ బయోలు, సన్నివేశ రూపురేఖలు లేదా లోర్ స్నిప్పెట్‌లను రూపొందిస్తే, సైడ్‌బార్ అసిస్టెంట్ మీకు త్వరగా పునరావృతం చేయడానికి సహాయపడుతుంది. మార్గం ద్వారా, Sider.AI యొక్క ఇన్-బ్రౌజర్ అసిస్టెంట్ పొడవైన ట్రాన్‌స్క్రిప్ట్‌లను సంగ్రహించగలదు, క్యారెక్టర్ ప్రత్యేకతలను ప్రతిపాదించగలదు లేదా సన్నివేశ విత్తనాలను రూపొందించగలదు, అప్పుడు మీరు ఫలితాలను నేరుగా SillyTavernలో అతికించవచ్చు. ఇది వరల్డ్‌బిల్డింగ్ మరియు ప్రాంప్ట్ పాలిషింగ్ కోసం ఉపయోగకరమైన ప్రీ-ప్రొడక్షన్ కంపానియన్.

ముఖ్యమైన విషయాలు

సాధారణంగా ప్రారంభించండి: ఒక ప్రొవైడర్‌ను, ఒక క్యారెక్టర్‌ను మరియు చిన్న మెమరీ పుస్తకాన్ని ఎంచుకోండి.

నియంత్రణే రాజు: సిస్టమ్ ప్రాంప్ట్‌లు, శాంప్లింగ్ మరియు మెమరీ స్థిరత్వాన్ని రూపొందిస్తాయి.

లక్ష్యం ద్వారా మోడల్‌లను ఎంచుకోండి: కథన పొడవు, ఖర్చు, సృజనాత్మకత లేదా గోప్యత.

పునరావృతం చేయండి: మీ క్యారెక్టర్ కార్డ్ మరియు ప్రీసెట్‌లను ఎగుమతి చేయండి, సమీక్షించండి మరియు మెరుగుపరచండి.

వనరులు

SillyTavern API కనెక్షన్ల అవలోకనం: మద్దతు ఉన్న ప్రొవైడర్‌లు, పరిమితులు మరియు గమనికలు.

ఉత్తమ మోడల్‌లు మరియు Gemini వంటి ఉచిత/తక్కువ-ధర ఎంపికలపై కమ్యూనిటీ చర్చ.

రోల్‌ప్లే మరియు చాట్ కోసం LLM ఫ్రంటెండ్‌గా SillyTavern యొక్క GitHub అవలోకనం.

FAQ

Q1:నేను SillyTavernను OpenAI, Claude లేదా Geminiకి ఎలా కనెక్ట్ చేయాలి? SillyTavern యొక్క API సెట్టింగ్‌లను తెరిచి, ప్రతి ప్రొవైడర్ కోసం మీ API కీలను అతికించండి, ఆపై మోడల్ పేరును ఎంచుకుని సేవ్ చేయండి. అధికారిక API కనెక్షన్ల గైడ్ మద్దతు ఉన్న ప్రొవైడర్‌లు మరియు మీరు సెట్ చేయవలసిన పారామితులను జాబితా చేస్తుంది.

Q2:నేను Llama వంటి స్థానిక మోడల్‌తో SillyTavernను ఉపయోగించవచ్చా? అవును. KoboldAI లేదా oobabooga/text-generation-webui వంటి స్థానిక బ్యాకెండ్‌ను అమలు చేయండి, ఆపై SillyTavernను స్థానిక సర్వర్ URLకు సూచించండి. బ్యాకెండ్ API ఎండ్‌పాయింట్‌ను బహిర్గతం చేస్తుందని మరియు అనుకూలమైన బోధన-సరిచేసిన మోడల్‌ను ఉపయోగిస్తుందని నిర్ధారించుకోండి.

Q3:SillyTavernలో రోల్‌ప్లే స్థిరత్వాన్ని ఏ సెట్టింగ్‌లు మెరుగుపరుస్తాయి? సిస్టమ్ ప్రాంప్ట్‌ను మెరుగుపరచండి, క్యారెక్టర్ కార్డ్‌కు నమూనా సంభాషణను జోడించండి మరియు వాస్తవాలు మరియు సంబంధాల కోసం చిన్న మెమరీ పుస్తకాన్ని ఉపయోగించండి. సృజనాత్మకత మరియు పొందికను సమతుల్యం చేయడానికి ఉష్ణోగ్రత, టాప్-p మరియు పునరావృత జరిమానాలను ట్యూన్ చేయండి.

Q4:SillyTavernలో దీర్ఘ-రూప కథ చెప్పడానికి ఏ మోడల్ ఉత్తమమైనది? Claude మోడల్‌లు దీర్ఘ-సందర్భ కథన పొందికకు బలంగా ఉన్నాయి, అయితే OpenAI మరియు Gemini సాధారణ చాట్ కోసం బహుముఖమైనవి మరియు ఖర్చుతో కూడుకున్నవి. మీరు వాటిని ట్యూన్ చేయడానికి సౌకర్యంగా ఉంటే స్థానిక Llama మోడల్‌లు గోప్యతకు గొప్పవి.

Q5:SillyTavernలో API మోడల్‌లతో నేను టోకెన్ ఖర్చులను ఎలా తగ్గించగలను? సందర్భ పొడవును తగ్గించండి, సంక్షిప్త ప్రత్యుత్తరాలను ప్రారంభించండి మరియు క్రమానుగతంగా ఆర్క్‌లను సంగ్రహించండి. మీరు పూరక సన్నివేశాల కోసం తక్కువ-ధర మోడల్‌లకు కూడా మారవచ్చు మరియు కీలకమైన క్షణాల కోసం ప్రీమియం మోడల్‌లను ఉంచవచ్చు.