SillyTavern का उपयोग कैसे करें: सेटअप, मॉडल्स और एडवांस्ड आरपी फीचर्स के लिए एक प्रैक्टिकल गाइड
आपने सुना होगा: SillyTavern बड़े भाषा मॉडल के साथ रोलप्ले और चैट के लिए सबसे फ्लेक्सिबल फ्रंट-एंड में से एक है। लेकिन आप कहां से शुरू करते हैं, आपको कौन से मॉडल का उपयोग करना चाहिए, और आप बिना कुछ तोड़े इसकी बेहतरीन विशेषताओं को कैसे अनलॉक करते हैं? यह गाइड आपको स्टेप बाय स्टेप मार्गदर्शन करता है—कोई दिखावा नहीं, बस इंस्टॉलेशन से लेकर प्रो-लेवल सेशन तक एक प्रैक्टिकल, समाधान-उन्मुख रास्ता।
SillyTavern क्या है—और इसका उपयोग क्यों करें?
SillyTavern एलएलएम के साथ इंटरैक्ट करने के लिए एक शक्तिशाली, कस्टमाइजेबल यूआई है—होस्टेड एपीआई और लोकल मॉडल दोनों। इसे इमर्सिव चैट, कैरेक्टर रोलप्ले, वर्ल्डबिल्डिंग और स्टोरी कोलैबोरेशन के लिए अपने कंट्रोल रूम के रूप में सोचें। यह OpenAI, Anthropic और Google जैसे एपीआई से जुड़ता है, या KoboldAI और oobabooga/text-generation-webui (TGI/ExLlama, आदि) जैसे लोकल बैकएंड से जुड़ता है, जिससे आप अपने सेशन के वाइब, मेमोरी और स्टाइल को फाइन-ट्यून कर सकते हैं। इसे सुलभ लेकिन गहरा बनाने के लिए डिज़ाइन किया गया है, जिसमें कैरेक्टर कार्ड, लॉन्ग-टर्म मेमोरी, एक्सटेंशन और प्रॉम्प्ट और सैंपलिंग के लिए ग्रेन्युलर कंट्रोल जैसी विशेषताएं हैं।
क्विक सेटअप: जीरो से फर्स्ट चैट
इस सुव्यवस्थित फ्लो का पालन करें। सहज होने के बाद आप बाद में एडवांस्ड सेटिंग्स पर दोबारा जा सकते हैं।
1) इंस्टॉल और लॉन्च करें
- SillyTavern को उसके GitHub रेपो (या एक मेनटेंड फोर्क) से क्लोन या डाउनलोड करें और अपने ओएस के लिए शामिल स्टार्टअप स्क्रिप्ट का पालन करें। विंडोज पर, आप आमतौर पर लोकल वेब सर्वर लॉन्च करने के लिए
start.bat चलाते हैं; macOS/Linux पर, एक start.sh स्क्रिप्ट आम है।
- यूआई एक्सेस करने के लिए टर्मिनल में दिखाए गए लोकल यूआरएल (आमतौर पर ` या SillyTavern द्वारा प्रिंट किया गया पोर्ट) खोलें।
टिप: अपने SillyTavern फ़ोल्डर को साफ रखें—कैरेक्टर कार्ड, प्रीसेट और एक्सटेंशन प्रेडिक्टेबल सबफ़ोल्डर्स में रहते हैं, जिससे बैकअप लेना आसान हो जाता है।
2) अपना मॉडल पाथ चुनें: एपीआई या लोकल
- होस्टेड एपीआई: शुरू करने में सबसे तेज़; SillyTavern के एपीआई सेटिंग्स पैनल में अपनी एपीआई कुंजी दर्ज करें।
- लोकल बैकएंड: गोपनीयता और नियंत्रण के लिए सर्वश्रेष्ठ; SillyTavern को KoboldAI या oobabooga/text-generation-webui जैसे लोकल सर्वर से कनेक्ट करें।
SillyTavern एपीआई प्रोवाइडर्स और लोकल कनेक्टर्स की एक विस्तृत श्रृंखला का समर्थन करता है, जिसमें डॉक्स में ताकत, सीमाएं और उपयोग के मामलों पर नोट्स दिए गए हैं।
3) एपीआई क्रेडेंशियल दर्ज करें (यदि होस्टेड मॉडल का उपयोग कर रहे हैं)
- OpenAI, Anthropic, Google (Gemini), और अन्य को SillyTavern के कनेक्शन टैब में एपीआई कुंजियाँ पेस्ट करके जोड़ा जा सकता है।
- टिप: प्रति-प्रोवाइडर प्रीसेट का उपयोग करें; विभिन्न मॉडल थोड़ा अलग सिस्टम प्रॉम्प्ट, तापमान और दंडों पर बेहतर प्रतिक्रिया देते हैं।
कम्युनिटी रिपोर्ट्स बताती हैं कि Google के का उपयोग Google AI Studio कुंजी के साथ मुफ्त में किया जा सकता है, जो प्रयोग के लिए एक लागत प्रभावी शुरुआती बिंदु है।
4) लोकल एलएलएम से कनेक्ट करें (वैकल्पिक)
- अपना लोकल बैकएंड (KoboldAI, text-generation-webui/oobabooga, LM Studio, आदि) शुरू करें और सत्यापित करें कि यह एक एपीआई एंडपॉइंट सर्व कर रहा है।
- SillyTavern में, संबंधित कनेक्टर चुनें और लोकल यूआरएल और कोई भी आवश्यक पैरामीटर दर्ज करें।
- एक छोटा टेस्ट मैसेज भेजकर वैलिडेट करें।
5) एक कैरेक्टर बनाएं या इम्पोर्ट करें
- स्क्रैच से बनाने के लिए कैरेक्टर्स → न्यू पर क्लिक करें, या अपनी लाइब्रेरी से एक कैरेक्टर कार्ड (PNG/JSON) इम्पोर्ट करें।
- पर्सोना, डिस्क्रिप्शन, सैंपल डायलॉग और डेफिनिशन फ़ील्ड भरें। जितना अधिक स्पेसिफिक कैरेक्टराइजेशन होगा, आरपी कंसिस्टेंसी उतनी ही बेहतर होगी।
6) चैटिंग शुरू करें
- अपना कैरेक्टर और मॉडल चुनें, फिर अपना पहला मैसेज लिखें।
- एक सॉफ्ट ओपनर का उपयोग करें जैसे: “आइए दृश्य सेट करें: .
- लोकल Llama‑आधारित मॉडल: प्राइवेट, कस्टमाइजेबल; गुणवत्ता क्वांटिज़ेशन और फाइन‑ट्यून पर निर्भर करती है।
- KoboldAI/oobabooga स्टैक: इंफेरेंस, प्रॉम्प्ट फॉर्मेट और एक्सटेंशन पर गहरा कंट्रोल।
SillyTavern की एपीआई कनेक्शन गाइड एक ही स्थान पर समर्थित प्रोवाइडर्स और चेतावनियों की रूपरेखा देती है।
कैरेक्टर क्राफ्ट: पर्सनालिटीज का निर्माण जो इन-कैरेक्टर रहती हैं
एक बेहतरीन सेशन एक बेहतरीन कैरेक्टर कार्ड से शुरू होता है।
- पर्सोना: आइडेंटिटी, रोल, आवाज पर 2-4 वाक्य।
- बैकस्टोरी: फॉर्मेटिव हिस्ट्री के 3-5 बुलेट पॉइंट; संपूर्ण टाइमलाइन से बचें।
- गोल्स एंड बाउंड्रीज: डिजायर्स और लाइन्स को क्लेरिफाई करें जिन्हें कैरेक्टर क्रॉस नहीं करेगा।
- स्पीच पैटर्न्स: इडियम्स या क्विर्क्स के कुछ उदाहरण जोड़ें।
- सैंपल डायलॉग: टोन, पेसिंग और इमोशनल रेंज को हाइलाइट करते हुए 3 एक्सचेंज।
प्रो टिप: एनवायरनमेंटल एंकर (जैसे, “शहर में बारिश और पुराने नीयन की गंध आती है”) जोड़ें ताकि मॉडल को लगातार रिमाइंडर के बिना डिस्क्रिप्टिव रखा जा सके।
एक्सटेंशन, प्लगइन्स और पावर फीचर्स
SillyTavern में ऐड-ऑन का एक इकोसिस्टम है जो इसकी क्षमताओं का विस्तार करता है:
- मेमोरी और लोरबुक्स: ट्रिगर का पता चलने पर ऑटो-इंजेक्ट की फैक्ट्स।
- वर्ल्ड/स्टोरी टूल्स: सीन टेम्प्लेट, एनपीसी रोस्टर और इवेंट प्रॉम्प्ट।
- TTS/STT: टेक्स्ट-टू-स्पीच और स्पीच-टू-टेक्स्ट के साथ अपने सेशन को वॉइस-इनेबल करें।
- इमेज हुक्स: कुछ कनेक्टर्स इमेज प्रॉम्प्ट/रिस्पॉन्स को सपोर्ट करते हैं (मॉडल डिपेंडेंट)।
- ऑटोमेशन: रिकरिंग नरेटिव बीट्स या फॉर्मेटिंग के लिए मैक्रोज़।
एडवांस्ड इंटीग्रेशंस को इनेबल करने से पहले प्रोवाइडर-स्पेसिफिक फीचर्स, प्रॉम्प्ट फॉर्मेट और रेट‑लिमिट नोट्स के लिए डॉक्स देखें।
सेफ्टी, फिल्टर्स और बाउंड्रीज
- मॉडल पॉलिसीज: एपीआई मॉडल (जैसे, Anthropic, Google) सेफ्टी रूल्स लागू करते हैं जो कुछ कंटेंट टाइप्स को प्रभावित कर सकते हैं। अपनी क्रिएटिव एम्स को उसके अनुसार एडजस्ट करें।
- लोकल कंट्रोल: लोकल मॉडल आपको अधिक अक्षांश देते हैं लेकिन अधिक जिम्मेदारी भी—पर्सनल बाउंड्रीज और कंटेंट टैग पहले से सेट करें।
- सेशन हाइजीन: कंटेंट वार्निंग्स, ऑप्ट‑इन सीन और क्लियर ट्रांजिशन का उपयोग करें। यदि कुछ पटरी से उतर जाता है, तो समराइज करें, टोन रीसेट करें और परिदृश्य को री-एंकर करें।
ट्रबलशूटिंग: कॉमन इश्यूज के लिए फास्ट फिक्सेस
- मॉडल दोहराता है या लूप करता है: रिपिटेशन पेनल्टी बढ़ाएं, तापमान को थोड़ा कम करें, मेमोरी में अधिक ग्राउंडिंग फैक्ट्स जोड़ें।
- आउट-ऑफ-कैरेक्टर रिस्पॉन्स: कैरेक्टर की डेफिनिशन को मजबूत करें और 2-3 सैंपल डायलॉग जोड़ें; सिस्टम प्रॉम्प्ट को टाइट करें।
- कॉस्ट स्पाइक (एपीआई उपयोग): कॉन्टेक्स्ट लेंथ कम करें, शॉर्टर रिप्लाई इनेबल करें, समय-समय पर समराइज करें या फिलर सीन के लिए लोअर‑कॉस्ट मॉडल पर स्विच करें।
- लोकल मॉडल धीमा है: स्मॉलर क्वांटिज़ेशन आज़माएं, जीपीयू एक्सीलरेशन इनेबल करें या मैक्स टोकन कम करें।
- कनेक्शन एरर्स: प्रोवाइडर यूआरएल, की वैलिडिटी और मॉडल नाम को री-चेक करें। सटीक पैरामीटर्स के लिए एपीआई कनेक्शन पेज से कंसल्ट करें।
एक 10‑मिनट का स्टार्टर वर्कफ़्लो (इसे कॉपी करें)
- एक प्रोवाइडर चुनें (जैसे, कम लागत वाले परीक्षणों के लिए या लॉन्ग-स्टोरी आर्क्स के लिए Claude)।
- पर्सोना, बैकस्टोरी बुलेट्स और 3 सैंपल डायलॉग के साथ एक कैरेक्टर बनाएं।
- तापमान को 0.8, टॉप‑p 0.9, रिपिटेशन पेनल्टी मीडियम पर सेट करें।
- एक छोटी मेमोरी बुक जोड़ें: सेटिंग, रिलेशनशिप, एक्टिव गोल्स।
- एक क्लियर सीन सेटअप और डिजायर्ड टोन के साथ चैट शुरू करें।
- 10 मैसेज के बाद, चैट एक्सपोर्ट करें, दो सुधार लिखें और कैरेक्टर कार्ड अपडेट करें।
इस लूप को दोहराएं और आपको ड्रामेटिक कंसिस्टेंसी गेन्स दिखाई देंगे।
मॉडल-स्पेसिफिक टिप्स (चीट शीट)
- OpenAI: कंसिसाइज सिस्टम प्रॉम्प्ट पसंद करता है; नंबर वाले स्टेप्स के साथ इंस्ट्रक्शंस को स्पष्ट रूप से फॉर्मेट करें।
- Claude: मल्टी-पैराग्राफ ब्रीफ्स पर थ्राइव करता है; नरेटिव कंटिन्यूटी और समरीज के लिए बढ़िया।
- : स्ट्रक्चर्ड प्रॉम्प्ट और एक्सप्लिसिट कंस्ट्रेंट्स के साथ अच्छी तरह से काम करता है; फ्री-टियर कोटा चेक करें।
- लोकल Llama: इंस्ट्रक्ट-ट्यून्ड वेरिएंट का उपयोग करें; स्पीड/क्वालिटी के लिए 2-3 क्वांटिज़ेशन टेस्ट करें।
बैकअप, एक्सपोर्ट और ऑर्गेनाइजेशन
- लोर के क्रॉस‑कंटैमिनेशन को रोकने के लिए प्रति "यूनिवर्स" अलग-अलग फ़ोल्डर्स का उपयोग करें।
- चैट को नियमित रूप से एक्सपोर्ट करें (JSON/HTML) और अपने कैरेक्टर कार्ड का स्नैपशॉट लें।
- सैंपलिंग सेटिंग्स, मॉडल वर्जन और नोटेबल सेशन रिकॉर्ड करते हुए एक "मेटा" डॉक्यूमेंट रखें।
ध्यान देने योग्य: Sider.AI के साथ अपने वर्कफ़्लो को तेज करना
यदि आप SillyTavern के बाहर कैरेक्टर बायो, सीन आउटलाइन या लोर स्निपेट्स का ड्राफ्ट बनाते हैं, तो एक साइडबार असिस्टेंट आपको जल्दी से इटरेट करने में मदद कर सकता है। वैसे, Sider.AI का इन-ब्राउज़र असिस्टेंट लंबे ट्रांसक्रिप्ट को समराइज कर सकता है, कैरेक्टर क्विर्क्स प्रपोज कर सकता है, या सीन सीड्स जेनरेट कर सकता है, फिर आप सीधे SillyTavern में रिजल्ट पेस्ट कर सकते हैं। यह वर्ल्डबिल्डिंग और प्रॉम्प्ट पॉलिशिंग के लिए एक हैंडी प्री‑प्रोडक्शन कंपेनियन है। मुख्य बातें
- सिंपल से शुरू करें: एक प्रोवाइडर, एक कैरेक्टर और एक छोटी मेमोरी बुक चुनें।
- कंट्रोल राजा है: सिस्टम प्रॉम्प्ट, सैंपलिंग और मेमोरी कंसिस्टेंसी को आकार देते हैं।
- लक्ष्य के अनुसार मॉडल चुनें: नरेटिव लेंथ, कॉस्ट, क्रिएटिविटी या प्राइवेसी।
- इटरेट: एक्सपोर्ट करें, रिव्यू करें और अपने कैरेक्टर कार्ड और प्रीसेट को रिफाइन करें।
संसाधन
- SillyTavern एपीआई कनेक्शन अवलोकन: समर्थित प्रोवाइडर्स, सीमाएं और नोट्स।
- बेस्ट मॉडल्स और जैसे मुफ्त/कम लागत वाले विकल्पों पर कम्युनिटी डिस्कशन।
- रोलप्ले और चैट के लिए एक एलएलएम फ्रंटएंड के रूप में SillyTavern का GitHub अवलोकन।
सामान्य प्रश्न
Q1: मैं SillyTavern को OpenAI, Claude या से कैसे कनेक्ट करूं?
SillyTavern की एपीआई सेटिंग्स खोलें और प्रत्येक प्रोवाइडर के लिए अपनी एपीआई कुंजियाँ पेस्ट करें, फिर मॉडल नाम चुनें और सेव करें। आधिकारिक एपीआई कनेक्शन गाइड समर्थित प्रोवाइडर्स और पैरामीटर्स को सूचीबद्ध करता है जिन्हें आपको सेट करने की आवश्यकता हो सकती है।
Q2: क्या मैं Llama जैसे लोकल मॉडल के साथ SillyTavern का उपयोग कर सकता हूँ?
हाँ। KoboldAI या oobabooga/text-generation-webui जैसे लोकल बैकएंड चलाएँ, फिर SillyTavern को लोकल सर्वर यूआरएल पर पॉइंट करें। सुनिश्चित करें कि बैकएंड एक एपीआई एंडपॉइंट एक्सपोज करता है और एक कंपेटिबल इंस्ट्रक्ट-ट्यून्ड मॉडल का उपयोग कर रहा है।
Q3: SillyTavern में कौन सी सेटिंग्स रोलप्ले कंसिस्टेंसी में सुधार करती हैं?
सिस्टम प्रॉम्प्ट को रिफाइन करें, कैरेक्टर कार्ड में सैंपल डायलॉग जोड़ें और फैक्ट्स और रिलेशनशिप के लिए एक छोटी मेमोरी बुक का उपयोग करें। क्रिएटिविटी और कोहेरेंस को बैलेंस करने के लिए तापमान, टॉप‑p और रिपिटेशन पेनल्टीज को ट्यून करें।
Q4: SillyTavern में लॉन्ग-फॉर्म स्टोरीटेलिंग के लिए कौन सा मॉडल सबसे अच्छा है?
लॉन्ग-कॉन्टेक्स्ट नरेटिव कोहेरेंस के लिए Claude मॉडल मजबूत हैं, जबकि OpenAI और सामान्य चैट के लिए वर्सटाइल और कॉस्ट-इफेक्टिव हैं। यदि आप उन्हें ट्यून करने में कंफर्टेबल हैं तो लोकल Llama मॉडल प्राइवेसी के लिए बहुत अच्छे हैं।
Q5: SillyTavern में एपीआई मॉडल के साथ टोकन कॉस्ट कैसे कम करें?
कॉन्टेक्स्ट लेंथ को छोटा करें, संक्षिप्त रिप्लाई इनेबल करें और समय-समय पर आर्क्स को समराइज करें। आप फिलर सीन के लिए लोअर-कॉस्ट मॉडल पर भी स्विच कर सकते हैं और महत्वपूर्ण क्षणों के लिए प्रीमियम मॉडल रख सकते हैं।
