SillyTavern എങ്ങനെ ഉപയോഗിക്കാം: സജ്ജീകരണം, മോഡലുകൾ, വിപുലമായ RP ഫീച്ചറുകൾ എന്നിവയ്ക്കുള്ള ഒരു പ്രായോഗിക ഗൈഡ്
SillyTavern എന്നത് വലിയ ഭാഷാ മോഡലുകളുമായി റോൾപ്ലേയ്ക്കും ചാറ്റിനുമുള്ള ഏറ്റവും മികച്ച ഫ്രണ്ട്-എൻഡുകളിൽ ഒന്നാണെന്ന് നിങ്ങൾ കേട്ടിട്ടുണ്ടാകും. എന്നാൽ എവിടെ തുടങ്ങണം, ഏതൊക്കെ മോഡലുകളാണ് ഉപയോഗിക്കേണ്ടത്, എന്തെങ്കിലും തകരാറിലാക്കാതെ അതിന്റെ മികച്ച ഫീച്ചറുകൾ എങ്ങനെ ഉപയോഗിക്കാം? ഈ ഗൈഡ് ഇൻസ്റ്റാളേഷൻ മുതൽ പ്രൊ-ലെവൽ സെഷനുകൾ വരെ ഘട്ടം ഘട്ടമായി ഒരു പ്രായോഗികമായതും പ്രശ്നപരിഹാരത്തിന് ഊന്നൽ നൽകുന്നതുമായ വഴിയിലൂടെ നിങ്ങളെ നയിക്കുന്നു.
എന്താണ് SillyTavern—എന്തിനാണ് ഇത് ഉപയോഗിക്കുന്നത്?
SillyTavern എന്നത് LLM-കളുമായി സംവദിക്കുന്നതിനുള്ള ശക്തവും ഇഷ്ടാനുസരണം മാറ്റങ്ങൾ വരുത്താവുന്നതുമായ ഒരു UI ആണ്—ഹോസ്റ്റഡ് API-കളും ലോക്കൽ മോഡലുകളും ഇതിൽ ഉൾപ്പെടുന്നു. ആഴത്തിലുള്ള ചാറ്റ്, കഥാപാത്ര റോൾപ്ലേ, ലോകനിർമ്മാണം, സ്റ്റോറി കൊളാബറേഷൻ എന്നിവയ്ക്കുള്ള നിങ്ങളുടെ നിയന്ത്രണ കേന്ദ്രമായി ഇതിനെ കണക്കാക്കാം. ഇത് OpenAI, Anthropic, Google തുടങ്ങിയ API-കളിലേക്കും KoboldAI, oobabooga/text-generation-webui (TGI/ExLlama, തുടങ്ങിയവ) പോലുള്ള ലോക്കൽ ബാക്കെൻഡുകളിലേക്കും കണക്ട് ചെയ്യുന്നു. നിങ്ങളുടെ സെഷനുകളുടെ രീതി, മെമ്മറി, ശൈലി എന്നിവ മികച്ചതാക്കാൻ ഇത് നിങ്ങളെ സഹായിക്കുന്നു. ഇത് ലളിതവും എന്നാൽ ആഴത്തിലുള്ളതുമാകാൻ രൂപകൽപ്പന ചെയ്തിട്ടുള്ളതാണ്. കഥാപാത്ര കാർഡുകൾ, ദീർഘകാല മെമ്മറി, എക്സ്റ്റൻഷനുകൾ, പ്രോംപ്റ്റുകൾ, സാമ്പിളിംഗ് എന്നിവയ്ക്കുള്ള വിശദമായ നിയന്ത്രണങ്ങൾ ഇതിലുണ്ട്.
ദ്രുത സജ്ജീകരണം: ആദ്യ ചാറ്റിലേക്ക്
ഈ ലളിതമായ രീതി പിന്തുടരുക. നിങ്ങൾക്ക് സൗകര്യപ്രദമായ ശേഷം വിപുലമായ ക്രമീകരണങ്ങൾ വീണ്ടും സന്ദർശിക്കാം.
1) ഇൻസ്റ്റാൾ ചെയ്ത് ആരംഭിക്കുക
- SillyTavern അതിന്റെ GitHub റെപ്പോയിൽ നിന്ന് ക്ലോൺ ചെയ്യുക അല്ലെങ്കിൽ ഡൗൺലോഡ് ചെയ്യുക (അല്ലെങ്കിൽ നിലനിർത്തുന്ന ഫോർക്ക്) നിങ്ങളുടെ OS-നുള്ള സ്റ്റാർട്ടപ്പ് സ്ക്രിപ്റ്റ് പിന്തുടരുക. Windows-ൽ, സാധാരണയായി ലോക്കൽ വെബ് സെർവർ ആരംഭിക്കുന്നതിന്
start.bat പ്രവർത്തിപ്പിക്കുക; macOS/Linux-ൽ, start.sh സ്ക്രിപ്റ്റ് സാധാരണമാണ്.
- UI ആക്സസ് ചെയ്യുന്നതിന് ടെർമിനലിൽ കാണിച്ചിരിക്കുന്ന ലോക്കൽ URL തുറക്കുക (സാധാരണയായി ` അല്ലെങ്കിൽ SillyTavern പ്രിന്റ് ചെയ്യുന്ന പോർട്ട്).
നുറുങ്ങ്: നിങ്ങളുടെ SillyTavern ഫോൾഡർ വൃത്തിയായി സൂക്ഷിക്കുക—കഥാപാത്ര കാർഡുകൾ, പ്രিসেറ്റുകൾ, എക്സ്റ്റൻഷനുകൾ എന്നിവ പ്രവചിക്കാവുന്ന സബ്ഫോൾഡറുകളിൽ സ്ഥാപിക്കുക, ഇത് ബാക്കപ്പുകൾ എളുപ്പമാക്കുന്നു.
2) നിങ്ങളുടെ മോഡൽ പാത്ത് തിരഞ്ഞെടുക്കുക: API അല്ലെങ്കിൽ ലോക്കൽ
- ഹോസ്റ്റഡ് API: ആരംഭിക്കാൻ ഏറ്റവും വേഗതയേറിയത്; SillyTavern-ന്റെ API ക്രമീകരണ പാനലിൽ നിങ്ങളുടെ API കീ നൽകുക.
- ലോക്കൽ ബാക്കെൻഡ്: സ്വകാര്യതയ്ക്കും നിയന്ത്രണത്തിനും ഏറ്റവും മികച്ചത്; KoboldAI അല്ലെങ്കിൽ oobabooga/text-generation-webui പോലുള്ള ഒരു ലോക്കൽ സെർവറിലേക്ക് SillyTavern കണക്ട് ചെയ്യുക.
SillyTavern വിപുലമായ API ദാതാക്കളെയും ലോക്കൽ കണക്ടറുകളെയും പിന്തുണയ്ക്കുന്നു, കൂടാതെ ഡോക്യുമെന്റുകളിൽ അതിന്റെ ശക്തി, പരിധികൾ, ഉപയോഗ കേസുകൾ എന്നിവയെക്കുറിച്ചുള്ള കുറിപ്പുകളും ഉണ്ട്.
3) API ക്രെഡൻഷ്യലുകൾ നൽകുക (ഹോസ്റ്റഡ് മോഡലുകൾ ഉപയോഗിക്കുകയാണെങ്കിൽ)
- OpenAI, Anthropic, Google (Gemini), എന്നിവയുടെ API കീകൾ SillyTavern-ന്റെ കണക്ഷൻസ് ടാബിൽ ഒട്ടിച്ചുകൊണ്ട് ചേർക്കാവുന്നതാണ്.
- നുറുങ്ങ്: ഓരോ ദാതാവിനും പ്രത്യേക പ്രিসেറ്റുകൾ ഉപയോഗിക്കുക; വ്യത്യസ്ത മോഡലുകൾ വ്യത്യസ്ത സിസ്റ്റം പ്രോംപ്റ്റുകൾ, താപനില, പിഴകൾ എന്നിവയോട് നന്നായി പ്രതികരിക്കുന്നു.
Google- ന്റെ Gemini ഒരു Google AI Studio കീ ഉപയോഗിച്ച് സൗജന്യമായി ഉപയോഗിക്കാൻ കഴിയുമെന്ന് കമ്മ്യൂണിറ്റി റിപ്പോർട്ടുകൾ സൂചിപ്പിക്കുന്നു, ഇത് പരീക്ഷണങ്ങൾ ആരംഭിക്കുന്നതിനുള്ള ചിലവ് കുറഞ്ഞ മാർഗ്ഗമാണ്.
4) ലോക്കൽ LLM-കളിലേക്ക് കണക്ട് ചെയ്യുക (ഓപ്ഷണൽ)
- നിങ്ങളുടെ ലോക്കൽ ബാക്കെൻഡ് (KoboldAI, text-generation-webui/oobabooga, LM Studio, തുടങ്ങിയവ) ആരംഭിക്കുകയും അത് ഒരു API എൻഡ്പോയിന്റ് നൽകുന്നുണ്ടോ എന്ന് പരിശോധിക്കുകയും ചെയ്യുക.
- SillyTavern-ൽ, ബന്ധപ്പെട്ട കണക്ടർ തിരഞ്ഞെടുത്ത് ലോക്കൽ URL-ഉം ആവശ്യമായ പാരാമീറ്ററുകളും നൽകുക.
- ഒരു ചെറിയ ടെസ്റ്റ് മെസ്സേജ് അയച്ച് ഉറപ്പുവരുത്തുക.
5) ഒരു കഥാപാത്രം ഉണ്ടാക്കുക അല്ലെങ്കിൽ ഇമ്പോർട്ട് ചെയ്യുക
- Characters → New ക്ലിക്ക് ചെയ്ത് ആദ്യം മുതൽ ഉണ്ടാക്കുക, അല്ലെങ്കിൽ നിങ്ങളുടെ ലൈബ്രറിയിൽ നിന്ന് ഒരു കഥാപാത്ര കാർഡ് (PNG/JSON) ഇമ്പോർട്ട് ചെയ്യുക.
- പേഴ്സണ, വിവരണം, സാമ്പിൾ ഡയലോഗ്, ഡെഫനിഷൻ ഫീൽഡുകൾ എന്നിവ പൂരിപ്പിക്കുക. കഥാപാത്രത്തെക്കുറിച്ച് കൂടുതൽ വ്യക്തമാക്കുന്തോറും RP സ്ഥിരത മെച്ചപ്പെടും.
6) ചാറ്റ് ആരംഭിക്കുക
- നിങ്ങളുടെ കഥാപാത്രവും മോഡലും തിരഞ്ഞെടുക്കുക, തുടർന്ന് നിങ്ങളുടെ ആദ്യത്തെ സന്ദേശം എഴുതുക.
- ഇതുപോലൊരു തുടക്കം ഉപയോഗിക്കുക: “Let’s set the scene: .
- ലോക്കൽ Llama അടിസ്ഥാനമാക്കിയുള്ള മോഡലുകൾ: സ്വകാര്യവും ഇഷ്ടാനുസരണം മാറ്റങ്ങൾ വരുത്താവുന്നതുമാണ്; ഗുണമേന്മ ക്വാಂಟൈസേഷനെയും ഫൈൻ-ട്യൂണിനെയും ആശ്രയിച്ചിരിക്കുന്നു.
- KoboldAI/oobabooga സ്റ്റാക്കുകൾ: ഇൻഫറൻസ്, പ്രോംപ്റ്റ് ഫോർമാറ്റുകൾ, എക്സ്റ്റൻഷനുകൾ എന്നിവയിൽ ആഴത്തിലുള്ള നിയന്ത്രണം നൽകുന്നു.
SillyTavern-ന്റെ API കണക്ഷൻസ് ഗൈഡിൽ പിന്തുണയ്ക്കുന്ന ദാതാക്കളെയും പോരായ്മകളെയും കുറിച്ച് ഒരിടത്ത് നൽകുന്നു.
കഥാപാത്ര നിർമ്മാണം: കഥാപാത്രമായി നിലനിൽക്കുന്ന വ്യക്തിത്വങ്ങൾ രൂപപ്പെടുത്തുക
മികച്ച ഒരു സെഷൻ ആരംഭിക്കുന്നത് മികച്ച ഒരു കഥാപാത്ര കാർഡിൽ നിന്നാണ്.
- പേഴ്സണ: വ്യക്തിത്വം, പങ്ക്, ശബ്ദം എന്നിവയെക്കുറിച്ചുള്ള 2–4 വാക്യങ്ങൾ.
- പശ്ചാത്തലം: രൂപീകരണ ചരിത്രത്തിന്റെ 3–5 പോയിന്റുകൾ; വിശദമായ ടൈംലൈനുകൾ ഒഴിവാക്കുക.
- ലക്ഷ്യങ്ങളും അതിരുകളും: ആഗ്രഹങ്ങളും കഥാപാത്രം കടന്നുപോകാത്ത അതിരുകളും വ്യക്തമാക്കുക.
- സംഭാഷണ രീതികൾ: ശൈലികളുടെയോ പ്രത്യേകതകളുടെയോ കുറച്ച് ഉദാഹരണങ്ങൾ ചേർക്കുക.
- സാമ്പിൾ ഡയലോഗ്: ടോൺ, വേഗത, ഇമോഷണൽ റേഞ്ച് എന്നിവ എടുത്തു കാണിക്കുന്ന 3 സംഭാഷണങ്ങൾ.
പ്രൊ ടിപ്പ്: പരിസ്ഥിതിപരമായ കാര്യങ്ങൾ ചേർക്കുക (ഉദാഹരണത്തിന്, “നഗരത്തിന് മഴയുടെയും പഴയ നിയോണിന്റെയും ഗന്ധമുണ്ട്”) ഇത് മോഡലിനെ നിരന്തരമായ ഓർമ്മപ്പെടുത്തലുകൾ ഇല്ലാതെ വിവരണാത്മകമായി നിലനിർത്താൻ സഹായിക്കും.
എക്സ്റ്റൻഷനുകൾ, പ്ലഗിന്നുകൾ, പവർ ഫീച്ചറുകൾ
SillyTavern-ന് അതിന്റെ കഴിവുകൾ വിപുലീകരിക്കുന്ന ആഡ്-ഓണുകളുടെ ഒരു എക്കോസിസ്റ്റം ഉണ്ട്:
- മെമ്മറിയും ലോർബുക്കുകളും: ട്രിഗറുകൾ കണ്ടെത്തുമ്പോൾ പ്രധാന വസ്തുതകൾ സ്വയമേവ ചേർക്കുന്നു.
- ലോകം/കഥ ടൂളുകൾ: സീൻ ടെംപ്ലേറ്റുകൾ, NPC ലിസ്റ്റുകൾ, ഇവന്റ് പ്രോംപ്റ്റുകൾ.
- TTS/STT: ടെക്സ്റ്റ്-ടു-സ്പീച്ച്, സ്പീച്ച്-ടു-ടെക്സ്റ്റ് എന്നിവ ഉപയോഗിച്ച് നിങ്ങളുടെ സെഷനുകൾക്ക് ശബ്ദം നൽകുക.
- ഇമേജ് ഹുക്കുകൾ: ചില കണക്ടറുകൾ ഇമേജ് പ്രോംപ്റ്റുകൾ/റെസ്പോൺസുകളെ പിന്തുണയ്ക്കുന്നു (മോഡലിനെ ആശ്രയിച്ചിരിക്കുന്നു).
- ഓട്ടോമേഷൻ: ആവർത്തിച്ചുള്ള വിവരണങ്ങൾക്കോ ഫോർമാറ്റിംഗിനോ ഉള്ള മാക്രോകൾ.
വിപുലമായ സംയോജനങ്ങൾ പ്രവർത്തനക്ഷമമാക്കുന്നതിന് മുമ്പ് ദാതാവിന് പ്രത്യേകമായുള്ള ഫീച്ചറുകൾ, പ്രോംപ്റ്റ് ഫോർമാറ്റുകൾ, റേറ്റ്-ലിമിറ്റ് കുറിപ്പുകൾ എന്നിവയ്ക്കായി ഡോക്യുമെന്റുകൾ പരിശോധിക്കുക.
സുരക്ഷ, ഫിൽട്ടറുകൾ, അതിരുകൾ
- മോഡൽ പോളിസികൾ: API മോഡലുകൾ (ഉദാഹരണത്തിന്, Anthropic, Google) ചില ഉള്ളടക്ക തരങ്ങളെ ബാധിച്ചേക്കാവുന്ന സുരക്ഷാ നിയമങ്ങൾ നടപ്പിലാക്കുന്നു. അതിനനുസരിച്ച് നിങ്ങളുടെ ക്രിയേറ്റീവ് ലക്ഷ്യങ്ങൾ ക്രമീകരിക്കുക.
- ലോക്കൽ നിയന്ത്രണം: ലോക്കൽ മോഡലുകൾ നിങ്ങൾക്ക് കൂടുതൽ സ്വാതന്ത്ര്യം നൽകുന്നു, എന്നാൽ കൂടുതൽ ഉത്തരവാദിത്തവുമുണ്ട്—വ്യക്തിപരമായ അതിരുകളും ഉള്ളടക്ക ടാഗുകളും മുൻകൂട്ടി സജ്ജമാക്കുക.
- സെഷൻ ശുചിത്വം: ഉള്ളടക്ക മുന്നറിയിപ്പുകൾ ഉപയോഗിക്കുക, സീനുകൾ തിരഞ്ഞെടുക്കുക, വ്യക്തമായ മാറ്റങ്ങൾ വരുത്തുക. എന്തെങ്കിലും തടസ്സമുണ്ടായാൽ, സംഗ്രഹിക്കുക, ടോൺ പുനഃസജ്ജമാക്കുക, സാഹചര്യത്തെ വീണ്ടും ഉറപ്പിക്കുക.
ട്രബിൾഷൂട്ടിംഗ്: സാധാരണ പ്രശ്നങ്ങൾക്കുള്ള ദ്രുത പരിഹാരങ്ങൾ
- മോഡൽ ആവർത്തിക്കുകയോ ലൂപ്പ് ചെയ്യുകയോ ചെയ്യുന്നു: ആവർത്തന പിഴ വർദ്ധിപ്പിക്കുക, താപനില കുറയ്ക്കുക, മെമ്മറിയിലേക്ക് കൂടുതൽ അടിസ്ഥാനപരമായ വസ്തുതകൾ ചേർക്കുക.
- സ്വഭാവത്തിന് പുറത്തുള്ള പ്രതികരണങ്ങൾ: കഥാപാത്രത്തിന്റെ നിർവചനം ശക്തിപ്പെടുത്തുക, 2–3 സാമ്പിൾ ഡയലോഗുകൾ ചേർക്കുക; സിസ്റ്റം പ്രോംപ്റ്റ് ശക്തമാക്കുക.
- ചെലവ് കൂടുന്നു (API ഉപയോഗം): കോൺടെക്സ്റ്റ് ലെങ്ത് കുറയ്ക്കുക, ചെറിയ മറുപടികൾ നൽകുക, ആവർത്തിച്ച് സംഗ്രഹിക്കുക, അല്ലെങ്കിൽ ഫില്ലർ സീനുകൾക്കായി കുറഞ്ഞ ചിലവുള്ള മോഡലിലേക്ക് മാറുക.
- ലോക്കൽ മോഡൽ വേഗത കുറവാണ്: ചെറിയ ക്വാണ്ടൈസേഷൻ പരീക്ഷിക്കുക, GPU ആക്സിലറേഷൻ പ്രവർത്തനക്ഷമമാക്കുക, അല്ലെങ്കിൽ പരമാവധി ടോക്കണുകൾ കുറയ്ക്കുക.
- കണക്ഷൻ പിശകുകൾ: ദാതാവിന്റെ URL, കീയുടെ സാധുത, മോഡലിന്റെ പേര് എന്നിവ വീണ്ടും പരിശോധിക്കുക. കൃത്യമായ പാരാമീറ്ററുകൾക്കായി API കണക്ഷൻസ് പേജ് പരിശോധിക്കുക.
10 മിനിറ്റിനുള്ളിൽ ഒരു സ്റ്റാർട്ടർ വർക്ക്ഫ്ലോ (ഇത് പകർത്തുക)
- ഒരു ദാതാവിനെ തിരഞ്ഞെടുക്കുക (ഉദാഹരണത്തിന്, കുറഞ്ഞ ചിലവിലുള്ള ടെസ്റ്റുകൾക്കായി Gemini അല്ലെങ്കിൽ വലിയ സ്റ്റോറി ആർക്കുകൾക്കായി Claude).
- പേഴ്സണ, പശ്ചാത്തല പോയിന്റുകൾ, 3 സാമ്പിൾ ഡയലോഗുകൾ എന്നിവ ഉപയോഗിച്ച് ഒരു കഥാപാത്രത്തെ ഉണ്ടാക്കുക.
- താപനില 0.8 ആയി സജ്ജമാക്കുക, ടോപ്പ്‑p 0.9, ആവർത്തന പിഴ മീഡിയം ആയി സജ്ജമാക്കുക.
- ഒരു ചെറിയ മെമ്മറി ബുക്ക് ചേർക്കുക: ക്രമീകരണം, ബന്ധങ്ങൾ, പ്രധാന ലക്ഷ്യങ്ങൾ.
- വ്യക്തമായ സീൻ സജ്ജീകരണവും ആവശ്യമുള്ള ടോണും ഉപയോഗിച്ച് ചാറ്റ് ആരംഭിക്കുക.
- 10 സന്ദേശങ്ങൾക്ക് ശേഷം, ചാറ്റ് എക്സ്പോർട്ട് ചെയ്യുക, രണ്ട് മെച്ചപ്പെടുത്തലുകൾ എഴുതുക, കഥാപാത്ര കാർഡ് അപ്ഡേറ്റ് ചെയ്യുക.
ഈ ലൂപ്പ് ആവർത്തിക്കുക, നിങ്ങൾക്ക് സ്ഥിരതയിൽ വലിയ നേട്ടങ്ങൾ കാണാൻ കഴിയും.
മോഡൽ-നിർദ്ദിഷ്ട ടിപ്പുകൾ (ചീറ്റ് ഷീറ്റ്)
- OpenAI: സംക്ഷിപ്തമായ സിസ്റ്റം പ്രോംപ്റ്റുകൾ ഇഷ്ടപ്പെടുന്നു; നമ്പർ നൽകിയുള്ള ഘട്ടങ്ങളുള്ള ഫോർമാറ്റ് നിർദ്ദേശങ്ങൾ വ്യക്തമാക്കുന്നു.
- Claude: മൾട്ടി-ഗ്രാഫ് ബ്രീഫുകളിൽ മികച്ച രീതിയിൽ പ്രവർത്തിക്കുന്നു; വിവരണത്തിന്റെ തുടർച്ചയ്ക്കും സംഗ്രഹങ്ങൾക്കും മികച്ചത്.
- Gemini: ചിട്ടയായ പ്രോംപ്റ്റുകളും വ്യക്തമായ നിയന്ത്രണങ്ങളും ഉപയോഗിച്ച് നന്നായി പ്രവർത്തിക്കുന്നു; സൗജന്യ ടയർ ക്വാട്ടകൾ പരിശോധിക്കുക.
- ലോക്കൽ Llama: ഇൻസ്ട്രക്ട്-ട്യൂൺ ചെയ്ത വേരിയന്റുകൾ ഉപയോഗിക്കുക; വേഗത/ഗുണമേന്മയ്ക്കായി 2–3 ക്വാണ്ടൈസേഷനുകൾ പരീക്ഷിക്കുക.
ബാക്കപ്പുകൾ, എക്സ്പോർട്ടുകൾ, ഓർഗനൈസേഷൻ
- ലോറിന്റെ ക്രോസ്- contamination തടയുന്നതിന് ഓരോ "universe"-നും പ്രത്യേക ഫോൾഡറുകൾ ഉപയോഗിക്കുക.
- സ്ഥിരമായി ചാറ്റുകൾ എക്സ്പോർട്ട് ചെയ്യുക (JSON/HTML) കൂടാതെ നിങ്ങളുടെ കഥാപാത്ര കാർഡുകളുടെ സ്നാപ്പ്ഷോട്ട് എടുക്കുക.
- സാമ്പിളിംഗ് ക്രമീകരണങ്ങൾ, മോഡൽ പതിപ്പുകൾ, പ്രധാനപ്പെട്ട സെഷനുകൾ എന്നിവ രേഖപ്പെടുത്തുന്ന ഒരു "മെറ്റാ" ഡോക്യുമെന്റ് സൂക്ഷിക്കുക.
ശ്രദ്ധിക്കേണ്ടത്: Sider.AI ഉപയോഗിച്ച് നിങ്ങളുടെ വർക്ക്ഫ്ലോ വേഗത്തിലാക്കുക
SillyTavern-ന് പുറത്ത് നിങ്ങൾ കഥാപാത്രത്തിന്റെ ബയോ, സീൻ രൂപരേഖകൾ, അല്ലെങ്കിൽ ലോർ സ്നിപ്പറ്റുകൾ തയ്യാറാക്കുകയാണെങ്കിൽ, ഒരു സൈഡ്ബാർ അസിസ്റ്റന്റ് നിങ്ങളെ വേഗത്തിൽ പ്രവർത്തിക്കാൻ സഹായിക്കും. കൂടാതെ, Sider.AI-യുടെ ഇൻ-ബ്രൗസർ അസിസ്റ്റന്റിന് വലിയ ട്രാൻസ്ക്രിപ്റ്റുകൾ സംഗ്രഹിക്കാനും കഥാപാത്രത്തിന്റെ പ്രത്യേകതകൾ നിർദ്ദേശിക്കാനും അല്ലെങ്കിൽ സീൻ സീഡുകൾ ഉണ്ടാക്കാനും കഴിയും, തുടർന്ന് നിങ്ങൾക്ക് ഫലങ്ങൾ SillyTavern-ലേക്ക് നേരിട്ട് ഒട്ടിക്കാം. ലോകനിർമ്മാണത്തിനും പ്രോംപ്റ്റ് പോളിഷിംഗിനുമുള്ള ഒരു പ്രീ-പ്രൊഡക്ഷൻ സഹായിയാണ് ഇത്. പ്രധാന കണ്ടെത്തലുകൾ
- ലളിതമായി ആരംഭിക്കുക: ഒരു ദാതാവിനെയും ഒരു കഥാപാത്രത്തെയും ഒരു ചെറിയ മെമ്മറി ബുക്കും തിരഞ്ഞെടുക്കുക.
- നിയന്ത്രണമാണ് പ്രധാനം: സിസ്റ്റം പ്രോംപ്റ്റുകൾ, സാമ്പിളിംഗ്, മെമ്മറി എന്നിവ സ്ഥിരതയെ രൂപപ്പെടുത്തുന്നു.
- ലക്ഷ്യം അനുസരിച്ച് മോഡലുകൾ തിരഞ്ഞെടുക്കുക: വിവരണത്തിന്റെ ദൈർഘ്യം, ചെലവ്, സർഗ്ഗാത്മകത അല്ലെങ്കിൽ സ്വകാര്യത.
- ആവർത്തിക്കുക: നിങ്ങളുടെ കഥാപാത്ര കാർഡും പ്രিসেറ്റുകളും എക്സ്പോർട്ട് ചെയ്യുക, അവലോകനം ചെയ്യുക, മെച്ചപ്പെടുത്തുക.
ഉറവിടങ്ങൾ
- SillyTavern API കണക്ഷൻസ് അവലോകനം: പിന്തുണയ്ക്കുന്ന ദാതാക്കൾ, പരിധികൾ, കുറിപ്പുകൾ.
- മികച്ച മോഡലുകളെക്കുറിച്ചും Gemini പോലുള്ള സൗജന്യ/കുറഞ്ഞ ചിലവുള്ള ഓപ്ഷനുകളെക്കുറിച്ചുമുള്ള കമ്മ്യൂണിറ്റി ചർച്ച.
- റോൾപ്ലേയ്ക്കും ചാറ്റിനുമുള്ള ഒരു LLM ഫ്രണ്ട്എൻഡ് എന്ന നിലയിൽ SillyTavern-ന്റെ GitHub അവലോകനം.
FAQ
Q1:SillyTavern നെ OpenAI, Claude, അല്ലെങ്കിൽ Gemini എന്നിവയിലേക്ക് എങ്ങനെ കണക്ട് ചെയ്യാം?
SillyTavern-ന്റെ API ക്രമീകരണങ്ങൾ തുറന്ന് ഓരോ ദാതാവിനുമുള്ള നിങ്ങളുടെ API കീകൾ ഒട്ടിക്കുക, തുടർന്ന് മോഡലിന്റെ പേര് തിരഞ്ഞെടുത്ത് സംരക്ഷിക്കുക. ഔദ്യോഗിക API കണക്ഷൻസ് ഗൈഡിൽ പിന്തുണയ്ക്കുന്ന ദാതാക്കളുടെയും നിങ്ങൾ സജ്ജീകരിക്കേണ്ട പാരാമീറ്ററുകളുടെയും ലിസ്റ്റ് നൽകിയിട്ടുണ്ട്.
Q2:Llama പോലുള്ള ഒരു ലോക്കൽ മോഡൽ ഉപയോഗിച്ച് എനിക്ക് SillyTavern ഉപയോഗിക്കാൻ കഴിയുമോ?
ഉവ്വ്. KoboldAI അല്ലെങ്കിൽ oobabooga/text-generation-webui പോലുള്ള ഒരു ലോക്കൽ ബാക്കെൻഡ് പ്രവർത്തിപ്പിക്കുക, തുടർന്ന് SillyTavern നെ ലോക്കൽ സെർവർ URL-ലേക്ക് പോയിന്റ് ചെയ്യുക. ബാക്കെൻഡ് ഒരു API എൻഡ്പോയിന്റ് എക്സ്പോസ് ചെയ്യുന്നുണ്ടെന്നും അനുയോജ്യമായ ഇൻസ്ട്രക്ട്-ട്യൂൺ ചെയ്ത മോഡലാണ് ഉപയോഗിക്കുന്നതെന്നും ഉറപ്പാക്കുക.
Q3:SillyTavern-ൽ റോൾപ്ലേ സ്ഥിരത മെച്ചപ്പെടുത്തുന്നതിനുള്ള ക്രമീകരണങ്ങൾ എന്തൊക്കെയാണ്?
സിസ്റ്റം പ്രോംപ്റ്റ് മെച്ചപ്പെടുത്തുക, കഥാപാത്ര കാർഡിലേക്ക് സാമ്പിൾ ഡയലോഗ് ചേർക്കുക, വസ്തുതകൾക്കും ബന്ധങ്ങൾക്കുമായി ഒരു ചെറിയ മെമ്മറി ബുക്ക് ഉപയോഗിക്കുക. സർഗ്ഗാത്മകതയും സ്ഥിരതയും സന്തുലിതമാക്കാൻ താപനില, ടോപ്പ്‑p, ആവർത്തന പിഴകൾ എന്നിവ ട്യൂൺ ചെയ്യുക.
Q4:SillyTavern-ൽ വലിയ സ്റ്റോറികൾക്ക് ഏറ്റവും മികച്ച മോഡൽ ഏതാണ്?
വലിയ കോൺടെക്സ്റ്റ് വിവരണത്തിന് Claude മോഡലുകൾ മികച്ചതാണ്, അതേസമയം OpenAI, Gemini എന്നിവ പൊതുവായ ചാറ്റിന് വൈവിധ്യമാർന്നതും ചിലവ് കുറഞ്ഞതുമാണ്. നിങ്ങൾ ട്യൂൺ ചെയ്യാൻ സൗകര്യമുണ്ടെങ്കിൽ ലോക്കൽ Llama മോഡലുകൾ സ്വകാര്യതയ്ക്ക് മികച്ചതാണ്.
Q5:SillyTavern-ൽ API മോഡലുകൾ ഉപയോഗിച്ച് ടോക്കൺ ചെലവുകൾ എങ്ങനെ കുറയ്ക്കാം?
കോൺടെക്സ്റ്റ് ലെങ്ത് കുറയ്ക്കുക, സംക്ഷിപ്തമായ മറുപടികൾ നൽകുക, ആവർത്തിച്ച് സംഗ്രഹിക്കുക. നിങ്ങൾക്ക് ഫില്ലർ സീനുകൾക്കായി കുറഞ്ഞ ചിലവുള്ള മോഡലുകളിലേക്ക് മാറാനും പ്രധാനപ്പെട്ട നിമിഷങ്ങൾക്കായി പ്രീമിയം മോഡലുകൾ ഉപയോഗിക്കാനും കഴിയും.