SillyTavern નો ઉપયોગ કેવી રીતે કરવો: સેટઅપ, મોડેલ્સ અને એડવાન્સ્ડ RP ફીચર્સ માટે એક વ્યવહારુ માર્ગદર્શિકા
તમે સાંભળ્યું જ હશે: મોટા ભાષા મોડેલ્સ સાથે રોલપ્લે અને ચેટ કરવા માટે SillyTavern સૌથી વધુ ફ્લેક્સિબલ ફ્રન્ટ-એન્ડ પૈકીનું એક છે. પરંતુ તમારે ક્યાંથી શરૂઆત કરવી જોઈએ, તમારે કયા મોડેલ્સનો ઉપયોગ કરવો જોઈએ અને કંઈપણ તોડ્યા વિના તેની શ્રેષ્ઠ સુવિધાઓને કેવી રીતે અનલૉક કરવી? આ માર્ગદર્શિકા તમને સ્ટેપ બાય સ્ટેપ લઈ જશે—કોઈ વધારાની માહિતી નહીં, ફક્ત ઇન્સ્ટોલેશનથી લઈને પ્રો-લેવલ સેશન સુધીનો વ્યવહારુ, ઉકેલ-લક્ષી માર્ગ.
SillyTavern શું છે—અને તેનો ઉપયોગ શા માટે કરવો?
SillyTavern એ LLM સાથે વાતચીત કરવા માટે એક શક્તિશાળી, કસ્ટમાઇઝ કરી શકાય તેવું UI છે—હોસ્ટેડ API અને સ્થાનિક મોડેલ્સ બંને માટે. તેને ઇમર્સિવ ચેટ, કેરેક્ટર રોલપ્લે, વર્લ્ડબિલ્ડિંગ અને સ્ટોરી કોલાબોરેશન માટે તમારા કંટ્રોલ રૂમ તરીકે વિચારો. તે OpenAI, Anthropic અને Google જેવા API અથવા KoboldAI અને oobabooga/text-generation-webui (TGI/ExLlama, વગેરે) જેવા સ્થાનિક બેકેન્ડ સાથે કનેક્ટ થાય છે, જે તમને તમારા સેશન્સના વાઇબ, મેમરી અને સ્ટાઇલને ફાઇન-ટ્યુન કરવા દે છે. તે કેરેક્ટર કાર્ડ્સ, લાંબા ગાળાની મેમરી, એક્સ્ટેન્શન્સ અને પ્રોમ્પ્ટ્સ અને સેમ્પલિંગ માટે ગ્રેન્યુલર કંટ્રોલ્સ જેવી સુવિધાઓ સાથે સરળ છતાં ઊંડું બનાવવા માટે ડિઝાઇન કરવામાં આવ્યું છે.
ઝડપી સેટઅપ: શૂન્યથી પ્રથમ ચેટ
આ સુવ્યવસ્થિત ફ્લોને અનુસરો. તમે આરામદાયક થયા પછીથી એડવાન્સ્ડ સેટિંગ્સની ફરી મુલાકાત લઈ શકો છો.
1) ઇન્સ્ટોલ કરો અને લોન્ચ કરો
- SillyTavernને તેના GitHub રેપો (અથવા મેઇન્ટેઇન્ડ ફોર્ક) પરથી ક્લોન કરો અથવા ડાઉનલોડ કરો અને તમારા OS માટે સમાવિષ્ટ સ્ટાર્ટઅપ સ્ક્રિપ્ટને અનુસરો. Windows પર, સ્થાનિક વેબ સર્વર શરૂ કરવા માટે તમે સામાન્ય રીતે
start.bat ચલાવો છો; macOS/Linux પર, start.sh સ્ક્રિપ્ટ સામાન્ય છે.
- UIને એક્સેસ કરવા માટે ટર્મિનલમાં બતાવેલ લોકલ URL ખોલો (સામાન્ય રીતે ` અથવા SillyTavern જે પોર્ટ પ્રિન્ટ કરે છે).
ટીપ: તમારા SillyTavern ફોલ્ડરને વ્યવસ્થિત રાખો—કેરેક્ટર કાર્ડ્સ, પ્રીસેટ્સ અને એક્સ્ટેન્શન્સ અનુમાનિત સબફોલ્ડર્સમાં રહે છે, જેનાથી બેકઅપ સરળ બને છે.
2) તમારો મોડેલ પાથ પસંદ કરો: API અથવા લોકલ
- હોસ્ટેડ API: શરૂ કરવા માટે સૌથી ઝડપી; SillyTavern ના API સેટિંગ્સ પેનલમાં તમારી API કી દાખલ કરો.
- લોકલ બેકેન્ડ: પ્રાઇવસી અને કંટ્રોલ માટે શ્રેષ્ઠ; SillyTavernને KoboldAI અથવા oobabooga/text-generation-webui જેવા સ્થાનિક સર્વર સાથે કનેક્ટ કરો.
SillyTavern API પ્રોવાઇડર્સ અને લોકલ કનેક્ટર્સની વિશાળ શ્રેણીને સપોર્ટ કરે છે, જેમાં ડોક્સમાં શક્તિઓ, મર્યાદાઓ અને ઉપયોગના કેસોની નોંધો છે.
3) API ઓળખપત્રો દાખલ કરો (જો હોસ્ટેડ મોડેલ્સનો ઉપયોગ કરતા હોવ તો)
- SillyTavernના કનેક્શન્સ ટેબમાં API કી પેસ્ટ કરીને OpenAI, Anthropic, Google (Gemini) અને અન્યને ઉમેરી શકાય છે.
- ટીપ: પ્રોવાઇડર દીઠ પ્રીસેટ્સનો ઉપયોગ કરો; વિવિધ મોડેલ્સ થોડા અલગ સિસ્ટમ પ્રોમ્પ્ટ્સ, તાપમાન અને પેનલ્ટીઝને વધુ સારી રીતે પ્રતિસાદ આપે છે.
સમુદાયના અહેવાલો નોંધે છે કે Google નું Gemini Google AI Studio કી સાથે મફતમાં વાપરી શકાય છે, જે પ્રયોગ માટે ખર્ચ-અસરકારક પ્રારંભિક બિંદુ બનાવે છે.
4) લોકલ LLM સાથે કનેક્ટ કરો (વૈકલ્પિક)
- તમારું લોકલ બેકેન્ડ શરૂ કરો (KoboldAI, text-generation-webui/oobabooga, LM Studio, વગેરે) અને ખાતરી કરો કે તે API એન્ડપોઇન્ટ સર્વ કરી રહ્યું છે.
- SillyTavern માં, અનુરૂપ કનેક્ટર પસંદ કરો અને લોકલ URL અને જરૂરી પરિમાણો દાખલ કરો.
- ટૂંકો ટેસ્ટ મેસેજ મોકલીને વેલિડેટ કરો.
5) કેરેક્ટર બનાવો અથવા ઇમ્પોર્ટ કરો
- શરૂઆતથી બનાવવા માટે Characters → New પર ક્લિક કરો, અથવા તમારી લાઇબ્રેરીમાંથી કેરેક્ટર કાર્ડ (PNG/JSON) ઇમ્પોર્ટ કરો.
- પર્સના, વર્ણન, સેમ્પલ ડાયલોગ અને ડેફિનેશન ફીલ્ડ્સ ભરો. જેટલું વધુ સ્પષ્ટ કેરેક્ટરાઇઝેશન, તેટલી સારી RP સુસંગતતા.
6) ચેટિંગ શરૂ કરો
- તમારું કેરેક્ટર અને મોડેલ પસંદ કરો, પછી તમારો પહેલો મેસેજ લખો.
- સોફ્ટ ઓપનરનો ઉપયોગ કરો જેમ કે: “ચાલો સીન સેટ કરીએ: .
- લોકલ Llama-આધારિત મોડેલ્સ: પ્રાઇવેટ, કસ્ટમાઇઝ કરી શકાય તેવા; ગુણવત્તા ક્વોન્ટાઇઝેશન અને ફાઇન-ટ્યુન પર આધારિત છે.
- KoboldAI/oobabooga સ્ટેક્સ: અનુમાન, પ્રોમ્પ્ટ ફોર્મેટ્સ અને એક્સ્ટેન્શન્સ પર ઊંડું નિયંત્રણ.
SillyTavern ની API કનેક્શન્સ માર્ગદર્શિકા એક જ જગ્યાએ સપોર્ટેડ પ્રોવાઇડર્સ અને ચેતવણીઓની રૂપરેખા આપે છે.
કેરેક્ટર ક્રાફ્ટ: વ્યક્તિત્વનું નિર્માણ જે ઇન-કેરેક્ટર રહે છે
એક મહાન સત્ર એક મહાન કેરેક્ટર કાર્ડથી શરૂ થાય છે.
- પર્સના: ઓળખ, ભૂમિકા, અવાજ પર 2–4 વાક્યો.
- બેકસ્ટોરી: ફોર્મેટિવ હિસ્ટ્રીના 3–5 બુલેટ પોઇન્ટ; સંપૂર્ણ સમયરેખા ટાળો.
- ગોલ્સ અને બાઉન્ડ્રીઝ: ઇચ્છાઓ અને લીટીઓને સ્પષ્ટ કરો જેને કેરેક્ટર પાર નહીં કરે.
- સ્પીચ પેટર્ન્સ: રૂઢિપ્રયોગો અથવા વિચિત્રતાના થોડા ઉદાહરણો ઉમેરો.
- સેમ્પલ ડાયલોગ: ટોન, પેસિંગ અને ઇમોશનલ રેન્જને હાઇલાઇટ કરતા 3 એક્સચેન્જ.
પ્રો ટીપ: પર્યાવરણીય એન્કર ઉમેરો (દા.ત., “શહેરમાં વરસાદ અને જૂના નિયોનની ગંધ આવે છે”) મોડેલને સતત રીમાઇન્ડર્સ વિના વર્ણનાત્મક રાખવા માટે.
એક્સ્ટેન્શન્સ, પ્લગઈન્સ અને પાવર ફીચર્સ
SillyTavern પાસે એડ-ઓન્સનું ઇકોસિસ્ટમ છે જે તેની ક્ષમતાઓને વિસ્તૃત કરે છે:
- મેમરી અને લોરબુક્સ: જ્યારે ટ્રિગર્સ શોધાય ત્યારે ઓટો-ઇન્જેક્ટ મુખ્ય તથ્યો.
- વર્લ્ડ/સ્ટોરી ટૂલ્સ: સીન ટેમ્પ્લેટ્સ, NPC રોસ્ટર્સ અને ઇવેન્ટ પ્રોમ્પ્ટ્સ.
- TTS/STT: ટેક્સ્ટ-ટુ-સ્પીચ અને સ્પીચ-ટુ-ટેક્સ્ટ સાથે તમારા સેશનને વૉઇસ-એનેબલ કરો.
- ઇમેજ હુક્સ: કેટલાક કનેક્ટર્સ ઇમેજ પ્રોમ્પ્ટ્સ/રિસ્પોન્સને સપોર્ટ કરે છે (મોડેલ આધારિત).
- ઓટોમેશન: રિકરિંગ નેરેટિવ બીટ્સ અથવા ફોર્મેટિંગ માટે મેક્રોઝ.
એડવાન્સ્ડ ઇન્ટિગ્રેશન્સને સક્ષમ કરતા પહેલાં પ્રોવાઇડર-વિશિષ્ટ સુવિધાઓ, પ્રોમ્પ્ટ ફોર્મેટ્સ અને રેટ-લિમિટ નોટ્સ માટે ડોક્સ તપાસો.
સલામતી, ફિલ્ટર્સ અને બાઉન્ડ્રીઝ
- મોડેલ પોલિસીઝ: API મોડેલ્સ (દા.ત., Anthropic, Google) સલામતી નિયમો લાગુ કરે છે જે ચોક્કસ કન્ટેન્ટ પ્રકારોને અસર કરી શકે છે. તે મુજબ તમારા ક્રિએટિવ ધ્યેયોને સમાયોજિત કરો.
- લોકલ કંટ્રોલ: લોકલ મોડેલ્સ તમને વધુ છૂટછાટ આપે છે પરંતુ વધુ જવાબદારી પણ આપે છે—વ્યક્તિગત બાઉન્ડ્રીઝ અને કન્ટેન્ટ ટેગને પહેલાથી સેટ કરો.
- સેશન હાઇજીન: કન્ટેન્ટ વોર્નિંગ્સ, ઓપ્ટ-ઇન સીન્સ અને સ્પષ્ટ ટ્રાન્ઝિશનનો ઉપયોગ કરો. જો કંઈક પાટા પરથી ઉતરી જાય, તો સારાંશ આપો, ટોન રીસેટ કરો અને દૃશ્યને ફરીથી એન્કર કરો.
મુશ્કેલીનિવારણ: સામાન્ય સમસ્યાઓ માટે ઝડપી ફિક્સ
- મોડેલ પુનરાવર્તન કરે છે અથવા લૂપ કરે છે: પુનરાવર્તન પેનલ્ટી વધારો, તાપમાન થોડું ઓછું કરો, મેમરીમાં વધુ ગ્રાઉન્ડિંગ તથ્યો ઉમેરો.
- આઉટ-ઓફ-કેરેક્ટર પ્રતિભાવો: કેરેક્ટરની ડેફિનેશનને મજબૂત કરો અને 2–3 સેમ્પલ ડાયલોગ ઉમેરો; સિસ્ટમ પ્રોમ્પ્ટને કડક બનાવો.
- ખર્ચ વધે છે (API નો ઉપયોગ): કન્ટેક્સ્ટ લેન્થ ઘટાડો, ટૂંકા જવાબોને સક્ષમ કરો, સમયાંતરે સારાંશ આપો અથવા ફિલર સીન્સ માટે ઓછા ખર્ચાળ મોડેલ પર સ્વિચ કરો.
- લોકલ મોડેલ ધીમું છે: નાનું ક્વોન્ટાઇઝેશન અજમાવો, GPU પ્રવેગકને સક્ષમ કરો અથવા મહત્તમ ટોકન્સ ઘટાડો.
- કનેક્શન ભૂલો: પ્રોવાઇડર URL, કી માન્યતા અને મોડેલ નામ ફરીથી તપાસો. ચોક્કસ પરિમાણો માટે API કનેક્શન્સ પેજનો સંપર્ક કરો.
10-મિનિટની સ્ટાર્ટર વર્કફ્લો (આની નકલ કરો)
- પ્રોવાઇડર પસંદ કરો (દા.ત., ઓછા ખર્ચના પરીક્ષણો માટે Gemini અથવા લાંબા-સ્ટોરી આર્ક્સ માટે Claude).
- પર્સના, બેકસ્ટોરી બુલેટ્સ અને 3 સેમ્પલ ડાયલોગ સાથે કેરેક્ટર બનાવો.
- તાપમાન 0.8, ટોચ‑p 0.9, પુનરાવર્તન પેનલ્ટી મધ્યમ પર સેટ કરો.
- એક નાની મેમરી બુક ઉમેરો: સેટિંગ, સંબંધો, સક્રિય ધ્યેયો.
- સ્પષ્ટ સીન સેટઅપ અને ઇચ્છિત ટોન સાથે ચેટ શરૂ કરો.
- 10 મેસેજ પછી, ચેટ નિકાસ કરો, બે સુધારાઓ લખો અને કેરેક્ટર કાર્ડને અપડેટ કરો.
આ લૂપને પુનરાવર્તિત કરો અને તમને નાટ્યાત્મક સુસંગતતા લાભો દેખાશે.
મોડેલ-વિશિષ્ટ ટીપ્સ (ચીટ શીટ)
- OpenAI: સંક્ષિપ્ત સિસ્ટમ પ્રોમ્પ્ટ્સ પસંદ કરે છે; નંબરવાળા સ્ટેપ્સ સાથે સૂચનાઓને સ્પષ્ટ રીતે ફોર્મેટ કરો.
- Claude: મલ્ટી-પેરાગ્રાફ બ્રીફ્સ પર ખીલે છે; નેરેટિવ કન્ટિન્યુટી અને સારાંશ માટે સરસ.
- Gemini: સ્ટ્રક્ચર્ડ પ્રોમ્પ્ટ્સ અને સ્પષ્ટ અવરોધો સાથે સારી રીતે કામ કરે છે; ફ્રી-ટીયર ક્વોટા તપાસો.
- લોકલ Llama: ઇન્સ્ટ્રક્ટ-ટ્યુન્ડ વેરિયન્ટ્સનો ઉપયોગ કરો; સ્પીડ/ક્વોલિટી માટે 2–3 ક્વોન્ટાઇઝેશનનું પરીક્ષણ કરો.
બેકઅપ્સ, નિકાસ અને સંસ્થા
- લોરના ક્રોસ-કન્ટામિનેશનને રોકવા માટે દરેક "યુનિવર્સ" દીઠ અલગ ફોલ્ડર્સનો ઉપયોગ કરો.
- નિયમિતપણે ચેટ્સ (JSON/HTML) નિકાસ કરો અને તમારા કેરેક્ટર કાર્ડ્સનો સ્નેપશોટ લો.
- સેમ્પલિંગ સેટિંગ્સ, મોડેલ વર્ઝન્સ અને નોંધપાત્ર સેશન રેકોર્ડ કરતી "મેટા" ડોક્યુમેન્ટ રાખો.
નોંધનીય: Sider.AI સાથે તમારી વર્કફ્લોને ઝડપી બનાવવી
જો તમે SillyTavern ની બહાર કેરેક્ટર બાયોસ, સીન આઉટલાઇન્સ અથવા લોર સ્નિપેટ્સનો ડ્રાફ્ટ તૈયાર કરો છો, તો સાઇડબાર સહાયક તમને ઝડપથી પુનરાવર્તન કરવામાં મદદ કરી શકે છે. માર્ગ દ્વારા, Sider.AI’s ઇન-બ્રાઉઝર સહાયક લાંબી ટ્રાંસ્ક્રિપ્ટ્સનો સારાંશ આપી શકે છે, કેરેક્ટર ક્વિર્ક્સનો પ્રસ્તાવ મૂકી શકે છે અથવા સીન સીડ્સ જનરેટ કરી શકે છે, પછી તમે પરિણામોને સીધા SillyTavern માં પેસ્ટ કરી શકો છો. તે વર્લ્ડબિલ્ડિંગ અને પ્રોમ્પ્ટ પોલિશિંગ માટે એક સરળ પ્રી-પ્રોડક્શન સાથી છે. મુખ્ય ટેકઅવેઝ
- સરળ શરૂઆત કરો: એક પ્રોવાઇડર, એક કેરેક્ટર અને એક નાની મેમરી બુક પસંદ કરો.
- કંટ્રોલ એ રાજા છે: સિસ્ટમ પ્રોમ્પ્ટ્સ, સેમ્પલિંગ અને મેમરી આકારની સુસંગતતા.
- ધ્યેય દ્વારા મોડેલ્સ પસંદ કરો: નેરેટિવ લેન્થ, ખર્ચ, સર્જનાત્મકતા અથવા પ્રાઇવસી.
- પુનરાવર્તન કરો: નિકાસ કરો, સમીક્ષા કરો અને તમારા કેરેક્ટર કાર્ડ અને પ્રીસેટ્સને રિફાઇન કરો.
સંસાધનો
- SillyTavern API કનેક્શન્સ વિહંગાવલોકન: સપોર્ટેડ પ્રોવાઇડર્સ, મર્યાદાઓ અને નોંધો.
- શ્રેષ્ઠ મોડેલ્સ અને Gemini જેવા મફત/ઓછા ખર્ચના વિકલ્પો પર સમુદાયની ચર્ચા.
- રોલપ્લે અને ચેટ માટે LLM ફ્રન્ટએન્ડ તરીકે SillyTavern નું GitHub વિહંગાવલોકન.
FAQ
Q1: હું SillyTavern ને OpenAI, Claude અથવા Gemini સાથે કેવી રીતે કનેક્ટ કરું?
SillyTavern ની API સેટિંગ્સ ખોલો અને દરેક પ્રોવાઇડર માટે તમારી API કી પેસ્ટ કરો, પછી મોડેલનું નામ પસંદ કરો અને સાચવો. સત્તાવાર API કનેક્શન્સ માર્ગદર્શિકા સપોર્ટેડ પ્રોવાઇડર્સ અને પરિમાણોની યાદી આપે છે જેને તમારે સેટ કરવાની જરૂર પડી શકે છે.
Q2: શું હું Llama જેવા લોકલ મોડેલ સાથે SillyTavern નો ઉપયોગ કરી શકું?
હા. KoboldAI અથવા oobabooga/text-generation-webui જેવા લોકલ બેકેન્ડ ચલાવો, પછી SillyTavern ને લોકલ સર્વર URL પર પોઇન્ટ કરો. ખાતરી કરો કે બેકેન્ડ API એન્ડપોઇન્ટ એક્સપોઝ કરે છે અને સુસંગત ઇન્સ્ટ્રક્ટ-ટ્યુન્ડ મોડેલનો ઉપયોગ કરી રહ્યું છે.
Q3: SillyTavern માં રોલપ્લે સુસંગતતાને કઈ સેટિંગ્સ સુધારે છે?
સિસ્ટમ પ્રોમ્પ્ટને રિફાઇન કરો, કેરેક્ટર કાર્ડમાં સેમ્પલ ડાયલોગ ઉમેરો અને તથ્યો અને સંબંધો માટે એક નાની મેમરી બુકનો ઉપયોગ કરો. સર્જનાત્મકતા અને સુસંગતતાને સંતુલિત કરવા માટે તાપમાન, ટોચ‑p અને પુનરાવર્તન પેનલ્ટીઝને ટ્યુન કરો.
Q4: SillyTavern માં લાંબા-ફોર્મ સ્ટોરીટેલિંગ માટે કયું મોડેલ શ્રેષ્ઠ છે?
Claude મોડેલ્સ લાંબા-સંદર્ભ નેરેટિવ સુસંગતતા માટે મજબૂત છે, જ્યારે OpenAI અને Gemini સામાન્ય ચેટ માટે બહુમુખી અને ખર્ચ-અસરકારક છે. જો તમે તેમને ટ્યુન કરવામાં આરામદાયક હોવ તો લોકલ Llama મોડેલ્સ પ્રાઇવસી માટે શ્રેષ્ઠ છે.
Q5: હું SillyTavern માં API મોડેલ્સ સાથે ટોકન ખર્ચ કેવી રીતે ઘટાડી શકું?
સંદર્ભ લંબાઈ ટૂંકી કરો, સંક્ષિપ્ત જવાબોને સક્ષમ કરો અને સમયાંતરે આર્ક્સનો સારાંશ આપો. તમે ફિલર સીન્સ માટે ઓછા ખર્ચાળ મોડેલ્સ પર પણ સ્વિચ કરી શકો છો અને મુખ્ય ક્ષણો માટે પ્રીમિયમ મોડેલ્સ રાખી શકો છો.
