איך להשתמש ב-SillyTavern: מדריך מעשי להתקנה, מודלים ותכונות RP מתקדמות
שמעתם את הבאזז: SillyTavern היא אחת מחזיתות הקצה הגמישות ביותר למשחק תפקידים וצ'אט עם מודלים גדולים של שפה. אבל מאיפה מתחילים, באילו מודלים כדאי להשתמש, ואיך פותחים את התכונות הטובות ביותר שלה מבלי לשבור משהו? מדריך זה מלווה אתכם, צעד אחר צעד - בלי שטויות, רק נתיב מעשי ומכוון פתרונות מההתקנה ועד למפגשים ברמת מקצוען.
מה זה SillyTavern - ולמה להשתמש בו?
SillyTavern היא ממשק משתמש עוצמתי וניתן להתאמה אישית לאינטראקציה עם LLM-ים - גם ממשקי API מארחים וגם מודלים מקומיים. תחשבו על זה כחדר הבקרה שלכם לצ'אט סוחף, משחק תפקידים בדמויות, בניית עולם ושיתוף פעולה בסיפורים. הוא מתחבר לממשקי API כמו OpenAI, Anthropic ו-Google, או למערכות קצה אחוריות מקומיות כמו KoboldAI ו-oobabooga/text-generation-webui (TGI/ExLlama, וכו'), ומאפשר לכם לכוונן את האווירה, הזיכרון והסגנון של המפגשים שלכם. הוא נועד להיות נגיש אך מעמיק, עם תכונות כמו כרטיסי דמויות, זיכרון לטווח ארוך, הרחבות ובקרות גרגיריות עבור הנחיות ודגימה.
התקנה מהירה: מאפס לצ'אט ראשון
עקבו אחר הזרימה היעילה הזו. תוכלו לחזור להגדרות מתקדמות יותר מאוחר יותר ברגע שתרגישו בנוח.
1) התקנה והפעלה
- שכפלו או הורידו את SillyTavern ממאגר GitHub שלה (או מזלג מתוחזק) ופעלו לפי סקריפט ההפעלה המצורף עבור מערכת ההפעלה שלכם. ב-Windows, בדרך כלל מריצים
start.bat כדי להפעיל את שרת האינטרנט המקומי; ב-macOS/Linux, סקריפט start.sh הוא נפוץ.
- פתחו את כתובת ה-URL המקומית המוצגת בטרמינל (בדרך כלל ` או הפורט ש-SillyTavern מדפיסה) כדי לגשת לממשק המשתמש.
טיפ: שמרו על תיקיית SillyTavern שלכם מסודרת - כרטיסי דמויות, הגדרות קבועות מראש והרחבות נמצאים בתיקיות משנה צפויות, מה שמקל על גיבויים.
2) בחרו את נתיב המודל שלכם: API או מקומי
- API מארח: הכי מהיר להתחיל; הזינו את מפתח ה-API שלכם בלוח הגדרות ה-API של SillyTavern.
- מערכת קצה אחורית מקומית: הטוב ביותר לפרטיות ושליטה; חברו את SillyTavern לשרת מקומי כמו KoboldAI או oobabooga/text-generation-webui.
SillyTavern תומכת במגוון רחב של ספקי API ומחברים מקומיים, עם הערות על חוזקות, מגבלות ומקרי שימוש בתיעוד.
3) הזינו אישורי API (אם משתמשים במודלים מארחים)
- ניתן להוסיף את OpenAI, Anthropic, Google (Gemini) ואחרים על ידי הדבקת מפתחות API ללשונית החיבורים של SillyTavern.
- טיפ: השתמשו בהגדרות קבועות מראש לכל ספק; מודלים שונים מגיבים טוב יותר להנחיות מערכת, טמפרטורה ועונשים שונים במקצת.
דיווחים בקהילה מציינים שניתן להשתמש ב-Gemini של Google בחינם עם מפתח Google AI Studio, מה שהופך אותו לנקודת התחלה חסכונית להתנסות.
4) התחברו ל-LLM-ים מקומיים (אופציונלי)
- הפעילו את מערכת הקצה האחורית המקומית שלכם (KoboldAI, text-generation-webui/oobabooga, LM Studio, וכו') ואמתו שהיא משרתת נקודת קצה של API.
- ב-SillyTavern, בחרו את המחבר המתאים והזינו את כתובת ה-URL המקומית וכל הפרמטרים הנדרשים.
- אמתו על ידי שליחת הודעת בדיקה קצרה.
5) צרו או ייבאו דמות
- לחצו על דמויות → חדש כדי לבנות מאפס, או ייבאו כרטיס דמות (PNG/JSON) מהספרייה שלכם.
- מלאו את השדות אישיות, תיאור, דיאלוג לדוגמה והגדרה. ככל שהאפיון ספציפי יותר, כך עקביות ה-RP טובה יותר.
6) התחילו לשוחח
- בחרו את הדמות והמודל שלכם, ואז כתבו את ההודעה הראשונה שלכם.
- השתמשו בפתיחה רכה כמו: "בואו נמקם את הסצנה: .".
- מודלים מקומיים מבוססי Llama: פרטיים, ניתנים להתאמה אישית; האיכות תלויה בכימות ובכוונון עדין.
- מערכות KoboldAI/oobabooga: שליטה עמוקה על היסק, פורמטי הנחיה והרחבות.
מדריך חיבורי ה-API של SillyTavern מתאר את הספקים הנתמכים והאזהרות במקום אחד.
יצירת דמויות: בניית אישיות שנשארת בדמות
מפגש נהדר מתחיל עם כרטיס דמות נהדר.
- אישיות: 2–4 משפטים על זהות, תפקיד, קול.
- סיפור רקע: 3–5 נקודות תבליט של היסטוריה מעצבת; הימנעו מציר זמן מקיף.
- מטרות וגבולות: הבהירו רצונות וקווים שהדמות לא תעבור.
- דפוסי דיבור: הוסיפו כמה דוגמאות של ניבים או מוזרויות.
- דיאלוג לדוגמה: 3 חילופי דברים המדגישים טון, קצב ומגוון רגשי.
טיפ מקצועי: הוסיפו עוגנים סביבתיים (לדוגמה, "העיר מריחה כמו גשם וניאון ישן") כדי לשמור על המודל תיאורי ללא תזכורות מתמידות.
הרחבות, תוספים ותכונות עוצמה
ל-SillyTavern יש מערכת אקולוגית של תוספות שמרחיבות את היכולות שלה:
- זיכרון וספרי ידע: הזרקה אוטומטית של עובדות מפתח כאשר מזוהים טריגרים.
- כלי עולם/סיפור: תבניות סצנה, רשימות NPC והנחיות לאירועים.
- TTS/STT: הפעילו קול למפגשים שלכם עם טקסט לדיבור ודיבור לטקסט.
- ווים לתמונות: מחברים מסוימים תומכים בהנחיות/תגובות תמונה (תלוי במודל).
- אוטומציה: פקודות מאקרו לפעימות נרטיביות חוזרות או עיצוב.
עיינו בתיעוד לתכונות ספציפיות לספק, פורמטי הנחיה והערות על מגבלות קצב לפני הפעלת שילובים מתקדמים.
בטיחות, מסננים וגבולות
- מדיניות מודלים: מודלי API (לדוגמה, Anthropic, Google) אוכפים כללי בטיחות שעשויים להשפיע על סוגי תוכן מסוימים. התאימו את המטרות היצירתיות שלכם בהתאם.
- שליטה מקומית: מודלים מקומיים נותנים לכם יותר חופש פעולה אך גם יותר אחריות - הגדירו גבולות אישיים ותגיות תוכן מראש.
- היגיינת מפגש: השתמשו באזהרות תוכן, סצנות אופציונליות ומעברים ברורים. אם משהו יוצא מכלל שליטה, סכמו, אפסו את הטון ועגנו מחדש את התרחיש.
פתרון בעיות: תיקונים מהירים לבעיות נפוצות
- המודל חוזר או מבצע לולאות: הגדילו את עונש החזרה, הורידו את הטמפרטורה מעט, הוסיפו עובדות מעוגנות יותר לזיכרון.
- תגובות מחוץ לדמות: חזקו את ההגדרה של הדמות והוסיפו 2–3 דיאלוגים לדוגמה; הדקו את הנחיית המערכת.
- העלויות מזנקות (שימוש ב-API): צמצמו את אורך ההקשר, אפשרו תגובות קצרות יותר, סכמו מעת לעת או עברו למודל בעלות נמוכה יותר עבור סצנות מילוי.
- המודל המקומי איטי: נסו כימות קטן יותר, הפעילו האצת GPU או הורידו את מספר האסימונים המקסימלי.
- שגיאות חיבור: בדקו שוב את כתובת ה-URL של הספק, את תוקף המפתח ואת שם המודל. עיינו בדף חיבורי ה-API עבור פרמטרים מדויקים.
תהליך עבודה התחלתי של 10 דקות (העתיקו את זה)
- בחרו ספק (לדוגמה, Gemini לבדיקות בעלות נמוכה או Claude לקשתות סיפור ארוכות).
- צרו דמות עם אישיות, נקודות תבליט של סיפור רקע ו-3 דיאלוגים לדוגמה.
- הגדירו טמפרטורה ל-0.8, Top-p 0.9, עונש חזרה בינוני.
- הוסיפו ספר זיכרון קטן: מיקום, מערכות יחסים, מטרות פעילות.
- התחילו את הצ'אט עם הגדרת סצנה ברורה וטון רצוי.
- אחרי 10 הודעות, ייצאו את הצ'אט, רשמו שני שיפורים ועדכנו את כרטיס הדמות.
חזרו על הלולאה הזו ותראו רווחי עקביות דרמטיים.
טיפים ספציפיים למודל (דף צ'יטים)
- OpenAI: אוהב הנחיות מערכת תמציתיות; עצבו הוראות בבירור עם שלבים ממוספרים.
- Claude: משגשג על תקצירים מרובי פסקאות; נהדר עבור המשכיות סיפורית וסיכומים.
- Gemini: עובד היטב עם הנחיות מובנות ואילוצים מפורשים; בדקו מכסות של שכבה חינמית.
- Llama מקומי: השתמשו בגרסאות מכוונות הדרכה; בדקו 2–3 כימותים למהירות/איכות.
גיבויים, ייצוא וארגון
- השתמשו בתיקיות נפרדות לכל "יקום" כדי למנוע זיהום צולב של ידע.
- ייצאו צ'אטים באופן קבוע (JSON/HTML) וצלמו את כרטיסי הדמויות שלכם.
- שמרו מסמך "מטא" המתעד הגדרות דגימה, גרסאות מודל ומפגשים בולטים.
ראוי לציון: האצת תהליך העבודה שלכם עם Sider.AI
אם אתם מנסחים ביוגרפיות של דמויות, קווי מתאר של סצנות או קטעי ידע מחוץ ל-SillyTavern, עוזר בסרגל הצד יכול לעזור לכם לחזור במהירות. אגב, העוזר הדפדפני של Sider.AI יכול לסכם תמלילים ארוכים, להציע מוזרויות לדמויות או ליצור זרעי סצנות, ואז תוכלו להדביק את התוצאות ישירות לתוך SillyTavern. זהו שותף נוח לפני הפקה לבניית עולם וליטוש הנחיות. מסקנות עיקריות
- התחילו פשוט: בחרו ספק אחד, דמות אחת וספר זיכרון קטן.
- שליטה היא המלך: הנחיות מערכת, דגימה וזיכרון מעצבים עקביות.
- בחרו מודלים לפי מטרה: אורך נרטיבי, עלות, יצירתיות או פרטיות.
- חזרו: ייצאו, סקרו ושכללו את כרטיס הדמות וההגדרות הקבועות מראש שלכם.
משאבים
- סקירה כללית של חיבורי API של SillyTavern: ספקים נתמכים, מגבלות והערות.
- דיון בקהילה על המודלים הטובים ביותר ואפשרויות חינמיות/בעלות נמוכה כמו Gemini.
- סקירה כללית של GitHub על SillyTavern כחזית קצה של LLM למשחק תפקידים וצ'אט.
שאלות נפוצות
ש1: איך אני מחבר את SillyTavern ל-OpenAI, Claude או Gemini?
פתחו את הגדרות ה-API של SillyTavern והדביקו את מפתחות ה-API שלכם עבור כל ספק, ואז בחרו את שם המודל ושמרו. מדריך חיבורי ה-API הרשמי מפרט ספקים נתמכים ופרמטרים שאולי תצטרכו להגדיר.
ש2: האם אני יכול להשתמש ב-SillyTavern עם מודל מקומי כמו Llama?
כן. הפעילו מערכת קצה אחורית מקומית כמו KoboldAI או oobabooga/text-generation-webui, ואז הפנו את SillyTavern לכתובת ה-URL של השרת המקומי. ודאו שמערכת הקצה האחורית חושפת נקודת קצה של API ומשתמשת במודל מכוון הדרכה תואם.
ש3: אילו הגדרות משפרות את עקביות משחק התפקידים ב-SillyTavern?
שכללו את הנחיית המערכת, הוסיפו דיאלוג לדוגמה לכרטיס הדמות והשתמשו בספר זיכרון קטן לעובדות ומערכות יחסים. כוונו את הטמפרטורה, Top-p ועונשי החזרה כדי לאזן בין יצירתיות ועקביות.
ש4: איזה מודל הוא הטוב ביותר לסיפור סיפורים ארוך טווח ב-SillyTavern?
מודלי Claude חזקים עבור עקביות נרטיבית ארוכת הקשר, בעוד ש-OpenAI ו-Gemini הם מגוונים וחסכוניים עבור צ'אט כללי. מודלי Llama מקומיים נהדרים לפרטיות אם אתם מרגישים בנוח לכוונן אותם.
ש5: איך אני מצמצם עלויות אסימונים עם מודלי API ב-SillyTavern?
קצרו את אורך ההקשר, אפשרו תגובות תמציתיות וסכמו קשתות מעת לעת. אתם יכולים גם לעבור למודלים בעלות נמוכה יותר עבור סצנות מילוי ולשמור מודלים פרימיום לרגעים מרכזיים.
