SillyTavern 사용법: 설정, 모델 및 고급 RP 기능에 대한 실용적인 가이드
최근 SillyTavern에 대한 이야기가 많습니다. SillyTavern은 대규모 언어 모델을 사용하여 롤플레잉 및 채팅을 할 수 있는 가장 유연한 프론트엔드 중 하나입니다. 하지만 어디서부터 시작해야 할까요? 어떤 모델을 사용해야 할까요? 그리고 무엇인가를 망치지 않고 최고의 기능을 어떻게 활용할 수 있을까요? 이 가이드에서는 설치부터 전문가 수준의 세션까지 실용적이고 문제 해결 중심적인 단계를 안내합니다.
SillyTavern이란 무엇이며 왜 사용해야 할까요?
SillyTavern은 호스팅된 API와 로컬 모델 모두와 상호 작용할 수 있는 강력하고 사용자 정의 가능한 LLM용 UI입니다. 몰입형 채팅, 캐릭터 롤플레잉, 월드 빌딩 및 스토리 협업을 위한 제어실이라고 생각하십시오. OpenAI, Anthropic 및 Google과 같은 API 또는 KoboldAI 및 oobabooga/text-generation-webui(TGI/ExLlama 등)와 같은 로컬 백엔드에 연결하여 세션의 분위기, 기억 및 스타일을 미세 조정할 수 있습니다. 캐릭터 카드, 장기 기억, 확장 기능, 프롬프트 및 샘플링에 대한 세분화된 컨트롤과 같은 기능을 통해 접근하기 쉽고 심층적으로 설계되었습니다.
빠른 설정: 처음 채팅하기까지
이 간소화된 흐름을 따르세요. 익숙해지면 나중에 고급 설정을 다시 방문할 수 있습니다.
1) 설치 및 실행
- GitHub 리포지토리(또는 유지 관리되는 포크)에서 SillyTavern을 복제하거나 다운로드하고 OS에 맞는 포함된 시작 스크립트를 따르십시오. Windows에서는 일반적으로
start.bat를 실행하여 로컬 웹 서버를 시작합니다. macOS/Linux에서는 start.sh 스크립트가 일반적입니다.
- 터미널에 표시된 로컬 URL(일반적으로 ` 또는 SillyTavern이 인쇄하는 포트)을 열어 UI에 액세스합니다.
팁: SillyTavern 폴더를 정리하십시오. 캐릭터 카드, 프리셋 및 확장 프로그램은 예측 가능한 하위 폴더에 있으므로 백업이 더 쉽습니다.
2) 모델 경로 선택: API 또는 로컬
- 호스팅된 API: 가장 빠르게 시작할 수 있습니다. SillyTavern의 API 설정 패널에 API 키를 입력하십시오.
- 로컬 백엔드: 개인 정보 보호 및 제어에 가장 적합합니다. KoboldAI 또는 oobabooga/text-generation-webui와 같은 로컬 서버에 SillyTavern을 연결하십시오.
SillyTavern은 광범위한 API 제공업체 및 로컬 커넥터를 지원하며, 문서에 강점, 제한 사항 및 사용 사례에 대한 참고 사항이 있습니다.
3) API 자격 증명 입력(호스팅된 모델을 사용하는 경우)
- OpenAI, Anthropic, Google({Gemini}) 및 기타 제공업체는 API 키를 SillyTavern의 연결 탭에 붙여넣어 추가할 수 있습니다.
- 팁: 제공업체별 프리셋을 사용하십시오. 모델마다 약간 다른 시스템 프롬프트, 온도 및 페널티에 더 잘 반응합니다.
커뮤니티 보고서에 따르면 Google의 {Gemini}는 Google AI Studio 키로 무료로 사용할 수 있으므로 실험을 위한 비용 효율적인 시작점이 될 수 있습니다.
4) 로컬 LLM에 연결(선택 사항)
- 로컬 백엔드(KoboldAI, text-generation-webui/oobabooga, LM Studio 등)를 시작하고 API 엔드포인트를 제공하는지 확인하십시오.
- SillyTavern에서 해당 커넥터를 선택하고 로컬 URL 및 필요한 매개변수를 입력하십시오.
- 짧은 테스트 메시지를 보내 유효성을 검사하십시오.
5) 캐릭터 만들기 또는 가져오기
- 캐릭터 → 새로 만들기를 클릭하여 처음부터 빌드하거나 라이브러리에서 캐릭터 카드(PNG/JSON)를 가져옵니다.
- 페르소나, 설명, 샘플 대화 및 정의 필드를 채우십시오. 특징이 구체적일수록 RP 일관성이 향상됩니다.
6) 채팅 시작
- 캐릭터와 모델을 선택한 다음 첫 번째 메시지를 작성하십시오.
- “장면을 설정해 보겠습니다: .”와 같이 부드럽게 시작하십시오.
- 로컬 {Llama} 기반 모델: 비공개, 사용자 정의 가능. 품질은 양자화 및 미세 조정에 따라 다릅니다.
- KoboldAI/oobabooga 스택: 추론, 프롬프트 형식 및 확장에 대한 심층적인 제어.
SillyTavern의 API 연결 가이드에는 지원되는 제공업체 및 주의 사항이 한 곳에 요약되어 있습니다.
캐릭터 제작: 캐릭터를 유지하는 개성 구축
훌륭한 세션은 훌륭한 캐릭터 카드에서 시작됩니다.
- 페르소나: 정체성, 역할, 목소리에 대한 2~4 문장.
- 배경: 형성 역사에 대한 3~5개의 글머리 기호. 완전한 타임라인은 피하십시오.
- 목표 및 경계: 캐릭터가 원하는 것과 넘지 않을 선을 명확히 하십시오.
- 말투: 관용구나 특이한 점에 대한 몇 가지 예를 추가하십시오.
- 샘플 대화: 어조, 속도 및 감정 범위를 강조하는 3가지 교환.
전문가 팁: 모델이 지속적인 알림 없이 설명적으로 유지되도록 환경 앵커(예: "도시에는 비와 오래된 네온 불빛 냄새가 난다")를 추가하십시오.
확장 프로그램, 플러그인 및 강력한 기능
SillyTavern에는 기능을 확장하는 추가 기능 생태계가 있습니다.
- 메모리 및 로어북: 트리거가 감지되면 주요 사실을 자동으로 삽입합니다.
- 세계/스토리 도구: 장면 템플릿, NPC 명단 및 이벤트 프롬프트.
- TTS/STT: 텍스트 음성 변환 및 음성 텍스트 변환으로 세션을 음성 지원하십시오.
- 이미지 후크: 일부 커넥터는 이미지 프롬프트/응답을 지원합니다(모델에 따라 다름).
- 자동화: 반복되는 내러티브 비트 또는 서식 지정을 위한 매크로.
고급 통합을 활성화하기 전에 제공업체별 기능, 프롬프트 형식 및 속도 제한 참고 사항에 대한 문서를 확인하십시오.
안전, 필터 및 경계
- 모델 정책: API 모델(예: Anthropic, Google)은 특정 콘텐츠 유형에 영향을 줄 수 있는 안전 규칙을 적용합니다. 이에 따라 창의적인 목표를 조정하십시오.
- 로컬 제어: 로컬 모델은 더 많은 자유를 제공하지만 더 많은 책임도 따릅니다. 개인적인 경계와 콘텐츠 태그를 미리 설정하십시오.
- 세션 위생: 콘텐츠 경고, 옵트인 장면 및 명확한 전환을 사용하십시오. 뭔가 빗나가면 요약하고, 분위기를 재설정하고, 시나리오를 다시 고정하십시오.
문제 해결: 일반적인 문제에 대한 빠른 수정
- 모델이 반복되거나 루프됩니다. 반복 페널티를 늘리고 온도를 약간 낮추고 메모리에 더 많은 근거 사실을 추가하십시오.
- 캐릭터에서 벗어난 응답: 캐릭터의 정의를 강화하고 2~3개의 샘플 대화를 추가하십시오. 시스템 프롬프트를 강화하십시오.
- 비용 급증(API 사용): 컨텍스트 길이를 줄이고, 더 짧은 응답을 활성화하고, 주기적으로 요약하거나, 필러 장면에 더 저렴한 모델로 전환하십시오.
- 로컬 모델이 느립니다. 더 작은 양자화를 시도하고, GPU 가속을 활성화하거나, 최대 토큰 수를 줄이십시오.
- 연결 오류: 제공업체 URL, 키 유효성 및 모델 이름을 다시 확인하십시오. 정확한 매개변수는 API 연결 페이지를 참조하십시오.
10분 시작 워크플로(복사)
- 제공업체를 선택하십시오(예: 저렴한 테스트를 위한 {Gemini} 또는 장편 스토리를 위한 Claude).
- 페르소나, 배경 글머리 기호 및 3개의 샘플 대화가 있는 캐릭터를 만드십시오.
- 온도를 0.8, Top-p 0.9, 반복 페널티 중간으로 설정하십시오.
- 작은 메모리 북을 추가하십시오: 설정, 관계, 활성 목표.
- 명확한 장면 설정과 원하는 분위기로 채팅을 시작하십시오.
- 10개의 메시지 후 채팅을 내보내고 두 가지 개선 사항을 적어 캐릭터 카드를 업데이트하십시오.
이 루프를 반복하면 일관성이 크게 향상되는 것을 볼 수 있습니다.
모델별 팁(치트 시트)
- OpenAI: 간결한 시스템 프롬프트를 좋아합니다. 번호가 매겨진 단계로 지침을 명확하게 지정하십시오.
- Claude: 여러 단락의 요약을 좋아합니다. 내러티브 연속성 및 요약에 좋습니다.
- {Gemini}: 구조화된 프롬프트와 명시적인 제약 조건에서 잘 작동합니다. 무료 티어 할당량을 확인하십시오.
- 로컬 {Llama}: 지시 조정된 변형을 사용하십시오. 속도/품질에 대해 2~3개의 양자화를 테스트하십시오.
백업, 내보내기 및 구성
- 로어의 교차 오염을 방지하기 위해 "유니버스"별로 별도의 폴더를 사용하십시오.
- 채팅을 정기적으로(JSON/HTML) 내보내고 캐릭터 카드의 스냅샷을 찍으십시오.
- 샘플링 설정, 모델 버전 및 주목할만한 세션을 기록하는 "메타" 문서를 보관하십시오.
SillyTavern 외부에서 캐릭터 바이오, 장면 개요 또는 로어 스니펫을 작성하는 경우 사이드바 지원 도구를 사용하면 빠르게 반복할 수 있습니다. 덧붙여서, Sider.AI의 브라우저 내 지원 도구는 긴 대본을 요약하고, 캐릭터의 특이한 점을 제안하거나, 장면 시드를 생성한 다음 결과를 SillyTavern에 직접 붙여넣을 수 있습니다. 월드 빌딩 및 프롬프트 다듬기를 위한 편리한 사전 제작 도구입니다. 주요 내용
- 단순하게 시작하십시오. 하나의 제공업체, 하나의 캐릭터 및 작은 메모리 북을 선택하십시오.
- 제어가 핵심입니다. 시스템 프롬프트, 샘플링 및 메모리는 일관성을 형성합니다.
- 내러티브 길이, 비용, 창의성 또는 개인 정보 보호를 기준으로 모델을 선택하십시오.
- 반복하십시오. 캐릭터 카드와 프리셋을 내보내고, 검토하고, 개선하십시오.
리소스
- SillyTavern API 연결 개요: 지원되는 제공업체, 제한 사항 및 참고 사항.
- {Gemini}와 같은 최고의 모델과 무료/저렴한 옵션에 대한 커뮤니티 토론.
- 롤플레잉 및 채팅을 위한 LLM 프론트엔드로서의 SillyTavern에 대한 GitHub 개요.
FAQ
Q1:SillyTavern을 OpenAI, Claude 또는 {Gemini}에 어떻게 연결합니까?
SillyTavern의 API 설정을 열고 각 제공업체의 API 키를 붙여넣은 다음 모델 이름을 선택하고 저장하십시오. 공식 API 연결 가이드에는 설정해야 할 수 있는 지원되는 제공업체 및 매개변수가 나열되어 있습니다.
Q2:SillyTavern을 {Llama}와 같은 로컬 모델과 함께 사용할 수 있습니까?
예. KoboldAI 또는 oobabooga/text-generation-webui와 같은 로컬 백엔드를 실행한 다음 SillyTavern을 로컬 서버 URL로 연결하십시오. 백엔드가 API 엔드포인트를 노출하고 호환되는 지시 조정된 모델을 사용하고 있는지 확인하십시오.
Q3:SillyTavern에서 롤플레잉 일관성을 향상시키는 설정은 무엇입니까?
시스템 프롬프트를 개선하고, 캐릭터 카드에 샘플 대화를 추가하고, 사실 및 관계에 대한 작은 메모리 북을 사용하십시오. 창의성과 일관성의 균형을 맞추기 위해 온도, Top-p 및 반복 페널티를 조정하십시오.
Q4:SillyTavern에서 장편 스토리텔링에 가장 적합한 모델은 무엇입니까?
Claude 모델은 긴 컨텍스트 내러티브 일관성에 강하고 OpenAI 및 {Gemini}는 다재다능하며 일반 채팅에 비용 효율적입니다. 로컬 {Llama} 모델은 조정에 익숙하다면 개인 정보 보호에 좋습니다.
Q5:SillyTavern에서 API 모델로 토큰 비용을 어떻게 줄일 수 있습니까?
컨텍스트 길이를 줄이고, 간결한 응답을 활성화하고, 주기적으로 아크를 요약하십시오. 필러 장면에 더 저렴한 모델로 전환하고 중요한 순간에 프리미엄 모델을 유지할 수도 있습니다.
