How do I connect SillyTavern to OpenAI, Claude, or Gemini?

Open SillyTavern’s API settings and paste your API keys for each provider, then select the model name and save. The official API connections guide lists supported providers and parameters you may need to set.

Can I use SillyTavern with a local model like Llama?

Yes. Run a local backend such as KoboldAI or oobabooga/text-generation-webui, then point SillyTavern to the local server URL. Make sure the backend exposes an API endpoint and is using a compatible instruct-tuned model.

What settings improve roleplay consistency in SillyTavern?

Refine the system prompt, add sample dialogue to the character card, and use a small memory book for facts and relationships. Tune temperature, Top‑p, and repetition penalties to balance creativity and coherence.

Which model is best for long-form storytelling in SillyTavern?

Claude models are strong for long-context narrative coherence, while OpenAI and Gemini are versatile and cost-effective for general chat. Local Llama models are great for privacy if you’re comfortable tuning them.

How do I reduce token costs with API models in SillyTavern?

Shorten context length, enable concise replies, and summarize arcs periodically. You can also switch to lower-cost models for filler scenes and keep premium models for pivotal moments.

Hướng dẫn sử dụng SillyTavern: Hướng dẫn thực tế về Thiết lập, Mô hình và các Tính năng RP Nâng cao

Chắc hẳn bạn đã nghe nói về nó: SillyTavern là một trong những giao diện người dùng (front-end) linh hoạt nhất để nhập vai và trò chuyện với các mô hình ngôn ngữ lớn. Nhưng bạn nên bắt đầu từ đâu, nên sử dụng mô hình nào và làm thế nào để mở khóa các tính năng tốt nhất của nó mà không làm hỏng thứ gì đó? Hướng dẫn này sẽ hướng dẫn bạn từng bước—không lan man, chỉ đi theo một lộ trình thực tế, tập trung vào giải pháp từ cài đặt đến các phiên bản chuyên nghiệp.

SillyTavern là gì—và tại sao nên sử dụng nó?

SillyTavern là một giao diện người dùng mạnh mẽ, có thể tùy chỉnh để tương tác với LLM—cả API được lưu trữ và các mô hình cục bộ. Hãy coi nó như phòng điều khiển của bạn để trò chuyện nhập vai, nhập vai nhân vật, xây dựng thế giới và cộng tác trong câu chuyện. Nó kết nối với các API như OpenAI, Anthropic và Google hoặc với các backend cục bộ như KoboldAI và oobabooga/text-generation-webui (TGI/ExLlama, v.v.), cho phép bạn tinh chỉnh rung cảm, bộ nhớ và phong cách của các phiên của mình. Nó được thiết kế để dễ tiếp cận nhưng vẫn chuyên sâu, với các tính năng như thẻ nhân vật, bộ nhớ dài hạn, tiện ích mở rộng và các điều khiển chi tiết cho lời nhắc và lấy mẫu.

Thiết lập nhanh: Từ con số không đến cuộc trò chuyện đầu tiên

Hãy làm theo quy trình hợp lý này. Bạn có thể xem lại các cài đặt nâng cao sau khi đã quen.

1) Cài đặt và Khởi chạy

Sao chép (Clone) hoặc tải xuống SillyTavern từ kho lưu trữ GitHub của nó (hoặc một nhánh được duy trì) và làm theo tập lệnh khởi động đi kèm cho HĐH của bạn. Trên Windows, bạn thường chạy start.bat để khởi chạy máy chủ web cục bộ; trên macOS/Linux, tập lệnh start.sh là phổ biến.

Mở URL cục bộ hiển thị trong terminal (thường là ` hoặc cổng mà SillyTavern in ra) để truy cập giao diện người dùng.

Mẹo: Giữ cho thư mục SillyTavern của bạn gọn gàng—thẻ nhân vật, cài đặt trước và tiện ích mở rộng nằm trong các thư mục con có thể đoán trước được, giúp sao lưu dễ dàng hơn.

2) Chọn Đường dẫn Mô hình của bạn: API hoặc Cục bộ

API được lưu trữ: Bắt đầu nhanh nhất; nhập khóa API của bạn vào bảng cài đặt API của SillyTavern.

Backend cục bộ: Tốt nhất cho quyền riêng tư và khả năng kiểm soát; kết nối SillyTavern với máy chủ cục bộ như KoboldAI hoặc oobabooga/text-generation-webui.

SillyTavern hỗ trợ nhiều nhà cung cấp API và trình kết nối cục bộ, với các ghi chú về điểm mạnh, giới hạn và trường hợp sử dụng trong tài liệu.

3) Nhập Thông tin xác thực API (Nếu sử dụng Mô hình được lưu trữ)

OpenAI, Anthropic, Google (Gemini) và các nhà cung cấp khác có thể được thêm bằng cách dán khóa API vào tab kết nối của SillyTavern.

Mẹo: Sử dụng cài đặt trước cho mỗi nhà cung cấp; các mô hình khác nhau phản hồi tốt hơn với các lời nhắc hệ thống, nhiệt độ và hình phạt hơi khác nhau.

Các báo cáo từ cộng đồng lưu ý rằng Gemini của Google có thể được sử dụng miễn phí với khóa Google AI Studio, khiến nó trở thành một điểm khởi đầu tiết kiệm chi phí để thử nghiệm.

4) Kết nối với LLM cục bộ (Tùy chọn)

Khởi động backend cục bộ của bạn (KoboldAI, text-generation-webui/oobabooga, LM Studio, v.v.) và xác minh rằng nó đang phục vụ một điểm cuối API.

Trong SillyTavern, hãy chọn trình kết nối tương ứng và nhập URL cục bộ cùng với bất kỳ tham số cần thiết nào.

Xác thực bằng cách gửi một tin nhắn kiểm tra ngắn.

5) Tạo hoặc Nhập Nhân vật

Nhấp vào Characters → New để xây dựng từ đầu hoặc nhập thẻ nhân vật (PNG/JSON) từ thư viện của bạn.

Điền vào các trường persona, description, sample dialogue và definition. Càng cụ thể về đặc điểm của nhân vật, tính nhất quán của RP càng tốt.

6) Bắt đầu trò chuyện

Chọn nhân vật và mô hình của bạn, sau đó viết tin nhắn đầu tiên.

Sử dụng một câu mở đầu nhẹ nhàng như: “Hãy thiết lập bối cảnh: .

Mô hình dựa trên Llama cục bộ: Riêng tư, có thể tùy chỉnh; chất lượng phụ thuộc vào lượng tử hóa và tinh chỉnh.

Các stack KoboldAI/oobabooga: Kiểm soát sâu sắc đối với suy luận, định dạng lời nhắc và tiện ích mở rộng.

Hướng dẫn kết nối API của SillyTavern trình bày các nhà cung cấp được hỗ trợ và các cảnh báo ở một nơi.

Xây dựng Nhân vật: Xây dựng Tính cách Luôn Giữ Vững Nhân vật

Một phiên tuyệt vời bắt đầu với một thẻ nhân vật tuyệt vời.

Persona: 2–4 câu về danh tính, vai trò, giọng nói.

Backstory (Tiểu sử): 3–5 gạch đầu dòng về lịch sử hình thành; tránh dòng thời gian đầy đủ.

Goals and Boundaries (Mục tiêu và Giới hạn): Làm rõ mong muốn và những giới hạn mà nhân vật sẽ không vượt qua.

Speech Patterns (Mô hình lời nói): Thêm một vài ví dụ về thành ngữ hoặc đặc điểm kỳ quặc.

Sample Dialogue (Hội thoại mẫu): 3 cuộc trao đổi làm nổi bật giọng điệu, nhịp độ và phạm vi cảm xúc.

Mẹo chuyên nghiệp: Thêm các neo môi trường (ví dụ: “thành phố có mùi mưa và đèn neon cũ”) để giữ cho mô hình mang tính mô tả mà không cần nhắc nhở liên tục.

Tiện ích mở rộng, Plugin và các Tính năng Mạnh mẽ

SillyTavern có một hệ sinh thái các tiện ích bổ sung mở rộng khả năng của nó:

Memory and Lorebooks (Bộ nhớ và Sách Lore): Tự động chèn các sự kiện chính khi phát hiện thấy các kích hoạt.

World/Story Tools (Công cụ Thế giới/Câu chuyện): Mẫu cảnh, danh sách NPC và lời nhắc sự kiện.

TTS/STT: Bật giọng nói cho các phiên của bạn bằng chuyển văn bản thành giọng nói và chuyển giọng nói thành văn bản.

Image Hooks (Móc hình ảnh): Một số trình kết nối hỗ trợ lời nhắc/phản hồi hình ảnh (tùy thuộc vào mô hình).

Automation (Tự động hóa): Macro cho các nhịp tường thuật định kỳ hoặc định dạng.

Kiểm tra tài liệu để biết các tính năng dành riêng cho nhà cung cấp, định dạng lời nhắc và ghi chú về giới hạn tỷ lệ trước khi bật tích hợp nâng cao.

An toàn, Bộ lọc và Ranh giới

Model Policies (Chính sách Mô hình): Các mô hình API (ví dụ: Anthropic, Google) thực thi các quy tắc an toàn có thể ảnh hưởng đến một số loại nội dung nhất định. Điều chỉnh mục tiêu sáng tạo của bạn cho phù hợp.

Local Control (Kiểm soát Cục bộ): Các mô hình cục bộ cho bạn nhiều quyền tự do hơn nhưng cũng có nhiều trách nhiệm hơn—đặt ranh giới cá nhân và thẻ nội dung trước.

Session Hygiene (Vệ sinh Phiên): Sử dụng cảnh báo nội dung, cảnh chọn tham gia và chuyển đổi rõ ràng. Nếu có điều gì đó đi chệch hướng, hãy tóm tắt, đặt lại tông giọng và neo lại kịch bản.

Khắc phục sự cố: Các bản sửa lỗi nhanh cho các sự cố thường gặp

Mô hình lặp lại hoặc tạo vòng lặp: Tăng hình phạt lặp lại, giảm nhẹ nhiệt độ, thêm nhiều sự kiện cơ bản hơn vào bộ nhớ.

Phản hồi ngoài nhân vật: Củng cố định nghĩa của nhân vật và thêm 2–3 đoạn hội thoại mẫu; thắt chặt lời nhắc hệ thống.

Chi phí tăng đột biến (Sử dụng API): Giảm độ dài ngữ cảnh, bật trả lời ngắn hơn, tóm tắt định kỳ hoặc chuyển sang mô hình chi phí thấp hơn cho các cảnh đệm.

Mô hình cục bộ chạy chậm: Hãy thử một lượng tử hóa nhỏ hơn, bật tăng tốc GPU hoặc giảm số lượng token tối đa.

Lỗi kết nối: Kiểm tra lại URL của nhà cung cấp, tính hợp lệ của khóa và tên mô hình. Tham khảo trang kết nối API để biết các tham số chính xác.

Quy trình làm việc dành cho người mới bắt đầu trong 10 phút (Sao chép cái này)

Chọn một nhà cung cấp (ví dụ: Gemini cho các thử nghiệm chi phí thấp hoặc Claude cho các cung truyện dài).

Tạo một nhân vật có persona, các gạch đầu dòng về tiểu sử và 3 đoạn hội thoại mẫu.

Đặt nhiệt độ thành 0,8, Top‑p 0,9, hình phạt lặp lại ở mức trung bình.

Thêm một cuốn sách bộ nhớ nhỏ: bối cảnh, mối quan hệ, mục tiêu hoạt động.

Bắt đầu cuộc trò chuyện với một thiết lập cảnh rõ ràng và tông giọng mong muốn.

Sau 10 tin nhắn, hãy xuất cuộc trò chuyện, ghi lại hai điểm cải tiến và cập nhật thẻ nhân vật.

Lặp lại vòng lặp này và bạn sẽ thấy sự nhất quán tăng lên đáng kể.

Mẹo dành riêng cho Mô hình (Tài liệu Tham khảo Nhanh)

OpenAI: Thích lời nhắc hệ thống ngắn gọn; định dạng hướng dẫn rõ ràng với các bước được đánh số.

Claude: Phát triển mạnh nhờ các bản tóm tắt nhiều đoạn văn; tuyệt vời cho tính liên tục và tóm tắt tường thuật.

Gemini: Hoạt động tốt với các lời nhắc có cấu trúc và các ràng buộc rõ ràng; kiểm tra hạn ngạch cấp miễn phí.

Local Llama: Sử dụng các biến thể được điều chỉnh theo hướng dẫn; kiểm tra 2–3 lượng tử hóa để có tốc độ/chất lượng.

Sao lưu, Xuất và Tổ chức

Sử dụng các thư mục riêng biệt cho mỗi "vũ trụ" để ngăn chặn sự lây nhiễm chéo của lore.

Xuất các cuộc trò chuyện thường xuyên (JSON/HTML) và chụp nhanh thẻ nhân vật của bạn.

Giữ một tài liệu "meta" ghi lại các cài đặt lấy mẫu, phiên bản mô hình và các phiên đáng chú ý.

Đáng chú ý: Tăng tốc Quy trình làm việc của bạn với Sider.AI

Nếu bạn phác thảo tiểu sử nhân vật, phác thảo cảnh hoặc đoạn trích lore bên ngoài SillyTavern, một trợ lý thanh bên có thể giúp bạn lặp lại nhanh chóng. Nhân tiện, trợ lý trong trình duyệt của Sider.AI có thể tóm tắt các bản ghi dài, đề xuất những đặc điểm kỳ quặc của nhân vật hoặc tạo các seed cảnh, sau đó bạn có thể dán kết quả trực tiếp vào SillyTavern. Đó là một người bạn đồng hành tiền sản xuất tiện dụng để xây dựng thế giới và đánh bóng lời nhắc.

Những điểm chính

Bắt đầu đơn giản: chọn một nhà cung cấp, một nhân vật và một cuốn sách bộ nhớ nhỏ.

Kiểm soát là vua: lời nhắc hệ thống, lấy mẫu và bộ nhớ định hình tính nhất quán.

Chọn mô hình theo mục tiêu: độ dài tường thuật, chi phí, khả năng sáng tạo hoặc quyền riêng tư.

Lặp lại: xuất, xem xét và tinh chỉnh thẻ nhân vật và cài đặt trước của bạn.

Tài nguyên

Tổng quan về Kết nối API SillyTavern: các nhà cung cấp, giới hạn và ghi chú được hỗ trợ.

Thảo luận của cộng đồng về các mô hình tốt nhất và các tùy chọn miễn phí/chi phí thấp như Gemini.

Tổng quan về GitHub về SillyTavern như một frontend LLM để nhập vai và trò chuyện.

Câu hỏi thường gặp

Q1:Làm cách nào để kết nối SillyTavern với OpenAI, Claude hoặc Gemini? Mở cài đặt API của SillyTavern và dán khóa API của bạn cho từng nhà cung cấp, sau đó chọn tên mô hình và lưu. Hướng dẫn kết nối API chính thức liệt kê các nhà cung cấp và tham số được hỗ trợ mà bạn có thể cần đặt.

Q2:Tôi có thể sử dụng SillyTavern với một mô hình cục bộ như Llama không? Có. Chạy một backend cục bộ như KoboldAI hoặc oobabooga/text-generation-webui, sau đó trỏ SillyTavern đến URL máy chủ cục bộ. Đảm bảo rằng backend hiển thị một điểm cuối API và đang sử dụng một mô hình được điều chỉnh theo hướng dẫn tương thích.

Q3:Những cài đặt nào cải thiện tính nhất quán của vai diễn trong SillyTavern? Tinh chỉnh lời nhắc hệ thống, thêm đoạn hội thoại mẫu vào thẻ nhân vật và sử dụng một cuốn sách bộ nhớ nhỏ cho các sự kiện và mối quan hệ. Điều chỉnh nhiệt độ, Top‑p và hình phạt lặp lại để cân bằng khả năng sáng tạo và tính mạch lạc.

Q4:Mô hình nào tốt nhất để kể chuyện dài trong SillyTavern? Các mô hình Claude rất mạnh mẽ để có sự mạch lạc trong tường thuật theo ngữ cảnh dài, trong khi OpenAI và Gemini linh hoạt và tiết kiệm chi phí cho các cuộc trò chuyện chung. Các mô hình Llama cục bộ rất tốt cho quyền riêng tư nếu bạn cảm thấy thoải mái khi điều chỉnh chúng.

Q5:Làm cách nào để giảm chi phí token với các mô hình API trong SillyTavern? Rút ngắn độ dài ngữ cảnh, bật trả lời ngắn gọn và tóm tắt các cung định kỳ. Bạn cũng có thể chuyển sang các mô hình chi phí thấp hơn cho các cảnh đệm và giữ các mô hình cao cấp cho những khoảnh khắc then chốt.