ಸಿಲ್ಲಿಟಾವೆರ್ನ್ ಅನ್ನು ಹೇಗೆ ಬಳಸುವುದು: ಸ್ಥಾಪನೆ, ಮಾದರಿಗಳು ಮತ್ತು ಸುಧಾರಿತ ಆರ್ಪಿ ವೈಶಿಷ್ಟ್ಯಗಳಿಗೆ ಒಂದು ಪ್ರಾಯೋಗಿಕ ಮಾರ್ಗದರ್ಶಿ
ನೀವು ಕೇಳಿರಬಹುದು: ಸಿಲ್ಲಿಟಾವೆರ್ನ್ ದೊಡ್ಡ ಭಾಷಾ ಮಾದರಿಗಳೊಂದಿಗೆ (large language models) ಪಾತ್ರಾಭಿನಯ ಮತ್ತು ಚಾಟ್ ಮಾಡಲು ಅತ್ಯಂತ ಹೊಂದಿಕೊಳ್ಳುವ ಫ್ರಂಟ್-ಎಂಡ್ ಆಗಿದೆ. ಆದರೆ ನೀವು ಎಲ್ಲಿಂದ ಪ್ರಾರಂಭಿಸಬೇಕು, ಯಾವ ಮಾದರಿಗಳನ್ನು ಬಳಸಬೇಕು ಮತ್ತು ಏನನ್ನೂ ಮುರಿಯದೆ ಅದರ ಅತ್ಯುತ್ತಮ ವೈಶಿಷ್ಟ್ಯಗಳನ್ನು ಹೇಗೆ ಅನ್ಲಾಕ್ ಮಾಡುವುದು? ಈ ಮಾರ್ಗದರ್ಶಿಯು ಅನುಸ್ಥಾಪನೆಯಿಂದ ಹಿಡಿದು ಪ್ರೊ-ಮಟ್ಟದ ಸೆಷನ್ಗಳವರೆಗೆ ಹಂತ ಹಂತವಾಗಿ ನಿಮಗೆ ತಿಳಿಸುತ್ತದೆ—ಯಾವುದೇ ಅನಗತ್ಯ ವಿಷಯವಿಲ್ಲ, ಕೇವಲ ಪ್ರಾಯೋಗಿಕ, ಪರಿಹಾರ-ಆಧಾರಿತ ಮಾರ್ಗ.
ಸಿಲ್ಲಿಟಾವೆರ್ನ್ ಎಂದರೇನು—ಮತ್ತು ಅದನ್ನು ಏಕೆ ಬಳಸಬೇಕು?
ಸಿಲ್ಲಿಟಾವೆರ್ನ್ LLM ಗಳೊಂದಿಗೆ ಸಂವಹನ ನಡೆಸಲು ಪ್ರಬಲವಾದ, ಗ್ರಾಹಕೀಯಗೊಳಿಸಬಹುದಾದ UI ಆಗಿದೆ—ಇದು ಹೋಸ್ಟ್ ಮಾಡಿದ API ಗಳು ಮತ್ತು ಸ್ಥಳೀಯ ಮಾದರಿಗಳನ್ನು ಒಳಗೊಂಡಿದೆ. ತಲ್ಲೀನಗೊಳಿಸುವ ಚಾಟ್, ಪಾತ್ರಾಭಿನಯ, ಜಗತ್ತನ್ನು ನಿರ್ಮಿಸುವುದು ಮತ್ತು ಕಥೆಗಳ ಸಹಯೋಗಕ್ಕಾಗಿ ಇದನ್ನು ನಿಮ್ಮ ನಿಯಂತ್ರಣ ಕೊಠಡಿ ಎಂದು ತಿಳಿಯಿರಿ. ಇದು OpenAI, Anthropic, ಮತ್ತು Google ನಂತಹ API ಗಳಿಗೆ ಅಥವಾ KoboldAI ಮತ್ತು oobabooga/text-generation-webui (TGI/ExLlama, ಇತ್ಯಾದಿ) ನಂತಹ ಸ್ಥಳೀಯ ಬ್ಯಾಕೆಂಡ್ಗಳಿಗೆ ಸಂಪರ್ಕಿಸುತ್ತದೆ, ನಿಮ್ಮ ಸೆಷನ್ಗಳ ವೈಬ್, ಮೆಮೊರಿ ಮತ್ತು ಶೈಲಿಯನ್ನು ಉತ್ತಮಗೊಳಿಸಲು ನಿಮಗೆ ಅನುವು ಮಾಡಿಕೊಡುತ್ತದೆ. ಇದು ಪಾತ್ರದ ಕಾರ್ಡ್ಗಳು, ದೀರ್ಘಕಾಲೀನ ಮೆಮೊರಿ, ವಿಸ್ತರಣೆಗಳು ಮತ್ತು ಪ್ರಾಂಪ್ಟ್ಗಳು ಮತ್ತು ಸ್ಯಾಂಪ್ಲಿಂಗ್ಗಾಗಿ ವಿವರವಾದ ನಿಯಂತ್ರಣಗಳಂತಹ ವೈಶಿಷ್ಟ್ಯಗಳೊಂದಿಗೆ ಆಕರ್ಷಕವಾಗಿರುವಂತೆ ವಿನ್ಯಾಸಗೊಳಿಸಲಾಗಿದೆ.
ತ್ವರಿತ ಸೆಟಪ್: ಶೂನ್ಯದಿಂದ ಮೊದಲ ಚಾಟ್ಗೆ
ಈ ಸರಳೀಕೃತ ಹರಿವನ್ನು ಅನುಸರಿಸಿ. ಒಮ್ಮೆ ನೀವು ಆರಾಮದಾಯಕವಾದ ನಂತರ ಸುಧಾರಿತ ಸೆಟ್ಟಿಂಗ್ಗಳನ್ನು ನಂತರ ಮರುಪರಿಶೀಲಿಸಬಹುದು.
1) ಸ್ಥಾಪಿಸಿ ಮತ್ತು ಪ್ರಾರಂಭಿಸಿ
- GitHub ರೆಪೊಸಿಟರಿಯಿಂದ (ಅಥವಾ ನಿರ್ವಹಿಸಲ್ಪಡುವ ಫೋರ್ಕ್) ಸಿಲ್ಲಿಟಾವೆರ್ನ್ ಅನ್ನು ಕ್ಲೋನ್ ಮಾಡಿ ಅಥವಾ ಡೌನ್ಲೋಡ್ ಮಾಡಿ ಮತ್ತು ನಿಮ್ಮ OS ಗಾಗಿ ಒಳಗೊಂಡಿರುವ ಸ್ಟಾರ್ಟ್ಅಪ್ ಸ್ಕ್ರಿಪ್ಟ್ ಅನ್ನು ಅನುಸರಿಸಿ. ವಿಂಡೋಸ್ನಲ್ಲಿ, ಸ್ಥಳೀಯ ವೆಬ್ ಸರ್ವರ್ ಅನ್ನು ಪ್ರಾರಂಭಿಸಲು ನೀವು ಸಾಮಾನ್ಯವಾಗಿ
start.bat ಅನ್ನು ರನ್ ಮಾಡುತ್ತೀರಿ; macOS/Linux ನಲ್ಲಿ, start.sh ಸ್ಕ್ರಿಪ್ಟ್ ಸಾಮಾನ್ಯವಾಗಿದೆ.
- UI ಅನ್ನು ಪ್ರವೇಶಿಸಲು ಟರ್ಮಿನಲ್ನಲ್ಲಿ ತೋರಿಸಿರುವ ಸ್ಥಳೀಯ URL ಅನ್ನು ತೆರೆಯಿರಿ (ಸಾಮಾನ್ಯವಾಗಿ ` ಅಥವಾ ಸಿಲ್ಲಿಟಾವೆರ್ನ್ ಮುದ್ರಿಸುವ ಪೋರ್ಟ್).
ಸಲಹೆ: ನಿಮ್ಮ ಸಿಲ್ಲಿಟಾವೆರ್ನ್ ಫೋಲ್ಡರ್ ಅನ್ನು ಅಚ್ಚುಕಟ್ಟಾಗಿ ಇಟ್ಟುಕೊಳ್ಳಿ—ಪಾತ್ರದ ಕಾರ್ಡ್ಗಳು, ಪ್ರಿಸೆಟ್ಗಳು ಮತ್ತು ವಿಸ್ತರಣೆಗಳು ಊಹಿಸಬಹುದಾದ ಉಪಫೋಲ್ಡರ್ಗಳಲ್ಲಿ ಇರುತ್ತವೆ, ಇದು ಬ್ಯಾಕಪ್ಗಳನ್ನು ಸುಲಭಗೊಳಿಸುತ್ತದೆ.
2) ನಿಮ್ಮ ಮಾದರಿ ಮಾರ್ಗವನ್ನು ಆಯ್ಕೆಮಾಡಿ: API ಅಥವಾ ಸ್ಥಳೀಯ
- ಹೋಸ್ಟ್ ಮಾಡಿದ API: ಪ್ರಾರಂಭಿಸಲು ವೇಗವಾದದ್ದು; ಸಿಲ್ಲಿಟಾವೆರ್ನ್ನ API ಸೆಟ್ಟಿಂಗ್ಗಳ ಫಲಕದಲ್ಲಿ ನಿಮ್ಮ API ಕೀಲಿಯನ್ನು ನಮೂದಿಸಿ.
- ಸ್ಥಳೀಯ ಬ್ಯಾಕೆಂಡ್: ಗೌಪ್ಯತೆ ಮತ್ತು ನಿಯಂತ್ರಣಕ್ಕೆ ಉತ್ತಮ; KoboldAI ಅಥವಾ oobabooga/text-generation-webui ನಂತಹ ಸ್ಥಳೀಯ ಸರ್ವರ್ಗೆ ಸಿಲ್ಲಿಟಾವೆರ್ನ್ ಅನ್ನು ಸಂಪರ್ಕಿಸಿ.
ಸಿಲ್ಲಿಟಾವೆರ್ನ್ ವ್ಯಾಪಕ ಶ್ರೇಣಿಯ API ಪೂರೈಕೆದಾರರು ಮತ್ತು ಸ್ಥಳೀಯ ಕನೆಕ್ಟರ್ಗಳನ್ನು ಬೆಂಬಲಿಸುತ್ತದೆ, ದಾಖಲೆಗಳಲ್ಲಿ ಸಾಮರ್ಥ್ಯಗಳು, ಮಿತಿಗಳು ಮತ್ತು ಬಳಕೆಯ ಸಂದರ್ಭಗಳ ಕುರಿತು ಟಿಪ್ಪಣಿಗಳು ಲಭ್ಯವಿದೆ.
3) API ರುಜುವಾತುಗಳನ್ನು ನಮೂದಿಸಿ (ಹೋಸ್ಟ್ ಮಾಡಿದ ಮಾದರಿಗಳನ್ನು ಬಳಸುತ್ತಿದ್ದರೆ)
- OpenAI, Anthropic, Google (Gemini) ಮತ್ತು ಇತರವುಗಳನ್ನು ಸಿಲ್ಲಿಟಾವೆರ್ನ್ನ ಸಂಪರ್ಕಗಳ ಟ್ಯಾಬ್ಗೆ API ಕೀಗಳನ್ನು ಅಂಟಿಸುವ ಮೂಲಕ ಸೇರಿಸಬಹುದು.
- ಸಲಹೆ: ಪೂರೈಕೆದಾರರಿಗೆ ಅನುಗುಣವಾಗಿ ಪ್ರಿಸೆಟ್ಗಳನ್ನು ಬಳಸಿ; ವಿಭಿನ್ನ ಮಾದರಿಗಳು ಸ್ವಲ್ಪ ವಿಭಿನ್ನ ಸಿಸ್ಟಮ್ ಪ್ರಾಂಪ್ಟ್ಗಳು, ತಾಪಮಾನ ಮತ್ತು ದಂಡಗಳಿಗೆ ಉತ್ತಮವಾಗಿ ಪ್ರತಿಕ್ರಿಯಿಸುತ್ತವೆ.
Google ನ Gemini ಅನ್ನು Google AI Studio ಕೀಲಿಯೊಂದಿಗೆ ಉಚಿತವಾಗಿ ಬಳಸಬಹುದು ಎಂದು ಸಮುದಾಯ ವರದಿಗಳು ಸೂಚಿಸುತ್ತವೆ, ಇದು ಪ್ರಯೋಗಕ್ಕೆ ವೆಚ್ಚ-ಪರಿಣಾಮಕಾರಿ ಆರಂಭಿಕ ಹಂತವಾಗಿದೆ.
4) ಸ್ಥಳೀಯ LLM ಗಳಿಗೆ ಸಂಪರ್ಕಿಸಿ (ಐಚ್ಛಿಕ)
- ನಿಮ್ಮ ಸ್ಥಳೀಯ ಬ್ಯಾಕೆಂಡ್ ಅನ್ನು ಪ್ರಾರಂಭಿಸಿ (KoboldAI, text-generation-webui/oobabooga, LM Studio, ಇತ್ಯಾದಿ) ಮತ್ತು ಅದು API ಎಂಡ್ಪಾಯಿಂಟ್ ಅನ್ನು ಒದಗಿಸುತ್ತಿದೆಯೇ ಎಂದು ಪರಿಶೀಲಿಸಿ.
- ಸಿಲ್ಲಿಟಾವೆರ್ನ್ನಲ್ಲಿ, ಅನುಗುಣವಾದ ಕನೆಕ್ಟರ್ ಅನ್ನು ಆಯ್ಕೆಮಾಡಿ ಮತ್ತು ಸ್ಥಳೀಯ URL ಮತ್ತು ಅಗತ್ಯವಿರುವ ಯಾವುದೇ ನಿಯತಾಂಕಗಳನ್ನು ನಮೂದಿಸಿ.
- ಸಣ್ಣ ಪರೀಕ್ಷಾ ಸಂದೇಶವನ್ನು ಕಳುಹಿಸುವ ಮೂಲಕ ಮೌಲ್ಯೀಕರಿಸಿ.
5) ಒಂದು ಪಾತ್ರವನ್ನು ರಚಿಸಿ ಅಥವಾ ಆಮದು ಮಾಡಿ
- ಮೊದಲಿನಿಂದ ನಿರ್ಮಿಸಲು ಕ್ಯಾರೆಕ್ಟರ್ಸ್ → ನ್ಯೂ ಕ್ಲಿಕ್ ಮಾಡಿ, ಅಥವಾ ನಿಮ್ಮ ಲೈಬ್ರರಿಯಿಂದ ಕ್ಯಾರೆಕ್ಟರ್ ಕಾರ್ಡ್ ಅನ್ನು (PNG/JSON) ಆಮದು ಮಾಡಿ.
- ವ್ಯಕ್ತಿತ್ವ, ವಿವರಣೆ, ಮಾದರಿ ಸಂಭಾಷಣೆ ಮತ್ತು ವ್ಯಾಖ್ಯಾನ ಕ್ಷೇತ್ರಗಳನ್ನು ಭರ್ತಿ ಮಾಡಿ. ಎಷ್ಟು ನಿರ್ದಿಷ್ಟವಾಗಿ ನಿರೂಪಿಸುತ್ತೀರೋ, ಆರ್ಪಿ ಸ್ಥಿರತೆ ಅಷ್ಟೇ ಉತ್ತಮವಾಗಿರುತ್ತದೆ.
6) ಚಾಟ್ ಮಾಡುವುದನ್ನು ಪ್ರಾರಂಭಿಸಿ
- ನಿಮ್ಮ ಪಾತ್ರ ಮತ್ತು ಮಾದರಿಯನ್ನು ಆಯ್ಕೆಮಾಡಿ, ನಂತರ ನಿಮ್ಮ ಮೊದಲ ಸಂದೇಶವನ್ನು ಬರೆಯಿರಿ.
- "ದೃಶ್ಯವನ್ನು ಹೊಂದಿಸೋಣ:. ” ನಂತಹ ಮೃದುವಾದ ಆರಂಭಿಕ ವಾಕ್ಯವನ್ನು ಬಳಸಿ.
- ಸ್ಥಳೀಯ Llama ಆಧಾರಿತ ಮಾದರಿಗಳು: ಖಾಸಗಿ, ಗ್ರಾಹಕೀಯಗೊಳಿಸಬಹುದಾದ; ಗುಣಮಟ್ಟವು ಕ್ವಾಂಟೈಸೇಶನ್ ಮತ್ತು ಫೈನ್-ಟ್ಯೂನ್ ಅನ್ನು ಅವಲಂಬಿಸಿರುತ್ತದೆ.
- KoboldAI/oobabooga ಸ್ಟಾಕ್ಗಳು: ಇನ್ಫರೆನ್ಸ್, ಪ್ರಾಂಪ್ಟ್ ಫಾರ್ಮ್ಯಾಟ್ಗಳು ಮತ್ತು ವಿಸ್ತರಣೆಗಳ ಮೇಲೆ ಆಳವಾದ ನಿಯಂತ್ರಣ.
ಸಿಲ್ಲಿಟಾವೆರ್ನ್ನ API ಸಂಪರ್ಕಗಳ ಮಾರ್ಗದರ್ಶಿಯು ಬೆಂಬಲಿತ ಪೂರೈಕೆದಾರರು ಮತ್ತು ಎಚ್ಚರಿಕೆಗಳನ್ನು ಒಂದೇ ಸ್ಥಳದಲ್ಲಿ ವಿವರಿಸುತ್ತದೆ.
ಪಾತ್ರದ ರಚನೆ: ವ್ಯಕ್ತಿತ್ವಗಳನ್ನು ನಿರ್ಮಿಸುವುದು
ಒಂದು ಉತ್ತಮ ಸೆಷನ್ ಉತ್ತಮ ಕ್ಯಾರೆಕ್ಟರ್ ಕಾರ್ಡ್ನೊಂದಿಗೆ ಪ್ರಾರಂಭವಾಗುತ್ತದೆ.
- ವ್ಯಕ್ತಿತ್ವ: ಗುರುತು, ಪಾತ್ರ, ಧ್ವನಿಯ ಬಗ್ಗೆ 2–4 ವಾಕ್ಯಗಳು.
- ಹಿನ್ನೆಲೆ: ರಚನಾತ್ಮಕ ಇತಿಹಾಸದ 3–5 ಬುಲೆಟ್ ಪಾಯಿಂಟ್ಗಳು; ಸಮಗ್ರ ಟೈಮ್ಲೈನ್ಗಳನ್ನು ತಪ್ಪಿಸಿ.
- ಗುರಿಗಳು ಮತ್ತು ಗಡಿಗಳು: ಪಾತ್ರವು ದಾಟದ ಆಸೆಗಳು ಮತ್ತು ಗೆರೆಗಳನ್ನು ಸ್ಪಷ್ಟಪಡಿಸಿ.
- ಮಾತಿನ ಮಾದರಿಗಳು: ಭಾಷಾವೈಶಿಷ್ಟ್ಯಗಳು ಅಥವಾ ವಿಚಿತ್ರತೆಗಳ ಕೆಲವು ಉದಾಹರಣೆಗಳನ್ನು ಸೇರಿಸಿ.
- ಮಾದರಿ ಸಂಭಾಷಣೆ: ಟೋನ್, ವೇಗ ಮತ್ತು ಭಾವನಾತ್ಮಕ ವ್ಯಾಪ್ತಿಯನ್ನು ಹೈಲೈಟ್ ಮಾಡುವ 3 ವಿನಿಮಯಗಳು.
ಪ್ರೊ ಟಿಪ್: ಪರಿಸರ ಆಂಕರ್ಗಳನ್ನು ಸೇರಿಸಿ (ಉದಾಹರಣೆಗೆ, "ನಗರವು ಮಳೆ ಮತ್ತು ಹಳೆಯ ನಿಯಾನ್ನಂತೆ ವಾಸನೆ ಮಾಡುತ್ತದೆ") ಮಾದರಿಯನ್ನು ನಿರಂತರ ಜ್ಞಾಪನೆಗಳಿಲ್ಲದೆ ವಿವರಣಾತ್ಮಕವಾಗಿ ಇರಿಸಿಕೊಳ್ಳಲು.
ವಿಸ್ತರಣೆಗಳು, ಪ್ಲಗಿನ್ಗಳು ಮತ್ತು ಪವರ್ ವೈಶಿಷ್ಟ್ಯಗಳು
ಸಿಲ್ಲಿಟಾವೆರ್ನ್ ತನ್ನ ಸಾಮರ್ಥ್ಯಗಳನ್ನು ವಿಸ್ತರಿಸುವ ಆಡ್-ಆನ್ಗಳ ಪರಿಸರ ವ್ಯವಸ್ಥೆಯನ್ನು ಹೊಂದಿದೆ:
- ಮೆಮೊರಿ ಮತ್ತು ಲೋರ್ಬುಕ್ಗಳು: ಟ್ರಿಗ್ಗರ್ಗಳು ಪತ್ತೆಯಾದಾಗ ಪ್ರಮುಖ ಸಂಗತಿಗಳನ್ನು ಸ್ವಯಂ-ಇಂಜೆಕ್ಟ್ ಮಾಡಿ.
- ವಿಶ್ವ/ಕಥೆ ಪರಿಕರಗಳು: ದೃಶ್ಯ ಟೆಂಪ್ಲೇಟ್ಗಳು, NPC ಪಟ್ಟಿಗಳು ಮತ್ತು ಈವೆಂಟ್ ಪ್ರಾಂಪ್ಟ್ಗಳು.
- TTS/STT: ಪಠ್ಯದಿಂದ ಭಾಷಣಕ್ಕೆ ಮತ್ತು ಭಾಷಣದಿಂದ ಪಠ್ಯಕ್ಕೆ ನಿಮ್ಮ ಸೆಷನ್ಗಳನ್ನು ಧ್ವನಿ-ಸಕ್ರಿಯಗೊಳಿಸಿ.
- ಚಿತ್ರದ ಕೊಕ್ಕೆಗಳು: ಕೆಲವು ಕನೆಕ್ಟರ್ಗಳು ಚಿತ್ರದ ಪ್ರಾಂಪ್ಟ್ಗಳು/ಪ್ರತಿಕ್ರಿಯೆಗಳನ್ನು ಬೆಂಬಲಿಸುತ್ತವೆ (ಮಾದರಿ ಅವಲಂಬಿತ).
- ಆಟೊಮೇಷನ್: ಮರುಕಳಿಸುವ ನಿರೂಪಣಾ ಬೀಟ್ಗಳು ಅಥವಾ ಫಾರ್ಮ್ಯಾಟಿಂಗ್ಗಾಗಿ ಮ್ಯಾಕ್ರೋಗಳು.
ಸುಧಾರಿತ ಏಕೀಕರಣಗಳನ್ನು ಸಕ್ರಿಯಗೊಳಿಸುವ ಮೊದಲು ಪೂರೈಕೆದಾರ-ನಿರ್ದಿಷ್ಟ ವೈಶಿಷ್ಟ್ಯಗಳು, ಪ್ರಾಂಪ್ಟ್ ಫಾರ್ಮ್ಯಾಟ್ಗಳು ಮತ್ತು ದರ-ಮಿತಿ ಟಿಪ್ಪಣಿಗಳಿಗಾಗಿ ಡಾಕ್ಸ್ ಪರಿಶೀಲಿಸಿ.
ಸುರಕ್ಷತೆ, ಫಿಲ್ಟರ್ಗಳು ಮತ್ತು ಗಡಿಗಳು
- ಮಾದರಿ ನೀತಿಗಳು: API ಮಾದರಿಗಳು (ಉದಾಹರಣೆಗೆ, Anthropic, Google) ಕೆಲವು ರೀತಿಯ ವಿಷಯಗಳ ಮೇಲೆ ಪರಿಣಾಮ ಬೀರಬಹುದಾದ ಸುರಕ್ಷತಾ ನಿಯಮಗಳನ್ನು ಜಾರಿಗೊಳಿಸುತ್ತವೆ. ಅದಕ್ಕೆ ಅನುಗುಣವಾಗಿ ನಿಮ್ಮ ಸೃಜನಶೀಲ ಗುರಿಗಳನ್ನು ಹೊಂದಿಸಿ.
- ಸ್ಥಳೀಯ ನಿಯಂತ್ರಣ: ಸ್ಥಳೀಯ ಮಾದರಿಗಳು ನಿಮಗೆ ಹೆಚ್ಚಿನ ಸ್ವಾತಂತ್ರ್ಯವನ್ನು ನೀಡುತ್ತವೆ ಆದರೆ ಹೆಚ್ಚಿನ ಜವಾಬ್ದಾರಿಯನ್ನು ನೀಡುತ್ತವೆ—ವೈಯಕ್ತಿಕ ಗಡಿಗಳನ್ನು ಮತ್ತು ವಿಷಯ ಟ್ಯಾಗ್ಗಳನ್ನು ಮೊದಲೇ ಹೊಂದಿಸಿ.
- ಸೆಷನ್ ನೈರ್ಮಲ್ಯ: ವಿಷಯ ಎಚ್ಚರಿಕೆಗಳು, ಆಪ್ಟ್-ಇನ್ ಸನ್ನಿವೇಶಗಳು ಮತ್ತು ಸ್ಪಷ್ಟ ಪರಿವರ್ತನೆಗಳನ್ನು ಬಳಸಿ. ಏನಾದರೂ ಹಳಿತಪ್ಪಿದರೆ, ಸಾರಾಂಶ ಮಾಡಿ, ಟೋನ್ ಅನ್ನು ಮರುಹೊಂದಿಸಿ ಮತ್ತು ಸನ್ನಿವೇಶವನ್ನು ಮರು-ಆಂಕರ್ ಮಾಡಿ.
ನಿವಾರಣೆ: ಸಾಮಾನ್ಯ ಸಮಸ್ಯೆಗಳಿಗೆ ತ್ವರಿತ ಪರಿಹಾರಗಳು
- ಮಾದರಿಯು ಪುನರಾವರ್ತಿಸುತ್ತದೆ ಅಥವಾ ಲೂಪ್ ಮಾಡುತ್ತದೆ: ಪುನರಾವರ್ತನೆಯ ದಂಡವನ್ನು ಹೆಚ್ಚಿಸಿ, ತಾಪಮಾನವನ್ನು ಸ್ವಲ್ಪಮಟ್ಟಿಗೆ ಕಡಿಮೆ ಮಾಡಿ, ಮೆಮೊರಿಗೆ ಹೆಚ್ಚಿನ ಆಧಾರದ ಸಂಗತಿಗಳನ್ನು ಸೇರಿಸಿ.
- ಪಾತ್ರದಿಂದ ಹೊರಗಿನ ಪ್ರತಿಕ್ರಿಯೆಗಳು: ಪಾತ್ರದ ವ್ಯಾಖ್ಯಾನವನ್ನು ಬಲಪಡಿಸಿ ಮತ್ತು 2–3 ಮಾದರಿ ಸಂಭಾಷಣೆಗಳನ್ನು ಸೇರಿಸಿ; ಸಿಸ್ಟಮ್ ಪ್ರಾಂಪ್ಟ್ ಅನ್ನು ಬಿಗಿಗೊಳಿಸಿ.
- ವೆಚ್ಚಗಳು ಹೆಚ್ಚಾಗುತ್ತವೆ (API ಬಳಕೆ): ಸನ್ನಿವೇಶದ ಉದ್ದವನ್ನು ಕಡಿಮೆ ಮಾಡಿ, ಕಡಿಮೆ ಪ್ರತ್ಯುತ್ತರಗಳನ್ನು ಸಕ್ರಿಯಗೊಳಿಸಿ, ನಿಯತಕಾಲಿಕವಾಗಿ ಸಾರಾಂಶ ಮಾಡಿ ಅಥವಾ ಫಿಲ್ಲರ್ ದೃಶ್ಯಗಳಿಗಾಗಿ ಕಡಿಮೆ-ವೆಚ್ಚದ ಮಾದರಿಗೆ ಬದಲಿಸಿ.
- ಸ್ಥಳೀಯ ಮಾದರಿ ನಿಧಾನವಾಗಿದೆ: ಸಣ್ಣ ಕ್ವಾಂಟೈಸೇಶನ್ ಅನ್ನು ಪ್ರಯತ್ನಿಸಿ, GPU ವೇಗವರ್ಧನೆಯನ್ನು ಸಕ್ರಿಯಗೊಳಿಸಿ ಅಥವಾ ಗರಿಷ್ಠ ಟೋಕನ್ಗಳನ್ನು ಕಡಿಮೆ ಮಾಡಿ.
- ಸಂಪರ್ಕ ದೋಷಗಳು: ಪೂರೈಕೆದಾರರ URL, ಕೀಲಿಯ ಸಿಂಧುತ್ವ ಮತ್ತು ಮಾದರಿಯ ಹೆಸರನ್ನು ಮರು-ಪರಿಶೀಲಿಸಿ. ನಿಖರವಾದ ನಿಯತಾಂಕಗಳಿಗಾಗಿ API ಸಂಪರ್ಕಗಳ ಪುಟವನ್ನು ಸಂಪರ್ಕಿಸಿ.
10 ನಿಮಿಷಗಳ ಪ್ರಾರಂಭಿಕ ಕಾರ್ಯವಿಧಾನ (ಇದನ್ನು ನಕಲಿಸಿ)
- ಒಂದು ಪೂರೈಕೆದಾರರನ್ನು ಆಯ್ಕೆಮಾಡಿ (ಉದಾಹರಣೆಗೆ, ಕಡಿಮೆ-ವೆಚ್ಚದ ಪರೀಕ್ಷೆಗಳಿಗಾಗಿ Gemini ಅಥವಾ ದೀರ್ಘ-ಕಥೆಯ ಆರ್ಕ್ಗಳಿಗಾಗಿ Claude).
- ವ್ಯಕ್ತಿತ್ವ, ಹಿನ್ನೆಲೆ ಬುಲೆಟ್ಗಳು ಮತ್ತು 3 ಮಾದರಿ ಸಂಭಾಷಣೆಗಳೊಂದಿಗೆ ಒಂದು ಪಾತ್ರವನ್ನು ರಚಿಸಿ.
- ತಾಪಮಾನವನ್ನು 0.8 ಗೆ ಹೊಂದಿಸಿ, ಟಾಪ್-ಪಿ 0.9, ಪುನರಾವರ್ತನೆಯ ದಂಡ ಮಧ್ಯಮ.
- ಸಣ್ಣ ಮೆಮೊರಿ ಪುಸ್ತಕವನ್ನು ಸೇರಿಸಿ: ಸೆಟ್ಟಿಂಗ್, ಸಂಬಂಧಗಳು, ಸಕ್ರಿಯ ಗುರಿಗಳು.
- ಸ್ಪಷ್ಟವಾದ ದೃಶ್ಯ ಸೆಟಪ್ ಮತ್ತು ಅಪೇಕ್ಷಿತ ಟೋನ್ನೊಂದಿಗೆ ಚಾಟ್ ಅನ್ನು ಪ್ರಾರಂಭಿಸಿ.
- 10 ಸಂದೇಶಗಳ ನಂತರ, ಚಾಟ್ ಅನ್ನು ರಫ್ತು ಮಾಡಿ, ಎರಡು ಸುಧಾರಣೆಗಳನ್ನು ಬರೆಯಿರಿ ಮತ್ತು ಪಾತ್ರದ ಕಾರ್ಡ್ ಅನ್ನು ನವೀಕರಿಸಿ.
ಈ ಲೂಪ್ ಅನ್ನು ಪುನರಾವರ್ತಿಸಿ ಮತ್ತು ನೀವು ನಾಟಕೀಯ ಸ್ಥಿರತೆಯ ಲಾಭಗಳನ್ನು ನೋಡುತ್ತೀರಿ.
ಮಾದರಿ-ನಿರ್ದಿಷ್ಟ ಸಲಹೆಗಳು (ಚೀಟ್ ಶೀಟ್)
- OpenAI: ಸಂಕ್ಷಿಪ್ತ ಸಿಸ್ಟಮ್ ಪ್ರಾಂಪ್ಟ್ಗಳನ್ನು ಇಷ್ಟಪಡುತ್ತದೆ; ಸಂಖ್ಯೆಯ ಹಂತಗಳೊಂದಿಗೆ ಸೂಚನೆಗಳನ್ನು ಸ್ಪಷ್ಟವಾಗಿ ಫಾರ್ಮ್ಯಾಟ್ ಮಾಡಿ.
- Claude: ಬಹು-ಪ್ಯಾರಾಗ್ರಾಫ್ ಬ್ರೀಫ್ಗಳಲ್ಲಿ ಅಭಿವೃದ್ಧಿ ಹೊಂದುತ್ತದೆ; ನಿರೂಪಣಾ ನಿರಂತರತೆ ಮತ್ತು ಸಾರಾಂಶಗಳಿಗೆ ಉತ್ತಮವಾಗಿದೆ.
- Gemini: ರಚನಾತ್ಮಕ ಪ್ರಾಂಪ್ಟ್ಗಳು ಮತ್ತು ಸ್ಪಷ್ಟ ನಿರ್ಬಂಧಗಳೊಂದಿಗೆ ಉತ್ತಮವಾಗಿ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತದೆ; ಉಚಿತ-ಶ್ರೇಣಿಯ ಕೋಟಾಗಳನ್ನು ಪರಿಶೀಲಿಸಿ.
- ಸ್ಥಳೀಯ Llama: ಬೋಧನಾ-ಟ್ಯೂನ್ ಮಾಡಿದ ರೂಪಾಂತರಗಳನ್ನು ಬಳಸಿ; ವೇಗ/ಗುಣಮಟ್ಟಕ್ಕಾಗಿ 2–3 ಕ್ವಾಂಟೈಸೇಶನ್ಗಳನ್ನು ಪರೀಕ್ಷಿಸಿ.
ಬ್ಯಾಕಪ್ಗಳು, ರಫ್ತುಗಳು ಮತ್ತು ಸಂಸ್ಥೆ
- ಲೋರ್ನ ಅಡ್ಡ-ಮಾಲಿನ್ಯವನ್ನು ತಡೆಗಟ್ಟಲು ಪ್ರತಿ "ವಿಶ್ವಕ್ಕೆ" ಪ್ರತ್ಯೇಕ ಫೋಲ್ಡರ್ಗಳನ್ನು ಬಳಸಿ.
- ನಿಯಮಿತವಾಗಿ ಚಾಟ್ಗಳನ್ನು (JSON/HTML) ರಫ್ತು ಮಾಡಿ ಮತ್ತು ನಿಮ್ಮ ಪಾತ್ರದ ಕಾರ್ಡ್ಗಳ ಸ್ನ್ಯಾಪ್ಶಾಟ್ ತೆಗೆದುಕೊಳ್ಳಿ.
- ಸ್ಯಾಂಪ್ಲಿಂಗ್ ಸೆಟ್ಟಿಂಗ್ಗಳು, ಮಾದರಿ ಆವೃತ್ತಿಗಳು ಮತ್ತು ಗಮನಾರ್ಹ ಸೆಷನ್ಗಳನ್ನು ದಾಖಲಿಸುವ "ಮೆಟಾ" ಡಾಕ್ಯುಮೆಂಟ್ ಅನ್ನು ಇರಿಸಿಕೊಳ್ಳಿ.
ಗಮನಿಸಬೇಕಾದ ಅಂಶ: Sider.AI ನೊಂದಿಗೆ ನಿಮ್ಮ ಕಾರ್ಯವಿಧಾನವನ್ನು ವೇಗಗೊಳಿಸುವುದು
ನೀವು ಸಿಲ್ಲಿಟಾವೆರ್ನ್ನ ಹೊರಗೆ ಪಾತ್ರದ ಬಯೋಸ್, ದೃಶ್ಯ ರೂಪರೇಖೆಗಳು ಅಥವಾ ಲೋರ್ ತುಣುಕುಗಳನ್ನು ರಚಿಸಿದರೆ, ಸೈಡ್ಬಾರ್ ಸಹಾಯಕವು ತ್ವರಿತವಾಗಿ ಪುನರಾವರ್ತಿಸಲು ನಿಮಗೆ ಸಹಾಯ ಮಾಡುತ್ತದೆ. ಮೂಲಕ, Sider.AI ನ ಬ್ರೌಸರ್ನಲ್ಲಿನ ಸಹಾಯಕವು ದೀರ್ಘ ನಕಲುಗಳನ್ನು ಸಾರಾಂಶಗೊಳಿಸಬಹುದು, ಪಾತ್ರದ ವಿಚಿತ್ರತೆಗಳನ್ನು ಪ್ರಸ್ತಾಪಿಸಬಹುದು ಅಥವಾ ದೃಶ್ಯ ಬೀಜಗಳನ್ನು ಉತ್ಪಾದಿಸಬಹುದು, ನಂತರ ನೀವು ಫಲಿತಾಂಶಗಳನ್ನು ನೇರವಾಗಿ ಸಿಲ್ಲಿಟಾವೆರ್ನ್ಗೆ ಅಂಟಿಸಬಹುದು. ಇದು ಜಗತ್ತನ್ನು ನಿರ್ಮಿಸಲು ಮತ್ತು ಪ್ರಾಂಪ್ಟ್ ಅನ್ನು ಪಾಲಿಶ್ ಮಾಡಲು ಸೂಕ್ತವಾದ ಪೂರ್ವ-ಉತ್ಪಾದನಾ ಸಹಾಯಕವಾಗಿದೆ. ಪ್ರಮುಖ ಮುಖ್ಯಾಂಶಗಳು
- ಸರಳವಾಗಿ ಪ್ರಾರಂಭಿಸಿ: ಒಂದು ಪೂರೈಕೆದಾರರನ್ನು, ಒಂದು ಪಾತ್ರವನ್ನು ಮತ್ತು ಸಣ್ಣ ಮೆಮೊರಿ ಪುಸ್ತಕವನ್ನು ಆಯ್ಕೆಮಾಡಿ.
- ನಿಯಂತ್ರಣವೇ ಮುಖ್ಯ: ಸಿಸ್ಟಮ್ ಪ್ರಾಂಪ್ಟ್ಗಳು, ಸ್ಯಾಂಪ್ಲಿಂಗ್ ಮತ್ತು ಮೆಮೊರಿ ಸ್ಥಿರತೆಯನ್ನು ರೂಪಿಸುತ್ತವೆ.
- ನಿರೂಪಣಾ ಉದ್ದ, ವೆಚ್ಚ, ಸೃಜನಶೀಲತೆ ಅಥವಾ ಗೌಪ್ಯತೆಯಿಂದ ಮಾದರಿಗಳನ್ನು ಆರಿಸಿ.
- ಪುನರಾವರ್ತಿಸಿ: ನಿಮ್ಮ ಪಾತ್ರದ ಕಾರ್ಡ್ ಮತ್ತು ಪ್ರಿಸೆಟ್ಗಳನ್ನು ರಫ್ತು ಮಾಡಿ, ಪರಿಶೀಲಿಸಿ ಮತ್ತು ಪರಿಷ್ಕರಿಸಿ.
ಸಂಪನ್ಮೂಲಗಳು
- ಸಿಲ್ಲಿಟಾವೆರ್ನ್ API ಸಂಪರ್ಕಗಳ ಅವಲೋಕನ: ಬೆಂಬಲಿತ ಪೂರೈಕೆದಾರರು, ಮಿತಿಗಳು ಮತ್ತು ಟಿಪ್ಪಣಿಗಳು.
- ಉತ್ತಮ ಮಾದರಿಗಳು ಮತ್ತು Gemini ನಂತಹ ಉಚಿತ/ಕಡಿಮೆ-ವೆಚ್ಚದ ಆಯ್ಕೆಗಳ ಕುರಿತು ಸಮುದಾಯ ಚರ್ಚೆ.
- ಪಾತ್ರಾಭಿನಯ ಮತ್ತು ಚಾಟ್ಗಾಗಿ LLM ಫ್ರಂಟ್ಎಂಡ್ ಆಗಿ ಸಿಲ್ಲಿಟಾವೆರ್ನ್ನ GitHub ಅವಲೋಕನ.
FAQ
Q1:ನಾನು ಸಿಲ್ಲಿಟಾವೆರ್ನ್ ಅನ್ನು OpenAI, Claude ಅಥವಾ Gemini ಗೆ ಹೇಗೆ ಸಂಪರ್ಕಿಸುವುದು?
ಸಿಲ್ಲಿಟಾವೆರ್ನ್ನ API ಸೆಟ್ಟಿಂಗ್ಗಳನ್ನು ತೆರೆಯಿರಿ ಮತ್ತು ಪ್ರತಿ ಪೂರೈಕೆದಾರರಿಗೆ ನಿಮ್ಮ API ಕೀಗಳನ್ನು ಅಂಟಿಸಿ, ನಂತರ ಮಾದರಿಯ ಹೆಸರನ್ನು ಆಯ್ಕೆಮಾಡಿ ಮತ್ತು ಉಳಿಸಿ. ಅಧಿಕೃತ API ಸಂಪರ್ಕಗಳ ಮಾರ್ಗದರ್ಶಿ ಬೆಂಬಲಿತ ಪೂರೈಕೆದಾರರು ಮತ್ತು ನೀವು ಹೊಂದಿಸಬೇಕಾದ ನಿಯತಾಂಕಗಳನ್ನು ಪಟ್ಟಿ ಮಾಡುತ್ತದೆ.
Q2:ನಾನು Llama ನಂತಹ ಸ್ಥಳೀಯ ಮಾದರಿಯೊಂದಿಗೆ ಸಿಲ್ಲಿಟಾವೆರ್ನ್ ಅನ್ನು ಬಳಸಬಹುದೇ?
ಹೌದು. KoboldAI ಅಥವಾ oobabooga/text-generation-webui ನಂತಹ ಸ್ಥಳೀಯ ಬ್ಯಾಕೆಂಡ್ ಅನ್ನು ರನ್ ಮಾಡಿ, ನಂತರ ಸಿಲ್ಲಿಟಾವೆರ್ನ್ ಅನ್ನು ಸ್ಥಳೀಯ ಸರ್ವರ್ URL ಗೆ ಪಾಯಿಂಟ್ ಮಾಡಿ. ಬ್ಯಾಕೆಂಡ್ API ಎಂಡ್ಪಾಯಿಂಟ್ ಅನ್ನು ಬಹಿರಂಗಪಡಿಸುತ್ತಿದೆಯೇ ಮತ್ತು ಹೊಂದಾಣಿಕೆಯ ಬೋಧನಾ-ಟ್ಯೂನ್ ಮಾಡಿದ ಮಾದರಿಯನ್ನು ಬಳಸುತ್ತಿದೆಯೇ ಎಂದು ಖಚಿತಪಡಿಸಿಕೊಳ್ಳಿ.
Q3:ಸಿಲ್ಲಿಟಾವೆರ್ನ್ನಲ್ಲಿ ಪಾತ್ರಾಭಿನಯ ಸ್ಥಿರತೆಯನ್ನು ಸುಧಾರಿಸುವ ಸೆಟ್ಟಿಂಗ್ಗಳು ಯಾವುವು?
ಸಿಸ್ಟಮ್ ಪ್ರಾಂಪ್ಟ್ ಅನ್ನು ಪರಿಷ್ಕರಿಸಿ, ಪಾತ್ರದ ಕಾರ್ಡ್ಗೆ ಮಾದರಿ ಸಂಭಾಷಣೆಯನ್ನು ಸೇರಿಸಿ ಮತ್ತು ಸತ್ಯಗಳು ಮತ್ತು ಸಂಬಂಧಗಳಿಗಾಗಿ ಸಣ್ಣ ಮೆಮೊರಿ ಪುಸ್ತಕವನ್ನು ಬಳಸಿ. ಸೃಜನಶೀಲತೆ ಮತ್ತು ಸುಸಂಬದ್ಧತೆಯನ್ನು ಸಮತೋಲನಗೊಳಿಸಲು ತಾಪಮಾನ, ಟಾಪ್-ಪಿ ಮತ್ತು ಪುನರಾವರ್ತನೆಯ ದಂಡಗಳನ್ನು ಟ್ಯೂನ್ ಮಾಡಿ.
Q4:ಸಿಲ್ಲಿಟಾವೆರ್ನ್ನಲ್ಲಿ ದೀರ್ಘ-ರೂಪದ ಕಥೆ ಹೇಳಲು ಯಾವ ಮಾದರಿ ಉತ್ತಮವಾಗಿದೆ?
Claude ಮಾದರಿಗಳು ದೀರ್ಘ-ಸನ್ನಿವೇಶ ನಿರೂಪಣಾ ಸುಸಂಬದ್ಧತೆಗೆ ಬಲವಾಗಿವೆ, ಆದರೆ OpenAI ಮತ್ತು Gemini ಸಾಮಾನ್ಯ ಚಾಟ್ಗೆ ಬಹುಮುಖ ಮತ್ತು ವೆಚ್ಚ-ಪರಿಣಾಮಕಾರಿಯಾಗಿದೆ. ನೀವು ಅವುಗಳನ್ನು ಟ್ಯೂನ್ ಮಾಡಲು ಆರಾಮದಾಯಕವಾಗಿದ್ದರೆ ಸ್ಥಳೀಯ Llama ಮಾದರಿಗಳು ಗೌಪ್ಯತೆಗೆ ಉತ್ತಮವಾಗಿವೆ.
Q5:ಸಿಲ್ಲಿಟಾವೆರ್ನ್ನಲ್ಲಿ API ಮಾದರಿಗಳೊಂದಿಗೆ ಟೋಕನ್ ವೆಚ್ಚವನ್ನು ನಾನು ಹೇಗೆ ಕಡಿಮೆ ಮಾಡುವುದು?
ಸನ್ನಿವೇಶದ ಉದ್ದವನ್ನು ಕಡಿಮೆ ಮಾಡಿ, ಸಂಕ್ಷಿಪ್ತ ಪ್ರತ್ಯುತ್ತರಗಳನ್ನು ಸಕ್ರಿಯಗೊಳಿಸಿ ಮತ್ತು ಆರ್ಕ್ಗಳನ್ನು ನಿಯತಕಾಲಿಕವಾಗಿ ಸಾರಾಂಶ ಮಾಡಿ. ನೀವು ಫಿಲ್ಲರ್ ಸನ್ನಿವೇಶಗಳಿಗಾಗಿ ಕಡಿಮೆ-ವೆಚ್ಚದ ಮಾದರಿಗಳಿಗೆ ಬದಲಾಯಿಸಬಹುದು ಮತ್ತು ಪ್ರಮುಖ ಕ್ಷಣಗಳಿಗಾಗಿ ಪ್ರೀಮಿಯಂ ಮಾದರಿಗಳನ್ನು ಇರಿಸಬಹುದು.
