What is Open WebUI used for?

Open WebUI is a self-hosted interface for large language models. It lets you chat with local or cloud models, build RAG workflows with your documents, and manage prompts and teams in one place.

How do I use Open WebUI with Ollama?

Install Ollama, pull a model like `llama3` or `mistral`, and then point Open WebUI’s Ollama connection to `http://localhost:11434`. You can set a default model and start chatting locally with full privacy.

Can Open WebUI do RAG with my PDFs and notes?

Yes. Create a knowledge base, upload documents, generate embeddings, and enable retrieval in chat. The model will cite and summarize from your own sources for grounded answers.

Is Open WebUI secure for teams?

You can enforce sign-in, manage API keys by role, and set rate limits. For production, use HTTPS behind a reverse proxy and restrict which providers or endpoints are allowed.

Should I use local or cloud models in Open WebUI?

Use local models for privacy, speed, and cost control; use cloud models for complex tasks requiring higher quality. Many teams combine both and set chat-specific defaults.

Open WebUI ಅನ್ನು ಹೇಗೆ ಬಳಸುವುದು: ವೇಗವಾದ AI ಕಾರ್ಯವಿಧಾನಗಳಿಗಾಗಿ ಒಂದು ಸ್ನೇಹಪರ, ಹಂತ-ಹಂತದ ಮಾರ್ಗದರ್ಶಿ

ನೀವು ಅನ್ನು ಗ್ರಾಹಕೀಯಗೊಳಿಸಬಹುದಾದ, ಸ್ವಯಂ-ಹೋಸ್ಟ್ ಮಾಡಿದ ಅವಳಿ ರೂಪದಲ್ಲಿ ನಿಮ್ಮ ಸ್ವಂತ ಮಾದರಿಗಳು ಮತ್ತು ಡೇಟಾಕ್ಕೆ ತಂತಿ ಮಾಡಬಹುದೆಂದು ನೀವು ಎಂದಾದರೂ ಬಯಸಿದರೆ, ನಿಖರವಾಗಿ ಅದನ್ನೇ ಒದಗಿಸುತ್ತದೆ. ಇದು ಸ್ಥಳೀಯ ಅಥವಾ ರಿಮೋಟ್ ದೊಡ್ಡ ಭಾಷಾ ಮಾದರಿಗಳೊಂದಿಗೆ ( ಗಳು) ಚಾಟ್ ಮಾಡಲು, ಪ್ರಾಂಪ್ಟ್‌ಗಳನ್ನು ನಿರ್ವಹಿಸಲು, (Retrieval-Augmented Generation) ಕಾರ್ಯವಿಧಾನಗಳನ್ನು ನಿರ್ಮಿಸಲು ಮತ್ತು ನಿಮ್ಮ ತಂಡದ ಸದಸ್ಯರೊಂದಿಗೆ ಸಹಕರಿಸಲು ಒಂದು ಆಧುನಿಕ, ಹಗುರವಾದ ಇಂಟರ್ಫೇಸ್ ಆಗಿದೆ - ಎಲ್ಲವೂ ನಿಮ್ಮ ಬ್ರೌಸರ್‌ನಿಂದಲೇ.

ಈ ಪ್ರಾಯೋಗಿಕ, ಪರಿಹಾರ-ಆಧಾರಿತ ಮಾರ್ಗದರ್ಶಿಯಲ್ಲಿ, ಅನ್ನು ಪ್ರಾರಂಭದಿಂದ ಕೊನೆಯವರೆಗೆ ಹೇಗೆ ಬಳಸುವುದು ಎಂದು ನಾವು ನೋಡೋಣ: ಸೆಟಪ್ ಆಯ್ಕೆಗಳು, ಅಥವಾ ಗಳಿಗೆ ಸಂಪರ್ಕ ಕಲ್ಪಿಸುವುದು, ಮಾದರಿಗಳನ್ನು ನಿರ್ವಹಿಸುವುದು, ಹಿಂಪಡೆಯುವಿಕೆ ಹರಿವುಗಳನ್ನು ನಿರ್ಮಿಸುವುದು, ನಿಮ್ಮ ಉದಾಹರಣೆಯನ್ನು ಭದ್ರಪಡಿಸುವುದು ಮತ್ತು ಕೆಲವು ಅನುಕೂಲಕರ ಸಲಹೆಗಳು. ಕೊನೆಯಲ್ಲಿ, ನಿಮ್ಮ ಸ್ವಂತ ನಿಯಮಗಳ ಮೇಲೆ ಶಕ್ತಿಯುತವಾದ ಕಾರ್ಯವಿಧಾನಗಳನ್ನು ತ್ವರಿತವಾಗಿ ಚಲಾಯಿಸಲು ನಿಮಗೆ ಸಾಧ್ಯವಾಗುತ್ತದೆ.

ಎಂದರೇನು (ಮತ್ತು ಅದನ್ನು ಏಕೆ ಬಳಸಬೇಕು)?

ಎಂಬುದು ಗಳಿಗಾಗಿ ಸ್ವಯಂ-ಹೋಸ್ಟ್ ಮಾಡಬಹುದಾದ ವೆಬ್ ಇಂಟರ್ಫೇಸ್ ಆಗಿದೆ. ನಿಮ್ಮ ಸಂವಹನಗಳಿಗಾಗಿ ಇದನ್ನು ಕಮಾಂಡ್ ಸೆಂಟರ್ ಎಂದು ಭಾವಿಸಿ - ನಿಮ್ಮ ಸ್ವಂತ ಮಾದರಿಗಳನ್ನು (ಸ್ಥಳೀಯ ಅಥವಾ ಕ್ಲೌಡ್) ತನ್ನಿ, ಮರುಬಳಕೆ ಮಾಡಬಹುದಾದ ಪ್ರಾಂಪ್ಟ್‌ಗಳನ್ನು ರಚಿಸಿ, ನಿಮ್ಮ ಡಾಕ್ಯುಮೆಂಟ್‌ಗಳನ್ನು ಸೇರಿಸಿ ಮತ್ತು ಸ್ವಚ್ಛವಾದ, ಅರ್ಥಗರ್ಭಿತ ಮೂಲಕ ಸಹಕರಿಸಿ. ಇದು ನಿಯಂತ್ರಣ, ವಿಸ್ತರಣೆ ಮತ್ತು ವೇಗವನ್ನು ಬಯಸುವ ಡೆವಲಪರ್‌ಗಳು, ಡೇಟಾ ತಂಡಗಳು ಮತ್ತು ಗೌಪ್ಯತೆ-ಪ್ರಜ್ಞೆಯುಳ್ಳ ಬಳಕೆದಾರರಲ್ಲಿ ಬಹಳ ಜನಪ್ರಿಯವಾಗಿದೆ.

ಜನರು ಅನ್ನು ಆಯ್ಕೆ ಮಾಡಲು ಪ್ರಮುಖ ಕಾರಣಗಳು:

ನಿಮ್ಮ ಡೇಟಾವನ್ನು ನೀವೇ ಹೊಂದಿರಿ: ಸ್ಥಳೀಯವಾಗಿ ಅಥವಾ ನಿಮ್ಮ ಸರ್ವರ್‌ನಲ್ಲಿ ಚಲಾಯಿಸಿ.

ಫ್ಲೆಕ್ಸಿಬಲ್ ಬ್ಯಾಕೆಂಡ್‌ಗಳು: ನಂತಹ ಸ್ಥಳೀಯ ಎಂಜಿನ್‌ಗಳಿಗೆ ಅಥವಾ ಮೂಲಕ ರಿಮೋಟ್ ಪೂರೈಕೆದಾರರಿಗೆ ಸಂಪರ್ಕಪಡಿಸಿ.

ಕಾರ್ಯವಿಧಾನಕ್ಕೆ ಸಿದ್ಧವಾಗಿದೆ: , ಪರಿಕರಗಳು, ಎಂಬೆಡಿಂಗ್‌ಗಳು ಮತ್ತು ರಚನಾತ್ಮಕ ಪ್ರಾಂಪ್ಟ್‌ಗಳು.

ನಿರ್ವಾಹಕ ನಿಯಂತ್ರಣಗಳು: ಕೀ ನಿರ್ವಹಣೆ, ದೃಢೀಕರಣ ಮತ್ತು ಪರಿಸರ ಸಂರಚನೆ.

ಪ್ರಾರಂಭಿಸಲು ವೇಗವಾದ ಮಾರ್ಗ: ತ್ವರಿತ ಪ್ರಾರಂಭ

ನೀವು ನೊಂದಿಗೆ ಆರಾಮದಾಯಕವಾಗಿದ್ದರೆ, ನೀವು ನಿಮಿಷಗಳಲ್ಲಿ ಕಾರ್ಯರೂಪಕ್ಕೆ ಬರಬಹುದು.

ಚಿತ್ರವನ್ನು ಎಳೆಯಿರಿ

docker pull ghcr.io/open-webui/open-webui:main

ಕಂಟೇನರ್ ಅನ್ನು ಚಲಾಯಿಸಿ

docker run -d --name open-webui -p 3000:8080 ghcr.io/open-webui/open-webui:main

ನಿಮ್ಮ ಬ್ರೌಸರ್ ಅನ್ನು ತೆರೆಯಿರಿ ಮತ್ತು ಭೇಟಿ ನೀಡಿ

ನೀವು ನಲ್ಲಿ ಇಳಿಯುತ್ತೀರಿ, ನಿರ್ವಾಹಕ ಖಾತೆಯನ್ನು ರಚಿಸುತ್ತೀರಿ ಮತ್ತು ನೀವು ಮಾದರಿಗಳನ್ನು ಸಂಪರ್ಕಿಸಲು ಸಿದ್ಧರಾಗಿರುತ್ತೀರಿ.

ಸಲಹೆ: ನಿರಂತರ ಸಂಗ್ರಹಣೆ ಮತ್ತು ಪರಿಸರ ವೇರಿಯೇಬಲ್‌ಗಳಿಗಾಗಿ ( ಕೀ ನಿರ್ಬಂಧಗಳು ಮತ್ತು ದೃಢೀಕರಣದಂತಹ), docker-compose.yml ಗೆ ಬದಲಿಸಿ ಇದರಿಂದ ನೀವು ವಾಲ್ಯೂಮ್‌ಗಳನ್ನು ಮೌಂಟ್ ಮಾಡಬಹುದು ಮತ್ತು ಸಂರಚನೆಯನ್ನು ಸ್ಪಷ್ಟವಾಗಿ ವ್ಯಾಖ್ಯಾನಿಸಬಹುದು.

ಮಾದರಿಗಳಿಗೆ ಸಂಪರ್ಕಿಸಲಾಗುತ್ತಿದೆ: ಸ್ಥಳೀಯ () ಅಥವಾ ಕ್ಲೌಡ್ ಗಳು

ಬ್ಯಾಕೆಂಡ್-ಅಜ್ಞೇಯತಾವಾದಿಯಾಗಿದೆ. ನೀವು:

ಮಾದರಿಗಳನ್ನು ಸ್ಥಳೀಯವಾಗಿ ಚಲಾಯಿಸಲು Ollama ಬಳಸಿ (ಉದಾಹರಣೆಗೆ, , , ). ಇದು ಗೌಪ್ಯತೆ ಮತ್ತು ಆಫ್‌ಲೈನ್ ಕೆಲಸಕ್ಕೆ ಉತ್ತಮವಾಗಿದೆ.

ಕೀಗಳ ಮೂಲಕ , , ಅಥವಾ ಇತರವುಗಳಂತಹ ಕ್ಲೌಡ್ API ಗಳನ್ನು ಬಳಸಿ.

ಆಯ್ಕೆ ಎ: ಅನ್ನು ಸ್ಥಳೀಯವಾಗಿ ಬಳಸಿ

ಅನ್ನು ಸ್ಥಾಪಿಸಿ (, , )

ಸ್ಥಾಪಿಸಲು ` ಗೆ ಭೇಟಿ ನೀಡಿ.

ದೊಂದಿಗೆ ಮಾದರಿಯನ್ನು ಎಳೆಯಿರಿ

ollama pull llama3

ನಿಮ್ಮ ಅಗತ್ಯಗಳಿಗೆ ಅನುಗುಣವಾಗಿ ನೀವು llama3 ಅನ್ನು mistral, phi3 ಅಥವಾ llama3:instruct ನಂತಹ ಮಾದರಿಗಳೊಂದಿಗೆ ಬದಲಾಯಿಸಬಹುದು.

ಅನ್ನು ಪ್ರಾರಂಭಿಸಿ

ಯು ನ ಸ್ಥಳೀಯ ಎಂಡ್‌ಪಾಯಿಂಟ್ ಅನ್ನು ತಲುಪಬಹುದು ಎಂದು ಖಚಿತಪಡಿಸಿಕೊಳ್ಳಿ (ಸಾಮಾನ್ಯವಾಗಿ `).

ನಲ್ಲಿ, ನಿರ್ವಾಹಕ ಸೆಟ್ಟಿಂಗ್‌ಗಳು → ಸಂಪರ್ಕಗಳು → ಗೆ ಹೋಗಿ

ಎಂಡ್‌ಪಾಯಿಂಟ್ ಅನ್ನು ಸೇರಿಸಿ, ಡೀಫಾಲ್ಟ್ ಮಾದರಿ(ಗಳನ್ನು) ಆಯ್ಕೆಮಾಡಿ ಮತ್ತು ಸಂಪರ್ಕವನ್ನು ಪರೀಕ್ಷಿಸಿ.

ಈಗ ನೀವು ಬ್ರೌಸರ್‌ನಲ್ಲಿ ನೇರವಾಗಿ ಸ್ಥಳೀಯ ಮಾದರಿಗಳೊಂದಿಗೆ ಚಾಟ್ ಮಾಡಬಹುದು.

ಆಯ್ಕೆ ಬಿ: ಕೀಗಳ ಮೂಲಕ ಕ್ಲೌಡ್ ಪೂರೈಕೆದಾರರನ್ನು ಬಳಸಿ

ನಿರ್ವಾಹಕ ಸೆಟ್ಟಿಂಗ್‌ಗಳು → ಪೂರೈಕೆದಾರರು (ಅಥವಾ /ಕೀಗಳು)

, ಅಥವಾ ಗಾಗಿ ಕೀಗಳನ್ನು ಸೇರಿಸಿ.

ಪ್ರತಿ ಪೂರೈಕೆದಾರರಿಗೆ ಡೀಫಾಲ್ಟ್ ಮಾದರಿಯನ್ನು ಆಯ್ಕೆಮಾಡಿ

ಉದಾಹರಣೆಗೆ: gpt-4o-mini (), claude‑3‑haiku (), ಅಥವಾ gemini‑1.5‑flash ().

ಮಿತಿಗಳನ್ನು ಹೊಂದಿಸಿ

ನಿಮ್ಮ ತಂಡದ ಸೆಟಪ್ ಅನ್ನು ಅವಲಂಬಿಸಿ ದರ ಮಿತಿಗಳು, ಬಳಕೆಯ ವ್ಯಾಪ್ತಿಗಳು ಅಥವಾ ಪ್ರತಿ-ಬಳಕೆದಾರ ಕೀಗಳನ್ನು ಜಾರಿಗೊಳಿಸಿ.

ಈ ಹೈಬ್ರಿಡ್ ವಿಧಾನ (ಸ್ಥಳೀಯ + ಕ್ಲೌಡ್) ಸಾಮಾನ್ಯವಾಗಿದೆ: ಸ್ಥಳೀಯ ಮಾದರಿಗಳಲ್ಲಿ ತ್ವರಿತ ಕರಡುಗಳು, ನಂತರ ಅಗತ್ಯವಿದ್ದಾಗ ಕ್ಲೌಡ್ ಮಾದರಿಯೊಂದಿಗೆ ಪರಿಷ್ಕರಿಸಿ.

ನಿಮ್ಮ ಮೊದಲ ಚಾಟ್: ಪ್ರಾಂಪ್ಟ್‌ಗಳು, ಮೋಡ್‌ಗಳು ಮತ್ತು ಲಗತ್ತುಗಳು

ಮಾದರಿಯನ್ನು ಸಂಪರ್ಕಿಸಿದ ನಂತರ, ಹೊಸ ಚಾಟ್ ಅನ್ನು ಪ್ರಾರಂಭಿಸಿ. ಕೆಲವು ಮೂಲಭೂತ ಅಂಶಗಳು:

ಪ್ರಾಂಪ್ಟ್ ಟೆಂಪ್ಲೇಟ್‌ಗಳು: ಆಗಾಗ್ಗೆ ಬಳಸುವ ಸೂಚನೆಗಳನ್ನು (ಸಿಸ್ಟಮ್ ಪ್ರಾಂಪ್ಟ್‌ಗಳು) ಉಳಿಸಿ, ಉದಾಹರಣೆಗೆ "ನೀವು ನನ್ನ ಬೋಧಕರಾಗಿದ್ದೀರಿ - ಉದಾಹರಣೆಗಳು ಮತ್ತು ಪರೀಕ್ಷೆಗಳೊಂದಿಗೆ ವಿವರಿಸಿ."

ಮೋಡ್‌ಗಳು: ಸಿಸ್ಟಮ್ ಪ್ರಾಂಪ್ಟ್‌ಗಳು ಅಥವಾ ತಾಪಮಾನವನ್ನು ಸರಿಹೊಂದಿಸುವ ಮೂಲಕ ಕ್ರಿಯೇಟಿವ್, ಸಂಕ್ಷಿಪ್ತ ಅಥವಾ ತಾಂತ್ರಿಕ ಶೈಲಿಗಳ ನಡುವೆ ಬದಲಿಸಿ.

ಲಗತ್ತುಗಳು: ಮಾದರಿಯು ಉಲ್ಲೇಖಿಸಲು ಫೈಲ್‌ಗಳನ್ನು ( ಗಳು, , ) ಅಪ್‌ಲೋಡ್ ಮಾಡಿ. ದೊಡ್ಡ ಅಥವಾ ಮರುಕಳಿಸುವ ಕಾರ್ಪೊರಾಗಾಗಿ, ಎಂಬೆಡಿಂಗ್‌ಗಳೊಂದಿಗೆ ಜ್ಞಾನದ ಆಧಾರವನ್ನು ರಚಿಸಿ (ಕೆಳಗಿನ ಅನ್ನು ನೋಡಿ).

ಪ್ರೊ ಸಲಹೆ: ಯೋಜನೆಯ ಮೂಲಕ ಚಾಟ್‌ಗಳನ್ನು ಆಯೋಜಿಸಿ. #docs, #code, ಅಥವಾ #analysis ನಂತಹ ಟ್ಯಾಗ್‌ಗಳನ್ನು ಬಳಸಿ ಆದ್ದರಿಂದ ಭವಿಷ್ಯದಲ್ಲಿ ನೀವು ವಿಷಯಗಳನ್ನು ತ್ವರಿತವಾಗಿ ಹುಡುಕಬಹುದು.

ನಿಮಿಷಗಳಲ್ಲಿ ಅನ್ನು ನಿರ್ಮಿಸಿ: ಜ್ಞಾನ, ಎಂಬೆಡಿಂಗ್‌ಗಳು ಮತ್ತು ಹುಡುಕಾಟ

(Retrieval-Augmented Generation) ನಿಮ್ಮ ಮಾದರಿಯು ನಿಮ್ಮ ವಿಷಯದೊಂದಿಗೆ ಪ್ರಶ್ನೆಗಳಿಗೆ ಉತ್ತರಿಸಲು ಅನುಮತಿಸುತ್ತದೆ (ದಾಖಲೆಗಳು, ಟಿಪ್ಪಣಿಗಳು, ನೀತಿಗಳು, ಕೋಡ್). ಅದನ್ನು ಹೇಗೆ ಒಟ್ಟುಗೂಡಿಸುವುದು ಎಂಬುದು ಇಲ್ಲಿದೆ:

ಜ್ಞಾನದ ಆಧಾರವನ್ನು () ರಚಿಸಿ

ಸೈಡ್‌ಬಾರ್‌ನಲ್ಲಿ, ಹೊಸ ಅಥವಾ "ಸಂಗ್ರಹಣೆಗಳನ್ನು" ರಚಿಸಿ.

ದಾಖಲೆಗಳನ್ನು ಅಪ್‌ಲೋಡ್ ಮಾಡಿ: ಗಳು, ಮಾರ್ಕ್‌ಡೌನ್, ಅಥವಾ ಪಠ್ಯ ಫೈಲ್‌ಗಳು.

ಎಂಬೆಡಿಂಗ್‌ಗಳನ್ನು ರಚಿಸಿ

ಎಂಬೆಡಿಂಗ್‌ಗಳ ಬ್ಯಾಕೆಂಡ್ ಅನ್ನು ಆಯ್ಕೆಮಾಡಿ (ನೀವು ಎಂಬೆಡಿಂಗ್ ಮಾದರಿಯನ್ನು ಹೊಂದಿದ್ದರೆ ಮೂಲಕ ಸ್ಥಳೀಯ, ಅಥವಾ ಮೂಲಕ ಕ್ಲೌಡ್ ಪೂರೈಕೆದಾರ).

ನಿಮ್ಮ ದಾಖಲೆಗಳನ್ನು ಇಂಡೆಕ್ಸ್ ಮಾಡಿ; ದೊಡ್ಡ ಸೆಟ್‌ಗಳು ಕೆಲವು ನಿಮಿಷಗಳನ್ನು ತೆಗೆದುಕೊಳ್ಳಬಹುದು.

ಚಾಟ್‌ನಲ್ಲಿ ಹಿಂಪಡೆಯುವಿಕೆಯನ್ನು ಸಕ್ರಿಯಗೊಳಿಸಿ

ಚಾಟ್‌ನಲ್ಲಿ, ಹಿಂಪಡೆಯುವಿಕೆಯನ್ನು ಟಾಗಲ್ ಮಾಡಿ ಮತ್ತು ನಿಮ್ಮ ಅನ್ನು ಆಯ್ಕೆಮಾಡಿ.

"ನಮ್ಮ ಆನ್‌ಬೋರ್ಡಿಂಗ್ ನೀತಿಯನ್ನು ಸಾರಾಂಶಗೊಳಿಸಿ ಮತ್ತು ಕ್ರಿಯಾ ಯೋಜನೆಗಳನ್ನು ಪಟ್ಟಿ ಮಾಡಿ" ಅಥವಾ "ಭದ್ರತಾ ನೀತಿಯಲ್ಲಿ ನಾವು ಯಾವ ವಿನಾಯಿತಿಗಳನ್ನು ಅನುಮತಿಸುತ್ತೇವೆ?" ನಂತಹ ಪ್ರಶ್ನೆಗಳನ್ನು ಕೇಳಿ.

ಪುನರಾವರ್ತನೆ ಮಾಡಿ

ಮೂಲಗಳನ್ನು ಪರಿಶೀಲಿಸಿ, ನಿಮ್ಮ ದಾಖಲೆಗಳನ್ನು ಪರಿಷ್ಕರಿಸಿ, ಚಂಕಿಂಗ್ ಗಾತ್ರವನ್ನು ಹೊಂದಿಸಿ ಮತ್ತು ಉತ್ತರಗಳು ತಪ್ಪಾಗಿ ಕಂಡುಬಂದರೆ ಮರು-ಎಂಬೆಡ್ ಮಾಡಿ.

ಪ್ರೊ ಸಲಹೆ: ನಿಖರತೆಗಾಗಿ ಪ್ರತ್ಯೇಕ ಗಳನ್ನು ನಿರ್ವಹಿಸಿ (ಉದಾಹರಣೆಗೆ, "ಮಾರ್ಕೆಟಿಂಗ್ ಪ್ರತಿ", "ಕಾನೂನು ನೀತಿಗಳು", "ರನ್‌ಬುಕ್‌ಗಳು"). ಇದು ಅಪ್ರಸ್ತುತ ಹಿಂಪಡೆಯುವಿಕೆಗಳನ್ನು ಕಡಿಮೆ ಮಾಡುತ್ತದೆ.

ಕ್ರಿಯೆಗಳು, ಪರಿಕರಗಳು ಮತ್ತು ಕಾರ್ಯವಿಧಾನಗಳು

ಉಪಕರಣ-ಚಾಲಿತ ಸಂವಹನಗಳನ್ನು ಬೆಂಬಲಿಸುತ್ತದೆ ಆದ್ದರಿಂದ ಮಾದರಿಯು "ವಿಷಯಗಳನ್ನು ಮಾಡಲು" ಸಾಧ್ಯವಾಗುತ್ತದೆ, ಕೇವಲ ಚಾಟ್ ಮಾಡಲು ಅಲ್ಲ. ನಿಮ್ಮ ಸೆಟಪ್ ಅನ್ನು ಅವಲಂಬಿಸಿ, ನೀವು:

ನೀವು ವ್ಯಾಖ್ಯಾನಿಸುವ ಕಾರ್ಯಗಳು/ಪರಿಕರಗಳನ್ನು ಕರೆ ಮಾಡಿ (ಉದಾಹರಣೆಗೆ, ಸ್ಕ್ರಿಪ್ಟ್ ಅನ್ನು ಚಲಾಯಿಸಿ, ಅನ್ನು ಪಡೆದುಕೊಳ್ಳಿ, ಡೇಟಾಬೇಸ್ ಅನ್ನು ಪ್ರಶ್ನಿಸಿ).

ಬಹು-ಹಂತದ ಕಾರ್ಯಗಳನ್ನು ರಚಿಸಲು ಸಿಸ್ಟಮ್ ಪ್ರಾಂಪ್ಟ್ ಕಾರ್ಯವಿಧಾನಗಳನ್ನು ಬಳಸಿ.

ನಿಮ್ಮ ನಿಯೋಜನೆಯು ಅವುಗಳನ್ನು ಬೆಂಬಲಿಸಿದರೆ ಪ್ಲಗಿನ್‌ಗಳು/ವಿಸ್ತರಣೆಗಳನ್ನು ಸೇರಿಸಿ.

ಉದಾಹರಣೆ: "ವಿಷಯ ಸಂಕ್ಷಿಪ್ತ" ಕಾರ್ಯವಿಧಾನ

ಹಂತ 1: ವಿಷಯದಿಂದ ಕೀವರ್ಡ್‌ಗಳನ್ನು ಹೊರತೆಗೆಯಲು ಮಾದರಿಯನ್ನು ಕೇಳಿ.

ಹಂತ 2: ವೆಬ್ ಉಪಕರಣದ ಮೂಲಕ ಸಂಶೋಧನೆ ಮಾಡಿ (ಸಕ್ರಿಯಗೊಳಿಸಿದ್ದರೆ) ಮತ್ತು ಮೂಲಗಳನ್ನು ಸಾರಾಂಶಗೊಳಿಸಿ.

ಹಂತ 3: ಒಂದು ರೂಪರೇಖೆ + ಶೀರ್ಷಿಕೆ ರೂಪಾಂತರಗಳನ್ನು ರಚಿಸಿ.

ಹಂತ 4: ಸಣ್ಣ/ದೊಡ್ಡ ಆವೃತ್ತಿಯನ್ನು ರಚಿಸಿ.

ಈ ಹಂತಗಳನ್ನು ಮರುಬಳಕೆ ಮಾಡಬಹುದಾದ ಟೆಂಪ್ಲೇಟ್‌ನಲ್ಲಿ ಉಳಿಸಿ ಇದರಿಂದ ನಿಮ್ಮ ತಂಡವು ಅವುಗಳನ್ನು ಒಂದು ಕ್ಲಿಕ್‌ನಲ್ಲಿ ಚಲಾಯಿಸಬಹುದು.

ಪರ ರೀತಿ ಮಾದರಿಗಳನ್ನು ನಿರ್ವಹಿಸುವುದು

ಬಹು ಡೀಫಾಲ್ಟ್‌ಗಳು: ಪ್ರತಿ-ಕಾರ್ಯಸ್ಥಳ ಅಥವಾ ಪ್ರತಿ-ಚಾಟ್ ಡೀಫಾಲ್ಟ್‌ಗಳನ್ನು ಹೊಂದಿಸಿ (ಉದಾಹರಣೆಗೆ, ಬ್ರೈನ್‌ಸ್ಟಾರ್ಮಿಂಗ್‌ಗಾಗಿ ವೇಗದ ಸ್ಥಳೀಯ, ಅಂತಿಮ ನಕಲಿಗಾಗಿ ನಿಖರವಾದ ಕ್ಲೌಡ್).

ಮಾದರಿ ಕಾರ್ಡ್‌ಗಳು: ಪ್ರತಿ ಮಾದರಿಯು ಏನು ಉತ್ತಮವಾಗಿ ಮಾಡುತ್ತದೆ ಎಂಬುದನ್ನು ದಾಖಲಿಸಿ - "ಕೋಡ್‌ಗಾಗಿ ಅನ್ನು ಬಳಸಿ, ಸಂಕ್ಷಿಪ್ತ ಸಾರಾಂಶಗಳಿಗಾಗಿ ಅನ್ನು ಬಳಸಿ."

ಬ್ಯಾಚ್ ಕಾರ್ಯಗಳು: ಪುನರಾವರ್ತಿತ ಕಾರ್ಯಗಳಿಗಾಗಿ ದೀರ್ಘವಾದ ಸಿಸ್ಟಮ್ ಪ್ರಾಂಪ್ಟ್‌ಗಳು ಮತ್ತು ರಚನಾತ್ಮಕ ಔಟ್‌ಪುಟ್ (JSON, ಪರಿಶೀಲನಾಪಟ್ಟಿಗಳು) ಬಳಸಿ, ಉದಾಹರಣೆಗೆ ಪರಿಶೀಲನೆಗಳು, ಅನುವಾದ ಅಥವಾ ಟ್ಯಾಗಿಂಗ್.

ನಿರ್ವಾಹಕ ಸೆಟ್ಟಿಂಗ್‌ಗಳು: ಭದ್ರತೆ ಮತ್ತು ಆಡಳಿತ

ನೀವು ತಂಡಕ್ಕಾಗಿ ಸ್ವಯಂ-ಹೋಸ್ಟ್ ಮಾಡುತ್ತಿದ್ದರೆ, ನಿಮ್ಮ ಉದಾಹರಣೆಯನ್ನು ಗಟ್ಟಿಗೊಳಿಸಲು ಮತ್ತು ನಿರ್ವಹಿಸಲು ಕೆಲವು ನಿಮಿಷಗಳನ್ನು ತೆಗೆದುಕೊಳ್ಳಿ.

ದೃಢೀಕರಣ: ಸೈನ್-ಇನ್ ಅಗತ್ಯವಿದೆ. ಲಭ್ಯವಿದ್ದರೆ, ಅನ್ನು ಸಕ್ರಿಯಗೊಳಿಸಿ.

API ಕೀ ನೀತಿಗಳು: ಯಾವ ಪೂರೈಕೆದಾರರನ್ನು ಬಳಸಬಹುದು ಎಂಬುದನ್ನು ಮಿತಿಗೊಳಿಸಿ, ಬಳಕೆದಾರ/ಪಾತ್ರದ ಮೂಲಕ ಸ್ಕೋಪ್ ಕೀಗಳನ್ನು ಮಾಡಿ ಮತ್ತು ಸೂಕ್ತವಾದಲ್ಲಿ ಹೊರಹರಿವನ್ನು ನಿರ್ಬಂಧಿಸಿ.

ಪರಿಸರ ವೇರಿಯೇಬಲ್‌ಗಳು: ಮಾದರಿ ಎಂಡ್‌ಪಾಯಿಂಟ್ ಗಳು, ಎಂಬೆಡಿಂಗ್ ಬ್ಯಾಕೆಂಡ್‌ಗಳು ಮತ್ತು ಪರಿಸರ ಸೆಟ್ಟಿಂಗ್‌ಗಳ ಮೂಲಕ ಕೀ ನಿರ್ಬಂಧಗಳಂತಹ ವಿಷಯಗಳನ್ನು ಕಾನ್ಫಿಗರ್ ಮಾಡಿ.

ದರ ಮಿತಿಗಳು ಮತ್ತು ಕೋಟಾಗಳು: ಪ್ರತಿ-ಬಳಕೆದಾರ ಅಥವಾ ಪ್ರತಿ-ಕಾರ್ಯಸ್ಥಳ ಮಿತಿಗಳೊಂದಿಗೆ ಅನಿಯಂತ್ರಿತ ವೆಚ್ಚಗಳನ್ನು ತಡೆಯಿರಿ.

ಲೆಕ್ಕಪರಿಶೋಧನೆ: ನಿರ್ಧಾರಗಳನ್ನು ಟ್ರೇಸ್ ಮಾಡಲು ಸಾಧ್ಯವಾಗುವಂತೆ ಚಾಟ್‌ಗಳನ್ನು ಲೇಬಲ್ ಮಾಡಲು ಮತ್ತು ಸಾರಾಂಶಗಳನ್ನು ಸಂಗ್ರಹಿಸಲು ತಂಡಗಳನ್ನು ಪ್ರೋತ್ಸಾಹಿಸಿ.

ಡೆವ್ ಸಲಹೆ: ಅನ್ನು ರಿವರ್ಸ್ ಪ್ರಾಕ್ಸಿ (ಉದಾಹರಣೆಗೆ, ) ಯ ಹಿಂದೆ ನೊಂದಿಗೆ ಇರಿಸಿ ಮತ್ತು ಅನುಮತಿಸಲಾದ ಮೂಲಗಳನ್ನು ಹೊಂದಿಸಿ.

ತಂಡದ ಸಹಯೋಗ ಮತ್ತು ಜ್ಞಾನದ ನೈರ್ಮಲ್ಯ

ಹಂಚಿಕೆಯ ಪ್ರಾಂಪ್ಟ್‌ಗಳು ಮತ್ತು <b>KB</b> ಗಳು: ಕ್ಯುರೇಟೆಡ್ ಪ್ರಾಂಪ್ಟ್ ಲೈಬ್ರರಿಗಳು ಮತ್ತು ಜ್ಞಾನದ ನೆಲೆಗಳನ್ನು ರಚಿಸಿ. ನಿರ್ವಾಹಕರನ್ನು ನಿಯೋಜಿಸಿ.

ವಿಷಯವನ್ನು ಆವೃತ್ತಿ ಮಾಡಿ: ನೀತಿ ಡಾಕ್ಸ್ ಅಥವಾ ವಿಶೇಷಣಗಳಿಗಾಗಿ, ಮೂಲಗಳನ್ನು ಅಥವಾ ಡಾಕ್ ಹಬ್‌ನಲ್ಲಿ ಸಂಗ್ರಹಿಸಿ ಮತ್ತು ನವೀಕರಿಸಿದಾಗ ಮರು-ಎಂಬೆಡ್ ಮಾಡಿ.

ಮೂಲ-ಮೊದಲ ಉತ್ತರಗಳು: ಉಲ್ಲೇಖಗಳನ್ನು ಕ್ಲಿಕ್ ಮಾಡಲು ಮತ್ತು ಮೂಲ ಡಾಕ್ಸ್‌ಗಳನ್ನು ಸ್ಕ್ಯಾನ್ ಮಾಡಲು ಬಳಕೆದಾರರನ್ನು ಪ್ರೋತ್ಸಾಹಿಸಿ. ನಂಬಿರಿ, ಆದರೆ ಪರಿಶೀಲಿಸಿ.

ದೈನಂದಿನ ಬಳಕೆಯ ಪ್ರಕರಣಗಳು (ಇವುಗಳನ್ನು ನಕಲಿಸಿ)

ವಿಷಯ ಮತ್ತು ಮಾರ್ಕೆಟಿಂಗ್

ಸಂಕ್ಷಿಪ್ತವನ್ನು ಮೂರು ಪ್ರೇಕ್ಷಕ-ನಿರ್ದಿಷ್ಟ ಕರಡುಗಳಾಗಿ ಪರಿವರ್ತಿಸಿ.

ರೂಪರೇಖೆಗಳು, ಗಳು ಮತ್ತು ಶೀರ್ಷಿಕೆಗಳನ್ನು ರಚಿಸಿ.

ಇಂಜಿನಿಯರಿಂಗ್

ಕಾರ್ಯವನ್ನು ವಿವರಿಸಿ ಮತ್ತು ಅಂಚಿನ-ಪ್ರಕರಣ ಪರೀಕ್ಷೆಗಳನ್ನು ರಚಿಸಿ.

ಗಳನ್ನು ಸಾರಾಂಶಗೊಳಿಸಿ ಮತ್ತು ಬಿಡುಗಡೆ ಟಿಪ್ಪಣಿಗಳನ್ನು ಉತ್ಪಾದಿಸಿ.

ಆಪ್ಸ್ ಮತ್ತು ಬೆಂಬಲ

ರನ್‌ಬುಕ್‌ಗಳು ಮತ್ತು ಗಳಿಂದ ಅನ್ನು ನಿರ್ಮಿಸಿ.

ನಿಮ್ಮ ಟೋನ್/ಶೈಲಿಯ ಮಾರ್ಗದರ್ಶಿಯನ್ನು ಬಳಸಿ ಪ್ರತಿಕ್ರಿಯೆಗಳನ್ನು ಕರಡು ಮಾಡಿ.

ಸಂಶೋಧನೆ ಮತ್ತು ತಂತ್ರ

ಉಲ್ಲೇಖಗಳೊಂದಿಗೆ 10 ದಾಖಲೆಗಳನ್ನು 1-ಪುಟಕ್ಕೆ ಸಾರಾಂಶಗೊಳಿಸಿ.

ರಚನಾತ್ಮಕ ಮ್ಯಾಟ್ರಿಕ್ಸ್ ಬಳಸಿ ಮಾರಾಟಗಾರರನ್ನು ಹೋಲಿಕೆ ಮಾಡಿ.

ನಿವಾರಣೆ: ತ್ವರಿತ ಪರಿಹಾರಗಳು

" ಗೆ ಸಂಪರ್ಕಿಸಲು ಸಾಧ್ಯವಿಲ್ಲ"

ಚಾಲನೆಯಲ್ಲಿದೆಯೇ ಎಂದು ಪರಿಶೀಲಿಸಿ: `curl

ಕಂಟೇನರ್‌ನಿಂದ ಹೋಸ್ಟ್‌ಗೆ ನೆಟ್‌ವರ್ಕ್ ಪ್ರವೇಶವನ್ನು ಪರಿಶೀಲಿಸಿ.

"ಮಾದರಿ ಕಂಡುಬಂದಿಲ್ಲ"

ಮೂಲಕ ಮಾದರಿಯನ್ನು ಎಳೆಯಿರಿ: ollama pull mistral

ಕ್ಲೌಡ್‌ಗಾಗಿ, ನಿಖರವಾದ ಮಾದರಿ ಹೆಸರು ಮತ್ತು ಅನುಮತಿಗಳನ್ನು ದೃಢೀಕರಿಸಿ.

" ಫಲಿತಾಂಶಗಳು ಅಪ್ರಸ್ತುತವಾಗಿ ಕಾಣುತ್ತವೆ"

ಉತ್ತಮ ಎಂಬೆಡಿಂಗ್ ಮಾದರಿಯೊಂದಿಗೆ ಮರು-ಎಂಬೆಡ್ ಮಾಡಿ.

ಚಂಕ್ ಗಾತ್ರವನ್ನು ಹೊಂದಿಸಿ (ಉದಾಹರಣೆಗೆ, 500–1,000 ಟೋಕನ್‌ಗಳು) ಮತ್ತು ಓವರ್‌ಲ್ಯಾಪ್.

ನಿಮ್ಮ ಅನ್ನು ಚಿಕ್ಕದಾದ, ವಿಷಯಾಧಾರಿತ ಸಂಗ್ರಹಣೆಗಳಾಗಿ ವಿಭಜಿಸಿ.

"ವೆಚ್ಚಗಳು ಹೆಚ್ಚಾಗುತ್ತಿವೆ"

ದರ ಮಿತಿಗಳನ್ನು ಹೊಂದಿಸಿ ಮತ್ತು ಕರಡುಗಳಿಗಾಗಿ ಸ್ಥಳೀಯ ಮಾದರಿಗಳಿಗೆ ಡೀಫಾಲ್ಟ್ ಮಾಡಿ.

ಕಾರ್ಯಕ್ಷಮತೆ ಸಲಹೆಗಳು ಮತ್ತು ಸುಧಾರಿತ ಕ್ರಮಗಳು

ಆಲೋಚನೆಗೆ ಚಿಕ್ಕ ಸ್ಥಳೀಯ ಮಾದರಿಗಳನ್ನು ಮತ್ತು ಅಂತಿಮಗೊಳಿಸುವಿಕೆಗಾಗಿ ದೊಡ್ಡ/ಕ್ಲೌಡ್ ಮಾದರಿಗಳನ್ನು ಬಳಸಿ.

ಸಾಧ್ಯವಾದಾಗ ಆಗಾಗ್ಗೆ ಪ್ರಾಂಪ್ಟ್‌ಗಳು ಮತ್ತು ಪ್ರತಿಕ್ರಿಯೆಗಳನ್ನು ಸಂಗ್ರಹಿಸಿ.

ಕೆಳಗಿನ ಹಂತದ ಯಾಂತ್ರೀಕರಣಗಳಿಗಾಗಿ ರಚನಾತ್ಮಕ ಔಟ್‌ಪುಟ್‌ಗಳನ್ನು (JSON, ಬುಲೆಟ್ ಪರಿಶೀಲನಾಪಟ್ಟಿಗಳು) ಅಳವಡಿಸಿಕೊಳ್ಳಿ.

ಸೂಕ್ಷ್ಮ ಡೇಟಾಕ್ಕಾಗಿ, ಎಲ್ಲವನ್ನೂ ಸ್ಥಳೀಯವಾಗಿ ಇರಿಸಿ ( + ಸ್ಥಳೀಯ ಎಂಬೆಡಿಂಗ್‌ಗಳು + ಆನ್-ಪ್ರಿಮ್ ಸಂಗ್ರಹಣೆ).

ಸ್ವರ, ಫಾರ್ಮ್ಯಾಟಿಂಗ್ ಮತ್ತು ಗಾರ್ಡ್‌ರೈಲ್‌ಗಳನ್ನು ವ್ಯಾಖ್ಯಾನಿಸಲು ಸಿಸ್ಟಮ್ ಪ್ರಾಂಪ್ಟ್‌ಗಳನ್ನು ಬಳಸಿ.

ಗಮನಿಸಬೇಕಾದ ಅಂಶ: ಅನ್ನು ನೊಂದಿಗೆ ಜೋಡಿಸುವುದು

ನೀವು ಬಹಳಷ್ಟು ವಿಷಯವನ್ನು ಉತ್ಪಾದಿಸಿದರೆ ಅಥವಾ ಸಂಶೋಧನೆ ಮಾಡಿದರೆ, ಕಾರ್ಯವಿಧಾನದ ಸಹಾಯಕವು ಸಹಾಯ ಮಾಡಬಹುದು. ಗಮನಿಸಬೇಕಾದ ಅಂಶ: ದೀರ್ಘ-ರೂಪದ ಕೆಲಸವನ್ನು ಕರಡು ಮಾಡಲು, ಸಾರಾಂಶಗೊಳಿಸಲು ಮತ್ತು ಸಂಘಟಿಸಲು ಸಹಾಯ ಮಾಡುತ್ತದೆ. ನೀವು ನಲ್ಲಿ ಸಂದರ್ಭವನ್ನು ಆಲೋಚಿಸಬಹುದು ಅಥವಾ ಹಿಂಪಡೆಯಬಹುದು, ನಂತರ ಪ್ರಕಟಣೆಗಾಗಿ ಲೇಖನಗಳನ್ನು ಪಾಲಿಶ್ ಮಾಡಲು, ಪುನರ್ರಚಿಸಲು ಮತ್ತು -ಆಪ್ಟಿಮೈಜ್ ಮಾಡಲು ನ ಸಂಪಾದಕ-ಶೈಲಿಯ ಸಹಾಯವನ್ನು ಬಳಸಬಹುದು. ನೀವು ನಿಯಂತ್ರಣವನ್ನು (ಸ್ವಯಂ-ಹೋಸ್ಟ್ ಮಾಡಿದ ಚಾಟ್ + ) ಮತ್ತು ವೇಗವನ್ನು (ಸಹಯೋಗದ ಸಂಪಾದನೆ ಮತ್ತು ಆಪ್ಟಿಮೈಸೇಶನ್) ಎರಡನ್ನೂ ಬಯಸಿದಾಗ ಇದು ಸಹಾಯಕ ಜೋಡಿಯಾಗಿದೆ.

ಸರಳ ಆರಂಭಿಕ ನೀಲನಕ್ಷೆ

ಮೂಲಕ ಅನ್ನು ಚಲಾಯಿಸಿ.

ಅನ್ನು ಸ್ಥಾಪಿಸಿ, llama3 ಮತ್ತು mistral ಅನ್ನು ಎಳೆಯಿರಿ.

ಅನ್ನು ಸಂಪರ್ಕಿಸಿ ಮತ್ತು ಹೊಂದಿಸಿmistral` ಅನ್ನು ಚಾಟ್‌ನ ಡೀಫಾಲ್ಟ್ ಆಗಿ.

ಗಳನ್ನು ರಚಿಸಿ: ನೀತಿಗಳು, ಮಾರ್ಕೆಟಿಂಗ್, ರನ್‌ಬುಕ್‌ಗಳು; ಬಲವಾದ ಎಂಬೆಡಿಂಗ್ ಮಾದರಿಯೊಂದಿಗೆ ಎಂಬೆಡ್ ಮಾಡಿ.

ಮೂರು ಪ್ರಾಂಪ್ಟ್ ಟೆಂಪ್ಲೇಟ್‌ಗಳನ್ನು ಉಳಿಸಿ: "ಬುಲೆಟ್‌ಗಳೊಂದಿಗೆ ಸಾರಾಂಶಕಾರ", " ರೂಪರೇಖೆ ಜನರೇಟರ್" ಮತ್ತು "ಬಿಡುಗಡೆ ಟಿಪ್ಪಣಿ ಬರಹಗಾರ".

ದರ ಮಿತಿಗಳನ್ನು ಸೇರಿಸಿ ಮತ್ತು ಲಾಗಿನ್ ಅಗತ್ಯವಿದೆ.

ಈ ಸೆಟಪ್‌ನೊಂದಿಗೆ, ಹೆಚ್ಚಿನ ತಂಡಗಳು ದೈನಂದಿನ ಕಾರ್ಯಗಳ 80% ಅನ್ನು ಒಳಗೊಳ್ಳಬಹುದು.

ಪ್ರಮುಖ ಮುಖ್ಯಾಂಶಗಳು

ಸ್ಥಳೀಯ ಮತ್ತು ಕ್ಲೌಡ್ ಗಳೊಂದಿಗೆ ಕೆಲಸ ಮಾಡಲು ನಿಮಗೆ ಸ್ವಚ್ಛವಾದ, ನಿಯಂತ್ರಿಸಬಹುದಾದ <b>UI</b> ಅನ್ನು ನೀಡುತ್ತದೆ.

ಗೌಪ್ಯತೆ ಮತ್ತು ವೇಗಕ್ಕಾಗಿ, ಅದನ್ನು ಸ್ಥಳೀಯವಾಗಿ Ollama ನೊಂದಿಗೆ ಜೋಡಿಸಿ; ಅಗತ್ಯವಿದ್ದಾಗ ಕ್ಲೌಡ್ ಮಾದರಿಗಳನ್ನು ಸೇರಿಸಿ.

ನಿಮ್ಮ ಡಾಕ್ಯುಮೆಂಟ್‌ಗಳಲ್ಲಿ ಉತ್ತರಗಳನ್ನು ಆಧಾರವಾಗಿಡಲು RAG ಅನ್ನು ಬಳಸಿ; ಗಳನ್ನು ಚಿಕ್ಕದಾಗಿ ಮತ್ತು ಕೇಂದ್ರೀಕೃತವಾಗಿ ಇರಿಸಿ.

ದೃಢೀಕರಣ, ಕೀ ನೀತಿಗಳು ಮತ್ತು ದರ ಮಿತಿಗಳೊಂದಿಗೆ ನಿಮ್ಮ ಉದಾಹರಣೆಯನ್ನು ಸುರಕ್ಷಿತಗೊಳಿಸಿ.

ನಿಮ್ಮ ತಂಡದ ಕೆಲಸವು ಸ್ಥಿರ ಮತ್ತು ಸ್ವಯಂಚಾಲಿತವಾಗುವಂತೆ ಪ್ರಾಂಪ್ಟ್‌ಗಳು ಮತ್ತು ಔಟ್‌ಪುಟ್‌ಗಳನ್ನು ಪ್ರಮಾಣೀಕರಿಸಿ.

ಮುಂದಿನ ಹಂತಗಳು

ನೊಂದಿಗೆ ಅನ್ನು ಪ್ರಾರಂಭಿಸಿ ಮತ್ತು ಗೆ ಸಂಪರ್ಕಪಡಿಸಿ.

ನಿಮ್ಮ ಮೊದಲ ಜ್ಞಾನದ ಆಧಾರವನ್ನು ರಚಿಸಿ ಮತ್ತು ಹಿಂಪಡೆಯುವಿಕೆ-ಬೆಂಬಲಿತ ಚಾಟ್ ಅನ್ನು ಪ್ರಯತ್ನಿಸಿ.

ನಿಮ್ಮ ತಂಡವು ಪ್ರತಿದಿನ ಮರುಬಳಕೆ ಮಾಡುವ ಮೂರು ಪ್ರಾಂಪ್ಟ್ ಟೆಂಪ್ಲೇಟ್‌ಗಳನ್ನು ಉಳಿಸಿ.

ನೀವು ವಿಷಯವನ್ನು ಪ್ರಕಟಿಸಿದರೆ, ಲೈವ್ ಆಗುವ ಮೊದಲು ಟೋನ್, ರಚನೆ ಮತ್ತು ಅನ್ನು ಪರಿಷ್ಕರಿಸಲು ಕರಡುಗಳನ್ನು ಮೂಲಕ ರವಾನಿಸಿ.

ಪ್ರಶ್ನೆ 1: ಅನ್ನು ಯಾವುದಕ್ಕಾಗಿ ಬಳಸಲಾಗುತ್ತದೆ? ದೊಡ್ಡ ಭಾಷಾ ಮಾದರಿಗಳಿಗಾಗಿ ಸ್ವಯಂ-ಹೋಸ್ಟ್ ಮಾಡಿದ ಇಂಟರ್ಫೇಸ್ ಆಗಿದೆ. ಇದು ಸ್ಥಳೀಯ ಅಥವಾ ಕ್ಲೌಡ್ ಮಾದರಿಗಳೊಂದಿಗೆ ಚಾಟ್ ಮಾಡಲು, ನಿಮ್ಮ ಡಾಕ್ಯುಮೆಂಟ್‌ಗಳೊಂದಿಗೆ ಕಾರ್ಯವಿಧಾನಗಳನ್ನು ನಿರ್ಮಿಸಲು ಮತ್ತು ಪ್ರಾಂಪ್ಟ್‌ಗಳು ಮತ್ತು ತಂಡಗಳನ್ನು ಒಂದೇ ಸ್ಥಳದಲ್ಲಿ ನಿರ್ವಹಿಸಲು ನಿಮಗೆ ಅನುಮತಿಸುತ್ತದೆ.

ಪ್ರಶ್ನೆ 2: ದೊಂದಿಗೆ ಅನ್ನು ನಾನು ಹೇಗೆ ಬಳಸುವುದು? ಅನ್ನು ಸ್ಥಾಪಿಸಿ, llama3 ಅಥವಾ mistral ನಂತಹ ಮಾದರಿಯನ್ನು ಎಳೆಯಿರಿ, ತದನಂತರ ನ ಸಂಪರ್ಕವನ್ನು http://localhost:11434 ಗೆ ಪಾಯಿಂಟ್ ಮಾಡಿ. ನೀವು ಡೀಫಾಲ್ಟ್ ಮಾದರಿಯನ್ನು ಹೊಂದಿಸಬಹುದು ಮತ್ತು ಸಂಪೂರ್ಣ ಗೌಪ್ಯತೆಯೊಂದಿಗೆ ಸ್ಥಳೀಯವಾಗಿ ಚಾಟ್ ಮಾಡಲು ಪ್ರಾರಂಭಿಸಬಹುದು.

ಪ್ರಶ್ನೆ 3: ನನ್ನ ಗಳು ಮತ್ತು ಟಿಪ್ಪಣಿಗಳೊಂದಿಗೆ ಅನ್ನು ಮಾಡಬಹುದೇ? ಹೌದು. ಜ್ಞಾನದ ಆಧಾರವನ್ನು ರಚಿಸಿ, ಡಾಕ್ಯುಮೆಂಟ್‌ಗಳನ್ನು ಅಪ್‌ಲೋಡ್ ಮಾಡಿ, ಎಂಬೆಡಿಂಗ್‌ಗಳನ್ನು ರಚಿಸಿ ಮತ್ತು ಚಾಟ್‌ನಲ್ಲಿ ಹಿಂಪಡೆಯುವಿಕೆಯನ್ನು ಸಕ್ರಿಯಗೊಳಿಸಿ. ಮಾದರಿಯು ಆಧಾರಿತ ಉತ್ತರಗಳಿಗಾಗಿ ನಿಮ್ಮ ಸ್ವಂತ ಮೂಲಗಳಿಂದ ಉಲ್ಲೇಖಿಸುತ್ತದೆ ಮತ್ತು ಸಾರಾಂಶಗೊಳಿಸುತ್ತದೆ.

ಪ್ರಶ್ನೆ 4: ತಂಡಗಳಿಗೆ ಸುರಕ್ಷಿತವಾಗಿದೆಯೇ? ನೀವು ಸೈನ್-ಇನ್ ಅನ್ನು ಜಾರಿಗೊಳಿಸಬಹುದು, ಪಾತ್ರದ ಮೂಲಕ ಕೀಗಳನ್ನು ನಿರ್ವಹಿಸಬಹುದು ಮತ್ತು ದರ ಮಿತಿಗಳನ್ನು ಹೊಂದಿಸಬಹುದು. ಉತ್ಪಾದನೆಗಾಗಿ, ರಿವರ್ಸ್ ಪ್ರಾಕ್ಸಿ ಹಿಂದೆ ಬಳಸಿ ಮತ್ತು ಯಾವ ಪೂರೈಕೆದಾರರು ಅಥವಾ ಎಂಡ್‌ಪಾಯಿಂಟ್‌ಗಳಿಗೆ ಅನುಮತಿಸಲಾಗಿದೆ ಎಂಬುದನ್ನು ನಿರ್ಬಂಧಿಸಿ.

ಪ್ರಶ್ನೆ 5: ನಾನು ನಲ್ಲಿ ಸ್ಥಳೀಯ ಅಥವಾ ಕ್ಲೌಡ್ ಮಾದರಿಗಳನ್ನು ಬಳಸಬೇಕೇ? ಗೌಪ್ಯತೆ, ವೇಗ ಮತ್ತು ವೆಚ್ಚ ನಿಯಂತ್ರಣಕ್ಕಾಗಿ ಸ್ಥಳೀಯ ಮಾದರಿಗಳನ್ನು ಬಳಸಿ; ಹೆಚ್ಚಿನ ಗುಣಮಟ್ಟದ ಅಗತ್ಯವಿರುವ ಸಂಕೀರ್ಣ ಕಾರ್ಯಗಳಿಗಾಗಿ ಕ್ಲೌಡ್ ಮಾದರಿಗಳನ್ನು ಬಳಸಿ. ಅನೇಕ ತಂಡಗಳು ಎರಡನ್ನೂ ಸಂಯೋಜಿಸುತ್ತವೆ ಮತ್ತು ಚಾಟ್-ನಿರ್ದಿಷ್ಟ ಡೀಫಾಲ್ಟ್‌ಗಳನ್ನು ಹೊಂದಿಸುತ್ತವೆ.