What is RAGFlow and how do I use it for document QA?

RAGFlow is a framework for building retrieval-augmented generation pipelines. You ingest, chunk, embed, retrieve, and generate answers with citations to reduce hallucinations and improve accuracy.

How should I chunk documents in RAGFlow?

Use semantic or hybrid chunking with 600–1,000 token chunks and 50–100 token overlap. For code, chunk by function or class and include surrounding context.

Which vector database works best with RAGFlow?

Choose a store that supports hybrid search, metadata filters, and reranking—Qdrant, Weaviate, Pinecone, or a local option are all common choices.

How do I prevent hallucinations in a RAGFlow app?

Enforce a cite‑or‑silence policy, add an answerability check before generation, and keep prompts strict about using only retrieved context.

What metrics should I track to evaluate RAGFlow?

Monitor retrieval hit rate, answer faithfulness, latency, and cost per 100 queries, and maintain a small but representative evaluation set.

RAGFlow ಅನ್ನು ಹೇಗೆ ಬಳಸುವುದು: ವಿಶ್ವಾಸಾರ್ಹ RAG ಅಪ್ಲಿಕೇಶನ್‌ಗಳನ್ನು ನಿರ್ಮಿಸಲು ಒಂದು ಪ್ರಾಯೋಗಿಕ ಮಾರ್ಗದರ್ಶಿ

ನೀವು ರಿಟ್ರೈವಲ್-ಆಗ್ಮೆಂಟೆಡ್ ಜನರೇಷನ್ (RAG) ಸಿಸ್ಟಮ್ ಅನ್ನು ನಿರ್ಮಿಸಲು ಪ್ರಯತ್ನಿಸಿದ್ದರೆ, ನೀವು ಬಹುಶಃ ಕ್ಲಾಸಿಕ್ ಸಮಸ್ಯೆಗಳನ್ನು ಎದುರಿಸಿರಬಹುದು: ಭ್ರಮೆಗಳು (hallucinations), ವಿಶ್ವಾಸಾರ್ಹವಲ್ಲದ ರಿಟ್ರೈವಲ್, ನಿಧಾನಗತಿಯ ಪೈಪ್‌ಲೈನ್‌ಗಳು ಮತ್ತು ಗೊಂದಲಮಯ ಡಾಕ್ಯುಮೆಂಟ್ ಪ್ರಿಪ್ರೊಸೆಸಿಂಗ್. RAGFlow ಒಂದು ಎಂಡ್-ಟು-ಎಂಡ್ ವರ್ಕ್‌ಫ್ಲೋ ಟೂಲ್ ಆಗಿದ್ದು, ಇದು ಡಾಕ್ಯುಮೆಂಟ್ ಇಂಜೆಕ್ಷನ್, ಚಂಕಿಂಗ್, ವೆಕ್ಟರೈಸೇಶನ್, ರಿಟ್ರೈವಲ್ ಮತ್ತು ಜನರೇಷನ್ ಅನ್ನು ಹೆಚ್ಚು ನಿಯಂತ್ರಣ ಮತ್ತು ವೀಕ್ಷಣೆಯೊಂದಿಗೆ ಸಂಘಟಿಸಲು ನಿಮಗೆ ಸಹಾಯ ಮಾಡುತ್ತದೆ.

ಈ ಮಾರ್ಗದರ್ಶಿ ಪ್ರಾಯೋಗಿಕ ಮತ್ತು ಪರಿಹಾರ-ಆಧಾರಿತ ವಿಧಾನವನ್ನು ಅನುಸರಿಸುತ್ತದೆ. ನಾವು ಒಂದು ಸ್ಪಷ್ಟವಾದ ಸೆಟಪ್ ಮೂಲಕ ನಿಮಗೆ ತಿಳಿಸುತ್ತೇವೆ, ನೈಜ ಡಾಕ್ಯುಮೆಂಟ್‌ಗಳಿಗಾಗಿ RAGFlow ಅನ್ನು ಹೇಗೆ ಬಳಸುವುದು ಎಂದು ತೋರಿಸುತ್ತೇವೆ ಮತ್ತು ಭ್ರಮೆಗಳನ್ನು (hallucinations) ಕಡಿಮೆ ಮಾಡಲು ಮತ್ತು ಉತ್ತರದ ಗುಣಮಟ್ಟವನ್ನು ಸುಧಾರಿಸಲು ಸಹಾಯ ಮಾಡುವ ಮಾದರಿಗಳನ್ನು ಹಂಚಿಕೊಳ್ಳುತ್ತೇವೆ.

RAGFlow ಎಂದರೇನು ಮತ್ತು ಅದನ್ನು ಏಕೆ ಬಳಸಬೇಕು?

RAGFlow ಎನ್ನುವುದು ರಿಟ್ರೈವಲ್-ಆಗ್ಮೆಂಟೆಡ್ ಜನರೇಷನ್ ಪೈಪ್‌ಲೈನ್‌ಗಳನ್ನು ನಿರ್ಮಿಸುವ ವ್ಯವಸ್ಥೆಯಾಗಿದೆ. ಒಂದು ಮಾದರಿ RAG ಸೆಟಪ್‌ನಲ್ಲಿ, ನೀವು:

ಡಾಕ್ಯುಮೆಂಟ್‌ಗಳನ್ನು ಇಂಜೆಸ್ಟ್ ಮಾಡಿ (PDF ಗಳು, ವೆಬ್ ಪುಟಗಳು, ಸ್ಲೈಡ್‌ಗಳು, ಕೋಡ್, ಇತ್ಯಾದಿ)

ರಿಟ್ರೈವ್ ಮಾಡಬಹುದಾದ ಘಟಕಗಳಾಗಿ ವಿಷಯವನ್ನು ಚಂಕ್ ಮಾಡಿ

ಸೆಮ್ಯಾಂಟಿಕ್ ಸರ್ಚ್‌ಗಾಗಿ ಚಂಕ್‌ಗಳನ್ನು ವೆಕ್ಟರ್‌ಗಳಾಗಿ ಎಂಬೆಡ್ ಮಾಡಿ

ಪ್ರಶ್ನೆ ಕೇಳುವ ಸಮಯದಲ್ಲಿ ಟಾಪ್-k ಸಂಬಂಧಿತ ಚಂಕ್‌ಗಳನ್ನು ರಿಟ್ರೈವ್ ಮಾಡಿ

LLM ಅನ್ನು ಬಳಸಿಕೊಂಡು ಆಧಾರಿತ ಉತ್ತರವನ್ನು ಉತ್ಪಾದಿಸಿ

RAGFlow ಅಭಿಪ್ರಾಯಯುಕ್ತ ಡೀಫಾಲ್ಟ್‌ಗಳು, ವರ್ಕ್‌ಫ್ಲೋ ಬ್ಲಾಕ್‌ಗಳು ಮತ್ತು ಗಾರ್ಡ್‌ರೈಲ್‌ಗಳನ್ನು ಸೇರಿಸುತ್ತದೆ, ಇದರಿಂದ ನೀವು ವೇಗವಾಗಿ ಪುನರಾವರ್ತಿಸಬಹುದು ಮತ್ತು ಹೆಚ್ಚು ವಿಶ್ವಾಸಾರ್ಹ ಅಪ್ಲಿಕೇಶನ್‌ಗಳನ್ನು ತಲುಪಿಸಬಹುದು. ನೀವು ಈ ಕೆಳಗಿನವುಗಳನ್ನು ಬಯಸಿದರೆ ಇದು ವಿಶೇಷವಾಗಿ ಉಪಯುಕ್ತವಾಗಿದೆ:

ಸ್ಥಿರವಾದ ಚಂಕಿಂಗ್ ಮತ್ತು ಮೆಟಾಡೇಟಾ: ಉತ್ತಮ ಚಂಕ್‌ಗಳೊಂದಿಗೆ ಉತ್ತಮ ರಿಟ್ರೈವಲ್ ಪ್ರಾರಂಭವಾಗುತ್ತದೆ.

ಪ್ಲಗ್ಗೇಬಲ್ ಎಂಬೆಡಿಂಗ್‌ಗಳು ಮತ್ತು LLM ಗಳು: OpenAI, ಸ್ಥಳೀಯ ಮಾದರಿಗಳು ಅಥವಾ ಎಂಟರ್‌ಪ್ರೈಸ್ ಎಂಡ್‌ಪಾಯಿಂಟ್‌ಗಳನ್ನು ಬದಲಾಯಿಸಿ.

ಮೌಲ್ಯಮಾಪನಗಳು ಮತ್ತು ಗಾರ್ಡ್‌ರೈಲ್‌ಗಳು: ರಿಟ್ರೈವಲ್ ಗುಣಮಟ್ಟವನ್ನು ಅಳೆಯಿರಿ ಮತ್ತು ಭ್ರಮೆಗಳನ್ನು (hallucinations) ಕಡಿಮೆ ಮಾಡಿ.

ನಿಯೋಜಿಸಬಹುದಾದ ಪೈಪ್‌ಲೈನ್‌ಗಳು: ಕಡಿಮೆ ಪುನಃ ಬರೆಯುವಿಕೆಯೊಂದಿಗೆ ನೋಟ್‌ಬುಕ್‌ನಿಂದ ಉತ್ಪಾದನೆಗೆ ಸರಿಸಿ.

ತ್ವರಿತ ಪ್ರಾರಂಭ: ಶೂನ್ಯದಿಂದ ಕಾರ್ಯನಿರ್ವಹಿಸುವ RAGFlow ಪೈಪ್‌ಲೈನ್‌ಗೆ

ಕೆಳಗೆ ನೀವು ಅಳವಡಿಸಿಕೊಳ್ಳಬಹುದಾದ ಕನಿಷ್ಠ, ಎಂಡ್-ಟು-ಎಂಡ್ ವರ್ಕ್‌ಫ್ಲೋ ಇದೆ. ನಿಮ್ಮ ಪರಿಸರವು ಬೇರೆಯಾಗಿದ್ದರೂ ಸಹ, ಅನುಕ್ರಮ ಮತ್ತು ಗಾರ್ಡ್‌ರೈಲ್‌ಗಳು ಸಾಗಿಸಲು ಸಾಧ್ಯವಾಗುತ್ತದೆ.

1) ನಿಮ್ಮ ಪರಿಸರವನ್ನು ಸಿದ್ಧಪಡಿಸಿ

ನಿಮ್ಮ ಕೀಗಳೊಂದಿಗೆ .env ಅನ್ನು ರಚಿಸಿ:

OPENAI_API_KEY (ಅಥವಾ ಮತ್ತೊಂದು LLM ಪೂರೈಕೆದಾರ)

EMBEDDINGS_API_KEY (ನೀವು ಬೇರೆ ಪೂರೈಕೆದಾರರನ್ನು ಬಳಸುತ್ತಿದ್ದರೆ)

VECTOR_DB_URL (ಉದಾಹರಣೆಗೆ, Pinecone, Weaviate, Qdrant ಅಥವಾ ಸ್ಥಳೀಯ)

ಒಂದು ಪ್ರಾಜೆಕ್ಟ್ ಡೈರೆಕ್ಟರಿಯನ್ನು ಹೊಂದಿಸಿ, ಉದಾಹರಣೆಗೆ, ragflow-project/ ಫೋಲ್ಡರ್‌ಗಳೊಂದಿಗೆ:

data/raw/ (ಮೂಲ ಕಡತಗಳು)

data/processed/ (ಸ್ವಚ್ಛಗೊಳಿಸಿದ ಚಂಕ್‌ಗಳು)

configs/ (ಪೈಪ್‌ಲೈನ್ ಸೆಟ್ಟಿಂಗ್‌ಗಳಿಗಾಗಿ YAML/JSON)

eval/ (ಡೇಟಾಸೆಟ್‌ಗಳು ಮತ್ತು ವರದಿಗಳು)

2) ಸ್ವಚ್ಛವಾದ ಮೆಟಾಡೇಟಾದೊಂದಿಗೆ ಡಾಕ್ಯುಮೆಂಟ್‌ಗಳನ್ನು ಇಂಜೆಸ್ಟ್ ಮಾಡಿ

ಉತ್ತಮ ಮೆಟಾಡೇಟಾ = ಉತ್ತಮ ರಿಟ್ರೈವಲ್. ಶೀರ್ಷಿಕೆಗಳು, ಲೇಖಕರು, ದಿನಾಂಕಗಳು ಮತ್ತು ಮೂಲಗಳನ್ನು ಸಾಮಾನ್ಯೀಕರಿಸಿ.

PDF ಗಳು ಮತ್ತು ಸ್ಲೈಡ್‌ಗಳನ್ನು ದೃಢವಾದ ಪಾರ್ಸರ್‌ನೊಂದಿಗೆ ಪಠ್ಯಕ್ಕೆ ಪರಿವರ್ತಿಸಿ

ರಚನೆಯನ್ನು ಸಂರಕ್ಷಿಸಿ: ಶೀರ್ಷಿಕೆಗಳು, ಪಟ್ಟಿಗಳು, ಕೋಡ್ ಬ್ಲಾಕ್‌ಗಳು ಮತ್ತು ಟೇಬಲ್‌ಗಳು

ಪ್ರತಿ ಚಂಕ್‌ಗೆ ಮೆಟಾಡೇಟಾವನ್ನು ಲಗತ್ತಿಸಿ: ಮೂಲ, ವಿಭಾಗ, ಪುಟ, ಸಮಯಮುದ್ರೆ, ಆವೃತ್ತಿ

ಸಲಹೆ: ಉಲ್ಲೇಖಗಳು ಮತ್ತು ಪುನಃ-ಇಂಜೆಕ್ಷನ್ ಅನ್ನು ಬೆಂಬಲಿಸಲು doc_id ಮತ್ತು chunk_id ಅನ್ನು ಇಟ್ಟುಕೊಳ್ಳಿ.

3) ನಿಮ್ಮ ವಿಷಯಕ್ಕೆ ಸರಿಹೊಂದುವ ಚಂಕಿಂಗ್ ತಂತ್ರವನ್ನು ಆರಿಸಿ

ಚಂಕಿಂಗ್ ರಿಟ್ರೈವಲ್ ಗುಣಮಟ್ಟ ಮತ್ತು ಲೇಟೆನ್ಸಿಯನ್ನು ಬಲವಾಗಿ ಪರಿಣಾಮ ಬೀರುತ್ತದೆ.

ನಿರೂಪಣಾತ್ಮಕ ಡಾಕ್ಸ್‌ಗಾಗಿ: ಸೆಮ್ಯಾಂಟಿಕ್ ಚಂಕಿಂಗ್ (ಶೀರ್ಷಿಕೆಗಳು/ಪ್ಯಾರಾಗ್ರಾಫ್‌ಗಳಿಂದ ವಿಭಜಿಸಿ)

ತಾಂತ್ರಿಕ ಡಾಕ್ಸ್‌ಗಾಗಿ: ಹೈಬ್ರಿಡ್ ಚಂಕಿಂಗ್ ಬಳಸಿ (ಸೆಮ್ಯಾಂಟಿಕ್ + ಸ್ಥಿರ ವಿಂಡೋ)

ಕೋಡ್‌ಗಾಗಿ: ಫಂಕ್ಷನ್/ಕ್ಲಾಸ್ ಮೂಲಕ ಒಂದು ಸಣ್ಣ ಸ್ಲೈಡಿಂಗ್ ವಿಂಡೋದೊಂದಿಗೆ ಚಂಕ್ ಮಾಡಿ

ಪ್ರಾರಂಭಿಸಲು ಶಿಫಾರಸು ಮಾಡಲಾದ ಸೆಟ್ಟಿಂಗ್‌ಗಳು:

chunk_size: 600-1,000 ಟೋಕನ್‌ಗಳು

chunk_overlap: 50-100 ಟೋಕನ್‌ಗಳು

max_depth: ಫ್ರಾಗ್ಮೆಂಟೇಶನ್ ಅನ್ನು ತಪ್ಪಿಸಲು ನೆಸ್ಟೆಡ್ ವಿಭಾಗಗಳನ್ನು 2-3 ಹಂತಗಳಿಗೆ ಮಿತಿಗೊಳಿಸಿ

4) ಎಂಬೆಡಿಂಗ್‌ಗಳು ಮತ್ತು ವೆಕ್ಟರ್ ಸ್ಟೋರ್ ಅನ್ನು ಆಯ್ಕೆಮಾಡಿ

ಒಂದು ಬಲವಾದ ಸಾಮಾನ್ಯ-ಉದ್ದೇಶದ ಎಂಬೆಡಿಂಗ್ ಮಾದರಿಯೊಂದಿಗೆ ಪ್ರಾರಂಭಿಸಿ (ಉದಾಹರಣೆಗೆ, text-embedding-3-large ಅಥವಾ ಆಧುನಿಕ ಸ್ಥಳೀಯ ಮಾದರಿ). ಗೌಪ್ಯತೆ ಮುಖ್ಯವಾಗಿದ್ದರೆ, ಸ್ವಯಂ-ಹೋಸ್ಟ್ ಮಾಡಿದ ಎಂಬೆಡಿಂಗ್‌ಗಳನ್ನು ಪರಿಗಣಿಸಿ.

ಈ ಕೆಳಗಿನವುಗಳನ್ನು ಬೆಂಬಲಿಸುವ ವೆಕ್ಟರ್ DB ಬಳಸಿ:

ಹೈಬ್ರಿಡ್ ಸರ್ಚ್ (ಡೆನ್ಸ್ + ಕೀವರ್ಡ್)

ಫಿಲ್ಟರ್‌ಗಳು (ಮೆಟಾಡೇಟಾ ನಿರ್ಬಂಧಗಳು)

ಬ್ಯಾಚ್ ಅಪ್‌ಸರ್ಟ್‌ಗಳು ಮತ್ತು ಇಂಡೆಕ್ಸ್ ಮೆಟ್ರಿಕ್ಸ್‌

ಪರೀಕ್ಷಿಸಲು ಇಂಡೆಕ್ಸ್ ಸೆಟ್ಟಿಂಗ್‌ಗಳು:

ಪ್ರಾರಂಭಿಕ ರಿಟ್ರೈವಲ್‌ಗಾಗಿ top_k = 5-10

similarity_metric = cosine (ಅಥವಾ ಕೆಲವು ಮಾದರಿಗಳಿಗೆ ಡಾಟ್)

ಹೆಚ್ಚುವರಿ ಮಾಹಿತಿಯನ್ನು ಕಡಿಮೆ ಮಾಡಲು ಗರಿಷ್ಠ ಕನಿಷ್ಠ ಪ್ರಸ್ತುತತೆ (MMR) ಅನ್ನು ಸಕ್ರಿಯಗೊಳಿಸಿ

5) ರಿಟ್ರೈವಲ್ ಆರ್ಕೆಸ್ಟ್ರೇಶನ್

ಎರಡು-ಹಂತದ ರಿಟ್ರೈವರ್ ಅನ್ನು ಅನುಷ್ಠಾನಗೊಳಿಸಿ:

ವೇಗದ ಅಭ್ಯರ್ಥಿ ನೆನಪು

ಹೈಬ್ರಿಡ್ ಸರ್ಚ್ (BM25 + ಡೆನ್ಸ್)

ದೊಡ್ಡ top_k (ಉದಾಹರಣೆಗೆ, 30-50)

ಪುನರ್ರ್ಯಾಂಕಿಂಗ್

ಕ್ರಾಸ್-ಎನ್‌ಕೋಡರ್ ಪುನರ್ರ್ಯಾಂಕರ್ ಅಥವಾ LLM-ಆಧಾರಿತ ಸ್ಕೋರಿಂಗ್

ಅಂತಿಮ top_k ಗೆ ಕಡಿಮೆ ಮಾಡಿ (ಉದಾಹರಣೆಗೆ, 5-8)

ವಿಶ್ವಾಸಾರ್ಹ ಡಾಕ್ಸ್‌ಗಳಿಗೆ ಉತ್ತರಗಳನ್ನು ನಿರ್ಬಂಧಿಸಲು ಮೆಟಾಡೇಟಾ ಫಿಲ್ಟರ್‌ಗಳನ್ನು ಸೇರಿಸಿ: source:"handbook" AND section:"benefits" AND version:"v2".

6) ರಚನೆಯೊಂದಿಗೆ ಆಧಾರಿತ ಉತ್ಪಾದನೆ

ನಿಮ್ಮ ಪ್ರಾಂಪ್ಟ್ ಉಲ್ಲೇಖಗಳನ್ನು ಮತ್ತು ಪುರಾವೆಗಳು ದುರ್ಬಲವಾಗಿದ್ದಾಗ ನಿರಾಕರಣೆಯನ್ನು ಜಾರಿಗೊಳಿಸಬೇಕು.

ಮಾದರಿ ಸಿಸ್ಟಮ್ ಪ್ರಾಂಪ್ಟ್:

ನೀವು ಒಬ್ಬ ಜಾಗರೂಕ ಸಹಾಯಕರು. ಒದಗಿಸಿದ ಸನ್ನಿವೇಶದಿಂದ ಬೆಂಬಲಿತ ಮಾಹಿತಿಯೊಂದಿಗೆ ಮಾತ್ರ ಉತ್ತರಿಸಿ.
- [doc_id:chunk_id] ಎಂದು ಮೂಲಗಳನ್ನು ಇನ್‌ಲೈನ್‌ನಲ್ಲಿ ಉಲ್ಲೇಖಿಸಿ.
- ಸನ್ನಿವೇಶವು ಸಾಕಷ್ಟಿಲ್ಲದಿದ್ದರೆ, "ಒದಗಿಸಿದ ಡಾಕ್ಯುಮೆಂಟ್‌ಗಳಲ್ಲಿ ಸಾಕಷ್ಟು ಮಾಹಿತಿಯಿಲ್ಲ" ಎಂದು ಹೇಳಿ.
- ಸತ್ಯಗಳನ್ನು ಕಂಡುಹಿಡಿಯಬೇಡಿ.

ಬಳಕೆದಾರ ಪ್ರಾಂಪ್ಟ್ ಟೆಂಪ್ಲೇಟ್:

ಪ್ರಶ್ನೆ: {query}
ಸನ್ನಿವೇಶ:
{top_chunks}
ಸೂಚನೆಗಳು:
- ಮೊದಲು ಸಂಕ್ಷಿಪ್ತ ಉತ್ತರವನ್ನು ನೀಡಿ, ನಂತರ ವಿವರಗಳನ್ನು ನೀಡಿ.
- ಪ್ರತಿಯೊಂದು ವಾಸ್ತವಾಂಶದ ಹೇಳಿಕೆಯ ನಂತರ ಉಲ್ಲೇಖಗಳನ್ನು ಸೇರಿಸಿ.

7) ಭ್ರಮೆಗಳನ್ನು (hallucinations) ಕಡಿಮೆ ಮಾಡಲು ಗಾರ್ಡ್‌ರೈಲ್‌ಗಳನ್ನು ಸೇರಿಸಿ

ಉತ್ತರಿಸುವ ಸಾಮರ್ಥ್ಯ ಪರಿಶೀಲನೆ: ಉತ್ಪಾದನೆಯ ಮೊದಲು, ಒಂದು ಸಣ್ಣ ಮಾದರಿಯನ್ನು ಕೇಳಿ: “ರಿಟ್ರೈವ್ ಮಾಡಿದ ಚಂಕ್‌ಗಳಲ್ಲಿ ನೇರ ಸಾಕ್ಷ್ಯವಿದೆಯೇ?” ಇಲ್ಲದಿದ್ದರೆ, ಒಂದು ಸ್ಪಷ್ಟೀಕರಣ ಪ್ರಶ್ನೆಯನ್ನು ಹಿಂತಿರುಗಿಸಿ.

ಉಲ್ಲೇಖಿಸಿ-ಅಥವಾ-ಮೌನವಾಗಿರಿ ನೀತಿ: ಉಲ್ಲೇಖಗಳಿಲ್ಲದ ಔಟ್‌ಪುಟ್‌ಗಳನ್ನು ನಿರ್ಬಂಧಿಸಿ.

ಉದ್ಯಮದ ವಿಷಯಕ್ಕಾಗಿ ವಿಷತ್ವ/PII ಫಿಲ್ಟರ್‌ಗಳು.

8) ಮೌಲ್ಯಮಾಪನ ಮತ್ತು ನಿರಂತರ ಸುಧಾರಣೆ

ಇದರೊಂದಿಗೆ ಒಂದು eval/ ಸೆಟ್ ಅನ್ನು ರಚಿಸಿ:

50-200 ನೈಜ ಬಳಕೆದಾರರ ಪ್ರಶ್ನೆಗಳು

ನೆಲದ ಸತ್ಯ ಉತ್ತರಗಳು (ಅಥವಾ ವಿಶ್ವಾಸಾರ್ಹ ಉಲ್ಲೇಖಗಳು)

ಅನ್ವಯವಾಗುವ ಕಡೆ ನಿರೀಕ್ಷಿತ ಮೂಲಗಳು (ಡಾಕ್ ಐಡಿಗಳು)

ಅಳತೆ:

ರಿಟ್ರೈವಲ್ ಹಿಟ್ ರೇಟ್ (ಟಾಪ್-k ನಲ್ಲಿ ಗೋಲ್ಡ್ ಮೂಲ ಕಾಣಿಸುತ್ತದೆಯೇ?)

ಉತ್ತರದ ನಿಷ್ಠೆ (ಉಲ್ಲೇಖ-ಬೆಂಬಲಿತ ಹೇಳಿಕೆಗಳು)

ಲೇಟೆನ್ಸಿ (p95 ಎಂಡ್-ಟು-ಎಂಡ್)

ವೆಚ್ಚ (ಪ್ರತಿ 100 ಪ್ರಶ್ನೆಗಳಿಗೆ)

ಇದರ ಮೇಲೆ ಪುನರಾವರ್ತಿಸಿ:

ಚಂಕ್ ಗಾತ್ರ ಮತ್ತು ಓವರ್‌ಲ್ಯಾಪ್

ಎಂಬೆಡಿಂಗ್ ಮಾದರಿಯ ಆಯ್ಕೆ

ಪುನರ್ರ್ಯಾಂಕರ್ ವಿರುದ್ಧ ಹೆಚ್ಚಿನ ಟಾಪ್-k

ಪ್ರಾಂಪ್ಟ್ ರಚನೆ ಮತ್ತು ನಿರ್ಬಂಧಗಳು

ಸಂಪೂರ್ಣ RAGFlow ಪೈಪ್‌ಲೈನ್: ಮಾದರಿ ಸಂರಚನೆ

ಕೆಳಗೆ ನಿಮ್ಮ ಟೂಲ್‌ಚೈನ್‌ಗೆ ನೀವು ಅಳವಡಿಸಿಕೊಳ್ಳಬಹುದಾದ ಒಂದು ಪರಿಕಲ್ಪನಾ ಸಂರಚನೆಯಿದೆ. ಅಗತ್ಯವಿರುವಂತೆ ಪೂರೈಕೆದಾರರ ಹೆಸರುಗಳನ್ನು ಬದಲಾಯಿಸಿ.

project: product-handbook-rag
io:
input_path: data/raw/
output_index: product-handbook-index
parsing:
pdf:
strategy: auto
<a8>keep_layout: true</a9>extract_tables: true
markdown:
preserve_headings: true
chunking:
method: semantic_hybrid
target_tokens: 800
overlap_tokens: 80
windowing: 2
metadata:
fields: [doc_id, title, section, page, version, source]
embeddings:
provider: openai
model: text-embedding-3-large
vectorstore:
type: qdrant
url: ${VECTOR_DB_URL}
similarity: cosine
retrieval:
hybrid: true
lexical_weight: 0.35
semantic_weight: 0.65
candidate_top_k: 40
rerank:
enabled: true
model: bge-reranker-large
final_top_k: 7
generation:
llm: gpt-4o
temperature: 0.2
cite_or_silence: true
guardrails:
answerability_check: true
pii_filter: true
toxicity_filter: moderate
monitoring:
log_traces: true
latency_budget_ms: 3500

ವಿಭಿನ್ನ ವಿಷಯ ಪ್ರಕಾರಗಳಿಗಾಗಿ RAGFlow ಅನ್ನು ಹೇಗೆ ಬಳಸುವುದು

ಉತ್ಪನ್ನ ಕೈಪಿಡಿಗಳು ಮತ್ತು ಹ್ಯಾಂಡ್‌ಬುಕ್‌ಗಳು

ಸ್ಪಷ್ಟ ವಿಭಾಗದ ಗಡಿಗಳೊಂದಿಗೆ ಸೆಮ್ಯಾಂಟಿಕ್ ಚಂಕಿಂಗ್‌ಗೆ ಆದ್ಯತೆ ನೀಡಿ

ಹಳತಾದ ಉತ್ತರಗಳನ್ನು ತಡೆಗಟ್ಟಲು ಆವೃತ್ತಿ ಮತ್ತು ಪರಿಣಾಮಕಾರಿ ದಿನಾಂಕವನ್ನು ಲಗತ್ತಿಸಿ

ಕಟ್ಟುನಿಟ್ಟಾದ ಫಿಲ್ಟರ್‌ಗಳನ್ನು ಬಳಸಿ: ಯಾವಾಗಲೂ version = latest ಅಗತ್ಯವಿದೆ

ಜ್ಞಾನ ನೆಲೆಗಳು ಮತ್ತು FAQ ಗಳು

ಖಚಿತವಾದ ಉತ್ತರಗಳಿಗಾಗಿ ಸಣ್ಣ ಚಂಕ್‌ಗಳನ್ನು ಬಳಸಿ (400-600 ಟೋಕನ್‌ಗಳು)

ಅಭ್ಯರ್ಥಿಗಳ ಪೂಲ್ ಅನ್ನು ಹೆಚ್ಚಿಸಿ ಮತ್ತು ನಿಖರವಾದ ತುಣುಕನ್ನು ಕಂಡುಹಿಡಿಯಲು ಪುನರ್ರ್ಯಾಂಕಿಂಗ್ ಅನ್ನು ಅವಲಂಬಿಸಿ

ಲೆಕ್ಸಿಕಲ್ ಸರ್ಚ್ ಮೂಲಕ ನೆನಪನ್ನು ಹೆಚ್ಚಿಸಲು ಪ್ರಮಾಣಿತ Q/A ಜೋಡಿಗಳನ್ನು ಸ್ವಯಂ-ಉತ್ಪಾದಿಸಿ

ಇಂಜಿನಿಯರಿಂಗ್ ಡಾಕ್ಸ್ ಮತ್ತು ಕೋಡ್

ಫಂಕ್ಷನ್/ಮಾಡ್ಯೂಲ್ ಮೂಲಕ ಚಂಕ್ ಮಾಡಿ ಮತ್ತು ಮೆಟಾಡೇಟಾದಲ್ಲಿ ಆಮದು ಗ್ರಾಫ್‌ಗಳನ್ನು ಸೇರಿಸಿ

ಪೋಷಕ-ಮಗು ರಿಟ್ರೈವಲ್ ಅನ್ನು ಸಕ್ರಿಯಗೊಳಿಸಿ: ಫಂಕ್ಷನ್ + ಅದರ ಡಾಕ್‌ಸ್ಟ್ರಿಂಗ್ ಸನ್ನಿವೇಶವನ್ನು ಹಿಂತಿರುಗಿಸಿ

ಸಂಬಂಧಿತ ಚಿಹ್ನೆಗಳಿಗೆ ಆದ್ಯತೆ ನೀಡಲು ಕೋಡ್-ಅರಿವುಳ್ಳ ಪುನರ್ರ್ಯಾಂಕರ್ ಅನ್ನು ಬಳಸಿ

ಕಾನೂನು ಮತ್ತು ಅನುಸರಣೆ

ಪ್ಯಾರಾಗ್ರಾಫ್-ಮಟ್ಟದ ಉಲ್ಲೇಖಗಳನ್ನು ಕಡ್ಡಾಯಗೊಳಿಸಿ

ಅಪೂರ್ಣ ಸನ್ನಿವೇಶಕ್ಕಾಗಿ ನಿರಾಕರಣೆ ತರ್ಕವನ್ನು ಸೇರಿಸಿ

ಪ್ರತ್ಯೇಕ ಇಂಡೆಕ್ಸ್‌ನಲ್ಲಿ ನಿಯಂತ್ರಕ-ಅನುಮೋದಿತ ಮೂಲಗಳ ಗೋಲ್ಡನ್ ಸೆಟ್ ಅನ್ನು ಇಟ್ಟುಕೊಳ್ಳಿ

ವಾಸ್ತವವಾಗಿ ಕೆಲಸ ಮಾಡುವ ಪ್ರಾಂಪ್ಟ್ ಮಾದರಿಗಳು

ಉತ್ತರಿಸಿ ನಂತರ ಉಲ್ಲೇಖಿಸಿ: ಮೇಲ್ಭಾಗದಲ್ಲಿ ಸಣ್ಣ ಉತ್ತರ; ಪ್ರತಿ ಹೇಳಿಕೆಯ ನಂತರ ಇನ್‌ಲೈನ್‌ನಲ್ಲಿ ಉಲ್ಲೇಖಗಳು

ರಿಟ್ರೈವಲ್ ಸರಪಳಿ: ಮೊದಲು ಪ್ರತಿ ಚಂಕ್ ಅನ್ನು ಸಾರಾಂಶ ಮಾಡಲು ಮಾದರಿಯನ್ನು ಕೇಳಿ, ನಂತರ ಸಂಶ್ಲೇಷಿಸಲು ಹೇಳಿ

ಪ್ರಶ್ನೆ ಪುನಃ ಬರೆಯಿರಿ: ರಿಟ್ರೈವಲ್ ಮೊದಲು ಸಮಾನಾರ್ಥಕ ಪದಗಳು ಮತ್ತು ಡೊಮೇನ್ ಪದಗಳೊಂದಿಗೆ ಬಳಕೆದಾರರ ಪ್ರಶ್ನೆಗಳನ್ನು ವಿಸ್ತರಿಸಿ

ವಿರುದ್ಧ ಪ್ರಾಂಪ್ಟ್‌ಗಳು: "ಸನ್ನಿವೇಶದ ಆಧಾರದ ಮೇಲೆ ಆಯ್ಕೆ A ಆಯ್ಕೆ B ಗಿಂತ ಏಕೆ ಉತ್ತಮವಾಗಿದೆ ಎಂಬುದನ್ನು ವಿವರಿಸಿ." ಇದು ಪುರಾವೆಗಳ ಬಳಕೆಯನ್ನು ಒತ್ತಾಯಿಸುತ್ತದೆ

ಮಾದರಿ ಪ್ರಶ್ನೆ-ಪುನಃ ಬರೆಯುವ ಹಂತ:

ಮೂಲ: "ನಮ್ಮ PTO ಕ್ಯಾರಿಓವರ್ ನೀತಿ ಏನು?"
ಪುನಃ ಬರೆಯಿರಿ: "ಪಾವತಿಸಿದ ಸಮಯ ರಜೆ ಕ್ಯಾರಿಓವರ್ ನೀತಿ; ರಜೆ ರೋಲ್‌ಓವರ್; ಗರಿಷ್ಠ ಗಂಟೆಗಳು; ನೀತಿ ಆವೃತ್ತಿ ಇತ್ತೀಚಿನದು"

ವೀಕ್ಷಣೆ ಮತ್ತು ಪ್ರತಿಕ್ರಿಯೆ ಲೂಪ್‌ಗಳು

ಯಾವ ಚಂಕ್‌ಗಳನ್ನು ಬಳಸಲಾಗಿದೆ, ಅವುಗಳ ಸ್ಕೋರ್‌ಗಳು ಮತ್ತು ಯಾವವುಗಳನ್ನು ನಿರ್ಲಕ್ಷಿಸಲಾಗಿದೆ ಎಂಬುದನ್ನು ಲಾಗ್ ಮಾಡಿ

ಸಣ್ಣ ತಾರ್ಕಿಕತೆಯೊಂದಿಗೆ ಥಂಬ್ಸ್-ಅಪ್/ಡೌನ್ ಅನ್ನು ಸೆರೆಹಿಡಿಯಿರಿ; ಅದನ್ನು ರಿಟ್ರೈವರ್ ಟ್ಯೂನಿಂಗ್‌ಗೆ ಹಿಂತಿರುಗಿಸಿ

ಯಾವುದೇ ಮಾದರಿ ಬದಲಾವಣೆಯನ್ನು ನಿಯೋಜಿಸುವ ಮೊದಲು ನಿಮ್ಮ ಇವಾಲ್ ಸೆಟ್‌ನಲ್ಲಿ ವಾರಕ್ಕೊಮ್ಮೆ ರಿಗ್ರೆಷನ್ ಪರೀಕ್ಷೆಗಳನ್ನು ರನ್ ಮಾಡಿ

ಕಾರ್ಯಕ್ಷಮತೆ ಟ್ಯೂನಿಂಗ್ ಚೀಟ್‌ಶೀಟ್

ಉತ್ತರಗಳು ಸಾಮಾನ್ಯವೆಂದು ಭಾವಿಸಿದರೆ: candidate_top_k ಅನ್ನು ಹೆಚ್ಚಿಸಿ ಮತ್ತು ಬಲವಾದ ಪುನರ್ರ್ಯಾಂಕರ್ ಅನ್ನು ಸೇರಿಸಿ

ಉತ್ತರಗಳು ವಿವರಗಳನ್ನು ತಪ್ಪಿಸಿಕೊಂಡರೆ: ಚಂಕ್ ಗಾತ್ರವನ್ನು ಕಡಿಮೆ ಮಾಡಿ; ಲೆಕ್ಸಿಕಲ್ ತೂಕವನ್ನು ಸ್ವಲ್ಪ ಹೆಚ್ಚಿಸಿ

ಉಲ್ಲೇಖಗಳು ಒಂದೇ ಚಂಕ್ ಅನ್ನು ಪುನರಾವರ್ತಿಸಿದರೆ: MMR ಅನ್ನು ಸಕ್ರಿಯಗೊಳಿಸಿ ಮತ್ತು ವೈವಿಧ್ಯತೆಯನ್ನು ಹೆಚ್ಚಿಸಿ

ಲೇಟೆನ್ಸಿ ಹೆಚ್ಚಾಗಿದ್ದರೆ: ಎಂಬೆಡಿಂಗ್‌ಗಳನ್ನು ಸಂಗ್ರಹಿಸಿ, ಪ್ರಶ್ನೆ ಪುನಃ ಬರೆಯುವಿಕೆಯನ್ನು ಮೊದಲೇ ಲೆಕ್ಕಾಚಾರ ಮಾಡಿ, ಸಣ್ಣ ಪುನರ್ರ್ಯಾಂಕರ್ ಅನ್ನು ಬಳಸಿ

ವೆಚ್ಚಗಳು ಹೆಚ್ಚಾದರೆ: ಉತ್ಪಾದನೆಯ ತಾಪಮಾನವನ್ನು ಕಡಿಮೆ ಮಾಡಿ, ಪ್ರಾಂಪ್ಟ್‌ಗಳನ್ನು ಕಡಿಮೆ ಮಾಡಿ, ಮೊದಲ ಪಾಸ್‌ಗಾಗಿ ಸಣ್ಣ LLM ಅನ್ನು ಪ್ರಯತ್ನಿಸಿ

ಭದ್ರತೆ ಮತ್ತು ಆಡಳಿತದ ಅಗತ್ಯಗಳು

ಸಂಗ್ರಹಿಸಿದ ವೆಕ್ಟರ್‌ಗಳನ್ನು ಎನ್‌ಕ್ರಿಪ್ಟ್ ಮಾಡಿ ಮತ್ತು ಮೆಟಾಡೇಟಾದಲ್ಲಿ ಸೂಕ್ಷ್ಮ ಕ್ಷೇತ್ರಗಳನ್ನು ರೆಡಾಕ್ಟ್ ಮಾಡಿ

ಪ್ರತಿ-ಇಂಡೆಕ್ಸ್ ಪ್ರವೇಶ ನಿಯಂತ್ರಣವನ್ನು ಬಳಸಿ; ತಂಡ ಅಥವಾ ಡೇಟಾ ಸೂಕ್ಷ್ಮತೆಯಿಂದ ವಿಭಾಗಿಸಿ

ಡೇಟಾ ವಂಶಾವಳಿಯ ದಾಖಲೆಯನ್ನು ನಿರ್ವಹಿಸಿ: ಡಾಕ್ ಮೂಲ URL, ಚೆಕ್‌ಸಮ್ ಮತ್ತು ಇಂಜೆಕ್ಷನ್ ಟೈಮ್‌ಸ್ಟ್ಯಾಂಪ್

ಕೇಸ್ ಸ್ಟಡಿ ಸ್ನ್ಯಾಪ್‌ಶಾಟ್: ಗೊಂದಲಮಯ PDF ಗಳಿಂದ ವಿಶ್ವಾಸಾರ್ಹ ಉತ್ತರಗಳಿಗೆ

ಒಂದು ಬೆಂಬಲ ತಂಡವು 1,200 ಪುಟಗಳ PDF ಗಳನ್ನು ಇಂಜೆಸ್ಟ್ ಮಾಡಿದೆ. ಪ್ರಾರಂಭಿಕ ರಿಟ್ರೈವಲ್ ಸ್ಥಿರವಾಗಿರಲಿಲ್ಲ; ಏಜೆಂಟರು ಬಾಟ್ ಅನ್ನು ನಂಬಲಿಲ್ಲ. ಸೆಮ್ಯಾಂಟಿಕ್-ಹೈಬ್ರಿಡ್ ಚಂಕಿಂಗ್‌ಗೆ ಬದಲಾಯಿಸಿದ ನಂತರ (800 ಟೋಕನ್‌ಗಳು, 80 ಓವರ್‌ಲ್ಯಾಪ್), ಕ್ರಾಸ್-ಎನ್‌ಕೋಡರ್ ಪುನರ್ರ್ಯಾಂಕಿಂಗ್ ಅನ್ನು ಸಕ್ರಿಯಗೊಳಿಸುವುದು ಮತ್ತು ಉಲ್ಲೇಖಿಸಿ-ಅಥವಾ-ಮೌನವಾಗಿರುವುದನ್ನು ಜಾರಿಗೊಳಿಸಿದ ನಂತರ, ಟಾಪ್-k ಹಿಟ್ ರೇಟ್ 62% ರಿಂದ 89% ಕ್ಕೆ ಏರಿತು ಮತ್ತು ಏಜೆಂಟ್ ಅಳವಡಿಕೆ ದ್ವಿಗುಣಗೊಂಡಿತು. ಪ್ರಮುಖವಾದುದು ದೊಡ್ಡ LLM ಅಲ್ಲ-ಇದು ಸ್ವಚ್ಛವಾದ ಚಂಕ್‌ಗಳು ಮತ್ತು ಕಟ್ಟುನಿಟ್ಟಾದ ರಿಟ್ರೈವಲ್.

ಟೂಲಿಂಗ್ ಸಲಹೆ: AI ಸೈಡ್‌ಬಾರ್‌ನೊಂದಿಗೆ ತ್ವರಿತ ಪುನರಾವರ್ತನೆ

ಗಮನಿಸಬೇಕಾದ ಅಂಶ: ನೀವು ಅನೇಕ ಡಾಕ್ಸ್‌ಗಳಲ್ಲಿ ಪ್ರಾಂಪ್ಟ್‌ಗಳು ಮತ್ತು ರಿಟ್ರೈವಲ್ ತುಣುಕುಗಳೊಂದಿಗೆ ಪ್ರಯೋಗಿಸುತ್ತಿದ್ದರೆ, ಬ್ರೌಸರ್‌ನಿಂದಲೇ PDF ಗಳು, ವೆಬ್ ಪುಟಗಳು ಮತ್ತು ಕೋಡ್‌ನಲ್ಲಿ ಚಾಟ್ ಮಾಡಲು ನಿಮಗೆ ಅನುಮತಿಸುವ AI ಸಹಾಯಕವು ಪುನರಾವರ್ತನೆಯನ್ನು ವೇಗಗೊಳಿಸುತ್ತದೆ. ಮೂಲಕ, Sider.AI (https://sider.ai/) ಒಂದು AI ಸೈಡ್‌ಬಾರ್ ಅನ್ನು ನೀಡುತ್ತದೆ, ಅದು ನೀವು ಇರುವ ಪುಟದಿಂದ ಸನ್ನಿವೇಶವನ್ನು ತರಲು, ಸಾರಾಂಶ ಮಾಡಲು ಮತ್ತು ಪ್ರಾಂಪ್ಟ್‌ಗಳನ್ನು ತ್ವರಿತವಾಗಿ ಪರಿಷ್ಕರಿಸಲು ನಿಮಗೆ ಅನುಮತಿಸುತ್ತದೆ. ಪೈಪ್‌ಲೈನ್ ಅನ್ನು ಔಪಚಾರಿಕಗೊಳಿಸುವ ಮೊದಲು RAG ಪ್ರಾಂಪ್ಟ್‌ಗಳನ್ನು ಮೂಲಮಾದರಿ ಮಾಡಲು ಮತ್ತು ಚಂಕ್ ಗುಣಮಟ್ಟವನ್ನು ಪರೀಕ್ಷಿಸಲು ಇದು ಸೂಕ್ತವಾಗಿದೆ.

RAGFlow ಅನ್ನು ನಿವಾರಿಸುವುದು: ತ್ವರಿತ ಪರಿಹಾರಗಳು

“ಮಾದರಿಯು ಆತ್ಮವಿಶ್ವಾಸ ಹೊಂದಿದೆ ಆದರೆ ತಪ್ಪಾಗಿದೆ.”

ಉತ್ತರಿಸುವ ಸಾಮರ್ಥ್ಯ ಪರಿಶೀಲನೆಯನ್ನು ಸಕ್ರಿಯಗೊಳಿಸಿ; ತಾಪಮಾನವನ್ನು ಕಡಿಮೆ ಮಾಡಿ; ಉಲ್ಲೇಖಗಳನ್ನು ಕಡ್ಡಾಯಗೊಳಿಸಿ

“ಹುಡುಕಾಟವು ಹತ್ತಿರದ-ನಕಲುಗಳನ್ನು ಹಿಂತಿರುಗಿಸುತ್ತದೆ.”

MMR ಅನ್ನು ಆನ್ ಮಾಡಿ; ಪುನರ್ರ್ಯಾಂಕರ್ ಅನ್ನು ಸೇರಿಸಿ; ಚಂಕ್ ಓವರ್‌ಲ್ಯಾಪ್ ಅನ್ನು ಕಡಿಮೆ ಮಾಡಿ

“ಪೀಕ್‌ನಲ್ಲಿ ಲೇಟೆನ್ಸಿ ಸ್ಪೈಕ್‌ಗಳು.”

ಬ್ಯಾಚ್ ಎಂಬೆಡಿಂಗ್‌ಗಳು; ಸಂಗ್ರಹ ಪ್ರಶ್ನೆ ಪುನಃ ಬರೆಯುವಿಕೆ; ಸ್ಟ್ರೀಮಿಂಗ್ ಉತ್ಪಾದನೆಯನ್ನು ಬಳಸಿ

“ಹಳೆಯ ನೀತಿಗಳು ಮತ್ತೆ ಮತ್ತೆ ಕಾಣಿಸಿಕೊಳ್ಳುತ್ತವೆ.”

version = latest ನಲ್ಲಿ ಫಿಲ್ಟರ್ ಮಾಡಿ; ಹಳತಾದ ಡಾಕ್ಸ್‌ಗಳನ್ನು ತ್ಯಜಿಸಿ ಅಥವಾ ಟಾಂಬ್‌ಸ್ಟೋನ್ ಮಾಡಿ

ಮುಂದಿನ ಹಂತಗಳು: ಉತ್ಪಾದನೆಯಲ್ಲಿ ನಿಮ್ಮ RAGFlow ಅನ್ನು ವಿಶ್ವಾಸಾರ್ಹವಾಗಿಸಿ

ಸಣ್ಣ, ವಿಶ್ವಾಸಾರ್ಹ ಕಾರ್ಪಸ್‌ನೊಂದಿಗೆ ಪ್ರಾರಂಭಿಸಿ; ಮೊದಲು ಚಂಕಿಂಗ್ ಮತ್ತು ಫಿಲ್ಟರ್‌ಗಳನ್ನು ಪರಿಪೂರ್ಣಗೊಳಿಸಿ

LLM ಅನ್ನು ಅಪ್‌ಗ್ರೇಡ್ ಮಾಡುವ ಮೊದಲು ಪುನರ್ರ್ಯಾಂಕರ್ ಅನ್ನು ಸೇರಿಸಿ

100-ಪ್ರಶ್ನೆಗಳ ಇವಾಲ್ ಸೆಟ್ ಅನ್ನು ನಿರ್ಮಿಸಿ ಮತ್ತು ವಾರಕ್ಕೊಮ್ಮೆ ಹಿಟ್ ರೇಟ್ ಅನ್ನು ಟ್ರ್ಯಾಕ್ ಮಾಡಿ

ನಿರಂತರವಾಗಿ ರಿಟ್ರೈವಲ್ ಅನ್ನು ಟ್ಯೂನ್ ಮಾಡಲು ಬಳಕೆದಾರರ ಪ್ರತಿಕ್ರಿಯೆಯನ್ನು ವೈರ್ ಮಾಡಿ

ಪ್ರಮುಖ ಅಂಶಗಳು:

RAG ಗಾಗಿ ರಿಟ್ರೈವಲ್ ಗುಣಮಟ್ಟ ಮಾದರಿ ಗಾತ್ರವನ್ನು ಸೋಲಿಸುತ್ತದೆ

ಚಂಕಿಂಗ್, ಮೆಟಾಡೇಟಾ ಮತ್ತು ಪುನರ್ರ್ಯಾಂಕಿಂಗ್ ನಿಮ್ಮ ಪ್ರಮುಖ ಲಿವರ್‌ಗಳಾಗಿವೆ

ಉಲ್ಲೇಖಿಸಿ-ಅಥವಾ-ಮೌನವಾಗಿರುವಂತಹ ಗಾರ್ಡ್‌ರೈಲ್‌ಗಳು ನಾಟಕೀಯವಾಗಿ ನಂಬಿಕೆಯನ್ನು ಹೆಚ್ಚಿಸುತ್ತವೆ

ವೀಕ್ಷಣೆ ಮತ್ತು ಮೌಲ್ಯಮಾಪನದಲ್ಲಿ ಮೊದಲೇ ಹೂಡಿಕೆ ಮಾಡಿ

ಈ ಅಭ್ಯಾಸಗಳೊಂದಿಗೆ, RAGFlow ಆಧಾರಿತ ಉತ್ತರಗಳಿಗೆ ಒಂದು ವಿಶ್ವಾಸಾರ್ಹ ಬೆನ್ನೆಲುಬಾಗುತ್ತದೆ-ನೀವು ಸಹಾಯ ಬಾಟ್, ಡೆವಲಪರ್ ಕೋಪೈಲಟ್ ಅಥವಾ ಆಂತರಿಕ ಜ್ಞಾನ ಸಹಾಯಕವನ್ನು ಪವರ್ ಮಾಡುತ್ತಿರಲಿ.

FAQ

Q1: RAGFlow ಎಂದರೇನು ಮತ್ತು ಡಾಕ್ಯುಮೆಂಟ್ QA ಗಾಗಿ ನಾನು ಅದನ್ನು ಹೇಗೆ ಬಳಸುವುದು? RAGFlow ಎನ್ನುವುದು ರಿಟ್ರೈವಲ್-ಆಗ್ಮೆಂಟೆಡ್ ಜನರೇಷನ್ ಪೈಪ್‌ಲೈನ್‌ಗಳನ್ನು ನಿರ್ಮಿಸುವ ಒಂದು ಚೌಕಟ್ಟಾಗಿದೆ. ನೀವು ಭ್ರಮೆಗಳನ್ನು (hallucinations) ಕಡಿಮೆ ಮಾಡಲು ಮತ್ತು ನಿಖರತೆಯನ್ನು ಸುಧಾರಿಸಲು ಉಲ್ಲೇಖಗಳೊಂದಿಗೆ ಉತ್ತರಗಳನ್ನು ಇಂಜೆಸ್ಟ್ ಮಾಡಿ, ಚಂಕ್ ಮಾಡಿ, ಎಂಬೆಡ್ ಮಾಡಿ, ರಿಟ್ರೈವ್ ಮಾಡಿ ಮತ್ತು ಉತ್ಪಾದಿಸಿ.

Q2: RAGFlow ನಲ್ಲಿ ನಾನು ಡಾಕ್ಯುಮೆಂಟ್‌ಗಳನ್ನು ಹೇಗೆ ಚಂಕ್ ಮಾಡಬೇಕು? 600-1,000 ಟೋಕನ್ ಚಂಕ್‌ಗಳು ಮತ್ತು 50-100 ಟೋಕನ್ ಓವರ್‌ಲ್ಯಾಪ್‌ನೊಂದಿಗೆ ಸೆಮ್ಯಾಂಟಿಕ್ ಅಥವಾ ಹೈಬ್ರಿಡ್ ಚಂಕಿಂಗ್ ಬಳಸಿ. ಕೋಡ್‌ಗಾಗಿ, ಫಂಕ್ಷನ್ ಅಥವಾ ಕ್ಲಾಸ್ ಮೂಲಕ ಚಂಕ್ ಮಾಡಿ ಮತ್ತು ಸುತ್ತಮುತ್ತಲಿನ ಸನ್ನಿವೇಶವನ್ನು ಸೇರಿಸಿ.

Q3: RAGFlow ನೊಂದಿಗೆ ಯಾವ ವೆಕ್ಟರ್ ಡೇಟಾಬೇಸ್ ಉತ್ತಮವಾಗಿ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತದೆ? ಹೈಬ್ರಿಡ್ ಸರ್ಚ್, ಮೆಟಾಡೇಟಾ ಫಿಲ್ಟರ್‌ಗಳು ಮತ್ತು ಪುನರ್ರ್ಯಾಂಕಿಂಗ್ ಅನ್ನು ಬೆಂಬಲಿಸುವ ಸ್ಟೋರ್ ಅನ್ನು ಆಯ್ಕೆಮಾಡಿ-Qdrant, Weaviate, Pinecone ಅಥವಾ ಸ್ಥಳೀಯ ಆಯ್ಕೆಯು ಸಾಮಾನ್ಯ ಆಯ್ಕೆಗಳಾಗಿವೆ.

Q4: RAGFlow ಅಪ್ಲಿಕೇಶನ್‌ನಲ್ಲಿ ಭ್ರಮೆಗಳನ್ನು (hallucinations) ನಾನು ಹೇಗೆ ತಡೆಯುವುದು? ಉಲ್ಲೇಖಿಸಿ-ಅಥವಾ-ಮೌನವಾಗಿರುವ ನೀತಿಯನ್ನು ಜಾರಿಗೊಳಿಸಿ, ಉತ್ಪಾದನೆಯ ಮೊದಲು ಉತ್ತರಿಸುವ ಸಾಮರ್ಥ್ಯ ಪರಿಶೀಲನೆಯನ್ನು ಸೇರಿಸಿ ಮತ್ತು ರಿಟ್ರೈವ್ ಮಾಡಿದ ಸನ್ನಿವೇಶವನ್ನು ಮಾತ್ರ ಬಳಸುವ ಬಗ್ಗೆ ಪ್ರಾಂಪ್ಟ್‌ಗಳನ್ನು ಕಟ್ಟುನಿಟ್ಟಾಗಿ ಇರಿಸಿ.

Q5: RAGFlow ಅನ್ನು ಮೌಲ್ಯಮಾಪನ ಮಾಡಲು ನಾನು ಯಾವ ಮೆಟ್ರಿಕ್‌ಗಳನ್ನು ಟ್ರ್ಯಾಕ್ ಮಾಡಬೇಕು? ರಿಟ್ರೈವಲ್ ಹಿಟ್ ರೇಟ್, ಉತ್ತರದ ನಿಷ್ಠೆ, ಲೇಟೆನ್ಸಿ ಮತ್ತು ಪ್ರತಿ 100 ಪ್ರಶ್ನೆಗಳಿಗೆ ವೆಚ್ಚವನ್ನು ಮೇಲ್ವಿಚಾರಣೆ ಮಾಡಿ ಮತ್ತು ಸಣ್ಣ ಆದರೆ ಪ್ರತಿನಿಧಿಸುವ ಮೌಲ್ಯಮಾಪನ ಸೆಟ್ ಅನ್ನು ನಿರ್ವಹಿಸಿ.