What is RAGFlow and how do I use it for document QA?

RAGFlow is a framework for building retrieval-augmented generation pipelines. You ingest, chunk, embed, retrieve, and generate answers with citations to reduce hallucinations and improve accuracy.

How should I chunk documents in RAGFlow?

Use semantic or hybrid chunking with 600–1,000 token chunks and 50–100 token overlap. For code, chunk by function or class and include surrounding context.

Which vector database works best with RAGFlow?

Choose a store that supports hybrid search, metadata filters, and reranking—Qdrant, Weaviate, Pinecone, or a local option are all common choices.

How do I prevent hallucinations in a RAGFlow app?

Enforce a cite‑or‑silence policy, add an answerability check before generation, and keep prompts strict about using only retrieved context.

What metrics should I track to evaluate RAGFlow?

Monitor retrieval hit rate, answer faithfulness, latency, and cost per 100 queries, and maintain a small but representative evaluation set.

כיצד להשתמש ב-RAGFlow: מדריך מעשי לבניית יישומי RAG אמינים

אם ניסיתם לבנות מערכת Retrieval-Augmented Generation (RAG), סביר להניח שנתקלתם בנקודות הכאב הקלאסיות: הזיות, אחזור לא עקבי, צינורות איטיים ועיבוד מקדים מסורבל של מסמכים. RAGFlow נכנסת לתמונה ככלי זרימת עבודה מקצה לקצה שעוזר לכם לתזמר בליעת מסמכים, חלוקה לחלקים, וקטוריזציה, אחזור ויצירה עם יותר שליטה ויכולת ניטור.

מדריך זה נוקט גישה מעשית ומכוונת פתרונות. נעבור על התקנה נקייה, נראה לכם כיצד להשתמש ב-RAGFlow עבור מסמכים אמיתיים, ונשתף דפוסים שמפחיתים למעשה הזיות ומשפרים את איכות התשובות.

מה זה RAGFlow ומדוע להשתמש בו?

RAGFlow היא מערכת לבניית צינורות Retrieval-Augmented Generation. בהתקנת RAG טיפוסית, אתם:

בולעים מסמכים (קובצי PDF, דפי אינטרנט, שקופיות, קוד וכו')

מחלקים את התוכן ליחידות הניתנות לאחזור

מטמיעים חלקי תוכן לווקטורים לחיפוש סמנטי

מאחזרים את {top‑k} החלקים הרלוונטיים ביותר בזמן שאלה

יוצרים תשובה מבוססת באמצעות LLM

RAGFlow מוסיפה ברירות מחדל מושכלות, אבני בניין של זרימת עבודה ומגבלות כך שתוכלו לחזור על פעולות במהירות רבה יותר ולשלוח יישומים אמינים יותר. זה שימושי במיוחד אם אתם רוצים:

חלוקה עקבית לחלקים ומטא-נתונים: אחזור טוב יותר מתחיל בחלקים טובים יותר.

הטמעות ו-LLM-ים הניתנים לחיבור: החליפו OpenAI, מודלים מקומיים או נקודות קצה ארגוניות.

הערכות ומגבלות: מדדו את איכות האחזור והפחיתו הזיות.

צינורות הניתנים לפריסה: עברו ממחברת לייצור עם פחות כתיבה מחדש.

התחלה מהירה: מאפס לצינור RAGFlow עובד

להלן זרימת עבודה מינימלית מקצה לקצה שתוכלו להתאים. גם אם הסביבה שלכם שונה, הרצף והמגבלות ניתנים להעברה.

1) הכינו את הסביבה שלכם

צרו .env עם המפתחות שלכם:

OPENAI_API_KEY (או ספק LLM אחר)

EMBEDDINGS_API_KEY (אם משתמשים בספק נפרד)

VECTOR_DB_URL (לדוגמה, Pinecone, Weaviate, Qdrant או מקומי)

הגדירו ספריית פרויקט, לדוגמה, ragflow-project/ עם תיקיות:

data/raw/ (קבצי מקור)

data/processed/ (חלקים נקיים)

configs/ (YAML/JSON להגדרות צינור)

eval/ (ערכות נתונים ודוחות)

2) בלעו מסמכים עם מטא-נתונים נקיים

מטא-נתונים טובים = אחזור טוב יותר. נרמלו כותרות, מחברים, תאריכים ומקורות.

המרו קובצי PDF ושקופיות לטקסט עם מנתח חזק

שמרו על מבנה: כותרות, רשימות, בלוקי קוד וטבלאות

צרפו מטא-נתונים לכל חלק: source, section, page, timestamp, version

טיפ: שמרו על doc_id ו-chunk_id כדי לתמוך בציטוטים ובבליעה מחדש.

3) בחרו אסטרטגיית חלוקה לחלקים המתאימה לתוכן שלכם

חלוקה לחלקים משפיעה מאוד על איכות האחזור ועל השהיה.

עבור מסמכים נרטיביים: חלוקה סמנטית לחלקים (פיצול לפי כותרות/פסקאות)

עבור מסמכים טכניים: השתמשו ב-חלוקה היברידית לחלקים (סמנטית + חלון קבוע)

עבור קוד: חלקו לפי פונקציה/מחלקה עם חלון הזזה קטן

הגדרות מומלצות להתחלה:

chunk_size: 600–1,000 טוקנים

chunk_overlap: 50–100 טוקנים

max_depth: הגבילו מקטעים מקוננים ל-2–3 רמות כדי להימנע מפיצול.

4) בחרו הטמעות ומאגר וקטורים

התחילו עם מודל הטמעה חזק למטרות כלליות (לדוגמה, text‑embedding‑3‑large או מודל מקומי מודרני). אם פרטיות היא המפתח, שקלו הטמעות באירוח עצמי.

השתמשו במסד נתונים וקטורי התומך ב:

חיפוש היברידי (צפוף + מילות מפתח)

מסננים (אילוצי מטא-נתונים)

עדכוני אצווה ו-מדדי אינדקס

הגדרות אינדקס לבדיקה:

top_k = 5–10 לאחזור ראשוני

similarity_metric = cosine (או נקודה עבור מודלים מסוימים)

הפעילו רלוונטיות שולית מקסימלית (MMR) כדי להפחית יתירות

5) תזמור אחזור

יישמו מאחזר דו-שלבי:

קריאה מהירה של מועמדים

חיפוש היברידי (BM25 + צפוף)

{Large} top_k (לדוגמה, 30–50)

דירוג מחדש

דירוג מחדש של מקודד צולב או ניקוד מבוסס LLM

צמצמו ל-top_k סופי (לדוגמה, 5–8)

הוסיפו מסנני מטא-נתונים: source:"handbook" AND section:"benefits" AND version:"v2" כדי להגביל את התשובות למסמכים מהימנים.

6) יצירה מבוססת עם מבנה

ההנחיה שלכם צריכה לאכוף ציטוטים וסירוב כאשר הראיות חלשות.

הנחיית מערכת לדוגמה:

אתם עוזרים זהירים. ענו רק עם מידע הנתמך על ידי ההקשר המסופק.
- צטטו מקורות בתוך הטקסט כ- [doc_id:chunk_id].
- אם ההקשר אינו מספיק, אמרו "אין מספיק מידע במסמכים המסופקים.".
- אל תמציאו עובדות.

תבנית הנחיית משתמש:

שאלה: {query}
הקשר:
{top_chunks}
הוראות:
- ספקו תשובה תמציתית תחילה, ואז פרטים.
- כללו ציטוטים לאחר כל טענה עובדתית.

7) הוסיפו מגבלות כדי להפחית הזיות

בדיקת יכולת מענה: לפני היצירה, שאלו מודל קטן: "האם יש ראיות ישירות בחלקים שאוחזרו?" אם לא, החזירו שאלת הבהרה.

מדיניות ציטוט או שתיקה: חסמו פלטים חסרי ציטוטים.

מסנני רעילות/PII עבור תוכן ארגוני.

8) הערכה ושיפור מתמיד

צרו קבוצת eval/ עם:

50–200 שאלות משתמש אמיתיות

תשובות אמיתיות (או הפניות מהימנות)

מקורות צפויים (מזהי מסמכים) היכן שניתן

מדדו:

שיעור פגיעה באחזור (האם מקור הזהב מופיע ב-{top‑k}?)

נאמנות תשובה (הצהרות הנתמכות בציטוטים)

השהיה (p95 מקצה לקצה)

עלות (לכל 100 שאילתות)

חזרו על:

גודל חלקי תוכן וחפיפה

בחירת מודל הטמעה

דירוג מחדש לעומת {top‑k} גבוה יותר

מבנה הנחיה ומגבלות

צינור RAGFlow מלא: תצורת דוגמה

להלן תצורה מושגית שתוכלו להתאים לשרשרת הכלים שלכם. החליפו שמות ספקים לפי הצורך.

project: product-handbook-rag
io:
input_path: data/raw/
output_index: product-handbook-index
parsing:
pdf:
strategy: auto
keep_layout: true
extract_tables: true
markdown:
preserve_headings: true
chunking:
method: semantic_hybrid
target_tokens: 800
overlap_tokens: 80
windowing: 2
metadata:
<a18>fields: [doc_id, title, section, page, version, source]</a19>embeddings:
provider: openai
model: text-embedding-3-large
vectorstore:
type: qdrant
url: ${VECTOR_DB_URL}
similarity: cosine
retrieval:
hybrid: true
lexical_weight: 0.35
semantic_weight: 0.65
candidate_top_k: 40
rerank:
enabled: true
<a33>model: bge-reranker-large</a34>final_top_k: 7</a34>generation:
llm: gpt-4o
temperature: 0.2
cite_or_silence: true
guardrails:
answerability_check: true
pii_filter: true
toxicity_filter: moderate
monitoring:
log_traces: true
latency_budget_ms: 3500
cost_budget_per_100: 1.25

כיצד להשתמש ב-RAGFlow עבור סוגי תוכן שונים

מדריכי מוצרים ומדריכים

העדיפו חלוקה סמנטית לחלקים עם גבולות מקטע ברורים

צרפו גרסה ותאריך תוקף כדי למנוע תשובות מיושנות

השתמשו במסננים קפדניים: דרשו תמיד version = latest

בסיסי ידע ושאלות נפוצות

השתמשו בחלקים קטנים יותר (400–600 טוקנים) לתשובות מדויקות

הגדילו את מאגר המועמדים והסתמכו על דירוג מחדש כדי למצוא את הקטע המדויק

צרו באופן אוטומטי צמדי שאלות/תשובות קנוניים כדי להגביר את הקריאה באמצעות חיפוש לקסיקלי

מסמכי הנדסה וקוד

חלקו לפי פונקציה/מודול וכללו גרפי יבוא במטא-נתונים

אפשרו אחזור הורה-ילד: החזירו פונקציה + הקשר מחרוזת התיעוד שלה

השתמשו בדירוג מחדש מודע לקוד כדי לתעדף סמלים רלוונטיים

חוקיות ותאימות

דרשו ציטוטים ברמת הפסקה

הוסיפו לוגיקת סירוב עבור הקשר לא שלם

שמרו קבוצת זהב של מקורות שאושרו על ידי רגולטור באינדקס נפרד

דפוסי הנחיה שעובדים בפועל

ענו ואז צטטו: תשובה קצרה למעלה; ציטוטים בתוך הטקסט לאחר כל טענה

שרשרת אחזור: בקשו מהמודל לסכם כל חלק תחילה, ואז לסנתז

שכתוב שאילתה: הרחיבו שאילתות משתמש עם מילים נרדפות ומונחי תחום לפני האחזור

הנחיות ניגודיות: "הסבירו מדוע אפשרות A טובה יותר מ-B בהתבסס על ההקשר." זה מאלץ שימוש בראיות

שלב שכתוב שאילתה לדוגמה:

מקורי: "מהי מדיניות גלגול ימי החופשה שלנו?"
שכתוב: "מדיניות גלגול ימי חופשה בתשלום; גלגול חופשה; שעות מקסימליות; גרסת מדיניות אחרונה"

יכולת ניטור ומעגלי משוב

רשמו אילו חלקים שימשו, הניקוד שלהם ואילו התעלמו מהם

לכדו אגודל למעלה/למטה עם נימוק קצר; הזנו את זה בחזרה לכוונון המאחזר

הריצו בדיקות רגרסיה שבועיות על קבוצת ה-eval שלכם לפני פריסת כל שינוי במודל

דף צ'יטים לכוונון ביצועים

אם התשובות מרגישות גנריות: הגדילו את candidate_top_k והוסיפו דירוג מחדש חזק יותר

אם התשובות מחמיצות פרטים: הקטינו את גודל החלק; הגבירו מעט את המשקל הלקסיקלי

אם הציטוטים חוזרים על אותו חלק: אפשרו MMR והגבירו את המגוון

אם ההשהיה גבוהה: אחסנו הטמעות במטמון, חשבו מראש שכתוב שאילתות, השתמשו בדירוג מחדש קטן יותר

אם העלויות מזנקות: הורידו את טמפרטורת היצירה, קצרו הנחיות, נסו LLM קטן יותר למעבר ראשון

יסודות אבטחה וממשל

הצפינו וקטורים מאוחסנים וערכו שדות רגישים במטא-נתונים

השתמשו בבקרת גישה לכל אינדקס; פלחו לפי צוות או רגישות נתונים

שמרו על תיעוד שושלת נתונים: כתובת URL של מקור מסמך, סכום ביקורת וחותמת זמן בליעה

תמונת מצב של מקרה מבחן: מקובצי PDF מבולגנים לתשובות מהימנות

צוות תמיכה בלע 1,200 עמודים של קובצי PDF. אחזור ראשוני היה לא עקבי; סוכנים לא בטחו בבוט. לאחר מעבר לחלוקה סמנטית-היברידית לחלקים (800 טוקנים, 80 חפיפה), הפעלת דירוג מחדש של מקודד צולב ואכיפת ציטוט או שתיקה, שיעור פגיעה ב-{top‑k} עלה מ-62% ל-89%, ואימוץ הסוכן הוכפל. המפתח לא היה LLM גדול יותר - אלא חלקים נקיים יותר ואחזור קפדני יותר.

טיפ לכלי: חזרה מהירה עם סרגל צד של AI

ראוי לציין: אם אתם מתנסים בהנחיות וקטעי אחזור על פני מסמכים רבים, עוזר AI המאפשר לכם לשוחח בצ'אט מעל קובצי PDF, דפי אינטרנט וקוד ישירות מהדפדפן יכול להאיץ את החזרה. אגב, Sider.AI (https://sider.ai/) מציעה סרגל צד של AI המאפשר לכם למשוך הקשר מהדף שאתם נמצאים בו, לסכם ולחדד הנחיות במהירות. זה שימושי ליצירת אבות טיפוס של הנחיות RAG ובדיקת איכות החלקים לפני שאתם מנסחים את הצינור.

פתרון בעיות RAGFlow: תיקונים מהירים

"המודל בטוח אבל טועה."

אפשרו בדיקת יכולת מענה; הורידו את הטמפרטורה; דרשו ציטוטים

"החיפוש מחזיר כפילויות כמעט."

הפעילו MMR; הוסיפו דירוג מחדש; הפחיתו את חפיפת החלקים

"השהיה מזנקת בשיא."

הטמעות אצווה; אחסנו שכתוב שאילתות במטמון; השתמשו ביצירה זורמת

"מדיניות ישנה ממשיכה להופיע."

סננו על version = latest; הוציאו משימוש או תקעו מסמכים מיושנים

שלבים הבאים: הפכו את ה-RAGFlow שלכם לאמין בייצור

התחילו עם קורפוס קטן ומהימן; שכללו תחילה חלוקה ומסננים

הוסיפו דירוג מחדש לפני שדרוג ה-LLM

בנו קבוצת eval של 100 שאלות ועקבו אחר שיעור הפגיעה מדי שבוע

חברו משוב משתמשים כדי לכוונן ברציפות את האחזור

נקודות עיקריות:

איכות אחזור גוברת על גודל מודל עבור RAG

חלוקה לחלקים, מטא-נתונים ודירוג מחדש הם המנופים העיקריים שלכם

מגבלות כמו ציטוט או שתיקה מגבירות את האמון באופן דרמטי

השקיעו מוקדם ביכולת ניטור והערכה

עם שיטות אלה, RAGFlow הופך לעמוד שדרה אמין לתשובות מבוססות - בין אם אתם מפעילים בוט עזרה, טייס משותף למפתחים או עוזר ידע פנימי.

שאלות נפוצות

Q1: מה זה RAGFlow וכיצד אוכל להשתמש בו עבור QA מסמכים? RAGFlow היא מסגרת לבניית צינורות יצירה מוגברת אחזור. אתם בולעים, מחלקים, מטמיעים, מאחזרים ויוצרים תשובות עם ציטוטים כדי להפחית הזיות ולשפר את הדיוק.

Q2: כיצד עלי לחלק מסמכים ב-RAGFlow? השתמשו בחלוקה סמנטית או היברידית לחלקים עם חלקי תוכן של 600–1,000 טוקנים וחפיפה של 50–100 טוקנים. עבור קוד, חלקו לפי פונקציה או מחלקה וכללו הקשר סביבתי.

Q3: איזה מסד נתונים וקטורי עובד הכי טוב עם RAGFlow? בחרו חנות התומכת בחיפוש היברידי, מסנני מטא-נתונים ודירוג מחדש - Qdrant, Weaviate, Pinecone או אפשרות מקומית הן כולן בחירות נפוצות.

Q4: כיצד אוכל למנוע הזיות באפליקציית RAGFlow? אכפו מדיניות ציטוט או שתיקה, הוסיפו בדיקת יכולת מענה לפני היצירה ושמרו על הנחיות קפדניות לגבי שימוש רק בהקשר שאוחזר.

Q5: אילו מדדים עלי לעקוב אחריהם כדי להעריך את RAGFlow? נטרו את שיעור פגיעה באחזור, נאמנות תשובה, השהיה ועלות לכל 100 שאילתות, ושמרו על קבוצת הערכה קטנה אך מייצגת.