10 Най-добри RAGFlow уроци за овладяване на Retrieval-Augmented Generation
Ако някога сте се опитвали да накарате голям езиков модел да отговаря на въпроси, специфични за дадена област, и сте го гледали как халюцинира уверено, сте усетили болката, която RAGFlow решава. Retrieval-Augmented Generation (RAG) сдвоява търсещ слой с генериране, така че вашият модел да цитира факти от вашите собствени данни. RAGFlow е отворен, визуален и управляван от конвейер начин за изграждане на тази система от край до край - от приемане на документи до разделяне на части, вграждане, векторно търсене и обосновани отговори.
В това ръководство събираме най-добрите RAGFlow уроци, които можете да следвате днес, как да изберете правилния за вашия стек и практическа пътна карта, за да преминете от "hello world" до производство. Ще го запазим прагматично, с примери, клопки и няколко мощни съвета, които няма да намерите в основните ръководства.
Приемаме практически и ориентиран към решения подход: кратки обяснения, ясни стъпки и готови за копиране фрагменти. Нека ви помогнем да изпратите RAGFlow приложение, което действително отговаря правилно.
Какво прави един „Най-добър RAGFlow урок“?
Не всички уроци са еднакви. Най-добрите RAGFlow уроци споделят няколко черти:
- Поток от край до край: Приемане → разделяне на части → вграждане → индексиране → извличане → генериране, всичко това в един път.
- Реалистични документи: PDF файлове, HTML, слайд презентации или разхвърляни логове - не само играчки в markdown.
- Вградена оценка: Те учат как да се измерва обосноваността, латентността и качеството на отговорите.
- Производствени съображения: Кеширане, повторни опити, наблюдаемост и предпазни мерки.
- Разширяемост: Показват къде да се заменят модели, стратегии за разделяне на части или векторни хранилища.
Имайте предвид тези критерии, докато избирате своя учебен път.
10-те най-добри RAGFlow урока в момента
По-долу е подбран списък, обхващащ начинаещи до напреднали. Всеки запис включва защо е полезен, какво ще изградите и за кого е предназначен.
1) RAGFlow Бърз старт: Вашият първи конвейер от край до край
- Защо е страхотен: Най-бързият начин да разберете движещите се части - идеален за отблокиране.
- Ще изградите: Минимален конвейер: качване на PDF файл, автоматично разделяне на части, вграждане, индексиране и заявки с цитати.
- Стартирайте RAGFlow и отворете конструктора на конвейери.
- Добавете възел за приемане на файл и посочете към PDF файл.
- Вмъкнете разделител (напр. рекурсивен + заглавия) и възел за вграждане на модел.
- Свържете се с векторно хранилище, след това добавете възли за извличане и LLM генериране.
- Тествайте с няколко заявки и инспектирайте източниците.
- Подходящ за: Абсолютни начинаещи; екипи, валидиращи основния поток на RAGFlow.
2) RAGFlow + Множество източници на данни: PDF файлове, уеб страници и Notion
- Защо е страхотен: Повечето реални проекти комбинират разхвърляни източници; този урок показва как.
- Ще изградите: Конвейер, който приема PDF файлове, обхожда URL адреси и синхронизира Notion страници по график.
- Използвайте отделни възли за приемане за всеки източник.
- Нормализирайте метаданните (заглавие, URL адрес, автор, раздел).
- Маркирайте частите по източник за по-добро филтриране по време на извличане.
- Подходящ за: Бази от знания, уикита и вътрешни портали.
3) Майсторски клас по разделяне на части: От наивни разделяния до семантични прозорци
- Защо е страхотен: Разделянето на части е мястото, където се печели или губи най-много качество на RAG.
- Ще изградите: Паралелна оценка на стратегии за разделяне на части с метрики за обосноваване.
- Сравнете фиксиран размер, рекурсивно заглавие и семантично разделяне на части.
- Използвайте прозорци за припокриване за таблици и кодови блокове.
- Оценете прецизността/възвръщаемостта на извлечените части.
- Съвет: Поддържайте частите достатъчно малки за уместност, но достатъчно големи за контекст (често 300–700 токена с 10–20% припокриване).
4) Вграждане в мащаб: Замяна на модели и векторни хранилища
- Защо е страхотен: Изборът на модел безшумно определя вашия таван за извличане.
- Ще изградите: Вариант на конвейер, който заменя вграждания (напр.
text-embedding-3-large, BGE, E5) и векторни хранилища (FAISS, Milvus, PGVector).
- Извършете A/B тестове за извличане с последователни заявки.
- Проследявайте процентите на попадения и средния реципрочен ранг.
- Изберете косинусна спрямо точковата продуктова прилика според указанията на модела.
- Подходящ за: Екипи, подготвящи се за растеж или настройка на разходите и производителността.
5) Предпазни мерки и смекчаване на халюцинациите в RAGFlow
- Защо е страхотен: Безопасността не е незадължителна в производството.
- Ще изградите: Конвейер, разширен с извличане, с ограничения за отговор, политики за отказ и проверки на цитати.
- Добавете възел за валидиране на отговори, за да гарантирате, че всеки отговор цитира поне N източника.
- Използвайте шаблон с инструкции, който забранява гадаенето и изисква „Не знам“, когато липсват доказателства.
- Добавете проверка на фактите след генериране спрямо извлечените части.
6) RAGFlow за структурирани данни: SQL + хибридно извличане на текст
- Защо е страхотен: Много въпроси смесват документи и бази данни.
- Ще изградите: Конвейер с двоен извличащ механизъм: семантично извличане за документи и извикване на инструменти за SQL.
- Маршрутизирайте количествените въпроси към SQL чрез извикване на функции.
- Включете таблицата с резултати от SQL като артефакт на контекста към LLM.
- Обединете със фрагменти от документи за наративни обяснения.
7) Оценка на качеството на RAG със златни комплекти и човешки преглед
- Защо е страхотен: Без оценки летите на сляпо.
- Ще изградите: Оценъчен механизъм, който измерва обосноваността, покритието на цитатите и полезността.
- Подгответе 50–200 златни двойки въпроси и отговори с източници.
- Настройте автоматични изпълнения след всяка промяна на конвейера.
- Използвайте оценяване на съгласието между отговорите на модела и златните препратки.
8) RAGFlow в производство: Кеширане, изчаквания и наблюдаемост
- Защо е страхотен: Производството въвежда латентност, ограничения на скоростта и ограничения на разходите.
- Ще изградите: Здрав конвейер с кеширане на заявки, повторни опити и табла за проследяване.
- Добавете векторен и генерационен кеш, индексиран по нормализирани заявки.
- Внедрете отстъпление за проблеми с доставчика.
- Излъчете обхвати/метрики за латентност на извличане и използване на токени.
9) Специфични за домейна наръчници: Правни, здравни и поддръжка
- Защо е страхотен: Ограниченията на домейна променят всичко.
- Ще изградите: Шаблони, които зачитат съответствието, речника и моделите на разсъждение за всеки домейн.
- Правно: приоритизирайте раздели, цитати с идентификатори на параграфи.
- Здравеопазване: премахнете идентификацията на PHI, ограничете съветите до насоки.
- Поддръжка: интегрирайте историята на билетите; претеглете по-високо последните документи.
10) RAGFlow + Извикване на функции: Действия, а не само отговори
- Защо е страхотен: Най-мощните RAG системи могат да четат, разсъждават и действат.
- Ще изградите: Конвейер, където LLM извлича документи, след това извиква инструменти - изпращане на имейли, отваряне на билети или планиране на задачи.
- Дефинирайте JSON схеми за инструменти.
- Добавете маршрутизатор за решения, за да разделите заявките „отговор“ спрямо „действие“.
- Регистрирайте всяко извикване на инструмент с предпазни мерки и одобрения.
Практическа пътна карта: От урок до производство за 30 дни
Използвайте горните уроци в този 4-етапен план. Третирайте това като свой „RAGFlow курс“.
Седмица 1: Основи и първи победи
- Завършете урок 1 (Бърз старт) и урок 3 (Майсторски клас по разделяне на части).
- Изпратете доказателство за концепцията, отговаряща на 20–30 тестови въпроса от вашите документи.
- Добавете основни шаблони за отговори, за да наложите цитати и откази.
Седмица 2: Дълбочина на данните и надеждност
- Добавете приемане от множество източници (урок 2) и планирайте повторно индексиране.
- Заменете вграждания и векторно хранилище (урок 4); изберете победителя по цена/качество.
- Въведете кеширане и изчаквания (урок 8), за да поддържате постоянна латентност.
Седмица 3: Оценки, предпазни мерки и съответствие на домейна
- Създайте златен комплект и автоматични оценки (урок 7).
- Добавете проверки на фактите след генериране и политика за отказ (урок 5).
- Приложете наръчник за домейн (урок 9) с персонализирани подкани.
Седмица 4: Хибридно извличане и възможност за действие
- Свържете SQL/извикване на инструменти (урок 6) за смесени заявки.
- Добавете извикване на функции и одобрения (урок 10), така че вашето RAGFlow приложение да може да предприема действия.
- Инструментирайте табла за наблюдаемост; задайте SLO за точност и латентност.
RAGFlow концепции, които трябва да знаете
Дори най-добрите RAGFlow уроци предполагат няколко основни идеи. Ето бързо опресняване.
- Retrieval Augmented Generation (RAG): Увеличете контекста на LLM с извлечени части от вашата база знания, така че отговорите да бъдат обосновани с доказателства.
- Разделяне на части: Разделяне на документи на единици, които могат да бъдат извлечени. Припокриванията запазват контекста; заглавията създават граници; семантичните методи използват вграждания, за да намерят естествени точки на прекъсване.
- Вграждания: Векторни представяния на части и заявки. По-добрите вграждания подобряват уместността на извличането и намаляват халюцинациите.
- Векторно хранилище: База данни за вектори с търсене на прилики. Изборът влияе върху скоростта, възвръщаемостта и мащаба.
- Пренареждане: Незадължителен класификатор на втория етап за пренареждане на извлечените части по уместност.
- Prompt Engineering: Ясни инструкции за изискване на цитати, забрана на предположения и форматиране на изхода.
- Оценки: Систематично измерване с помощта на златни комплекти, човешки преглед и автоматични метрики.
Стартов код за копиране и поставяне: Базов шаблон за RAG Prompt
Използвайте този шаблон във вашия възел за генериране, за да намалите халюцинациите и да наложите цитати.
Вие сте внимателен асистент, който отговаря САМО с информация, намерена в извлечения контекст.
Правила:
- Цитирайте доказателства с [source_name:page_or_section] след всяко твърдение.
- Ако отговорът не е в контекста, кажете "Не знам въз основа на предоставените източници."
- Предпочитайте директни цитати за дефиниции; обобщавайте за процедури.
Контекст:
{{retrieved_context}}
Въпрос:
{{user_query}}
Отговор:
Пример: Замяна на вграждания и измерване на въздействието
# Псевдокод, илюстриращ логиката на експеримента, който ще видите в разширените уроци
from ragflow import Pipeline, EmbeddingNode, VectorStoreNode, EvalHarness
pipelines = []
for model in ["text-embedding-3-large", "bge-large", "e5-large"]:
emb = EmbeddingNode(model=model)
vs = VectorStoreNode(kind="milvus", metric="cosine")
pl = Pipeline.add_nodes([
"ingest", "chunk", emb, vs, "retrieve", "generate"
])
pipelines.append((model, pl))
h = EvalHarness(goldset="gold_qa.jsonl")
results = {}
for model, pl in pipelines:
results[model] = h.run(pl, metrics=["groundedness", "citation_coverage", "latency"])
print(results)
Лист за бърза справка за интерпретация:
- Ако обосноваността скочи след смяна на модела, запазете го - дори ако токените струват малко повече.
- Ако латентността скочи, добавете кеширане или намалете максималния брой извлечени части от 8 → 5.
- Ако покритието на цитатите падне, променете размера на частта или добавете пренареждане.
Често срещани клопки, които тези уроци ви помагат да избегнете
- Прекалено разделяне на части: Твърде малките части водят до липсващ контекст и шумни отговори.
- Недостатъчно разделяне на части: Огромните части замърсяват контекстните прозорци с неподходящ текст.
- Един размер за всички вграждания: Езикът на домейна (правен, клиничен) може да изисква модели, настроени за домейна.
- Без оценки: Промяната на каквото и да било без базова линия създава фантомни регресии.
- Игнориране на свежестта: Остарелите индекси водят до правилни, но остарели отговори.
- Пропускане на предпазни мерки: Без правила за отказ, вашият модел гадае.
Избор на правилния урок за вашия случай на употреба
- Бот за поддръжка на стартиращ бизнес: Уроци 1, 2, 5, 8, 9.
- Вътрешен асистент за изследвания: Уроци 1, 3, 4, 7.
- Копилот за анализ на данни: Уроци 6, 10.
- Регулирани индустрии: Урок 5 и 9 първо, след това 7.
Между другото: Създавайте прототипи по-бързо със Sider.AI
Когато итерирате върху RAG подкани, тествате заявки и сравнявате отговори, превключването на контекста е скъпо. Заслужава си да се отбележи: Sider.AI (https://sider.ai/) ви позволява да разговаряте с множество модели един до друг, да закачате подкани и да поддържате текущо работно пространство за знания. Удобно е за: - Сравняване на отговори от различни настройки за извличане и подкани.
- Извършване на бързи what-if тестове, преди да вградите промените в RAGFlow.
- Организиране на фрагменти, цитати и златни въпроси и отговори за вашия оценъчен механизъм.
Използвайте го като чернова, докато следвате RAGFlow уроци; след това кодифицирайте победителя във вашия конвейер.
Ръководство за отстраняване на неизправности: Бързи поправки, когато нещата се счупят
- Симптом: Отговорите са общи и липсват цитати.
- Корекция: Наложете изискване за цитиране в подканата и добавете възел за валидиране.
- Симптом: Извлечени са неподходящи части.
- Корекция: Увеличете припокриването на части, превключете към по-добър модел за вграждане или добавете пренареждане.
- Симптом: Латентност > 3 секунди.
- Корекция: Кеширайте векторните резултати, ограничете извлечените части и използвайте поточно предаване на токени.
- Симптом: Противоречиви отговори в заявките.
- Корекция: Нормализирайте метаданните, премахнете дублирането на почти идентични части, претеглете по-новите документи.
- Симптом: Моделът отказва твърде често с „Не знам“.
- Корекция: Разхлабете прага на отказ, разширете дълбочината на извличане или прецизирайте границите на частите.
Основни изводи
- Най-добрите RAGFlow уроци преподават системи от край до край с реалистични данни и оценки.
- Разделянето на части и вгражданията имат най-голямо влияние върху качеството на отговорите.
- Успехът в производството изисква кеширане, наблюдаемост, предпазни мерки и златен комплект.
- Използвайте наръчници за домейна и извикване на функции, за да надхвърлите въпросите и отговорите в реални работни процеси.
- Използвайте инструменти като Sider.AI по време на експериментиране, за да сравнявате бързо подкани и резултати.
Какво да правите по-нататък
- Изберете два урока, които отговарят на вашата непосредствена нужда (напр. Бърз старт + Майсторски клас по разделяне на части).
- Съберете златен комплект въпроси и отговори от вашите собствени документи (започнете с 50 въпроса).
- Извършете една промяна наведнъж; измервайте обосноваността и латентността след всяка.
- Преминете към производствени шаблони с кеширане и предпазни мерки, когато вашите оценки се стабилизират.
- Наслоете извикване на функции и политики на домейна, след като вашата базова линия е надеждна.
ЧЗВ
В1: Кой е най-добрият RAGFlow урок за абсолютни начинаещи?
Започнете с урок за бърз старт на RAGFlow, който обхваща приемане на PDF, разделяне на части, вграждане, индексиране, извличане и генериране с цитати. Той ви дава бързо усещане от край до край и ви подготвя за по-задълбочени RAGFlow уроци.
В2: Как да подобря точността в RAGFlow отвъд основните уроци?
Съсредоточете се върху стратегията за разделяне на части, качеството на вгражданията и пренареждането. Разширените RAGFlow уроци също показват как да добавите предпазни мерки и оценъчни механизми, за да намалите халюцинациите и да определите количествено обосноваността.
В3: Кои вграждания работят най-добре с RAGFlow за корпоративни документи?
Опитайте силни общи модели като text-embedding-3-large, E5 или BGE, след което измерете метриките за извличане на вашите данни. Най-добрите RAGFlow уроци препоръчват A/B тестове между модели и векторни хранилища, за да изберете победителя.
В4: Може ли RAGFlow да обработва структурирани данни като SQL заедно с документи?
Да. Уроците за хибридно извличане за RAGFlow показват как да маршрутизирате количествени заявки към SQL чрез извикване на функции, докато все още използвате семантично извличане за неструктурирани документи, след което да обедините резултатите по време на генериране.
В5: Как да оценя конвейер на RAGFlow, преди да влезе в действие?
Следвайте фокусирани върху оценката RAGFlow уроци: създайте златен комплект въпроси и отговори с източници, изпълнявайте автоматизирани тестове след промени и проследявайте обосноваността, покритието на цитатите, латентността и полезността. Разгърнете само когато метриките се стабилизират.
