# pip install langchain langchain-openai
from langchain_openai import ChatOpenAI
from langchain_core.prompts import ChatPromptTemplate
# 1) Modelis
llm = ChatOpenAI(model="gpt-4o-mini", temperature=0)
# 2) Ragavimas
prompt = ChatPromptTemplate.from_messages( ir srautinio perdavimo vadovą.
---
## Statybiniai blokai, kuriuos naudosite 80% laiko
### 1) Ragavimai ir išvesties analizavimas
- Naudokite `ChatPromptTemplate` struktūrizuotiems ragavimams.
- Analizuokite išvestis su `StrOutputParser` arba JSON analizatoriais, kad gautumėte tipizuotus atsakymus.
```python
from langchain_core.output_parsers import StrOutputParser
from langchain_core.prompts import ChatPromptTemplate
from langchain_openai import ChatOpenAI
llm = ChatOpenAI(model="gpt-4o-mini")
prompt = ChatPromptTemplate.from_template(
"""
Apibendrinkite šį tekstą 3 punktais:
---
{text}
"""
)
parser = StrOutputParser
chain = prompt | llm | parser
summary = chain.invoke({"text": "LangChain padeda kurti LLM programas su RAG ir įrankiais."})
print(summary)

# pip install faiss-cpu tiktoken
from langchain_openai import OpenAIEmbeddings, ChatOpenAI
from langchain_community.vectorstores import FAISS
from langchain_text_splitters import RecursiveCharacterTextSplitter
from langchain_core.prompts import ChatPromptTemplate
# Paruoškite dokumentus
texts = .
---
## Nuo prototipo iki gamybos: žingsnis po žingsnio planas
### 1 žingsnis: apibrėžkite vartotojo istoriją
- Kas yra vartotojas? Kokį darbą jis bando atlikti?
- Pavyzdys: „Pagalbos agentas, kuris atsako į produktų klausimus iš vidaus dokumentų ir naujausių bilietų.“
### 2 žingsnis: pasirinkite minimalų perspektyvų rinkinį
- Modelis: pasirinkite prieinamą, patikimą modelį (pvz., GPT-4o-mini arba atvirą ribinį modelį).
- Duomenys: nuspręskite, ar jums dabar reikia RAG. Jei taip, pradėkite nuo FAISS vietoje.
- I/O: naudokite LCEL greitai iteracijai; venkite pasirinktinio klijavimo kodo.
### 3 žingsnis: įdiekite švarų RAG ciklą
- Tinkamai padalinkite dokumentus.
- Indeksuokite įterpimus.
- Ragaukite su kontekstu ir citatomis.
- Pridėkite apsaugą, kad išvengtumėte haliucinacijų, kai nerandama jokio atitinkamo konteksto.
```python
from langchain_core.output_parsers import StrOutputParser
from langchain_core.prompts import ChatPromptTemplate
qa_prompt = ChatPromptTemplate.from_template(
"""
Atsakykite į klausimą naudodami TIK žemiau esantį KONTEKSTĄ. Jei atsakymo nėra
kontekste, pasakykite „Aš nežinau.“ Įtraukite cituojamus dokumentų ID.
KONTEKSTAS:
{context}
KLAUSIMAS: {question}
"""
)
parser = StrOutputParser
rag_chain = (RunnableParallel(context=retriever, question=RunnableLambda(lambda x: x.
### 5 žingsnis: tipizuotos išvestys ir patvirtinimas
- Naudokite `PydanticOutputParser` arba JSON schemą, kad priverstumėte struktūrą API atsakymams.
- Patvirtinkite laukus, kad sugautumėte modelio dreifą.
### 6 žingsnis: įrankiai ir funkcijų iškvietimas realioms užduotims
- Įrankius įveskite saikingai.
- Įprasti įrankiai: skaičiuotuvas, paieška internete, SQL užklausų vykdytojas, kodo vykdymo įrankis.
- Aiškiai aprašykite įrankio galimybes dokumentacijos eilutėse.
### 7 žingsnis: stiprinimas
- Tarifų apribojimas ir pakartotinio bandymo strategijos.
- Laiko apribojimai ir grandinės pertraukikliai.
- Saugos filtrai ir turinio patikrinimai.
### 8 žingsnis: įvertinimas ir nuolatinis tobulinimas
- Išbandykite su auksiniais duomenų rinkiniais (įvestis → tikėtina išvestis).
- Įvertinkite patikimumą, atsakymo išsamumą ir citavimo tikslumą.
- Išmatuokite paieškos pataikymo dažnį ir delsą.
---
## Dažni modeliai ir klaidos
- Pradėkite paprastai: grandinės prieš agentus. Jūs gausite nuspėjamumą ir mažesnę kainą.
- Dalijimas į dalis yra svarbus: derinant dalies dydį/sutapimą, paieškos kokybė gali pasikeisti labiau nei pakeitus modelį.
- Ragavimo nutekėjimas: nekiškite visko į sistemos raginimus; laikykite juos sutelktus.
- Determinizmas: nustatykite `temperature=0` įvertinimui ir svarbioms darbo eigoms.
- Srautinio perdavimo UX: srautu perduokite žetonus į UI, kol likusi sistema paima išteklius arba iš anksto įkelia kontekstą.
- Struktūrizuotos išvestys: naudokite analizatorius, kad integracija žemyn būtų neskausminga.
---
## Pilnas mini projektas: dokumentų klausimai ir atsakymai su citatomis
Šis pavyzdys apjungia viską: įvedimą, RAG, atsakymų generavimą ir srautinį perdavimą.
```python
# pip install langchain langchain-openai faiss-cpu tiktoken
from langchain_openai import ChatOpenAI, OpenAIEmbeddings
from langchain_text_splitters import RecursiveCharacterTextSplitter
from langchain_community.vectorstores import FAISS
from langchain_core.prompts import ChatPromptTemplate
from langchain_core.output_parsers import StrOutputParser
from langchain_core.runnables import RunnableParallel, RunnableLambda
# 1) Įveskite
corpus = {
"pricing": "Mūsų Pro planas palaiko 1M konteksto žetonų ir apima prioritetinį palaikymą.",
"limits": "API tarifo apribojimas yra 60 užklausų per minutę Pro vartotojams.",
"security": "Mes saugome žurnalus 30 dienų, nebent administratorius išjungia registravimą.",
}
splitter = RecursiveCharacterTextSplitter(chunk_size=300, chunk_overlap=50)
all_chunks, ids = [], []
for doc_id, text in corpus.items:
for i, chunk in enumerate(splitter.split_text(text)):
all_chunks.append(chunk)
ids.append(f"{doc_id}-{i}")
# 2) Indeksas
db = FAISS.from_texts(all_chunks, OpenAIEmbeddings)
retriever = db.as_retriever(k=4)
# 3) Ragavimas
prompt = ChatPromptTemplate.from_template(
"""
Jūs esate pagalbos asistentas. Naudokite KONTEKSTĄ, kad atsakytumėte.
Jei nesate tikri, pasakykite „Aš nežinau.“ Įtraukite šaltinio ID citatas.
KONTEKSTAS:
{context}
KLAUSIMAS: {question}
"""
)
# 4) Modelis ir analizatorius
llm = ChatOpenAI(model="gpt-4o-mini", temperature=0)
parser = StrOutputParser
# 5) Sudėkite grandinę
rag = (
RunnableParallel(
context=retriever,
question=RunnableLambda(lambda x: x["question"]) # perduoti
)
| prompt
| llm
| parser
)
# 6) Užduokite klausimą
for chunk in rag.stream({"question": "Kokie yra Pro tarifų apribojimai ir žurnalų saugojimas?"}):
print(chunk, end="", flush=True)