# pip install langchain langchain-openai
from langchain_openai import ChatOpenAI
from langchain_core.prompts import ChatPromptTemplate
# 1) Model
llm = ChatOpenAI(model="gpt-4o-mini", temperature=0)
# 2) Prompt
prompt = ChatPromptTemplate.from_messages( a sprievodcu streamovaním.
---
## Stavebné bloky, ktoré budete používať v 80% prípadov
### 1) Prompty a parsovanie výstupu
- Používajte `ChatPromptTemplate` pre štruktúrované prompty.
- Parsujte výstupy pomocou `StrOutputParser` alebo JSON parserov pre typové odpovede.
```python
from langchain_core.output_parsers import StrOutputParser
from langchain_core.prompts import ChatPromptTemplate
from langchain_openai import ChatOpenAI
llm = ChatOpenAI(model="gpt-4o-mini")
prompt = ChatPromptTemplate.from_template(
"""
Zhrňte nasledujúci text v 3 bodoch:
---
{text}
"""
)
parser = StrOutputParser
chain = prompt | llm | parser
summary = chain.invoke({"text": "LangChain pomáha vytvárať LLM aplikácie s RAG a nástrojmi."})
print(summary)

# pip install faiss-cpu tiktoken
from langchain_openai import OpenAIEmbeddings, ChatOpenAI
from langchain_community.vectorstores import FAISS
from langchain_text_splitters import RecursiveCharacterTextSplitter
from langchain_core.prompts import ChatPromptTemplate
# Pripravte dokumenty
texts = .
---
## Od prototypu k produkcii: Podrobný plán
### Krok 1: Definujte používateľský príbeh
- Kto je používateľ? Akú prácu sa snaží dokončiť?
- Príklad: „Agent podpory, ktorý odpovedá na otázky o produkte z interných dokumentov a nedávnych ticketov.“
### Krok 2: Vyberte minimálny životaschopný stack
- Model: Vyberte si primerane lacný a spoľahlivý model (napr. GPT-4o-mini alebo frontier open model).
- Dáta: Rozhodnite sa, či potrebujete RAG teraz. Ak áno, začnite s FAISS lokálne.
- I/O: Používajte LCEL pre rýchlu iteráciu; vyhýbajte sa vlastnému kódu.
### Krok 3: Implementujte čistý RAG loop
- Rozdeľte dokumenty správne.
- Indexujte embeddingy.
- Promptujte s kontextom a citáciami.
- Pridajte ochranu, aby ste sa vyhli halucináciám, keď sa nenájde žiadny relevantný kontext.
```python
from langchain_core.output_parsers import StrOutputParser
from langchain_core.prompts import ChatPromptTemplate
qa_prompt = ChatPromptTemplate.from_template(
"""
Odpovedzte na otázku IBA pomocou KONTEXTU nižšie. Ak odpoveď nie je
v kontexte, povedzte „Neviem“. Uveďte citované ID dokumentov.
KONTEXT:
{context}
OTÁZKA: {question}
"""
)
parser = StrOutputParser
rag_chain = (RunnableParallel(context=retriever, question=RunnableLambda(lambda x: x.
### Krok 5: Typové výstupy a validácia
- Používajte `PydanticOutputParser` alebo JSON schému na vynútenie štruktúry pre API odpovede.
- Validujte polia na zachytenie model driftu.
### Krok 6: Nástroje a volanie funkcií pre skutočné úlohy
- Zavádzajte nástroje striedmo.
- Bežné nástroje: kalkulačka, vyhľadávanie na webe, SQL query executor, code runner.
- Jasne popíšte možnosti nástrojov v docstringoch.
### Krok 7: Posilnenie
- Obmedzenie rýchlosti a stratégie opakovania.
- Časové limity a ističe.
- Bezpečnostné filtre a kontroly obsahu.
### Krok 8: Hodnotenie a neustále zlepšovanie
- Testujte so zlatými dátovými sadami (vstup → očakávaný výstup).
- Hodnoťte vernosť, úplnosť odpovede a presnosť citácií.
- Merajte mieru zásahu pri vyhľadávaní a latenciu.
---
## Bežné vzory a nástrahy
- Začnite jednoducho: Reťaze pred agentmi. Získate predvídateľnosť a nižšie náklady.
- Chunking je dôležitý: Ladenie veľkosti/prekrývania chunkov môže zmeniť kvalitu vyhľadávania viac ako výmena modelu.
- Únik promptu: Nedávajte všetko do systémových promptov; udržujte ich zamerané.
- Determinizmus: Nastavte `temperature=0` pre hodnotenie a kritické pracovné postupy.
- Streamovanie UX: Streamujte tokeny do používateľského rozhrania, zatiaľ čo zvyšok systému získava aktíva alebo prednačíta kontext.
- Štruktúrované výstupy: Používajte parsery na uľahčenie downstream integrácie.
---
## Celý mini projekt: Otázky a odpovede k dokumentom s citáciami
Tento príklad spája všetko dohromady: príjem, RAG, generovanie odpovedí a streamovanie.
```python
# pip install langchain langchain-openai faiss-cpu tiktoken
from langchain_openai import ChatOpenAI, OpenAIEmbeddings
from langchain_text_splitters import RecursiveCharacterTextSplitter
from langchain_community.vectorstores import FAISS
from langchain_core.prompts import ChatPromptTemplate
from langchain_core.output_parsers import StrOutputParser
from langchain_core.runnables import RunnableParallel, RunnableLambda
# 1) Ingest
corpus = {
"pricing": "Náš Pro plán podporuje 1M kontextových tokenov a zahŕňa prioritnú podporu.",
"limits": "Limit API je 60 žiadostí za minútu pre používateľov Pro.",
"security": "Ukladáme protokoly po dobu 30 dní, pokiaľ správca nevypne protokolovanie.",
}
splitter = RecursiveCharacterTextSplitter(chunk_size=300, chunk_overlap=50)
all_chunks, ids = [], []
for doc_id, text in corpus.items:
for i, chunk in enumerate(splitter.split_text(text)):
all_chunks.append(chunk)
ids.append(f"{doc_id}-{i}")
# 2) Index
db = FAISS.from_texts(all_chunks, OpenAIEmbeddings)
retriever = db.as_retriever(k=4)
# 3) Prompt
prompt = ChatPromptTemplate.from_template(
"""
Ste asistent podpory. Použite KONTEXT na odpoveď.
Ak si nie ste istý, povedzte „Neviem“. Uveďte citácie zdrojových ID.
KONTEXT:
{context}
OTÁZKA: {question}
"""
)
# 4) Model a parser
llm = ChatOpenAI(model="gpt-4o-mini", temperature=0)
parser = StrOutputParser
# 5) Zložte reťaz
rag = (
RunnableParallel(
context=retriever,
question=RunnableLambda(lambda x: x["question"]) # pass-through
)
| prompt
| llm
| parser
)
# 6) Položte otázku
for chunk in rag.stream({"question": "Aké sú limity Pro tarify a uchovávanie protokolov?"}):
print(chunk, end="", flush=True)