# 1) ഇൻസ്റ്റാൾ ചെയ്യുക
# pip install llama-index llama-index-embeddings-openai llama-index-llms-openai
import os
from llama_index.core import VectorStoreIndex, SimpleDirectoryReader
from llama_index.embeddings.openai import OpenAIEmbedding
from llama_index.llms.openai import OpenAI
# 2) നിങ്ങളുടെ മോഡലും embeddings-ഉം ക്രമീകരിക്കുക
os.environ["OPENAI_API_KEY"] = "YOUR_KEY" # അല്ലെങ്കിൽ പിന്തുണയുള്ള ഏതെങ്കിലും LLM/embedding പ്രൊവൈഡർ ഉപയോഗിക്കുക
llm = OpenAI(model="gpt-4o-mini")
embed_model = OpenAIEmbedding(model="text-embedding-3-small")
# 3) ഡോക്യുമെന്റുകൾ ലോഡ് ചെയ്യുക (ഉദാ: ./data/*.pdf, .md, .txt)
docs = SimpleDirectoryReader("./data").load_data
# 4) ഇൻഡക്സ് നിർമ്മിക്കുക
index = VectorStoreIndex.from_documents(docs, embed_model=embed_model)
# 5) ഒരു ക്വറി എഞ്ചിൻ സൃഷ്ടിച്ച് ചോദ്യമുയർത്തുക
query_engine = index.as_query_engine(llm=llm)
response = query_engine.query("ഡോക്യുമെന്റുകളിൽ പരാമർശിച്ച പ്രധാന സെക്യൂരിറ്റി പ്രാക്ടീസുകൾ എന്തെല്ലാമാണ്?")
print(response)

from llama_index.core import SimpleDirectoryReader
from llama_index.readers.web import SimpleWebPageReader
file_docs = SimpleDirectoryReader("./policies").load_data
web_docs = SimpleWebPageReader(html_to_text=True).load_data
all_docs = file_docs + web_docs

from llama_index.core.node_parser import SentenceSplitter
from llama_index.core import Document
parser = SentenceSplitter(chunk_size=800, chunk_overlap=100)
nodes = []
for d in all_docs:
nodes.extend(parser.get_nodes_from_documents([Document(text=d.text, metadata=d.metadata)]))

from llama_index.core import VectorStoreIndex, SummaryIndex
from llama_index.core.retrievers import BM25Retriever
from llama_index.core.query_engine import RetrieverQueryEngine
# മുൻകൂട്ടി പാഴ്‌സുചെയ്‌ത നോഡുകളിൽ നിന്ന് വെക്ടർ ഇൻഡക്സ്
v_index = VectorStoreIndex(nodes)
# BM25 കീവേഡ് റിട്രീവർ
bm25_retriever = BM25Retriever.from_defaults(nodes=nodes, similarity_top_k=6)
# ഹൈബ്രിഡ്: സ്ഥാനാർത്ഥികളെ സംയോജിപ്പിച്ച്, പിന്നീട് റീറാങ്ക് ചെയ്യുക
from llama_index.core.retrievers import RouterRetriever
from llama_index.retrievers.merge import MergerRetriever
v_retriever = v_index.as_retriever(similarity_top_k=6)
hybrid = MergerRetriever(retrievers=[v_retriever, bm25_retriever], top_k=8)
query_engine = RetrieverQueryEngine.from_args(retriever=hybrid)

from llama_index.postprocessor.flag_embedding_reranker import FlagEmbeddingReranker
from llama_index.core.query_engine import RetrieverQueryEngine
reranker = FlagEmbeddingReranker(top_n=5, model="BAAI/bge-reranker-base")
query_engine = v_index.as_query_engine(
similarity_top_k=12,
node_postprocessors=[reranker]
)

from llama_index.core.response_synthesizers import get_response_synthesizer
from llama_index.core import ServiceContext
synth = get_response_synthesizer(response_mode="tree_summarize")
query_engine = v_index.as_query_engine(response_synthesizer=synth)
ans = query_engine.query("ഓൺബോർഡിംഗ് ഘട്ടങ്ങൾ സംഗ്രഹിച്ച് ഉറവിടങ്ങൾ ഉദ്ധരിക്കുക.")
print(ans)

from llama_index.core.prompts import PromptTemplate
qa_tmpl = PromptTemplate(
"""
നിങ്ങൾ ഒരു ലഘുവായ, തെളിവ്-ആധാരമായ അസിസ്റ്റന്റാണ്. കൊടുത്തിരിക്കുന്ന കോൺടെക്സ്റ്റ് മാത്രമേ ഉപയോഗിക്കൂ.
അറിയില്ലെങ്കിൽ, അറിയില്ല എന്ന് പറയൂ. JSON ഫോർമാറ്റിൽ answer, sources എന്ന കീകൾ കൊണ്ട് മറുപടി നൽകുക.
ചോദ്യം: {query_str}
കോൺടെക്സ്റ്റ്: {context_str}
"""
)
query_engine = v_index.as_query_engine(text_qa_template=qa_tmpl)

from llama_index.core.agent import ReActAgent
from llama_index.tools.sql import SQLQueryEngineTool
from sqlalchemy import create_engine
engine = create_engine("sqlite:///analytics.db")
sql_tool = SQLQueryEngineTool.from_engine(engine)
agent = ReActAgent.from_tools([sql_tool], llm=llm, verbose=True)
agent.chat("Q2 2025-ലെ മാസാന്ത ചർൺ എത്രയായിരുന്നു? ആവശ്യമായാൽ DB-യിൽ ക്വറി ചെയ്യുക.")

from llama_index.core.evaluation import FaithfulnessEvaluator, RelevancyEvaluator
faith = FaithfulnessEvaluator(llm=llm)
rel = RelevancyEvaluator(llm=llm)
pred = query_engine.query("നമ്മുടെ പോളിസിയിൽ SOC 2 നിയന്ത്രണ കുടുംബങ്ങൾ പട്ടികപ്പെടുത്തുക.")
print("വിശ്വസനീയമാണോ?", faith.evaluate_response(pred))
print("പ്രസക്തമാണോ?", rel.evaluate_response(pred))

# ഉദാഹരണം: Chroma
# pip install chromadb llama-index-vector-stores-chroma
from llama_index.vector_stores.chroma import ChromaVectorStore
from llama_index.core import StorageContext
import chromadb
chroma_client = chromadb.PersistentClient(path="./chroma_store")
collection = chroma_client.get_or_create_collection("company_knowledge")
vector_store = ChromaVectorStore(chroma_collection=collection)
storage_context = StorageContext.from_defaults(vector_store=vector_store)
index = VectorStoreIndex.from_documents(all_docs, storage_context=storage_context)

# ഉദാഹരണം: ക്വറി സമയത്ത് മെറ്റാഡേറ്റ അടിസ്ഥാനമാക്കി ഫിൽട്ടറിംഗ്
retriever = index.as_retriever(similarity_top_k=8)
retriever.metadata_filters = {"department": ["legal", "security"], "published": [True]}

# മിനിമൽ FastAPI റാപ്പർ
# pip install fastapi uvicorn
from fastapi import FastAPI
app = FastAPI()
qe = index.as_query_engine(llm=llm)
@app.post("/query")
async def query(payload: dict):
q = payload.get("q", "")
resp = qe.query(q)
return {"answer": str(resp), "sources": [s.node.metadata for s in resp.source_nodes]}