El que passa amb la “IA de context llarg” és que tothom jura que la té, fins que li fas una pregunta detallada sobre la pàgina 47. Llavors, de sobte, té la memòria d’un peix vermell amb una lesió al cap. DeepSeek‑OCR aterra just al mig d’aquest embolic amb una afirmació simple, si és certa: comprimeix el que importa, mantén l’estructura i deixa de cremar tokens com si fóssim al 2023. La promesa no és “OCR, però millor”. És un OCR que respecta el disseny i es nega a inflar la finestra de context amb soroll.
I sí, això és exactament el que la majoria dels anomenats pipelines de context llarg fan malament. Encolomen text sense format al model i es pensen que ja està. El dia acaba ràpidament en al·lucinacions.
Anem a investigar com integrar DeepSeek‑OCR en un pipeline de context llarg real: un que s’escali realment, que pagui la factura informàtica sense llàgrimes i que no s’ensorri quan el PDF té taules, notes a peu de pàgina o, Déu ens ajudi, proves legals.
Per què DeepSeek‑OCR és diferent (i útil)
- El disseny és informació: els documents llargs no són només text; són arguments espacials. Els encapçalaments, les columnes, les taules, els títols de les figures: tot té significat. DeepSeek‑OCR té com a objectiu preservar aquesta estructura com a ciutadà de primera classe, que és exactament el que necessiten els models de context llarg per raonar a través de centenars de pàgines sense perdre el fil.
- Compressió sense lobotomia: la qüestió no és comprimir-ho tot en una finestra de 8K. Es tracta de mantenir el senyal (dens, estructurat, navegable) i abaratir la resta.
- Funciona bé amb els passos posteriors: RAG, resum, transformadors de context llarg, fins i tot agents. Com millor sigui la capa OCR, menys s’hauran de disculpar les capes de recuperació i raonament.
Què estàs construint: un pipeline de context llarg amb columna vertebral
Pensa en el pipeline com en cinc parts, cadascuna fent bé una feina:
- Tipus d’entrada: PDF (natius digitals i escanejats), imatges, TIFF d’escàners, exportacions d’oficina desordenades.
- Preprocessament: correcció de la inclinació, eliminació del soroll, binarització si és necessari i divisió de pàgines de manera coherent. Mantén les metadades per pàgina: números de pàgina, fitxer d’origen, ancoratges de secció.
- Objectiu de sortida: imatges o llenços de pàgina en un format predictible (PNG o JPEG) amb DPI estable.
- Executa DeepSeek‑OCR a cada pàgina per extreure:
- Intervals de text amb quadres delimitadors (x, y, amplada, alçada)
- Tipus de bloc: encapçalaments, paràgrafs, llistes, taules, figures, notes a peu de pàgina
- Ordre de lectura i estructura jeràrquica (arbre del document)
- Conserva tant el text sense format com les característiques de disseny. Si pot exportar un mapa a nivell de token, conserva’l. Les taules han d’estar estructurades (CSV/HTML) i també enllaçades de nou a les seves coordenades.
- Compressió amb coneixement del disseny
- El truc: comprimir per la importància del bloc, no per la truncació de tokens ingènua.
- Heurístiques que funcionen realment:
- Encapçalaments i resums de secció: conserva’ls literalment.
- Paràgrafs: selecció a nivell de frase utilitzant un classificador lleuger (estil BM25/ColBERT o un petit codificador local).
- Taules: conserva els encapçalaments i les k files superiors estadísticament variants; mantén les columnes numèriques completament intactes; amaga la taula completa fora de banda.
- Títols i notes a peu de pàgina: conserva’ls; pocs tokens, alt significat.
- Un context narratiu compacte i conscient del disseny: 10–20% dels tokens originals, coherent, navegable.
- Un índex sidecar: punters des dels intervals comprimits als blocs de fidelitat completa.
- Recuperació i encaminament (RAG fet com un adult)
- Vectors densos per a la cerca semàntica en frases/paràgrafs.
- Escassos (BM25) per a la cerca exacta: codis, cites, identificadors.
- Índex conscient de la taula: incrustacions per fila i per cel·la per a consultes numèriques.
- Preguntes amb moltes paraules clau → escàs primer, torna a classificar amb dens.
- Preguntes analítiques o de “per què” → dens primer, torna a classificar amb ancoratges escassos.
- Consultes de taula/matemàtiques → índex de taula directament, amb procedència de fila/columna.
- Raonament de context llarg
- LLM de context llarg per a indicacions holístiques (documents de política, RFP, articles de recerca).
- Agent pas a pas que crida eines per a tasques de diversos salts: recupera → analitza → verifica → cita.
- No carreguis mai tota la narrativa compacta al model. Munta un context just a temps: les seccions superiors per intenció, les taules rellevants i els paràgrafs propers. Coseix amb molles de pa (noms de secció, referències de pàgina, identificadors de figura).
Què en surt: respostes amb rebuts. Cada afirmació enllaça amb un identificador de bloc, un número de pàgina i un interval de coordenades que pots ressaltar al PDF original. Així és com obtens confiança.
El plànol pràctic: des de PDF sense format fins a respostes de context llarg
Etapa 1: Ingesta de documents
- Valida el fitxer: si està protegit amb contrasenya o està corromput, falla ràpidament.
- Renderitza a imatges de pàgina a un DPI fix (300 està bé; 200 per velocitat).
- Conserva els hash a nivell de pàgina perquè puguis emmagatzemar l’OCR a la memòria cau.
Etapa 2: passada DeepSeek‑OCR
- Pàgines per lots per al rendiment de la GPU.
- Extreu blocs i ordre de lectura. Normalitza les coordenades a un espai de pàgina coherent.
- JSON: llista de blocs amb tipus, text, bbox, pàgina.
- Taules com a CSV/HTML més mapa bbox per a cada cel·la.
- Un markdown cosit opcional amb suggeriments de disseny (## per a encapçalaments, :::table per a taules, etc.).
Etapa 3: Neteja posterior a l’OCR
- Combina paraules amb guionet a través de salts de línia.
- Resol columnes: si una pàgina té dues columnes, assegura’t que l’ordre de lectura respecti les columnes.
- Detecta els encapçalaments mitjançant heurístiques de font/mida si no es proporcionen; construeix un arbre TOC.
- Elimina els encapçalaments/peus de pàgina repetits (comú en contractes escanejats).
Etapa 4: Compressió amb estructura
- Divideix els paràgrafs en frases. Puntuació de frases amb un classificador barat entrenat al teu domini.
- Conserva les frases amb puntuació alta; conserva sempre la primera frase sota cada encapçalament.
- Per a les taules: conserva la fila d’encapçalament + les k files superiors per variància/importància i una referència a la taula completa.
- Produeix la narrativa compacta i el sidecar d’índex que enllaça cada frase conservada amb el seu original.
Etapa 5: Indexació
- Incrustacions denses per a frases (utilitza un model multilingüe fort si cal).
- Índex escàs sobre el corpus complet (títol, encapçalaments, codis, cites, identificadors, unitats).
- Incrustacions de taula a nivell de fila i cel·la; conserva estadístiques numèriques (min, max, mitjana) per a filtres ràpids.
- Emmagatzema la procedència: doc_id, pàgina, bbox, block_id.
Etapa 6: Encaminament i recuperació de consultes
- Classifica la intenció de la consulta: cerca vs anàlisi vs matemàtiques de taula vs comparació.
- Executa la recepta de recuperació adequada:
- Cerca: escassa → reclassificació densa.
- Anàlisi: densa → veïns de secció.
- Matemàtiques de taula: índex de taula + filtres de fila; adjunta text proper per al context.
- Compila un paquet d’indicacions:
- 3–6 passatges recuperats (amb encapçalaments i referències de pàgina)
- Si cal, 1–2 taules petites o estadístiques calculades
- Mantén les indicacions per sota dels punts òptims específics del model. El context llarg no és context infinit.
Etapa 7: Síntesi de respostes amb cites
- Demana una sortida estructurada: resposta seccionada i cites en línia com [Doc §2.3, p. 47, tbl A].
- Per a afirmacions complicades, activa una passada de verificació: torna a recuperar els intervals exactes, torna a fer una pregunta dirigida, concilia els conflictes.
- Torna una resposta amb un rastre de procedència en què els usuaris puguin fer clic.
Notes de rendiment que estalvien diners reals
- No facis YOLO a la GPU: l’OCR està limitat per l’E/S i per la GPU en una estranya alternança. Processa per lots per recompte de pàgines i normalitza les mides de les imatges per maximitzar la reutilització del kernel.
- Emmagatzema a la memòria cau de manera agressiva: si el document d’origen no ha canviat, no tornis a fer l’OCR. Hash del contingut del mapa de bits de la pàgina, no del fitxer.
- Les taules són mines terrestres: augmenten el recompte de tokens i redueixen la qualitat. Extreu-les de manera neta i mantén-les fora del context general tret que la pregunta les necessiti.
- La divisió en fragments no és una religió: divideix per disseny (encapçalaments, paràgrafs), no per longitud de token. La divisió en fragments per longitud de token és com perds l’estructura de l’argument.
- Verifica abans de resumir: no resumeixis passatges ambigus fins que la recuperació redueixi el context; comprimiràs les coses equivocades.
Gestió d’errors: les parts poc atractives que importen
- PDF trencats: intenta una alternativa de rasterització. Si encara està trencat, torna un artefacte de diagnòstic. El fracàs silenciós és pitjor que cap resposta.
- Escanejos escombraries (qualitat de fax): prova d’augmentar el soroll/contrast; si la confiança cau per sota del llindar, marca-ho per a la revisió humana. Admet el que no saps.
- Scripts no llatins: assegura’t que el model OCR admet el teu conjunt de scripts; en cas contrari, encamina’l a una variant OCR especialitzada.
- Taules que semblen art: si la detecció de taules falla, no ho pretenguis. Tracta-ho com una imatge amb un títol i torna un avís de “necessita extracció manual”.
Model de dades: conserva el mapa amb el territori
- amplada/alçada, dpi, hash
- tipus: encapçalament/paràgraf/llista/taula/figura/nota a peu de pàgina
- text (opcional), bbox, ordre, suggeriments d’estil
- files, cols, textos de cel·la, bboxes de cel·la, marques d’encapçalament
- doc_id, pàgina, block_id, offsets, bbox
Seguretat i compliment
- No carreguis PDF sensibles a API de tercers tret que la teva política digui que pots. Si ho has de fer, xifra-ho en trànsit i en repòs.
- Redacta la informació d’identificació personal (PII) a l’etapa OCR si és possible: la redacció de quadres delimitadors és més forta que l’emmascarament de cadenes post hoc.
- Registra la recuperació i la generació de respostes sense registrar el contingut on estigui prohibit. Conserva hash i identificadors, no text sense format.
Opcions de models de context llarg (sense l’emoció)
- Si les teves preguntes són principalment “on diu X”, prioritza la recuperació i la cita per sobre de la llargada del context pur. Un context curt i precís supera una al·lucinació d’1 M de tokens.
- Si els teus documents són narratius (recerca, informes), els models de context llarg ajuden, però només quan estan guiats per l’estructura de la secció.
- Els fluxos de treball amb moltes taules volen un cervell dividit: model de llenguatge per a la prosa, un programa lleuger per a l’aritmètica i el filtratge.
Control de versions i deriva
- L’OCR millora; els documents canvien; les incrustacions es desplacen. Controla la versió de tot:
- Versió i configuració del motor OCR
- Versió del model d’incrustació
- Versió de l’esquema d’índex
- Quan canviï qualsevol versió, torna a indexar incrementalment. Conserva tant l’antic com el nou fins que demostris la paritat.
Esquema d’integració per a desenvolupadors
- Treballador 1: Ingesta → renderitza pàgines → posa en cua.
- Treballador 2 (GPU): DeepSeek‑OCR per pàgina → JSON estructurat → taules.
- Treballador 3: Neteja + arbre de disseny → compressió.
- Treballador 4: Construcció d’índex (dens + escàs + taules) → publica.
- Servei: encaminador de consultes → recuperació → muntatge d’indicacions → LLM → verifica → respon.
- Emmagatzematge: magatzem d’objectes per a imatges de pàgina i sidecars; DB per a blocs i procedència; índexs vectorials i escassos.
Una paraula sobre les eines que no fan un embolic
La peça menys cridanera sovint fa el pipeline. OCR ajustat que respecta el disseny, un índex que pot dir “No ho sé” i un constructor d’indicacions que es nega a omplir en excés. Aquesta és la feina. Si vols connectar això a un flux de treball pràctic (per exemple, resumir contractes, revisar RFI de 300 pàgines o auditar manuals SOP), Sider.AI funciona realment com la capa d’adhesiu entre OCR, recuperació i indicacions de context llarg, especialment quan el tractes com un capatàs disciplinat en lloc d’un mag. Utilitza’l per orquestrar: tasques d’ingesta, polítiques de divisió en fragments, selecció de models i el bucle de “verificar abans de confiar”. Es guanya el seu sou quan necessites escalar aquests treballs entre equips i mantenir els resultats reproduïbles. Els “Gotchas” que trobaràs divendres
- Compressió excessiva: talles massa i les respostes perden matisos. Observa les mètriques de longitud/cobertura de la resposta; afegeix una alternativa per obtenir el bloc complet quan la confiança disminueixi.
- Recuperació excessiva: arrossegues 60 fragments a la indicació i superes el context. Limita-ho i inclina’t cap a l’adjacència (les seccions veïnes són or).
- Il·lusions de taula: el model cita un número de manera convincent, però de la fila equivocada. Sempre combina fragments de taula amb una clau de fila a la indicació.
- Pàgines duplicades: als fluxos de treball d’escaneig els encanta repetir. Hash de pàgines; elimina els duplicats a nivell de pàgina abans de pagar per l’OCR.
- Referències creuades i notes a peu de pàgina: contenen advertències legalment significatives. No deixis caure mai les notes a peu de pàgina en documents de política/legals; mantén-les en un carril de pocs tokens.
Mètriques de qualitat que no menteixen
- Precisió de la cita Top‑k: el bloc citat realment admet l’afirmació?
- Precisió de la cel·la de la taula: taxa de referències de cel·les correctes en respostes numèriques.
- Fidelitat de la compressió: superposició d’estil ROUGE/LFQA entre la narrativa comprimida i l’original per secció.
- Latència de la consulta sota càrrega: P95 d’extrem a extrem, no només temps LLM.
- Puntuació de confiança humana: els usuaris accepten o rebutgen les respostes a primera vista? És l’única mètrica que prediu l’adopció.
Un exemple de treball mínim (conceptual)
- Entrada: especificació de compra de 180 pàgines amb apèndixs i cinc taules retorçades.
- Executes DeepSeek‑OCR; emet blocs estructurats amb caixes i un TOC fidel.
- La compressió conserva tots els encapçalaments, les primeres frases i les files essencials de les taules. Sidecar apunta a tot.
- L’usuari pregunta: “Quina secció estableix la durada de la garantia per als components elèctrics?”
- L’encaminador tria escàs → dens.
- La recuperació torna dues seccions i un apèndix.
- La indicació alimenta l’encapçalament + paràgrafs amb cites en línia.
- El model respon: “Secció 4.2.1, p. 67: ‘Els components elèctrics tenen una garantia mínima de 36 mesos…’” amb un enllaç que ressalta l’interval exacte.
- L’usuari pregunta: “Quin és el pressupost total d’energia entre bastidors?”
- L’encaminador selecciona l’índex de taula. Extreu les files correctes, suma dues columnes amb una eina senzilla i cita la taula B‑3 amb claus de fila. Sense matemàtiques al·lucinades.
Per què això funciona quan altres no ho fan
Perquè tracta l’OCR, la recuperació i el raonament com a treballs separats amb un contracte entre ells. DeepSeek‑OCR et dóna estructura; la compressió conserva el significat; la recuperació obté l’evidència correcta; el model de context llarg ho uneix tot sense ofegar-se en farciment. L’opció predeterminada de la indústria és posar-ho tot en una finestra més gran i pregar. La pregària no és una estratègia.
Si has de retallar, retalla aquests al final
- Extracció de taules: si escatimes aquí, cada pas posterior hereta l’embolic.
- Connexió de procedència: els usuaris perdonen la lentitud i fins i tot les respostes incorrectes ocasionals; no perdonen les respostes que no poden verificar.
- Memòria cau i hash: la teva factura de núvol et perdonarà si ho fas bé.
El fragment dialèctic: necessites fins i tot un context llarg?
Un pensament picant: de vegades, el context llarg és una crossa per a una recuperació dolenta. Si les teves preguntes són estretes i precises, inverteix en una millor indexació i contextos més petits. El context llarg brilla quan la pregunta et demana que sintetitzis entre seccions: excepcions de política, clàusules amb referències creuades, revisions de literatura. En cas contrari, estàs pagant per l’atenció que no necessites.
I si realment necessites una comprensió de “llegir-ho tot”? No obliguis el model a mantenir-ho tot a la memòria de treball. Organitza-ho: esquema → recupera → justifica. Fins i tot els humans ho fan.
Resum: porta rebuts o no et molestis
Integrar DeepSeek‑OCR en un pipeline de context llarg no consisteix a adorar a l’altar de les finestres més grans. Es tracta de respectar els documents com a arguments espacials, comprimir amb gust, recuperar amb intenció i respondre amb rebuts. Fes-ho i el teu pipeline deixarà de fingir que recorda la pàgina 47 i començarà a demostrar-ho.
Sider.AI, utilitzat amb seny, fa que això sigui pràctic: orquestra les etapes, manté les indicacions honestes i aplica la disciplina que el treball de context llarg requereix realment. Si això sona poc atractiu, bé. La part atractiva són les respostes en què pots confiar. Preguntes freqüents
Q1:Quina és la manera més ràpida d’integrar DeepSeek‑OCR en un pipeline de context llarg?
Tracta l’OCR com un servei per lots de GPU amb un emmagatzematge en memòria cau estricte, després comprimeix per disseny (encapçalaments, paràgrafs, taules) abans de la recuperació. Afegeix un índex híbrid (dens + escàs + taula) i munta les indicacions just a temps en lloc de bolcar tot el document.
Q2:Realment necessito models de context llarg si estic utilitzant DeepSeek‑OCR?
No sempre. Si les teves preguntes són precises, una millor recuperació i cites superen el context de força bruta. El context llarg val la pena quan necessites síntesi entre seccions, no quan estàs buscant una clàusula a la pàgina 67.
Q3:Com gestiono les taules sense que explotin els recomptes de tokens?
Extreu les taules estructuralment, conserva els encapçalaments i unes quantes files d’alt senyal i emmagatzema la taula completa fora de banda. Encaminant les preguntes de taula a un índex de taula i només inclou les cel·les necessàries a la indicació.
Q4:Quines mètriques demostren que el pipeline funciona realment?
Fes un seguiment de la precisió de la cita, la precisió de la cel·la de la taula, la fidelitat de la compressió per secció i la latència d’extrem a extrem P95. El més revelador és una puntuació de confiança humana: els usuaris accepten la resposta sense buscar proves?
Q5:On encaixa Sider.AI en aquesta configuració?
Com a capa d’orquestració: programa l’OCR, aplica les polítiques de divisió en fragments i recuperació i manté les indicacions disciplinades. Pensa en el capatàs, no en el mag: la cosa que fa que totes les altres peces apareguin a temps i amb rebuts. 
