Mapinduzi ya kimyakimya: kugeuza maandishi kuwa pikseli ili kuokoa tokeni
Hii hapa kweli isiyo ya kawaida: kutoa maandishi kama picha kunaweza kufanya lugha za modeli kuwa nafuu na kasi zaidi. DeepSeek-OCR imeeneza mfumo wa “maandishi kama picha” ambao unadai kupunguza gharama za tokeni hadi mara 10 ikilinganishwa na usanidi wa kawaida wa OCR + LLM. Ikiwa hiyo inasikika kuwa ya kurudi nyuma—kwanini uongeze kompyuta ioni kwenye tatizo la lugha?—uko haswa pale maelezo haya yanaanzia.
Katika uchambuzi huu wa kina, tunaangazia jinsi mbinu ya "maandishi kama picha" inavyofanya kazi, kwa nini inapunguza hesabu za tokeni, na wakati inaposhinda OCR ya kawaida. Pia tutaangalia kesi za pembeni, biashara za usahihi, na njia za vitendo za kuipeleka katika uzalishaji.
Msingi wa haraka: mbinu ya “maandishi kama picha” ni nini?
- Mfumo wa jadi: OCR (toa maandishi) → gawanya katika tokeni → tuma kwa LLM → lipa kwa kila tokeni.
- Mbinu ya DeepSeek-OCR: weka maudhui kama picha (au mpangilio unaofaa ioni) → tumia encoder ya ioni + LLM → lipa kwa kila kiraka/kipengele cha kuona → tengeneza kwa kuchagua.
Badala ya kupanua ukurasa kuwa maelfu ya tokeni ndogo za maneno, modeli hutumia gridi iliyoshikamana ya viraka vya kuona. Kila kiraka huweka habari nyingi zaidi kuliko tokeni ndogo ya neno—hasa kwa mipangilio mnene (majedeali, risiti, fomu, PDFs). Ufanisi huo wa usimbaji ndio sababu kuu kwa nini mbinu ya "maandishi kama picha" ya DeepSeek-OCR inapunguza gharama za tokeni hadi mara 10.
Kwa nini gharama za tokeni huongezeka katika utiririshaji wa OCR + LLM
- Nafasi nyeupe zisizo za lazima na boilerplate: OCR hutoa kila herufi. Kugawanya huongeza hii kuwa tokeni ndogo za maneno nyingi.
- Gharama za mpangilio: Vichwa, vianzo vya chini, nambari za ukurasa, na maandishi ya kisheria yanayorudiwa yote huongeza hesabu ya tokeni.
- Kupoteza umbizo: Majedwali huwa mfuatano mrefu. Jedwali lililopangwa la 10×10 linaweza kulipuka kuwa maelfu ya tokeni.
- Madirisha ya muktadha: Hati ndefu zinahitaji madirisha ya kuteleza au mifumo ya urejeshaji, kutuma tena muktadha mara kwa mara.
Kwa upande mwingine, encoder za kuona huchakata ukurasa kama seti iliyowekwa ya viraka (k.m., tokeni 768–2,048 kwa kila ukurasa) bila kujali hesabu ya herufi mbichi. Hiyo ndiyo msingi wa ushindi wa ufanisi nyuma ya muundo wa DeepSeek-OCR.
Jinsi DeepSeek-OCR inavyopata akiba hadi mara 10
Fikiria mrundiko wa "maandishi kama picha" kama tabaka nne:
- Uwekaji tokeni wa kuona badala ya uwekaji tokeni wa maneno madogo
- Ukurasa wa PDF unakuwa viraka N vya kuona (k.m., 14×14 = viraka 196 kwa kila eneo; au kurasa zilizowekwa tiles kwa ~1–2k tokeni).
- Kila kiraka hubeba vidokezo vya kisemantiki (maumbo ya glyph, mahusiano ya anga, vidokezo vya fonti) ambavyo modeli ya lugha ya kuona inaweza kufikiri juu yake.
- Kufikiri kwa kuzingatia mpangilio
- Modeli “inaona” muundo wa hati—majedeali, vichwa, violezo—bila kuviunda tena kama maelezo marefu ya maandishi.
- Kwa urejeshaji, inaweza kuchagua maeneo muhimu badala ya kutiririsha kurasa nzima.
- Usimbaji adimu (zalisha kidogo)
- Badala ya kutoa maandishi yote ya hati, modeli inaweza kutoa tu kile kinachohitajika: sehemu, jedwali, muhtasari.
- Kizazi kidogo = tokeni za matokeo ya chini.
- Ufinyaji kupitia utumiaji tena wa kiraka
- Vipengele vinavyorudiwa (nembo, vichwa) vinaonekana kama tokeni za kuona zinazofanana ukurasa hadi ukurasa, kuwezesha umakini na akiba yenye ufanisi zaidi.
Kwa jumla, chaguo hizi zinaeleza kwa nini mbinu ya "maandishi kama picha" ya DeepSeek-OCR inapunguza gharama za tokeni hadi mara 10 katika fomu, ankara, PDFs za kisayansi, na mikataba mirefu.
Nionyeshe hesabu: ulinganisho wa gharama takriban
Hali: mkataba wa kurasa 20, ~7,500 maneno (~10,000–12,000 tokeni ndogo za maneno baada ya OCR + umbizo).
- Tokeni za kuingiza kwa kila kundi: 8,000+ (inahitaji kugawanya, muktadha unaorudiwa)
- Tokeni za pato (muhtasari, uchimbaji): 500–1,000
- Jumla ya gharama: Ya juu, pamoja na muda wa kusubiri kutoka kwa kugawanya na maswali mapya
- DeepSeek-OCR “maandishi kama picha”
- Tokeni za kuona kwa kila ukurasa: ~1,000–2,000 (mara nyingi chache na tiling/kupunguza ukubwa)
- Maswali yanayolengwa ya eneo: 10–30% ya hati kwa wakati mmoja
- Pato: tokeni 200–500 kwa kila kazi (usimbaji unaolengwa)
- Jumla ya gharama: Mara nyingi sehemu ya hapo juu, na utumaji upya wachache
Inapoongezwa kwa mamia ya hati, akiba ya jumla inakaribia kichwa cha habari “hadi mara 10” katika gharama na muda wa kusubiri—hasa kwa maudhui yanayojirudia, mazito ya mpangilio.
Wakati “maandishi kama picha” yanapoangaza dhidi ya OCR ya kawaida
- Mipangilio mnene: majedwali, risiti, ankara, lebo za usafirishaji, fomu za matibabu
- Hati za lugha nyingi au zilizochanganywa: Kichina + Kiingereza + nukuu za hesabu, ambapo mgawanyiko wa OCR huongeza tokeni
- Uchanganuzi wenye kelele: mihuri, alama za maji, kurasa zilizopindishwa—modeli za kuona hufikiri juu ya kelele bora kuliko mifumo dhaifu ya OCR
- Uchimbaji uliopangwa: kuvuta sehemu maalum, vitu vya mstari, au seli za jedwali
- QA ya muktadha: “Ni kifungu gani kinashughulikia kusitisha?” katika kurasa bila kutuma tena maandishi yote
Wakati OCR ya kawaida bado inashinda
- Usafirishaji kamili wa maandishi na uaminifu kamili: Unahitaji maandishi safi, yanayoweza kunakiliwa kwa utafutaji/index.
- Vifaa duni sana: Ikiwa huwezi kuendesha encoder ya kuona au VLM kubwa, OCR rahisi inaweza kuwa nafuu zaidi ndani ya nchi.
- Utiririshaji wa ufikiaji: Visoma skrini vinahitaji pato la maandishi ya kisemantiki; mtiririko wa picha pekee hautatosha isipokuwa uongeze hatua ya usafirishaji wa maandishi.
Kidokezo cha kitaalamu: Changanya. Tumia “maandishi kama picha” kwa kufikiri na uchimbaji wa sehemu. Rudi nyuma kwa OCR kwa kumbukumbu za mwisho zinazoweza kutafutwa au tabaka za ufikiaji.
Mfumo wa usanifu: mpango wa vitendo
Tumia muundo huu wa msimu ili kupitisha kanuni za DeepSeek-OCR bila kujenga upya mrundiko wako:
- Kubali PDFs, TIFFs, scans; sanifisha azimio (k.m., 144–192 DPI)
- Weka tiles kurasa ndefu ili kuweka hesabu za kiraka zikiwa zimefungwa
- Endesha encoder ya kuona ili kuunda uwekaji mnene kwa kila tile/ukurasa
- Hifadhi uwekaji kwa maswali yanayorudiwa (huongeza gharama)
- Tumia utambuzi wa mpangilio kuchagua maeneo ya mgombea (kichwa, majedwali, vitalu vya saini)
- Tumia utafutaji wa vekta juu ya uwekaji wa kuona au vigunduzi vyepesi
- Changamsha VLM na maeneo yaliyochaguliwa tu + kidokezo cha kazi
- Tumia usimbaji uliowekwa (mpango wa JSON) kwa matokeo yaliyopangwa
- Sanifisha sehemu (tarehe, kiasi, sarafu)
- Pasi ya hiari ya OCR kwa misururu halisi ya maandishi inapohitajika
Mfumo huu huweka tokeni za kuona chini, hupunguza umakini wa modeli, na hupunguza urefu wa kizazi—lever tatu ambazo huunganisha kwa akiba kubwa.
Usahihi, uaminifu, na kesi za pembeni
- Maandishi mazuri kwa DPI ya chini: Fonti ndogo zinaweza kusomwa vibaya. Tumia tiling inayobadilika au DPI ya juu kwa maeneo yanayoshukiwa kuwa na maandishi madogo.
- Mwandiko: Modeli za kuona husaidia, lakini urekebishaji mzuri wa sehemu maalum au vitambuzi maalum vya mwandiko bado vinaweza kuhitajika.
- Vitalu vya hesabu na msimbo: Muktadha wa kuona husaidia kuhifadhi muundo, lakini zingatia OCR ya kuchagua kwa uaminifu kamili wa sintaksia.
- Majedwali yenye seli zilizounganishwa: Uangalizi wa mpangilio kawaida husaidia, lakini sheria za baadae zinaweza kuongeza uaminifu (k.m., hitimisho la kichwa, ukaguzi wa kizuizi).
Kidokezo cha kuweka alama: Tathmini katika kiwango cha kazi (kiwango cha F1 cha sehemu, usahihi wa jedwali, mechi kamili ya QA) badala ya kiwango kibichi cha makosa ya herufi.
Lever za gharama unazodhibiti
- Kupunguza sampuli: DPI ya chini hupunguza tokeni za kuona; vizingiti vya majaribio ambavyo huweka usahihi ukiwa sawa.
- Uzuiaji wa eneo: Kamwe usitume kurasa kamili ikiwa unahitaji tu kifungu au jedwali.
- Vikwazo vya pato: Mpango wa JSON au mifumo ya regex hupunguza vizazi virefu.
- Akiba: Tumia tena uwekaji wa kuona kwa hati moja kwenye maswali mengi.
- Usahihi/wingi mchanganyiko: Ikiwa unajihudumia mwenyewe, FP16/INT8 inaweza kupunguza hesabu na muda wa kusubiri.
Mifano ya utekelezaji (matukio)
- Uchimbaji wa kipengee cha mstari wa ankara
- Tuma tu kizuizi cha vitu vya mstari na kisanduku cha muuzaji kama picha
- Zuia pato kwa mpango wa JSON (tarehe, muuzaji, sarafu, vitu[])
- Kurudi nyuma kwa hiari kwa OCR kwa kitambulisho cha ankara ili kuhakikisha mechi kamili ya misururu
- QA ya kifungu cha mkataba
- Weka kila ukurasa kuonekana mara moja; hifadhi katika DB ya vekta
- Rejesha maeneo 1–3 yanayohusiana na swali (“kusitisha,” “kukabidhi,” “sheria inayoongoza”)
- Omba VLM itaje index ya eneo na ifupishe kifungu katika ≤120 tokeni
- Muhtasari wa PDF wa kisayansi
- Zingatia kichwa, muhtasari, takwimu, na maeneo ya hitimisho
- Tengeneza muhtasari wa kilala na orodha ya ukaguzi wa mbinu; epuka kutuma sehemu ya marejeleo
Mifumo hii hupunguza tokeni za kuingiza na kutoa huku ikihifadhi usahihi pale inapohitajika.
Kwa nini hadi mara 10 na sio kila wakati mara 10?
Akiba ya tokeni inategemea:
- Msongamano wa hati: Mipangilio mizito hunufaika zaidi
- Upeo wa kazi: Uchimbaji unaolengwa hushinda kuzaliwa upya kwa maandishi kamili
- Bei ya modeli: Bei ya uingizaji wa ioni dhidi ya bei ya uingizaji wa maandishi inatofautiana na mtoa huduma
- Usindikaji wa awali/baadae: Uteuzi mzuri wa eneo na usimbaji uliowekwa huongeza faida
Tarajia 2–4× kwa ujumla + miiba hadi ~10× kwenye utiririshaji changamano, wa kurasa nyingi, mzito wa mpangilio.
Dhahania potofu za kawaida
- “Picha ni nzito kuliko maandishi, kwa hivyo hii lazima iwe na gharama zaidi.”
- Katika bili ya LLM, gharama hufuatilia tokeni za modeli, sio ukubwa mbichi wa faili. Viraka vya kuona mara nyingi hubadilisha maelfu ya tokeni ndogo za maneno.
- “OCR imetatuliwa, kwa hivyo kwa nini uifanye ngumu?”
- OCR inatatizika na semantiki za mpangilio, majedwali, mihuri, na kelele za lugha nyingi. Modeli za lugha ya ioni hufikiri juu ya muundo moja kwa moja.
- “Huwezi kupata maandishi halisi kutoka kwa picha.”
- Ni kweli kwa misururu kamili ya pikseli. Ndiyo maana timu nyingi huunganisha mbinu na OCR ya kuchagua tu pale usahihi unahitajika.
Vidokezo vya zana na ujumuishaji
- Tabaka la urejeshaji: Tumia vigunduzi vya mpangilio (mtindo wa DocLayNet), au funza modeli nyepesi ya pendekezo la eneo kwa fomu/majedwali.
- Usimbaji uliowekwa na mpango: Mpango wa JSON au vizuizi vya mtindo wa Pydantic hupunguza ufasaha na makosa.
- Uwekaji wa tathmini: Pima muda wa kujibu, gharama kwa kila hati, na usahihi wa kiwango cha sehemu—sio tu hesabu za tokeni.
- Faragha: Kwa hati nyeti, zingatia VLMs za ndani na uhakikishe uhifadhi uliosimbwa wa uwekaji wa kuona.
Inafaa kuzingatia: Ikiwa unachunguza utiririshaji wa kazi wa aina nyingi, Sider.AI inaweza kurahisisha majaribio. Unaweza kurudia vidokezo kwa uingizaji wa maandishi na picha, kulinganisha gharama/muda wa kusubiri katika modeli kando kando, na utengenezaji wa kiotomatiki wa kundi la tathmini. Hiyo hurahisisha kuthibitisha ikiwa mbinu ya "maandishi kama picha" ya DeepSeek-OCR kweli inapunguza gharama zako za tokeni hadi mara 10 kwenye data yako mwenyewe kabla ya kujitolea kwa uhamiaji. Mpango wa utekelezaji: jaribio katika wiki moja
- Siku ya 1–2: Tumia mfumo wako wa sasa wa OCR + LLM. Ingia tokeni za kuingiza/kutoa, muda wa kusubiri, na usahihi kwa kila kazi.
- Siku ya 3: Ongeza hatua ya uwekaji wa kuona na urejeshaji wa eneo. Hifadhi uwekaji kwa kila ukurasa.
- Siku ya 4: Badilisha simu yako ya LLM hadi VLM kwa maeneo yaliyolengwa. Zuia pato.
- Siku ya 5: Endesha ulinganisho wa A/B kwenye hati 100–500. Fuatilia delta za gharama, usahihi, na aina za makosa.
- Siku ya 6–7: Sawa DPI, tiling, na uzuiaji wa eneo; ongeza kurudi nyuma kwa OCR ya kuchagua.
Ikiwa nambari zinalingana na matarajio, panua hadi uzinduzi kamili; ikiwa sivyo, zingatia uteuzi bora wa eneo na usimbaji madhubuti ili kutambua akiba.
Mambo muhimu ya kuzingatia
- Mbinu ya “maandishi kama picha” ya DeepSeek-OCR hupunguza gharama za tokeni hadi mara 10 kwa kubadilisha tokeni za maandishi refu na viraka vya kuona vilivyoshikamana, kwa kutumia urejeshaji wa kiwango cha eneo, na kupunguza kizazi.
- Inafanya vizuri zaidi kwenye hati mnene, chafu, au za lugha nyingi na kazi za uchimbaji zilizopangwa.
- Mikakati mseto—ioni kwa kufikiri, OCR ya kuchagua kwa misururu halisi—mara nyingi hutoa uwiano bora wa usahihi kwa gharama.
- Upimaji mkali na vizuizi vikali vya pato ndio njia ya haraka sana ya akiba ya ulimwengu halisi.
Kuangalia mbele: utabiri mfupi wa siku zijazo
Kadiri LLMs za aina nyingi zinavyokomaa, tarajia uelewa wa hati kuungana kwenye kufikiri kwanza kwa ioni na urejeshaji wa maandishi unapohitajika. Tutaona mafunzo ya awali zaidi yanayozingatia mpangilio, tokeni za kuona za bei nafuu, na matokeo sanifu yaliyowekwa na JSON. Kwa timu zinazopambana na gharama za LLM leo, kubadili "maandishi kama picha" kunaweza kuwa lever moja yenye athari kubwa zaidi—hasa kwa kiwango kikubwa.
Maswali Yanayoulizwa Mara kwa Mara
Swali la 1:Mbinu ya “maandishi kama picha” ya DeepSeek-OCR ni nini kwa maneno rahisi?
Badala ya kubadilisha kurasa kuwa misururu mirefu na OCR, DeepSeek-OCR huweka maudhui kama picha na hutumia modeli ya lugha ya ioni kufikiri juu ya mpangilio. Hii inapunguza tokeni za kuingiza na mara nyingi hupunguza gharama hadi mara 10.
Swali la 2:Je, “maandishi kama picha” hupunguzaje gharama za tokeni ikilinganishwa na OCR?
Tokeni za kuona (viraka) hufupisha maeneo makubwa ya maandishi na mpangilio, kubadilisha maelfu ya tokeni ndogo za maneno. Urejeshaji wa kiwango cha eneo na usimbaji uliowekwa zaidi hupunguza tokeni za kuingiza na kutoa.
Swali la 3:Je, DeepSeek-OCR ni sahihi zaidi kuliko OCR ya jadi?
Kwa uelewa wa mpangilio na uchimbaji unaolengwa, mara nyingi hufanya vizuri zaidi kwa sababu hufikiri juu ya muundo. Kwa maandishi kamili, kamili ya herufi, kuiunganisha na OCR ya kuchagua inaweza kutoa usahihi wa hali ya juu zaidi.
Swali la 4:Ni lini nipaswa kupendelea OCR ya kawaida kuliko mfumo wa "maandishi kama picha"?
Tumia OCR ya kawaida ikiwa unahitaji maandishi kamili, yanayoweza kunakiliwa kwa utafutaji au ufikiaji. Kwa uchimbaji, muhtasari, na QA yenye ufanisi wa gharama kwenye PDFs changamano, mbinu ya "maandishi kama picha" kawaida ni bora zaidi.
Swali la 5:Ninawezaje kujaribu DeepSeek-OCR ili kuthibitisha akiba hadi mara 10?
Weka alama mfumo wako wa sasa wa OCR + LLM kwenye hati zinazowakilisha, kisha ubadilishe katika modeli ya lugha ya ioni na uzuiaji wa eneo na matokeo yaliyowekwa na mpango. Linganisha hesabu za tokeni, muda wa kusubiri, na usahihi wa kazi kando kando.
