Revolusi yang tenang: mengubah teks menjadi piksel untuk menghemat token
Inilah kebenaran yang berlawanan dengan intuisi: merender teks sebagai gambar dapat membuat model bahasa lebih murah dan lebih cepat. DeepSeek‑OCR mempopulerkan alur kerja “teks sebagai gambar” yang mengklaim pengurangan biaya token hingga 10× dibandingkan dengan pengaturan OCR + LLM konvensional. Jika itu terdengar terbalik—mengapa menambahkan ke masalah bahasa?—Anda berada tepat di tempat penjelasan ini dimulai.
Dalam pembahasan mendalam ini, kita akan mengupas bagaimana pendekatan "teks sebagai gambar" bekerja, mengapa ia memangkas jumlah token, dan kapan ia mengalahkan OCR klasik. Kita juga akan melihat kasus-kasus ekstrem, pertukaran akurasi, dan cara praktis untuk menerapkannya dalam produksi.
Pengantar singkat: apa itu pendekatan “teks sebagai gambar”?
- Alur kerja tradisional: OCR (ekstraksi teks) → penggalan menjadi token → kirim ke LLM → bayar per token.
- Pendekatan DeepSeek‑OCR: simpan konten sebagai gambar (atau tata letak yang ramah penglihatan) → gunakan + LLM → bayar per /fitur visual token → dekode secara selektif.
Alih-alih memperluas sebuah halaman menjadi ribuan token subkata, model mengonsumsi padat visual. Setiap menyandikan lebih banyak informasi daripada token subkata—terutama untuk tata letak padat (tabel, kuitansi, formulir, PDF). Efisiensi penyandian itulah alasan utama pendekatan “teks sebagai gambar” DeepSeek‑OCR memangkas biaya token hingga 10×.
Mengapa biaya token membengkak dalam alur kerja OCR + LLM
- Spasi berlebihan dan : OCR mengekstrak setiap karakter. Penggalan memperluas ini menjadi banyak token subkata.
- Overhead tata letak: Header, footer, nomor halaman, dan teks hukum yang diulang semuanya meningkatkan jumlah token.
- Kehilangan pemformatan: Tabel menjadi urutan yang bertele-tele. Tabel 10×10 yang terstruktur dapat meledak menjadi ribuan token.
- Jendela konteks: Dokumen panjang memerlukan jendela geser atau alur kerja pengambilan, mengirim ulang konteks berulang kali.
Sebaliknya, memproses halaman sebagai satu set tetap (misalnya, 768–2.048 token per halaman) terlepas dari jumlah karakter mentah. Itulah kemenangan efisiensi mendasar di balik desain DeepSeek‑OCR.
Bagaimana DeepSeek‑OCR mencapai penghematan hingga 10×
Anggap tumpukan "teks sebagai gambar" sebagai empat lapisan:
- Tokenisasi visual alih-alih tokenisasi subkata
- Halaman PDF menjadi N visual (misalnya, 14×14 = 196 per wilayah; atau halaman ubin pada ~1–2 ribu token).
- Setiap membawa petunjuk semantik (bentuk , hubungan spasial, isyarat font) yang dapat dipertimbangkan oleh model .
- Penalaran sadar tata letak
- Model “melihat” struktur dokumen—tabel, judul, —tanpa membuatnya kembali sebagai deskripsi tekstual yang panjang.
- Untuk pengambilan, ia dapat memilih wilayah yang relevan alih-alih melakukan seluruh halaman.
- Dekode jarang (menghasilkan lebih sedikit)
- Alih-alih mengeluarkan seluruh teks dokumen, model hanya dapat mengekstrak apa yang dibutuhkan: sebuah bidang, sebuah tabel, sebuah ringkasan.
- Lebih sedikit generasi = token keluaran lebih rendah.
- Kompresi melalui penggunaan kembali
- Elemen berulang (logo, header) muncul sebagai token visual serupa dari halaman ke halaman, memungkinkan perhatian dan yang lebih efisien.
Secara agregat, pilihan-pilihan ini menjelaskan mengapa pendekatan "teks sebagai gambar" DeepSeek‑OCR memangkas biaya token hingga 10× dalam formulir, faktur, PDF ilmiah, dan kontrak panjang.
Tunjukkan perhitungannya: perbandingan biaya perkiraan
Skenario: Kontrak 20 halaman, ~7.500 kata (~10.000–12.000 token subkata setelah OCR + pemformatan).
- Token masukan per : 8.000+ (memerlukan pemisahan, konteks berulang)
- Token keluaran (ringkasan, ekstraksi): 500–1.000
- Total biaya: Tinggi, ditambah latensi dari penggalan dan permintaan ulang
- DeepSeek‑OCR “teks sebagai gambar”
- Token visual per halaman: ~1.000–2.000 (seringkali lebih sedikit dengan /pengecilan ukuran)
- Kueri wilayah yang ditargetkan: 10–30% dari dokumen sekaligus
- Keluaran: 200–500 token per tugas (dekode terfokus)
- Total biaya: Seringkali sebagian kecil dari di atas, dengan lebih sedikit pengiriman ulang
Ketika diskalakan di ratusan dokumen, penghematan kumulatif mendekati tajuk utama “hingga 10×” dalam biaya dan latensi—terutama untuk konten berulang dan padat tata letak.
Di mana “teks sebagai gambar” bersinar vs. OCR klasik
- Tata letak padat: tabel, kuitansi, faktur, label pengiriman, formulir medis
- Skrip multibahasa atau campuran: notasi Cina + Inggris + matematika, di mana fragmentasi OCR meningkatkan token
- Pemindaian bising: stempel, watermark, halaman miring—model bernalar atas kebisingan lebih baik daripada alur kerja OCR yang rapuh
- Ekstraksi terstruktur: menarik bidang tertentu, item baris, atau sel tabel
- QA kontekstual: “Klausul apa yang mencakup pengakhiran?” di seluruh halaman tanpa mengirim ulang semua teks
Kapan OCR klasik masih menang
- Ekspor teks lengkap dengan kesetiaan sempurna: Anda membutuhkan teks yang bersih dan dapat disalin untuk pencarian/indeks.
- Perangkat sumber daya rendah ekstrem: Jika Anda tidak dapat menjalankan atau VLM besar, OCR sederhana mungkin lebih murah secara lokal.
- Alur kerja aksesibilitas: Pembaca layar memerlukan keluaran teks semantik; alur kerja khusus gambar tidak akan cukup kecuali Anda menambahkan langkah ekspor teks.
Kiat pro: Hibridisasi. Gunakan “teks sebagai gambar” untuk penalaran dan ekstraksi bidang. Kembali ke OCR untuk arsip yang dapat dicari akhir atau lapisan aksesibilitas.
Pola arsitektur: cetak biru praktis
Gunakan pola modular ini untuk mengadopsi prinsip-prinsip DeepSeek‑OCR tanpa membangun kembali tumpukan Anda:
- Terima PDF, TIFF, pemindaian; normalisasi resolusi (misalnya, 144–192 DPI)
- Ubin halaman panjang untuk menjaga jumlah tetap terikat
- Jalankan untuk membuat penyematan padat per ubin/halaman
- Cache penyematan untuk kueri berulang (mengurangi biaya)
- Gunakan deteksi tata letak untuk memilih wilayah kandidat (judul, tabel, blok tanda tangan)
- Terapkan pencarian vektor atas penyematan visual atau detektor ringan
- Prompt VLM hanya dengan wilayah yang dipilih +
- Gunakan dekode terbatas (skema JSON) untuk keluaran terstruktur
- Normalisasi bidang (tanggal, jumlah, mata uang)
- Operan OCR opsional untuk string teks yang tepat saat dibutuhkan
Alur kerja ini menjaga token visual tetap rendah, mempersempit fokus model, dan mengurangi panjang generasi—tiga tuas yang bergabung untuk penghematan besar.
Akurasi, keandalan, dan kasus ekstrem
- Teks halus pada DPI rendah: Font kecil dapat salah dibaca. Gunakan adaptif atau DPI lebih tinggi untuk wilayah teks kecil yang dicurigai.
- Tulisan tangan: Model membantu, tetapi penyetelan halus khusus bidang atau pengenal tulisan tangan khusus mungkin masih diperlukan.
- Blok matematika dan kode: Konteks visual membantu menjaga struktur, tetapi pertimbangkan OCR selektif untuk kesetiaan sintaks yang tepat.
- Tabel dengan sel yang digabung: Perhatian tata letak biasanya membantu, tetapi aturan pasca dapat meningkatkan keandalan (misalnya, inferensi header, pemeriksaan pembatas).
Kiat : Evaluasi pada tingkat tugas (F1 tingkat bidang, akurasi tabel, kecocokan persis QA) daripada tingkat kesalahan karakter mentah.
Tuas biaya yang Anda kendalikan
- : DPI lebih rendah mengurangi token visual; uji ambang batas yang menjaga akurasi tetap utuh.
- : Jangan pernah mengirim halaman penuh jika Anda hanya membutuhkan klausul atau tabel.
- Batasan keluaran: Skema JSON atau pola regex mengurangi generasi verbose.
- : Gunakan kembali penyematan visual untuk dokumen yang sama di beberapa pertanyaan.
- Presisi/kuantisasi campuran: Jika Anda melakukan , FP16/INT8 dapat memangkas komputasi dan latensi.
Contoh implementasi (skenario)
- Ekstraksi item baris faktur
- Kirim hanya blok item baris dan kotak vendor sebagai gambar
- Batasi keluaran ke skema JSON (tanggal, vendor, mata uang, item[])
- OCR opsional untuk ID faktur untuk menjamin kecocokan string yang tepat
- Sematkan setiap halaman secara visual sekali; simpan dalam DB vektor
- Ambil 1–3 wilayah yang relevan dengan kueri (“pengakhiran,” “penugasan,” “hukum yang mengatur”)
- Minta VLM untuk mengutip indeks wilayah dan meringkas klausul dalam ≤120 token
- Fokus pada judul, abstrak, gambar, dan wilayah kesimpulan
- Hasilkan ringkasan awam dan daftar periksa metode; hindari mengirim bagian referensi
Pola-pola ini meminimalkan token masukan dan keluaran sambil menjaga akurasi di tempat yang penting.
Mengapa hingga 10× dan tidak selalu 10×?
Penghematan token bergantung pada:
- Kepadatan dokumen: Tata letak yang lebih berat lebih bermanfaat
- Cakupan tugas: Ekstraksi yang ditargetkan mengalahkan regenerasi teks lengkap
- Harga model: Harga masukan vs. harga masukan teks bervariasi menurut penyedia
- Pra/pasca-pemrosesan: Pemilihan wilayah yang baik dan dekode terbatas memperkuat keuntungan
Harapkan 2–4× secara umum + lonjakan hingga ~10× pada alur kerja kompleks, multi-halaman, dan padat tata letak.
Kesalahpahaman umum
- “Gambar lebih berat daripada teks, jadi ini pasti lebih mahal.”
- Dalam penagihan LLM, biaya melacak token model, bukan ukuran file mentah. visual sering menggantikan ribuan token subkata.
- “OCR sudah terpecahkan, jadi mengapa memperumitnya?”
- OCR berjuang dengan semantik tata letak, tabel, stempel, dan kebisingan multibahasa. Model bernalar atas struktur secara langsung.
- “Anda tidak bisa mendapatkan teks yang tepat dari gambar.”
- Benar untuk string yang sempurna piksel. Itulah mengapa banyak tim memasangkan pendekatan dengan OCR selektif hanya jika ketepatan diperlukan.
Catatan perkakas dan integrasi
- Lapisan pengambilan: Gunakan detektor tata letak (gaya DocLayNet), atau latih model proposal wilayah ringan untuk formulir/tabel.
- Dekode terbatas skema: Batasan gaya Skema JSON atau Pydantic mengurangi verbositas dan kesalahan.
- Rangkaian evaluasi: Ukur waktu-untuk-menjawab, biaya per dokumen, dan akurasi tingkat bidang—bukan hanya jumlah token.
- Privasi: Untuk dokumen sensitif, pertimbangkan VLM dan pastikan penyimpanan terenkripsi penyematan visual.
Perlu dicatat: Jika Anda menjelajahi alur kerja multi-modal, Sider.AI dapat menyederhanakan eksperimen. Anda dapat mengulangi untuk masukan teks dan gambar, membandingkan biaya/latensi di seluruh model secara berdampingan, dan membuat evaluasi secara otomatis. Itu membuatnya lebih mudah untuk memvalidasi apakah pendekatan "teks sebagai gambar" DeepSeek‑OCR benar-benar memangkas biaya token Anda hingga 10× pada data Anda sendiri sebelum Anda berkomitmen untuk migrasi. Rencana aksi: uji coba dalam seminggu
- Hari 1–2: Instrumentasi alur kerja OCR + LLM Anda saat ini. Catat token masukan/keluaran, latensi, dan akurasi per tugas.
- Hari 3: Tambahkan langkah penyematan visual dan pengambilan wilayah. Cache penyematan per halaman.
- Hari 4: Tukar panggilan LLM Anda ke VLM untuk wilayah yang ditargetkan. Batasi keluaran.
- Hari 5: Jalankan perbandingan A/B pada 100–500 dokumen. Lacak delta biaya, akurasi, dan mode kesalahan.
- Hari 6–7: Sesuaikan DPI, , dan ; tambahkan OCR selektif.
Jika angka-angka tersebut sesuai dengan harapan, perluas ke peluncuran penuh; jika tidak, fokus pada pemilihan wilayah yang lebih baik dan dekode yang lebih ketat untuk mewujudkan penghematan.
Poin-poin penting
- Pendekatan “teks sebagai gambar” DeepSeek‑OCR memangkas biaya token hingga 10× dengan mengganti token teks verbose dengan visual yang ringkas, menggunakan pengambilan tingkat wilayah, dan meminimalkan generasi.
- Ini unggul pada dokumen padat, berantakan, atau multibahasa dan tugas ekstraksi terstruktur.
- Strategi hibrida— untuk penalaran, OCR selektif untuk string yang tepat—seringkali memberikan rasio akurasi-ke-biaya terbaik.
- Pengukuran yang ketat dan batasan keluaran yang ketat adalah jalur tercepat menuju penghematan dunia nyata.
Melihat ke depan: proyeksi masa depan singkat
Seiring matangnya LLM multimodal, harapkan pemahaman dokumen untuk menyatu pada penalaran dengan pemulihan teks sesuai permintaan. Kita akan melihat lebih banyak pelatihan awal sadar tata letak, token visual yang lebih murah, dan keluaran terbatas JSON standar. Untuk tim yang memerangi biaya LLM saat ini, peralihan ke “teks sebagai gambar” bisa menjadi tuas paling berdampak—terutama dalam skala besar.
FAQ
Q1:Apa pendekatan “teks sebagai gambar” DeepSeek‑OCR dalam istilah sederhana?
Alih-alih mengonversi halaman menjadi string panjang dengan OCR, DeepSeek‑OCR menyimpan konten sebagai gambar dan menggunakan model untuk bernalar atas tata letak. Ini mengurangi token masukan dan seringkali memangkas biaya hingga 10×.
Q2:Bagaimana “teks sebagai gambar” mengurangi biaya token dibandingkan dengan OCR?
Token visual () meringkas wilayah teks dan tata letak yang besar, menggantikan ribuan token subkata. Pengambilan tingkat wilayah dan dekode terbatas semakin memangkas token masukan dan keluaran.
Q3:Apakah DeepSeek‑OCR lebih akurat daripada OCR tradisional?
Untuk pemahaman tata letak dan ekstraksi yang ditargetkan, seringkali berkinerja lebih baik karena bernalar atas struktur. Untuk teks yang tepat dan sempurna karakter, memasangkannya dengan OCR selektif dapat menghasilkan akurasi tertinggi.
Q4:Kapan saya harus lebih memilih OCR klasik daripada alur kerja “teks sebagai gambar”?
Gunakan OCR klasik jika Anda memerlukan teks lengkap yang dapat disalin untuk pencarian atau aksesibilitas. Untuk ekstraksi, ringkasan, dan QA yang hemat biaya pada PDF kompleks, pendekatan "teks sebagai gambar" biasanya lebih unggul.
Q5:Bagaimana saya dapat menguji coba DeepSeek‑OCR untuk memverifikasi penghematan hingga 10×?
alur kerja OCR + LLM Anda saat ini pada dokumen representatif, lalu tukar dengan model dengan dan keluaran terbatas skema. Bandingkan jumlah token, latensi, dan akurasi tugas secara berdampingan.
