Panduan Cepat: Integrasi LLM Tanpa Sensor ke Aplikasi OCR Anda

Prasyarat: Kunci API dan URL Dasar

Sebelum melakukan permintaan apa pun, Anda memerlukan kunci API dan URL dasar yang benar. Daftar di halaman Dapatkan kunci API hanya dengan email dan kata sandi. Kunci Anda ditampilkan segera setelah pendaftaran, dan tidak memerlukan kartu kredit untuk uji coba.

URL dasar untuk API ini adalah https://api.llmocrapi.com/v1. Endpoint ini kompatibel dengan SDK OpenAI standar. Anda harus mengonfigurasi klien Anda untuk menggunakan URL dasar ini dan menyertakan kunci API Anda dalam header Authorization. Pengidentifikasi model yang akan Anda gunakan untuk semua permintaan adalah uncensored, yang berjalan di server GPU kami sendiri dan dirancang untuk menangani ekstraksi teks mentah tanpa menolak konten dewasa yang sah atau konten kontroversial.

Permintaan Ekstraksi Teks Dasar

Mulailah dengan mengirimkan permintaan penyelesaian chat sederhana untuk menguji koneksi. Endpoint ini menerima input teks dan mengembalikan teks yang diekstrak atau dibersihkan. Gunakan endpoint POST /v1/chat/completions dengan model uncensored. Pastikan badan permintaan Anda mencakup konten pesan dan ID model.

Permintaan dasar ini memverifikasi bahwa kunci API Anda berfungsi dan bahwa model tanpa sensor merespons seperti yang diharapkan. Ini adalah langkah pertama dalam membangun pipeline pasca-pemrosesan OCR Anda.

Copycurl https://api.llmocrapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

Jika Anda menerima respons dengan choices yang berisi teks, integrasi Anda berhasil. Jika Anda mendapatkan error 401, periksa kunci API Anda. Jika Anda mendapatkan error 402, Anda mungkin perlu menambahkan saldo prabayar.

Integrasi SDK Python

Untuk pengembang Python, menggunakan SDK OpenAI resmi adalah pendekatan yang direkomendasikan. Instal paket openai dan konfigurasikan URL dasar untuk mengarah ke API kami. Ini memungkinkan Anda menggunakan metode yang sudah akrab seperti chat.completions.create().

Atur parameter base_url ke https://api.llmocrapi.com/v1 dan teruskan kunci API Anda. Ini memastikan bahwa semua permintaan dialihkan dengan benar ke model tanpa sensor kami. Anda kemudian dapat mengirim teks hasil ekstraksi OCR Anda sebagai pesan pengguna dan menentukan prompt sistem untuk memberi instruksi kepada model tentang cara membersihkan atau meringkas data tersebut.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llmocrapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Metode ini sangat ideal untuk pemrosesan batch dokumen di mana streaming tidak diperlukan. Ini memberikan cara yang mudah untuk mengintegrasikan LLM ke skrip OCR Python Anda yang ada.

Integrasi SDK Node

Pengembang Node.js juga dapat menggunakan SDK OpenAI untuk berinteraksi dengan API. Instal paket openai untuk Node dan konfigurasikan URL dasar secara serupa dengan pengaturan Python. Ini memungkinkan Anda memanfaatkan endpoint chat.completions yang sama dengan sintaks JavaScript yang sudah akrab.

Konfigurasikan klien dengan kunci API Anda dan URL dasar https://api.llmocrapi.com/v1. Ini memastikan kompatibilitas dengan aplikasi Node.js Anda yang ada. Anda kemudian dapat mengirim permintaan untuk mengekstrak atau meringkas teks dari pipeline OCR Anda.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llmocrapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Pendekatan ini cocok untuk pemrosesan sisi server di lingkungan Node, memungkinkan Anda menangani output OCR secara efisien tanpa meninggalkan ekosistem Node Anda.

Respons Streaming untuk Dokumen Besar

Saat memproses dokumen besar, respons streaming dapat meningkatkan pengalaman pengguna dengan mengirimkan teks dalam bagian-bagian saat teks tersebut dihasilkan. Gunakan parameter stream: true dalam permintaan Anda untuk mengaktifkan Server-Sent Events (SSE). Ini memungkinkan Anda memproses teks secara real-time, yang berguna untuk output OCR panjang atau saat menampilkan kemajuan kepada pengguna.

Streaming membantu mengelola penggunaan memori dengan tidak memerlukan seluruh respons disimpan dalam memori sebelum diproses. Ini sangat berguna untuk dokumen dengan teks signifikan yang mungkin menyebabkan masalah latensi.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Pastikan klien Anda menangani acara SSE dengan benar untuk mengurai potongan teks inkremental. Metode ini sangat ideal untuk aplikasi yang memerlukan umpan balik real-time selama tahap pasca-pemrosesan OCR.

Batas Laju, Error, dan Jendela Konteks

Perhatikan batas API untuk menghindari gangguan layanan. Anda dibatasi hingga 300 permintaan per menit per kunci API. Setiap badan permintaan tidak boleh melebihi 8 MB. Jika Anda melebihi batas laju, Anda akan menerima error 429. Pastikan aplikasi Anda menerapkan backoff eksponensial untuk menangani error ini dengan lancar.

Jendela konteks adalah 100.000 token untuk gabungan prompt dan completion. Jika output OCR Anda melebihi batas ini, Anda mungkin perlu membagi dokumen atau memotong bagian awal. Error umum termasuk 401 untuk kunci tidak valid, 402 untuk kredit tidak cukup, dan 429 untuk batas laju. Pantau penggunaan Anda dan tambahkan saldo prabayar sesuai kebutuhan untuk menjaga layanan tetap berjalan tanpa gangguan.