Hızlı Başlangıç: OCR Uygulamanıza Sansürsüz LLM Entegre Edin

Önkoşullar: API Anahtarı ve Temel URL

Herhangi bir istek yapmadan önce bir API anahtarına ve doğru temel URL'ye ihtiyacınız var. Get API key sayfasında yalnızca e-posta ve şifre ile kaydolun. Anahtarınız kayıttan hemen sonra gösterilir ve deneme için kredi kartı gerekmez.

Bu API için temel URL https://api.llmocrapi.com/v1 şeklindedir. Bu uç nokta, standart OpenAI SDK'ları ile uyumludur. İstemcinizi bu temel URL'yi kullanacak şekilde yapılandırmanız ve API anahtarınızı Authorization başlığında belirtmeniz gerekir. Tüm isteklerinizde kullanacağınız model tanımlayıcısı uncensored olup, kendi GPU sunucularımızda çalışır ve yasal yetişkin veya tartışmalı içeriği reddetmeden ham metin çıkarma işlemlerini yönetmek için tasarlanmıştır.

Temel Metin Çıkarma İsteği

Bağlantıyı test etmek için basit bir sohbet tamamlama isteği göndererek başlayın. Bu uç nokta metin girdisi kabul eder ve çıkarılan veya temizlenmiş metni döndürür. POST /v1/chat/completions uç noktasını uncensored modeli ile kullanın. İstek gövdenizin mesaj içeriğini ve model kimliğini içerdiğinden emin olun.

Bu temel istek, API anahtarınızın çalıştığını ve sansürsüz modelin beklendiği gibi yanıt verdiğini doğrular. OCR son işlemesi pipeline'ınızı oluşturmada ilk adımdır.

Copycurl https://api.llmocrapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

Metin içeren choices ile bir yanıt alırsanız, entegrasyonunuz başarılı olmuştur. 401 hatası alırsanız API anahtarınızı kontrol edin. 402 hatası alırsanız ön ödemeli kredi eklemeniz gerekebilir.

Python SDK Entegrasyonu

Python geliştiricileri için resmi OpenAI SDK'sını kullanmak önerilen yaklaşımdır. openai paketini yükleyin ve temel URL'yi API'mize işaret edecek şekilde yapılandırın. Bu, chat.completions.create() gibi tanıdık yöntemleri kullanmanızı sağlar.

base_url parametresini https://api.llmocrapi.com/v1 olarak ayarlayın ve API anahtarınızı iletin. Bu, tüm isteklerin doğru şekilde sansürsüz modelimize yönlendirilmesini sağlar. Ardından OCR ile çıkarılan metni kullanıcı mesajı olarak gönderebilir ve modeli verileri temizleme veya özetleme konusunda yönlendirmek için bir sistem istemi tanımlayabilirsiniz.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llmocrapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Bu yöntem, akışın gerekli olmadığı belge toplu işleme için idealdir. LLM'yi mevcut Python OCR betiklerinize entegre etmenin basit bir yolunu sağlar.

Node SDK Entegrasyonu

Node.js geliştiricileri API ile etkileşim kurmak için OpenAI SDK'sını kullanabilir. Node için openai paketini yükleyin ve temel URL'yi Python kurulumuna benzer şekilde yapılandırın. Bu, aynı chat.completions uç noktasını tanıdık JavaScript sözdizimi ile kullanmanızı sağlar.

İstemcinizi API anahtarınız ve https://api.llmocrapi.com/v1 temel URL'si ile yapılandırın. Bu, mevcut Node.js uygulamalarınızla uyumluluğu sağlar. Ardından OCR pipeline'ınızdan metin çıkarma veya özetleme için istekler gönderebilirsiniz.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llmocrapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Bu yaklaşım, Node ortamlarında sunucu tarafı işleme için uygundur ve Node ekosisteminizden ayrılmadan OCR çıktılarını verimli bir şekilde işlemenize olanak tanır.

Büyük Belgeler İçin Akış Yanıtları

Büyük belgeleri işlerken, akış yanıtları metni oluşturulurken parçalar halinde sunarak kullanıcı deneyimini iyileştirebilir. Sunucu Gönderilen Olayları (SSE) etkinleştirmek için isteğinizde stream: true parametresini kullanın. Bu, uzun OCR çıktılarında veya kullanıcıya ilerleme gösterirken gerçek zamanlı metin işleme imkanı tanır.

Akış, yanıtın tamamını işlemeden önce bellekte tutma gerekliliğini ortadan kaldırarak bellek kullanımını yönetmeye yardımcı olur. Aksi takdirde gecikme sorunlarına neden olabilecek önemli miktarda metin içeren belgeler için özellikle faydalıdır.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

İstemcinizin art arda gelen metin parçalarını ayrıştırmak için SSE olaylarını doğru şekilde işlediğinden emin olun. Bu yöntem, OCR son işlemesi aşamasında gerçek zamanlı geri bildirim gerektiren uygulamalar için idealdir.

Hız Limitleri, Hatalar ve Bağlam Penceresi

Hizmet kesintilerini önlemek için API limitlerine dikkat edin. Her API anahtarı için dakika başına 300 istekle sınırlısınız. Her istek gövdesi 8 MB'ı geçmemelidir. Hız limitini aşarsanız 429 hatası alırsınız. Uygulamanızın bu hataları zarifçe yönetmek için üstel geri çekilme uyguladığından emin olun.

Bağlam penceresi, istem ve tamamlama birlikte 100.000 token'dır. OCR çıktınız bu sınırı aşarsa, belgeyi bölmeniz veya önceki kısımları kısaltmanız gerekebilir. Yaygın hatalar arasında geçersiz anahtarlar için 401, yetersiz kredi için 402 ve hız limitleri için 429 yer alır. Kullanımınızı izleyin ve kesintisiz hizmeti sürdürmek için gerektiğinde ön ödemeli kredi ekleyin.