Schnellstart: Integriere das unzensierte LLM in deine OCR-App

Voraussetzungen: API-Schlüssel und Basis-URL

Bevor du Anfragen sendest, benötigst du einen API-Schlüssel und die korrekte Base URL. Melde dich auf der API-Schlüssel erhalten-Seite nur mit E-Mail und Passwort an. Dein Schlüssel wird direkt nach der Anmeldung angezeigt, für die Testphase wird keine Kreditkarte benötigt.

Die Base URL für diese API ist https://api.llmocrapi.com/v1. Dieser Endpunkt ist mit Standard-OpenAI-SDKs kompatibel. Du musst deinen Client so konfigurieren, dass er diese Base URL verwendet und deinen API-Schlüssel im Authorization-Header übergibst. Die Modell-ID, die du für alle Anfragen verwendest, ist uncensored. Es läuft auf unseren eigenen GPU-Servern und ist darauf ausgelegt, Rohtext-Extraktionen durchzuführen, ohne rechtmäßige erwachsene oder kontroverse Inhalte abzulehnen.

Einfache Textextraktionsanfrage

Beginne mit dem Senden einer einfachen Chat-Vervollständigungsanfrage, um die Verbindung zu testen. Dieser Endpunkt akzeptiert Texteingaben und gibt extrahierten oder bereinigten Text zurück. Verwende den Endpunkt POST /v1/chat/completions mit dem Modell uncensored. Stelle sicher, dass der Anforderungstext den Nachrichteninhalt und die Modell-ID enthält.

Diese einfache Anfrage bestätigt, dass dein API-Schlüssel funktioniert und das unzensierte Modell wie erwartet antwortet. Dies ist der erste Schritt beim Aufbau deiner OCR-Nachbearbeitungspipeline.

Copycurl https://api.llmocrapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

Wenn du eine Antwort mit choices erhältst, die Text enthält, war deine Integration erfolgreich. Wenn du einen 401-Fehler erhältst, überprüfe deinen API-Schlüssel. Wenn du einen 402-Fehler erhältst, musst du möglicherweise Prepaid-Guthaben aufladen.

Python-SDK-Integration

Für Python-Entwickler ist die Verwendung des offiziellen OpenAI-SDKs der empfohlene Ansatz. Installiere das Paket openai und konfiguriere die Basis-URL so, dass sie auf unsere API zeigt. Dies ermöglicht dir die Verwendung bekannter Methoden wie chat.completions.create().

Setze den Parameter base_url auf https://api.llmocrapi.com/v1 und übergebe deinen API-Schlüssel. Dies stellt sicher, dass alle Anfragen korrekt an unser unzensiertes Modell weitergeleitet werden. Du kannst dann deinen OCR-extrahierten Text als Benutzernachricht senden und einen System-Prompt definieren, um das Modell anzuweisen, die Daten zu bereinigen oder zusammenzufassen.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llmocrapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Diese Methode ist ideal für die Batch-Verarbeitung von Dokumenten, bei der kein Streaming erforderlich ist. Sie bietet einen einfachen Weg, das LLM in deine bestehenden Python-OCR-Skripte zu integrieren.

Node-SDK-Integration

Node.js-Entwickler können ebenfalls das OpenAI-SDK nutzen, um mit der API zu interagieren. Installiere das Paket openai für Node und konfiguriere die Basis-URL ähnlich wie im Python-Setup. Dies ermöglicht dir die Nutzung desselben Endpunkts chat.completions mit bekannter JavaScript-Syntax.

Konfiguriere den Client mit deinem API-Schlüssel und der Basis-URL https://api.llmocrapi.com/v1. Dies stellt die Kompatibilität mit deinen bestehenden Node.js-Anwendungen sicher. Du kannst dann Anfragen senden, um Text aus deiner OCR-Pipeline zu extrahieren oder zusammenzufassen.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llmocrapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Dieser Ansatz eignet sich für die serverseitige Verarbeitung in Node-Umgebungen und ermöglicht es dir, OCR-Ausgaben effizient zu verarbeiten, ohne dein Node-Ökosystem zu verlassen.

Streaming-Antworten für große Dokumente

Bei der Verarbeitung großer Dokumente kann das Streamen von Antworten die Benutzererfahrung verbessern, indem Text in Chunks bereitgestellt wird, während er generiert wird. Verwende den Parameter stream: true in deiner Anfrage, um Server-Sent Events (SSE) zu aktivieren. Dies ermöglicht dir die Echtzeitverarbeitung von Text, was für lange OCR-Ausgaben oder zur Anzeige von Fortschritten für Benutzer nützlich ist.

Streaming hilft, die Speichernutzung zu verwalten, indem nicht erforderlich ist, die gesamte Antwort im Speicher zu halten, bevor sie verarbeitet wird. Es ist besonders nützlich für Dokumente mit erheblichem Text, der sonst Latenzprobleme verursachen könnte.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Stelle sicher, dass dein Client SSE-Ereignisse korrekt verarbeitet, um die inkrementellen Textchunks zu analysieren. Diese Methode ist ideal für Anwendungen, die Echtzeit-Feedback während der OCR-Nachbearbeitungsstufe benötigen.

Ratenlimits, Fehler und Kontextfenster

Achte auf die API-Limits, um Dienstunterbrechungen zu vermeiden. Du bist auf 300 Anfragen pro Minute pro API-Schlüssel begrenzt. Jeder Anforderungstext darf 8 MB nicht überschreiten. Wenn du das Ratenlimit überschreitest, erhältst du einen 429-Fehler. Stelle sicher, dass deine Anwendung Exponential Backoff implementiert, um diese Fehler angemessen zu behandeln.

Das Kontextfenster umfasst 100.000 Token für Prompt und Completion zusammen. Wenn deine OCR-Ausgabe dieses Limit überschreitet, musst du das Dokument möglicherweise aufteilen oder frühere Teile kürzen. Häufige Fehler sind 401 für ungültige Schlüssel, 402 für unzureichendes Guthaben und 429 für Ratenlimits. Überwache deine Nutzung und lade Prepaid-Guthaben bei Bedarf auf, um einen unterbrechungsfreien Betrieb zu gewährleisten.