Début rapide : Intégrez le LLM sans censure à votre application OCR

Prérequis : clé API et URL de base

Avant d'effectuer des requêtes, vous avez besoin d'une clé API et de l'URL de base correcte. Inscrivez-vous sur la page Obtenir la clé API avec simplement un e-mail et un mot de passe. Votre clé est affichée immédiatement après l'inscription, et aucune carte bancaire n'est requise pour l'essai.

L'URL de base de cette API est https://api.llmocrapi.com/v1. Cet endpoint est compatible avec les SDK OpenAI standards. Vous devez configurer votre client pour utiliser cette URL de base et inclure votre clé API dans l'en-tête Authorization. L'identifiant du modèle que vous utiliserez pour toutes les requêtes est uncensored, qui s'exécute sur nos propres serveurs GPU et est conçu pour extraire du texte brut sans refuser le contenu adulte légal ou controversé.

Requête d'extraction de texte basique

Commencez par envoyer une requête simple de chat-completion pour tester la connexion. Cet endpoint accepte une entrée textuelle et renvoie du texte extrait ou nettoyé. Utilisez l'endpoint POST /v1/chat/completions avec le modèle uncensored. Assurez-vous que le corps de votre requête inclut le contenu du message et l'identifiant du modèle.

Cette requête basique vérifie que votre clé API fonctionne et que le modèle sans censure répond comme prévu. C'est la première étape pour construire votre pipeline de post-traitement OCR.

Copycurl https://api.llmocrapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

Si vous recevez une réponse avec choices contenant du texte, votre intégration est réussie. Si vous obtenez une erreur 401, vérifiez votre clé API. Si vous obtenez une erreur 402, vous devrez peut-être ajouter du crédit prépayé.

Intégration SDK Python

Pour les développeurs Python, l'utilisation du SDK OpenAI officiel est l'approche recommandée. Installez le package openai et configurez l'URL de base pour pointer vers notre API. Cela vous permet d'utiliser des méthodes familières comme chat.completions.create().

Définissez le paramètre base_url sur https://api.llmocrapi.com/v1 et passez votre clé API. Cela garantit que toutes les requêtes sont acheminées correctement vers notre modèle sans censure. Vous pouvez ensuite envoyer votre texte extrait par OCR en tant que message utilisateur et définir un prompt système pour instruire le modèle sur la façon de nettoyer ou de résumer les données.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llmocrapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Cette méthode est idéale pour le traitement par lots de documents où le streaming n'est pas requis. Elle offre un moyen simple d'intégrer le LLM dans vos scripts OCR Python existants.

Intégration SDK Node.js

Les développeurs Node.js peuvent également utiliser le SDK OpenAI pour interagir avec l'API. Installez le package openai pour Node et configurez l'URL de base de manière similaire à la configuration Python. Cela vous permet de tirer parti du même endpoint chat.completions avec une syntaxe JavaScript familière.

Configurez le client avec votre clé API et l'URL de base https://api.llmocrapi.com/v1. Cela garantit la compatibilité avec vos applications Node.js existantes. Vous pouvez ensuite envoyer des requêtes pour extraire ou résumer du texte à partir de votre pipeline OCR.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llmocrapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Cette approche convient au traitement côté serveur dans les environnements Node, vous permettant de gérer efficacement les sorties OCR sans quitter votre écosystème Node.

Réponses en streaming pour les grands documents

Lors du traitement de grands documents, les réponses en streaming peuvent améliorer l'expérience utilisateur en délivrant du texte par morceaux au fur et à mesure de sa génération. Utilisez le paramètre stream: true dans votre requête pour activer les Server-Sent Events (SSE). Cela vous permet de traiter le texte en temps réel, ce qui est utile pour les longues sorties OCR ou lors de l'affichage de la progression aux utilisateurs.

Le streaming aide à gérer l'utilisation de la mémoire en ne nécessitant pas que l'intégralité de la réponse soit conservée en mémoire avant le traitement. Il est particulièrement utile pour les documents contenant beaucoup de texte qui pourraient autrement causer des problèmes de latence.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Assurez-vous que votre client gère correctement les événements SSE pour analyser les morceaux de texte incrémentaux. Cette méthode est idéale pour les applications nécessitant un retour en temps réel pendant l'étape de post-traitement OCR.

Limites de débit, erreurs et fenêtres de contexte

Soyez conscient des limites de l'API pour éviter les interruptions de service. Vous êtes limité à 300 requêtes par minute par clé API. Le corps de chaque requête ne doit pas dépasser 8 Mo. Si vous dépassez la limite de débit, vous recevrez une erreur 429. Assurez-vous que votre application implémente une rétrogradation exponentielle pour gérer ces erreurs correctement.

La fenêtre de contexte est de 100 000 tokens pour le prompt et la complétion combinés. Si votre sortie OCR dépasse cette limite, vous devrez peut-être diviser le document ou tronquer les parties antérieures. Les erreurs courantes incluent 401 pour les clés invalides, 402 pour le crédit insuffisant et 429 pour les limites de débit. Surveillez votre utilisation et ajoutez du crédit prépayé si nécessaire pour maintenir un service ininterrompu.