Inicio rápido: Integra LLM sin censura en tu app de OCR

Requisitos previos: clave de API y URL base

Antes de realizar cualquier petición, necesitas una clave de API y la URL base correcta. Regístrate en la página Obtener clave de API con solo un correo electrónico y una contraseña. Tu clave se muestra inmediatamente después del registro y no se requiere tarjeta de crédito para la prueba.

La URL base para esta API es https://api.llmocrapi.com/v1. Este endpoint es compatible con los SDK estándar de OpenAI. Debes configurar tu cliente para usar esta URL base e incluir tu clave de API en el encabezado Authorization. El identificador del modelo que usarás para todas las peticiones es uncensored, que se ejecuta en nuestros propios servidores GPU y está diseñado para manejar la extracción de texto sin rechazar contenido adulto lícito o controvertido.

Petición básica de extracción de texto

Empieza enviando una petición de completado de chat simple para probar la conexión. Este endpoint acepta texto de entrada y devuelve texto extraído o limpio. Usa el endpoint POST /v1/chat/completions con el modelo uncensored. Asegúrate de que el cuerpo de la petición incluya el contenido del mensaje y el ID del modelo.

Esta petición básica verifica que tu clave de API funciona y que el modelo sin censura responde como se espera. Es el primer paso para construir tu pipeline de postprocesamiento OCR.

Copycurl https://api.llmocrapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

Si recibes una respuesta con choices que contiene texto, tu integración es exitosa. Si obtienes un error 401, verifica tu clave de API. Si obtienes un error 402, es posible que necesites añadir crédito prepago.

Integración con SDK de Python

Para desarrolladores de Python, usar el SDK oficial de OpenAI es el enfoque recomendado. Instala el paquete openai y configura la URL base para que apunte a nuestra API. Esto te permite usar métodos familiares como chat.completions.create().

Establece el parámetro base_url en https://api.llmocrapi.com/v1 y pasa tu clave de API. Esto asegura que todas las peticiones se enruten correctamente a nuestro modelo sin censura. Luego puedes enviar tu texto extraído por OCR como el mensaje del usuario y definir un prompt del sistema para instruir al modelo sobre cómo limpiar o resumir los datos.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llmocrapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Este método es ideal para el procesamiento por lotes de documentos donde no se requiere streaming. Proporciona una forma directa de integrar el LLM en tus scripts de OCR existentes en Python.

Integración con SDK de Node.js

Los desarrolladores de Node.js también pueden usar el SDK de OpenAI para interactuar con la API. Instala el paquete openai para Node y configura la URL base de manera similar a la configuración de Python. Esto te permite aprovechar el mismo endpoint chat.completions con sintaxis de JavaScript familiar.

Configura el cliente con tu clave de API y la URL base https://api.llmocrapi.com/v1. Esto asegura la compatibilidad con tus aplicaciones existentes de Node.js. Luego puedes enviar peticiones para extraer o resumir texto de tu pipeline de OCR.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llmocrapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Este enfoque es adecuado para el procesamiento del lado del servidor en entornos Node, permitiéndote manejar las salidas de OCR de manera eficiente sin salir de tu ecosistema Node.

Respuestas en streaming para documentos grandes

Al procesar documentos grandes, las respuestas en streaming pueden mejorar la experiencia del usuario entregando texto en fragmentos a medida que se genera. Usa el parámetro stream: true en tu petición para habilitar Server-Sent Events (SSE). Esto te permite procesar texto en tiempo real, lo cual es útil para salidas de OCR largas o al mostrar el progreso a los usuarios.

El streaming ayuda a gestionar el uso de memoria al no requerir que toda la respuesta se mantenga en memoria antes de procesarla. Es particularmente útil para documentos con texto significativo que de otro modo podrían causar problemas de latencia.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Asegúrate de que tu cliente maneje correctamente los eventos SSE para analizar los fragmentos de texto incrementales. Este método es ideal para aplicaciones que requieren retroalimentación en tiempo real durante la etapa de postprocesamiento OCR.

Límites de peticiones, errores y ventanas de contexto

Ten en cuenta los límites de la API para evitar interrupciones del servicio. Tienes un límite de 300 peticiones por minuto por clave de API. El cuerpo de cada petición no debe exceder 8 MB. Si excedes el límite de peticiones, recibirás un error 429. Asegúrate de que tu aplicación implemente retroceso exponencial para manejar estos errores de forma elegante.

La ventana de contexto es de 100,000 tokens para el prompt y el completado combinados. Si la salida de OCR supera este límite, es posible que debas dividir el documento o truncar las partes anteriores. Los errores comunes incluyen 401 para claves no válidas, 402 por crédito insuficiente y 429 por límites de peticiones. Monitorea tu uso y añade crédito prepago según sea necesario para mantener un servicio ininterrumpido.