Início rápido: Integre o LLM sem censura ao seu app de OCR

Pré-requisitos: Chave de API e URL Base

Antes de fazer qualquer requisição, você precisa de uma chave de API e do endpoint base correto. Entre na página Obter chave de API com apenas um e-mail e senha. Sua chave é exibida imediatamente após o cadastro, e nenhum cartão de crédito é necessário para o teste.

O URL base para esta API é https://api.llmocrapi.com/v1. Este endpoint é compatível com SDKs padrão do OpenAI. Você deve configurar seu cliente para usar este URL base e incluir sua chave de API no cabeçalho Authorization. O identificador do modelo que você usará para todas as requisições é uncensored, que roda em nossos próprios servidores GPU e é projetado para lidar com extração de texto bruto sem recusar conteúdo adulto ou controverso.

Solicitação Básica de Extração de Texto

Comece enviando uma solicitação simples de chat-completion para testar a conexão. Este endpoint aceita entrada de texto e retorna texto extraído ou limpo. Use o endpoint POST /v1/chat/completions com o modelo uncensored. Certifique-se de que o corpo da sua requisição inclua o conteúdo da mensagem e o ID do modelo.

Esta solicitação básica verifica se sua chave de API funciona e se o modelo sem censura responde conforme o esperado. É o primeiro passo para construir seu pipeline de pós-processamento de OCR.

Copycurl https://api.llmocrapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

Se você receber uma resposta com choices contendo texto, sua integração foi bem-sucedida. Se receber um erro 401, verifique sua chave de API. Se receber um erro 402, você pode precisar adicionar crédito pré-pago.

Integração com SDK Python

Para desenvolvedores Python, usar o SDK oficial do OpenAI é a abordagem recomendada. Instale o pacote openai e configure a URL base para apontar para nossa API. Isso permite que você use métodos familiares como chat.completions.create().

Defina o parâmetro base_url para https://api.llmocrapi.com/v1 e passe sua chave de API. Isso garante que todas as requisições sejam roteadas corretamente para nosso modelo sem censura. Você pode então enviar seu texto extraído pelo OCR como mensagem do usuário e definir um prompt de sistema para instruir o modelo sobre como limpar ou resumir os dados.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llmocrapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Este método é ideal para processamento em lote de documentos onde o streaming não é necessário. Oferece uma maneira direta de integrar o LLM aos seus scripts de OCR Python existentes.

Integração com SDK Node.js

Desenvolvedores Node.js também podem usar o SDK do OpenAI para interagir com a API. Instale o pacote openai para Node e configure a URL base de forma semelhante à configuração Python. Isso permite que você aproveite o mesmo endpoint chat.completions com sintaxe JavaScript familiar.

Configure o cliente com sua chave de API e a URL base https://api.llmocrapi.com/v1. Isso garante compatibilidade com seus aplicativos Node.js existentes. Você pode então enviar requisições para extrair ou resumir texto do seu pipeline de OCR.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llmocrapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Esta abordagem é adequada para processamento do lado do servidor em ambientes Node, permitindo que você processe saídas de OCR de forma eficiente sem sair do seu ecossistema Node.

Respostas em Streaming para Documentos Grandes

Ao processar documentos grandes, respostas em streaming podem melhorar a experiência do usuário entregando texto em blocos conforme é gerado. Use o parâmetro stream: true em sua requisição para habilitar Server-Sent Events (SSE). Isso permite processar texto em tempo real, útil para longas saídas de OCR ou ao exibir progresso aos usuários.

O streaming ajuda a gerenciar o uso de memória ao não exigir que toda a resposta seja mantida na memória antes do processamento. É particularmente útil para documentos com texto significativo que poderiam causar problemas de latência.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Certifique-se de que seu cliente manipule eventos SSE corretamente para analisar os blocos de texto incrementais. Este método é ideal para aplicativos que exigem feedback em tempo real durante a etapa de pós-processamento de OCR.

Limites de Requisição, Erros e Janelas de Contexto

Esteja ciente dos limites da API para evitar interrupções no serviço. Você está limitado a 300 requisições por minuto por chave de API. O corpo de cada requisição não deve exceder 8 MB. Se você exceder o limite de requisições, receberá um erro 429. Certifique-se de que seu aplicativo implemente backoff exponencial para lidar com esses erros de forma graciosa.

A janela de contexto é de 100.000 tokens para prompt e conclusão combinados. Se sua saída de OCR exceder este limite, você pode precisar dividir o documento ou truncar partes anteriores. Erros comuns incluem 401 para chaves inválidas, 402 para crédito insuficiente e 429 para limites de taxa. Monitore seu uso e adicione crédito pré-pago conforme necessário para manter o serviço ininterrupto.