Avvio rapido: Integra il modello LLM senza censura nella tua app OCR

Prerequisiti: chiave API e URL di base

Prima di effettuare qualsiasi richiesta, hai bisogno di una chiave API e dell'URL di base corretto. Registrati alla pagina Ottieni chiave API con solo email e password. La tua chiave viene visualizzata immediatamente dopo la registrazione e non è necessaria una carta di credito per la prova.

L'URL di base per questa API è https://api.llmocrapi.com/v1. Questo endpoint è compatibile con gli SDK standard di OpenAI. Devi configurare il tuo client per utilizzare questo URL di base e includere la tua chiave API nell'intestazione Authorization. L'identificatore del modello che utilizzerai per tutte le richieste è uncensored, che gira sui nostri server GPU ed è progettato per gestire l'estrazione di testo grezzo senza rifiutare contenuti adulti leciti o controversi.

Richiesta di estrazione del testo di base

Inizia inviando una semplice richiesta di completamento chat per testare la connessione. Questo endpoint accetta input testuali e restituisce testo estratto o pulito. Usa l'endpoint POST /v1/chat/completions con il modello uncensored. Assicurati che il corpo della richiesta includa il contenuto del messaggio e l'ID del modello.

Questa richiesta di base verifica che la tua chiave API funzioni e che il modello senza censura risponda come previsto. È il primo passo per costruire la tua pipeline di post-processing OCR.

Copycurl https://api.llmocrapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

Se ricevi una risposta con choices contenente testo, l'integrazione è riuscita. Se ottieni un errore 401, controlla la tua chiave API. Se ottieni un errore 402, potresti dover aggiungere credito prepagato.

Integrazione SDK Python

Per gli sviluppatori Python, l'uso dell'SDK ufficiale OpenAI è l'approccio consigliato. Installa il pacchetto openai e configura l'URL di base per puntare alla nostra API. Questo ti permette di utilizzare metodi familiari come chat.completions.create().

Imposta il parametro base_url su https://api.llmocrapi.com/v1 e passa la tua chiave API. Questo garantisce che tutte le richieste vengano instradate correttamente al nostro modello senza censura. Puoi quindi inviare il testo estratto dall'OCR come messaggio utente e definire un prompt di sistema per istruire il modello su come pulire o sintetizzare i dati.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llmocrapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Questo metodo è ideale per l'elaborazione in batch di documenti dove non è richiesto lo streaming. Fornisce un modo semplice per integrare il LLM nei tuoi script Python OCR esistenti.

Integrazione SDK Node.js

Gli sviluppatori Node.js possono anche utilizzare l'SDK OpenAI per interagire con l'API. Installa il pacchetto openai per Node e configura l'URL di base in modo simile alla configurazione Python. Questo ti permette di sfruttare lo stesso endpoint chat.completions con una sintassi JavaScript familiare.

Configura il client con la tua chiave API e l'URL di base https://api.llmocrapi.com/v1. Questo garantisce la compatibilità con le tue applicazioni Node.js esistenti. Puoi quindi inviare richieste per estrarre o sintetizzare il testo dalla tua pipeline OCR.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llmocrapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Questo approccio è adatto per l'elaborazione lato server negli ambienti Node, permettendoti di gestire gli output OCR in modo efficiente senza uscire dal tuo ecosistema Node.

Risposte in streaming per documenti grandi

Quando si elaborano documenti di grandi dimensioni, le risposte in streaming possono migliorare l'esperienza utente fornendo il testo a blocchi man mano che viene generato. Usa il parametro stream: true nella tua richiesta per abilitare gli eventi Server-Sent (SSE). Questo ti permette di elaborare il testo in tempo reale, utile per output OCR lunghi o per mostrare i progressi agli utenti.

Lo streaming aiuta a gestire l'uso della memoria non richiedendo che l'intera risposta sia tenuta in memoria prima dell'elaborazione. È particolarmente utile per documenti con testo significativo che potrebbero altrimenti causare problemi di latenza.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Assicurati che il tuo client gestisca correttamente gli eventi SSE per analizzare i blocchi di testo incrementali. Questo metodo è ideale per le applicazioni che richiedono feedback in tempo reale durante la fase di post-processing OCR.

Limiti di richiesta, errori e finestre di contesto

Tieni presente i limiti dell'API per evitare interruzioni del servizio. Sei limitato a 300 richieste al minuto per chiave API. Il corpo di ogni richiesta non deve superare gli 8 MB. Se superi il limite di richieste, riceverai un errore 429. Assicurati che la tua implementi un backoff esponenziale per gestire questi errori in modo elegante.

La finestra di contesto è di 100.000 token per prompt e completamento combinati. Se il tuo output OCR supera questo limite, potresti dover dividere il documento o troncare le parti iniziali. Gli errori comuni includono 401 per chiavi non valide, 402 per credito insufficiente e 429 per i limiti di richiesta. Monitora il tuo utilizzo e aggiungi credito prepagato come necessario per mantenere un servizio ininterrotto.