PL ▾

LLM bez cenzury do postprocesowania OCRhttps://api.llmocrapi.com/v1

llmocrapi.comPrzewodnik

Dokumentacja OCR API: endpointy, tryby i limity

Ta strona działa jako dokumentacja OCR API dla programistów, którzy chcą mieć pełny zakres w jednym miejscu: dwa endpointy, cztery tryby zapytań, limity i błędy. API czyści tekst wygenerowany przez silnik OCR; nie czyta obrazów.

Zaktualizowano

Pływające panele odnośników z węzłami przepływu, strumieniem kropek i kształtem nawiasu, reprezentujące tryby dokumentacji API

Kluczowe punkty

  • Istnieją dwie metody: POST /v1/chat/completions i GET /v1/models, uwierzytelniane kluczem Bearer.
  • Strumieniowanie, tryb JSON i wywoływanie funkcji korzystają z formatu czatu OpenAI, z identyfikatorem modelu uncensored.
  • Limity: 8 równoległych zapytań i 300 na minutę przy pełnym kluczu, 2 i 60 przy kluczu próbnym, treść żądania do 8 MB.
  • Błędy przy przeciążeniu to HTTP 429 z kodem informującym, czy zwolnić tempo, czy zmniejszyć równoległość.

Przegląd i uwierzytelnianie

Usługa to hostowane API tekstu kompatybilne z OpenAI. Jej celem na tej stronie jest druga połowa zadania OCR: weź surowy ciąg znaków wygenerowany przez silnik OCR i zwróć czystą prozę, pola strukturalne lub oznaczone linie. Wejście to tylko tekst. Nie ma wejścia ani wyjścia obrazu, audio ani wideo, nie ma embeddingów ani dostrajania.

Wszystko znajduje się pod jednym Base URL, https://api.llmocrapi.com/v1. Uwierzytelnianie to standardowy nagłówek Bearer: Authorization: Bearer YOUR_KEY. Tworzysz klucz na stronie klucz API po zarejestrowaniu się przez Google lub e-mail i hasło. Modelem za endpointem jest pojedynczy model o otwartych wagach uruchamiany przez niezależnego dostawcę. Nie jest to oficjalne API żadnego dostawcy modeli i nie jest routerem między dostawcami. Jego ID to zawsze uncensored.

Dla praktycznego przewodnika zamiast dokumentacji referencyjnej, quickstart w sekcji dokumentacji omawia krok po kroku pierwsze zapytanie.

Endpointy na pierwszy rzut oka

Metoda i ścieżkaCel
GET /v1/modelsWyświetla dostępne modele. Użyj go jako taniego sprawdzenia klucza.
POST /v1/chat/completionsUruchamia model na liście wiadomości. Obsługuje strumieniowanie, tryb JSON i narzędzia.

To cały zakres. Ponieważ pasuje do formatu przesyłu danych OpenAI, każda biblioteka kliencka, która pozwala ustawić Base URL i klucz, zadziała. Najszybszy test poprawności to:

curl https://api.llmocrapi.com/v1/models \
  -H "Authorization: Bearer $LLMOCR_API_KEY"

Ważny klucz zwraca listę modeli zawierającą uncensored. Nieprawidłowy klucz zwraca błąd uwierzytelniania, co informuje, że problem dotyczy klucza, a nie treści zapytania.

Parametry zapytania

Zapytanie chat completion wymaga model i messages. Poniższe pola opcjonalne są przekazywane do modelu.

  • temperature i top_p: kontrola próbkowania. Do naprawy OCR użyj temperature 0, aby identyczne wejście dawało identyczne wyjście.
  • max_tokens: opcjonalne. Jeśli go nie podasz, ukończenie może użyć tego, co zostało z okna 100 000 tokenów po twoim promptcie. Ustaw go, gdy chcesz mieć sztywny limit kosztu na wywołanie.
  • stop: ciągi kończące generowanie. Przydatne, gdy prosisz o wyjście między znacznikami.
  • seed: poprawia powtarzalność między uruchomieniami.
  • presence_penalty i frequency_penalty: przekazywane. Zostaw je na zero przy czyszczeniu, ponieważ kary mogą skłonić model do zmiany powtarzających się poprawnych słów, takich jak nagłówki tabel.
  • stream, response_format, tools i tool_choice: omówione w trzech następnych sekcjach.

Okno kontekstu liczy prompt i ukończenie łącznie na 100 000 tokenów, a treść zapytania może mieć do 8 MB. W praktyce limit tokenów przyjdzie pierwszy.

Odpowiedzi strumieniowe

Ustaw "stream": true, a interfejs API wysyła zdarzenia typu Server-Sent Events w miarę generowania tekstu. Strumieniowanie pomaga w narzędziach interaktywnych, np. w edytorze, gdzie użytkownik obserwuje, jak pojawia się oczyszczony akapit. Zużycie tokenów jest raportowane na końcu strumienia, więc nadal możesz odnotować koszt.

import os
from openai import OpenAI

client = OpenAI(base_url="https://api.llmocrapi.com/v1", api_key=os.environ["LLMOCR_API_KEY"])

stream = client.chat.completions.create(
    model="uncensored",
    stream=True,
    messages=[{"role": "user", "content": "Fix this OCR text: th1s is a sam-\nple."}],
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)
    if getattr(chunk, "usage", None):
        print("\ntokens:", chunk.usage.prompt_tokens, chunk.usage.completion_tokens)

Jeden szczegół wpływa na przepustowość. Zapytanie strumieniowe zajmuje swoje slot współbieżności do końca strumienia. Jeśli twój kod przestanie czytać w połowie i pozostawi połączenie otwarte, to miejsce pozostanie zajęte. Zamknij strumień jawnie lub zużyj go do końca.

Tryb JSON

Tryb JSON prosi model o odpowiedź w postaci obiektu JSON zamiast prozy. Włącz go za pomocą response_format i opisz klucze w swoich instrukcjach.

{
  "model": "uncensored",
  "temperature": 0,
  "response_format": {"type": "json_object"},
  "messages": [
    {"role": "system", "content": "Return JSON with keys 'text' (cleaned string) and 'uncertain_lines' (array of integers)."},
    {"role": "user", "content": "line one\nl1ne two\nline thr3e"}
  ]
}

Parsuj defensywnie. Tryb JSON nadaje wynikowi strukturę, ale nadal powinieneś zweryfikować klucze i typy przed zapisaniem ich w bazie danych. Jeśli odpowiedź została ucięta przez max_tokens, JSON może być niekompletny, więc podnieś limit lub wyślij mniejsze fragmenty.

Wywoływanie funkcji

Wywoływanie funkcji pozwala modelowi poprosić twój kod o wykonanie czegoś zamiast pisania prozy. W pracy OCR powszechnym zastosowaniem jest zwracanie poprawek strukturalnych: model wywołuje funkcję z numerem linii i zastąpieniem, a twój kod to stosuje. Zdefiniuj narzędzia w tablicy tools, wybierz zachowanie za pomocą tool_choice i zwróć wyniki jako wiadomości z role: "tool". Podczas strumieniowania wywołania narzędzi przychodzą inkrementalnie jako delta tool_calls.

tools = [{
    "type": "function",
    "function": {
        "name": "replace_line",
        "description": "Replace one line of the OCR text with a corrected version.",
        "parameters": {
            "type": "object",
            "properties": {
                "line": {"type": "integer"},
                "text": {"type": "string"},
            },
            "required": ["line", "text"],
        },
    },
}]

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "1: The inven-\n2: tory was com1leted."}],
    tools=tools,
    tool_choice="auto",
)
for call in resp.choices[0].message.tool_calls or []:
    print(call.function.name, call.function.arguments)

Argumenty wracają jako ciąg JSON. Sparsuj je, zastosuj zmianę i jeśli kontynuujesz rozmowę, dołącz wiadomość asystenta i wiadomość role: "tool" z pasującym tool_call_id. Ten wzór utrzymuje niską liczbę tokenów wyjściowych, ponieważ model zwraca tylko linie, które zmienia.

Ustawienia odpowiednie do czyszczenia tekstu

Dokumentacja referencyjna jest bardziej przydatna z zalecanym punktem startowym, więc oto jak parametry łączą się zwykle przy naprawie OCR. To sugestie wynikające z zachowania zadania, a nie zmierzone benchmarki.

  • Deterministyczna naprawa: temperature 0, bez kar, stały seed. Użyj tego dla archiwów, gdzie chcesz, aby ponowne uruchomienie odtworzyło wczorajsze wyjście.
  • Ekstrakcja pól: temperature 0, response_format ustawiony na json_object i limit max_tokens nieco powyżej największego obiektu, jakiego oczekujesz.
  • Przegląd interaktywny: stream true i krótki prompt systemowy, aby edytor widział pojawiający się poprawiony tekst i mógł go wcześnie zatrzymać.
  • Poprawki na poziomie linii: narzędzia z funkcją stylu replace_line, aby model zwracał tylko to, co się zmieniło.

Role wiadomości są zgodne ze zwykłą konwencją: system dla instrukcji stałych, user dla tekstu OCR, assistant dla wcześniejszych odpowiedzi w sesji wieloetapowej i tool dla wyników funkcji. Umieść instrukcje w wiadomości systemowej, a surowy tekst w wiadomości użytkownika. Jeśli sam tekst OCR zawiera coś, co wygląda na instrukcję, np. zeskanowany znak mówiący o zignorowaniu poprzedniego tekstu, rozdzielenie ułatwia wskazanie modelowi, że wiadomość użytkownika to dane do naprawy, a nigdy polecenie do wykonania. Powiedz to wyraźnie w prompcie systemowym.

Zachowaj zapis wartości X-Request-Id dla każdego wywołania. To identyfikator, którego potrzebuje wsparcie, jeśli jedna strona zwróci błąd i chcesz, aby została ona sprawdzona.

Limity, nagłówki i błędy

LimitPełny kluczKlucz próbny
Zapytania równoległe82
Zapytania na minutę30060
Maksymalny rozmiar ciała8 MB8 MB
Okno kontekstu100 000 tokenów100 000 tokenów

Odpowiedzi zawierają X-Request-Id (cytuj go dla wsparcia), X-Balance-USD (twój pozostały kredyt), X-RateLimit-Limit-Requests i X-RateLimit-Limit-Concurrency.

Gdy przekroczysz limit, API odpowiada HTTP 429. Kod błędu rate_limited oznacza zbyt wiele zapytań na minutę, więc rozłóż obciążenie. Kod concurrency oznacza zbyt wiele zapytań w toku, więc zmniejsz liczbę workerów. 429 z nagłówkiem Retry-After: 5 sygnalizuje tymczasowe przeciążenie: poczekaj pięć sekund i wyślij ponownie. Nieudane i odrzucone zapytania nie są rozliczane, więc pętla ponawiania jest bezpieczna.

Rozliczanie jest za token: $0,15 za 1M wejścia i $0,50 za 1M wyjścia, pobierane z przedpłaconego kredytu, który nie wygasa. Zobacz stronę cenową pod kątem kwot doładowań i bonusów. Prompty nie są używane do trenowania. Reguła treści to jeden twardy limit: brak treści seksualnych z udziałem nieletnich. Pytania dotyczące polityki kieruj do wsparcia.

Pytania i odpowiedzi

Jakich endpointów udostępnia API?

Dwa: POST /v1/chat/completions do generowania i GET /v1/models do listy modeli. Oba używają tego samego klucza Bearer.

Czy obsługuje strumieniowanie i wywoływanie funkcji?

Tak. Ustaw stream na true dla SSE z użyciem na końcu i użyj tools oraz tool_choice do wywoływania funkcji, zwracając wyniki jako wiadomości role tool.

Jaki jest maksymalny rozmiar wejścia?

Okno kontekstu wynosi 100 000 tokenów dla promptu plus completion, a treść zapytania może mieć do 8 MB.

Dlaczego otrzymałem błąd 429?

Przekroczyłeś limity zapytań na minutę (rate_limited), równoległe zapytania (concurrency) lub trafiłeś na tymczasowe przeciążenie, co obejmuje Retry-After: 5. Poczekaj i spróbuj ponownie.

Twój klucz jest o jeden formularz stąd

Utwórz konto, skopiuj klucz, zmień Base URL. To cała konfiguracja.

Pobierz klucz API