クイックスタート：OCRアプリに無検閲LLMを統合する

前提条件：APIキーとベースURL

リクエストを行う前に、APIキーと正しいベースURLが必要です。メールアドレスとパスワードだけでAPIキーを取得ページにサインアップしてください。キーはサインアップ直後に表示され、トライアルにはクレジットカードは必要ありません。

このAPIのベースURLはhttps://api.llmocrapi.com/v1です。このエンドポイントは標準的なOpenAI SDKと互換性があります。クライアントを構成してこのベースURLを使用し、APIキーをAuthorizationヘッダーに含める必要があります。すべてのリクエストで使用するモデル識別子はuncensoredで、自前のGPUサーバーで実行され、法的な成人や論争的なコンテンツの拒否なしで生テキストの抽出を処理するように設計されています。

基本的なテキスト抽出リクエスト

接続をテストするために、シンプルなチャット完了リクエストを送信することから始めます。このエンドポイントはテキスト入力を受け取り、抽出またはクリーニングされたテキストを返します。POST /v1/chat/completionsエンドポイントをuncensoredモデルで使用します。リクエストボディにメッセージコンテンツとモデルIDを含めることを確認してください。

この基本的なリクエストは、APIキーが機能し、無検閲モデルが期待通りに応答することを検証します。これはOCR後処理パイプラインを構築する最初のステップです。

Copycurl https://api.llmocrapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

choicesにテキストを含むレスポンスを受信した場合、統合は成功です。401エラーが発生した場合はAPIキーを確認してください。402エラーが発生した場合は、前払いクレジットを追加する必要がある場合があります。

Python SDK統合

Python開発者向けには、公式のOpenAI SDKの使用が推奨されます。openaiパッケージをインストールし、ベースURLを当社のAPIに設定します。これにより、chat.completions.create()などの馴染みのあるメソッドを使用できます。

base_urlパラメータをhttps://api.llmocrapi.com/v1に設定し、APIキーを渡します。これにより、すべてのリクエストが正しく無検閲モデルにルーティングされます。その後、OCRで抽出したテキストをユーザーメッセージとして送信し、データをクリーニングまたは要約する方法をモデルに指示するシステムプロンプトを定義できます。

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llmocrapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

この方法は、ストリーミングが不要なバッチ処理に適しています。既存のPython OCRスクリプトにLLMを統合するための簡単な方法を提供します。

Node SDK統合

Node.js開発者もOpenAI SDKを使用してAPIと対話できます。Node用のopenaiパッケージをインストールし、Pythonの設定と同様にベースURLを設定します。これにより、馴染みのあるJavaScript構文で同じchat.completionsエンドポイントを活用できます。

APIキーとベースURLhttps://api.llmocrapi.com/v1でクライアントを設定します。これにより、既存のNode.jsアプリケーションとの互換性が確保されます。その後、OCRパイプラインからテキストを抽出または要約するためのリクエストを送信できます。

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llmocrapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

このアプローチは、Node環境でのサーバーサイド処理に適しており、Nodeエコシステムから離れることなくOCR出力を効率的に処理できます。

大規模ドキュメントのストリーミングレスポンス

大規模ドキュメントを処理する際、ストリーミングレスポンスは生成されるテキストをチャンクとして配信することでユーザーエクスペリエンスを向上させます。リクエストにstream: trueパラメータを使用してServer-Sent Events (SSE)を有効にします。これにより、長時間のOCR出力やユーザーへの進捗表示に有用なリアルタイムでテキストを処理できます。

ストリーミングは、処理の前にレスポンス全体をメモリに保持する必要がないため、メモリ使用量を管理するのに役立ちます。これは、レイテンシの問題を引き起こす可能性のある大量のテキストを含むドキュメントに特に有用です。

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

クライアントがSSEイベントを正しく処理して増分的なテキストチャンクを解析することを確認してください。この方法は、OCR後処理段階でリアルタイムのフィードバックを必要とするアプリケーションに最適です。

レート制限、エラー、コンテキストウィンドウ

サービス中断を避けるためにAPI制限を把握してください。APIキーごとに1分あたり300リクエストが制限されます。各リクエストボディは8 MBを超えてはいけません。レート制限を超えた場合は、429エラーが発生します。アプリケーションで指数バックオフを実装して、これらのエラーを適切に処理してください。

プロンプトと補完を合わせたコンテキストウィンドウは100,000トークンです。OCR出力がこの制限を超える場合は、ドキュメントを分割するか、以前の部分を切り捨てる必要があります。一般的なエラーには、無効なキーによる401、クレジット不足による402、レート制限による429があります。使用状況を監視し、必要な場合は前払いクレジットを追加してサービスを継続してください。