VI ▾

Mô hình LLM không kiểm duyệt cho xử lý hậu kỳ OCRhttps://api.llmocrapi.com/v1

llmocrapi.comHướng dẫn

Tích hợp API OCR: Ví dụ mã nguồn Python và Node

Tích hợp API OCR tại đây nghĩa là thêm một lệnh gọi HTTP sau công cụ OCR của bạn: bạn gửi văn bản thô đã nhận diện và nhận lại văn bản đã được làm sạch. Endpoint tương thích với OpenAI, vì vậy SDK bạn đã có sẵn sẽ hoạt động sau khi bạn thay đổi hai cài đặt.

Cập nhật

Pipeline đẳng trắc vận chuyển các khối rời rạc qua nút xử lý vào các chồng lưu trữ gọn gàng

Điểm chính

  • Đặt base URL thành https://api.llmocrapi.com/v1, sử dụng model ID uncensored và gửi khóa của bạn dưới dạng token Bearer.
  • API chỉ chấp nhận văn bản. Hãy chạy công cụ OCR của bạn trước và truyền kết quả đó làm tin nhắn của người dùng.
  • Chế độ JSON trả về kết quả có thể đọc được bằng máy, và một nhóm luồng nhỏ gồm tối đa 8 worker giữ cho batch nhanh chóng.
  • Phản hồi 429 là tín hiệu để chờ và thử lại, không phải lỗi: các yêu cầu thất bại không bị tính phí.

Vị trí của lệnh gọi trong quy trình

Luồng tài liệu điển hình có bốn bước. Máy quét hoặc camera điện thoại tạo ra hình ảnh, công cụ OCR chuyển đổi hình ảnh thành văn bản thô, bước làm sạch sửa chữa văn bản đó, và ứng dụng của bạn lưu trữ hoặc tìm kiếm kết quả. API được mô tả ở đây là bước ba. Nó không bao giờ nhìn thấy hình ảnh và không có đầu vào hình ảnh. Đây là một tính năng khi bạn quan tâm đến quyền riêng tư của các bản quét gốc, vì chỉ có văn bản rời khỏi máy của bạn, và là một hạn chế khi bạn mong đợi một endpoint duy nhất xử lý hình ảnh.

Các prompt không được sử dụng để huấn luyện. Tuy nhiên, chỉ gửi những gì nhiệm vụ cần: hãy xóa các số tài khoản hoặc tên trước khi gọi nếu bước làm sạch không phụ thuộc vào chúng.

Trước khi viết mã, lấy khóa API. Người dùng mới có thể nhận $0,50 tín dụng dùng thử chỉ bằng một cú nhấp chuột trên trang đó sau khi đăng ký, đủ để chạy mọi ví dụ bên dưới nhiều lần. Khóa dùng thử cho phép 2 yêu cầu đồng thời và 60 yêu cầu mỗi phút; khóa đầy đủ cho phép 8 và 300.

Các cài đặt bạn cần

Cài đặtGiá trị
URL gốchttps://api.llmocrapi.com/v1
EndpointPOST /v1/chat/completions
ID mô hìnhuncensored
Tiêu đề xác thựcAuthorization: Bearer YOUR_KEY
Cửa sổ ngữ cảnh100.000 token, prompt cộng với completion

Lưu khóa trong biến môi trường, không bao giờ trong kiểm soát nguồn. Các ví dụ đọc LLMOCR_API_KEY.

Hai ghi chú thực tế trước khi bạn bắt đầu. Giữ khóa ra khỏi mã giao diện người dùng, vì bất cứ thứ gì được gửi đến trình duyệt đều có thể bị người dùng đọc; hãy gọi API từ máy chủ hoặc worker. Và quyết định sớm nơi văn bản OCR thô và văn bản đã làm sạch sẽ được lưu trữ, vì đầu ra đã làm sạch là tệp bạn sẽ tìm kiếm, lập chỉ mục và hiển thị cho mọi người, trong khi văn bản thô là bằng chứng của bạn nếu một sửa chữa nào đó bị nghi ngờ.

Yêu cầu đầu tiên với curl

Hãy bắt đầu với curl để bạn có thể thấy hình dạng thô của một yêu cầu trước khi SDK ẩn nó đi. Mẫu bên dưới là một đoạn OCR bị hỏng điển hình: một dấu gạch ngang bị chia cắt qua ngắt dòng, một chữ cái bị nhầm với chữ số và một số trang lạc.

curl https://api.llmocrapi.com/v1/chat/completions \
  -H "Authorization: Bearer $LLMOCR_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "temperature": 0,
    "messages": [
      {"role": "system", "content": "You repair raw OCR text. Fix broken words, rejoin hyphenated line breaks, remove page numbers. Return only the corrected text."},
      {"role": "user", "content": "The inven-\ntory was com1leted on Tuesday.\n\n- 14 -\n\nA second ship-\nment arrived."}
    ]
  }'

Phản hồi tuân theo định dạng chat completion tiêu chuẩn. Văn bản đã được làm sạch nằm ở choices[0].message.content, và usage báo cáo các token prompt và hoàn tất cho yêu cầu đó. Đặt temperature về 0 để làm sạch. Bạn muốn cùng một đầu vào cho cùng một đầu ra, không phải biến đổi sáng tạo.

Python với SDK OpenAI

Cài đặt SDK với pip install openai. Chỉ hàm tạo khác với thiết lập OpenAI tiêu chuẩn.

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://api.llmocrapi.com/v1",
    api_key=os.environ["LLMOCR_API_KEY"],
    max_retries=4,
)

SYSTEM = (
    "You repair raw OCR text. Fix broken words, rejoin hyphenated line breaks, "
    "remove page numbers and running headers. Do not add or remove facts. "
    "Return only the corrected text."
)

def clean(raw: str) -> str:
    resp = client.chat.completions.create(
        model="uncensored",
        temperature=0,
        messages=[
            {"role": "system", "content": SYSTEM},
            {"role": "user", "content": raw},
        ],
    )
    return resp.choices[0].message.content

print(clean("The inven-\ntory was com1leted on Tuesday."))

Tham số max_retries báo cho SDK thử lại khi gặp lỗi kết nối và phản hồi 429 với cơ chế backoff, vì vậy bạn không cần viết vòng lặp đó cho các trường hợp sử dụng nhẹ.

Ví dụ Node.js

Với npm install openai và module ES, lệnh gọi tương tự trông như thế này.

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.llmocrapi.com/v1",
  apiKey: process.env.LLMOCR_API_KEY,
});

export async function clean(raw) {
  const resp = await client.chat.completions.create({
    model: "uncensored",
    temperature: 0,
    messages: [
      { role: "system", content: "Repair raw OCR text. Return only the corrected text." },
      { role: "user", content: raw },
    ],
  });
  return resp.choices[0].message.content;
}

console.log(await clean("A second ship-\nment arrived."));

Bất kỳ thứ gì hỗ trợ định dạng chat của OpenAI, chẳng hạn như công cụ tự động hóa không mã hoặc bộ bao bọc nội bộ hiện có, đều có thể sử dụng cùng hai cài đặt. Tài liệu liệt kê mọi tham số được hỗ trợ.

Đầu ra có cấu trúc với chế độ JSON

Văn bản tự do là đủ cho kho lưu trữ, nhưng các đường ống trích xuất dữ liệu cần các trường. Bật chế độ JSON bằng response_format và mô tả hình dạng bạn muốn trong prompt. Yêu cầu JSON trong cả hướng dẫn và cài đặt cho kết quả đáng tin cậy nhất.

import json

resp = client.chat.completions.create(
    model="uncensored",
    temperature=0,
    response_format={"type": "json_object"},
    messages=[
        {"role": "system", "content": (
            "Clean the OCR text of a receipt and answer in JSON with keys "
            "'vendor' (string), 'date' (YYYY-MM-DD or null), 'total' (number or null), "
            "'cleaned_text' (string)."
        )},
        {"role": "user", "content": raw_receipt_text},
    ],
)
data = json.loads(resp.choices[0].message.content)

Luôn bao bọc json.loads trong khối try và giữ nguyên văn bản thô, vì phản hồi rất dài hoặc bị cắt cụt vẫn có thể tạo ra JSON không hợp lệ. Nếu phân tích cú pháp thất bại, hãy thử lại một lần rồi đưa trang đó vào hàng đợi để xem xét thủ công.

Xử lý một lô song song

Mỗi yêu cầu một lúc là chậm đối với hàng nghìn trang. Khóa đầy đủ cho phép 8 yêu cầu đồng thời, nên một nhóm 6 hoặc 8 worker giữ bạn dưới giới hạn. Hãy để lại một chút dư địa nếu cùng khóa đó còn được dùng cho việc khác.

from concurrent.futures import ThreadPoolExecutor

pages = [open(f"ocr/page_{i:04d}.txt").read() for i in range(1, 501)]

with ThreadPoolExecutor(max_workers=6) as pool:
    cleaned = list(pool.map(clean, pages))

for i, text in enumerate(cleaned, start=1):
    open(f"clean/page_{i:04d}.txt", "w").write(text)

Nếu bạn vượt quá giới hạn, API sẽ trả về HTTP 429. Mã lỗi rate_limited có nghĩa là quá nhiều yêu cầu mỗi phút, và concurrency có nghĩa là quá nhiều cùng một lúc. Mã 429 với tiêu đề Retry-After: 5 có nghĩa là quá tải tạm thời: hãy đợi năm giây. Các yêu cầu truyền phát giữ một khe đồng thời cho đến khi luồng kết thúc, vì vậy hãy đóng các luồng bạn ngừng đọc.

Theo dõi tiêu đề phản hồi X-Balance-USD trong các quá trình chạy dài. Khi nó thấp, hãy tạm dừng và nạp tiền từ trang giá cả thay vì để công việc thất bại giữa chừng.

Tài liệu dài và kiểm tra kết quả

Đầu ra OCR thực tế hiếm khi là một trang gọn gàng. Một cuốn sách được quét sẽ cho bạn hàng nghìn trang, và thiệt hại không đồng đều: một chương sạch, sau đó là một trang bị bẩn đầy các ký tự bị hỏng. Một vài thói quen sẽ giữ cho bước làm sạch có thể dự đoán được.

Chia theo cấu trúc, không phải theo số ký tự. Cắt ở ngắt trang hoặc ranh giới đoạn, để mô hình không bao giờ nhận được nửa câu ở đầu một đoạn. Nếu một câu chạy qua ranh giới trang, hãy bao gồm đoạn cuối của trang trước dưới dạng ngữ cảnh chỉ đọc và bảo mô hình chỉ trả về trang hiện tại. Điều đó tốn một vài token đầu vào bổ sung cho mỗi yêu cầu, với giá $0,15 cho 1 triệu token thì gần như không đáng kể, và nó sửa các từ có gạch nối bị ngắt giữa hai trang.

Xác minh từng kết quả bằng các kiểm tra rẻ tiền trước khi chấp nhận nó. So sánh độ dài của văn bản đã làm sạch với nguồn: tỷ lệ xa 1 có nghĩa là mô hình đã bỏ sót hoặc tạo ra thông tin. So sánh các số: trích xuất mọi chuỗi chữ số từ cả hai phiên bản và đánh dấu các trang khác biệt, vì ngày tháng, số tiền và mã định danh là những lỗi đắt giá nhất nếu bỏ qua. Giữ văn bản OCR thô bên cạnh văn bản đã làm sạch, để một người luôn có thể tái tạo lại những gì công cụ thực sự đã thấy.

Cuối cùng, hãy coi lần chạy đầu tiên là một chuyến bay thử. Dọn 20 trang, tự đọc mười trang trong số đó và tinh chỉnh prompt hệ thống. Thường thì hai hoặc ba vòng chỉnh sửa hướng dẫn mang lại chất lượng tốt hơn bất kỳ thay đổi tham số nào.

Những sai lầm thường gặp

  • Gửi các trang rất lớn dưới dạng một khối duy nhất. Cửa sổ ngữ cảnh là 100.000 token và kích thước tối đa của thân yêu cầu là 8 MB, nhưng độ chính xác tốt hơn với các khối kích thước trang, và một khối bị lỗi sẽ tốn ít chi phí hơn để làm lại.
  • Để mô hình viết lại. Nếu prompt không nói rõ không được thêm hoặc xóa thông tin, nó có thể làm mượt một đoạn bị hỏng. Hãy giữ hướng dẫn rõ ràng và so sánh độ dài: một trang đã làm sạch ngắn hơn nhiều so với nguồn của nó thì đáng để xem xét.
  • Sử dụng sai tên mô hình. Mã mô hình duy nhất là uncensored. Bạn có thể liệt kê các mô hình bằng GET /v1/models.
  • Đang mong đợi embedding hoặc đầu vào hình ảnh. Không có sẵn trên API này. Để tìm kiếm trên văn bản đã làm sạch, hãy sử dụng một công cụ embedding riêng biệt.
  • Quên ghi lại ID yêu cầu. Mỗi phản hồi đều bao gồm tiêu đề X-Request-Id. Hãy lưu trữ nó bên cạnh trang để bộ phận hỗ trợ có thể truy vết kết quả sai.

Quy tắc nội dung rất đơn giản: mô hình được tinh chỉnh để trả lời mà không từ chối cho mục đích người trưởng thành hợp pháp, và nội dung tình dục liên quan đến người chưa thành niên luôn bị cấm. Các câu hỏi về một trường hợp cụ thể sẽ được gửi đến hỗ trợ.

Hỏi đáp

Tôi có cần SDK đặc biệt không?

Không. Bất kỳ SDK OpenAI hoặc máy khách HTTP nào cũng hoạt động sau khi bạn đặt base URL thành https://api.llmocrapi.com/v1, sử dụng model ID uncensored và gửi khóa Bearer.

Tôi có thể gửi trực tiếp một hình ảnh hoặc PDF không?

Không. API chỉ chấp nhận văn bản. Hãy chạy một công cụ OCR trước và gửi kết quả của nó làm nội dung tin nhắn.

Tôi có thể chạy bao nhiêu yêu cầu cùng một lúc?

Khóa đầy đủ cho phép 8 yêu cầu đồng thời và 300 yêu cầu mỗi phút. Khóa dùng thử cho phép 2 yêu cầu đồng thời và 60 yêu cầu mỗi phút.

Điều gì xảy ra nếu tôi chạm giới hạn tốc độ?

Bạn sẽ nhận được HTTP 429 với mã rate_limited hoặc concurrency. Hãy đợi và thử lại; các yêu cầu thất bại sẽ không bị tính phí.

Khóa của bạn chỉ cách một biểu mẫu

Tạo tài khoản, sao chép khóa, thay đổi base URL. Đó là toàn bộ thiết lập.

Lấy khóa API