API DỊCH THUẬT ĐA NGÔN NGỮ · TỰ TRIỂN KHAI

Bốn model dịch thuật. Một cổng inference.

Tích hợp dịch thuật đa ngôn ngữ vào ứng dụng của bạn qua API bất đồng bộ có xác thực, với bốn model được triển khai độc lập.

API dành cho hệ thống cá nhân, không phải website dịch công khai. API gửi và đọc job cần Bearer token; catalog model công khai. GPU chỉ hoạt động khi người vận hành bật.

KIẾN TRÚC
Ứng dụng của bạnHTTPS
CPU API gatewayFastAPI · Auth
GPU theo yêu cầuModal
Hy-MT2-30B-A3BL40S · Q8_0
Index-Translate-35BL40S · Q8_0
Gemma 4 31B ITL40S · Q8_0
Qwen3.5-35B-A3BL40S · Q8_0
TỔNG QUAN API
GET /health   ·   GET /v1/models · public

Health và catalog model công khai; API job yêu cầu Bearer token. Catalog không kiểm tra GPU sẵn sàng hay kích hoạt GPU.

Bốn model. Một API thống nhất.

Chọn một model để dịch hoặc so sánh nhiều model trong cùng tác vụ bất đồng bộ. Mỗi GPU worker sử dụng một bản GGUF đã khóa revision.

MODEL 01 · TENCENT

tencent/Hy-MT2-30B-A3B

hy_mt2_30b

Hy-MT2-30B-A3B · GGUF Q8_0 · GPU worker L40S riêng

MODEL 02 · INDEXTEAM

IndexTeam/Index-Translate-35B-A3B-preview

index_35b

Index-Translate-35B-A3B-preview · GGUF Q8_0 · GPU worker L40S riêng

MODEL 03 · GOOGLE

google/gemma-4-31B-it

gemma4_31b_it

Gemma 4 31B IT · GGUF Q8_0 · GPU worker L40S riêng

MODEL 04 · QWEN

Qwen/Qwen3.5-35B-A3B

qwen35_35b

Qwen3.5-35B-A3B · GGUF Q8_0 · GPU worker L40S riêng

Bắt đầu sử dụng

Triển khai gateway, kết nối ứng dụng và xử lý tác vụ dịch bất đồng bộ.

02

Kết nối an toàn

Gửi và đọc job bằng Bearer token riêng. Danh sách model công khai.

Bảo mật API ↗
03

Xử lý job bất đồng bộ

Gửi tác vụ dịch, lấy trạng thái job và xử lý thời gian GPU cold start.

Hướng dẫn vận hành ↗