L LLM-API / DOCS↓ Tải hướng dẫn đầy đủ
BUILD WITH LLM-API

Một API.
Kết nối các model AI.

Dùng key của bạn để tích hợp chat và streaming với SDK tương thích OpenAI. Bắt đầu bằng một request đơn giản.

BASE URLhttps://llm-api.io.vn/v1
HTTPSBearer authenticationOpenAI-compatible
01 / SETUP

Bắt đầu trong vài phút

1

Nhận API key

Liên hệ quản trị viên để nhận key gw_... và quyền sử dụng model.

2

Đặt base URL

Dùng hostname LLM-API với đường dẫn /v1 trong SDK của bạn.

3

Gửi request

Xác thực bằng Bearer token. Dùng chat completion hoặc SSE streaming.

export LLM_API_KEY='gw_THAY_BANG_KEY_CUA_BAN'

Không chia sẻ key, commit vào Git hoặc đặt key trong bundle JavaScript frontend. Gateway chưa bật CORS cho website khác origin; tích hợp qua backend.

02 / MODELS

Lấy danh sách model

GET/v1/models
curl https://llm-api.io.vn/v1/models \
  -H "Authorization: Bearer $LLM_API_KEY"

Lấy chính xác model ID từ response. Danh sách model không bảo đảm key có quyền hoặc quota dùng toàn bộ model. Kiểm tra với người cấp key nếu bị từ chối.

Metadata owned_by hiển thị llm-api, nhãn của gateway. Model ID và nội dung model được giữ nguyên.

03 / CHAT COMPLETIONS

Gọi model đầu tiên

POST/v1/chat/completions
curl --max-time 120 \
  https://llm-api.io.vn/v1/chat/completions \
  -H "Authorization: Bearer $LLM_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gpt-6.1-terra",
    "messages": [
      {"role": "user", "content": "Xin chào!"}
    ],
    "max_tokens": 256,
    "stream": false
  }'

Đọc câu trả lời tại choices[0].message.content. Token usage, nếu có, nằm trong usage; không đồng nghĩa với giá tiền đã được đối soát.

Ví dụ dùng gpt-6.1-terra, model đã được thử trong quá trình tích hợp. Quyền truy cập và tham số hỗ trợ có thể khác theo model/tài khoản.

04 / SERVER-SENT EVENTS

Nhận câu trả lời theo thời gian thực

Bật stream: true. Với cURL, thêm -N để tắt buffering.

curl -N --max-time 120 \
  https://llm-api.io.vn/v1/chat/completions \
  -H "Authorization: Bearer $LLM_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gpt-6.1-terra",
    "messages": [{"role": "user", "content": "Xin chào!"}],
    "max_tokens": 256,
    "stream": true
  }'

Ghép choices[0].delta.content từ các sự kiện data:. Stream OpenAI-compatible kết thúc với data: [DONE]. Không parse toàn bộ stream như một object JSON.

05 / TROUBLESHOOTING

Khi request không thành công

Quota chung = input + output. Chi phí request mới = tổng token × một đơn giá, hiển thị bằng USD / 1M token (tỷ giá cố định 1 USD = 26.000 ₫). Key có quota được gọi song song; gateway có thể hạ output tối đa về số token còn lại, nên nhiều request cùng lúc có thể vượt quota một ít. Usage thực tế được ghi sau khi upstream trả kết quả; request bị huỷ giữa chừng được trừ theo ước lượng. Chi phí lịch sử giữ nguyên.

HTTPKiểm tra
400Model, payload JSON và tham số được model hỗ trợ.
401Key thiếu/sai/bị khóa/hết hạn hoặc lỗi auth upstream.
402Key hết tổng quota token, usage cần đối soát hoặc số dư/quota upstream. Liên hệ người cấp key.
403Quyền provider/model bị từ chối.
404Endpoint chưa hỗ trợ hoặc URL sai; tránh ghép /v1 hai lần.
429Key có quota đang xử lý request khác hoặc provider giới hạn lưu lượng. Giảm concurrency, tuân thủ Retry-After nếu có.
502 / 503 / 504 / 52xSự cố upstream, gateway, ghi usage ledger, tunnel hoặc timeout.

Cần hỗ trợ?

Gửi model, endpoint, thời điểm, HTTP status, x-request-id và cf-ray nếu có cho người cấp key. Không gửi toàn bộ API key.

Tải hướng dẫn Markdown đầy đủ ↗