Nhận API key
Liên hệ quản trị viên để nhận key gw_... và quyền sử dụng model.
Dùng key của bạn để tích hợp chat và streaming với SDK tương thích OpenAI. Bắt đầu bằng một request đơn giản.
https://llm-api.io.vn/v1Liên hệ quản trị viên để nhận key gw_... và quyền sử dụng model.
Dùng hostname LLM-API với đường dẫn /v1 trong SDK của bạn.
Xác thực bằng Bearer token. Dùng chat completion hoặc SSE streaming.
export LLM_API_KEY='gw_THAY_BANG_KEY_CUA_BAN'Không chia sẻ key, commit vào Git hoặc đặt key trong bundle JavaScript frontend. Gateway chưa bật CORS cho website khác origin; tích hợp qua backend.
/v1/modelscurl https://llm-api.io.vn/v1/models \
-H "Authorization: Bearer $LLM_API_KEY"Lấy chính xác model ID từ response. Danh sách model không bảo đảm key có quyền hoặc quota dùng toàn bộ model. Kiểm tra với người cấp key nếu bị từ chối.
Metadata owned_by hiển thị llm-api, nhãn của gateway. Model ID và nội dung model được giữ nguyên.
/v1/chat/completionscurl --max-time 120 \
https://llm-api.io.vn/v1/chat/completions \
-H "Authorization: Bearer $LLM_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "gpt-6.1-terra",
"messages": [
{"role": "user", "content": "Xin chào!"}
],
"max_tokens": 256,
"stream": false
}'Đọc câu trả lời tại choices[0].message.content. Token usage, nếu có, nằm trong usage; không đồng nghĩa với giá tiền đã được đối soát.
Ví dụ dùng gpt-6.1-terra, model đã được thử trong quá trình tích hợp. Quyền truy cập và tham số hỗ trợ có thể khác theo model/tài khoản.
Bật stream: true. Với cURL, thêm -N để tắt buffering.
curl -N --max-time 120 \
https://llm-api.io.vn/v1/chat/completions \
-H "Authorization: Bearer $LLM_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "gpt-6.1-terra",
"messages": [{"role": "user", "content": "Xin chào!"}],
"max_tokens": 256,
"stream": true
}'Ghép choices[0].delta.content từ các sự kiện data:. Stream OpenAI-compatible kết thúc với data: [DONE]. Không parse toàn bộ stream như một object JSON.
Quota chung = input + output. Chi phí request mới = tổng token × một đơn giá, hiển thị bằng USD / 1M token (tỷ giá cố định 1 USD = 26.000 ₫). Key có quota được gọi song song; gateway có thể hạ output tối đa về số token còn lại, nên nhiều request cùng lúc có thể vượt quota một ít. Usage thực tế được ghi sau khi upstream trả kết quả; request bị huỷ giữa chừng được trừ theo ước lượng. Chi phí lịch sử giữ nguyên.
| HTTP | Kiểm tra |
|---|---|
| 400 | Model, payload JSON và tham số được model hỗ trợ. |
| 401 | Key thiếu/sai/bị khóa/hết hạn hoặc lỗi auth upstream. |
| 402 | Key hết tổng quota token, usage cần đối soát hoặc số dư/quota upstream. Liên hệ người cấp key. |
| 403 | Quyền provider/model bị từ chối. |
| 404 | Endpoint chưa hỗ trợ hoặc URL sai; tránh ghép /v1 hai lần. |
| 429 | Key có quota đang xử lý request khác hoặc provider giới hạn lưu lượng. Giảm concurrency, tuân thủ Retry-After nếu có. |
| 502 / 503 / 504 / 52x | Sự cố upstream, gateway, ghi usage ledger, tunnel hoặc timeout. |
Gửi model, endpoint, thời điểm, HTTP status, x-request-id và cf-ray nếu có cho người cấp key. Không gửi toàn bộ API key.