Tài liệu API Gateway
Gateway tương thích 100% chuẩn OpenAI — mọi SDK, công cụ (Cursor, Cline, Chatbox...) đều kết nối được bằng cách thay Base URL. Xoay vòng key, failover model, streaming realtime.
1 Base URL & xác thực
Mọi request đều gửi tới Base URL bên dưới với header Authorization: Bearer <khóa API>:
sk-nv-... có hạn mức theo ngày (mặc định 200 requests/ngày). Vượt hạn mức sẽ nhận lỗi 429 — liên hệ admin nâng hạn mức.2 Danh sách model khả dụng
Gọi GET /v1/models để lấy danh sách realtime — dưới đây là model đang kích hoạt trên gateway:
| Model ID (dùng trong request) | Tên hiển thị | Nhà cung cấp |
|---|---|---|
| Đang tải... | ||
3 Chat completions
Kết quả trả về đúng định dạng OpenAI: choices[0].message.content kèm usage (prompt/completion/total tokens).
4 Streaming SSE (khuyên dùng)
Thêm "stream": true — nhận từng mảnh chữ realtime dạng Server-Sent Events, kết thúc bằng data: [DONE].
Với streaming, gateway tự thêm stream_options: {"{"}"include_usage": true{"}"} để chunk cuối trả về thống kê token (không đổi nội dung sinh ra).
5 Gửi hình ảnh (multimodal)
Với model hỗ trợ thị giác: gửi mảng content gồm text + image_url (data URL base64 hoặc link ảnh công khai).
6 Python / Node.js SDK
Python (openai):
Node.js (openai, streaming):
7 Mã lỗi thường gặp
| Mã | Ý nghĩa | Cách xử lý |
|---|---|---|
| 401 | Thiếu/sai khóa API | Kiểm tra header Authorization hoặc đăng nhập lại |
| 403 | Khóa bị khóa / tài khoản bị khóa | Liên hệ admin |
| 429 | Vượt hạn mức ngày hoặc upstream 429 | Gateway đã tự xoay key — chờ vài giây thử lại |
| 503 | Không có kênh nào khả dụng | Kiểm tra kho key trong Bảng quản trị |
| 504 | Upstream không phản hồi | Gateway đã thử model fallback — thử lại hoặc đổi model |