Kết nối một client chat-completions dạng văn bản với Ablitron. Đăng ký trong console và nạp tiền vào số dư để dùng gateway.
Mô hình
ablitron-pro (ngữ cảnh 1M token, dựa trên GLM-5.3 đã được chỉnh sửa) và ablitron-core (ngữ cảnh 256K token, nửa giá) là các mô hình abliterated. Đây là tên dịch vụ, không phải tuyên bố rằng Ablitron đã huấn luyện mô hình gốc. Chất lượng code vẫn chưa được benchmark.
1. Tạo API key
Mở console, đăng ký và xác minh email. Tạo một key, sao chép nó (chỉ một lần) và lưu trong môi trường server của bạn. Key có thể được thu hồi ngay trong bảng điều khiển đó. Nạp credit trả trước hoặc chọn gói đăng ký hằng tháng.
2. Gửi request
Base URL production: https://ablitron.com/v1. Khi phát triển cục bộ, dùng http://localhost:4174/v1. Lưu key của bạn trong ABLITRON_API_KEY.
curl https://ablitron.com/v1/chat/completions \
-H "Authorization: Bearer $ABLITRON_API_KEY" \
-H "Content-Type: application/json" \
-d '{"model":"ablitron-core","messages":[{"role":"user","content":"Write a Python binary search."}],"max_tokens":2048}'
3. Streaming hoặc gọi tool
Thêm "stream": true để nhận server-sent events gồm các chunk completion, usage cuối cùng và marker [DONE]. Định nghĩa hàm dùng mảng tools; trả kết quả tool trong các message có role tool và tool_call_id tương ứng. Client là bên thực thi tool; Ablitron không thực thi code của bạn.
Giới hạn đầu vào và đầu ra
Bản preview chỉ hỗ trợ tin nhắn văn bản, tối đa 10.000 tin nhắn và 64 tool. Giới hạn đầu ra là 1–16.384 token, mặc định 2.048. Dùng max_tokens hoặc max_completion_tokens, không dùng cả hai. Không có giới hạn token bổ sung nào cho đầu vào trong giai đoạn preview. Nhà cung cấp áp dụng context window của mô hình được chọn. Body của request HTTP giới hạn ở 16 MB, và cần có một gói còn hạn mức, hoặc đủ credit trả trước cho khoản tạm giữ của request. Mỗi request chỉ hỗ trợ một completion.
Gói, credit và thanh toán
Với một gói, mỗi request được tính vào các giới hạn 5 giờ, hằng tuần và hằng tháng của gói, đo theo đơn giá token. Khi chạm giới hạn, hoặc khi không có gói, request dùng credit trả trước: request tạm giữ credit trước khi chạy inference, dựa trên kích thước đầu vào ước tính thận trọng và đầu ra tối đa được yêu cầu, còn khoản phí cuối cùng tính theo lượng token sử dụng được báo cáo. Đầu vào được cache là một phần của đầu vào, tính theo đơn giá thấp hơn. Token suy luận (reasoning) đã nằm trong đầu ra và không bị tính phí hai lần.
Lỗi và thử lại
- 400
- Request không hợp lệ hoặc không được hỗ trợ. Kiểm tra message và giới hạn đầu ra.
- 401
- Key bị thiếu, đã bị thu hồi hoặc không hoạt động.
- 403
account_suspended: tài khoản sở hữu key này đã bị tạm ngưng. Liên hệ bộ phận hỗ trợ.- 402
- Không đủ credit khả dụng để tạm giữ. Nạp thêm credit hoặc giảm giới hạn đầu ra.
- 429
- Rate limit (mặc định 120 request mỗi phút cho mỗi mạng và mỗi key, hoặc
key_rate_limitriêng của key), đã có bốn request đang chạy,key_usage_limit: key đã chạm giới hạn sử dụng theo ngày hoặc theo tháng được đặt cho nó trong Settings → API keys, hoặcusage_limit: gói của bạn đã chạm giới hạn và bạn không có credit trả trước.error.resets_at(Unix time) và headerRetry-Aftercho biết khi nào hạn mức được làm mới. - 502
- Không thể xác nhận phản hồi của mô hình hoặc mức sử dụng. Kiểm tra console trước khi thử lại.
- 503
- Inference hoặc một dịch vụ bắt buộc khác chưa được bật.
Lưu header phản hồi X-Request-ID khi báo cáo sự cố. Inference không tự động thử lại. Nếu không xác nhận được mức sử dụng sau khi mất kết nối hoặc lỗi server, khoản tạm giữ sẽ ở trạng thái chờ trong 15 phút; sau đó được quyết toán theo ước tính thận trọng phần văn bản bạn đã nhận, hoặc được giải phóng miễn phí nếu chưa có gì được trả về. Request không dùng streaming sẽ kết thúc sau khoảng 170 giây với lỗi 504 request_timeout; prompt vẫn bị tính phí theo ước tính, vì vậy hãy dùng streaming cho các câu trả lời dài. Mỗi lần thử lại là một request mới và có thể phát sinh thêm mức sử dụng.
Dữ liệu gateway xử lý
Request được chuyển tiếp tới một nhà cung cấp inference. Sổ ghi nhận sử dụng cục bộ lưu request ID, timestamp, alias của mô hình, số token và chi phí; không lưu nội dung prompt hay output. API key của khách hàng được lưu dưới dạng hash. Bạn cần xem xét cách nhà cung cấp xử lý dữ liệu và các điều khoản dịch vụ áp dụng cho trường hợp sử dụng của mình; chúng tôi không cam kết zero-retention đầu-cuối.