將文字 chat-completions 用戶端連接到 Ablitron。在控制台註冊並儲值餘額後,即可使用閘道。
模型
ablitron-pro(1M token 上下文,以修改版 GLM-5.3 為基礎)與 ablitron-core(256K token 上下文,價格減半)皆為 abliterated 模型。這些是服務名稱,並不表示底層模型由 Ablitron 訓練。程式設計品質仍待基準測試。
1. 建立 API 金鑰
開啟控制台,註冊並驗證電子郵件。建立金鑰,複製一次後存放在你的伺服器環境中。金鑰可在同一個面板中撤銷。儲值預付額度,或選擇月訂閱方案。
2. 送出請求
正式環境 base URL:https://ablitron.com/v1。本機開發請使用 http://localhost:4174/v1。將金鑰存放在 ABLITRON_API_KEY 中。
curl https://ablitron.com/v1/chat/completions \
-H "Authorization: Bearer $ABLITRON_API_KEY" \
-H "Content-Type: application/json" \
-d '{"model":"ablitron-core","messages":[{"role":"user","content":"Write a Python binary search."}],"max_tokens":2048}'
3. 串流或呼叫工具
加入 "stream": true 即可透過 server-sent events 接收補全片段、最終用量與 [DONE] 標記。函式定義使用 tools 陣列;工具結果請以 role 為 tool 的訊息回傳,並附上對應的 tool_call_id。工具由用戶端執行;Ablitron 不會執行你的程式碼。
輸入與輸出限制
預覽版僅支援文字訊息,最多 10,000 則訊息與 64 個工具。輸出上限為 1–16,384 個 token,預設為 2,048。max_tokens 與 max_completion_tokens 擇一使用,不可同時使用。預覽版不另外限制輸入的 token 數;所選模型的上下文視窗由供應商強制執行。HTTP 請求本文上限為 16 MB,且必須有尚未用完限額的方案,或足以支應請求預留的預付額度。每個請求僅支援一個補全結果。
方案、額度與計費
有方案時,每個請求都會依 token 費率計入方案的 5 小時、每週與每月限額。達到限額或沒有方案時,請求改用預付額度:推論前會以保守估計的輸入大小與請求的最大輸出預留額度,最終則依回報的 token 用量計費。快取輸入屬於輸入的一部分,以較低的費率計費。推理 token 已包含在輸出中,不會重複計費。
錯誤與重試
- 400
- 請求無效或不受支援。請檢查訊息與輸出限制。
- 401
- 金鑰缺漏、已撤銷或未啟用。
- 403
account_suspended:此金鑰所屬帳號已遭停權。請聯絡支援團隊。- 402
- 可用額度不足以進行預留。請儲值或調低輸出上限。
- 429
- 速率限制(預設每個網路、每個金鑰每分鐘 120 個請求,或該金鑰自訂的
key_rate_limit)、已有四個請求正在處理中、key_usage_limit:該金鑰已達到你在「設定 → API 金鑰」中為它設定的每日或每月用量上限,或usage_limit:你的方案已達上限,且沒有預付額度。error.resets_at(Unix 時間)與Retry-After標頭會告訴你何時重置。 - 502
- 無法確認模型回應或用量。重試前請先查看控制台。
- 503
- 推論服務或其他必要服務未啟用。
回報問題時,請保留 X-Request-ID 回應標頭。推論不會自動重試。若連線中斷或伺服器發生錯誤後無法確認用量,預留會保持待處理狀態 15 分鐘;之後會依你已收到文字的保守估算結算,若完全沒有傳回內容,則釋出預留且不收費。非串流請求約 170 秒後會以 504 request_timeout 結束,提示詞會依估算計費,因此較長的回答請使用串流。重試是一個新的請求,可能產生額外用量。
閘道處理的資料
請求會轉送至推論服務供應商。本地用量帳本儲存請求 ID、時間戳記、模型別名、token 數與扣款,不儲存提示詞或輸出文字。客戶的 API 金鑰以雜湊形式儲存。供應商端的資料處理方式及適用的服務條款,需由你依自己的使用情境自行評估;我們不宣稱端對端零資料保留。