テキストの Chat Completions クライアントを Ablitron に接続します。ゲートウェイを使うには、コンソールで登録して残高をチャージしてください。
モデル
ablitron-pro(1M トークンのコンテキスト、改変した GLM-5.3 がベース)と ablitron-core(256K トークンのコンテキスト、半額)は abliterated モデルです。これらはサービス名であり、基盤モデルを Ablitron がトレーニングしたことを意味するものではありません。コーディング品質のベンチマークはまだ実施していません。
1. API キーを作成する
コンソールを開き、登録してメールアドレスを確認します。キーを作成したら一度だけコピーし、サーバーの環境に保管してください。キーは同じ画面から無効化できます。プリペイドクレジットを追加するか、月額サブスクリプションを選んでください。
2. リクエストを送信する
本番環境のベース URL:https://ablitron.com/v1。ローカル開発では http://localhost:4174/v1 を使います。キーは ABLITRON_API_KEY に保存してください。
curl https://ablitron.com/v1/chat/completions \
-H "Authorization: Bearer $ABLITRON_API_KEY" \
-H "Content-Type: application/json" \
-d '{"model":"ablitron-core","messages":[{"role":"user","content":"Write a Python binary search."}],"max_tokens":2048}'
3. ストリーミングとツール呼び出し
"stream": true を追加すると、補完のチャンク、最終的な使用量、[DONE] マーカーを含む Server-Sent Events を受信できます。関数定義には tools 配列を使い、ツールの結果は、ロール tool と対応する tool_call_id を指定したメッセージで返します。ツールを実行するのはクライアントで、Ablitron がお客様のコードを実行することはありません。
入力と出力の制限
プレビュー版はテキストメッセージのみに対応し、メッセージは最大 10,000 件、ツールは最大 64 個です。出力の上限は 1〜16,384 トークンで、デフォルトは 2,048 です。max_tokens と max_completion_tokens は、どちらか一方だけを指定してください。入力には、プレビュー独自のトークン上限はありません。選択したモデルのコンテキストウィンドウは、プロバイダー側で適用されます。HTTP リクエストボディの上限は 16 MB で、上限に余裕のあるプラン、またはリクエストの予約に足りるプリペイドクレジットが必要です。1 リクエストにつき生成できる補完は 1 つだけです。
プラン、クレジット、課金
プランをご利用の場合、各リクエストはトークン単価で計算され、5 時間・週間・月間の上限に加算されます。上限に達した場合やプランがない場合、リクエストはプリペイドクレジットを使います。推論の前に、保守的に見積もった入力サイズとリクエストされた最大出力をもとにクレジットを予約し、最終的な請求額は報告されたトークン使用量で確定します。キャッシュされた入力は入力の一部として扱われ、より低い単価で課金されます。推論トークンは出力にすでに含まれており、二重に課金されることはありません。
エラーと再試行
- 400
- 無効またはサポートされていないリクエストです。メッセージと出力の上限を確認してください。
- 401
- キーが指定されていないか、無効化済み、または非アクティブです。
- 403
account_suspended:キーに紐づくアカウントが停止されています。サポートにお問い合わせください。- 402
- 予約に必要なクレジットが不足しています。クレジットを追加するか、出力の上限を下げてください。
- 429
- レート制限(デフォルトはネットワークごと・キーごとに毎分 120 リクエスト、またはキー固有の
key_rate_limit)、処理中のリクエストがすでに 4 件ある、key_usage_limit(Settings → API keys でそのキーに設定した日次または月次の利用上限に到達)、またはusage_limit(プランの上限に達し、プリペイドクレジットもない)。リセットのタイミングはerror.resets_at(Unix 時間)とRetry-Afterヘッダーで確認できます。 - 502
- モデルの応答または使用量を確認できませんでした。再試行する前にコンソールを確認してください。
- 503
- 推論、またはその他の必要なサービスが有効になっていません。
問題を報告する際は、レスポンスヘッダーの X-Request-ID を控えておいてください。推論は自動では再試行されません。切断やサーバーエラーの後に使用量を確認できない場合、予約は 15 分間保留されます。その後、受信したテキストを保守的に見積もった額で精算されるか、何も配信されていなければ課金なしで解放されます。ストリーミングなしのリクエストは約 170 秒で 504 request_timeout となって終了し、プロンプトは推定値で課金されます。長い回答にはストリーミングを使ってください。再試行は新しいリクエストとして扱われ、追加の使用量が発生する場合があります。
ゲートウェイが扱うデータ
リクエストは推論プロバイダーに転送されます。当社側の利用記録には、リクエスト ID、タイムスタンプ、モデルエイリアス、トークン数、請求額を保存し、プロンプトや出力のテキストは保存しません。お客様の API キーはハッシュとして保存されます。プロバイダー側での取り扱いと適用されるサービス規約は、ご自身のユースケースに照らして確認してください。エンドツーエンドでのデータ非保持(ゼロリテンション)は謳っていません。