Hubungkan klien chat-completions teks ke Ablitron. Daftar di konsol dan isi saldo Anda untuk memakai gateway.
Model
ablitron-pro (konteks 1M token, berbasis GLM-5.3 yang dimodifikasi) dan ablitron-core (konteks 256K token, setengah harga) adalah model abliterated. Ini nama layanan, bukan klaim bahwa Ablitron melatih model dasarnya. Kualitas coding belum di-benchmark.
1. Buat API key
Buka konsol, daftar, dan verifikasi email Anda. Buat key, salin sekali, lalu simpan di environment server Anda. Key bisa dicabut dari panel yang sama. Isi kredit prabayar atau pilih langganan bulanan.
2. Kirim permintaan
Base URL produksi: https://ablitron.com/v1. Untuk pengembangan lokal, gunakan http://localhost:4174/v1. Simpan key Anda di ABLITRON_API_KEY.
curl https://ablitron.com/v1/chat/completions \
-H "Authorization: Bearer $ABLITRON_API_KEY" \
-H "Content-Type: application/json" \
-d '{"model":"ablitron-core","messages":[{"role":"user","content":"Write a Python binary search."}],"max_tokens":2048}'
3. Streaming atau panggil tool
Tambahkan "stream": true untuk menerima server-sent events berisi potongan completion, pemakaian akhir, dan penanda [DONE]. Definisi fungsi memakai array tools; kembalikan hasil tool dalam pesan dengan role tool dan tool_call_id yang sesuai. Klien yang mengeksekusi tool; Ablitron tidak mengeksekusi kode Anda.
Batas input dan output
Preview ini hanya mendukung pesan teks, maksimal 10.000 pesan dan 64 tool. Batas output 1–16.384 token, default 2.048. Gunakan max_tokens atau max_completion_tokens, bukan keduanya. Tidak ada batas token tambahan untuk input selama preview. Penyedia menerapkan context window model yang dipilih. Body permintaan HTTP dibatasi 16 MB, dan diperlukan paket yang batasnya masih tersisa, atau kredit prabayar yang cukup untuk reservasi permintaan. Hanya satu completion per permintaan yang didukung.
Paket, kredit, dan tagihan
Dengan paket, setiap permintaan dihitung terhadap batas 5 jam, mingguan, dan bulanan paket tersebut, diukur dengan tarif token. Saat batas tercapai, atau tanpa paket, permintaan memakai kredit prabayar: kredit dicadangkan sebelum inferensi, dengan ukuran input yang konservatif dan output maksimum yang diminta, lalu tagihan akhirnya memakai pemakaian token yang dilaporkan. Input yang di-cache adalah bagian dari input dan ditagih dengan tarifnya yang lebih rendah. Token reasoning sudah termasuk dalam output dan tidak ditagih dua kali.
Error dan percobaan ulang
- 400
- Permintaan tidak valid atau tidak didukung. Periksa pesan dan batas output.
- 401
- Key tidak ada, sudah dicabut, atau tidak aktif.
- 403
account_suspended: akun pemilik key ini ditangguhkan. Hubungi tim bantuan.- 402
- Kredit yang tersedia tidak cukup untuk reservasi. Tambah kredit atau turunkan batas output.
- 429
- Rate limit (default 120 permintaan per menit per jaringan dan per key, atau
key_rate_limitmilik key itu sendiri), empat permintaan sudah berjalan,key_usage_limit: key mencapai batas pemakaian harian atau bulanan yang diatur untuknya di Settings → API keys, atauusage_limit: batas paket Anda tercapai dan Anda tidak punya kredit prabayar.error.resets_at(waktu Unix) dan headerRetry-Aftermenunjukkan kapan batasnya diperbarui. - 502
- Respons model atau pemakaian tidak dapat dikonfirmasi. Periksa konsol Anda sebelum mencoba lagi.
- 503
- Inferensi atau layanan wajib lainnya belum diaktifkan.
Simpan header respons X-Request-ID saat melaporkan masalah. Inferensi tidak dicoba ulang secara otomatis. Jika pemakaian tidak dapat dikonfirmasi setelah koneksi terputus atau terjadi error server, reservasi tetap tertunda selama 15 menit; setelah itu ditagih berdasarkan estimasi konservatif dari teks yang Anda terima, atau dilepas tanpa biaya jika tidak ada yang terkirim. Permintaan tanpa streaming berakhir setelah sekitar 170 detik dengan 504 request_timeout; prompt tetap ditagih berdasarkan estimasi, jadi gunakan streaming untuk jawaban panjang. Percobaan ulang adalah permintaan baru dan bisa menambah pemakaian.
Data yang ditangani gateway
Permintaan diteruskan ke penyedia inferensi. Catatan pemakaian lokal menyimpan ID permintaan, timestamp, alias model, jumlah token, dan biaya; teks prompt atau output tidak disimpan. API key pelanggan disimpan sebagai hash. Penanganan di sisi penyedia dan ketentuan layanan yang berlaku perlu Anda tinjau sesuai kasus penggunaan Anda; kami tidak mengklaim zero-retention end-to-end.