Conectează la Ablitron un client chat-completions pentru text. Înregistrează-te în consolă și alimentează-ți soldul ca să folosești gateway-ul.
Modele
ablitron-pro (context de 1M tokeni, bazat pe un GLM-5.3 modificat) și ablitron-core (context de 256K tokeni, la jumătate de preț) sunt modele abliterate. Acestea sunt nume de servicii, nu afirmații că Ablitron a antrenat modelul de bază. Calitatea în programare urmează să fie evaluată prin benchmark-uri.
1. Creează o cheie API
Deschide consola, înregistrează-te și verifică-ți e-mailul. Creează o cheie, copiaz-o o singură dată și păstreaz-o în mediul serverului tău. Cheile pot fi revocate din același panou. Adaugă credit preplătit sau alege un abonament lunar.
2. Trimite o cerere
URL de bază în producție: https://ablitron.com/v1. Pentru dezvoltare locală, folosește http://localhost:4174/v1. Păstrează cheia în ABLITRON_API_KEY.
curl https://ablitron.com/v1/chat/completions \
-H "Authorization: Bearer $ABLITRON_API_KEY" \
-H "Content-Type: application/json" \
-d '{"model":"ablitron-core","messages":[{"role":"user","content":"Write a Python binary search."}],"max_tokens":2048}'
3. Streaming sau apeluri de unelte
Adaugă "stream": true ca să primești server-sent events cu fragmente de completare, utilizarea finală și un marcaj [DONE]. Definițiile de funcții folosesc array-ul tools; returnează rezultatele uneltelor în mesaje cu rolul tool și cu tool_call_id corespunzător. Clientul execută uneltele; Ablitron nu îți execută codul.
Limite de intrare și ieșire
Preview-ul acceptă doar mesaje text, cel mult 10.000 de mesaje și 64 de unelte. Limita de ieșire este de 1–16.384 de tokeni, implicit 2.048. Folosește fie max_tokens, fie max_completion_tokens, nu pe amândouă. Preview-ul nu impune un plafon suplimentar de tokeni la intrare. Furnizorul aplică fereastra de context a modelului selectat. Corpurile cererilor HTTP sunt limitate la 16 MB și ai nevoie de un plan care mai are loc în limite sau de suficient credit preplătit pentru rezervarea cererii. Este acceptată o singură completare per cerere.
Planuri, credit și facturare
Cu un plan, fiecare cerere se contorizează în limitele de 5 ore, săptămânală și lunară, măsurate la tarifele pe token. Când se atinge o limită sau dacă nu ai plan, cererile folosesc creditul preplătit: rezervă credit înainte de inferență, pe baza unei dimensiuni de intrare estimate prudent și a ieșirii maxime cerute, iar suma finală se calculează după tokenii raportați. Intrarea din cache este o parte a intrării, taxată la tariful său mai mic. Tokenii de raționament sunt deja incluși în ieșire și nu sunt taxați de două ori.
Erori și reîncercări
- 400
- Cerere invalidă sau neacceptată. Verifică limitele de mesaje și de ieșire.
- 401
- Cheie lipsă, revocată sau inactivă.
- 403
account_suspended: contul asociat cheii este suspendat. Contactează suportul.- 402
- Credit disponibil insuficient pentru rezervare. Adaugă credit sau redu limita de ieșire.
- 429
- Limită de rată (implicit 120 de cereri pe minut per rețea și per cheie, sau propriul
key_rate_limital cheii), patru cereri deja în curs,key_usage_limit: cheia a atins limita zilnică sau lunară de utilizare setată pentru ea în Setări → Chei API, sauusage_limit: limita planului tău a fost atinsă și nu ai credit preplătit.error.resets_at(timp Unix) și headerulRetry-Afterindică momentul în care se reînnoiește. - 502
- Răspunsul modelului sau utilizarea nu au putut fi confirmate. Verifică-ți consola înainte să reîncerci.
- 503
- Inferența sau alt serviciu necesar nu este activat.
Salvează headerul de răspuns X-Request-ID când raportezi o problemă. Inferența nu este reîncercată automat. Dacă utilizarea nu poate fi confirmată după o deconectare sau o eroare de server, rezervarea rămâne în așteptare 15 minute; apoi este decontată pe baza unei estimări prudente a textului primit sau eliberată fără cost dacă nu s-a livrat nimic. Cererile fără streaming se încheie după aproximativ 170 de secunde cu 504 request_timeout; promptul este taxat pe baza unei estimări, așa că folosește streaming pentru răspunsuri lungi. O reîncercare este o cerere nouă și poate genera utilizare suplimentară.
Date gestionate de gateway
Cererile sunt redirecționate către un furnizor de inferență. Registrul local de utilizare stochează ID-urile cererilor, marcajele de timp, aliasurile modelelor, numărul de tokeni și sumele taxate; nu stochează textul prompturilor sau al răspunsurilor. Cheile API ale clienților sunt stocate ca hash. Prelucrarea pe partea furnizorului și termenii de serviciu aplicabili trebuie analizați pentru cazul tău de utilizare; nu pretindem zero retenție end-to-end.