Collega ad Ablitron un client chat-completions testuale. Registrati nella console e ricarica il saldo per usare il gateway.
Modelli
ablitron-pro (contesto da 1M di token, basato su un GLM-5.3 modificato) e ablitron-core (contesto da 256K token, a metà prezzo) sono modelli abliterati. Sono nomi del servizio, non affermazioni che Ablitron abbia addestrato il modello sottostante. La qualità nel coding non è ancora stata misurata con benchmark.
1. Crea una chiave API
Apri la console, registrati e verifica la tua email. Crea una chiave, copiala una volta e conservala nell'ambiente del tuo server. Puoi revocare le chiavi dallo stesso pannello. Aggiungi credito prepagato o scegli un abbonamento mensile.
2. Invia una richiesta
Base URL di produzione: https://ablitron.com/v1. Per lo sviluppo locale usa http://localhost:4174/v1. Salva la tua chiave in ABLITRON_API_KEY.
curl https://ablitron.com/v1/chat/completions \
-H "Authorization: Bearer $ABLITRON_API_KEY" \
-H "Content-Type: application/json" \
-d '{"model":"ablitron-core","messages":[{"role":"user","content":"Write a Python binary search."}],"max_tokens":2048}'
3. Streaming o chiamate agli strumenti
Aggiungi "stream": true per ricevere server-sent events con i chunk della completion, l'utilizzo finale e un marcatore [DONE]. Le definizioni delle funzioni usano l'array tools; restituisci i risultati degli strumenti in messaggi con ruolo tool e il tool_call_id corrispondente. È il client a eseguire gli strumenti; Ablitron non esegue il tuo codice.
Limiti di input e output
La preview supporta solo messaggi di testo, al massimo 10.000 messaggi e 64 strumenti. Il limite di output va da 1 a 16.384 token, con 2.048 come predefinito. Usa max_tokens oppure max_completion_tokens, non entrambi. In preview non c'è alcun limite aggiuntivo di token in input. Il provider applica la finestra di contesto del modello selezionato. Il corpo delle richieste HTTP è limitato a 16 MB, ed è necessario un piano con margine nei suoi limiti o credito prepagato sufficiente per la prenotazione della richiesta. È supportata una sola completion per richiesta.
Piani, credito e fatturazione
Con un piano, ogni richiesta conta per i limiti di 5 ore, settimanale e mensile, misurati in base alle tariffe per token. Quando si raggiunge un limite, o senza un piano, le richieste usano il credito prepagato: riservano credito prima dell'inferenza, usando una dimensione di input prudente e l'output massimo richiesto, e l'addebito finale si basa sull'utilizzo di token riportato. L'input in cache è un sottoinsieme dell'input, addebitato alla sua tariffa ridotta. I token di ragionamento sono già inclusi nell'output e non vengono addebitati due volte.
Errori e nuovi tentativi
- 400
- Richiesta non valida o non supportata. Controlla i limiti di messaggi e di output.
- 401
- Chiave mancante, revocata o inattiva.
- 403
account_suspended: l'account associato alla chiave è sospeso. Contatta il supporto.- 402
- Credito disponibile insufficiente per la prenotazione. Aggiungi credito o riduci il limite di output.
- 429
- Rate limit (per impostazione predefinita 120 richieste al minuto per rete e per chiave, oppure il
key_rate_limitdella chiave), quattro richieste già in corso,key_usage_limit: la chiave ha raggiunto il limite di utilizzo giornaliero o mensile impostato in Settings → API keys, oppureusage_limit: hai raggiunto il limite del tuo piano e non hai credito prepagato.error.resets_at(Unix time) e l'headerRetry-Afterindicano quando si rinnova. - 502
- Impossibile confermare la risposta del modello o l'utilizzo. Controlla la console prima di riprovare.
- 503
- L'inferenza o un altro servizio necessario non è abilitato.
Salva l'header di risposta X-Request-ID quando segnali un problema. L'inferenza non viene ritentata automaticamente. Se l'utilizzo non può essere confermato dopo una disconnessione o un errore del server, la prenotazione resta in sospeso per 15 minuti; poi viene saldata con una stima prudente del testo che hai ricevuto, oppure rilasciata senza addebito se non è stato consegnato nulla. Le richieste senza streaming terminano dopo circa 170 secondi con 504 request_timeout; il prompt viene addebitato in base a una stima, quindi usa lo streaming per le risposte lunghe. Un nuovo tentativo è una nuova richiesta e può comportare utilizzo aggiuntivo.
Dati gestiti dal gateway
Le richieste vengono inoltrate a un provider di inferenza. Il registro di utilizzo locale memorizza ID delle richieste, timestamp, alias dei modelli, conteggi di token e addebiti; non memorizza il testo di prompt o output. Le chiavi API dei clienti sono salvate come hash. Il trattamento lato provider e i termini di servizio applicabili vanno valutati per il tuo caso d'uso; non dichiariamo una conservazione zero end-to-end.