Připojte k Ablitronu textového klienta pro chat completions. Zaregistrujte se v konzoli a dobijte zůstatek, abyste mohli bránu používat.
Modely
ablitron-pro (kontext 1M tokenů, vychází z upraveného GLM-5.3) a ablitron-core (kontext 256K tokenů, poloviční cena) jsou abliterované modely. Jde o názvy služeb, nikoli o tvrzení, že Ablitron natrénoval výchozí model. Kvalita programování zatím nebyla změřena benchmarky.
1. Vytvořte API klíč
Otevřete konzoli, zaregistrujte se a ověřte svůj e-mail. Vytvořte klíč, zkopírujte si ho (zobrazí se jen jednou) a uložte ho do prostředí svého serveru. Klíče lze zneplatnit ve stejném panelu. Dobijte si předplacený kredit nebo zvolte měsíční předplatné.
2. Pošlete požadavek
Produkční base URL: https://ablitron.com/v1. Pro lokální vývoj použijte http://localhost:4174/v1. Klíč uložte do ABLITRON_API_KEY.
curl https://ablitron.com/v1/chat/completions \
-H "Authorization: Bearer $ABLITRON_API_KEY" \
-H "Content-Type: application/json" \
-d '{"model":"ablitron-core","messages":[{"role":"user","content":"Write a Python binary search."}],"max_tokens":2048}'
3. Streamování nebo volání nástrojů
Přidejte "stream": true a budete dostávat server-sent events s částmi odpovědi, konečným využitím a značkou [DONE]. Definice funkcí patří do pole tools; výsledky nástrojů vracejte ve zprávách s rolí tool a odpovídajícím tool_call_id. Nástroje spouští klient; Ablitron váš kód nespouští.
Limity vstupu a výstupu
Preview podporuje jen textové zprávy, nejvýše 10 000 zpráv a 64 nástrojů. Limit výstupu je 1–16 384 tokenů, výchozí 2 048. Použijte buď max_tokens, nebo max_completion_tokens, ne obojí. Na vstup se v preview nevztahuje žádný další limit tokenů. Kontextové okno zvoleného modelu vynucuje poskytovatel. Tělo HTTP požadavku je omezeno na 16 MB a je potřeba plán s volnou kapacitou v limitech, nebo dost předplaceného kreditu na rezervaci požadavku. Podporováno je jen jedno completion na požadavek.
Plány, kredit a fakturace
S plánem se každý požadavek započítává do jeho 5hodinového, týdenního a měsíčního limitu podle cen za tokeny. Když dosáhnete limitu nebo nemáte plán, požadavky čerpají předplacený kredit: před inferencí si kredit zarezervují podle konzervativního odhadu velikosti vstupu a maximálního požadovaného výstupu a konečná částka se účtuje podle nahlášeného využití tokenů. Cachovaný vstup je podmnožinou vstupu a účtuje se nižší sazbou. Reasoning tokeny jsou už zahrnuté ve výstupu a neúčtují se dvakrát.
Chyby a opakování
- 400
- Neplatný nebo nepodporovaný požadavek. Zkontrolujte limity zpráv a výstupu.
- 401
- Chybějící, zneplatněný nebo neaktivní klíč.
- 403
account_suspended: účet, ke kterému klíč patří, je pozastavený. Kontaktujte podporu.- 402
- Nedostatek dostupného kreditu na rezervaci. Dobijte kredit nebo snižte limit výstupu.
- 429
- Rate limit (ve výchozím nastavení 120 požadavků za minutu na síť a na klíč, nebo vlastní
key_rate_limitklíče), už čtyři rozpracované požadavky,key_usage_limit: klíč dosáhl denního nebo měsíčního limitu využití, který je pro něj nastavený v Settings → API keys, nebousage_limit: dosáhli jste limitu plánu a nemáte předplacený kredit.error.resets_at(unixový čas) a hlavičkaRetry-Afterříkají, kdy se limit obnoví. - 502
- Odpověď modelu nebo využití se nepodařilo potvrdit. Než to zkusíte znovu, zkontrolujte konzoli.
- 503
- Inference nebo jiná potřebná služba není zapnutá.
Při hlášení problému si uložte hlavičku odpovědi X-Request-ID. Inference se automaticky neopakuje. Pokud po odpojení nebo chybě serveru nelze využití potvrdit, rezervace zůstane 15 minut nevyřízená; potom se vyúčtuje podle konzervativního odhadu přijatého textu, nebo se bezplatně uvolní, pokud nebylo nic doručeno. Požadavky bez streamování skončí přibližně po 170 sekundách chybou 504 request_timeout; prompt se účtuje odhadem, proto pro dlouhé odpovědi používejte streamování. Opakovaný pokus je nový požadavek a může spotřebovat další využití.
Data, se kterými brána pracuje
Požadavky se přeposílají poskytovateli inference. Lokální záznam využití ukládá ID požadavků, časová razítka, aliasy modelů, počty tokenů a poplatky; text promptů ani výstupů neukládá. API klíče zákazníků jsou uložené jako hashe. Zpracování na straně poskytovatele a příslušné podmínky služby je třeba posoudit pro váš případ použití; netvrdíme, že platí end-to-end zero retention.