Podłącz do Ablitrona klienta chat completions obsługującego tekst. Zarejestruj się w konsoli i zasil saldo, żeby korzystać z bramki.
Modele
ablitron-pro (kontekst 1M tokenów, bazuje na zmodyfikowanym GLM-5.3) i ablitron-core (kontekst 256K tokenów, połowa ceny) to abliterowane modele. To nazwy usług, a nie twierdzenie, że Ablitron wytrenował model bazowy. Jakość kodowania nie została jeszcze zbadana w benchmarkach.
1. Utwórz klucz API
Otwórz konsolę, zarejestruj się i potwierdź adres e-mail. Utwórz klucz, skopiuj go (zobaczysz go tylko raz) i trzymaj w środowisku serwera. Klucze możesz unieważnić w tym samym panelu. Doładuj środki prepaid lub wybierz miesięczną subskrypcję.
2. Wyślij zapytanie
Produkcyjny base URL: https://ablitron.com/v1. Przy pracy lokalnej użyj http://localhost:4174/v1. Klucz trzymaj w ABLITRON_API_KEY.
curl https://ablitron.com/v1/chat/completions \
-H "Authorization: Bearer $ABLITRON_API_KEY" \
-H "Content-Type: application/json" \
-d '{"model":"ablitron-core","messages":[{"role":"user","content":"Write a Python binary search."}],"max_tokens":2048}'
3. Streaming lub wywołania narzędzi
Dodaj "stream": true, aby otrzymywać server-sent events z fragmentami odpowiedzi, końcowym użyciem i znacznikiem [DONE]. Definicje funkcji przekazujesz w tablicy tools; wyniki narzędzi zwracaj w wiadomościach z rolą tool i pasującym tool_call_id. Narzędzia wykonuje klient; Ablitron nie wykonuje twojego kodu.
Limity wejścia i wyjścia
Wersja preview obsługuje tylko wiadomości tekstowe, maksymalnie 10 000 wiadomości i 64 narzędzia. Limit wyjścia wynosi od 1 do 16 384 tokenów, domyślnie 2048. Użyj max_tokens albo max_completion_tokens, nie obu naraz. W wersji preview nie ma dodatkowego limitu tokenów na wejściu. Dostawca egzekwuje okno kontekstu wybranego modelu. Treść żądania HTTP jest ograniczona do 16 MB i potrzebny jest plan z zapasem w limitach albo wystarczające środki prepaid na rezerwację dla zapytania. Obsługiwane jest tylko jedno uzupełnienie (completion) na zapytanie.
Plany, środki i rozliczenia
W planie każde zapytanie wlicza się do limitów 5-godzinnego, tygodniowego i miesięcznego, liczonych według stawek za tokeny. Gdy limit zostanie osiągnięty albo nie masz planu, zapytania korzystają ze środków prepaid: przed inferencją rezerwują środki na podstawie ostrożnie oszacowanego rozmiaru wejścia i maksymalnego żądanego wyjścia, a ostateczna opłata wynika z raportowanego zużycia tokenów. Wejście z cache jest częścią wejścia i jest rozliczane po niższej stawce. Tokeny rozumowania są już wliczone w wyjście i nie są naliczane dwa razy.
Błędy i ponowienia
- 400
- Nieprawidłowe lub nieobsługiwane zapytanie. Sprawdź limity wiadomości i wyjścia.
- 401
- Brak klucza, klucz unieważniony lub nieaktywny.
- 403
account_suspended: konto powiązane z kluczem jest zawieszone. Skontaktuj się z pomocą.- 402
- Za mało dostępnych środków na rezerwację. Doładuj środki lub obniż limit wyjścia.
- 429
- Rate limit (domyślnie 120 zapytań na minutę na sieć i na klucz albo własny
key_rate_limitklucza), cztery zapytania już w toku,key_usage_limit: klucz osiągnął dzienny lub miesięczny limit użycia ustawiony dla niego w Settings → API keys, albousage_limit: limit twojego planu został osiągnięty, a nie masz środków prepaid.error.resets_at(czas Unix) i nagłówekRetry-Aftermówią, kiedy limit się odnowi. - 502
- Nie udało się potwierdzić odpowiedzi modelu ani użycia. Sprawdź konsolę, zanim spróbujesz ponownie.
- 503
- Inferencja lub inna wymagana usługa nie jest włączona.
Zgłaszając problem, zapisz nagłówek odpowiedzi X-Request-ID. Inferencja nie jest automatycznie ponawiana. Jeśli po rozłączeniu lub błędzie serwera nie da się potwierdzić użycia, rezerwacja pozostaje oczekująca przez 15 minut; potem jest rozliczana według ostrożnego oszacowania otrzymanego tekstu albo zwalniana bez opłat, jeśli nic nie zostało dostarczone. Zapytania bez streamingu kończą się po około 170 sekundach błędem 504 request_timeout; prompt jest wtedy naliczany szacunkowo, więc przy długich odpowiedziach używaj streamingu. Ponowienie to nowe zapytanie i może wygenerować dodatkowe użycie.
Dane przetwarzane przez bramkę
Zapytania są przekazywane do dostawcy inferencji. Lokalny rejestr użycia przechowuje ID zapytań, znaczniki czasu, aliasy modeli, liczbę tokenów i opłaty; nie przechowuje treści promptów ani odpowiedzi. Klucze API klientów są przechowywane jako hashe. Sposób przetwarzania danych po stronie dostawcy i obowiązujące warunki usług musisz ocenić pod kątem swojego zastosowania; nie deklarujemy zero-retention end-to-end.