Підключіть до Ablitron текстовий клієнт chat completions. Зареєструйтеся в консолі й поповніть баланс, щоб користуватися шлюзом.
Моделі
ablitron-pro (контекст 1M токенів, на основі модифікованої GLM-5.3) і ablitron-core (контекст 256K токенів, удвічі дешевша) — аблітеровані моделі. Це назви сервісу, а не твердження, що Ablitron натренував базову модель. Якість програмування ще треба перевірити бенчмарками.
1. Створіть API-ключ
Відкрийте консоль, зареєструйтеся й підтвердьте email. Створіть ключ, скопіюйте його (він показується лише раз) і зберігайте в середовищі сервера. Ключі можна відкликати в тій самій панелі. Поповніть баланс або оберіть щомісячну підписку.
2. Надішліть запит
Base URL для продакшну: https://ablitron.com/v1. Для локальної розробки використовуйте http://localhost:4174/v1. Зберігайте ключ у ABLITRON_API_KEY.
curl https://ablitron.com/v1/chat/completions \
-H "Authorization: Bearer $ABLITRON_API_KEY" \
-H "Content-Type: application/json" \
-d '{"model":"ablitron-core","messages":[{"role":"user","content":"Write a Python binary search."}],"max_tokens":2048}'
3. Стримінг і виклики інструментів
Додайте "stream": true, щоб отримувати server-sent events із фрагментами відповіді, підсумковим використанням і маркером [DONE]. Визначення функцій передаються в масиві tools; повертайте результати інструментів у повідомленнях з роллю tool і відповідним tool_call_id. Інструменти виконує клієнт; Ablitron не виконує ваш код.
Ліміти вводу й виводу
Прев’ю підтримує лише текстові повідомлення: щонайбільше 10 000 повідомлень і 64 інструменти. Ліміт виводу — 1–16 384 токени, за замовчуванням 2048. Використовуйте або max_tokens, або max_completion_tokens, але не обидва. Додаткового ліміту токенів на ввід у прев’ю немає. Провайдер застосовує контекстне вікно вибраної моделі. Тіло HTTP-запиту обмежене 16 МБ; також потрібен план, у лімітах якого є запас, або достатній передплачений баланс для резервування запиту. Підтримується лише одна відповідь (completion) на запит.
Плани, баланс і оплата
З планом кожен запит зараховується до 5-годинного, тижневого й місячного лімітів за тарифами за токени. Коли ліміт вичерпано або плану немає, запити використовують передплачений баланс: перед інференсом вони резервують суму, виходячи з консервативного розміру вводу й максимального запитаного виводу, а остаточне списання рахується за фактичним використанням токенів. Кешований ввід — частина вводу, що тарифікується за нижчою ставкою. Токени міркувань уже входять у вивід і двічі не тарифікуються.
Помилки та повторні спроби
- 400
- Недійсний або непідтримуваний запит. Перевірте повідомлення й ліміти виводу.
- 401
- Ключ відсутній, відкликаний або неактивний.
- 403
account_suspended: акаунт, якому належить ключ, призупинено. Зверніться в підтримку.- 402
- Недостатньо доступного балансу для резервування. Поповніть баланс або зменште ліміт виводу.
- 429
- Ліміт частоти (за замовчуванням 120 запитів на хвилину на мережу й на ключ або власний
key_rate_limitключа), уже чотири запити в обробці,key_usage_limit: ключ досяг денного чи місячного ліміту використання, заданого для нього в Settings → API keys, абоusage_limit: ліміт вашого плану вичерпано, а передплаченого балансу немає.error.resets_at(Unix-час) і заголовокRetry-Afterпоказують, коли ліміт оновиться. - 502
- Не вдалося підтвердити відповідь моделі або використання. Перевірте консоль, перш ніж повторювати запит.
- 503
- Інференс або інший потрібний сервіс не ввімкнено.
Збережіть заголовок відповіді X-Request-ID, коли повідомляєте про проблему. Інференс автоматично не повторюється. Якщо після розриву з’єднання чи помилки сервера використання не вдається підтвердити, резерв лишається в очікуванні 15 хвилин; потім його закривають за консервативною оцінкою отриманого вами тексту або знімають без списання, якщо нічого не було доставлено. Запити без стримінгу завершуються приблизно через 170 секунд із 504 request_timeout; промпт тарифікується за оцінкою, тож для довгих відповідей використовуйте стримінг. Повторна спроба — це новий запит, і вона може спричинити додаткове використання.
Дані, які обробляє шлюз
Запити пересилаються провайдеру інференсу. Локальний журнал використання зберігає ID запитів, часові мітки, аліаси моделей, кількість токенів і списання; текст промптів і відповідей він не зберігає. API-ключі клієнтів зберігаються як хеші. Обробку на боці провайдера й відповідні умови обслуговування слід перевірити для вашого сценарію; ми не заявляємо про наскрізне нульове зберігання.