Koppel een chat-completions-client voor tekst aan Ablitron. Registreer je in de console en vul je saldo aan om de gateway te gebruiken.
Modellen
ablitron-pro (context van 1M tokens, gebaseerd op een aangepaste GLM-5.3) en ablitron-core (context van 256K tokens, halve prijs) zijn abliterated modellen. Dit zijn servicenamen, geen beweringen dat Ablitron het onderliggende model heeft getraind. De codeerkwaliteit moet nog worden gebenchmarkt.
1. Maak een API-sleutel aan
Open de console, registreer je en verifieer je e-mailadres. Maak een sleutel aan, kopieer hem één keer en bewaar hem in je serveromgeving. Sleutels kun je in hetzelfde paneel intrekken. Voeg prepaid tegoed toe of kies een maandabonnement.
2. Stuur een request
Base URL voor productie: https://ablitron.com/v1. Gebruik voor lokale ontwikkeling http://localhost:4174/v1. Bewaar je sleutel in ABLITRON_API_KEY.
curl https://ablitron.com/v1/chat/completions \
-H "Authorization: Bearer $ABLITRON_API_KEY" \
-H "Content-Type: application/json" \
-d '{"model":"ablitron-core","messages":[{"role":"user","content":"Write a Python binary search."}],"max_tokens":2048}'
3. Streamen of tools aanroepen
Voeg "stream": true toe om server-sent events te ontvangen met completion-chunks, het uiteindelijke gebruik en een [DONE]-marker. Functiedefinities gebruiken de array tools; geef toolresultaten terug in berichten met de rol tool en de bijbehorende tool_call_id. De client voert de tools uit; Ablitron voert jouw code niet uit.
Invoer- en uitvoerlimieten
De preview ondersteunt alleen tekstberichten, maximaal 10.000 berichten en 64 tools. De uitvoerlimiet is 1–16.384 tokens, standaard 2.048. Gebruik max_tokens of max_completion_tokens, niet allebei. Er geldt in de preview geen extra tokenlimiet op invoer. De provider handhaaft het contextvenster van het gekozen model. HTTP-request-bodies zijn beperkt tot 16 MB, en je hebt een abonnement nodig dat nog ruimte heeft binnen zijn limieten, of genoeg prepaid tegoed voor de reservering van het request. Er wordt maar één completion per request ondersteund.
Abonnementen, tegoed en facturatie
Met een abonnement telt elk request mee voor de limieten per 5 uur, per week en per maand, gemeten tegen de tokentarieven. Is een limiet bereikt, of heb je geen abonnement, dan gebruiken requests prepaid tegoed: ze reserveren tegoed vóór de inferentie, op basis van een voorzichtige schatting van de invoer en de maximaal gevraagde uitvoer, en de definitieve afrekening gebruikt het gerapporteerde tokengebruik. Gecachte invoer is een deel van de invoer en wordt tegen het lagere tarief gerekend. Reasoning-tokens zitten al in de uitvoer en worden niet dubbel gerekend.
Fouten en nieuwe pogingen
- 400
- Ongeldig of niet-ondersteund request. Controleer de bericht- en uitvoerlimieten.
- 401
- Ontbrekende, ingetrokken of inactieve sleutel.
- 403
account_suspended: het account achter de sleutel is opgeschort. Neem contact op met support.- 402
- Onvoldoende beschikbaar tegoed voor de reservering. Voeg tegoed toe of verlaag de uitvoerlimiet.
- 429
- Rate limit (standaard 120 requests per minuut per netwerk en per sleutel, of de eigen
key_rate_limitvan de sleutel), al vier requests tegelijk bezig,key_usage_limit: de sleutel heeft de dagelijkse of maandelijkse gebruikslimiet bereikt die ervoor is ingesteld onder Instellingen → API-sleutels, ofusage_limit: de limiet van je abonnement is bereikt en je hebt geen prepaid tegoed.error.resets_at(Unix-tijd) en de headerRetry-Aftergeven aan wanneer de limiet vernieuwt. - 502
- Modelantwoord of gebruik kon niet worden bevestigd. Controleer je console voordat je het opnieuw probeert.
- 503
- Inferentie of een andere vereiste dienst is niet ingeschakeld.
Bewaar de response-header X-Request-ID als je een probleem meldt. Inferentie wordt niet automatisch opnieuw geprobeerd. Als het gebruik na een verbroken verbinding of serverfout niet kan worden bevestigd, blijft de reservering 15 minuten openstaan; daarna wordt die afgerekend op basis van een voorzichtige schatting van de ontvangen tekst, of kosteloos vrijgegeven als er niets is geleverd. Requests zonder streaming stoppen na ongeveer 170 seconden met 504 request_timeout; de prompt wordt op basis van een schatting gerekend, dus gebruik streaming voor lange antwoorden. Een nieuwe poging is een nieuw request en kan extra gebruik kosten.
Data die de gateway verwerkt
Requests worden doorgestuurd naar een inferentieprovider. Het lokale gebruiksregister slaat request-ID's, tijdstempels, modelaliassen, aantallen tokens en kosten op; het slaat geen prompt- of outputtekst op. API-sleutels van klanten worden als hash opgeslagen. Hoe de provider met data omgaat en welke servicevoorwaarden gelden, moet je voor jouw use case beoordelen; we claimen geen end-to-end zero retention.