Verbinde einen Chat-Completions-Client für Text mit Ablitron. Registriere dich in der Konsole und lade Guthaben auf, um das Gateway zu nutzen.
Modelle
ablitron-pro (1M Token Kontext, basiert auf einem modifizierten GLM-5.3) und ablitron-core (256K Token Kontext, halber Preis) sind abliterierte Modelle. Das sind Servicenamen und keine Behauptung, dass Ablitron das zugrunde liegende Modell trainiert hat. Die Coding-Qualität muss noch gebenchmarkt werden.
1. API-Key erstellen
Öffne die Konsole, registriere dich und bestätige deine E-Mail-Adresse. Erstelle einen Key, kopiere ihn (er wird nur einmal angezeigt) und bewahre ihn in deiner Serverumgebung auf. Keys lassen sich im selben Bereich widerrufen. Lade Prepaid-Guthaben auf oder wähle ein Monatsabo.
2. Request senden
Base-URL für Produktion: https://ablitron.com/v1. Für die lokale Entwicklung nutze http://localhost:4174/v1. Speichere deinen Key in ABLITRON_API_KEY.
curl https://ablitron.com/v1/chat/completions \
-H "Authorization: Bearer $ABLITRON_API_KEY" \
-H "Content-Type: application/json" \
-d '{"model":"ablitron-core","messages":[{"role":"user","content":"Write a Python binary search."}],"max_tokens":2048}'
3. Streamen oder Tools aufrufen
Füge "stream": true hinzu, um Server-Sent Events mit Completion-Chunks, der finalen Nutzung und einem [DONE]-Marker zu erhalten. Funktionsdefinitionen gehören in das tools-Array; gib Tool-Ergebnisse in Nachrichten mit der Rolle tool und der passenden tool_call_id zurück. Der Client führt die Tools aus; Ablitron führt deinen Code nicht aus.
Eingabe- und Ausgabelimits
Die Preview unterstützt nur Textnachrichten, höchstens 10.000 Nachrichten und 64 Tools. Das Ausgabelimit liegt bei 1–16.384 Token, Standard 2.048. Nutze entweder max_tokens oder max_completion_tokens, nicht beides. Für die Eingabe gibt es in der Preview keine zusätzliche Token-Obergrenze. Der Anbieter setzt das Kontextfenster des gewählten Modells durch. HTTP-Request-Bodys sind auf 16 MB begrenzt, und du brauchst einen Plan mit Spielraum in seinen Limits oder genug Prepaid-Guthaben für die Reservierung des Requests. Pro Request wird nur eine Completion unterstützt.
Pläne, Guthaben und Abrechnung
Mit einem Plan zählt jeder Request auf dessen 5-Stunden-, Wochen- und Monatslimits, berechnet zu den Token-Preisen. Ist ein Limit erreicht oder hast du keinen Plan, nutzen Requests Prepaid-Guthaben: Sie reservieren vor der Inferenz Guthaben – auf Basis einer konservativ angesetzten Eingabegröße und der maximal angeforderten Ausgabe –, und abgerechnet wird am Ende die gemeldete Token-Nutzung. Gecachte Eingabe ist Teil der Eingabe und wird zum niedrigeren Satz berechnet. Reasoning-Tokens sind bereits in der Ausgabe enthalten und werden nicht doppelt berechnet.
Fehler und Wiederholungen
- 400
- Ungültiger oder nicht unterstützter Request. Prüfe die Limits für Nachrichten und Ausgabe.
- 401
- Key fehlt, wurde widerrufen oder ist inaktiv.
- 403
account_suspended: Das Konto hinter dem Key ist gesperrt. Wende dich an den Support.- 402
- Nicht genug verfügbares Guthaben für die Reservierung. Lade Guthaben auf oder senke das Ausgabelimit.
- 429
- Rate Limit (standardmäßig 120 Requests pro Minute pro Netzwerk und pro Key, oder das eigene
key_rate_limitdes Keys), bereits vier laufende Requests,key_usage_limit: Der Key hat das tägliche oder monatliche Nutzungslimit erreicht, das unter Settings → API keys für ihn festgelegt ist, oderusage_limit: Das Limit deines Plans ist erreicht und du hast kein Prepaid-Guthaben.error.resets_at(Unix-Zeit) und der HeaderRetry-Aftergeben an, wann es sich erneuert. - 502
- Modellantwort oder Nutzung konnte nicht bestätigt werden. Prüfe deine Konsole, bevor du es erneut versuchst.
- 503
- Die Inferenz oder ein anderer benötigter Dienst ist nicht aktiviert.
Speichere den Response-Header X-Request-ID, wenn du ein Problem meldest. Die Inferenz wird nicht automatisch wiederholt. Lässt sich die Nutzung nach einem Verbindungsabbruch oder Serverfehler nicht bestätigen, bleibt die Reservierung 15 Minuten offen; danach wird sie anhand einer konservativen Schätzung des empfangenen Textes abgerechnet oder kostenlos freigegeben, wenn nichts geliefert wurde. Requests ohne Streaming enden nach etwa 170 Sekunden mit 504 request_timeout; der Prompt wird geschätzt berechnet, also nutze Streaming für lange Antworten. Ein Retry ist ein neuer Request und kann zusätzliche Nutzung verursachen.
Vom Gateway verarbeitete Daten
Requests werden an einen Inferenzanbieter weitergeleitet. Das lokale Nutzungsprotokoll speichert Request-IDs, Zeitstempel, Modell-Aliase, Token-Zahlen und Kosten; Prompt- oder Ausgabetext speichert es nicht. API-Keys von Kunden werden als Hashes gespeichert. Wie der Anbieter Daten verarbeitet und welche Nutzungsbedingungen gelten, musst du für deinen Anwendungsfall prüfen; eine durchgängige Zero-Retention wird nicht zugesichert.