Mit Ihrem dedizierten Endpunkt verbinden

Hinweis

Diese Seite beschreibt Dedicated Capacity. Die hier genannten Modelle sind mit einem API-Schlüssel der Inference API nur verfügbar, wenn sie auch im Katalog der Inference API stehen.

Basis-URL und API-Schlüssel

Ihre Bereitstellung hat eine eigene Basis-URL und eigene API-Schlüssel. Beides erhalten Sie von uns beim Onboarding.

Die Beispiele auf dieser Seite verwenden den Platzhalter https://<your-endpoint>/v1. Ersetzen Sie ihn durch die Basis-URL, die Sie von uns erhalten.

Eine Anfrage senden

Die API ist dieselbe OpenAI-kompatible API wie bei der Inference API. Ändern Sie die Basis-URL und den API-Schlüssel. Der restliche Code bleibt gleich.

Python

from openai import OpenAI

client = OpenAI(
    base_url="https://<your-endpoint>/v1",
    api_key="ihr-dedicated-api-schluessel"
)

completion = client.chat.completions.create(
  model="GLM-5.3",
  messages = [
      {"role": "system", "content": "Beantworte die Frage in ein paar Sätzen."},
      {"role": "user", "content": "Erzähl mir eine fröhliche Geschichte"}
    ]
)

print(completion.choices[0].message.content)

cURL

export API_KEY="ihr-dedicated-api-schluessel"
export URL="https://<your-endpoint>/v1/chat/completions"

curl -H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"messages": [
{"role": "system", "content": "Beantworte die Frage in ein paar Sätzen."},
{"role": "user", "content": "Erzähl mir eine fröhliche Geschichte"}
],
"model": "GLM-5.3"
}' \
-X POST $URL

Verwenden Sie die Modell-IDs Ihrer Bereitstellung. Siehe Unterstützte Modelle.

Funktionen

Diese Anleitungen gelten unverändert. Verwenden Sie Ihre eigene Basis-URL und ein Modell Ihrer Bereitstellung.

• Textgenerierung
• Function Calling und JSON-Modus, einschließlich strukturierter Ausgabe
• Vision
• Reasoning
• API-Referenz

Eine Funktion arbeitet nur mit einem Modell, das sie unterstützt. Vision zum Beispiel braucht ein Modell, das Bilder annimmt.

Ratenbegrenzungen

Die Ratenbegrenzungen Ihrer Bereitstellung vereinbaren wir mit Ihnen. Sie hängen nicht vom Tier ab. Die Tier-Tabellen unter Ratenbegrenzungen gelten nur für die Inference API.