Zum Hauptinhalt springen
SambaNova bietet SDKs für Python und JavaScript/TypeScript, die eine einfache Interaktion mit der Infercom REST API ermöglichen. Der SambaNova Python Client funktioniert mit Python 3.8 und höher, während die JavaScript/TypeScript Version für serverseitige Umgebungen entwickelt wurde. Beide Bibliotheken verfügen über integrierte Typdefinitionen für Anfrageparameter und Antwortfelder und unterstützen sowohl synchrone als auch asynchrone Nutzung.

​
Anwendungsbeispiel

Wählen Sie zunächst Ihre bevorzugte Programmiersprache. Öffnen Sie dann ein Terminalfenster und installieren Sie das SambaNova SDK. 
//stellen Sie sicher, dass Node.js installiert ist.
npm install sambanova
Kopieren Sie als Nächstes den folgenden Code in eine neue Datei. 
import SambaNova from "sambanova";

const client = new SambaNova({
  baseURL: "ihre-infercom-basis-url",
  apiKey: "ihr-infercom-api-schluessel",
});

const chatCompletion = await client.chat.completions.create({
  messages: [
    { role: "system", content: "Beantworte die Frage in ein paar Sätzen." },
    { role: "user", content: "Erzähle mir eine glückliche Geschichte" },
  ],
  model: "Meta-Llama-3.3-70B-Instruct",
});

console.log(chatCompletion.choices[0].message.content);
Ersetzen Sie nach dem Kopieren in die Datei die String-Felder "ihre-infercom-basis-url" und "ihr-infercom-api-schluessel" durch Ihre Basis-URL und API-Schlüssel-Werte. Führen Sie dann die Datei mit dem untenstehenden Befehl in einem Terminalfenster aus. 
node hello-world.js
Nach dem Ausführen des Programms sollten Sie eine Ausgabe ähnlich der folgenden sehen. 
{
  "id": "d89243f2-de68-416f-85c6-27c244cf9c7f",
  "choices": [
    {
      "finish_reason": "stop",
      "index": 0,
      "message": {
        "content": "Eines Tages fand ein kleines Mädchen namens Sophie einen verlorenen Welpen in ihrer Nachbarschaft und beschloss, sich um ihn zu kümmern, bis sie den Besitzer finden konnte. Während sie sich um den Welpen namens Max kümmerte, bildeten sie eine unzertrennliche Bindung, und als der Besitzer schließlich gefunden wurde, waren sie Sophie so dankbar, dass sie sie baten, Max' ständige Hundesitterin zu werden, was Freude und Gesellschaft in Sophies Leben brachte.",
        "role": "assistant"
      },
      "logprobs": null
    }
  ],
  "created": 1759518870.892972,
  "model": "Meta-Llama-3.3-70B-Instruct",
  "object": "chat.completion",
  "system_fingerprint": "fastcoe",
  "usage": {
    "completion_tokens": 84,
    "prompt_tokens": 49,
    "total_tokens": 133,
    ...
    "stop_reason": "stop"
  }
}