Infercom Schnellstart-Anleitung für Entwickler

Beginnen Sie in nur wenigen Minuten mit der Verwendung der Infercom API.

1. Holen Sie sich Ihren API-Schlüssel.

   Um einen API-Schlüssel zu generieren, gehen Sie zur Seite API-Schlüssel und URLs. Achten Sie beim Generieren von API-Schlüsseln darauf, diese sicher zu speichern, da sie später nicht mehr eingesehen werden können.

   Hinweis

   Sie können bis zu 25 API-Schlüssel generieren und verwenden.

2. Wählen Sie ein Modell.

   Infercom Inference Service-Entwickler können die verfügbaren Modelle und Details auf der Seite Infercom Inference Service Modelle einsehen.

   Tipp

   Wir verwenden MiniMax-M2.7 als Beispiel für den Rest dieser Anleitung.

3. Senden Sie eine API-Anfrage.

   Sie können eine Inferenz-Anfrage auf verschiedene Arten senden. Sehen Sie sich zwei Beispiele unten an:

   • SambaNova SDK - Verwenden Sie JavaScript oder Python für eine flexiblere Integration.
   • OpenAI Client-Bibliothek – Verwenden Sie JavaScript oder Python für eine flexiblere Integration.
   • CURL-Befehl – Senden Sie eine Anfrage direkt von der Befehlszeile aus.

SambaNova SDK

Wählen Sie zunächst Ihre bevorzugte Programmiersprache. Öffnen Sie dann ein Terminal und führen Sie den Befehl aus, um das SambaNova SDK zu installieren.

Javascript

// Stellen Sie sicher, dass Node.js installiert ist.
npm install sambanova

Python

# Stellen Sie sicher, dass Python3 und pip installiert sind
pip install sambanova

Kopieren Sie als Nächstes den folgenden Code in eine neue Datei.

hello-world.js

import SambaNova from "sambanova";

const client = new SambaNova({
  baseURL: "https://api.infercom.ai/v1",
  apiKey: "ihr-infercom-api-schluessel",
});

const chatCompletion = await client.chat.completions.create({
  messages: [
    { role: "system", content: "Beantworte die Frage in ein paar Sätzen." },
    { role: "user", content: "Erzähle mir eine fröhliche Geschichte" },
  ],
  model: "MiniMax-M2.7",
});

console.log(chatCompletion.choices[0].message.content);

hello_world.py

from sambanova import SambaNova

client = SambaNova(
    base_url="https://api.infercom.ai/v1",
    api_key="ihr-infercom-api-schluessel"
)

completion = client.chat.completions.create(
  model="MiniMax-M2.7",
  messages = [
      {"role": "system", "content": "Beantworte die Frage in ein paar Sätzen."},
      {"role": "user", "content": "Erzähle mir eine fröhliche Geschichte"}
    ]
)

print(completion.choices[0].message.content)

Ersetzen Sie nach dem Kopieren des Codes in die Datei den Platzhalter "ihr-infercom-api-schluessel" durch Ihren API-Schlüssel. Führen Sie dann die Datei in einem Terminal mit dem unten gezeigten Befehl aus.

Javascript

node hello-world.js

Python

python hello_world.py

Nach dem Ausführen des Programms sollten Sie eine Ausgabe ähnlich dem unten gezeigten Beispiel sehen.

Hier ist eine fröhliche Geschichte: Eines Tages fand ein kleines Mädchen namens Sophie einen verlorenen Welpen in ihrer Nachbarschaft und beschloss, ihn mit nach Hause zu nehmen, um sich um ihn zu kümmern. Während sie den Welpen gesund pflegte, nannte sie ihn Max und die beiden wurden unzertrennliche beste Freunde, die jeden Tag auf Abenteuer gingen und zusammen spielten.

OpenAI Client-Bibliothek

Wählen Sie zunächst Ihre bevorzugte Programmiersprache. Öffnen Sie dann ein Terminalfenster und führen Sie den Befehl aus, um die OpenAI-Bibliothek zu installieren.

Javascript

// Stellen Sie sicher, dass Node.js installiert ist.
npm install openai

Python

# Stellen Sie sicher, dass Python3 und pip installiert sind
pip install openai

Kopieren Sie als Nächstes den folgenden Code in eine neue Datei.

hello-world.js

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.infercom.ai/v1",
  apiKey: "ihr-infercom-api-schluessel",
});

const chatCompletion = await client.chat.completions.create({
  messages: [
    { role: "system", content: "Beantworte die Frage in ein paar Sätzen." },
    { role: "user", content: "Erzähle mir eine fröhliche Geschichte" },
  ],
  model: "MiniMax-M2.7",
});

console.log(chatCompletion.choices[0].message.content);

hello_world.py

from openai import OpenAI

client = OpenAI(
    base_url="https://api.infercom.ai/v1",
    api_key="ihr-infercom-api-schluessel"
)

completion = client.chat.completions.create(
  model="MiniMax-M2.7",
  messages = [
      {"role": "system", "content": "Beantworte die Frage in ein paar Sätzen."},
      {"role": "user", "content": "Erzähle mir eine fröhliche Geschichte"}
    ]
)

print(completion.choices[0].message.content)

Ersetzen Sie nach dem Kopieren in die Datei den Platzhalter "ihr-infercom-api-schluessel" durch Ihren API-Schlüssel. Führen Sie dann die Datei mit dem unten stehenden Befehl in einem Terminalfenster aus.

Javascript

node hello-world.js

Python

python hello_world.py

Nach dem Ausführen des Programms sollten Sie nun eine Ausgabe ähnlich der unten gezeigten sehen.

Hier ist eine fröhliche Geschichte: Eines Tages fand ein kleines Mädchen namens Sophie einen verlorenen Welpen in ihrer Nachbarschaft und beschloss, ihn mit nach Hause zu nehmen, um sich um ihn zu kümmern. Während sie den Welpen gesund pflegte, nannte sie ihn Max und die beiden wurden unzertrennliche beste Freunde, die jeden Tag auf Abenteuer gingen und zusammen spielten.

CURL-Befehl

Führen Sie in einem Terminalfenster den CURL-Befehl aus, um Ihre erste Anfrage an die API zu senden.

export API_KEY="ihr-infercom-api-schluessel"
export URL="https://api.infercom.ai/v1/chat/completions"

curl -H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"messages": [
{"role": "system", "content": "Beantworte die Frage in ein paar Sätzen."},
{"role": "user", "content": "Erzähle mir eine fröhliche Geschichte"}
],
"stop": ["<|eot_id|>"],
"model": "MiniMax-M2.7",
"stream": true, "stream_options": {"include_usage": true}
}' \
-X POST $URL

Nächste Schritte

Nachdem Sie nun Anfragen an ein Modell senden können, eröffnet sich Ihnen das große Potenzial zur Entwicklung KI-gestützter Anwendungen. Lassen Sie sich inspirieren, was Sie entwickeln können, indem Sie unsere AI Starter Kits erkunden, eine Sammlung von Open-Source-Python-Projekten.