Zum Hauptinhalt springen
Ein Embedding ist eine vektorisierte numerische Darstellung von Daten, bei der die Beziehung zwischen verschiedenen Informationsstücken durch messbare Distanzen erfasst wird. Diese Embeddings werden häufig in Anwendungen wie Empfehlungssystemen, Klassifizierung und Suche verwendet. Das Mistral Embedding-Modell betreibt unser System und bietet hochwertige Vektordarstellungen für verschiedene Anwendungen. Für Einrichtung und Integration:
  1. Holen Sie sich einen API-Schlüssel von der Seite API-Schlüssel und URLs.
  2. Überprüfen Sie Beispielimplementierungen in der Dokumentation.
  3. Generieren Sie Embeddings mit den bereitgestellten Beispielen.
  4. Integrieren Sie Embeddings in Ihre Anwendungs-Workflows.
Für eine detaillierte Aufschlüsselung der verfügbaren Parameter siehe das API-Dokument für den Embedding-Endpunkt.

​
Embeddings generieren

Die Infercom Embeddings-API ist für die nahtlose Integration in bestehende Anwendungen konzipiert und folgt der Struktur der OpenAI Embeddings API, was Migration und Adoption vereinfacht. Das Modell nimmt Text als Eingabe entgegen und gibt einen Vektor von Gleitkommazahlen aus, der für Aufgaben wie Ähnlichkeitssuchen verwendet werden kann.

​
Ein einzelnes Embedding generieren

Um ein Embedding für einen einzelnen Eingabetext zu generieren, verwenden Sie client.embeddings.create() mit dem Modellnamen und dem Eingabestring.

​
Beispiel

from sambanova import SambaNova

client = SambaNova(
    base_url="ihre-infercom-basis-url",
    api_key="ihr-infercom-api-schluessel",
)

response = client.embeddings.create(
    model="E5-Mistral-7B-Instruct",
    input="The quick brown fox jumps over the lazy dog"
)

print(response)

​
Beispielantwort

{
  "object": "list",
  "data": [
    {
      "object": "embedding",
      "embedding": [0.002843, -0.017531, ..., 0.012934],
      "index": 0
    }
  ],
  "model": "E5-Mistral-7B-Instruct",
  "usage": {
    "prompt_tokens": 10,
    "total_tokens": 10
  }
}

​
Mehrere Embeddings generieren

Um Embeddings für mehrere Eingaben in einer einzigen Anfrage zu generieren, übergeben Sie ein Array von Eingabestrings an den Parameter input.

​
Beispiel

from sambanova import SambaNova

client = SambaNova(
    base_url="ihre-infercom-basis-url",
    api_key="ihr-infercom-api-schluessel",
)

response = client.embeddings.create(
    model="E5-Mistral-7B-Instruct",
    input=[
        "Our solar system orbits the Milky Way galaxy at about 515,000 mph",
        "Jupiter's Great Red Spot is a storm that has been raging for at least 350 years."
    ]
)

print(response)

​
Beispielantwort

{
  "model": "E5-Mistral-7B-Instruct",
  "object": "list",
  "data": [
    {
      "index": 0,
      "object": "embedding",
      "embedding": [0.2633975, 0.13856208, ..., 0.04331574]
    },
    {
      "index": 1,
      "object": "embedding",
      "embedding": [-0.14496337, 0.21044481, ..., -0.16187587]
    }
  ]
}