Embedding-Funktionen implementieren - Entwicklerhandbuch

Ein Embedding ist eine vektorisierte numerische Darstellung von Daten, bei der die Beziehung zwischen verschiedenen Informationsstücken durch messbare Distanzen erfasst wird. Diese Embeddings werden häufig in Anwendungen wie Empfehlungssystemen, Klassifizierung und Suche verwendet.

E5-Mistral-7B-Instruct

• Modell: E5-Mistral-7B-Instruct
• Beschreibung: Hochwertiges mehrsprachiges Embedding-Modell basierend auf Mistral 7B. Hervorragend geeignet für semantische Ähnlichkeit, Retrieval und Klassifizierungsaufgaben in mehreren Sprachen.
• Modell-ID: E5-Mistral-7B-Instruct
• Kontextlänge: 4.096 Tokens
• Embedding-Dimensionen: 4.096
• Unterstützte Sprachen: Englisch, Deutsch, Französisch, Italienisch, Portugiesisch, Hindi, Spanisch, Thai

Für Einrichtung und Integration:

1. Holen Sie sich einen API-Schlüssel von der Seite API-Schlüssel und URLs.
2. Überprüfen Sie Beispielimplementierungen in der Dokumentation.
3. Generieren Sie Embeddings mit den bereitgestellten Beispielen.
4. Integrieren Sie Embeddings in Ihre Anwendungs-Workflows.

Für eine detaillierte Aufschlüsselung der verfügbaren Parameter siehe die API-Referenz für den Embedding-Endpunkt.

Embeddings generieren

Die Infercom Embeddings-API ist für die nahtlose Integration in bestehende Anwendungen konzipiert und folgt der Struktur der OpenAI Embeddings API, was Migration und Adoption vereinfacht.

Das Modell nimmt Text als Eingabe entgegen und gibt einen Vektor von Gleitkommazahlen aus, der für Aufgaben wie Ähnlichkeitssuchen verwendet werden kann.

Ein einzelnes Embedding generieren

Um ein Embedding für einen einzelnen Eingabetext zu generieren, verwenden Sie client.embeddings.create() mit dem Modellnamen und dem Eingabestring.

Beispiel

Python (SambaNova)

from sambanova import SambaNova

client = SambaNova(
    base_url="https://api.infercom.ai/v1",
    api_key="ihr-infercom-api-schluessel",
)

response = client.embeddings.create(
    model="E5-Mistral-7B-Instruct",
    input="The quick brown fox jumps over the lazy dog"
)

print(response)

Python (OpenAI)

from openai import OpenAI

client = OpenAI(
    base_url="https://api.infercom.ai/v1",
    api_key="ihr-infercom-api-schluessel",
)

response = client.embeddings.create(
    model="E5-Mistral-7B-Instruct",
    input="The quick brown fox jumps over the lazy dog"
)

print(response)

Beispielantwort

{
  "object": "list",
  "data": [
    {
      "object": "embedding",
      "embedding": [0.002843, -0.017531, ..., 0.012934],
      "index": 0
    }
  ],
  "model": "E5-Mistral-7B-Instruct",
  "usage": {
    "prompt_tokens": 10,
    "total_tokens": 10
  }
}

Mehrere Embeddings generieren

Um Embeddings für mehrere Eingaben in einer einzigen Anfrage zu generieren, übergeben Sie ein Array von Eingabestrings an den Parameter input.

Beispiel

Python (SambaNova)

from sambanova import SambaNova

client = SambaNova(
    base_url="https://api.infercom.ai/v1",
    api_key="ihr-infercom-api-schluessel",
)

response = client.embeddings.create(
    model="E5-Mistral-7B-Instruct",
    input=[
        "Our solar system orbits the Milky Way galaxy at about 515,000 mph",
        "Jupiter's Great Red Spot is a storm that has been raging for at least 350 years."
    ]
)

print(response)

Python (OpenAI)

from openai import OpenAI

client = OpenAI(
    base_url="https://api.infercom.ai/v1",
    api_key="ihr-infercom-api-schluessel",
)

response = client.embeddings.create(
    model="E5-Mistral-7B-Instruct",
    input=[
        "Our solar system orbits the Milky Way galaxy at about 515,000 mph",
        "Jupiter's Great Red Spot is a storm that has been raging for at least 350 years."
    ]
)

print(response)

Beispielantwort

{
  "model": "E5-Mistral-7B-Instruct",
  "object": "list",
  "data": [
    {
      "index": 0,
      "object": "embedding",
      "embedding": [0.2633975, 0.13856208, ..., 0.04331574]
    },
    {
      "index": 1,
      "object": "embedding",
      "embedding": [-0.14496337, 0.21044481, ..., -0.16187587]
    }
  ]
}