Skip to main content

​
LM Studio Embeddings konfigurieren

LM Studio kann neben Sprachmodellen auch Embedding-Modelle über seine OpenAI-kompatible API bereitstellen. Ihre Administration betreibt den Modellserver; Novaplan AI verbindet sich mit dessen erreichbarem Endpoint. Die LM-Studio-Anleitung für Sprachmodelle beschreibt die allgemeinen Vorbereitungen.

​
Vorbereitungen

Laden Sie in LM Studio ein Embedding-Modell, beispielsweise nomic-ai/nomic-embed-text-v1.5-GGUF, starten Sie den Server und notieren Sie seine Netzwerkadresse und die exakt angebotene Modell-ID. Das Modell muss auf dem Server geladen und für Novaplan AI erreichbar sein.

​
Erforderliche Angaben

host.docker.internal ist ein mögliches Ziel, wenn LM Studio auf dem Host einer passend konfigurierten Containerumgebung läuft. Für andere Umgebungen tragen Sie die tatsächlich erreichbare Adresse ein.

​
Optionale Angaben

  • API Key: LM Studio selbst prüft normalerweise keinen Schlüssel. Das Feld bleibt leer, außer ein vorgeschalteter Proxy verlangt einen.
  • Model Friendly Name: Anzeigename; ohne Eintrag wird der Modellname verwendet.
  • Dimensions: Vektordimensionen des Modells, mit denen Novaplan AI die Vektorsammlung anlegt.
  • Is Multimodal: Nur für Modelle mit Bild- und Texteinbettung aktivieren; standardmäßig ausgeschaltet.
Nach einem Wechsel des Embedding-Modells oder seiner Dimensionen müssen bereits indexierte Inhalte neu indexiert werden. Bei Verbindungsfehlern prüfen Sie, ob der LM-Studio-Server gestartet und über die angegebene Adresse erreichbar ist. Bei Model not found vergleichen Sie die ID mit der Serveransicht beziehungsweise /v1/models. Novaplan Support hilft bei der Anbindung.