Skip to main content

​
Ollama konfigurieren

Konfigurationsansicht für Ollama Ollama stellt Modelle über eine API bereit. Novaplan AI kann sich mit einer für den verwalteten Workspace erreichbaren Ollama-Instanz verbinden. Der Modellserver kann von Ihrer Organisation oder Novaplan betrieben werden. Stimmen Sie Standort, Netzwerkzugriff und Datenverarbeitung vor der Einrichtung mit Novaplan ab.

​
Vor der Verbindung

Auf dem Modellserver muss Ollama installiert sein, das gewünschte Modell muss heruntergeladen und der Dienst gestartet sein. Ein Administrationsbeispiel:
Prüfen Sie mit ollama list, welche Modelle bereitstehen. Der Server muss von der Novaplan-AI-Umgebung aus erreichbar sein; ein Dienst, der nur auf localhost des Modellservers lauscht, ist von einem anderen Host nicht automatisch erreichbar.

​
Angaben in Novaplan AI

Ollama verwendet standardmäßig Port 11434. host.docker.internal ist nur dann ein geeignetes Ziel, wenn dieser Name aus dem verwalteten Workspace auf den richtigen Modellserver zeigt. localhost auf Ihrem eigenen Computer ist von dort nicht automatisch erreichbar. Lassen Sie die tatsächliche Endpoint-Adresse von Novaplan prüfen.

​
Modell hinzufügen

  1. Klicken Sie auf der Ollama-Anbieterkarte auf Configure.
  2. Geben Sie den Model Name ein und passen Sie bei Bedarf Endpoint URL und API Key an.
  3. Setzen Sie Multimodal und Reasoning nur passend zu den Fähigkeiten des Modells.
  4. Klicken Sie auf Add Model.
Nur Model Name ist erforderlich. Bei Verbindungsfehlern prüfen Sie den laufenden Dienst, die Endpoint-Adresse, Firewall und Netzwerkerreichbarkeit aus dem Workspace. Bei Model not found prüfen Sie mit ollama list auf dem Modellserver, ob die exakte Modell-ID geladen ist. Bei Speichermangel oder langsamer Antwort helfen gegebenenfalls ein kleineres oder quantisiertes Modell beziehungsweise ein geeigneter GPU-Server. Ein selbst betriebener Ollama-Server hat keine nutzungsabhängige lokale API-Gebühr; Rechenleistung, Speicher, Netzwerk, Novaplan-Dienst und gegebenenfalls ein gehosteter Anbieter können dennoch Kosten oder Limits verursachen. Weitere Informationen bietet die Ollama-Dokumentation; Novaplan Support hilft bei der Anbindung.