Agent Desktop/Work with your agent/Modelle auswählen und konfigurieren
Modelle auswählen und konfigurieren
Fügen Sie lokale Laufzeiten oder Online-Anbieter hinzu, konfigurieren Sie ein Modell und wählen Sie, welches Modell auf die einzelnen Chats antwortet.
Unter Models legen Sie fest, wie Ihr Agent denkt. Agent Desktop unterstützt lokale Laufzeiten und Online-Anbieter, sodass Sie für jede Aufgabe Datenschutz, Fähigkeiten und Kosten abwägen können.
Models
Connect providers, enable models, and choose the model agents use.
Einen Anbieter hinzufügen
Wählen Sie Add provider und führen Sie die drei Schritte aus:
- Choose Provider: Wählen Sie eine Anbieter-Kachel aus
- Configure Connection: Legen Sie den Anzeigenamen, die Base URL, bei Bedarf den API-Schlüssel und das API-Format fest
- Add Model: Wählen Sie erkannte lokale Modelle aus oder geben Sie manuell eine Modell-ID ein
Die Anbietergalerie umfasst OpenRouter, Ollama, OpenAI, Anthropic, DeepSeek, Google Gemini, xAI, Z.ai, Qwen, Moonshot AI, Hugging Face und Custom.
Lokale Modelle
Für Ollama und kompatible lokale Laufzeiten kann Agent Desktop nach verfügbaren Modellen suchen. Wählen Sie die Modelle aus, die Sie aktivieren möchten. Wenn kein Modell gefunden wird, starten Sie die Laufzeit und verwenden Sie erneut Discover local models.
Lokale Anbieter verwenden lokale Endpunkte. Für eine lokale Laufzeit benötigt die App keinen Cloud-API-Schlüssel.
Online-Anbieter
Geben Sie bei einem Online-Anbieter die Anbieter-URL ein und fügen Sie eine Modell-ID hinzu. Das API-Format kann je nach Anbieter Responses, Chat Completions oder Messages sein. Die App speichert API-Schlüssel sicher und zeigt sie nicht in der Chat-Oberfläche an.
Ein Anbieter kann bereits vorhanden sein, bevor Sie ein Modell hinzufügen. Ein Chat benötigt jedoch mindestens ein aktiviertes Modell, um zu antworten.
Ein Modell konfigurieren
Legen Sie Modell-ID, Anzeigenamen, Kontextfenster und Kosteninformationen fest, wenn der Anbieter dies verlangt. Später können Sie Modelle über den Anbieter-Editor hinzufügen, entfernen, aktivieren oder deaktivieren.
Ein Modell im Chat auswählen
Der Modellauswahlschalter im Canvas-Composer wählt das Modell für den aktuellen Chat. Wenn Sie die Auswahl ändern, wird Ihre Unterhaltung weder gelöscht noch in einen anderen Space verschoben.
Embeddings
Die Seitenleiste Models enthält einen separaten Eintrag für Embeddings. Verwenden Sie ihn, wenn Sie die Memory-Suche des Arbeitsbereichs konfigurieren möchten. Die Embedding-Suche kann einen authentifizierten Vinkius-Dienst verwenden, auch wenn das Modell, das Ihre Antwort schreibt, lokal ist.