• MODELLE
  • ROUTING
  • CHAT
  • MENSCH

Modell-Anfragen mit Ihrer KI effizient routen

Verbinden Sie TrueFoundry mit Ihrem KI-Client, um über ein einziges Gateway auf verschiedene Modelle zuzugreifen. Sie müssen keine einzelnen Keys mehr verwalten, sondern leiten Anfragen einfach über eine einheitliche Schnittstelle.

Fragen Sie die KI zu dieser Seite

Kurzantwort

Wie kann ich Modelle wechseln, ohne API-Keys zu tauschen?

Sie nutzen einen einzigen Gateway-Endpunkt, der als Proxy für mehrere Basismodelle fungiert. Ihr KI-Client sendet Anfragen an diesen Gateway, der sie dann an das richtige Modell weiterleitet. Dieses Setup ermöglicht Ihnen folgende Ergebnisse.

Wo jede Anfrage landet.

Ergebnisse des Routings

Ihre KI nutzt das Gateway, um den Datenverkehr an die richtige Stelle zu leiten.

MODELLE

Modellverfügbarkeit

Die KI prüft, welche Modelle in Ihrem Gateway aktuell aktiv sind. Sie erhalten eine klare Liste der einsatzbereiten Modelle.

ROUTING

Ein einziger Endpunkt

Anfragen laufen über einen zentralen Einstiegspunkt. Sie vermeiden den Aufwand, bei jedem Modellwechsel verschiedene Keys aktualisieren zu müssen.

CHAT

Direkte Interaktion

Die KI führt Chat-Vervollständigungen über das Gateway aus. Sie erhalten die Antworten des gewählten Modells sofort.

MENSCH

Manuelle Key-Verwaltung

Die KI kann keine externen Provider-Konten erstellen oder verwalten. Die Beziehungen zu den Anbietern verbleiben in Ihrer Hand.

Der Ablauf

Was Ihre KI tut, wenn eine Anfrage eingeht.

Die KI übernimmt die Auswahl und Ausführung der Modelle für Sie.

  1. Modelle inventarisieren

    Die KI sucht nach den verfügbaren Modellen, die aktuell in Ihrem TrueFoundry-Gateway gehostet werden, um zu prüfen, welche nutzbar sind.

    truefoundry_list_gateway_models

  2. Ziel auswählen

    Basierend auf Ihren Anweisungen identifiziert die KI das spezifische Modell aus der Liste, das am besten zur Aufgabe passt.

    truefoundry_list_gateway_models

  3. Chat ausführen

    Die KI sendet Ihren Prompt an das Gateway, welches die Nachricht an das gewählte Modell weiterleitet.

    truefoundry_run_gateway_chat

  4. Antwort liefern

    Die KI empfängt die Ausgabe des Modells über das Gateway und stellt sie Ihnen bereit.

    truefoundry_run_gateway_chat

Probieren Sie es

Kopieren Sie diese Vorlagen zum Start.

Nutzen Sie diese Prompts, um die Interaktion mit Ihrem Gateway zu beginnen.

Startpunkte

Dies sind Vorlagen. Passen Sie die Modellnamen oder spezifischen Details an Ihre Bedürfnisse an.

TrueFoundry Connector

Alles bereit. Wählen Sie Ihren MCP-Client und folgen Sie den Einrichtungsschritten.

Connector-Linkhttps://edge.vinkius.com/vk_preview_f00nYwHsDWFv4EirgRZbXCnvKYC62empWE9xeumU/mcp

Claude Desktop

Folgen Sie den Schritten unten, um sich in Sekunden zu verbinden.

  1. 1In Claude Desktop, open Settings → Connectors.
  2. 2Click “Add custom connector” and paste the connector link above as the remote MCP server URL.
  3. 3Click Add and start a new chat — TrueFoundry capabilities are ready to use.
Konfiguration · claude_desktop_config.jsonKopieren
{
  "mcpServers": {
    "truefoundry-mcp": {
      "url": "https://edge.vinkius.com/vk_preview_f00nYwHsDWFv4EirgRZbXCnvKYC62empWE9xeumU/mcp"
    }
  }
}
In den Chat kopieren04

  • Liste alle Modelle auf, die aktuell in meinem TrueFoundry-Gateway verfügbar sind.

  • Führe eine Chat-Anfrage mit dem Modell 'llama-3-70b' über das Gateway aus.

  • Welche Modelle kann ich jetzt nutzen, um diesen Text zu verarbeiten?

  • Sende diesen Prompt an das leistungsfähigste verfügbare Modell in meinem Gateway.

  • Claude
  • ChatGPT
  • Cursor
  • VS Code
  • Windsurf
  • Claude Code
  • JetBrains
  • Cline

Starten Sie hier

Einmal TrueFoundry verbinden, dann fragen.

Folgen Sie dem Link, um Ihr Konto zu verbinden. Ihre Zugangsdaten bleiben verschlüsselt, sodass Sie sofort Anfragen über Ihre KI routen können.

TrueFoundry mit Ihrer KI verbinden

FAQ

So funktioniert das Routing

  • 01

    Kann die KI neue Modelle zu meinem Gateway hinzufügen?

    Nein. Die KI kann nur die Modelle auflisten und nutzen, die Sie bereits in TrueFoundry konfiguriert haben.

  • 02

    Muss ich weiterhin eigene OpenAI- oder Anthropic-Keys bereitstellen?

    Nein. Sobald das Gateway in TrueFoundry eingerichtet ist, nutzt die KI den Gateway-Endpunkt anstelle der einzelnen Provider-Keys.

  • 03

    Kann die KI ein Modell aus meiner Liste löschen?

    Nein. Die KI hat keine Berechtigung, Ihre Gateway-Konfiguration zu löschen oder zu ändern.

  • 04

    Woher weiß die KI, welche Modelle online sind?

    Die KI nutzt das Tool, um die aktuelle Liste der aktiven Modelle direkt von Ihrem Gateway abzurufen.

  • 05

    Kann die KI das Modell mitten in einem Gespräch wechseln?

    Ja. Sie können der KI einfach sagen, dass sie für die nächste Anfrage ein anderes Modell aus der verfügbaren Liste nutzen soll.

  • Weitere Fragen zu TrueFoundry? Die Connector-Seite liefert Antworten. Alle Funktionen des TrueFoundry Connectors ansehen

Verbinde TrueFoundry mit Claude, Cursor, ChatGPT & mehr