• TEXT
  • CHAT
  • MODELS
  • HUMAN

Modell-Inferenz mit Ihrem KI-Client ausführen

Verbinden Sie Together AI einmalig mit Ihrem Client. Danach können Sie Modell-Läufe und Chat-Sessions einfach per Textbefehl starten.

Fragen Sie die KI zu dieser Seite

Kurzantwort

Wie führe ich Modell-Inferenz mit meiner KI aus?

Sie nutzen Together AI, um Textvervollständigungen oder Chat-Anfragen an Open-Source-Modelle zu senden. Ihr Agent übernimmt die Arbeit und ruft die passenden Tools auf. Die Ergebnisse sehen Sie direkt in Ihrem Chat-Fenster.

Die Ergebnisse.

Wohin Ihre Anfragen geleitet werden.

Jeder Befehl führt zu einem dieser vier Zustände.

TEXT

Rohdaten

Die KI generiert Text basierend auf Ihren Prompts. Sie erhalten die Ausgabe direkt in Ihrer Benutzeroberfläche.

CHAT

Interaktive Sessions

Ihr Agent führt einen Dialog mit Ihnen. Das ermöglicht komplexe Konversationen mit Open-Source-Modellen.

MODELS

Modellauswahl

Sie sehen, welche Modelle einsatzbereit sind. So wählen Sie das richtige Werkzeug für Ihre Aufgabe.

HUMAN

Manuelle Prüfung

Die KI liefert die Antwort, aber Sie entscheiden über die Qualität. Sie behalten die volle Kontrolle.

Der Ablauf

Was Ihre KI tut, wenn ein Befehl eingeht.

Ihr Agent fungiert als Brücke zwischen Ihrem Chat-Fenster und der Together AI Infrastruktur.

  1. Verfügbarkeit prüfen

    Ihr Agent prüft die Liste der unterstützten Open-Source-Modelle, um sicherzustellen, dass das gewünschte Modell online ist.

    list_available_models

  2. Text generieren

    Bei einmaligen Aufgaben sendet der Agent Ihren Prompt, um einen Textabschnitt zu vervollständigen.

    text_completion

  3. Chat starten

    Bei Dialog-Aufgaben verwaltet der Agent den Kontext und den Verlauf, um ein Gespräch aufrechtzuerhalten.

    chat_completion

  4. Antwort liefern

    Der Agent empfängt die Modell-Ausgabe und zeigt sie Ihnen als normale Nachricht an.

    chat_completiontext_completion

Probieren Sie es

Kopieren Sie diese Beispiele.

Nutzen Sie diese Prompts, um die Verbindung sofort zu testen.

Startpunkte

Dies sind nur Beispiele. Ersetzen Sie den Text in Klammern durch Ihre eigenen Inhalte.

Together AI Connector

Alles bereit. Wählen Sie Ihren MCP-Client und folgen Sie den Einrichtungsschritten.

Connector-Linkhttps://edge.vinkius.com/vk_preview_uwxFbBTrWtpKdtNP0Ee38Zmxxir6fie6FBKXtn0o/mcp

Claude Desktop

Folgen Sie den Schritten unten, um sich in Sekunden zu verbinden.

  1. 1In Claude Desktop, open Settings → Connectors.
  2. 2Click “Add custom connector” and paste the connector link above as the remote MCP server URL.
  3. 3Click Add and start a new chat — Together AI capabilities are ready to use.
Konfiguration · claude_desktop_config.jsonKopieren
{
  "mcpServers": {
    "together-ai-mcp": {
      "url": "https://edge.vinkius.com/vk_preview_uwxFbBTrWtpKdtNP0Ee38Zmxxir6fie6FBKXtn0o/mcp"
    }
  }
}
In den Chat kopieren04

  • Liste alle Modelle auf, die über Together AI verfügbar sind.

  • Vervollständige diesen Satz: Die Zukunft von Open Source ist

  • Starte eine Chat-Session, um mit mir ein neues Projekt zu brainstormen.

  • Nutze Textvervollständigung, um diesen Absatz zusammenzufassen: [Text hier einfügen]

  • Claude
  • ChatGPT
  • Cursor
  • VS Code
  • Windsurf
  • Claude Code
  • JetBrains
  • Cline

Starten Sie hier

Einmal verbinden, dann fragen.

Klicken Sie auf den Link, um die Verbindung herzustellen. Ihre Zugangsdaten bleiben verschlüsselt und Sie können sofort in Ihrem Client mit Prompts arbeiten.

Together AI mit Ihrer KI verbinden

FAQ

Verhalten der Inferenz-Aufgaben.

  • 01

    Kann ich meine eigenen privaten Modelle nutzen?

    Nein. Sie können nur die Open-Source-Modelle nutzen, die über die Together AI Schnittstelle bereitgestellt werden.

  • 02

    Kann die KI meine Dateien löschen?

    Nein. Dieser MCP verfügt nur über Tools für Textvervollständigung und Chat. Er kann nicht auf Ihre lokalen Dateien zugreifen oder diese löschen.

  • 03

    Übernimmt die KI die Abrechnung?

    Nein. Sie verwalten Ihre Together AI Nutzung und die Abrechnung direkt über deren Plattform.

  • 04

    Kann ich sehen, welche Modelle online sind?

    Ja. Ihr Agent kann die verfügbaren Modelle prüfen, bevor Sie eine Aufgabe starten.

  • 05

    Wird sich die KI an meine vorherigen Chats erinnern?

    Die KI verwaltet den Chat-Kontext innerhalb einer Session, hat aber kein dauerhaftes Gedächtnis für vergangene Interaktionen, es sei denn, Sie stellen diesen Kontext bereit.

  • Weitere Fragen zu Together AI? Die Connector-Seite liefert Antworten. Alle Funktionen des Together AI Connectors ansehen

Verbinde Together AI mit Claude, Cursor, ChatGPT & mehr