• INFERENZ
  • INVENTAR
  • VALIDIERUNG
  • MENSCH

Modell-Vorhersagen mit Ihrer KI ausführen

Verbinden Sie Ihre KI mit Baseten, um Inferenz auf gehosteten Gewichten auszulösen. Sie können Payloads senden und Ergebnisse direkt im selben Chat erhalten.

Fragen Sie die KI zu dieser Seite

Kurzantwort

Wie kann ich Modell-Vorhersagen mit meiner KI ausführen?

Sie senden Daten-Payloads direkt an Ihre auf Baseten bereitgestellten Modelle. Ihre KI nutzt die Verbindung, um die Inferenz auszulösen und die Antwort des Modells in Ihr Chat-Interface zurückzugeben. So können Sie Gewichte testen und Ergebnisse validieren, ohne Ihren Client zu verlassen.

Die Ergebnisse Ihrer Anfragen

Wohin Ihre Daten fließen

Was passiert, nachdem Ihre KI mit Baseten interagiert hat.

INFERENZ

Live-Modellläufe

Ihre KI sendet Daten an die GPU. Sie erhalten die Vorhersage des Modells als Text oder strukturierte Daten zurück.

INVENTAR

Modell-Übersicht

Ihr Agent erkennt, welche Modelle gerade aktiv und einsatzbereit sind. Das hält Ihre Prompts präzise.

VALIDIERUNG

Output-Prüfung

Sie können Ihre KI sofort bitten zu prüfen, ob die Antwort des Modells Ihren spezifischen Anforderungen entspricht.

MENSCH

Manuelle Kontrolle

Sie entscheiden, ob die Vorhersage gut genug für Ihre Anwendung ist oder ob Sie den Input anpassen müssen.

Der Ablauf

Was Ihre KI tut, wenn die Anfrage eintrifft.

Die KI übernimmt die Kommunikation zwischen Ihrem Prompt und der GPU-Hardware.

  1. Verfügbare Modelle identifizieren

    Die KI prüft, welche spezifischen Modell-Endpoints aktuell bereitgestellt sind und für die Inferenz zur Verfügung stehen.

    list_models

  2. Payload formatieren

    Ihr Agent wandelt Ihre Anfrage in natürlicher Sprache in das spezifische JSON-Format um, das das Modell erwartet.

    predict

  3. Inferenz ausführen

    Die KI sendet die formatierten Daten an den Baseten-Endpoint, um die GPU-Workload zu starten.

    predict

  4. Ergebnis liefern

    Die KI empfängt den Roh-Output des Modells und präsentiert ihn Ihnen direkt im Chat.

    predict

Probieren Sie es

Kopieren Sie diese Beispiele zum Start.

Nutzen Sie diese Prompts, um die Interaktion mit Ihren Modellen zu beginnen.

Startpunkte

Passen Sie die Modellnamen und Datentypen an Ihren spezifischen Anwendungsfall an.

Baseten Connector

Alles bereit. Wählen Sie Ihren MCP-Client und folgen Sie den Einrichtungsschritten.

Connector-Linkhttps://edge.vinkius.com/vk_preview_Iok4x74580t8DfXgX0kQJnXTan6vttePrqZ5XRGU/mcp

Claude Desktop

Folgen Sie den Schritten unten, um sich in Sekunden zu verbinden.

  1. 1In Claude Desktop, open Settings → Connectors.
  2. 2Click “Add custom connector” and paste the connector link above as the remote MCP server URL.
  3. 3Click Add and start a new chat — Baseten capabilities are ready to use.
Konfiguration · claude_desktop_config.jsonKopieren
{
  "mcpServers": {
    "baseten-mcp": {
      "url": "https://edge.vinkius.com/vk_preview_Iok4x74580t8DfXgX0kQJnXTan6vttePrqZ5XRGU/mcp"
    }
  }
}
In den Chat kopieren04

  • Liste meine bereitgestellten Modelle auf, damit ich weiß, was ich nutzen kann.

  • Führe eine Vorhersage mit meinem Bildgenerierungs-Modell aus mit dieser Beschreibung: ein Sonnenuntergang über einer Neon-Stadt.

  • Prüfe mein Sentiment-Analyse-Modell mit diesem Text: 'Der Service war okay, aber das Essen war kalt.'

  • Welche Modelle stehen mir gerade zur Verfügung?

  • Claude
  • ChatGPT
  • Cursor
  • VS Code
  • Windsurf
  • Claude Code
  • JetBrains
  • Cline

Starten Sie hier

Einmal mit Baseten verbinden, dann fragen.

Sie müssen Ihr Konto nur einmal verknüpfen. Ihre Zugangsdaten bleiben verschlüsselt und Sie können sofort mit Vorhersagen beginnen.

Baseten mit Ihrer KI verbinden

FAQ

Häufige Fragen

  • 01

    Kann meine KI neue Modelle auf Baseten bereitstellen?

    Nein. Die KI kann nur mit Modellen interagieren, die bereits bereitgestellt sind und in Ihrem Konto gelistet werden.

  • 02

    Kann die KI meine GPU-Instanztypen ändern?

    Nein. Die KI kann nur Vorhersagen auf bestehenden Endpoints auslösen; sie kann Ihre Baseten-Infrastruktur oder Hardware-Einstellungen nicht ändern.

  • 03

    Woher weiß die KI, welches Modell sie nutzen soll?

    Sie nutzt die Liste der verfügbaren Modelle, um den passenden Endpoint für die beschriebene Aufgabe zu finden.

  • 04

    Sieht die KI meine Rohdaten?

    Ja, die KI muss Ihren Input verarbeiten, um den Payload für die Modell-Vorhersage zu formatieren.

  • 05

    Kann ich dies zur Überwachung der Modellkosten nutzen?

    Nein. Dieser Connector dient zum Ausführen von Vorhersagen und zum Auflisten von Modellen, nicht zum Zugriff auf Abrechnungs- oder Nutzungsdaten.

  • Weitere Fragen zu Baseten? Die Connector-Seite liefert Antworten. Alle Funktionen des Baseten Connectors ansehen

Verbinde Baseten mit Claude, Cursor, ChatGPT & mehr