• STATUS
  • RESSOURCEN
  • CONFIG
  • HUMAN

Modell-Deployments mit Ihrer KI prüfen und auditieren

Verbinden Sie Baseten einmal mit Ihrem KI-Client. Danach kann Ihr Agent Live-Daten abrufen, um den Status Ihrer Infrastruktur zu kontrollieren.

Fragen Sie die KI zu dieser Seite

Kurzantwort

Wie kann ich meine Modell-Deployments per KI prüfen?

Ihr KI-Client ruft Echtzeitdaten von Baseten ab, um Replika-Anzahlen, Autoscaling-Einstellungen und Inferenz-Grenzen zu kontrollieren. Durch direkte Abfragen erhalten Sie einen klaren Überblick über Ihre aktive Infrastruktur. Diese Übersicht zeigt, wie Ihr Agent die Prüfung durchführt.

Prüfungsergebnisse

Wo Ihre Daten landen.

Was passiert, wenn Ihr Agent Ihr Baseten-Setup scannt.

STATUS

Live-Checks der Deployments

Die KI ruft aktuelle Replika-Anzahlen und Skalierungs-Konfigurationen ab. Sie sehen genau, wie Ihre Modelle gerade laufen.

RESSOURCEN

Modell-Inventar

Ihr Agent listet alle Modelle in Ihrem Account auf. So finden Sie ungenutzte oder redundante Modelle schnell.

CONFIG

Skalierungs-Audit

Die KI prüft Autoscaling-Limits und Inferenz-Grenzen. Sie erkennen sofort, ob Ihre Einstellungen zum tatsächlichen Traffic passen.

HUMAN

Manuelle Anpassungen

Die KI erkennt Probleme, kann aber keine Einstellungen ändern. Sie müssen sich bei Baseten einloggen, um Fehlkonfigurationen zu beheben.

Der Ablauf

Was Ihre KI tut, wenn die Prüfungsanfrage eingeht.

Der Agent geht von der allgemeinen Übersicht zur detaillierten Konfigurationsprüfung über.

  1. Inventar-Scan

    Ihr Agent beginnt damit, eine vollständige Liste aller Modelle in Ihrem Baseten-Account abzurufen.

    list_models

  2. Deployment-Suche

    Die KI identifiziert alle aktiven Deployments, auf denen diese Modelle gerade laufen.

    list_deployments

  3. Detailanalyse

    Ihr Agent ruft spezifische Konfigurationsdetails für ein einzelnes Deployment ab, um dessen Grenzen zu prüfen.

    get_deployment

  4. Berichtserstellung

    Die KI vergleicht die abgerufenen Replika-Anzahlen und Skalierungseinstellungen mit Ihren Anforderungen.

    get_deployment

Probieren Sie es

Kopieren Sie diese Befehle zum Start.

Nutzen Sie diese Prompts, um Ihre Prüfung zu beginnen.

Startpunkte

Dies sind Beispiele. Passen Sie die spezifischen Deployment-Namen oder Modell-IDs an Ihr tatsächliches Baseten-Setup an.

Baseten Connector

Alles bereit. Wählen Sie Ihren MCP-Client und folgen Sie den Einrichtungsschritten.

Connector-Linkhttps://edge.vinkius.com/vk_preview_Iok4x74580t8DfXgX0kQJnXTan6vttePrqZ5XRGU/mcp

Claude Desktop

Folgen Sie den Schritten unten, um sich in Sekunden zu verbinden.

  1. 1In Claude Desktop, open Settings → Connectors.
  2. 2Click “Add custom connector” and paste the connector link above as the remote MCP server URL.
  3. 3Click Add and start a new chat — Baseten capabilities are ready to use.
Konfiguration · claude_desktop_config.jsonKopieren
{
  "mcpServers": {
    "baseten-mcp": {
      "url": "https://edge.vinkius.com/vk_preview_Iok4x74580t8DfXgX0kQJnXTan6vttePrqZ5XRGU/mcp"
    }
  }
}
In den Chat kopieren04

  • Liste alle meine Modelle in Baseten auf und sag mir, welche davon aktuell deployed sind.

  • Prüfe die Replika-Anzahl und die Autoscaling-Einstellungen für mein 'llama-3-70b' Deployment.

  • Laufen irgendwelche meiner Baseten-Deployments mit zu geringer Replika-Anzahl?

  • Zeig mir die Inferenz-Grenzen für das 'stable-diffusion-v1' Modell-Deployment.

  • Claude
  • ChatGPT
  • Cursor
  • VS Code
  • Windsurf
  • Claude Code
  • JetBrains
  • Cline

Starten Sie hier

Einmal verbinden, dann fragen.

Sie müssen Ihr Konto nur einmal verknüpfen. Ihre Zugangsdaten bleiben verschlüsselt und Sie können sofort Fragen zu Ihren Deployments stellen.

Baseten mit Ihrer KI verbinden

FAQ

Verhalten der Aufgabe

  • 01

    Kann die KI meine Autoscaling-Einstellungen ändern?

    Nein. Die KI kann Ihre aktuellen Konfigurationen nur lesen. Änderungen müssen Sie manuell im Baseten-Dashboard vornehmen.

  • 02

    Kann die KI ein Deployment löschen, wenn es ineffizient erscheint?

    Nein. Die KI hat keine Berechtigung, Ihre Deployments zu löschen oder zu modifizieren.

  • 03

    Woher weiß die KI, welche Modelle ich besitze?

    Sie nutzt das list_models Tool, um Ihr gesamtes Modell-Inventar abzurufen.

  • 04

    Kann ich meine Deployment-Kosten prüfen?

    Nein. Dieser Connector bietet nur Zugriff auf Deployment-Anzahlen, Skalierung und Modelldaten.

  • 05

    Sieht die KI meine Modell-Gewichte?

    Nein. Die KI sieht nur die Metadaten der Deployments und die Konfigurationseinstellungen.

  • Weitere Fragen zu Baseten? Die Connector-Seite liefert Antworten. Alle Funktionen des Baseten Connectors ansehen

Verbinde Baseten mit Claude, Cursor, ChatGPT & mehr