• AKTIV
  • ROUTING
  • KONTROLLE
  • MENSCH

Modell-Inferenz mit Ihrer KI bereitstellen

Verbinden Sie CoreWeave mit Ihrem KI-Client, um das GPU-Ressourcenmanagement zu automatisieren. Sie können neue Modellversionen starten und Routing-Regeln direkt über ein Chat-Interface festlegen.

Fragen Sie die KI zu dieser Seite

Kurzantwort

Wie stelle ich Modell-Inferenz mit meiner KI bereit?

Sie weisen Ihre KI an, Deployments auf CoreWeave zu erstellen oder zu aktualisieren, um Ihre Modelle auf GPUs zu hosten. Sie übernimmt auch die Gateway-Konfiguration, damit Ihr Traffic die richtigen Endpunkte erreicht. So behalten Sie die volle Kontrolle über Ihre Inferenz-Infrastruktur, ohne ein Dashboard nutzen zu müssen.

Deployment-Ergebnisse

Infrastruktur-Ergebnisse

Was passiert, wenn Ihre KI mit CoreWeave interagiert.

AKTIV

Live-Modell-Endpunkte

Die KI richtet die benötigten GPU-Ressourcen ein. Sie erhalten einsatzbereite Inferenz-Endpunkte für Ihren Traffic.

ROUTING

Traffic-Management

Gateways werden so konfiguriert, dass sie auf Ihre spezifischen Modellversionen zeigen. So landen Anfragen immer am richtigen Ziel.

KONTROLLE

Versions-Updates

Sie können Modellversionen austauschen oder bestehende Deployments anpassen. Die KI führt die Konfigurationsänderungen für Sie aus.

MENSCH

Manuelle Aufsicht

Sie entscheiden, wann ein Deployment skaliert oder beendet wird. Die KI führt Ihre Befehle aus, trifft aber keine autonomen Entscheidungen zur Skalierung.

Der Ablauf

Was Ihre KI tut, wenn der Befehl eintrifft.

Ihre KI fungiert als Schnittstelle zwischen Ihren Sprachbefehlen und der CoreWeave API.

  1. Ist-Zustand prüfen

    Die KI analysiert die aktuell auf Ihrem CoreWeave-Konto laufenden Prozesse, um Ihr bestehendes Setup zu verstehen.

    list_deploymentslist_gateways

  2. Ressourcen bereitstellen

    Die KI sendet den Befehl, um neue GPU-Instanzen gemäß Ihren spezifischen Modell-Anforderungen zu starten.

    create_deployment

  3. Versionen aktualisieren

    Wenn Sie ein neues Modell ausrollen möchten, passt die KI die Einstellungen des bestehenden Deployments an.

    update_deployment

  4. Traffic leiten

    Die KI erstellt oder modifiziert Gateways, damit eingehende Anfragen die korrekten Inferenz-Endpunkte erreichen.

    create_gatewayupdate_gateway

Probieren Sie es

Kopieren Sie diese Befehle zum Start.

Nutzen Sie diese Prompts, um die Verwaltung Ihrer CoreWeave-Infrastruktur zu beginnen.

Startpunkte

Ersetzen Sie den Text in den Klammern durch Ihre tatsächlichen Modellnamen oder Deployment-IDs.

CoreWeave Connector

Alles bereit. Wählen Sie Ihren MCP-Client und folgen Sie den Einrichtungsschritten.

Connector-Linkhttps://edge.vinkius.com/vk_preview_a151JnxoNH7y2muaVwaqzr9Q5YKz8wmiZJSE1HZv/mcp

Claude Desktop

Folgen Sie den Schritten unten, um sich in Sekunden zu verbinden.

  1. 1In Claude Desktop, open Settings → Connectors.
  2. 2Click “Add custom connector” and paste the connector link above as the remote MCP server URL.
  3. 3Click Add and start a new chat — CoreWeave capabilities are ready to use.
Konfiguration · claude_desktop_config.jsonKopieren
{
  "mcpServers": {
    "coreweave-ai-gpu-cloud-mcp": {
      "url": "https://edge.vinkius.com/vk_preview_a151JnxoNH7y2muaVwaqzr9Q5YKz8wmiZJSE1HZv/mcp"
    }
  }
}
In den Chat kopieren04

  • Liste alle meine aktuellen CoreWeave Deployments und Gateways auf.

  • Erstelle ein neues Deployment für mein 'llama-3-70b' Modell.

  • Aktualisiere das Deployment 'prod-inference' auf die neueste Modellversion.

  • Erstelle ein neues Gateway, um den Traffic an meinen 'vision-model' Endpunkt zu leiten.

  • Claude
  • ChatGPT
  • Cursor
  • VS Code
  • Windsurf
  • Claude Code
  • JetBrains
  • Cline

Starten Sie hier

Einmal mit CoreWeave verbinden, dann fragen.

Verknüpfen Sie Ihr CoreWeave-Konto mit Vinkius. Ihre Zugangsdaten bleiben verschlüsselt, und Sie können sofort in Ihrem bevorzugten KI-Client Deployments verwalten.

CoreWeave mit Ihrer KI verbinden

FAQ

Verhalten der Funktionen

  • 01

    Kann die KI meine Deployments löschen?

    Nein. Es wird kein Tool bereitgestellt, um Deployments oder Gateways zu löschen. Die KI kann Ihre Ressourcen also nicht entfernen.

  • 02

    Skaliert die KI meine GPUs automatisch?

    Nein. Die KI führt nur die von Ihnen angeforderten Aktionen aus, wie das Erstellen oder Aktualisieren eines Deployments. Sie überwacht die Last nicht eigenständig und skaliert nicht ohne Befehl.

  • 03

    Wie sehe ich, was aktuell läuft?

    Sie können Ihre KI bitten, die Deployments oder Gateways aufzulisten, um Ihre aktive Infrastruktur einzusehen.

  • 04

    Kann ich die Modellversion eines bestehenden Deployments ändern?

    Ja. Sie können die KI anweisen, ein bestehendes Deployment mit einer neuen Modellkonfiguration zu aktualisieren.

  • 05

    Übernimmt die KI die Abrechnung für CoreWeave?

    Nein. Die KI verwaltet nur das technische Deployment und die Gateway-Konfiguration. Die gesamte Abrechnung erfolgt direkt über CoreWeave.

  • Weitere Fragen zu CoreWeave? Die Connector-Seite liefert Antworten. Alle Funktionen des CoreWeave Connectors ansehen

Verbinde CoreWeave mit Claude, Cursor, ChatGPT & mehr