An astronaut overseeing a futuristic data hub
PDF herunterladenMarkdown-Version

Verbinden Sie NVIDIA NIM mit ChatGPT, Claude und Gemini

Richten Sie es einmal ein und es funktioniert mit ChatGPT, Claude, Cursor und jedem anderen Client, den Sie lieben. Alles läuft sicher im Hintergrund, damit Sie sich entspannen und sich auf das Wesentliche konzentrieren können. Übernehmen Sie die volle Kontrolle über Ihre lokalen GPU-Ressourcen.

Fragen Sie die KI zu diesem Connector

Entwickelt, gewartet und gehostet von Vinkius.

MCP VERIFIZIERT · PRODUKTIONSREIF · VINKIUS GARANTIE

Waiting for input…

Works with modern AI clients that support MCP, including ChatGPT, Claude, Cursor, and more.

ChatGPTClaudeCursorPerplexityGeminiMicrosoft CopilotRaycastMeta AI

Ihre KI erledigt die Arbeit. Wir halten alles sicher und geschützt.

Kein anderes KI-Tool bietet Ihnen das. Ihr Workflow läuft im Client, den Sie bereits lieben, Ihr Konto bleibt geschützt, und Sie entscheiden, was der Agent darf und was nicht. Das ist der ganze Grund für den Wechsel.

Jeder Connector lebt in unserer Infrastruktur, dort wo Ihr Workflow läuft. Die drei Dinge unten sind bereits Teil davon und arbeiten leise im Hintergrund, damit Sie nie darüber nachdenken müssen. Nichts hinzuzufügen, nichts einzurichten, keine Sorgen.

A futuristic MCP client docking bay
V8 Isolate01

Jeder Connector läuft in seiner eigenen abgeschotteten Umgebung.

Jeder Connector läuft in einer eigenen abgeriegelten V8-Laufzeit — kein Zugriff auf Ihre Dateien, Ihr System oder andere Server. Ein Connector sieht nie über seine eigene Anfrage hinaus.

Kill-Switch02

Ein Schalter stoppt jeden Agenten. Sofort.

Eine einzige Aktion deaktiviert jeden Connector, entzieht jedes Token und beendet jede Sitzung auf einmal. Die AI Governance bewahrt das Protokoll.

FinOps pro Nutzer03

Ausgabelimits, die anhalten, statt Sie zu überraschen.

Jeder Nutzer behält eigene Verbindungen und Anmeldedaten, isoliert von allen anderen. Was Ihr Ausgabelimit überschreiten würde, wird zurückgehalten und wartet auf Ihre Freigabe, anstatt abgerechnet zu werden.

Drei Kontrollen, eingebaut in die Schicht, über die sich Ihre KI verbindet.

Kuratiertes Set · 8 Fähigkeiten

Wir liefern nur die Aktionen, die zählen.

Fähigkeiten-Set01 / 02

01-04

4 Fähigkeiten in diesem Set.

Teil von 8, verfügbar über NVIDIA NIM.

  1. 01

    Live-Status prüfen

    Führt native Liveness-Probes aus, um zu prüfen, ob der physische Host-Container-Orchestrator antwortet.

  2. 02

    Bereitschaft prüfen

    Erkennt, ob die GPU-Inferenzschichten die konfigurierten Modell-Artefakte erfolgreich geladen haben.

  3. 03

    Container-Logs abrufen

    Ruft die Ausführungsparameter ab, indem native stdout-Proxys der Orchestrator-Ebene genutzt werden.

  4. 04

    GPU-Status abfragen

    Analysiert die GPU-Topologie und formatiert aktive Hardware-Speichervariablen über den NIM-Proxy.

Fähigkeiten-Set02 / 02

05-08

4 Fähigkeiten in diesem Set.

Teil von 8, verfügbar über NVIDIA NIM.

  1. 05

    Metadaten abrufen

    Zieht Metriken der Engine-Ausführung, die exakt die geladenen Konfigurationsgrenzen abbilden.

  2. 06

    Metriken extrahieren

    Extrahiert Hardware-Skalierungsmetriken direkt über Prometheus-Endpunkte aus dem NIM-Orchestrator.

  3. 07

    Modelle auflisten

    Listet die aktuell aktiven LLMs auf und weist Inferenz-Ziele im logischen Backend zu.

  4. 08

    Replikate skalieren

    Orchestriert die Hardware-Replikation dynamisch durch Anpassung der Proxy-Zuweisungen der Ausführungsschichten.

Echte Arbeit

Was Teams täglich ausführen

01

Inference Debugging

Use container logs and health probes to find out why a model isn't responding.

02

Resource Scaling

Scale replicas up or down based on real-time hardware metrics.

03

Hardware Auditing

Verify that your local GPU memory and topological limits match your configuration.

04

Model Inventory

Keep track of which LLMs are currently loaded and active in your backend array.

Eine Aufgabe automatisieren

Bringen Sie NVIDIA NIM für eine Sache an die Arbeit.

Schritt-für-Schritt-Automatisierungen, die Ihre KI über diesen Connector ausführt: der Ablauf, die Prompts für den Einstieg und die genauen Fähigkeiten hinter jedem Schritt.

Ein Connector, jede KI

NVIDIA NIM funktioniert mit den beliebtesten KI-Clients.

Dies sind die beliebtesten Clients, jeder mit einer Schritt-für-Schritt-Anleitung: ein Link, einmal eingerichtet, mit Governance und Sichtbarkeit an Bord. Und da alles auf dem MCP-Standard läuft, funktioniert dieselbe Verbindung auch in jedem anderen kompatiblen Client — nichts neu zu bauen.

ClaudeClaudeChatGPTChatGPTGeminiGeminiPerplexityPerplexityGrokGrokMicrosoft CopilotMicrosoft CopilotCursorCursorVS CodeVS CodeWindsurfWindsurfJetBrainsJetBrainsClineClineLangChainLangChainVercel AI SDKVercel AI SDKLovableLovableZ.aiZ.aiRaycastRaycastQwen CodeQwen CodeKimi CodeKimi CodeLe ChatLe Chat

Bauen Sie Ihre eigene App? Der Connector gehört Ihnen.

Sie brauchen keinen Client, um NVIDIA NIM arbeiten zu lassen: dieselbe gehostete Verbindung speist Ihre eigenen Anwendungen und Ihren Agenten-Code, mit derselben Governance bei jeder Anfrage. Damit bauen, damit chatten — eine Verbindung für beides.

Beobachtet, nicht geschätzt

Durchschnitt 926ms. Schnell in der Produktion.

NVIDIA NIM wird täglich gegen den Live-Service geprüft.

TagesdurchschnittSpitze 1141ms
3. Okt.Heute
Schnellster Tag
694ms
Langsamster Tag
1141ms
14-Tage-Trend
Verbessernd-7%

Verbinden Sie Ihren Client

Eine URL. Jeder Client.

Aktivieren Sie den Connector, kopieren Sie Ihren Link und fügen Sie ihn in den Client ein, den Sie bereits nutzen. 8 Fähigkeiten kommen einsatzbereit an.

Vorschauzugang · keine Anbieter-Authentifizierung

Das vk_preview_*-Token gehört zur Vorschau-Infrastruktur von Vinkius. Es ermöglicht Claude, die Fähigkeiten von NVIDIA NIM zu entdecken und anzuzeigen, damit Sie das Erlebnis in Ihrer KI sehen.

Es authentifiziert Ihr Konto nicht bei NVIDIA NIM. Aktionen, die Anmeldedaten oder echte Kontodaten erfordern, werden möglicherweise erst ausgeführt, wenn Sie den Connector aktivieren und den Dienst autorisieren.

NVIDIA NIM Connector

Alles bereit. Wählen Sie Ihren MCP-Client und folgen Sie den Einrichtungsschritten.

Connector-Linkhttps://edge.vinkius.com/vk_preview_70BV0qtRSn6oYi65LbVY4KDoGOvWiulNTIr6cS4G/mcp

Claude Desktop

Folgen Sie den Schritten unten, um sich in Sekunden zu verbinden.

  1. 1In Claude Desktop, open Settings → Connectors.
  2. 2Click “Add custom connector” and paste the connector link above as the remote MCP server URL.
  3. 3Click Add and start a new chat — NVIDIA NIM capabilities are ready to use.
Konfiguration · claude_desktop_config.jsonKopieren
{
  "mcpServers": {
    "nvidia-nim-mcp": {
      "url": "https://edge.vinkius.com/vk_preview_70BV0qtRSn6oYi65LbVY4KDoGOvWiulNTIr6cS4G/mcp"
    }
  }
}
  • Claude
  • ChatGPT
  • Cursor
  • VS Code
  • Windsurf
  • Claude Code
  • JetBrains
  • Cline

Schritt-für-Schritt-Anleitungen für jeden Client finden Sie im Guide. Verbinden

Geführte Einrichtung für Claude? NVIDIA NIM in Claude und anderen KI-Tools einrichten

Alle KI-Clients ansehen, mit denen dieser Connector funktioniert ↑

Für wen

Für die Arbeit, die NVIDIA NIM-Nutzer abgeben.

Dieser MCP richtet sich an Experten, die KI-Infrastruktur auf Hardware-Ebene verwalten und optimieren müssen.

  • 01

    MLOps Engineers

    Automatisierung von Machine-Learning-Workflows und Überwachung der Modell-Inferenz.

  • 02

    Hardware Proxy Admins

    Verwaltung und Überwachung der physischen GPU-Ressourcen und Container-Proxys.

  • 03

    Infrastructure Integrators

    Integration von NVIDIA-Chips in bestehende Rechenzentren und Orchestrierung der Hardware.

FAQ

Fragen von NVIDIA NIM-Nutzern.

  • 01

    What does this MCP actually do?

    It acts as a proxy that lets your AI client read telemetry and control NVIDIA NIM containers on your local hardware.

  • 02

    Can I use this with any AI client?

    Yes, it works with any MCP-compatible client like Claude, Cursor, or Windsurf.

  • 03

    How does it get hardware metrics?

    It pulls data from Prometheus endpoints to provide real-time hardware scaling and memory information.

  • 04

    Does this work with local GPUs?

    Yes, it is specifically designed to manage and monitor limits on physically hosted NVIDIA hardware.

  • 05

    Is hosting included?

    Yes, Vinkius hosts and manages the MCP, so you don't have to run the connection logic yourself.

  • 06

    Can I explicitly track GPU hardware analytics natively using the NIM MCP integration?

    Yes! Utilize get_metrics exposing Prometheus-compatible proxy limits tracking explicit hardware latencies easily natively securely.

  • 07

    How do I explicitly evaluate if my container instances mapped properly loaded native Foundation Models?

    Target UUID probes natively mapped executing check_health_ready verifying bounds catching limits generating exact readiness states cleanly.

  • 08

    Does this call inference proxies executing completions bounds mapped dynamically?

    No, this is infrastructure proxy bounding explicitly container node management. Utilize nvidia-catalog-mcp enforcing natively hosted inference bounds efficiently.

Entdecken

Mehr in Industry Titans

Vorschläge

Verbinde NVIDIA NIM mit Claude, Cursor, ChatGPT & mehr