• INVENTAIRE
  • CAPACITÉ
  • AUTOMATISATION
  • HUMAIN

Gérer vos répliques de modèles avec votre IA

Connectez NVIDIA NIM à votre client IA une seule fois. Votre agent gère ensuite la relation entre votre inventaire de modèles et votre capacité matérielle.

Demandez à l'IA à propos de cette page

Réponse rapide

Comment ajuster mes répliques de modèles via mon IA ?

Votre IA analyse votre inventaire actuel et utilise les outils disponibles pour ajuster le nombre de répliques selon vos besoins. Cela permet d'aligner l'utilisation de votre matériel avec vos modèles actifs.

Résultats de l'ajustement

L'équilibre entre capacité et demande

Ce qui se passe quand votre IA gère vos répliques.

INVENTAIRE

Comptage en temps réel

L'IA extrait la liste de vos modèles pour voir exactement ce qui tourne. Vous obtenez une vue précise de votre inventaire actif.

CAPACITÉ

Usage matériel équilibré

L'IA ajuste les répliques pour éviter le surprovisionnement ou le manque de puissance. Votre matériel suit votre charge de travail.

AUTOMATISATION

Scaling autonome

Une fois la logique définie, l'IA gère les calculs et l'exécution. Vous n'avez plus à calculer manuellement vos besoins en répliques.

HUMAIN

Contrôle manuel

L'IA gère les ajustements de routine, mais vous gardez la main. Vous décidez quand intervenir pour modifier les paramètres.

Le flux

Ce que fait votre IA lors d'une requête.

L'IA prend en charge l'analyse de l'inventaire et l'envoi des commandes de scaling.

  1. Auditer l'inventaire

    L'IA examine votre déploiement actuel pour identifier les modèles actifs et leur nombre de répliques.

    nim_list_models

  2. Calculer les besoins

    Votre agent compare la liste des modèles actifs avec vos objectifs de capacité pour identifier l'écart.

    nim_list_models

  3. Ajuster les répliques

    L'IA exécute la commande pour augmenter ou diminuer le nombre de répliques de modèles spécifiques.

    nim_scale_replicas

  4. Vérifier l'état

    L'IA consulte à nouveau l'inventaire pour confirmer que la commande de scaling a réussi.

    nim_list_models

Essayez

Copiez ces commandes pour commencer.

Utilisez ces prompts pour débuter la gestion de vos répliques.

Points de départ

Ce sont des exemples. Remplacez les noms de modèles ou le nombre de répliques par vos propres paramètres.

NVIDIA NIM Connector

Tout est prêt. Choisissez votre client MCP et suivez les instructions de configuration.

Lien du connecteurhttps://edge.vinkius.com/vk_preview_70BV0qtRSn6oYi65LbVY4KDoGOvWiulNTIr6cS4G/mcp

Claude Desktop

Suivez les étapes ci-dessous pour vous connecter en quelques secondes.

  1. 1In Claude Desktop, open Settings → Connectors.
  2. 2Click “Add custom connector” and paste the connector link above as the remote MCP server URL.
  3. 3Click Add and start a new chat — NVIDIA NIM capabilities are ready to use.
Configuration · claude_desktop_config.jsonCopier
{
  "mcpServers": {
    "nvidia-nim-mcp": {
      "url": "https://edge.vinkius.com/vk_preview_70BV0qtRSn6oYi65LbVY4KDoGOvWiulNTIr6cS4G/mcp"
    }
  }
}
Copiez dans le chat04

  • Liste tous mes modèles actuels et indique-moi le nombre de répliques pour chacun.

  • Passe le modèle Llama-3-70b à 5 répliques.

  • Vérifie mon inventaire et dis-moi si j'ai assez de capacité pour un nouveau déploiement.

  • Réduis le nombre de répliques de mon modèle Mistral à 2.

  • Claude
  • ChatGPT
  • Cursor
  • VS Code
  • Windsurf
  • Claude Code
  • JetBrains
  • Cline

Commencez ici

Connectez NVIDIA NIM une fois, puis demandez.

Liez votre compte une seule fois. Vos identifiants restent chiffrés et vous pouvez immédiatement donner des ordres à votre client IA.

Connecter NVIDIA NIM à votre IA

FAQ

Fonctionnement de la tâche

  • 01

    L'IA peut-elle supprimer mes modèles ?

    Non. L'IA peut uniquement ajuster le nombre de répliques des modèles existants.

  • 02

    L'IA va-t-elle modifier ma configuration matérielle ?

    Non. L'IA ajuste seulement le nombre de répliques des modèles, pas les paramètres du matériel sous-jacent.

  • 03

    L'IA a-t-elle besoin de mes identifiants à chaque fois ?

    Non. Vous vous connectez une fois, et la connexion reste active via Vinkius.

  • 04

    Puis-je voir quels modèles tournent actuellement ?

    Oui. L'IA peut extraire la liste complète de vos modèles actifs et de leurs répliques.

  • 05

    L'IA peut-elle ajuster des modèles non encore déployés ?

    Non. L'IA ne peut ajuster que les modèles déjà présents dans votre inventaire actif.

  • D'autres questions sur NVIDIA NIM ? La page du Connector y répond. Voir toutes les capacités du Connector NVIDIA NIM

Connectez NVIDIA NIM à Claude, Cursor, ChatGPT et d'autres