• ACTIF
  • ROUTAGE
  • CONTRÔLE
  • HUMAIN

Déployer l'inférence de modèle avec votre IA

Connectez CoreWeave à votre client IA pour automatiser la gestion de vos ressources GPU. Lancez de nouvelles versions de modèles et configurez vos règles de routage via une simple interface de chat.

Demandez à l'IA à propos de cette page

Réponse rapide

Comment déployer l'inférence de modèle avec mon IA ?

Demandez simplement à votre IA de créer ou de mettre à jour des déploiements sur CoreWeave pour héberger vos modèles sur GPU. Elle gère aussi la configuration des passerelles pour que votre trafic atteigne les bons points de terminaison. Vous contrôlez toute votre infrastructure d'inférence sans jamais ouvrir de tableau de bord.

Résultats de déploiement

Impact sur l'infrastructure

Ce qui se passe quand votre IA interagit avec CoreWeave.

ACTIF

Points de terminaison actifs

L'IA provisionne les ressources GPU nécessaires. Vos points de terminaison d'inférence sont prêts à recevoir du trafic.

ROUTAGE

Gestion du trafic

Les passerelles sont configurées pour pointer vers vos versions de modèles spécifiques, garantissant que les requêtes arrivent à la bonne cible.

CONTRÔLE

Mises à jour de versions

Vous pouvez remplacer des versions de modèles ou ajuster des déploiements existants. L'IA s'occupe des changements de configuration.

HUMAIN

Supervision manuelle

Vous décidez quand augmenter la capacité ou arrêter un déploiement. L'IA exécute vos ordres sans prendre de décisions d'auto-scaling.

Le flux

Ce que fait votre IA lors de la commande.

Votre IA sert d'interface entre vos commandes en langage naturel et l'API CoreWeave.

  1. Vérifier l'état actuel

    L'IA analyse ce qui tourne actuellement sur votre compte CoreWeave pour comprendre votre configuration existante.

    list_deploymentslist_gateways
  2. Provisionner les ressources

    L'IA envoie la commande pour lancer de nouvelles instances GPU selon les besoins de vos modèles.

    create_deployment
  3. Mettre à jour les versions

    Pour déployer un nouveau modèle, l'IA modifie les paramètres du déploiement en place.

    update_deployment
  4. Router le trafic

    L'IA crée ou modifie les passerelles pour que les requêtes entrantes atteignent les bons points de terminaison d'inférence.

    create_gatewayupdate_gateway

Essayez

Copiez ces exemples pour commencer.

Utilisez ces prompts pour débuter la gestion de votre infrastructure CoreWeave.

Points de départ

Remplacez le texte entre crochets par vos noms de modèles ou vos identifiants de déploiement réels.

CoreWeave Connector

Tout est prêt. Choisissez votre client MCP et suivez les instructions de configuration.

Lien du connecteurhttps://edge.vinkius.com/vk_preview_a151JnxoNH7y2muaVwaqzr9Q5YKz8wmiZJSE1HZv/mcp

Claude Desktop

Suivez les étapes ci-dessous pour vous connecter en quelques secondes.

  1. 1In Claude Desktop, open Settings → Connectors.
  2. 2Click “Add custom connector” and paste the connector link above as the remote MCP server URL.
  3. 3Click Add and start a new chat — CoreWeave capabilities are ready to use.
Configuration · claude_desktop_config.jsonCopier
{
  "mcpServers": {
    "coreweave-ai-gpu-cloud-mcp": {
      "url": "https://edge.vinkius.com/vk_preview_a151JnxoNH7y2muaVwaqzr9Q5YKz8wmiZJSE1HZv/mcp"
    }
  }
}
Copiez dans le chat04
  • Liste tous mes déploiements et passerelles CoreWeave actuels.

  • Crée un nouveau déploiement pour mon modèle 'llama-3-70b'.

  • Mets à jour le déploiement nommé 'prod-inference' avec la dernière version du modèle.

  • Crée une nouvelle passerelle pour router le trafic vers mon point de terminaison 'vision-model'.

  • Claude
  • ChatGPT
  • Cursor
  • VS Code
  • Windsurf
  • Claude Code
  • JetBrains
  • Cline

Commencez ici

Connectez CoreWeave une fois, puis demandez.

Liez votre compte CoreWeave à Vinkius. Vos identifiants restent chiffrés et vous pouvez immédiatement gérer vos déploiements depuis votre client IA favori.

Connecter CoreWeave à votre IA

FAQ

Fonctionnement de la tâche

  • 01

    L'IA peut-elle supprimer mes déploiements ?

    Non. Aucun outil n'est fourni pour supprimer des déploiements ou des passerelles, l'IA ne peut donc pas supprimer vos ressources.

  • 02

    L'IA va-t-elle scaler mes GPU automatiquement ?

    Non. L'IA effectue uniquement les actions spécifiques que vous demandez, comme créer ou mettre à jour un déploiement. Elle ne surveille pas la charge et ne s'adapte pas seule.

  • 03

    Comment voir ce qui est en cours d'exécution ?

    Vous pouvez demander à votre IA de lister vos déploiements ou vos passerelles pour visualiser votre infrastructure active.

  • 04

    Puis-je changer la version du modèle d'un déploiement existant ?

    Oui. Vous pouvez demander à l'IA de mettre à jour un déploiement existant avec une nouvelle configuration de modèle.

  • 05

    L'IA gère-t-elle la facturation CoreWeave ?

    Non. L'IA gère uniquement le déploiement technique et la configuration des passerelles. La facturation se fait directement via CoreWeave.

  • D'autres questions sur CoreWeave ? La page du connecteur y répond. Voir toutes les capacités du connecteur CoreWeave

Connectez CoreWeave à Claude, Cursor, ChatGPT et d'autres