• STATUT
  • RESSOURCES
  • CONFIG
  • HUMAIN

Auditer vos déploiements de modèles avec votre IA

Connectez Baseten à votre client IA une seule fois. Ensuite, votre agent peut extraire les données en direct pour vérifier l'état de votre infrastructure.

Demandez à l'IA à propos de cette page

Réponse rapide

Comment auditer mes déploiements de modèles avec l'IA ?

Votre client IA récupère les données en temps réel de Baseten pour vérifier le nombre de répliques, les paramètres d'autoscaling et les limites d'inférence. Vous obtenez une vue précise de votre infrastructure active via des requêtes directes. Voici comment votre agent réalise l'audit.

Résultats de l'audit

L'usage de vos données.

Ce qui se passe quand votre agent analyse votre configuration Baseten.

STATUT

Vérification en direct

L'IA extrait le nombre actuel de répliques et les configurations de scaling. Vous voyez exactement comment vos modèles tournent en ce moment.

RESSOURCES

Inventaire des modèles

Votre agent liste chaque modèle de votre compte. Cela vous aide à repérer rapidement les modèles inutilisés ou redondants.

CONFIG

Audit du scaling

L'IA examine les limites d'autoscaling et d'inférence. Vous pouvez vérifier si vos réglages correspondent à votre trafic réel.

HUMAIN

Ajustements manuels

L'IA identifie les problèmes mais ne peut pas modifier vos réglages. Vous devez vous connecter à Baseten pour corriger les erreurs.

Le flux

Ce que fait votre IA lors d'une demande d'audit.

L'agent passe d'une découverte globale à des vérifications de configuration précises.

  1. Scan de l'inventaire

    Votre agent commence par extraire la liste complète de tous les modèles disponibles sur votre compte Baseten.

    list_models

  2. Détection des déploiements

    L'IA identifie chaque déploiement actif qui exécute actuellement ces modèles.

    list_deployments

  3. Analyse détaillée

    Votre agent récupère les détails de configuration spécifiques d'un déploiement pour vérifier ses limites.

    get_deployment

  4. Génération de rapport

    L'IA compare le nombre de répliques et les paramètres de scaling avec vos besoins.

    get_deployment

Essayez

Copiez ces commandes pour commencer.

Utilisez ces prompts pour lancer votre audit.

Points de départ

Ce sont des exemples. Remplacez les noms de déploiements ou les IDs de modèles par ceux de votre configuration Baseten.

Baseten Connector

Tout est prêt. Choisissez votre client MCP et suivez les instructions de configuration.

Lien du connecteurhttps://edge.vinkius.com/vk_preview_Iok4x74580t8DfXgX0kQJnXTan6vttePrqZ5XRGU/mcp

Claude Desktop

Suivez les étapes ci-dessous pour vous connecter en quelques secondes.

  1. 1In Claude Desktop, open Settings → Connectors.
  2. 2Click “Add custom connector” and paste the connector link above as the remote MCP server URL.
  3. 3Click Add and start a new chat — Baseten capabilities are ready to use.
Configuration · claude_desktop_config.jsonCopier
{
  "mcpServers": {
    "baseten-mcp": {
      "url": "https://edge.vinkius.com/vk_preview_Iok4x74580t8DfXgX0kQJnXTan6vttePrqZ5XRGU/mcp"
    }
  }
}
Copiez dans le chat04

  • Liste tous mes modèles dans Baseten et dis-moi lesquels sont actuellement déployés.

  • Vérifie le nombre de répliques et les paramètres d'autoscaling pour mon déploiement 'llama-3-70b'.

  • Est-ce que certains de mes déploiements Baseten tournent avec un nombre de répliques insuffisant ?

  • Montre-moi les limites d'inférence pour le déploiement du modèle 'stable-diffusion-v1'.

  • Claude
  • ChatGPT
  • Cursor
  • VS Code
  • Windsurf
  • Claude Code
  • JetBrains
  • Cline

Commencez ici

Connectez Baseten une fois, puis posez vos questions.

Liez votre compte une seule fois. Vos identifiants restent cryptés et vous pouvez immédiatement interroger vos déploiements.

Connecter Baseten à votre IA

FAQ

Fonctionnement de la tâche

  • 01

    L'IA peut-elle modifier mes paramètres d'autoscaling ?

    Non. L'IA peut uniquement lire vos configurations actuelles. Vous devez effectuer toute modification manuellement dans le tableau de bord Baseten.

  • 02

    L'IA peut-elle supprimer un déploiement s'il semble inefficace ?

    Non. L'IA n'a aucune permission pour supprimer ou modifier vos déploiements.

  • 03

    Comment l'IA sait-elle quels modèles je possède ?

    Elle utilise l'outil list_models pour récupérer l'intégralité de votre inventaire de modèles.

  • 04

    Puis-je auditer les coûts de mes déploiements ?

    Non. Ce connecteur permet uniquement d'accéder au nombre de déploiements, au scaling et aux données des modèles.

  • 05

    L'IA a-t-elle accès à mes poids de modèles ?

    Non. L'IA voit uniquement les métadonnées de déploiement et les paramètres de configuration.

  • D'autres questions sur Baseten ? La page du connecteur y répond. Voir toutes les capacités du connecteur Baseten

Connectez Baseten à Claude, Cursor, ChatGPT et d'autres