• ESTADO
  • RECURSOS
  • CONFIG
  • HUMANO

Cómo auditar despliegues de modelos con tu IA

Conecta Baseten a tu cliente de IA una sola vez. Después, tu agente podrá extraer datos de despliegue en tiempo real para revisar el estado de tu infraestructura.

Pregunta a la IA sobre esta página

Respuesta rápida

¿Cómo puedo auditar mis despliegues de modelos con IA?

Tu cliente de IA extrae datos en tiempo real de Baseten para verificar el recuento de réplicas, la configuración de escalado y los límites de inferencia. Obtendrás una visión clara de tu infraestructura activa mediante consultas directas. Este desglose muestra cómo tu agente realiza la auditoría.

Resultados de la auditoría

Dónde terminan tus datos.

Qué sucede cuando tu agente analiza tu configuración de Baseten.

ESTADO

Verificación de despliegues en vivo

La IA extrae el recuento actual de réplicas y las configuraciones de escalado. Verás exactamente cómo funcionan tus modelos en este momento.

RECURSOS

Inventario de modelos

Tu agente enumera cada modelo de tu cuenta. Esto te ayuda a detectar rápidamente modelos sin uso o redundantes.

CONFIG

Auditoría de escalado

La IA revisa los límites de autoscaling y de inferencia. Puedes identificar si tus ajustes coinciden con tu tráfico real.

HUMANO

Ajustes manuales

La IA identifica problemas, pero no puede cambiar tus ajustes. Debes entrar en Baseten para corregir cualquier error de configuración.

El flujo

Lo que hace tu IA al recibir la solicitud de auditoría.

El agente pasa de un descubrimiento general a comprobaciones de configuración específicas.

  1. Escaneo de inventario

    Tu agente comienza extrayendo una lista completa de todos los modelos disponibles en tu cuenta de Baseten.

    list_models
  2. Descubrimiento de despliegues

    La IA identifica cada despliegue activo que está ejecutando esos modelos.

    list_deployments
  3. Análisis detallado

    Tu agente extrae detalles de configuración específicos de un despliegue para revisar sus límites.

    get_deployment
  4. Generación de informes

    La IA compara el recuento de réplicas y los ajustes de escalado obtenidos con tus requisitos.

    get_deployment

Pruébalo

Copia estos ejemplos para empezar.

Usa estos prompts para iniciar tu auditoría.

Puntos de partida

Estos son ejemplos iniciales. Cambia los nombres de los despliegues o los IDs de los modelos para que coincidan con tu configuración real en Baseten.

Baseten Connector

Todo listo. Elige tu cliente MCP y sigue las instrucciones de configuración.

Enlace del conectorhttps://edge.vinkius.com/vk_preview_Iok4x74580t8DfXgX0kQJnXTan6vttePrqZ5XRGU/mcp

Claude Desktop

Sigue los pasos siguientes para conectarte en segundos.

  1. 1In Claude Desktop, open Settings → Connectors.
  2. 2Click “Add custom connector” and paste the connector link above as the remote MCP server URL.
  3. 3Click Add and start a new chat — Baseten capabilities are ready to use.
Configuración · claude_desktop_config.jsonCopiar
{
  "mcpServers": {
    "baseten-mcp": {
      "url": "https://edge.vinkius.com/vk_preview_Iok4x74580t8DfXgX0kQJnXTan6vttePrqZ5XRGU/mcp"
    }
  }
}
Copia en el chat04
  • Lista todos mis modelos en Baseten y dime cuáles están desplegados actualmente.

  • Comprueba el recuento de réplicas y los ajustes de autoscaling de mi despliegue 'llama-3-70b'.

  • ¿Hay algún despliegue en Baseten que esté funcionando con un recuento de réplicas insuficiente?

  • Muéstrame los límites de inferencia para el despliegue del modelo 'stable-diffusion-v1'.

  • Claude
  • ChatGPT
  • Cursor
  • VS Code
  • Windsurf
  • Claude Code
  • JetBrains
  • Cline

Empieza aquí

Conecta Baseten una vez y luego pregunta.

Solo necesitas vincular tu cuenta una vez. Tus credenciales permanecen cifradas y podrás empezar a hacer preguntas sobre tus despliegues de inmediato.

Conecta Baseten a tu IA

FAQ

Cómo funciona esta tarea

  • 01

    ¿Puede la IA cambiar mis ajustes de autoscaling?

    No. La IA solo puede leer tus configuraciones actuales. Debes realizar cualquier cambio manualmente en el panel de Baseten.

  • 02

    ¿Puede la IA eliminar un despliegue si parece ineficiente?

    No. La IA no tiene permisos para eliminar ni modificar tus despliegues.

  • 03

    ¿Cómo sabe la IA qué modelos tengo?

    Utiliza la herramienta list_models para obtener todo tu inventario de modelos.

  • 04

    ¿Puedo auditar los costes de mis despliegues?

    No. Este conector solo permite acceder al recuento de despliegues, al escalado y a los datos de los modelos.

  • 05

    ¿La IA puede ver los pesos de mis modelos?

    No. La IA solo tiene acceso a los metadatos del despliegue y a los ajustes de configuración.

  • ¿Tienes más dudas sobre Baseten? La página del conector las responde. Ver todo lo que puede hacer el conector de Baseten

Conecta Baseten a Claude, Cursor, ChatGPT y más