• STATUS
  • READINESS
  • LOGS
  • HUMAN

Depura la salud de contenedores de inferencia con tu IA

Conecta NVIDIA NIM a tu cliente de IA para diagnosticar caídas del modelo. Tu agente se encarga de revisar el estado y leer los logs.

Pregunta a la IA sobre esta página

Respuesta rápida

¿Cómo depuro un contenedor de modelo que no responde?

Tu IA comprueba si el contenedor está activo y listo para recibir peticiones, y luego extrae los logs de ejecución para hallar el error. Esto te ofrece una ruta directa a la causa raíz sin necesidad de usar comandos manuales de CLI. Obtendrás un desglose claro del estado del contenedor y los mensajes de error específicos que causan el bloqueo.

Donde aterrizan todos los problemas.

Resultados del diagnóstico

La IA categoriza el estado del contenedor en resultados accionables.

STATUS

Verificación de actividad

La IA confirma si el proceso del contenedor se está ejecutando. Sabrás de inmediato si el contenedor se ha colapsado o está bloqueado.

READINESS

Estado de preparación

La IA verifica si el modelo se ha cargado por completo y puede recibir tráfico. Esto indica si el problema es una carga lenta o un fallo total.

LOGS

Extracción de logs de error

La IA extrae los logs de ejecución específicos del contenedor. Obtendrás el stack trace o el mensaje de error exacto necesario para la solución.

HUMAN

Intervención manual

Si los logs muestran un fallo de hardware o red, la IA te avisará que debes intervenir. Identifica cuándo el problema está fuera del alcance del contenedor.

El flujo

Lo que hace tu IA cuando un modelo se bloquea.

En lugar de ejecutar comandos kubectl o docker, tu agente interactúa directamente con el NIM para obtener diagnósticos.

  1. Comprobar estado del proceso

    La IA primero verifica si el contenedor sigue activo y responde a los pings básicos.

    nim_check_health_live
  2. Verificar preparación del modelo

    Comprueba si los pesos del modelo están cargados y si el motor de inferencia está listo para peticiones.

    nim_check_health_ready
  3. Extraer logs de error

    La IA extrae los logs de ejecución recientes para localizar el error específico que causó la falta de respuesta.

    nim_get_container_logs
  4. Resumir el fallo

    La IA combina el estado de salud y los datos de los logs para explicar exactamente por qué falla el modelo.

    nim_get_container_logs

Pruébalo

Copia estos ejemplos para empezar.

Usa estos prompts para iniciar el proceso de depuración.

Puntos de partida

Sustituye los IDs de los contenedores o los nombres de los modelos por tus datos de despliegue reales.

NVIDIA NIM Connector

Todo listo. Elige tu cliente MCP y sigue las instrucciones de configuración.

Enlace del conectorhttps://edge.vinkius.com/vk_preview_70BV0qtRSn6oYi65LbVY4KDoGOvWiulNTIr6cS4G/mcp

Claude Desktop

Sigue los pasos siguientes para conectarte en segundos.

  1. 1In Claude Desktop, open Settings → Connectors.
  2. 2Click “Add custom connector” and paste the connector link above as the remote MCP server URL.
  3. 3Click Add and start a new chat — NVIDIA NIM capabilities are ready to use.
Configuración · claude_desktop_config.jsonCopiar
{
  "mcpServers": {
    "nvidia-nim-mcp": {
      "url": "https://edge.vinkius.com/vk_preview_70BV0qtRSn6oYi65LbVY4KDoGOvWiulNTIr6cS4G/mcp"
    }
  }
}
Copia en el chat04
  • Comprueba la salud de mi contenedor NIM que ejecuta el modelo Llama-3.

  • ¿Por qué mi contenedor de inferencia no responde? Revisa su actividad y preparación.

  • Extrae los logs del contenedor con ID nim-prod-01 y dime por qué está fallando.

  • ¿Está mi modelo listo para recibir tráfico? Comprueba su estado de salud.

  • Claude
  • ChatGPT
  • Cursor
  • VS Code
  • Windsurf
  • Claude Code
  • JetBrains
  • Cline

Empieza aquí

Conecta NVIDIA NIM una vez y luego pregunta.

Una sola conexión da a tu IA acceso a estas herramientas de diagnóstico. Tus credenciales se mantienen cifradas y seguras.

Conecta NVIDIA NIM a tu IA

FAQ

Cómo funciona la depuración

  • 01

    ¿Puede la IA reiniciar el contenedor si se ha detenido?

    No. La IA solo puede verificar la salud y leer los logs. Debes reiniciar el contenedor manualmente mediante tus propias herramientas de orquestación.

  • 02

    ¿Puede la IA cambiar la configuración del modelo?

    No. La IA se limita a las herramientas de diagnóstico y no puede modificar los ajustes del contenedor ni los parámetros del modelo.

  • 03

    ¿La IA tiene acceso a todos los datos de mi contenedor?

    No. La IA solo accede a los endpoints de salud específicos y a los logs proporcionados por las herramientas de NIM.

  • 04

    ¿Cómo sabe la IA si el modelo se ha cargado?

    Utiliza la herramienta de verificación de preparación para ver si el motor de inferencia informa que está listo para aceptar peticiones.

  • 05

    ¿Puede la IA corregir el error de código en los logs?

    No. La IA puede identificar el error en los logs, pero tú eres el responsable de aplicar la corrección en tu modelo o contenedor.

  • ¿Tienes más dudas sobre NVIDIA NIM? La página del Connector tiene las respuestas. Ver todo lo que puede hacer el Connector de NVIDIA NIM

Conecta NVIDIA NIM a Claude, Cursor, ChatGPT y más