• INVENTARIO
  • CAPACIDAD
  • AUTOMATIZACIÓN
  • HUMANO

Cómo escalar réplicas de modelos con tu IA y NVIDIA NIM

Conecta NVIDIA NIM a tu cliente de IA una sola vez. A partir de ahí, tu agente gestiona la relación entre tu inventario de modelos y la capacidad de hardware.

Pregunta a la IA sobre esta página

Respuesta rápida

¿Cómo puedo escalar réplicas de modelos con mi IA?

Tu IA revisa tu inventario actual de modelos y utiliza las herramientas disponibles para ajustar el número de réplicas según tus requisitos de capacidad. Así mantienes el uso del hardware alineado con tus necesidades de modelos activos.

Resultados del escalado

Donde la capacidad se une a la demanda

Lo que sucede cuando tu IA gestiona tus réplicas.

INVENTARIO

Conteo de modelos en tiempo real

La IA consulta tu lista actual de modelos para ver exactamente qué está en ejecución. Obtienes una visión precisa de tu inventario activo.

CAPACIDAD

Uso de hardware equilibrado

La IA ajusta las réplicas para asegurar que no haya exceso de recursos ni falta de potencia. Tu hardware siempre se ajusta a la carga de trabajo.

AUTOMATIZACIÓN

Escalado sin intervención

Una vez definida la lógica, la IA se encarga de los cálculos y la ejecución. Olvídate de calcular manualmente las necesidades de réplicas.

HUMANO

Control manual

La IA realiza los ajustes rutinarios, pero tú mantienes el control total. Tú decides cuándo intervenir y cambiar la configuración.

El flujo

Lo que hace tu IA cuando llega la solicitud.

La IA se encarga del trabajo pesado: revisar el inventario y ejecutar comandos de escalado.

  1. Auditar inventario

    La IA analiza tu despliegue actual para ver qué modelos están activos y cuántas réplicas se están ejecutando.

    nim_list_models

  2. Calcular necesidades

    Tu agente compara la lista de modelos activos con tus objetivos de capacidad para identificar la diferencia.

    nim_list_models

  3. Ajustar réplicas

    La IA ejecuta el comando para aumentar o disminuir el número de réplicas de modelos específicos.

    nim_scale_replicas

  4. Verificar estado

    La IA vuelve a revisar el inventario para confirmar que el comando de escalado se completó con éxito.

    nim_list_models

Pruébalo

Copia estos comandos para empezar.

Usa estos prompts para comenzar a gestionar tus réplicas.

Puntos de partida

Estos son ejemplos iniciales. Cambia los nombres de los modelos o el número de réplicas según tu configuración específica.

NVIDIA NIM Connector

Todo listo. Elige tu cliente MCP y sigue las instrucciones de configuración.

Enlace del conectorhttps://edge.vinkius.com/vk_preview_70BV0qtRSn6oYi65LbVY4KDoGOvWiulNTIr6cS4G/mcp

Claude Desktop

Sigue los pasos siguientes para conectarte en segundos.

  1. 1In Claude Desktop, open Settings → Connectors.
  2. 2Click “Add custom connector” and paste the connector link above as the remote MCP server URL.
  3. 3Click Add and start a new chat — NVIDIA NIM capabilities are ready to use.
Configuración · claude_desktop_config.jsonCopiar
{
  "mcpServers": {
    "nvidia-nim-mcp": {
      "url": "https://edge.vinkius.com/vk_preview_70BV0qtRSn6oYi65LbVY4KDoGOvWiulNTIr6cS4G/mcp"
    }
  }
}
Copia en el chat04

  • Lista todos mis modelos actuales y dime cuántas réplicas hay de cada uno.

  • Escala el modelo Llama-3-70b a 5 réplicas.

  • Revisa mi inventario de modelos y dime si tengo capacidad suficiente para un nuevo despliegue.

  • Reduce el número de réplicas de mi modelo Mistral a 2.

  • Claude
  • ChatGPT
  • Cursor
  • VS Code
  • Windsurf
  • Claude Code
  • JetBrains
  • Cline

Empieza aquí

Conecta NVIDIA NIM una vez y luego pregunta.

Solo tienes que vincular tu cuenta una vez. Tus credenciales permanecen cifradas y podrás empezar a dar órdenes a tu cliente de IA de inmediato.

Conecta NVIDIA NIM a tu IA

FAQ

Cómo funciona esta tarea

  • 01

    ¿Puede la IA borrar mis modelos?

    No. La IA solo puede escalar el número de réplicas de los modelos existentes.

  • 02

    ¿Cambiará la IA mi configuración de hardware?

    No. La IA solo ajusta el número de réplicas de los modelos, no los ajustes de hardware subyacentes.

  • 03

    ¿Necesita la IA mi usuario y contraseña cada vez?

    No. Te conectas una vez y la conexión permanece activa a través de Vinkius.

  • 04

    ¿Puedo ver qué modelos se están ejecutando actualmente?

    Sí. La IA puede extraer una lista completa de tus modelos activos y su número de réplicas actual.

  • 05

    ¿Puede la IA escalar modelos que aún no he desplegado?

    No. La IA solo puede escalar modelos que ya están presentes en tu inventario activo.

  • ¿Tienes más dudas sobre NVIDIA NIM? La página del conector tiene las respuestas. Ver todo lo que puede hacer el conector de NVIDIA NIM

Conecta NVIDIA NIM a Claude, Cursor, ChatGPT y más