• ACTIVO
  • ENRUTAMIENTO
  • CONTROL
  • HUMANO

Cómo desplegar inferencia de modelos con tu IA y CoreWeave

Conecta CoreWeave con tu cliente de IA para automatizar la gestión de recursos GPU. Puedes lanzar nuevas versiones de modelos y configurar reglas de enrutamiento mediante una simple interfaz de chat.

Pregunta a la IA sobre esta página

Respuesta rápida

¿Cómo despliego inferencia de modelos con mi IA?

Le indicas a tu IA que cree o actualice despliegues en CoreWeave para alojar tus modelos en GPUs. También gestiona la configuración de los gateways para que el tráfico llegue a los endpoints correctos. Tienes control total sobre tu infraestructura de inferencia sin usar un panel de control.

Resultados del despliegue

Resultados de infraestructura

Lo que sucede cuando tu IA interactúa con CoreWeave.

ACTIVO

Endpoints de modelos en vivo

La IA prepara los recursos de GPU necesarios. Obtienes endpoints de inferencia listos para recibir tráfico.

ENRUTAMIENTO

Gestión de tráfico

Se configuran los gateways para apuntar a versiones específicas de tus modelos, asegurando que las peticiones lleguen al destino correcto.

CONTROL

Actualización de versiones

Puedes cambiar versiones de modelos o ajustar despliegues existentes. La IA se encarga de los cambios de configuración por ti.

HUMANO

Supervisión manual

Tú decides cuándo escalar o detener un despliegue. La IA ejecuta tus comandos específicos, pero no toma decisiones de escalado autónomas.

El flujo

Lo que hace tu IA cuando llega la orden.

Tu IA actúa como interfaz entre tus comandos en lenguaje natural y la API de CoreWeave.

  1. Verificar estado actual

    La IA revisa qué se está ejecutando en tu cuenta de CoreWeave para entender tu configuración actual.

    list_deploymentslist_gateways

  2. Provisionar recursos

    La IA envía el comando para activar nuevas instancias de GPU según los requisitos de tu modelo.

    create_deployment

  3. Actualizar versiones

    Cuando necesitas implementar un nuevo modelo, la IA modifica los ajustes del despliegue existente.

    update_deployment

  4. Enrutar tráfico

    La IA configura o modifica los gateways para que las peticiones lleguen a los endpoints de inferencia correctos.

    create_gatewayupdate_gateway

Pruébalo

Copia estos ejemplos para empezar.

Usa estos prompts para comenzar a gestionar tu infraestructura de CoreWeave.

Puntos de partida

Sustituye el texto entre corchetes por los nombres reales de tus modelos o IDs de despliegue.

CoreWeave Connector

Todo listo. Elige tu cliente MCP y sigue las instrucciones de configuración.

Enlace del conectorhttps://edge.vinkius.com/vk_preview_a151JnxoNH7y2muaVwaqzr9Q5YKz8wmiZJSE1HZv/mcp

Claude Desktop

Sigue los pasos siguientes para conectarte en segundos.

  1. 1In Claude Desktop, open Settings → Connectors.
  2. 2Click “Add custom connector” and paste the connector link above as the remote MCP server URL.
  3. 3Click Add and start a new chat — CoreWeave capabilities are ready to use.
Configuración · claude_desktop_config.jsonCopiar
{
  "mcpServers": {
    "coreweave-ai-gpu-cloud-mcp": {
      "url": "https://edge.vinkius.com/vk_preview_a151JnxoNH7y2muaVwaqzr9Q5YKz8wmiZJSE1HZv/mcp"
    }
  }
}
Copia en el chat04

  • Lista todos mis despliegues y gateways actuales de CoreWeave.

  • Crea un nuevo despliegue para mi modelo 'llama-3-70b'.

  • Actualiza el despliegue llamado 'prod-inference' para usar la última versión del modelo.

  • Crea un nuevo gateway para enrutar el tráfico hacia mi endpoint 'vision-model'.

  • Claude
  • ChatGPT
  • Cursor
  • VS Code
  • Windsurf
  • Claude Code
  • JetBrains
  • Cline

Empieza aquí

Conecta CoreWeave una vez y luego pregunta.

Vincula tu cuenta de CoreWeave a Vinkius. Tus credenciales permanecen cifradas y podrás empezar a gestionar despliegues desde tu cliente de IA favorito de inmediato.

Conecta CoreWeave con tu IA

FAQ

Cómo funciona esta tarea

  • 01

    ¿Puede la IA eliminar mis despliegues?

    No. No se proporciona ninguna herramienta para eliminar despliegues o gateways, por lo que la IA no puede borrar tus recursos.

  • 02

    ¿Escalará la IA mis GPUs automáticamente?

    No. La IA solo realiza las acciones específicas que tú solicites, como crear o actualizar un despliegue. No monitoriza la carga ni escala de forma independiente.

  • 03

    ¿Cómo veo qué se está ejecutando actualmente?

    Puedes pedirle a tu IA que liste tus despliegues o gateways para ver tu infraestructura activa.

  • 04

    ¿Puedo cambiar la versión del modelo en un despliegue existente?

    Sí. Puedes pedirle a la IA que actualice un despliegue existente con una nueva configuración de modelo.

  • 05

    ¿La IA gestiona la facturación de CoreWeave?

    No. La IA solo gestiona el despliegue técnico y la configuración de los gateways. Toda la facturación se gestiona directamente a través de CoreWeave.

  • ¿Tienes más dudas sobre CoreWeave? La página del conector tiene las respuestas. Ver todo lo que puede hacer el conector de CoreWeave

Conecta CoreWeave a Claude, Cursor, ChatGPT y más