¿Puede mi IA desplegar nuevos modelos en Baseten?

No. La IA solo puede interactuar con los modelos que ya están desplegados y listados en tu cuenta.

¿Puede la IA cambiar mis tipos de instancia de GPU?

No. La IA solo puede activar predicciones en endpoints existentes; no puede modificar tu infraestructura de Baseten ni la configuración del hardware.

¿Cómo sabe la IA qué modelo utilizar?

Utiliza la lista de modelos disponibles para identificar el endpoint correcto para la tarea que describiste.

¿La IA ve mis datos brutos?

Sí, la IA debe procesar tu entrada para formatear la carga de datos para la predicción del modelo.

¿Puedo usar esto para monitorear los costos de los modelos?

No. Este conector es para ejecutar predicciones y listar modelos, no para acceder a la facturación o métricas de uso.

INFERENCIAINVENTARIOVALIDACIÓNHUMANO

INFERENCIA
INVENTARIO
VALIDACIÓN
HUMANO

Cómo ejecutar predicciones de modelos con tu IA

Conecta tu IA con Baseten para activar inferencias en pesos alojados. Puedes enviar datos y recibir resultados en la misma conversación.

Pregunta a la IA sobre esta página

Respuesta rápida

¿Cómo puedo ejecutar predicciones de modelos con mi IA?

Envías cargas de datos directamente a tus modelos desplegados en Baseten. Tu IA utiliza la conexión para activar la inferencia y devuelve la respuesta del modelo a tu interfaz de chat. Así puedes probar pesos y verificar resultados sin salir de tu cliente.

Los resultados de tus peticiones

Dónde terminan tus datos

Qué sucede después de que tu IA interactúa con Baseten.

INFERENCIA

Ejecuciones en vivo

Tu IA envía datos a la GPU. Recibes la predicción del modelo como texto o datos estructurados.

INVENTARIO

Visibilidad de modelos

Tu agente identifica qué modelos están activos y listos para usar. Esto mantiene tus prompts precisos.

VALIDACIÓN

Verificación de salida

Puedes pedirle inmediatamente a tu IA que evalúe si la respuesta del modelo cumple con tus requisitos.

HUMANO

Supervisión manual

Tú decides si la predicción es suficiente para tu aplicación o si necesitas ajustar la entrada.

El flujo

Lo que hace tu IA cuando llega la petición.

La IA gestiona la comunicación entre tu prompt y el hardware de la GPU.

Identificar modelos disponibles
La IA comprueba qué endpoints de modelos específicos están desplegados y disponibles para inferencia.
list_models
Formatear la carga de datos
Tu agente convierte tu petición en lenguaje natural al formato JSON específico que el modelo espera.
predict
Ejecutar la inferencia
La IA envía los datos formateados al endpoint de Baseten para activar la carga de trabajo en la GPU.
predict
Entregar el resultado
La IA recibe la salida bruta del modelo y te la presenta en el chat.
predict

Pruébalo

Copia estos ejemplos para empezar.

Usa estos prompts para comenzar a interactuar con tus modelos.

Puntos de partida

Cambia los nombres de los modelos y los tipos de datos según tu caso de uso específico.

Baseten Connector

Todo listo. Elige tu cliente MCP y sigue las instrucciones de configuración.

Enlace del conectorhttps://edge.vinkius.com/vk_preview_Iok4x74580t8DfXgX0kQJnXTan6vttePrqZ5XRGU/mcp

Claude Desktop

Sigue los pasos siguientes para conectarte en segundos.

1In Claude Desktop, open Settings → Connectors.
2Click “Add custom connector” and paste the connector link above as the remote MCP server URL.
3Click Add and start a new chat — Baseten capabilities are ready to use.

Configuración · claude_desktop_config.jsonCopiar

{
  "mcpServers": {
    "baseten-mcp": {
      "url": "https://edge.vinkius.com/vk_preview_Iok4x74580t8DfXgX0kQJnXTan6vttePrqZ5XRGU/mcp"
    }
  }
}

Copia en el chat04

Lista mis modelos desplegados para saber cuáles puedo usar.
Ejecuta una predicción en mi modelo de generación de imágenes usando esta descripción: un atardecer sobre una ciudad de neón.
Prueba mi modelo de análisis de sentimiento con este texto: 'El servicio estuvo bien, pero la comida estaba fría.'
¿Qué modelos tengo disponibles en este momento?

Claude
ChatGPT
Cursor
VS Code
Windsurf
Claude Code
JetBrains
Cline

Empieza aquí

Conecta Baseten una vez y luego pregunta.

Solo necesitas vincular tu cuenta una vez. Tus credenciales permanecen cifradas y puedes empezar a ejecutar predicciones de inmediato.

Conecta Baseten a tu IA

FAQ

Preguntas comunes

01
¿Puede mi IA desplegar nuevos modelos en Baseten?
No. La IA solo puede interactuar con los modelos que ya están desplegados y listados en tu cuenta.
02
¿Puede la IA cambiar mis tipos de instancia de GPU?
No. La IA solo puede activar predicciones en endpoints existentes; no puede modificar tu infraestructura de Baseten ni la configuración del hardware.
03
¿Cómo sabe la IA qué modelo utilizar?
Utiliza la lista de modelos disponibles para identificar el endpoint correcto para la tarea que describiste.
04
¿La IA ve mis datos brutos?
Sí, la IA debe procesar tu entrada para formatear la carga de datos para la predicción del modelo.
05
¿Puedo usar esto para monitorear los costos de los modelos?
No. Este conector es para ejecutar predicciones y listar modelos, no para acceder a la facturación o métricas de uso.
¿Más dudas sobre Baseten? La página del conector las responde. Ver todo lo que puede hacer el conector de Baseten

Conecta Baseten a Claude, Cursor, ChatGPT y más