• LOCAL
  • VECTOR
  • MODELOS
  • HUMANO

Ejecuta inferencia de modelos locales con tu IA

Conecta tu agente a Open WebUI para ejecutar prompts y generar embeddings en tu propia máquina. Una vez vinculado, tu IA procesará todo de forma local.

Pregunta a la IA sobre esta página

Respuesta rápida

¿Cómo puedo usar modelos locales de Ollama con mi IA?

Puedes activar la inferencia local dándole acceso a tu agente de IA mediante Open WebUI. Este utilizará tu configuración de Ollama para generar texto y crear embeddings. Tendrás el control total sobre qué modelos se ejecutan en tu equipo.

Dónde se procesan tus peticiones.

Resultados de la ejecución local.

Tu IA dirige las tareas a tu hardware local según tus instrucciones.

LOCAL

Inferencia en tu hardware

La IA usa tus modelos locales para responder preguntas o escribir código. Esto mantiene tus datos y el procesamiento en tu propia máquina.

VECTOR

Embeddings de datos

Tu agente crea representaciones matemáticas de tus textos. Esto permite realizar búsquedas semánticas y recuperación de datos localmente.

MODELOS

Gestión de modelos

La IA verifica qué modelos tienes instalados. Podrás ver exactamente qué opciones tienes disponibles para ejecutar localmente.

HUMANO

Selección manual de modelos

La IA no puede instalar modelos nuevos por ti. Primero debes descargar los modelos específicos que quieras usar mediante Ollama.

El flujo

Qué hace tu IA cuando llega un prompt.

El agente traduce tu lenguaje natural en comandos locales específicos.

  1. Verificar disponibilidad

    El agente revisa tu biblioteca local para ver qué modelos están listos. Así evita intentar llamar a un modelo que no hayas descargado.

    list_models
  2. Generar texto

    Tu agente envía el prompt al modelo local seleccionado. El modelo procesa la petición y devuelve la respuesta en texto.

    ollama_generate
  3. Crear embeddings

    El agente convierte el texto en vectores. Esto es útil si quieres realizar RAG local o buscar en tus propios documentos.

    ollama_embed
  4. Verificar etiquetas

    El agente comprueba las etiquetas específicas de tus modelos para asegurar la compatibilidad con la tarea solicitada.

    ollama_tags

Pruébalo

Copia estos ejemplos para empezar.

Usa estos prompts para iniciar tareas locales.

Puntos de partida

Estas son frases iniciales. Cambia los nombres de los modelos o las referencias a archivos para que coincidan con lo que tienes en tu máquina.

Open WebUI Connector

Todo listo. Elige tu cliente MCP y sigue las instrucciones de configuración.

Enlace del conectorhttps://edge.vinkius.com/vk_preview_YhwRL8adKsCUXpVOwybG0l7vG8Iky4FGyj9DhmOn/mcp

Claude Desktop

Sigue los pasos siguientes para conectarte en segundos.

  1. 1In Claude Desktop, open Settings → Connectors.
  2. 2Click “Add custom connector” and paste the connector link above as the remote MCP server URL.
  3. 3Click Add and start a new chat — Open WebUI capabilities are ready to use.
Configuración · claude_desktop_config.jsonCopiar
{
  "mcpServers": {
    "open-webui-mcp": {
      "url": "https://edge.vinkius.com/vk_preview_YhwRL8adKsCUXpVOwybG0l7vG8Iky4FGyj9DhmOn/mcp"
    }
  }
}
Copia en el chat04
  • Lista mis modelos de Ollama disponibles para saber cuáles puedo usar.

  • Usa el modelo llama3 para resumir este texto de mi archivo local.

  • Genera embeddings para el contenido de mi carpeta de proyecto.

  • Comprueba qué etiquetas están disponibles para el modelo mistral.

  • Claude
  • ChatGPT
  • Cursor
  • VS Code
  • Windsurf
  • Claude Code
  • JetBrains
  • Cline

Empieza aquí

Conecta Open WebUI una vez y luego pregunta.

Solo necesitas vincular tu instancia de Open WebUI una vez. Tus credenciales permanecen cifradas y podrás empezar a interactuar con tus modelos locales de inmediato.

Conecta Open WebUI a tu IA

FAQ

Cómo funciona esta tarea.

  • 01

    ¿Puede la IA descargar modelos nuevos por mí?

    No. La IA solo puede ver y utilizar los modelos que ya hayas descargado a través de Ollama.

  • 02

    ¿Mis datos salen de mi ordenador?

    No. Como la inferencia ocurre mediante tu instancia local de Ollama, el procesamiento real se queda en tu hardware.

  • 03

    ¿Puede la IA borrar mis modelos locales?

    No. Las herramientas solo permiten a la IA listar, generar y crear embeddings. No tiene capacidad para borrar o modificar tus archivos locales.

  • 04

    ¿Cómo sabe la IA qué modelo utilizar?

    Utiliza la lista de modelos disponibles para identificar cuál coincide con tu petición o cuál es el más adecuado para la tarea.

  • 05

    ¿Puedo usar esto con cualquier LLM local?

    Funciona con cualquier modelo que sea compatible con Ollama y que sea visible a través de tu configuración de Open WebUI.

  • ¿Tienes más dudas sobre Open WebUI? Ver todas las funciones del conector de Open WebUI

Conecta Open WebUI a Claude, Cursor, ChatGPT y más