- LOCAL
- VECTOR
- MODELOS
- HUMANO
Respuesta rápida
¿Cómo puedo usar modelos locales de Ollama con mi IA?
Puedes activar la inferencia local dándole acceso a tu agente de IA mediante Open WebUI. Este utilizará tu configuración de Ollama para generar texto y crear embeddings. Tendrás el control total sobre qué modelos se ejecutan en tu equipo.
Dónde se procesan tus peticiones.
Resultados de la ejecución local.
Tu IA dirige las tareas a tu hardware local según tus instrucciones.
LOCAL
Inferencia en tu hardware
La IA usa tus modelos locales para responder preguntas o escribir código. Esto mantiene tus datos y el procesamiento en tu propia máquina.
VECTOR
Embeddings de datos
Tu agente crea representaciones matemáticas de tus textos. Esto permite realizar búsquedas semánticas y recuperación de datos localmente.
MODELOS
Gestión de modelos
La IA verifica qué modelos tienes instalados. Podrás ver exactamente qué opciones tienes disponibles para ejecutar localmente.
HUMANO
Selección manual de modelos
La IA no puede instalar modelos nuevos por ti. Primero debes descargar los modelos específicos que quieras usar mediante Ollama.
El flujo
Qué hace tu IA cuando llega un prompt.
El agente traduce tu lenguaje natural en comandos locales específicos.
Verificar disponibilidad
El agente revisa tu biblioteca local para ver qué modelos están listos. Así evita intentar llamar a un modelo que no hayas descargado.
list_modelsGenerar texto
Tu agente envía el prompt al modelo local seleccionado. El modelo procesa la petición y devuelve la respuesta en texto.
ollama_generateCrear embeddings
El agente convierte el texto en vectores. Esto es útil si quieres realizar RAG local o buscar en tus propios documentos.
ollama_embedVerificar etiquetas
El agente comprueba las etiquetas específicas de tus modelos para asegurar la compatibilidad con la tarea solicitada.
ollama_tags
Pruébalo
Copia estos ejemplos para empezar.
Usa estos prompts para iniciar tareas locales.
Puntos de partida
Estas son frases iniciales. Cambia los nombres de los modelos o las referencias a archivos para que coincidan con lo que tienes en tu máquina.
Open WebUI Connector
Todo listo. Elige tu cliente MCP y sigue las instrucciones de configuración.
https://edge.vinkius.com/vk_preview_YhwRL8adKsCUXpVOwybG0l7vG8Iky4FGyj9DhmOn/mcpClaude Desktop
Sigue los pasos siguientes para conectarte en segundos.
- 1In Claude Desktop, open Settings → Connectors.
- 2Click “Add custom connector” and paste the connector link above as the remote MCP server URL.
- 3Click Add and start a new chat — Open WebUI capabilities are ready to use.
{
"mcpServers": {
"open-webui-mcp": {
"url": "https://edge.vinkius.com/vk_preview_YhwRL8adKsCUXpVOwybG0l7vG8Iky4FGyj9DhmOn/mcp"
}
}
}Lista mis modelos de Ollama disponibles para saber cuáles puedo usar.
Usa el modelo llama3 para resumir este texto de mi archivo local.
Genera embeddings para el contenido de mi carpeta de proyecto.
Comprueba qué etiquetas están disponibles para el modelo mistral.
Claude
ChatGPT
Cursor
VS Code
Windsurf
Claude Code
JetBrains
Cline
Empieza aquí
Conecta Open WebUI una vez y luego pregunta.
Solo necesitas vincular tu instancia de Open WebUI una vez. Tus credenciales permanecen cifradas y podrás empezar a interactuar con tus modelos locales de inmediato.
Conecta Open WebUI a tu IAFAQ
Cómo funciona esta tarea.
- 01
¿Puede la IA descargar modelos nuevos por mí?
No. La IA solo puede ver y utilizar los modelos que ya hayas descargado a través de Ollama.
- 02
¿Mis datos salen de mi ordenador?
No. Como la inferencia ocurre mediante tu instancia local de Ollama, el procesamiento real se queda en tu hardware.
- 03
¿Puede la IA borrar mis modelos locales?
No. Las herramientas solo permiten a la IA listar, generar y crear embeddings. No tiene capacidad para borrar o modificar tus archivos locales.
- 04
¿Cómo sabe la IA qué modelo utilizar?
Utiliza la lista de modelos disponibles para identificar cuál coincide con tu petición o cuál es el más adecuado para la tarea.
- 05
¿Puedo usar esto con cualquier LLM local?
Funciona con cualquier modelo que sea compatible con Ollama y que sea visible a través de tu configuración de Open WebUI.
¿Tienes más dudas sobre Open WebUI? Ver todas las funciones del conector de Open WebUI
Conecta Open WebUI a Claude, Cursor, ChatGPT y más
