AIでローカルモデルの推論を実行する方法：Open WebUI MCPコネクタ

AIエージェントにOpen WebUIへのアクセス権を与えることで、ローカル推論を実行できます。ローカルのOllama環境を利用してテキスト生成や埋め込み作成を行うため、どのモデルをマシン上で動かすかを直接コントロールできます。

1. 01

   利用可能なモデルの確認

   エージェントがローカルライブラリを確認し、使用可能なモデルを特定します。これにより、未ダウンロードのモデルを呼び出すミスを防ぎます。

   list_models
2. 02

   テキスト生成

   エージェントが選択したローカルモデルにプロンプトを送信します。モデルがリクエストを処理し、テキスト回答を返します。

   ollama_generate
3. 03

   埋め込みの作成

   エージェントがテキストをベクトルに変換します。ローカルでのRAG（検索拡張生成）やドキュメント検索に役立ちます。

   ollama_embed
4. 04

   タグの検証

   エージェントがモデルの特定のタグを確認し、要求されたタスクとの互換性を検証します。

   ollama_tags

Open WebUI Connector

準備完了です。MCPクライアントを選択し、セットアップ手順に従ってください。

コネクタリンクhttps://edge.vinkius.com/vk_preview_YhwRL8adKsCUXpVOwybG0l7vG8Iky4FGyj9DhmOn/mcpコピー

Claude Desktop

以下の手順で数秒で接続できます。

1. 1In Claude Desktop, open Settings → Connectors.
2. 2Click “Add custom connector” and paste the connector link above as the remote MCP server URL.
3. 3Click Add and start a new chat — Open WebUI capabilities are ready to use.

設定 · claude_desktop_config.jsonコピー

{
  "mcpServers": {
    "open-webui-mcp": {
      "url": "https://edge.vinkius.com/vk_preview_YhwRL8adKsCUXpVOwybG0l7vG8Iky4FGyj9DhmOn/mcp"
    }
  }
}

• Claude
• ChatGPT
• Cursor
• VS Code
• Windsurf
• Claude Code
• JetBrains
• Cline

Open WebUIへの接続は一度だけで完了します。認証情報は暗号化されて保持されるため、接続後はすぐにローカルモデルとの対話を開始できます。

• 01

  AIが新しいモデルを自動でダウンロードすることはありますか？

  いいえ。AIができるのは、すでにOllamaを通じてダウンロード済みのモデルを確認し、使用することだけです。

• 02

  データがコンピュータの外に送信されることはありますか？

  いいえ。推論はローカルのOllamaインスタンスを通じて行われるため、実際のデータ処理はすべてご自身のハードウェア内で完結します。

• 03

  AIがローカルのモデルを削除することはありますか？

  いいえ。提供されているツールは、リスト表示、生成、埋め込みのみを許可しています。ローカルファイルを削除したり変更したりする権限はありません。

• 04

  AIはどのモデルを使うべきかをどうやって判断しますか？

  利用可能なモデルのリストを参照し、リクエストの内容に最も適した、あるいは一致するモデルを特定します。

• 05

  どんなローカルLLMでも使えますか？

  Ollamaに対応しており、かつOpen WebUI経由で認識できるモデルであれば、どれでも使用可能です。

• Open WebUIについてさらに詳しく知りたいですか？ Open WebUIコネクタの全機能を見る