• 速度
  • モデル
  • ワークフロー
  • 人間による管理

SambaNova MCPを使ってAIでオープンソースモデルを動かす方法

SambaNovaをAIクライアントに接続して、高スループットな推論を利用しましょう。接続後は、エージェントが専用ハードウェアを使用してオープンソースモデルを実行します。

このページについてAIに聞く

すぐに答え

AI経由でオープンソースモデルを実行するには?

SambaNovaをAIクライアントに接続することで、Llama 3やDeepSeekなどのモデルに対して高スループットな推論が可能になります。エージェントが単一のインターフェースを通じてモデルの実行を処理するため、アプリを切り替えることなくモデルに直接アクセスできます。

実現できること

この接続によって得られるメリット

SambaNovaを接続することで、エージェントの情報処理能力が向上します。

速度

高スループットな推論

エージェントがSambaNovaのハードウェアを使用して大規模モデルを実行します。これにより、負荷の高い推論タスクでも遅延を抑えられます。

モデル

オープンソースへのアクセス

Llama 3やDeepSeekなどのモデルを実行できます。エージェントがタスクに合わせて最適なモデルを自動的に選択します。

ワークフロー

単一のインターフェース

すべての操作は現在のチャットウィンドウ内で完結します。個別のAPIエンドポイントやWebコンソールを管理する必要はありません。

人間による管理

手動による確認

テキストの生成はAIが行いますが、最終的な確認はあなたが行います。どのモデルの回答が業務に役立つかを判断できるのはあなた自身です。

ワークフロー

リクエスト受信時のAIの動作

エージェントは接続を利用して、プロンプトと高性能ハードウェアを橋渡しします。

  1. プロンプトの受信

    エージェントが指示を受け取り、推論エンジンへのリクエストを準備します。

    create_chat_completion
  2. モデルへのルーティング

    エージェントが指定された特定のオープンソースモデルを選択します。

    create_chat_completion
  3. 推論の実行

    SambaNovaが専用ハードウェア上でモデルを動かし、回答を生成します。

    create_chat_completion
  4. テキストの出力

    生成された回答がチャットインターフェースに送り返されます。

    create_chat_completion

試してみる

以下のプロンプトをコピーして開始しましょう。

チャットにこれらを貼り付けて、接続をテストしてください。

出発点

これらは開始例です。必要に応じてモデル名や具体的なタスクを書き換えてください。

SambaNova Connector

準備完了です。MCPクライアントを選択し、セットアップ手順に従ってください。

コネクタリンクhttps://edge.vinkius.com/vk_preview_z52tsMdkFaoCTCBeg6u7bbxNhhnjcT0r5KXU6hjj/mcp

Claude Desktop

以下の手順で数秒で接続できます。

  1. 1In Claude Desktop, open Settings → Connectors.
  2. 2Click “Add custom connector” and paste the connector link above as the remote MCP server URL.
  3. 3Click Add and start a new chat — SambaNova capabilities are ready to use.
設定 · claude_desktop_config.jsonコピー
{
  "mcpServers": {
    "sambanova-ai-inference-mcp": {
      "url": "https://edge.vinkius.com/vk_preview_z52tsMdkFaoCTCBeg6u7bbxNhhnjcT0r5KXU6hjj/mcp"
    }
  }
}
チャットにコピー04
  • Llama 3を使用して、複雑な推論タスクを実行してください。

  • DeepSeekを使用して、このPythonスクリプトのバグを分析してください。

  • オープンソースモデルを使用して、技術的な要約を作成してください。

  • Llama 3がこの論理パズルをどのように解くか比較してください。

  • Claude
  • ChatGPT
  • Cursor
  • VS Code
  • Windsurf
  • Claude Code
  • JetBrains
  • Cline

ここから始める

SambaNovaを一度接続すれば、あとは指示するだけです。

一度の連携でMCPをクライアントに接続できます。ログイン情報は弊社側で暗号化して保持されます。詳細はコネクターのページで確認できます。

SambaNovaをAIに接続する

FAQ

動作に関する詳細

  • 01

    ローカルのモデルを実行するために使えますか?

    いいえ。このMCPはSambaNovaがホストするオープンソースモデルに接続するためのものであり、ローカルマシンに接続するものではありません。

  • 02

    AIは私のファイルにアクセスできますか?

    いいえ。このMCPは推論機能を提供するのみです。コンピュータ上のファイルを読み取ったり、書き込んだりすることはできません。

  • 03

    使用するモデルを選択できますか?

    はい。プロンプト内でLlama 3やDeepSeekなどのモデルを指定できます。

  • 04

    AIはチャット履歴を削除できますか?

    いいえ。このMCPには、チャット履歴やアカウントデータを管理・削除するツールは含まれていません。

  • 05

    APIキーを自分で管理する必要がありますか?

    いいえ。Vinkiusが接続を管理するため、推論エンジンごとのAPIキーを個別に扱う必要はありません。

  • SambaNovaについて他に質問がありますか? SambaNova Connectorの全機能を見る

『SambaNova』を Claude、Cursor、ChatGPT などに接続