• RAW
  • CLEAN
  • READY
  • REVIEW

AIを活用してWebサイトからデータを自動抽出する方法

VectorShiftをAIクライアントに接続すれば、複雑なWebページを整理されたデータに変換できます。接続後は、エージェントがスクレイピングからデータのクリーニングまで一括して処理します。

このページについてAIに聞く

すぐに答え

AIを使ってWebデータをスクレイピングし、構造化するには?

URLのスクレイピングから、カスタムコードによる結果の整形までを一つのパイプラインとして実行します。これにより、非構造化されたWebページをクリーンなJSONやCSVファイルに変換し、次の作業にすぐ使える状態に整えられます。

出力結果

データの流れ

AIは以下のプロセスを経て、情報を最終的な形へと導きます。

RAW

非構造化コンテンツ

AIがURLから生のHTMLやテキストを取得します。クリーニング前の、整理されていない初期状態です。

CLEAN

構造化データセット

AIがロジックを適用し、テキストを特定のフィールドに変換します。単なるテキストの塊ではなく、整理された行と列のデータになります。

READY

利用可能なファイル

処理されたデータは、用途に合わせてフォーマットされます。そのままスプレッドシートやデータベースへ直接取り込めます。

REVIEW

人間による確認

AIは定義したスキーマに適合しないデータをフラグ立てします。最終確定の前に、人間がこれらの例外ケースを確認できます。

ワークフロー

URLが入力された際、AIが行うこと

エージェントはVectorShiftを使い、Webサイトと構造化ファイルの間を繋ぎます。

  1. ソースをスクレイピング

    エージェントが対象URLからコンテンツを取得するためのシーケンスを開始します。

    run_pipeline
  2. スキーマの定義

    ヘッダー名やフィールドの型など、データの望ましい形式をAIに指示します。

    create_transformation
  3. データのクリーニング

    AIがカスタムロジックを実行し、スクレイピングしたコンテンツから不要な情報を除去します。

    run_transformation
  4. フローの実行

    エージェントが全シーケンスを実行し、最終的な構造化ファイルを出力します。

    run_pipeline

試してみる

以下のプロンプトをコピーして開始

これらのプロンプトを使って、最初のデータ抽出タスクを開始しましょう。

出発点

括弧内のテキストを、実際のURLや具体的なデータ要件に書き換えて使用してください。

VectorShift Connector

準備完了です。MCPクライアントを選択し、セットアップ手順に従ってください。

コネクタリンクhttps://edge.vinkius.com/vk_preview_EmQ0ykbVFnJJJOx8Wrsr9PBOJ4yiohOhm84Pa96G/mcp

Claude Desktop

以下の手順で数秒で接続できます。

  1. 1In Claude Desktop, open Settings → Connectors.
  2. 2Click “Add custom connector” and paste the connector link above as the remote MCP server URL.
  3. 3Click Add and start a new chat — VectorShift capabilities are ready to use.
設定 · claude_desktop_config.jsonコピー
{
  "mcpServers": {
    "vectorshift-ai-workflow-rag-automation-mcp": {
      "url": "https://edge.vinkius.com/vk_preview_EmQ0ykbVFnJJJOx8Wrsr9PBOJ4yiohOhm84Pa96G/mcp"
    }
  }
}
チャットにコピー04
  • このURL [URL] をスクレイピングして、すべての商品名と価格をテーブル形式で抽出してください。

  • パイプラインを実行して、[URL] から最新のニュースの見出しと日付を取得してください。

  • 変換ツールを使用して、このスクレイピングしたテキスト [TEXT] をJSONオブジェクトに変換してください。

  • [URL] から連絡先情報を抽出し、CSV形式で出力してください。

  • Claude
  • ChatGPT
  • Cursor
  • VS Code
  • Windsurf
  • Claude Code
  • JetBrains
  • Cline

ここから始める

VectorShiftを一度接続すれば、あとは指示するだけです。

VectorShiftにログインしてアカウントを連携してください。認証情報は暗号化されて保護されます。利用可能なツールの一覧はConnectorページで確認できます。

VectorShiftをAIに接続する

FAQ

動作に関する詳細

  • 01

    ログインが必要なWebサイトをスクレイピングできますか?

    いいえ。現在のツールは、一般に公開されているURLを対象に設計されています。

  • 02

    抽出したデータは自動的にGoogle スプレッドシートに保存されますか?

    いいえ。AIは構造化データを作成しますが、そのデータを特定のスプレッドシートに移動するには、別のツールを使用するか手動のステップが必要です。

  • 03

    Pythonコードを使ってデータをクリーニングできますか?

    はい。変換ツールを使用して、スクレイピングしたコンテンツに対してカスタムコードを実行できます。

  • 04

    データの構造はAIが自動的に決定しますか?

    いいえ。AIが情報をどのように整理すべきかを正確に把握できるよう、ユーザーが変換ロジックやスキーマを定義します。

  • 05

    AIがコンピュータ上のファイルを削除することはありますか?

    いいえ。このMCPは、パイプライン内でのデータ抽出と変換のみを処理します。

  • VectorShiftについて他に質問がありますか?Connectorページで回答しています。 VectorShift Connectorの全機能を見る

『VectorShift』を Claude、Cursor、ChatGPT などに接続