- RAW
- CLEAN
- READY
- REVIEW
すぐに答え
AIを使ってWebデータをスクレイピングし、構造化するには?
URLのスクレイピングから、カスタムコードによる結果の整形までを一つのパイプラインとして実行します。これにより、非構造化されたWebページをクリーンなJSONやCSVファイルに変換し、次の作業にすぐ使える状態に整えられます。
出力結果
データの流れ
AIは以下のプロセスを経て、情報を最終的な形へと導きます。
RAW
非構造化コンテンツ
AIがURLから生のHTMLやテキストを取得します。クリーニング前の、整理されていない初期状態です。
CLEAN
構造化データセット
AIがロジックを適用し、テキストを特定のフィールドに変換します。単なるテキストの塊ではなく、整理された行と列のデータになります。
READY
利用可能なファイル
処理されたデータは、用途に合わせてフォーマットされます。そのままスプレッドシートやデータベースへ直接取り込めます。
REVIEW
人間による確認
AIは定義したスキーマに適合しないデータをフラグ立てします。最終確定の前に、人間がこれらの例外ケースを確認できます。
ワークフロー
URLが入力された際、AIが行うこと
エージェントはVectorShiftを使い、Webサイトと構造化ファイルの間を繋ぎます。
ソースをスクレイピング
エージェントが対象URLからコンテンツを取得するためのシーケンスを開始します。
run_pipelineスキーマの定義
ヘッダー名やフィールドの型など、データの望ましい形式をAIに指示します。
create_transformationデータのクリーニング
AIがカスタムロジックを実行し、スクレイピングしたコンテンツから不要な情報を除去します。
run_transformationフローの実行
エージェントが全シーケンスを実行し、最終的な構造化ファイルを出力します。
run_pipeline
試してみる
以下のプロンプトをコピーして開始
これらのプロンプトを使って、最初のデータ抽出タスクを開始しましょう。
出発点
括弧内のテキストを、実際のURLや具体的なデータ要件に書き換えて使用してください。
VectorShift Connector
準備完了です。MCPクライアントを選択し、セットアップ手順に従ってください。
https://edge.vinkius.com/vk_preview_EmQ0ykbVFnJJJOx8Wrsr9PBOJ4yiohOhm84Pa96G/mcpClaude Desktop
以下の手順で数秒で接続できます。
- 1In Claude Desktop, open Settings → Connectors.
- 2Click “Add custom connector” and paste the connector link above as the remote MCP server URL.
- 3Click Add and start a new chat — VectorShift capabilities are ready to use.
{
"mcpServers": {
"vectorshift-ai-workflow-rag-automation-mcp": {
"url": "https://edge.vinkius.com/vk_preview_EmQ0ykbVFnJJJOx8Wrsr9PBOJ4yiohOhm84Pa96G/mcp"
}
}
}このURL [URL] をスクレイピングして、すべての商品名と価格をテーブル形式で抽出してください。
パイプラインを実行して、[URL] から最新のニュースの見出しと日付を取得してください。
変換ツールを使用して、このスクレイピングしたテキスト [TEXT] をJSONオブジェクトに変換してください。
[URL] から連絡先情報を抽出し、CSV形式で出力してください。
Claude
ChatGPT
Cursor
VS Code
Windsurf
Claude Code
JetBrains
Cline
ここから始める
VectorShiftを一度接続すれば、あとは指示するだけです。
VectorShiftにログインしてアカウントを連携してください。認証情報は暗号化されて保護されます。利用可能なツールの一覧はConnectorページで確認できます。
VectorShiftをAIに接続するFAQ
動作に関する詳細
- 01
ログインが必要なWebサイトをスクレイピングできますか?
いいえ。現在のツールは、一般に公開されているURLを対象に設計されています。
- 02
抽出したデータは自動的にGoogle スプレッドシートに保存されますか?
いいえ。AIは構造化データを作成しますが、そのデータを特定のスプレッドシートに移動するには、別のツールを使用するか手動のステップが必要です。
- 03
Pythonコードを使ってデータをクリーニングできますか?
はい。変換ツールを使用して、スクレイピングしたコンテンツに対してカスタムコードを実行できます。
- 04
データの構造はAIが自動的に決定しますか?
いいえ。AIが情報をどのように整理すべきかを正確に把握できるよう、ユーザーが変換ロジックやスキーマを定義します。
- 05
AIがコンピュータ上のファイルを削除することはありますか?
いいえ。このMCPは、パイプライン内でのデータ抽出と変換のみを処理します。
VectorShiftについて他に質問がありますか?Connectorページで回答しています。 VectorShift Connectorの全機能を見る
『VectorShift』を Claude、Cursor、ChatGPT などに接続
