• INFÉRENCE
  • INVENTAIRE
  • VALIDATION
  • HUMAIN

Lancer des prédictions de modèles avec votre IA via Baseten

Connectez votre IA à Baseten pour déclencher des inférences sur vos modèles hébergés. Envoyez vos données et recevez les résultats directement dans la conversation.

Demandez à l'IA à propos de cette page

Réponse rapide

Comment lancer des prédictions avec mon IA ?

Vous envoyez vos données directement aux modèles déployés sur Baseten. Votre IA utilise cette connexion pour déclencher l'inférence et renvoie la réponse du modèle dans votre interface de chat. Cela vous permet de tester vos modèles et de vérifier les résultats sans quitter votre outil habituel.

Résultats de vos requêtes

Où vont vos données

Ce qui se passe quand votre IA interagit avec Baseten.

INFÉRENCE

Exécution en direct

Votre IA envoie les données au GPU. Vous recevez la prédiction du modèle sous forme de texte ou de données structurées.

INVENTAIRE

Visibilité des modèles

Votre agent identifie les modèles actifs et prêts à l'emploi. Cela garantit la précision de vos instructions.

VALIDATION

Contrôle des sorties

Vous pouvez demander immédiatement à votre IA d'évaluer si la réponse du modèle respecte vos critères.

HUMAIN

Supervision manuelle

Vous décidez si la prédiction est exploitable pour votre application ou si l'entrée doit être ajustée.

Le flux

Ce que fait votre IA lors d'une requête.

L'IA gère la communication entre votre prompt et la puissance du GPU.

  1. Identifier les modèles disponibles

    L'IA vérifie quels points de terminaison (endpoints) sont actuellement déployés et prêts pour l'inférence.

    list_models

  2. Formater la charge utile

    Votre agent transforme votre demande en langage naturel en un format JSON spécifique attendu par le modèle.

    predict

  3. Exécuter l'inférence

    L'IA envoie les données formatées vers l'endpoint Baseten pour lancer le calcul sur le GPU.

    predict

  4. Livrer le résultat

    L'IA récupère la sortie brute du modèle et vous la présente directement dans le chat.

    predict

Essayez

Copiez ces exemples pour commencer.

Utilisez ces prompts pour interagir avec vos modèles.

Points de départ

Adaptez les noms des modèles et les types de données à vos besoins spécifiques.

Baseten Connector

Tout est prêt. Choisissez votre client MCP et suivez les instructions de configuration.

Lien du connecteurhttps://edge.vinkius.com/vk_preview_Iok4x74580t8DfXgX0kQJnXTan6vttePrqZ5XRGU/mcp

Claude Desktop

Suivez les étapes ci-dessous pour vous connecter en quelques secondes.

  1. 1In Claude Desktop, open Settings → Connectors.
  2. 2Click “Add custom connector” and paste the connector link above as the remote MCP server URL.
  3. 3Click Add and start a new chat — Baseten capabilities are ready to use.
Configuration · claude_desktop_config.jsonCopier
{
  "mcpServers": {
    "baseten-mcp": {
      "url": "https://edge.vinkius.com/vk_preview_Iok4x74580t8DfXgX0kQJnXTan6vttePrqZ5XRGU/mcp"
    }
  }
}
Copiez dans le chat04

  • Liste mes modèles déployés pour que je sache ce que je peux utiliser.

  • Lance une prédiction sur mon modèle de génération d'images avec cette description : un coucher de soleil sur une ville néon.

  • Teste mon modèle d'analyse de sentiment avec ce texte : 'Le service était correct, mais la nourriture était froide.'

  • Quels modèles sont disponibles actuellement ?

  • Claude
  • ChatGPT
  • Cursor
  • VS Code
  • Windsurf
  • Claude Code
  • JetBrains
  • Cline

Commencez ici

Connectez Baseten une fois, puis demandez.

Liez votre compte une seule fois. Vos identifiants restent chiffrés et vous pouvez lancer des prédictions immédiatement.

Connecter Baseten à votre IA

FAQ

Questions fréquentes

  • 01

    Mon IA peut-elle déployer de nouveaux modèles sur Baseten ?

    Non. L'IA peut uniquement interagir avec les modèles déjà déployés et listés dans votre compte.

  • 02

    L'IA peut-elle modifier mes types d'instances GPU ?

    Non. L'IA peut seulement déclencher des prédictions sur les endpoints existants ; elle ne peut pas modifier votre infrastructure ou vos paramètres matériels Baseten.

  • 03

    Comment l'IA sait-elle quel modèle utiliser ?

    Elle utilise la liste des modèles disponibles pour identifier l'endpoint correspondant à la tâche demandée.

  • 04

    L'IA a-t-elle accès à mes données brutes ?

    Oui, l'IA doit traiter vos données pour formater la requête nécessaire à la prédiction du modèle.

  • 05

    Puis-je utiliser cela pour surveiller les coûts des modèles ?

    Non. Ce connecteur sert à lancer des prédictions et à lister les modèles, pas à accéder à la facturation ou aux métriques d'utilisation.

  • D'autres questions sur Baseten ? La page du connecteur y répond. Voir toutes les capacités du connecteur Baseten

Connectez Baseten à Claude, Cursor, ChatGPT et d'autres