Souscrire à un service LLM Mistral et le déployer

En tant qu’acheteur sur OUTSCALE Marketplace, vous pouvez souscrire à un service LLM Mistral (“large language model” ou “LLM” en anglais) depuis le catalogue, puis le déployer dans la Région cloudgouv-eu-west-1.

Un service LLM Mistral comprend un grand modèle de langage (LLM), une machine virtuelle (VM) et un flexible GPU (fGPU), déployés sur une instance d’inférence dédiée à un LLM.

Un service LLM Mistral est facturé à partir de la date de déploiement sur une base mensuelle. Tout mois entamé est facturé entièrement.

Souscrire à un service LLM Mistral

Pour souscrire à un service LLM Mistral :

  1. Dans l’interface de la Marketplace, cliquez sur l’onglet Catalogue.
    Le catalogue de produits apparaît.

  2. Utilisez les filtres sur la gauche pour trouver le service LLM souhaité.

  3. Cliquez sur la vignette du service LLM souhaitée.
    La page du service LLM apparaît.

  4. Cliquez sur Procéder à la souscription.
    La page Souscription apparaît.

  5. Cliquez sur Souscrire.
    Votre souscription est confirmée et vous pouvez déployer le service LLM depuis la page Mes services.

Déployer un service LLM Mistral

Avant de commencer :

  • Pour des raisons de sécurité, nous vous recommandons de créer un utilisateur Elastic Identity Management (EIM) dans le compte OUTSCALE correspondant et de lui attacher la politique ci-dessous. Pour en savoir plus, voir Elastic Identity Management (EIM).

    Details 
    {
"Statement": [
      {
        "Effect": "Allow",
        "Action": [
          "api:CreateVms",
          "api:DeleteVms",
          "api:ReadAccounts",
          "api:ReadNets",
          "api:ReadSecurityGroups",
          "api:ReadSubnets",
          "api:ReadSubregions",
          "api:ReadVms",
          "api:UpdateVm"
        ],
        "Resource": [
          "*"
        ]
      }
    ]
}

  • Créez un Net dans la région cloudgouv-eu-west-1. Pour en savoir plus, voir Créer un Net.

  • Créez au moins un security group. Pour en savoir plus, voir Créer un security group.

    Lorsque vous configurez les règles de votre security group, vous devez ouvrir un flux sur le port 5000.

Pour déployer un service LLM Mistral :

  1. Dans l’interface de la Marketplace, cliquez sur le menu utilisateur IconUserMenu, puis Mes souscriptions.
    La page Mes souscriptions apparaît.

  2. Cliquez sur Accéder à mes services depuis la vignette de souscription correspondante.
    La page Mes services apparaît.

  3. Cliquez sur Déployer un service.

  4. Saisissez les access keys de l’utilisateur souhaité et cliquez sur Suivant.

    Vous devrez vous authentifier avec ces access keys pour gérer le service ultérieurement. Pour en savoir plus sur les access keys, voir À propos des access keys.

  5. Sélectionnez un Net.

    • Si vous n’avez pas créé les ressources nécessaires au début de la procédure, vous pouvez les créer à cette étape, puis cliquer sur Recharger les ressources dans un délai de 30 minutes avant expiration de la session. Vous pourrez alors sélectionner les ressources nouvellement créées.

    • À l’étape du récapitulatif, vous pouvez modifier les ressources sélectionnées en cliquant sur ico Marketplace Edit pour les ressources souhaitées.

  6. (optionnel) Créez un Subnet dans la Sous-région cloudgouv-eu-west-1a ou cloudgouv-eu-west-1b, selon ce qui est indiqué dans l’interface.

    Pour en savoir plus, voir Créer un Subnet dans un Net.

  7. Sélectionnez un Subnet et cliquez sur Suivant.

  8. Sélectionnez un ou plusieurs security groups et cliquez sur Suivant.

  9. Cliquez sur Déployer le service.
    Le déploiement du service LLM est lancé et vous pouvez suivre l’état de la machine virtuelle associée depuis Cockpit.

    Un délai d’environ 10 minutes peut s’écouler entre la création de la machine virtuelle associée à votre service LLM Mistral, et le moment où vous pouvez utiliser votre service LLM.

    Pour en savoir plus sur les requêtes à exécuter pour interroger votre modèle une fois qu’il a été déployé, voir Interroger un modèle Mistral.

Désactiver un service LLM Mistral

Désactiver un service LLM termine automatiquement la VM associée. La VM ne peut pas être récupérée ensuite. Pour en savoir plus, voir À propos du cycle de vie des VM.

Pour désactiver un service LLM Mistral :

  1. Dans l’interface de la Marketplace, cliquez sur le menu utilisateur IconUserMenu, puis Mes souscriptions.
    La page Mes souscriptions apparaît.

  2. Cliquez sur Accéder à mes services depuis la vignette de souscription correspondante.
    La page Mes services apparaît.

  3. Cliquez sur Désactiver le service pour le service souhaité.
    La page de désactivation du service apparaît.

  4. Saisissez les access keys de l’utilisateur sélectionné au moment du déploiement.

  5. Cliquez sur Désactiver le service.
    Le service LLM est désactivé et la VM associée est terminée.

Pages connexes

Exporter en PDF