Serveurs GPU
Nœuds GPU livrés installés et validés, avec Kubernetes ou Slurm prêts. L'orchestration couvre les systèmes NVIDIA H200 et GB300.
Serveurs GPU pour l'IA, le HPC et le rendu
VPSie construit sa capacité GPU sur sa couche bare metal et d'orchestration : les nœuds sont découverts, installés et préparés pour le travail GPU par l'automatisation, puis remis sous forme de cluster prêt à l'emploi. VPSie prend en charge les systèmes NVIDIA H200 et GB300.
- Nœuds installés sur le réseau avec iPXE et Kickstart ou Preseed
- Pilotes, runtime conteneur et supervision installés par des playbooks
- Exécutez Kubernetes, Slurm ou un nœud autonome
- Contrôlé via une API ainsi que la console
Nœud GPU
Nœud GPU
Nœud GPU
Nœud GPU
Un seul pool de nœuds GPU
Charges de travail sur le pool
Vue d'exemple. Illustratif, pas de données en direct.
Ce que l'automatisation fait pour chaque nœud
De la machine en rack à la ressource prête pour GPU.
Provisionner
Le provisionnement bare metal installe le système d'exploitation via le démarrage réseau, en utilisant le contrôleur de gestion du serveur (Redfish, IPMI ou une interface fournisseur).
Configurer
Les playbooks installent les pilotes, le runtime de conteneurs, le stockage partagé pour les points de contrôle et la pile de supervision, dans l'ordre.
Valider et enregistrer
Les contrôles de validation s'exécutent, les résultats s'affichent dans la console et l'API, et les nœuds validés rejoignent le planificateur en tant que prêts pour GPU.
Deux plateformes GPU
NVIDIA H200
Génération Hopper, 141 GB de mémoire HBM3e par GPU, jusqu'à 4.8 TB/s de bande passante mémoire, en formats SXM et NVL.
- Mise en service de NVLink et NVSwitch pour les nœuds 8-GPU
- Vérification des ports InfiniBand NDR 400G et configuration du gestionnaire de sous-réseau
- Détection des erreurs XID avec quarantaine automatique du nœud et re-provisionnement
- Profils MIG de 1g.20gb à 7g.141gb
NVIDIA GB300
Système rack-scale Blackwell doté de 72 GPU sur NVLink 5.0, fonctionnant sur des CPU ARM64 Grace.
- Découverte et inventaire Redfish à l'échelle du rack
- Validation du tissu NVLink après le démarrage
- Alertes sur l'état du refroidissement liquide
- Modifications MIG dynamiques sans redémarrage
Pile logicielle prête dès le premier jour
Les images sont préparées pour les tâches IA, de sorte que le premier travail ne commence pas par l'installation d'un pilote.
Systèmes d'exploitation
Ubuntu Server LTS (20.04, 22.04, 24.04), Rocky Linux, AlmaLinux, Red Hat, Debian et NVIDIA DGX OS lorsque la plateforme l'exige.
Bibliothèques IA
CUDA, cuDNN et NCCL, avec PyTorch, TensorFlow et JAX en tant que frameworks pris en charge.
Conteneurs et planification
Docker, Kubernetes avec le NVIDIA GPU Operator, ou Slurm avec des définitions de ressources prenant en compte les GPU.
Partage d'un GPU
Transmettre un GPU en 1:1, en combiner plusieurs, ou diviser un GPU avec MIG ou vGPU afin que les petites tâches n'occupent pas une carte entière.
Supervision
Métriques DCGM avec tableaux de bord Prometheus et Grafana, et routage automatique des alertes.
Fournisseurs de matériel
Fonctionne sur les systèmes Dell, ASUS, HPE et Supermicro exposant une interface de contrôle BMC ou API.
Délai pour un cluster opérationnel
Le temps de déploiement type d'un cluster complet H200 ou GB300 de 8 nœuds, du bare metal à l'état prêt pour l'entraînement, est d'environ 12 à 20 minutes via un seul appel d'API d'orchestration. Vous choisissez le type de GPU, la pile, si activer MIG et quels nœuds participent.
- Un appel choisit Kubernetes, Slurm ou autonome
- La suite de validation s'exécute avant que les nœuds ne soient marqués prêts
- Progression et résultats de réussite ou d’échec visibles dans la console
- Même compte VPSie, mêmes projets et mêmes jetons API
Cas d’usage
Offres sur bare metal
Les offres GPU figurent sur bare metal avec des images compatibles NVIDIA. En phase bêta, elles sont marquées beta.
Déployez-le sur votre site
Utilisez la même orchestration sur votre propre matériel GPU dans un cloud privé, y compris sur des sites isolés.
Orchestrez avec Kubernetes
Ajoutez des nœuds GPU à un cluster Kubernetes à l’aide du device plugin et du GPU Operator.
Questions sur les GPU
Quels GPU sont pris en charge ?
VPSie prend en charge les systèmes NVIDIA H200 et GB300. D’autres modèles peuvent être proposés en tant qu’offres sur bare metal ; demandez-nous le modèle dont vous avez besoin.
Puis-je exécuter Slurm ?
Oui. Slurm et Kubernetes sont tous deux pris en charge, de même qu’un nœud autonome sans ordonnanceur.
Un GPU peut-il servir plusieurs utilisateurs ?
Oui. Le partitionnement MIG ou vGPU divise la carte, et Kubernetes peut planifier en fonction des étiquettes de ressources MIG.
Fonctionne-t-il sans Redfish ni IPMI ?
Oui. Les solutions de repli incluent les interfaces du fabricant telles que iDRAC et iLO, le démarrage réseau, le contrôle par agent et les API de l'hyperviseur.
Puis-je l'utiliser hors ligne ?
L'orchestration ne nécessite pas de service externe, ce qui convient aux installations isolées. Les miroirs logiciels doivent être fournis sur site.
Planifier un déploiement GPU
Indiquez-nous le modèle, le nombre de nœuds et le planificateur, et nous dimensionnerons la solution avec vous.