Servidores GPU
Nodos GPU que llegan instalados y validados, con Kubernetes o Slurm listos. La orquestación cubre sistemas NVIDIA H200 y GB300.
Servidores GPU para IA, HPC y renderizado
VPSie construye capacidad GPU sobre su capa de metal desnudo y orquestación: los nodos se descubren, instalan y preparan para trabajo GPU mediante automatización, y luego se le entregan como un clúster listo. VPSie soporta sistemas NVIDIA H200 y GB300.
- Nodos instalados a través de la red con iPXE y Kickstart o Preseed
- Controladores, tiempo de ejecución de contenedores y monitoreo instalados mediante playbooks
- Ejecute Kubernetes, Slurm o un nodo independiente
- Controlado a través de una API y de la consola
Nodo GPU
Nodo GPU
Nodo GPU
Nodo GPU
Un grupo de nodos GPU
Cargas de trabajo en el grupo
Vista de ejemplo. Ilustrativo, no son datos en vivo.
Lo que la automatización hace para cada nodo
De una máquina montada en rack a un recurso listo para GPU.
Aprovisionar
La aprovisionamiento de metal desnudo instala el sistema operativo mediante arranque por red, utilizando el controlador de gestión del servidor (Redfish, IPMI o una interfaz del proveedor).
Configurar
Los playbooks instalan los controladores, el runtime de contenedores, el almacenamiento compartido para puntos de control y una pila de monitoreo, en orden.
Validar y registrar
Se ejecutan las comprobaciones de validación, los resultados se muestran en la consola y la API, y los nodos que aprueban se unen al programador como listos para GPU.
Dos plataformas de GPU
NVIDIA H200
Generación Hopper, 141 GB de memoria HBM3e por GPU, hasta 4.8 TB/s de ancho de banda de memoria, en formatos SXM y NVL.
- Puesta en marcha de NVLink y NVSwitch para nodos de 8 GPU
- Comprobaciones de puertos InfiniBand NDR 400G y configuración del gestor de subred
- Detección de errores XID con cuarentena automática de nodos y reprovisionamiento
- Perfiles MIG desde 1g.20gb hasta 7g.141gb
NVIDIA GB300
Sistema a escala de rack Blackwell con 72 GPU en NVLink 5.0, que funciona con CPU ARM64 Grace.
- Descubrimiento e inventario Redfish a nivel de rack
- Validación del tejido NVLink tras el arranque
- Alertas de estado del refrigeración líquida
- Cambios dinámicos de MIG sin reinicio
Pila de software lista desde el primer día
Las imágenes están preparadas para tareas de IA, por lo que el primer trabajo no comienza con la instalación de un controlador.
Sistemas operativos
Ubuntu Server LTS (20.04, 22.04, 24.04), Rocky Linux, AlmaLinux, Red Hat, Debian y NVIDIA DGX OS donde la plataforma lo requiera.
Bibliotecas de IA
CUDA, cuDNN y NCCL, con PyTorch, TensorFlow y JAX como marcos de trabajo compatibles.
Contenedores y programación
Docker, Kubernetes con el NVIDIA GPU Operator, o Slurm con definiciones de recursos conscientes de GPU.
Compartición de una GPU
Asigne una GPU en relación 1:1, combine varias o divida una con MIG o vGPU para que las tareas pequeñas no ocupen una tarjeta completa.
Monitoreo
Métricas DCGM con paneles de Prometheus y Grafana, y enrutamiento automático de alertas.
Fabricantes de hardware
Funciona en sistemas de Dell, ASUS, HPE y Supermicro que exponen una interfaz de control BMC o API.
Tiempo hasta un clúster operativo
El tiempo de despliegue típico para un clúster completo de 8 nodos H200 o GB300, desde bare metal hasta listo para entrenar, es de unos 12 a 20 minutos mediante una sola llamada a la API de orquestación. Usted elige el tipo de GPU, el stack, si activar MIG y qué nodos participan.
- Una llamada elige Kubernetes, Slurm o independiente
- El suite de validación se ejecuta antes de marcar los nodos como listos
- Progreso y resultados de aprobación o rechazo visibles en la consola
- Misma cuenta de VPSie, proyectos y tokens de API
Dónde encaja
Planes en bare metal
Los planes de GPU aparecen en bare metal con imágenes compatibles con NVIDIA. En la beta se marcan como beta.
Ejecútelo en su sitio
Utilice la misma orquestación en su propio hardware de GPU en una nube privada, incluidos los sitios aislados.
Orqueste con Kubernetes
Agregue nodos de GPU a un clúster de Kubernetes con el plugin de dispositivo y el GPU Operator.
Preguntas sobre GPUs
¿Qué GPUs se admiten?
VPSie admite sistemas NVIDIA H200 y GB300. Otros modelos pueden listarse como planes en bare metal; pregúntenos por el que necesite.
¿Puedo ejecutar Slurm?
Sí. Se admiten Slurm y Kubernetes, así como un nodo independiente sin programador.
¿Puede una GPU atender a varios usuarios?
Sí. La partición MIG o vGPU divide la tarjeta y Kubernetes puede programar en función de las etiquetas de recursos MIG.
¿Funciona sin Redfish ni IPMI?
Sí. Las alternativas incluyen interfaces del proveedor como iDRAC e iLO, arranque por red, control basado en agentes y APIs de hipervisor.
¿Puedo usarlo sin conexión?
La orquestación no requiere un servicio externo, por lo que es apta para instalaciones aisladas. Debe proporcionar los espejos de software en el sitio.
Planificar una implementación de GPU
Indíquenos el modelo, el número de nodos y el programador, y dimensionaremos la solución con usted.