Página inicial da VPSie
Serviços

Servidores GPU

Nós GPU que chegam instalados e validados, com Kubernetes ou Slurm prontos. A orquestração cobre sistemas NVIDIA H200 e GB300.

GPUTreinamentoInferênciaRenderizaçãoGPUTreinamentoInferênciaRenderização

Servidores GPU para IA, HPC e renderização

A VPSie constrói capacidade GPU em sua camada de bare metal e orquestração: os nós são descobertos, instalados e preparados para trabalho com GPU por automação, e então entregues a você como um cluster pronto. A VPSie suporta sistemas NVIDIA H200 e GB300.

  • Nós instalados pela rede com iPXE e Kickstart ou Preseed
  • Drivers, runtime de contêiner e monitoramento instalados por playbooks
  • Execute Kubernetes, Slurm ou um nó standalone
  • Controlado por API e também pelo console

Nó de GPU

Nó de GPU

Nó de GPU

Nó de GPU

Um pool de nós de GPU

Cargas de trabalho em todo o pool

Treinamento
Inferência
Renderização

Visualização de exemplo. Ilustrativo, não são dados ao vivo.

O que a automação faz para cada nó

De uma máquina em rack a um recurso pronto para GPU.

Provisionar

O provisionamento bare metal instala o sistema operacional por boot de rede, usando o controlador de gerenciamento do servidor (Redfish, IPMI ou uma interface do fabricante).

Configurar

Os playbooks instalam drivers, o runtime de contêineres, armazenamento compartilhado para checkpoints e uma pilha de monitoramento, em ordem.

Validar e registrar

As verificações de validação são executadas, os resultados aparecem no console e na API, e os nós aprovados se juntam ao agendador como prontos para GPU.

Duas plataformas de GPU

H200

NVIDIA H200

Geração Hopper, 141 GB de memória HBM3e por GPU, até 4.8 TB/s de largura de banda de memória, em formatos SXM e NVL.

  • Configuração inicial de NVLink e NVSwitch para nós de 8 GPUs
  • Verificação de portas InfiniBand NDR 400G e configuração do gerenciador de sub-rede
  • Detecção de erros XID com quarentena automática de nós e reprovisionamento
  • Perfis MIG de 1g.20gb até 7g.141gb
GB300

NVIDIA GB300

Sistema em escala de rack Blackwell com 72 GPUs em NVLink 5.0, executado em CPUs ARM64 Grace.

  • Descoberta e inventário Redfish em todo o rack
  • Validação do tecido NVLink após a inicialização
  • Alertas de saúde do resfriamento líquido
  • Alterações dinâmicas de MIG sem reinicialização

Stack de software pronta no primeiro dia

As imagens são preparadas para trabalho de IA, para que a primeira tarefa não comece com a instalação de um driver.

Sistemas operacionais

Ubuntu Server LTS (20.04, 22.04, 24.04), Rocky Linux, AlmaLinux, Red Hat, Debian e NVIDIA DGX OS onde a plataforma exigir.

Bibliotecas de IA

CUDA, cuDNN e NCCL, com PyTorch, TensorFlow e JAX como frameworks suportados.

Contêineres e agendamento

Docker, Kubernetes com o NVIDIA GPU Operator, ou Slurm com definições de recursos conscientes de GPU.

Compartilhamento de GPU

Passe uma GPU em 1:1, combine várias ou divida uma com MIG ou vGPU para que tarefas pequenas não ocupem um cartão inteiro.

Monitoramento

Métricas DCGM com painéis Prometheus e Grafana, e roteamento automático de alertas.

Fornecedores de hardware

Funciona em sistemas Dell, ASUS, HPE e Supermicro que expõem uma interface de controle BMC ou API.

FrameworksPyTorch, TensorFlow, JAXContainers e agendamentoDocker, Kubernetes + GPU Operator, SlurmBibliotecas de IACUDA, cuDNN, NCCLSistema operacionalUbuntu LTS, Rocky, Alma, RHEL, Debian, DGX OSHardware de servidor GPUDell, ASUS, HPE, SupermicroMonitoramentoMétricas DCGMPrometheus ePainéis GrafanaAlerta automáticoroteamentoCompartilhe uma GPU: passthrough 1:1, combine várias ou divida com MIG ou vGPUFrameworksPyTorch, TensorFlow, JAXMonitoramentoMétricas DCGMPrometheus ePainéis GrafanaAlerta automáticoroteamentoContainers e agendamentoDocker, Kubernetes + GPU Operator, SlurmBibliotecas de IACUDA, cuDNN, NCCLSistema operacionalUbuntu LTS, Rocky, Alma, RHEL, Debian,DGX OSHardware de servidor GPUDell, ASUS, HPE, SupermicroCompartilhe uma GPU: passthrough 1:1, combinevárias ou divida com MIG ou vGPU
O que está pronto na imagem, do hardware aos frameworks.
GPUGPUGPUGPUGPUGPUGPUGPU12 a 20 minpara um cluster ativocluster de 8 nósGPUGPUGPUGPUGPUGPUGPUGPU12 a 20 minpara um cluster ativocluster de 8 nós

Tempo até um cluster funcional

O tempo típico de implantação de um cluster completo de 8 nós H200 ou GB300, do bare metal até pronto para treinamento, é de cerca de 12 a 20 minutos por meio de uma única chamada de API de orquestração. Você escolhe o tipo de GPU, a stack, se deve ativar o MIG e quais nós participarão.

  • Uma chamada escolhe Kubernetes, Slurm ou standalone
  • A suíte de validação é executada antes que os nós sejam marcados como prontos
  • Progresso e resultados de aprovação ou reprovação visíveis no console
  • Mesma conta VPSie, projetos e tokens de API

Onde se aplica

Planos em bare metal

Os planos de GPU aparecem em bare metal com imagens compatíveis com NVIDIA. Na beta, são marcados como beta.

Execute no seu site

Use a mesma orquestração no seu próprio hardware de GPU em uma nuvem privada, incluindo sites isolados.

Orquestre com Kubernetes

Adicione nós de GPU a um cluster Kubernetes com o device plugin e o GPU Operator.

Dúvidas sobre GPUs

Quais GPUs são suportadas?

A VPSie suporta sistemas NVIDIA H200 e GB300. Outros modelos podem ser listados como planos em bare metal; consulte-nos sobre o modelo de que você precisa.

Posso executar o Slurm?

Sim. Slurm e Kubernetes são ambos suportados, assim como um nó standalone sem agendador.

Uma GPU pode atender vários usuários?

Sim. A partição MIG ou vGPU divide o cartão, e o Kubernetes pode agendar com base nos rótulos de recurso MIG.

Funciona sem Redfish ou IPMI?

Sim. As alternativas incluem interfaces de fornecedores como iDRAC e iLO, boot de rede, controle baseado em agente e APIs de hipervisor.

Posso usá-lo offline?

A orquestração não requer um serviço externo, portanto, é adequada para instalações air-gapped. Os espelhos de software devem ser fornecidos no local.

Planejar um deployment de GPU

Informe o modelo, a quantidade de nós e o agendador, e dimensionaremos com você.