Escolher a GPU certa para uma carga de trabalho de IA é a diferença entre pagar por silício ocioso e entregar um modelo no prazo — veja como a RTX 4090, a A100 e a H100 realmente se comparam quando você as aluga.
Alugar um servidor GPU significa ter poder de computação de nível datacenter sem o custo de capital, as contas de energia ou os prazos de entrega de 40 semanas das placas de datacenter. A parte difícil é combinar a placa certa com o trabalho certo.
Compre pequeno demais e seu modelo não vai caber na VRAM. Compre grande demais e você estará pagando as taxas da H100 para rodar um chatbot de 7B que uma 4090 atenderia perfeitamente bem. Este guia detalha onde cada placa se destaca.
As três placas em resumo
RTX 4090
Ada Lovelace para consumidor, 24GB GDDR6X. A campeã de custo-benefício para inferência e pequenos fine-tunings. Sem NVLink, sem ECC.
A100
Ampere para datacenter, 40GB ou 80GB HBM2e. NVLink, particionamento MIG e ECC. O cavalo de batalha comprovado para treinamento.
H100
Hopper para datacenter, 80GB HBM3. Um Transformer Engine com FP8 nativo e enorme largura de banda de memória. Projetada para treinamento de modelos grandes e serviço de LLM de alto throughput.
VRAM é a primeira pergunta, não a última
Antes de olhar para a velocidade bruta, pergunte se o seu modelo sequer cabe. Se os pesos, as ativações e o KV cache não cabem na VRAM, nenhuma quantidade de poder computacional ajuda — você fica preso fazendo offload para a RAM do sistema com uma penalidade brutal.
- 24GB (RTX 4090): confortável para inferência de 7B-13B, modelos de 30B quantizados e fine-tuning LoRA de modelos menores.
- 40GB (A100): 13B em precisão total, inferência de 70B quantizado e execuções de treinamento de médio porte.
- 80GB (A100/H100): inferência de 70B em precisão reduzida, fine-tunings maiores e treinamento multi-GPU como um único nó.
- Multi-GPU: treinamento de fronteira e fine-tuning completo de 70B+ exigem várias placas conectadas via NVLink ou um fabric rápido.
Regra geral: reserve aproximadamente 2GB de VRAM por bilhão de parâmetros em FP16 para inferência, mais uma folga para o KV cache. A quantização (INT8/INT4) reduz isso substancialmente, mas pode custar precisão.
Precisão: onde a H100 se destaca
Tanto a RTX 4090 quanto a H100 suportam FP8, mas o Transformer Engine da H100 gerencia o escalonamento de FP8 automaticamente entre as camadas de um modelo. Essa é uma vantagem real de throughput para treinamento e serviço de transformers, não um truque de ficha técnica.
A A100 é anterior ao FP8 e tem como limite o TF32 e o BF16. Ainda assim, é excelente para treinamento — apenas espere que a H100 conclua a mesma execução significativamente mais rápido em arquiteturas transformer.
Combine a placa com o trabalho
Inferência / serviço
RTX 4090. Melhor custo por token para modelos de até ~13B. Escale horizontalmente com mais 4090s em vez de uma única placa gigante.
Fine-tuning (LoRA / pequeno)
RTX 4090 ou A100 40GB. LoRA em um modelo de 7B-13B roda tranquilamente em uma única 4090.
Fine-tuning completo / treinamento médio
A100 80GB. ECC e NVLink passam a importar quando as execuções levam horas e o escalonamento multi-GPU começa.
Treinamento de modelos grandes
H100. FP8 e largura de banda reduzem o tempo real de treinamento de transformers, que é onde as horas de aluguel se acumulam mais rápido.
API de LLM de alto throughput
H100. Quando você está atendendo milhares de requisições simultâneas, a largura de banda de memória e o throughput em FP8 se pagam.
Trabalhos em lote / offline
RTX 4090. Se a latência não importa, placas de consumidor baratas rodam durante a noite por uma fração do custo.
O erro mais comum: alugar uma H100 para rodar inferência em um modelo de 7B. Você usará apenas uma fração da capacidade dela e pagará várias vezes a taxa da 4090 por isso.
A conta de custo que realmente importa
A taxa por hora chama a atenção, mas o que você deve otimizar é o throughput por dólar. Uma placa que custa o dobro, mas é três vezes mais rápida na sua carga de trabalho, sai mais barata por tarefa concluída.
- 1
Faça benchmark com sua carga de trabalho
Rode seu modelo real e o tamanho de batch real, não um benchmark genérico. Meça tokens/seg ou samples/seg, não TFLOPS.
- 2
Divida pela taxa por hora
Calcule o throughput por dólar para cada opção de placa. Isso reordena o ranking com mais frequência do que as pessoas esperam.
- 3
Considere o tempo ocioso
Se sua GPU fica ociosa entre tarefas, uma placa mais barata ou um modelo de recarga por hora supera uma placa rápida que você não está saturando.
- 4
Considere egress e armazenamento
Mover datasets e checkpoints para dentro e para fora tem um custo. Largura de banda ilimitada elimina essa variável por completo.
Na ChainVPS, a frota de GPUs é pré-paga a partir de um saldo recarregado em cripto, com largura de banda ilimitada, então mover um dataset de 200GB para a máquina não custa nada extra — você paga pelas horas de GPU, não pela transferência. Se você está dimensionando um projeto, a página /gpu-server lista os planos e localizações atuais de RTX 4090, A100 e H100.
Considerações de privacidade para cargas de trabalho de IA
Dados de treinamento e pesos de modelo são ativos sensíveis. Onde eles ficam fisicamente armazenados, e quem pode intimar o provedor, faz parte da decisão de engenharia — não é um detalhe secundário.
- Escolha uma jurisdição de forma deliberada. Localizações de privacidade (NL, CH, RO, IS, MD, LU) ficam fora dos regimes mais agressivos de solicitação de dados.
- Prefira provedores que não exigem documentos de identidade para colocar a computação no ar — sem KYC significa nenhum dataset dos seus projetos vinculado a um nome legal.
- Pague a partir de um saldo pré-pago em vez de uma cobrança recorrente no cartão, para que não exista um rastro de pagamento ligando a carga de trabalho a você.
- Mantenha os checkpoints criptografados em repouso e retire-os da máquina assim que a execução terminar.
Os servidores GPU da ChainVPS não exigem verificação de identidade e são pagos a partir de um saldo pré-pago, recarregável com qualquer uma das 21 moedas suportadas, incluindo Monero, o que mantém sua pesquisa separada da sua identidade. Veja as opções de GPU offshore na página /gpu-server.
Um atalho rápido para a decisão
Uma RTX 4090 é realmente utilizável para trabalho sério de IA?
Sim — para inferência e pequenos fine-tunings, ela oferece o melhor custo por token das três. Seus limites são o teto de 24GB de VRAM e a ausência de NVLink e ECC, que importam para grandes execuções de treinamento multi-GPU, mas não para servir um modelo de 7B-13B.
Quando a H100 realmente vale o preço premium?
Quando sua carga de trabalho é treinamento de transformers em larga escala ou serviço de LLM de alto throughput. Seu Transformer Engine FP8 e a largura de banda de memória reduzem o tempo real o suficiente para que a taxa por hora mais alta gere um custo menor por tarefa concluída. Para inferência leve, é um exagero.
Posso alugar servidores GPU offshore e pagar em cripto?
Sim. Os planos de GPU da ChainVPS não exigem KYC e são pagos a partir de um saldo pré-pago, financiado com 21 moedas, incluindo Monero. Você recarrega, implanta, e sua carga de trabalho nunca fica vinculada a uma identidade legal.
Eu preciso de NVLink para o meu projeto?
Somente se você estiver treinando um modelo grande demais para uma única placa, onde as GPUs precisam trocar gradientes em alta velocidade. Inferência com uma única GPU e fine-tuning LoRA não usam isso, motivo pelo qual a ausência de NVLink na 4090 raramente importa para esses trabalhos.
