Elegir la GPU adecuada para una carga de trabajo de IA marca la diferencia entre pagar por silicio inactivo y lanzar un modelo a tiempo: así es como se comparan realmente la RTX 4090, la A100 y la H100 cuando las alquilas.
Alquilar un servidor GPU significa obtener potencia de cómputo de nivel datacenter sin el coste de capital, las facturas eléctricas ni los plazos de entrega de 40 semanas de las tarjetas de datacenter. Lo difícil es hacer coincidir la tarjeta con el trabajo.
Si compras algo demasiado pequeño, tu modelo no cabrá en la VRAM. Si compras algo demasiado grande, estarás pagando tarifas de H100 para ejecutar un chatbot de 7B que una 4090 serviría perfectamente. Esta guía desglosa en qué destaca cada tarjeta.
Las tres tarjetas de un vistazo
RTX 4090
Ada Lovelace para consumidor, 24GB GDDR6X. La reina precio/rendimiento para inferencia y ajustes finos pequeños. Sin NVLink, sin ECC.
A100
Ampere de datacenter, 40GB u 80GB HBM2e. NVLink, particionado MIG y ECC. El caballo de batalla probado para el entrenamiento.
H100
Hopper de datacenter, 80GB HBM3. Un Transformer Engine con FP8 nativo y un ancho de banda de memoria enorme. Diseñada para el entrenamiento de modelos grandes y el servicio de LLM de alto rendimiento.
La VRAM es la primera pregunta, no la última
Antes de fijarte en la velocidad bruta, pregúntate si tu modelo siquiera cabe. Si los pesos, las activaciones y la caché KV no caben en la VRAM, ninguna cantidad de cómputo ayuda: te quedas descargando a la RAM del sistema con una penalización brutal.
- 24GB (RTX 4090): cómoda para inferencia de 7B-13B, modelos cuantizados de 30B y ajuste fino LoRA de modelos más pequeños.
- 40GB (A100): 13B en precisión completa, inferencia cuantizada de 70B y entrenamientos de tamaño medio.
- 80GB (A100/H100): inferencia de 70B en precisión reducida, ajustes finos más grandes y entrenamiento multi-GPU como un solo nodo.
- Multi-GPU: el entrenamiento de frontera y el ajuste fino completo de 70B+ necesitan varias tarjetas conectadas mediante NVLink o un tejido de red rápido.
Regla general: calcula aproximadamente 2GB de VRAM por cada mil millones de parámetros en FP16 para inferencia, más margen para la caché KV. La cuantización (INT8/INT4) reduce esto sustancialmente, pero puede costar precisión.
Precisión: dónde la H100 toma la delantera
Tanto la RTX 4090 como la H100 admiten FP8, pero el Transformer Engine de la H100 gestiona el escalado de FP8 automáticamente en todas las capas de un modelo. Se trata de una ventaja real de rendimiento para el entrenamiento y el servicio de transformers, no un truco de ficha técnica.
La A100 es anterior al FP8 y su límite es TF32 y BF16. Sigue siendo excelente para el entrenamiento; simplemente espera que la H100 termine la misma ejecución notablemente más rápido en arquitecturas transformer.
Haz coincidir la tarjeta con el trabajo
Inferencia / servicio
RTX 4090. La mejor relación tokens por dólar para modelos de hasta ~13B. Escala horizontalmente con más 4090 en lugar de una sola tarjeta gigante.
Ajuste fino (LoRA / pequeño)
RTX 4090 o A100 40GB. LoRA en un modelo de 7B-13B funciona perfectamente en una sola 4090.
Ajuste fino completo / entrenamiento medio
A100 80GB. ECC y NVLink importan en cuanto las ejecuciones duran horas y empieza el escalado multi-GPU.
Entrenamiento de modelos grandes
H100. El FP8 y el ancho de banda reducen el tiempo real de entrenamiento de transformers, que es donde las horas de alquiler se acumulan más rápido.
API de LLM de alto rendimiento
H100. Cuando sirves miles de solicitudes simultáneas, el ancho de banda de memoria y el rendimiento FP8 se amortizan solos.
Trabajos por lotes / sin conexión
RTX 4090. Si la latencia no importa, las tarjetas de consumo económicas funcionan toda la noche por una fracción del coste.
El error más común: alquilar una H100 para ejecutar inferencia en un modelo de 7B. Usarás solo una fracción de su capacidad y pagarás varias veces la tarifa de la 4090 por ello.
Las cuentas de coste que realmente importan
La tarifa por hora es el titular, pero lo que debes optimizar es el rendimiento por dólar. Una tarjeta que cuesta el doble pero es tres veces más rápida en tu carga de trabajo resulta más barata por trabajo terminado.
- 1
Haz benchmark con tu carga de trabajo
Ejecuta tu modelo real y tu tamaño de lote, no un benchmark genérico. Mide tokens/seg o muestras/seg, no TFLOPS.
- 2
Divide entre la tarifa por hora
Calcula el rendimiento por dólar de cada opción de tarjeta. Esto reordena la clasificación con más frecuencia de lo que la gente espera.
- 3
Ten en cuenta el tiempo inactivo
Si tu GPU permanece inactiva entre trabajos, una tarjeta más barata o un modelo de recarga por horas supera a una tarjeta rápida que no estás saturando.
- 4
Ten en cuenta la salida de datos y el almacenamiento
Mover conjuntos de datos y checkpoints de entrada y salida tiene un coste. El ancho de banda sin medición elimina esa variable por completo.
En ChainVPS, la flota de GPU se prepaga desde un saldo recargado con criptomonedas y con ancho de banda sin medición, así que mover un conjunto de datos de 200GB al servidor no cuesta nada extra: pagas por las horas de GPU, no por la transferencia. Si estás dimensionando una configuración, la página /gpu-server enumera los niveles y ubicaciones actuales de RTX 4090, A100 y H100.
Consideraciones de privacidad para cargas de trabajo de IA
Los datos de entrenamiento y los pesos del modelo son activos sensibles. Dónde residen físicamente y quién puede citar judicialmente al proveedor forma parte de la decisión de ingeniería, no es un añadido de última hora.
- Elige la jurisdicción de forma deliberada. Las ubicaciones de nivel privacidad (NL, CH, RO, IS, MD, LU) quedan fuera de los regímenes de solicitud de datos más agresivos.
- Prefiere proveedores que no exijan documentos de identidad para poner en marcha el cómputo: sin KYC significa que no existe un conjunto de datos de tus proyectos vinculado a un nombre legal.
- Paga desde un saldo prepagado en lugar de un cargo recurrente en tarjeta, para que no exista un rastro de pago que vincule la carga de trabajo contigo.
- Mantén los checkpoints cifrados en reposo y retíralos del servidor cuando termine una ejecución.
Los servidores GPU de ChainVPS no requieren verificación de identidad y se pagan desde un saldo prepagado recargado con cualquiera de las 21 monedas disponibles, incluida Monero, lo que mantiene tu investigación separada de tu identidad. Consulta las opciones de GPU offshore en la página /gpu-server.
Un atajo rápido para decidir
¿Es la RTX 4090 realmente utilizable para trabajo serio de IA?
Sí: para inferencia y ajuste fino pequeño ofrece la mejor relación tokens por dólar de las tres. Sus límites son el techo de 24GB de VRAM y la falta de NVLink y ECC, que importan en entrenamientos multi-GPU grandes pero no para servir un modelo de 7B-13B.
¿Cuándo vale realmente la pena pagar el sobreprecio de la H100?
Cuando tu carga de trabajo es entrenamiento de transformers a gran escala o servicio de LLM de alto rendimiento. Su Transformer Engine FP8 y su ancho de banda de memoria reducen el tiempo real lo suficiente como para que la tarifa por hora más alta produzca un coste menor por trabajo terminado. Para inferencia ligera resulta excesiva.
¿Puedo alquilar servidores GPU offshore y pagar en criptomonedas?
Sí. Los niveles de GPU de ChainVPS no requieren KYC y se pagan desde un saldo prepagado financiado con 21 monedas, incluida Monero. Recargas, despliegas, y tu carga de trabajo nunca queda vinculada a una identidad legal.
¿Necesito NVLink para mi proyecto?
Solo si estás entrenando un modelo demasiado grande para una sola tarjeta, donde las GPU deben intercambiar gradientes a alta velocidad. La inferencia con una sola GPU y el ajuste fino LoRA no lo utilizan, por lo que la falta de NVLink en la 4090 rara vez importa para esos trabajos.
