Guías
H100 vs A100 alquiler GPU: cuál renta según tu carga
Por qué esta comparativa importa en 2025
Si llevas semanas mirando precios de instancias en la nube, ya habrás visto que el h100 vs a100 alquiler gpu es la decisión más común entre equipos de ML. No es casualidad: son las dos GPUs que dominan el catálogo de cualquier proveedor serio. La diferencia de precio por hora no es pequeña, y elegir mal puede duplicar tu factura mensual sin mejorar los resultados.
Te lo digo desde la experiencia de alquilar ambas para fine-tuning y entrenamiento desde cero. La H100 no es simplemente una A100 más rápida. Cambia la arquitectura, la memoria y el ancho de banda. Eso afecta a tareas concretas: no a todas por igual.
Especificaciones que importan al alquilar
Antes de mirar precios, conviene tener claras las diferencias técnicas que afectan al rendimiento real. No te voy a soltar la ficha técnica completa, sino lo que marca la diferencia en la práctica.
Memoria y ancho de banda
La A100 tiene 80 GB de HBM2e y un ancho de banda de 2 TB/s. La H100 también ofrece 80 GB, pero con HBM3 y 3.35 TB/s. Eso es un 67% más de ancho de banda. Para modelos con secuencias largas o lotes grandes, ese número se nota. Si tu cuello de botella es la memoria, la H100 gana sin discusión.
Computación y precisión
En FP16, la A100 rinde 312 TFLOPS con sparsity y 156 sin ella. La H100 llega a 989 TFLOPS con sparsity y 494 sin ella. Para entrenamiento con mixed precision, hablamos de un salto de más del doble. Eso no significa que siempre vayas a ver el doble de velocidad: depende de si el kernel está optimizado para Hopper.
NVLink y escalado
La H100 duplica el ancho de banda NVLink (900 GB/s frente a 600 GB/s). Si entrenas modelos que no caben en una sola GPU y usas tensor parallelism, esto reduce el tiempo de sincronización. En clústeres de 8 GPUs, la diferencia se nota en la escalabilidad.
Precio por hora: qué esperar en el mercado
Aquí va lo que he visto en proveedores como AWS, Azure, Lambda, Vast.ai o RunPod. Los precios varían según la región, la duración del alquiler y si es bajo demanda o spot.
| GPU | Bajo demanda (USD/h) | Spot/descuento (USD/h) |
|---|---|---|
| A100 80GB | 1.50 – 2.50 | 0.80 – 1.50 |
| H100 80GB | 2.50 – 4.00 | 1.50 – 2.50 |
Son rangos orientativos. En plataformas peer-to-peer como Vast.ai puedes encontrar precios más bajos, pero con menos garantías de disponibilidad. En los grandes proveedores, el precio incluye soporte y redes de alta velocidad.
La regla que uso: si la H100 cuesta el doble pero me da el 80% más de rendimiento en mi carga, la factura por hora sube, pero el coste por experimento baja. El problema es que no todo el mundo mide bien su carga de trabajo.
Cuándo elegir A100: el equilibrio económico
La A100 sigue siendo una opción excelente para muchos casos. Si tu trabajo es fine-tuning de modelos de 7B o 13B con LoRA, la A100 va sobrada. No necesitas el extra de Hopper para cargas que ya están bien ajustadas. Además, hay más oferta de A100 en el mercado, lo que empuja los precios a la baja en spot.
También es mejor si trabajas con PyTorch y kernels antiguos. Algunas librerías no están optimizadas para Hopper y el rendimiento real se acerca al de la A100. He visto casos donde la H100 solo daba un 20% más de velocidad, y ahí no compensa pagar el doble.
Ejemplo práctico con LoRA
Fine-tuning de Llama-3-8B con LoRA en una sola GPU. Con A100: 2 horas por época. Con H100: 1.5 horas. El coste por época sería 5 USD con A100 (2.5 USD/h) frente a 6 USD con H100 (4 USD/h). La A100 es más barata por época. En este caso, no compensa cambiar.
Cuándo elegir H100: cuando el tiempo es dinero
La H100 brilla en entrenamiento desde cero o fine-tuning completo de modelos grandes (30B o más). También en inferencia con lotes altos y secuencias largas. Si facturas por hora a un cliente o compites en tiempo de publicación, la velocidad extra justifica el sobrecoste.
Otro caso claro: experimentos iterativos. Si estás barriendo hiperparámetros y cada prueba tarda 3 horas con A100 y 1.8 horas con H100, el ciclo de iteración se acorta. En proyectos con deadlines, eso vale más que el coste por hora.
Ejemplo con entrenamiento completo
Entrenar un modelo de 13B desde cero con 500K tokens. Con A100: 10 horas a 2 USD/h = 20 USD. Con H100: 5.5 horas a 3.5 USD/h = 19.25 USD. Aquí la H100 es más barata por trabajo. Y si usas spot, la diferencia puede ser aún mayor.
Factores que rompen la comparativa simple
No te cases con el benchmark teórico. Hay factores que pueden inclinar la balanza:
- Disponibilidad: en épocas de alta demanda, la H100 escasea. A veces no hay instancias y tienes que esperar. La A100 es más fácil de conseguir.
- Región: los precios varían. En Europa, por ejemplo, el coste de energía y los impuestos encarecen las instancias. A veces alquilar en us-east sale más barato aunque la latencia sea mayor.
- Almacenamiento y red: no olvides el coste de los volúmenes y el tráfico. Un proyecto con muchos checkpoints puede pagar más en almacenamiento que en GPU.
- Software: si usas TensorFlow, la A100 está más madura. La H100 tiene mejor soporte en PyTorch y Triton, pero aún hay gaps.
Mi consejo: haz una prueba con una hora de cada una y mide tu carga real. No te fíes de los benchmarks genéricos. Coge tu script, un dataset pequeño y cronometra. Eso te dará el dato que necesitas para decidir.
Preguntas frecuentes sobre alquiler de H100 y A100
¿Cuál es más barata por hora, la H100 o la A100?
La A100 es más barata por hora en casi todos los proveedores. La diferencia suele ser de 1 a 2 dólares por hora en bajo demanda. Pero el coste por trabajo puede ser menor con H100 si reduce el tiempo de ejecución más de lo que aumenta el precio.
¿Puedo usar la A100 para entrenar un LLM de 70B?
Sí, con técnicas como ZeRO o tensor parallelism en varias GPUs. Pero necesitarás al menos 4-8 GPUs. La H100 con mayor ancho de banda y NVLink reduce el overhead de comunicación, lo que hace el entrenamiento más eficiente.
¿La H100 es siempre más rápida que la A100 en inferencia?
No siempre. Para modelos pequeños o con lotes pequeños, la latencia puede ser similar. La H100 destaca en throughput con lotes grandes y secuencias largas. Si tu inferencia es en tiempo real con un solo prompt, la A100 puede ser suficiente.
¿Merece la pena alquilar H100 en spot?
Sí, si tu carga es tolerante a interrupciones. Los precios spot de H100 pueden bajar hasta un 50% respecto al bajo demanda. Para fine-tuning con checkpoints frecuentes, es una opción muy rentable. Para entrenamiento largo sin pausas, mejor bajo demanda.
¿Cómo calculo el coste real de un experimento?
Multiplica el precio por hora por el tiempo de ejecución y súmale almacenamiento y tráfico. No te quedes solo con el precio de GPU. Usa la fórmula: coste total = (GPU USD/h × horas) + (almacenamiento USD/GB × GB) + (tráfico USD/GB × GB).