Vast.ai, la opinión de Joute

Lo esencial

Marketplace descentralizado de GPUs para entrenamiento e inferencia de modelos ML
Pay as you go, típicamente 0,30-2 $/hora según la GPU
H100, A100, RTX 4090 disponibles de proveedores independientes
Para investigadores, engineers ML y startups IA que necesitan GPU sin contrato enterprise

¿Qué es Vast.ai?

Vast.ai es un marketplace donde proveedores independientes (centros de datos, mineros reconvertidos) ponen sus GPUs a disposición, y donde los usuarios las alquilan por horas. El modelo es competitivo: sin intermediario cloud como AWS o Google Cloud, los precios pueden ser 5-10 veces inferiores. Para entrenar un modelo, hacer inferencia o experimentar con modelos open source, Vast.ai es la alternativa más económica.

Puntos fuertes

Precios muy bajos

Una H100 en Vast.ai puede alquilarse por unos 2-3 $/hora frente a 10-15 $/hora en AWS. Para sesiones de entrenamiento largas, el ahorro es significativo.

Amplia selección de GPUs

RTX 4090, A100, H100, A6000: la selección es amplia según disponibilidad. Filtras por tipo de GPU, VRAM y localización.

Pago por horas sin compromiso

Sin contrato, sin mínimo. Alquilas el tiempo que necesitas y pagas lo que consumes.

Límites

Proveedores independientes menos fiables

Las instancias de Vast.ai pueden interrumpirse. Para jobs críticos, la estabilidad es inferior a AWS o GCP. Hay que diseñar los jobs para que sean reanudables.

Soporte limitado

Sin soporte enterprise. En caso de problema, la comunidad y los foros son los principales recursos.

Precios

Pay as you go. Los precios varían según la GPU y el proveedor. Consultar vast.ai para los precios actuales.

Alternativas

Para GPU cloud gestionada: Lambda Labs, RunPod. Para cloud enterprise: AWS p4, GCP A100. Para inferencia gestionada: Together AI.

Veredicto

Vast.ai es la mejor opción si el coste de GPU es un factor crítico y puedes gestionar las interrupciones potenciales. Para investigación y proyectos no críticos, el ahorro justifica los compromisos de estabilidad.

FAQ

¿Se puede usar Vast.ai para la inferencia de modelos en producción?

Para producción crítica, las garantías de disponibilidad son insuficientes. Vast.ai es más adecuado para dev, fine-tuning e investigación.

¿Los datos subidos a Vast.ai son seguros?

Las instancias están aisladas, pero ejecutarse en hardware de terceros implica confiar en los proveedores. Evitar poner datos muy sensibles sin cifrado.

¿Vast.ai soporta contenedores Docker?

Sí, las instancias de Vast.ai lanzan contenedores Docker. Puedes usar imágenes de PyTorch, TensorFlow o custom.

¿Cómo se comparan las instancias de Vast.ai con RunPod?

Ambos son similares en concepto. Vast.ai tiene generalmente más proveedores y precios potencialmente más bajos. RunPod tiene una UX más pulida.

Joute puede percibir una comisión sobre las suscripciones contratadas a través de los enlaces de este artículo. Eso no cambia nuestras opiniones.