> ## Documentation Index
> Fetch the complete documentation index at: https://docs.zylon.ai/llms.txt
> Use this file to discover all available pages before exploring further.

# Requisitos de hardware

<Warning>
  **Próxima versión — Zylon 1.58**

  Esta documentación se publica antes del lanzamiento para que puedas preparar tus integraciones de API. La imagen de la versión todavía no está disponible. Para instalaciones con 1.57, consulta la [documentación de 1.57](/es/v1.57/overview).
</Warning>

Zylon solo tiene un requisito estricto con respecto al hardware: **debe tener acceso a una GPU con capacidades NVIDIA CUDA y suficiente VRAM para ejecutar el nivel de preset `baseline-96g`**. En la práctica, eso significa planificar **80GB a 96GB de VRAM o más**, según la configuración de GPU. Dependiendo del hardware, algunos modelos de IA pueden estar restringidos, por lo que para asegurar la compatibilidad apunta a las versiones de CUDA más nuevas compatibles (12.6+).

Nuestras especificaciones recomendadas para la mejor experiencia son:

* Sistema Operativo: Ubuntu **SERVER** 22.04 LTS o 24.04 LTS, instalación limpia, sin controladores adicionales o software instalado.
* CPU: Mínimo de 12 núcleos de CPU arquitectura amd64 (x86\_64), pero se recomiendan 16 núcleos
* RAM: Mínimo de 64GB, pero se recomiendan 128GB
* Almacenamiento: Sin límite, mínimo de 4TB de almacenamiento rápido, pero se recomiendan 8TB
* GPU:
  * Bare metal
    * GPU de servidor (se requiere refrigeración externa ⚠️)
      * NVIDIA H200 (141 GB)
      * NVIDIA RTX PRO 6000 Server Edition (96 GB)
      * NVIDIA H100 (80 / 96 GB)
      * NVIDIA A100 (80 GB)
    * GPU de estación de trabajo (sistema de refrigeración integrado)
      * NVIDIA RTX PRO 6000 (Workstation) (96 GB)
  * AWS
    * g7e.2xlarge [https://instances.vantage.sh/aws/ec2/g7e.2xlarge](https://instances.vantage.sh/aws/ec2/g7e.2xlarge)
  * Azure Cloud
    * Elige una SKU de GPU de Azure que proporcione suficiente VRAM total para el nivel de preset `baseline-96g` (normalmente 80GB a 96GB de VRAM total o más).
    * NVv3 (Requiere modelos cuantizados) [https://learn.microsoft.com/en-us/azure/virtual-machines/sizes/gpu-accelerated/nvv3-series?tabs=sizebasic](https://learn.microsoft.com/en-us/azure/virtual-machines/sizes/gpu-accelerated/nvv3-series?tabs=sizebasic)

## ¿Qué GPU debo comprar?

Encontrar la GPU adecuada para tu sistema puede ser un proceso complicado. Por ejemplo, dos GPUs con la misma vRAM pueden no tener el mismo rendimiento:

* H100 (servidor) y A100 80GB son opciones representativas del nivel de preset `baseline-96g`.

Por otro lado, dependiendo de la GPU que elijas, se habilitarán otras características que pueden afectar la calidad de la IA, si alguna de ellas es relevante para tus casos de uso, tenlo en cuenta para tu decisión:

| | A100 / H100 |
| - | - |
| Requiere Estación de Trabajo | ✅ |
| LLM | ✅ |
| Reranker\* | ✅ |
| Multi-modelo (imágenes)\* | ✅ |

\*Actualmente en desarrollo/en/v1.57 pruebas — sujeto a cambios en el futuro.

Para **entornos bare metal on-premise** (el escenario habitual para clientes de Zylon), un factor importante sería tu capacidad para refrigerar adecuadamente la GPU instalada en tu máquina. Si no quieres ocuparte de ello o careces de experiencia, opta por una opción de hardware de escritorio. Pero ten en cuenta que en caso de que quieras ejecutar modelos más grandes o proporcionar servicio a varios cientos de usuarios, es posible que necesites instalar un rack con un par en paralelo o verse obligado a cambiar a modelos de hardware de servidor.

Otro factor importante sería la inversión, especialmente con respecto a la GPU. Los rangos de precios del 5 de mayo de 2025 para los modelos mencionados son:

| **Modelo de GPU** | **vRAM (GB)** | **Precio (USD)** |
| - | - | - |
| NVIDIA RTX PRO 6000 (Workstation) | 96 | Pendiente |
| NVIDIA H100 (PCIe) | 80 | $25,000 – $30,000 |
| NVIDIA H100 (SXM) | 80 | $35,000 – $40,000 |
| NVIDIA H100 (NVL) | 96 | $40,000 - $45,000 |
| NVIDIA A100 (PCIe) | 80 | $18,000 - $20,000 |
| NVIDIA A100 (SXM) | 80 | $20,000 - $25,000 |
| NVIDIA H200 | 141 | $30,000 - $32,000 |

En cualquier caso, como respuesta directa a la pregunta de qué GPU debes comprar, nuestra recomendación base actual es una configuración que soporte el nivel de preset **`baseline-96g`**, lo que en la práctica normalmente significa **80GB a 96GB de VRAM total o más**.

## Hardware de referencia para organización de tamaño medio

Si necesitas adquirir tu equipo con capacidad de IA desde cero, a partir del 29 de julio de 2025, por favor considera la siguiente [recomendación de hardware](https://pcpartpicker.com/user/pablo.zylon/saved/#view=csWVD3):

<img src="https://mintcdn.com/zylon/AAEt1MHLqi0nuOjf/images/operator-manual/hardware-requirements-images/basic.png?fit=max&auto=format&n=AAEt1MHLqi0nuOjf&q=85&s=7245534a38750a9db063c221ec94d7fa" alt="image.png" width="1854" height="1676" data-path="images/operator-manual/hardware-requirements-images/basic.png" />

Esta configuración de referencia debe adaptarse para cumplir con la base actual de GPU del nivel de preset **`baseline-96g`**. En la práctica, esto significa usar una GPU como la **NVIDIA RTX PRO 6000 (Workstation) (96 GB)**, una **A100 80GB**, una **H100** o una configuración multi-GPU que alcance un nivel similar, junto con una CPU potente (16 núcleos), 128 GB de RAM, suficiente capacidad de almacenamiento para operar Zylon con margen para crecer, una solución de refrigeración robusta y una placa base adecuada para la disposición de GPU elegida.

Ten en cuenta que esto es solo una recomendación, así que siéntete libre de adaptarla a tus preferencias mientras mantienes capacidades similares para un rendimiento ideal. Hemos usado Amazon como proveedor considerando que puedes ensamblar todas las partes tú mismo, pero cualquier proveedor con el que normalmente trabajes debería poder obtener un hardware similar y ensamblarlo para ti.

## Hardware de referencia para organización de gran tamaño

En estos escenarios, no proporcionamos una configuración de hardware de referencia hasta que entendamos los requisitos no solo con respecto al número de usuarios, sino también qué tipo de operaciones internas se ejecutarán en paralelo aprovechando la API de la plataforma.

Si estás en esta situación, es probable que ya estemos discutiendo sobre esto.


This documentation is built and hosted on [Mintlify](https://mintlify.com), a developer documentation platform.