> ## Documentation Index
> Fetch the complete documentation index at: https://docs.zylon.ai/llms.txt
> Use this file to discover all available pages before exploring further.

# Referencia de Presets de IA

> Referencia completa de presets de IA disponibles incluyendo configuraciones base, alternativas, experimentales y deprecadas

Establece el preset de IA en tu archivo de configuración de Zylon usando la propiedad `ai.preset`.

## Presets Base

Los presets base proporcionan configuraciones estándar optimizadas para cargas de trabajo de IA de propósito general.

| Preset | Memoria GPU Requerida | Ejemplos de Hardware Compatible | Modelos |
| - | - | - | - |
| `baseline-32g` | 32GB | RTX 5090 | cyankiwi/qwen3.5-9b-awq-4bit, mixedbread-ai/mxbai-embed-large-v1 |
| `baseline-48g` | 48GB | RTX A6000, A40, L40, L40s | txn545/qwen3.5-35b-a3b-nvfp4, mixedbread-ai/mxbai-embed-large-v1 |
| `baseline-96g` | 96GB | A100 80GB, H100, A6000 (dual) | cyankiwi/qwen3.5-27b-awq-4bit, mixedbread-ai/mxbai-embed-large-v1 |

### Ejemplo de Configuración

```yaml theme={null}
ai:
  preset: "baseline-48g"  # Para un sistema con L40s (48GB)
```

<Tip>
  Elige el preset que coincida con la capacidad de memoria de tu GPU. Siempre selecciona un preset que coincida o sea menor que tu VRAM disponible.
</Tip>

## Presets Alternativos

Zylon proporciona presets alternativos que ofrecen configuraciones especializadas intercambiando ciertas capacidades por otras. Estos son opcionales y solo deben usarse cuando tienes requisitos específicos que difieren de los presets estándar.

### Alternativa Optimizada para Throughput

Este preset utiliza un modelo más pequeño y ligero que genera tokens significativamente más rápido. Aunque puede no igualar al modelo estándar en calidad y profundidad de razonamiento, pero a cambio ofrece respuestas notablemente más rápidas.

**Cuándo usar:**

* Principalmente manejas consultas sencillas o directas
* Tienes un alto número de usuarios concurrentes y necesitas tiempos de respuesta rápidos
* La velocidad de generación importa más que la máxima calidad de respuesta

| Preset | Memoria GPU Requerida | Modelos |
| - | - | - |
| `baseline-throughput-96g` | 96GB (A100 80GB, H100, A6000 dual) | txn545/qwen3.5-35b-a3b-nvfp4, mixedbread-ai/mxbai-embed-large-v1 |

### Alternativa de Modelo Grande

Este preset utiliza un modelo más grande y capaz, con mayor conocimiento intrínseco. La contrapartida es una ventana de contexto más reducida.

**Cuándo usar:**

* Necesitas mayor rendimiento en tareas complejas o especializadas
* El conocimiento intrínseco del modelo es prioritario
* Puedes trabajar con una ventana de contexto más pequeña

| Preset | Memoria GPU Requerida | Modelos |
| - | - | - |
| `baseline-large-96g` | 96GB (A100 80GB, H100, A6000 dual) | cyankiwi/Qwen3.5-122B-A10B--4bit, mixedbread-ai/mxbai-embed-large-v1 |

### Ejemplo de Configuración

```yaml theme={null}
ai:
  preset: "alternatives.baseline-throughput-96g"
```

<Info>
  Cada preset alternativo implica una compensación. Considera tu caso de uso específico — volumen de usuarios, complejidad de las consultas y necesidades de contexto — antes de cambiar del preset estándar.
</Info>

## Presets Experimentales

<Warning>
  Los presets experimentales están en desarrollo activo y pueden no ser estables. Usa solo en entornos de prueba.
</Warning>

Los presets experimentales proporcionan acceso a modelos y configuraciones de vanguardia que están siendo evaluados para futuras versiones. Estos presets pueden tener características de rendimiento o estabilidad diferentes comparados con los presets base.

| Preset | Memoria GPU Requerida | Familia de Modelo | Estado | Modelos |
| - | - | - | - | - |
| `experimental.mistral-24g` | 24GB | Mistral | Beta | mistralai/mistral-small-24b-instruct-2501-awq, mixedbread-ai/mxbai-embed-large-v1 |
| `experimental.mistral-48g` | 48GB | Mistral | Beta | mistralai/mistral-small-24b-instruct-2501-awq, mixedbread-ai/mxbai-embed-large-v1 |
| `experimental.gpt-oss-24g` | 24GB | GPT-OSS | Beta | openai/gpt-oss-20b, mixedbread-ai/mxbai-embed-large-v1 |
| `experimental.gpt-oss-48g` | 48GB | GPT-OSS | Beta | openai/gpt-oss-20b, mixedbread-ai/mxbai-embed-large-v1 |
| `experimental.gpt-oss-96g` | 96GB | GPT-OSS | Beta | openai/gpt-oss-120b, mixedbread-ai/mxbai-embed-large-v1 |
| `experimental.gemma-24g` | 24GB | Gemma 3 | Alpha | google/gemma-3n-e4b-it, mixedbread-ai/mxbai-embed-large-v1 |
| `mistral-3-instruct-24g` | 24GB | Mistral | Alpha | cyankiwi/ministral-3-14b-instruct-2512-awq-4bit, mixedbread-ai/mxbai-embed-large-v1 |
| `mistral-3-instruct-48g` | 48GB | Mistral | Alpha | cyankiwi/ministral-3-14b-instruct-2512-awq-4bit, mixedbread-ai/mxbai-embed-large-v1 |
| `mistral-3-reasoning-24g` | 24GB | Mistral | Alpha | cyankiwi/ministral-3-14b-reasoning-2512-awq-4bit, mixedbread-ai/mxbai-embed-large-v1 |
| `mistral-3-reasoning-48g` | 48GB | Mistral | Alpha | cyankiwi/ministral-3-14b-reasoning-2512-awq-4bit, mixedbread-ai/mxbai-embed-large-v1 |
| `nemotron-3-nano-48g` | 48GB | Nemotron | Alpha | stelterlab/nvidia-nemotron-3-nano-30b-a3b-awq, mixedbread-ai/mxbai-embed-large-v1 |
| `glm-47-flash-32g` | 32GB | GLM | Alpha | cyankiwi/glm-4.7-flash-awq-4bit, mixedbread-ai/mxbai-embed-large-v1 |
| `glm-47-flash-48g` | 48GB | GLM | Alpha | cyankiwi/glm-4.7-flash-awq-4bit, mixedbread-ai/mxbai-embed-large-v1 |

**Ejemplo de Configuración:**

```yaml theme={null}
ai:
  preset: "experimental.gpt-oss-24g"
```

### Notas Importantes Sobre Presets Experimentales

* Los presets experimentales pueden ser eliminados o cambiados significativamente entre versiones
* El rendimiento y la estabilidad no están garantizados
* No recomendados para entornos de producción
* Pueden requerir parámetros de configuración adicionales
* El soporte puede ser limitado

## Presets Deprecados

<Warning>
  Los presets deprecados se mantienen solo para compatibilidad hacia atrás y no recibirán actualizaciones.
</Warning>

Para clientes que requieren configuraciones más antiguas, los presets deprecados están disponibles pero no se recomiendan para nuevas instalaciones.

| Preset | Memoria GPU | Descripción |
| - | - | - |
| `deprecated.24g.20250710` | 24GB | Configuración Pre-Qwen 3 |
| `deprecated.24g.20260327` | 24GB | Configuración Pre-Qwen 3.5 |
| `deprecated.32g.20250710` | 32GB | Configuración Pre-Qwen 3 |
| `deprecated.32g.20260327` | 32GB | Configuración Pre-Qwen 3.5 |
| `deprecated.48g.20250710` | 48GB | Configuración Pre-Qwen 3 |
| `deprecated.48g.20260327` | 48GB | Configuración Pre-Qwen 3.5 |
| `deprecated.48g.20260327-context` | 48GB | Configuración optimizada para contexto Pre-Qwen 3.5 |
| `deprecated.48g.20260327-vision` | 48GB | Configuración optimizada para visión Pre-Qwen 3.5 |
| `deprecated.96g.20250710` | 96GB | Configuración Pre-Qwen 3 |
| `deprecated.96g.20260327` | 96GB | Configuración Pre-Qwen 3.5 |
| `deprecated.96g.20260327-context` | 96GB | Configuración optimizada para contexto Pre-Qwen 3.5 |
| `deprecated.96g.20260327-vision` | 96GB | Configuración optimizada para visión Pre-Qwen 3.5 |
| `deprecated.96g.qwen3-32b-96g` | 96GB | Configuración Qwen 3 32B Pre-Qwen 3.5 |

**Ejemplo de Configuración:**

```yaml theme={null}
ai:
  preset: "deprecated.24g.20260327"
```

### Migración desde Presets Deprecados

Si estás usando un preset deprecado, recomendamos encarecidamente migrar a presets base o alternativos actuales:

1. Revisa los [presets base](#presets-base) para encontrar una configuración equivalente
2. Prueba el nuevo preset en un entorno de staging
3. Actualiza tu configuración de producción
4. Monitorea el rendimiento y ajusta si es necesario

La migración proporciona acceso a modelos mejorados, mejor rendimiento y soporte continuo.


This documentation is built and hosted on [Mintlify](https://mintlify.com), a developer documentation platform.