Muestreo, temperatura y control

Del modelo a la muestra

Un modelo generativo devuelve una distribución sobre el espacio de salidas. Decidir cómo extraer de ella una muestra concreta es la tarea del muestreo, y cambia por completo el resultado.

Temperatura

• T alta aplana la distribución: reparte probabilidad, más diversidad y más error.
• T baja la afila: concentra en lo más probable, más seguro pero más plano.
• T tendiendo a cero equivale a elegir siempre el máximo.

Top-k

Limita el muestreo a las k salidas más probables, descartando la cola absurda. K pequeño estabiliza; k grande abre el abanico, pero fija un número rígido pase lo que pase.

Top-p (núcleo)

Elige el menor conjunto de salidas cuya probabilidad acumulada supera p y muestrea dentro. Se adapta a la incertidumbre de cada paso: más variado cuando el modelo está poco seguro.

Núcleo frente a top-k

Top-k corta en un número fijo aunque la distribución cambie; top-p corta en masa de probabilidad, que es más natural. Suelen combinarse para acotar la cola sin perder flexibilidad.

Semilla y reproducibilidad

Fijar la semilla hace determinista un muestreo aleatorio, clave para depurar y comparar. Mismo generador, misma semilla, misma salida.

Penalización de repetición

• Penaliza tokens o patrones ya emitidos para romper bucles.
• Ajusta la novedad sin tocar la temperatura.
• Un exceso empuja a salidas disparatadas.

Guía en modelos condicionados

En difusión o en texto, la fuerza de la condición (el «guidance scale») pondera cuánto caso hacer a la instrucción frente a la libertad del modelo.

Compensación calidad-diversidad

No hay mando óptimo universal: la tarea manda. Un resumen quiere precisión; la poesía, sorpresas. Elegir el muestreo es elegir un punto en ese trueque.

Control en imagen

En generación visual se controla con máscaras, imágenes de referencia o semillas latentes que anclan la composición, dando repetibilidad y edición fina.

Errores frecuentes

• Ajustar temperatura sin mirar la tarea: un asistente legal quiere temperatura baja; una lluvia de ideas para publicidad, alta.
• Comparar dos versiones del sistema con semillas distintas y atribuir la diferencia al modelo y no al azar.
• Apilar top-k, top-p, temperatura y penalizaciones sin evaluar: cada mando cambia la distribución y sus efectos se combinan.

Ejemplo resuelto: elegir mandos para un generador de informes

Un redactor automático de informes financieros necesita cifras exactas y prosa predecible: el ajuste fino de mandos importa más que cambiar de modelo.

1. Fijas una semilla para poder comparar cada cambio de mando sobre el mismo informe base.
2. Arrancas con temperatura 0,2 y verificas que los hechos se citan sin invención.
3. Activas top-p en 0,9 como red de seguridad contra tokens de cola disparatados.
4. Subes temperatura gradualmente hasta 0,5 solo en las secciones narrativas, no en las numéricas.
5. Mides: si aparecen errores factuales, reviertes; si el texto suena robótico, tocas penalización de repetición antes que temperatura.

¿Para qué sirve en la realidad?

Cada API de un gran modelo de lenguaje expone temperatura, top-p y semilla porque dos clientes con el mismo modelo obtienen productos distintos según estos mandos: son el ecualizador del estudio de grabación.

Función softmax
Conversión de puntajes en una distribución de probabilidad.

# Muestreo y control
## Distribución
### temperatura afila o aplana
### softmax normaliza
## Recortes
### top-k fijo
### top-p adaptativo
## Repetición
### semilla fija
### penalizar bucles
## Condiciones
### guidance scale
### máscaras en imagen

Nucleus sampling (top-p)
El muestreo por núcleo que adapta el corte a la incertidumbre de cada paso.