Muestreo, temperatura y control
Del modelo a la muestra
Un modelo generativo devuelve una distribución sobre el espacio de salidas. Decidir cómo extraer de ella una muestra concreta es la tarea del muestreo, y cambia por completo el resultado.
Temperatura
- T alta aplana la distribución: reparte probabilidad, más diversidad y más error.
- T baja la afila: concentra en lo más probable, más seguro pero más plano.
- T tendiendo a cero equivale a elegir siempre el máximo.
Top-k
Limita el muestreo a las k salidas más probables, descartando la cola absurda. K pequeño estabiliza; k grande abre el abanico, pero fija un número rígido pase lo que pase.
Top-p (núcleo)
Elige el menor conjunto de salidas cuya probabilidad acumulada supera p y muestrea dentro. Se adapta a la incertidumbre de cada paso: más variado cuando el modelo está poco seguro.
Núcleo frente a top-k
Top-k corta en un número fijo aunque la distribución cambie; top-p corta en masa de probabilidad, que es más natural. Suelen combinarse para acotar la cola sin perder flexibilidad.
Semilla y reproducibilidad
Fijar la semilla hace determinista un muestreo aleatorio, clave para depurar y comparar. Mismo generador, misma semilla, misma salida.
Penalización de repetición
- Penaliza tokens o patrones ya emitidos para romper bucles.
- Ajusta la novedad sin tocar la temperatura.
- Un exceso empuja a salidas disparatadas.
Guía en modelos condicionados
En difusión o en texto, la fuerza de la condición (el «guidance scale») pondera cuánto caso hacer a la instrucción frente a la libertad del modelo.
Compensación calidad-diversidad
No hay mando óptimo universal: la tarea manda. Un resumen quiere precisión; la poesía, sorpresas. Elegir el muestreo es elegir un punto en ese trueque.
Control en imagen
En generación visual se controla con máscaras, imágenes de referencia o semillas latentes que anclan la composición, dando repetibilidad y edición fina.
Errores frecuentes
- Ajustar temperatura sin mirar la tarea: un asistente legal quiere temperatura baja; una lluvia de ideas para publicidad, alta.
- Comparar dos versiones del sistema con semillas distintas y atribuir la diferencia al modelo y no al azar.
- Apilar top-k, top-p, temperatura y penalizaciones sin evaluar: cada mando cambia la distribución y sus efectos se combinan.
Ejemplo resuelto: elegir mandos para un generador de informes
Un redactor automático de informes financieros necesita cifras exactas y prosa predecible: el ajuste fino de mandos importa más que cambiar de modelo.
- Fijas una semilla para poder comparar cada cambio de mando sobre el mismo informe base.
- Arrancas con temperatura 0,2 y verificas que los hechos se citan sin invención.
- Activas top-p en 0,9 como red de seguridad contra tokens de cola disparatados.
- Subes temperatura gradualmente hasta 0,5 solo en las secciones narrativas, no en las numéricas.
- Mides: si aparecen errores factuales, reviertes; si el texto suena robótico, tocas penalización de repetición antes que temperatura.
¿Para qué sirve en la realidad?
Cada API de un gran modelo de lenguaje expone temperatura, top-p y semilla porque dos clientes con el mismo modelo obtienen productos distintos según estos mandos: son el ecualizador del estudio de grabación.
Subir la temperatura de un muestreo de texto tiende a:
El muestreo por núcleo (top-p) corta según masa de probabilidad acumulada en lugar de un número fijo de salidas.
Muestreo
Toca una tarjeta para ver la respuesta.
Ordena el muestreo token a token con top-p:
Arrastra cada ficha a su categoría (o tócala y luego toca la categoría). También puedes usar el teclado.
Función softmaxConversión de puntajes en una distribución de probabilidad.
Une cada mando de muestreo con su efecto.
Los mandos de la creatividad
- Muestreo y control
- Distribución
- temperatura afila o aplana
- temperatura afila o aplana
- softmax normaliza
- Distribución
- top-k fijo
- semilla fija
- guidance scale
Nucleus sampling (top-p)El muestreo por núcleo que adapta el corte a la incertidumbre de cada paso.
Tu generador de código alucina librerías inventadas. ¿Bajarías o subirías la temperatura y usarías top-k o top-p? Justifica la compensación que eliges.
Tu texto se guarda sólo en este dispositivo.
Comentarios
Inicia sesión para comentar.
Todavía no hay comentarios. Sé la primera persona en opinar.