Aprendizaje Supervisado · Machine Learning

Regresión logística como clasificador

Interpretar la regresión logística como un modelo que traduce una combinación lineal en probabilidades, y entender qué forma tiene su frontera de decisión.

Regresión logística como clasificador

Se llama regresión, clasifica de verdad El nombre confunde a todo el mundo: no predice una cantidad continua, predice la probabilidad de que pertenezcas a una clase. La palabra «regresión» viene de la estadística, pero el trabajo que hace es de clasificación con probabilidades bien medidas.

De una recta a una probabilidad

Si intentáramos clasificar con una regresión lineal pura, obtendríamos valores que se salen del intervalo entre cero y uno: probabilidades de menos dos o de tres. La regresión logística soluciona esto comprimiendo cualquier recta dentro del rango válido mediante una función en forma de S.

La función logística

La sigmoide aplasta la salida de la combinación lineal entre cero y uno: valores muy negativos tienden a cero, muy positivos a uno, y el cero se traduce en medio. Ese aplastamiento suave es derivable por todas partes, lo que permite entrenarla con descenso de gradiente.

La frontera de decisión es lineal

Donde la probabilidad cruza el umbral —normalmente medio— se dibuja la frontera. Como detrás hay una combinación lineal de características, esa frontera es un hiperplano: una recta en dos dimensiones, un plano en tres. El modelo solo puede separar clases con cortes rectos.

Los coeficientes como log-odds

Cada coeficiente mide cuánto cambia el logaritmo de la razón de probabilidades al aumentar esa variable una unidad, manteniendo las demás fijas. Un coeficiente positivo empuja hacia la clase uno; uno negativo, hacia la cero. Su tamaño relativo indica la importancia de cada predictor.

Una curva en forma de S que sube suavemente de abajo a arriba cruzando una línea vertical discontinua, junto a una recta diagonal que la alimenta.
El corazón del método: la recta de la combinación lineal se aplasta contra la sigmoide y se convierte en probabilidad; la frontera sigue siendo recta, pero la lectura ya es un grado de certidumbre.

Más allá de dos clases

Para varios destinos se usa la extensión multinomial —softmax—, que reparte la probabilidad entre todas las clases de forma que sumen uno. La alternativa clásica es un uno contra el resto: un clasificador binario por clase, y gana la que asigne mayor probabilidad.

Regularización por defecto

A diferencia de una regresión lineal desnuda, la logística suele incorporar penalización que frena coeficientes enormes. Esto estabiliza las probabilidades cuando las clases están casi separadas y evita que un predictor frágil domine el modelo.

Calibración: su gran virtud

Muchos clasificadores dan una puntuación ordenada pero mal calibrada; la logística, bajo sus supuestos, entrega números que se leen directamente como probabilidad de pertenencia. Poder decir «un setenta y tres por ciento» con sentido es un lujo que no todos los métodos ofrecen.

Errores frecuentes

Ejemplo resuelto: probabilidad de impago

Un banco quiere puntuar cada solicitud con la probabilidad de impago. El montaje:

  1. Traducir: la etiqueta es impago sí o no, y la salida deseada es una probabilidad, no una clase seca.
  2. Combinar: el modelo aprende pesos sobre ingresos, antigüedad e historial.
  3. Aplastar: la sigmoide convierte esa suma en un número entre cero y uno legible como riesgo.
  4. Decidir: cada segmento elige su umbral según el coste de rechazar un buen pagador o aceptar un mal riesgo.
  5. Revisar: calibrar comparando probabilidades anunciadas con frecuencias reales de impago.

¿Para qué sirve en la realidad?

Es el caballo de batalla del scoring crediticio, del riesgo médico y de la respuesta a campañas: simple, auditable y regulable, cumple la exigencia de explicar por qué a un cliente se le negó el crédito donde un modelo opaco no podría.

¿Qué forma tiene la frontera de decisión de una regresión logística estándar sobre las características originales?

La regresión logística puede devolver probabilidades que se interpretan como grado de confianza en la clase positiva.

Cuándo elegiría logística

Cuando importan las probabilidades, la interpretabilidad y una línea base honesta. Si una recta bien regularizada ya rifa lo suficiente, un modelo más oscuro rara vez aporta lo que cuesta en explicación y mantenimiento.

Logística

Función en S que acota la salida
sigmoide
Razón que mide el cambio en el logaritmo de probabilidad
coeficiente
Frontera de la logística estándar
hiperplano
Extensión a varias clases
softmax
Ventaja frente a otros clasificadores
probabilidades calibradas

Ordena el mecanismo interno de la regresión logística:

Lineal
Sigmoide
Umbral
Clase

Google ML: regresión logística
Introducción interactiva a la logística y su frontera de decisión.

Une cada pieza de la logística con su papel.

Clasificar con probabilidad

# Regresión logística
## Salida
### probabilidad
### sigmoide
## Frontera
### lineal
### umbral a medida
## Lectura
### coeficientes en log-odds
### auditable
## Uso
### scoring
### calibración

¿Qué es la regresión logística?
Explicación de referencia en español sobre el método y sus usos.

Tu modelo logístico separa mal dos clases que en el gráfico se entrelazan en forma de media luna. ¿Es un fallo de ajuste o una limitación estructural del modelo?