Inferencia bayesiana: actualizar creencias con datos

El bayesianismo es la epistemologia del cientifico de datos: empiezas con una opinion, ves datos, y terminas con una opinion mejor. Nada mas y nada menos. Su arma es la unica formula que ya conoces (Bayes) aplicada no a un caso clinico sino a los PARAMETROS de tu modelo. En este objeto: el ciclo prior-likelihood-posterior, el ejemplo conjugado Beta-Binomial resuelto a mano, intervalos de credibilidad frente a confianza, sensibilidad al prior y el clasificador Naive Bayes como app del motor.

Campanas de distribucion beta: prior uniforme, verosimilitud y posterior tras observar datos. — La posterior es una mezcla ponderada: ni caso al prior, ni caso a los datos.

La diferencia filosofica El frecuentista trata al parametro θ como fijo y al dato como aleatorio; el bayesiano trata al dato como FIJADO (ya ocurrio, no hay azar) y a θ como distribucion mental. El intervalo de credibilidad bayesiano SI permite "probabilidad 95% de que θ este aqui" porque θ es la variable aleatoria en ese marco.

El ciclo: prior x verosimilitud = posterior

P(θ|D) = P(D|θ)·P(θ) / P(D). En palabras: creencia despues = creencia antes · evidencia de los datos, normalizada. Como P(D) es el mismo escalar para todo θ, los bayesianos trabajan con la proporcionalidad: posterior ∝ likelihood · prior, y normalizan al final con una integral.

Moneda al aire con Beta: el ejemplo conjugado

Modelo: P(k caras | n, θ) binomial con θ desconocida. Prior: Beta(α, β). El prior uniforme "no me apoyo en nada" es Beta(1,1): densidad constante en [0,1].
Conjugacion: la familia Beta es conjugada de la binomial — posterior = Beta(α + caras, β + cruces). Solo hay que SUMAR conteos. Es la razon de que Beta aparezca en todos lados.
Datos: lanzamos 10 veces, 7 caras. Posterior: Beta(1+7, 1+3) = Beta(8, 4). Su media: α/(α+β) = 8/12 = 0.667: la creencia media entre los 0.7 de los datos y el prior neutro, tirando a datos porque n es pequena.
Moda: (8−1)/(12−2) = 0.7 (coincide con el MLE 7/10). Varianza de Beta: αβ/((α+β)²(α+β+1)) = 32/(144·13) = 0.017 → desviación 0.13.
Intervalo de credibilidad 95% aproximado: 0.667 ± 1.96·0.13 = (0.41, 0.92). Lectura directa permitida: con los datos y el prior, la probabilidad de que θ caiga aqui es 0.95.

Sensibilidad al prior: cuantificarlo

El prior es el punto flaco y el punto fuerte a la vez; el deber del analista es reportar ambos. Mismo dato (7 de 10) con un prior escéptico Beta(10, 10) (fuerte en 0.5, peso pseudo-muestral de 20 lanzamientos): posterior Beta(17, 13), media 17/30 = 0.567. Con datos que contradicen al prior, el prior gana mientras n es pequena; con n grande los datos aplastan al prior: la influencia relativa es (α+β) versus n.

Bayes aplicado: el mismo test medico que ya viste

Prevalencia 1%: P(E) = 0.01. Sensibilidad 99%: P(+|E) = 0.99. Especificidad 95%: P(+|noE) = 0.05.
Posterior P(E|+) = (0.99·0.01) / (0.99·0.01 + 0.05·0.99) = 0.0099/(0.0099+0.0495) = 0.1667.
El prior (prevalencia 1%) es el que hace que un test 99% preciso solo suba la sospecha del 1% al 16.7%. Sin prior no hay inferencia: la verosimilitud sola no sabe cuanto pesa cada hipotesis.

Naive Bayes: el motor en produccion

El clasificador spam que filtra tu correo ES bayesiano. "Naive" por asumir independencia condicional de palabras dado spam o no: P(w1,w2|spam) = P(w1|spam)·P(w2|spam). Aunque la suposicion es falsa (las palabras correlacionan), el clasificador es rapidisimo, aprende con una pasada y gana a modelos complejos en datos textuales pequenos.

Un correo con dos palabras, a mano

Estadisticas del corpus: P(spam) = 0.4. En spam: la palabra "gratis" aparece con P(gratis|spam) = 0.2 y "factura" con P(factura|spam) = 0.5. En legitimo: P(gratis|no) = 0.01 y P(factura|no) = 0.001.
Numerador spam: 0.4·0.2·0.5 = 0.04. Numerador legitimo: 0.6·0.01·0.001 = 0.000006.
Posterior spam = 0.04/(0.04+0.000006) ≈ 0.99985. Dos coincidentes de palabras enterran la hipotesis legitima. El clasificador decide por ese posterior, no por las verosimilitudes sueltas.

Cuando preferir bayes Pocos datos (el prior regulariza), decisiones secuenciales (reentrenar es sumar a los alfa-beta), necesidad de incertidumbre calibrada (un posterior, no un p-valor) y modelos jerarquicos que comparten fuerza entre grupos. Su costo: verificar que el prior no sea un resultado disfrazado, y calculos que a veces piden MCMC.

El ciclo bayesiano

Autoexamen cronometrado (20 minutos)

Con prior Beta(1,1) y 5 caras de 8 lanzamientos, la posterior es Beta(6, 4). Calcula su media.

¿Que hace la CONJUGACION de una familia de priors?

El intervalo de credibilidad bayesiano y el de confianza frecuentista son numericamente siempre iguales.

En el clasificador de spam, multiplicando 0.4·0.2·0.5 el numerador de spam vale (en decimal).

La receta posterior ∝ prior × es el corazon computacional del bayesianismo.

Empareja dato del ciclo con su rol.

Video de repaso

Para profundizar

Seeing Theory: inferencia bayesiana
Interactivo donde el Beta(α,β) se deforma al anadir datos en tiempo real.

Statistical Rethinking 2024 (material del curso)
Apuntes, videos y laboratorios gratuitos de McElreath: el bayesianismo practico mejor explicado.

El problema de sensibilidad al prior: mismo dato 7/10, dos priors, dos conclusiones (0.667 vs 0.567). Elige una decision de tu area (fraude, diagnostico, churn) y argumenta que prior seria HONESTO declarar, y que resultado te exigiria reportar el analisis de sensibilidad ante un stakeholder.