Inferencia bayesiana: actualizar creencias con datos
El bayesianismo es la epistemologia del cientifico de datos: empiezas con una opinion, ves datos, y terminas con una opinion mejor. Nada mas y nada menos. Su arma es la unica formula que ya conoces (Bayes) aplicada no a un caso clinico sino a los PARAMETROS de tu modelo. En este objeto: el ciclo prior-likelihood-posterior, el ejemplo conjugado Beta-Binomial resuelto a mano, intervalos de credibilidad frente a confianza, sensibilidad al prior y el clasificador Naive Bayes como app del motor.
El ciclo: prior x verosimilitud = posterior
P(θ|D) = P(D|θ)·P(θ) / P(D). En palabras: creencia despues = creencia antes · evidencia de los datos, normalizada. Como P(D) es el mismo escalar para todo θ, los bayesianos trabajan con la proporcionalidad: posterior ∝ likelihood · prior, y normalizan al final con una integral.
Moneda al aire con Beta: el ejemplo conjugado
Paso 1 · Montar
Modelo: P(k caras | n, θ) binomial con θ desconocida. Prior: Beta(α, β). El prior uniforme "no me apoyo en nada" es Beta(1,1): densidad constante en [0,1].Paso 2 · Receta
Conjugacion: la familia Beta es conjugada de la binomial — posterior = Beta(α + caras, β + cruces). Solo hay que SUMAR conteos. Es la razon de que Beta aparezca en todos lados.Paso 3 · Calcular
Datos: lanzamos 10 veces, 7 caras. Posterior: Beta(1+7, 1+3) = Beta(8, 4). Su media: α/(α+β) = 8/12 = 0.667: la creencia media entre los 0.7 de los datos y el prior neutro, tirando a datos porque n es pequena.Paso 4 · Resumen
Moda: (8−1)/(12−2) = 0.7 (coincide con el MLE 7/10). Varianza de Beta: αβ/((α+β)²(α+β+1)) = 32/(144·13) = 0.017 → desviación 0.13.Paso 5 · Intervalo
Intervalo de credibilidad 95% aproximado: 0.667 ± 1.96·0.13 = (0.41, 0.92). Lectura directa permitida: con los datos y el prior, la probabilidad de que θ caiga aqui es 0.95.
Paso 1 de 5
Sensibilidad al prior: cuantificarlo
El prior es el punto flaco y el punto fuerte a la vez; el deber del analista es reportar ambos. Mismo dato (7 de 10) con un prior escéptico Beta(10, 10) (fuerte en 0.5, peso pseudo-muestral de 20 lanzamientos): posterior Beta(17, 13), media 17/30 = 0.567. Con datos que contradicen al prior, el prior gana mientras n es pequena; con n grande los datos aplastan al prior: la influencia relativa es (α+β) versus n.
Bayes aplicado: el mismo test medico que ya viste
Paso 1 · Datos
Prevalencia 1%: P(E) = 0.01. Sensibilidad 99%: P(+|E) = 0.99. Especificidad 95%: P(+|noE) = 0.05.Paso 2 · Formula
Posterior P(E|+) = (0.99·0.01) / (0.99·0.01 + 0.05·0.99) = 0.0099/(0.0099+0.0495) = 0.1667.Paso 3 · Interpretar
El prior (prevalencia 1%) es el que hace que un test 99% preciso solo suba la sospecha del 1% al 16.7%. Sin prior no hay inferencia: la verosimilitud sola no sabe cuanto pesa cada hipotesis.
Paso 1 de 3
Naive Bayes: el motor en produccion
El clasificador spam que filtra tu correo ES bayesiano. "Naive" por asumir independencia condicional de palabras dado spam o no: P(w1,w2|spam) = P(w1|spam)·P(w2|spam). Aunque la suposicion es falsa (las palabras correlacionan), el clasificador es rapidisimo, aprende con una pasada y gana a modelos complejos en datos textuales pequenos.
Un correo con dos palabras, a mano
Paso 1 · Tabla
Estadisticas del corpus: P(spam) = 0.4. En spam: la palabra "gratis" aparece con P(gratis|spam) = 0.2 y "factura" con P(factura|spam) = 0.5. En legitimo: P(gratis|no) = 0.01 y P(factura|no) = 0.001.Paso 2 · Producto
Numerador spam: 0.4·0.2·0.5 = 0.04. Numerador legitimo: 0.6·0.01·0.001 = 0.000006.Paso 3 · Decidir
Posterior spam = 0.04/(0.04+0.000006) ≈ 0.99985. Dos coincidentes de palabras enterran la hipotesis legitima. El clasificador decide por ese posterior, no por las verosimilitudes sueltas.
Paso 1 de 3
El ciclo bayesiano
- θ | datos
- Antes
- Prior: opinion honesta
- Conjugada: familia comoda
- Datos
- Likelihood: binomial, normal...
- Despues
- Posterior ∝ prior·lik
- Media, moda, ICredible
- Chequeo de sensibilidad
- Antes
Autoexamen cronometrado (20 minutos)
Con prior Beta(1,1) y 5 caras de 8 lanzamientos, la posterior es Beta(6, 4). Calcula su media.
¿Que hace la CONJUGACION de una familia de priors?
El intervalo de credibilidad bayesiano y el de confianza frecuentista son numericamente siempre iguales.
En el clasificador de spam, multiplicando 0.4·0.2·0.5 el numerador de spam vale (en decimal).
La receta posterior ∝ prior × es el corazon computacional del bayesianismo.
Empareja dato del ciclo con su rol.
Para profundizar
Seeing Theory: inferencia bayesianaInteractivo donde el Beta(α,β) se deforma al anadir datos en tiempo real.
Statistical Rethinking 2024 (material del curso)Apuntes, videos y laboratorios gratuitos de McElreath: el bayesianismo practico mejor explicado.
El problema de sensibilidad al prior: mismo dato 7/10, dos priors, dos conclusiones (0.667 vs 0.567). Elige una decision de tu area (fraude, diagnostico, churn) y argumenta que prior seria HONESTO declarar, y que resultado te exigiria reportar el analisis de sensibilidad ante un stakeholder.
Tu texto se guarda sólo en este dispositivo.
Comentarios
Inicia sesión para comentar.
Todavía no hay comentarios. Sé la primera persona en opinar.