Diseño Experimental y A/B · Probabilidad y Estadística

Diseño de experimentos y aleatorización

Diseñar experimentos con aleatorización y grupos de control que permitan estimar el efecto causal de un tratamiento.

Diseño de experimentos y aleatorización

Aleatorizar para poder atribuir Repartir al azar es la forma más elegante de «igualar el terreno». Si la asignación es aleatoria, cualquier diferencia en el resultado se puede atribuir al tratamiento, porque todo lo demás está balanceado en promedio.

El experimento controlado

Se manipula una variable (tratamiento) y se compara un grupo que lo recibe contra otro que no, midiendo la diferencia en el resultado de interés.

Grupo de control

Asignación aleatoria

Cada unidad se asigna al azar a tratamiento o control. Rompe la correlación entre el grupo y las características ocultas, igualando confundentes conocidos y desconocidos.

Por qué la aleatorización funciona

Al azar, en expectativa ambos grupos son idénticos salvo por el tratamiento. Cualquier diferencia sistemática observada se atribuye a este, no a una selección sesgada.

Bloqueo y estratificación

Réplicas y aleatoriedad interna

Repetir el tratamiento en varias unidades da estimación del error natural. Sin réplica no se sabe cuánto variabilidad es señal y cuánto ruido.

Ceguera y doble ciego

Unidad y aleatorización

Decidir qué se aleatoriza (persona, página, día, clúster) importa: una elección incorrecta contamina la comparación con interferencias entre unidades.

Un grupo de formas variadas arriba se divide mediante un dado en dos grupos equilibrados abajo, uno marcado con símbolos de suma como tratamiento y otro con contorno simple como control.
Al azar, los dos grupos son idénticos en promedio salvo por el tratamiento: la única diferencia sistemática plausible es el efecto.

Validez interna y externa

La interna pregunta si el efecto es real en el experimento; la externa, si generaliza fuera de él. Condiciones artificiales amenazan la segunda.

Cuándo no se puede experimental

Factoriales

Manipular varios factores a la vez en un diseño factorial estima efectos individuales e interacciones, aprovechando cada corrida para varias preguntas.

Errores frecuentes

Ejemplo resuelto: medir un rediseño de botón

Para saber si un botón nuevo sube las conversiones, no basta comparar el antes y el después: la temporada o el tráfico cambian. El equipo aleatoriza usuarios al diseño viejo (control) y al nuevo (tratamiento), corre ciclos completos y compara: la diferencia se atribuye al rediseño porque todo lo demás quedó balanceado al azar.

  1. formular la hipótesis y definir la métrica de resultado
  2. elegir la unidad correcta de aleatorización
  3. asignar al azar a tratamiento y control
  4. aplicar los tratamientos y medir en ciclos completos
  5. comparar los grupos para estimar el efecto causal

¿Para qué sirve en la realidad?

Desde ensayos clínicos hasta cambios de producto o políticas públicas, el experimento aleatorizado es el estándar de oro para saber si una intervención funciona de verdad, porque neutraliza los confundentes que hacen engañosas las comparaciones observacionales.

La asignación aleatoria en un experimento permite atribuir el resultado al tratamiento porque:

Un grupo de control es opcional en un experimento bien aleatorizado.

Diseño

Manipular una variable y medir
experimento
Referencia sin tratamiento
control
Asignar a los grupos al azar
aleatorizacion
Asegurar representación por capas
estratificar
Ocultar el grupo para evitar sesgo
cegamiento

Ordena las etapas de un experimento aleatorizado:

Hipotesis
Aleatorizar
Aplicar
Comparar

Ensayo controlado aleatorizado
Diseño experimental de referencia para atribuir causalidad.

Une cada elemento del experimento con su función:

Experimento

# Diseño de experimentos
## Elementos
### tratamiento
### control
### aleatorización
### réplica
## Refinamientos
### bloqueo
### estratificación
### cegamiento
## Validez
### interna
### externa
### amenazas
## Alternativas
### cuasiexperimentos
### inferencia observacional
### factoriales

Diseño de experimentos
Plan para recolectar datos que permita inferir causas con economía y rigor.

Quieres medir el efecto de un rediseño de botón en las conversiones. Define tratamiento, control, unidad de aleatorización y un riesgo de validez interna.