Metodología de Investigación · Formación Transversal

Ciencia reproducible y abierta

Aplicar prácticas de ciencia abierta (datos y código abiertos, pre-registro, entorno fijo, meta-análisis) para producir análisis confiables.

Ciencia reproducible y abierta

Reproducir es probar que no mentiste sin querer Un resultado que nadie más puede reproducir no es evidencia, es una anécdota con gráficos. La reproducibilidad es la base sobre la que la ciencia acumula.

La crisis de replicación mostró que muchos hallazgos no se sostienen al repetirlos. La ciencia abierta responde dejando que otros puedan volver a hacer el trabajo: datos, código, entornos y decisiones metodológicas a la vista.

Reproducir no es lo mismo que replicar

Prácticas de transparencia

Hacer un trabajo reproducible es sobre todo disciplina de ingeniería: versionar el código con el análisis, fijar las dependencias del entorno, registrar semillas aleatorias y documentar cada paso de datos a figura.

Diagrama de tres bandas: los insumos abiertos (datos, código, entorno, semillas); las prácticas de disciplina (pre-registro y documentación); y los incentivos del sistema (revisión por pares, meta-análisis y publicación de resultados negativos).
La reproducibilidad depende a la vez del trabajo individual y de los incentivos de la comunidad.

Pre-registro

Registrar la hipótesis y el plan de análisis antes de ver los datos separa la confirmación de la exploración. Impide el p-hacking (buscar el corte que dé significativo) y el HARKing (inventar la hipótesis después del resultado).

Sesgos del sistema

Meta-análisis

Cuando varios estudios responden lo mismo, el meta-análisis combina sus efectos para estimar mejor la señal, midiendo heterogeneidad y revisando el sesgo de publicación con un gráfico de embudo.

Cada práctica ataca un modo distinto de perder credibilidad.
PrácticaQué previene
Código y datos abiertosque nadie pueda verificar
Pre-registrop-hacking e HARKing
Entorno y semillas fijosresultados que no vuelven a salir
Publicar negativossesgo de publicación

Errores frecuentes

Ejemplo resuelto: que un proyecto de datos se pueda retomar

  1. Versionar datos y notebooks con commits etiquetados.
  2. Congelar dependencias en un lockfile y fijar la semilla.
  3. Escribir un README de reproductibilidad: pasos y orden.
  4. Pre-registrar la hipótesis antes de correr el análisis principal.
  5. Publicar también los resultados que no dieron lo esperado.

¿Para qué sirve en la realidad?

En una empresa, un análisis no reproducible es deuda técnica y riesgo: nadie puede confiarlo ni actualizarlo. La ciencia abierta es también buena ingeniería y mejor defensa de tus conclusiones.

¿Qué distingue la reproducibilidad de la replicabilidad?

El pre-registro de hipótesis y análisis ayuda a evitar el p-hacking y el HARKing.

Definir un entorno con versiones fijas y registrar la semilla aleatoria sirve a la del experimento.

Clasifica cada práctica según su objetivo.

Transparencia
Control de sesgos

Une cada término con su definición.

Ciencia reproducible

Mismos datos y código, mismo resultado
reproducibilidad
Nuevo experimento, misma conclusión
replicabilidad
Registrar hipótesis y análisis antes del dato
pre-registro
Buscar el corte que dé significativo
p-hacking
Combinar efectos de múltiples estudios
meta-análisis

Ciencia reproducible y abierta

# Ciencia abierta
## Conceptos
### reproducibilidad
### replicabilidad
## Practicas
### datos y codigo abiertos
### entorno y semilla
### pre-registro
## Sistema
### sesgo de publicacion
### meta-analisis

Crisis de replicación (Wikipedia)
Panorama del problema que motiva la ciencia abierta.

Pre-registro (Center for Open Science)
Referencia institucional sobre la práctica de pre-registrar estudios.

Un análisis de la empresa que sostiene una decisión importante fue hecho por alguien que ya se fue, sin entorno ni semilla documentados. ¿Qué prácticas de ciencia abierta propondrías para que cualquier análisis crítico vuelva a ser reproducible y auditable?