Privacidad y gobernanza de datos
Por qué la privacidad es ética
Detrás de cada fila hay una persona con derechos. Recolectar, guardar o inferir sobre su vida sin base legítima es un perjuicio, aunque nadie «vea» el dato.
Principio de minimización
- Recoger solo lo necesario para la finalidad declarada.
- No acumular datos «por si acaso».
- Cuanto menos se guarda, menos se puede filtrar.
Consentimiento y finalidad
El dato se recoge para un propósito claro y con autorización informada. Reutilizarlo para otro distinto, como entrenar un modelo, puede quebrar esa confianza.
Gobernanza del dato
Definir quién decide sobre los datos, con qué políticas, permisos y auditorías. Un gobierno claro hace los datos confiables y responsables.
Inferencia de datos sensibles
Aunque no se pida la orientación o la salud, un modelo puede inferirlas de otros datos. Crear perfiles sensibles sin permiso es un riesgo ético creciente.
Reidentificación
Un conjunto «anonimizado» puede volver a identificar personas al cruzarlo con otras fuentes. La anonimización perfecta es difícil; el riesgo persiste.
Finalidad frente a utilidad
Hay tensión entre maximizar el valor del dato y respetar su propósito original. La gobernanza pone límites legítimos a la explotación.
Retención y borrado
- Definir cuánto tiempo se conserva cada dato.
- Garantizar el derecho a suprimir.
- Lo guardado indefinidamente es riesgo acumulado.
Rendición de cuentas
Alguien debe responder por el uso de los datos: dueños, responsables y comités. La ausencia de responsable es una garantía de abuso.
Sesgo por datos incompletos
La privacidad mal aplicada puede borrar en bloque a grupos, sesgando modelos. Equilibrar protección y utilidad representa bien a todos es un reto conjunto.
Herramientas de protección
- Seudonimización y cifrado en reposo y tránsito.
- Control de acceso mínimo por roles.
- Registros de uso para auditar.
Errores frecuentes
- Guardar datos «por si acaso» en lugar de minimizar según la finalidad.
- Dar por anónima una muestra que al cruzarla con otras reidentifica personas.
- Reutilizar datos para entrenar un modelo sin base legítima ni aviso.
Ejemplo resuelto: reutilizar datos de soporte
Un equipo quiere entrenar un asistente con tickets de soporte que contienen datos personales. Antes de hacerlo revisa la finalidad original, anonimitza y elimina identificadores directos, evalúa el riesgo de reidentificación, pide una base legítima y documenta quién responde por el uso.
- revisar la finalidad con la que se recogieron los datos
- aplicar minimización y seudonimización antes de tocar nada
- evaluar el riesgo de reidentificación al cruzar fuentes
- garantizar una base legítima y consentimiento si procede
- registrar el uso y designar un responsable
¿Para qué sirve en la realidad?
Toda IA se alimenta de datos, muchas veces personales; la gobernanza con minimización, consentimiento y rendición de cuentas evita el daño más común: usar, guardar o reutilizar de más la información ajena.
El principio de minimización de datos establece que:
Un conjunto de datos anonimizado garantiza de forma absoluta que nadie pueda ser reidentificado.
Privacidad
Ordena el ciclo responsable de un dato personal:
Recolectar
Gobernar
Usar
Borrar
Gobernanza de datos
Gestión de la disponibilidad, usabilidad, integridad y seguridad del dato.
Une cada principio de privacidad con su definición:
Privacidad
# Privacidad y gobernanza ## Principios ### minimización ### consentimiento ### finalidad ## Riesgos ### inferencia sensible ### reidentificación ### retención excesiva ## Gobierno ### dueños y políticas ### auditoría ### rendición de cuentas ## Herramientas ### seudonimización ### cifrado ### acceso mínimo
Reglamento general de protección de datos
Norma europea que rige el tratamiento de datos personales.
Tu equipo quiere reutilizar datos de soporte al cliente para entrenar un modelo. ¿Qué garantías de finalidad y privacidad exigirías antes de hacerlo?