Marco legal y normativo de la IA

Por qué regular la IA

• Los daños potenciales son masivos y silenciosos.
• Hay asimetría entre quien diseña y quien se ve afectado.
• Se buscan garantías mínimas y responsabilidad.

Protección de datos personales

Reglamentos como el GDPR fijan principios: licitud, minimización, finalidad, derechos de acceso y supresión, y obligaciones para quien trata datos personales.

Enfoque basado en riesgo

Muchos marcos graduan las exigencias por el riesgo de cada uso. Prácticas de riesgo inaceptable se prohíben; las de alto riesgo piden controles estrictos.

Sistemas de alto riesgo

• Empleo, crédito, sanidad, justicia o infraestructuras críticas.
• Exigen evaluación de conformidad, datos de calidad y supervisión humana.
• Documentación técnica y registros obligatorios.

Transparencia e información

Se debe avisar cuando se interactúa con una IA o cuando existen decisiones automatizadas relevantes, con información significativa sobre la lógica empleada.

Derecho a no ser solo automatizado

• En decisiones con efectos graves, poder pedir intervención humana.
• Explicación de la decisión automatizada.
• Posibilidad de impugnarla.

Responsabilidad (accountability)

El que diseña o despliega debe poder demostrar cumplimiento: evaluar riesgos, guardar evidencia y responder por los daños.

Supervisión humana

En contextos sensibles se exige que una persona con autoridad y formación valide o pueda revertir la decisión del sistema, no un sello decorativo.

Variabilidad por jurisdicción

• Las normas difieren entre regiones y evoluciona rápido.
• Un sistema global debe adaptarse a varias.
• El cumplimiento es móvil, no un trámite único.

Más allá de la ley mínima

Cumplir la norma es el suelo, no el techo. La ética buena va más lejos de lo legalmente obligatorio, con revisiones internas y principios propios.

Consecuencias del incumplimiento

Multas cuantiosas, retirada de productos y pérdida de reputación. La gobernanza legal es también una cuestión de continuidad del negocio.

Errores frecuentes

• Tratar el cumplimiento como un trámite único cuando las normas evolucionan y difieren.
• Etiquetar de bajo riesgo un sistema que afecta a empleo, crédito o justicia.
• Confiar en una supervisión humana decorativa sin autoridad real para revertir.

Ejemplo resuelto: un cribado de currículums antes de lanzar

Antes de desplegar un sistema de selección de personal, el equipo lo clasifica como de alto riesgo por su impacto en empleo. Prepara entonces un expediente técnico, evalúa la calidad y sesgo de los datos, diseña la supervisión humana con autoridad y registra la evaluación de conformidad antes de liberarlo.

1. clasificar el sistema según su categoría de riesgo
2. verificar los controles exigidos para ese nivel
3. documentar datos, lógica y pruebas realizadas
4. garantizar la intervención humana con autoridad
5. informar al usuario de que interactúa con una IA

¿Para qué sirve en la realidad?

Científicos e ingenieros de datos deben conocer la normativa que rige sus sistemas: define qué usos son admisibles, con qué transparencia y bajo qué derechos de las personas afectadas, y su incumplimiento trae multas y retirada de productos.

Regulación de la IA
Marcos jurídicos que rigen el desarrollo y uso de la IA.

# Marco legal de la IA
## Por qué
### daños masivos
### asimetría
### garantías mínimas
## Pilares
### protección de datos
### enfoque por riesgo
### transparencia
## Derechos
### no solo automatización
### explicación
### impugnación
## Deberes
### accountability
### supervisión humana
### documentación

Ley de inteligencia artificial de la UE
Reglamento europeo que gradúa las obligaciones de los sistemas de IA por riesgo.