Álgebra Lineal · Matemáticas

Dependencia e independencia lineal

Decidir si un conjunto de vectores es linealmente independiente y relacionarlo con la redundancia de la información.

Dependencia e independencia lineal

Diagrama de algebra lineal: vectores en 3D, matriz y autovectores.
Algebra lineal: vectores, matrices, sistemas lineales y descomposicion espectral.

Mapa conceptual

Qué aporta algo nuevo En datos, la independencia lineal es información que no se repite. Dos columnas dependientes son redundantes: una se puede reconstruir con la otra. Detectar qué sobra es la esencia de reducir dimensiones.

Combinación lineal otra vez

Decir que un vector es combinación lineal de otros significa que se puede fabricar escalando y sumando aquellos. Si w = 2 por u menos v, entonces w no añade nada: vive donde u y v ya alcanzan. Esa idea es toda la lección en una frase.

Definición de independencia

Un conjunto de vectores es linealmente independiente si la única manera de combinarlos para dar el vector nulo es poniendo todos los pesos a cero. En cuanto aparece una combinación no trivial que anula el resultado, los vectores son dependientes.

Dependencia: algo sobra

Son dependientes si algún vector se puede escribir como combinación del resto. Ese vector es redundante: sobraba para describir el espacio. Quitarlo no cambia los puntos que se pueden alcanzar.

Interpretación geométrica

El span

El span de un conjunto de vectores es el conjunto de TODAS sus combinaciones lineales: el espacio que «abarcan». Un vector está en el span de otros si se puede fabricar con ellos. Independencia significa que ningún vector cae ya en el span de los anteriores.

Cómo comprobarlo

Se colocan los vectores como columnas de una matriz y se resuelve si el sistema homogéneo tiene solo la solución trivial. Si hay soluciones no nulas, hay dependencia. En la práctica, reducir la matriz o mirar su rango responde la pregunta de un vistazo.

Cuatro criterios rápidos para intuir el resultado.
SituaciónVeredictoPor qué
Ningún vector es combinación de los otrosIndependientescada uno abre dirección nueva
Algún vector sí es combinación de los demásDependienteshay redundancia
Un vector es ceroDependientesel cero siempre sobra
Más vectores que dimensionesDependientesno caben tantas direcciones

Si un vector w puede escribirse como combinación lineal de u y v, ¿qué se puede afirmar?

En datos: columnas correlacionadas

Dos atributos perfectamente correlacionados (peso en kilos y en libras) son columnas dependientes: una reconstruye a la otra. Guardar ambas es redundancia, y muchos modelos se degradan con redundancia extrema. La independencia lineal mide cuánta información real aporta cada columna.

Base mínima

De cualquier conjunto se puede extraer una versión sin redundancia: quitar los vectores dependientes hasta que los que queden sean independientes. Esos que permanecen describen el mismo span con el mínimo número de piezas. Es el germen del concepto de base.

Más vectores que dimensiones

En R a la n no puede haber más de n vectores independientes: cada uno exige una dirección y solo hay n. Cinco vectores en el plano (R a la 2) son necesariamente dependientes. Este «techo» dimensional es muy usado para razonar.

Errores frecuentes

Tres vectores en el espacio R a la 2 son siempre linealmente dependientes.

Rango como contador de independientes

El máximo número de vectores independientes que se pueden elegir de un conjunto (o de las columnas de una matriz) es su rango. El rango cuenta cuántas direcciones «reales» hay. Lo retendrás cuando hablemos de matrices.

Clasifica cada conjunto de vectores:

Independiente
Dependiente

Piensa en dos atributos de un dataset real que sean «el mismo dato en otra unidad». Explica por qué sus columnas son linealmente dependientes y qué ganarías al quitar una.

3Blue1Brown: Linear Algebra
Serie Essence of Linear Algebra con intuicion geometrica.