Una matriz no es una tabla, es una transformación

Si un vector es la posición de un punto, una matriz es un comando que hace que ese punto se mueva. Una matriz puede rotar, estirar, aplastar o deformar todo el espacio a la vez. En el aprendizaje automático, los pesos de una capa neuronal son los números de una matriz. Cuando los datos pasan a través de la capa, la matriz de peso literalmente deforma el espacio, tratando de colocar puntos de diferentes clases más separados.

Cambia los números de la matriz W y observa cómo se deforma el espacio.
Grid nodes (x, y) map to (x′, y′):  x′ = ax + by,   y′ = cx + dy
Matrix W
(
)
[1.00, 0.00; 0.00, 1.00]

Transformadas lineales: lo que puede hacer una matriz

Una transformación lineal conserva dos cosas: las líneas rectas permanecen rectas y el origen permanece fijo. Todo lo demás (rotaciones, escalamiento, reflexiones, cortes) lo puede hacer una matriz.
Identidad [[1,0],[0,1]]: la transformación “no hacer nada”. El espacio no cambia. np.ojo(2)
Escala [[2,0],[0,2]]: estira el espacio en 2 a lo largo de ambos ejes
Rotación [[0,-1],[1,0]]: rota cada vector 90°. Pruébalo en el widget de arriba
Cada capa densa (completamente conectada) es una matriz:y=Wx+by=Wx+b. Entrenamiento = afinando los números en W
Multiplicación de matrices: componer dos transformaciones en una

Multiplicación de matricesA×BA\times Bno es sólo aritmética. Está aplicando dos transformaciones en secuencia: primero B, luego A en la parte superior. Pase el cursor sobre una celda en la matriz de resultados C a continuación para ver qué fila de A y qué columna de B se combinan. El orden importa: A×B normalmente no es igual a B×A.

Pase el cursor sobre una celda en la matriz C para ver qué elementos se combinan
Cij=kAikBkjC_{ij} = \sum_k A_{ik} B_{kj} — row ii of Capa 1 (W₁), column jj of Capa 2 (W₂)
Capa 1 (W₁)
231
042
Capa 2 (W₂)
12
01
30
Resultado
57
64
Pase el cursor sobre una celda de resultado en C: la fila coincidente de A y la columna de B están resaltadas.
Tres operaciones que debes saber
Haga clic en una operación para obtener más detalles
Matrices en redes neuronales: una capa como deformación del espacio

Cada capa densa es literalmentey=Wx+by=Wx+b. Matrix W deforma el espacio; el sesgo b lo desplaza. Entrenar significa ajustar las entradas de W para que después de todas las capas, los puntos de diferentes clases (por ejemplo, gatos versus perros) terminen muy separados y sean fáciles de separar.

Álgebra lineal en acción ▼
python
1
import numpy as np
2
W = np.array([[0, -1], [1, 0]])
3
x = np.array([1, 0])
4
y = W @ x  # [0, 1]
5
inv_W = np.linalg.inv(W)
6
det = np.linalg.det(W)  # = 1.0
Las GPU se convirtieron en el corazón del aprendizaje profundo porque ejecutan miles de millones de matrices multiplicadas en paralelo. El entrenamiento del GPT-4 requirió del orden de billones de operaciones de este tipo. Sin este rendimiento matricial, los LLM modernos serían imposibles.