Derivadas, gradiente y regla de la cadena: cómo sabe un modelo en qué dirección aprender
La derivada como velocidad de cambio, derivadas parciales, gradiente y regla de la cadena — y la retropropagación calculada número a número en una sola neurona.
Serie Fundamentos de IA Parte 10 de 52
- Mapa de la inteligencia artificial: qué es cada cosa y cómo encaja todo
- Breve historia de la inteligencia artificial: de Turing a los modelos de lenguaje
- Datos, modelo, entrenamiento, inferencia: los conceptos básicos en un solo ejemplo
- Cómo leer la notación matemática: símbolos, subíndices, sumatorios y cuantificadores
- Conjuntos y relaciones: las piezas con las que se construyen las definiciones en IA
- Funciones y aplicaciones: por qué todo modelo de IA es una función
- Lógica y demostraciones: las reglas con las que se razona en IA
- Grafos y árboles: la estructura sobre la que se apoyan la búsqueda y las redes neuronales
- Álgebra lineal para aprendizaje automático: vectores, matrices y por qué la IA sobre todo multiplica
- Derivadas, gradiente y regla de la cadena: cómo sabe un modelo en qué dirección aprender
- Descenso de gradiente: cómo aprende un modelo
- Qué es la probabilidad: del lanzamiento de un dado a los axiomas de Kolmogórov
- Probabilidad condicionada y teorema de Bayes: cómo cambiar una estimación cuando te enteras de algo nuevo
- Variable aleatoria y función de distribución: una sola función que lo dice todo sobre la distribución
- Función de densidad y función de probabilidad: por qué una variable continua tiene probabilidad cero en cada punto
- Esperanza, varianza y covarianza: dónde está una distribución, qué anchura tiene y qué se relaciona con qué
- Resumen de las distribuciones de probabilidad: Bernoulli, binomial, Poisson, uniforme, normal y exponencial
- Ley de los grandes números y teorema central del límite: por qué las medias se comportan de forma tan predecible
- Estadística y estimación de parámetros: máxima verosimilitud, MAP e intervalos de confianza
- Teoría de la información: entropía, entropía cruzada y divergencia KL, el origen de las funciones de pérdida
- Búsqueda en el espacio de estados: BFS, DFS, UCS y A* con animaciones
- Juegos y adversarios: minimax, poda alfa-beta y Monte Carlo tree search
- Satisfacción de restricciones: backtracking, propagación de restricciones y AC-3 con un sudoku y un mapa de regiones checas
- Lógica y sistemas basados en conocimiento: encadenamiento hacia delante y hacia atrás, resolución y sistemas expertos
- Planificación: STRIPS, el mundo de bloques, heurísticas a partir de la relajación y la planificación en los agentes de IA
- Búsqueda local y recocido simulado: un viajante por las capitales regionales checas
- Algoritmos genéticos: población, cruce, mutación y selección en una mochila para la excursión
- Estrategias evolutivas y programación genética: de la regla de un quinto a la ley de Kepler
- Optimización por colonia de hormigas: cómo un rastro de feromona encuentra un camino corto
- Optimización por enjambre de partículas: inercia, experiencia propia y experiencia del enjambre
- Neuroevolución: evolución de los pesos y la forma de las redes neuronales, y el algoritmo NEAT
- Conjuntos difusos y funciones de pertenencia: cómo escribir «algo cálido»
- Lógica difusa y probabilidad: por qué «algo cálido» no significa «probablemente cálido»
- Lógica difusa: t-normas, implicaciones y reglas SI–ENTONCES
- Control difuso: Mamdani y Sugeno, del ventilador al péndulo invertido sobre un carro
- Agrupamiento difuso: el algoritmo fuzzy c-means y los puntos entre clusters
- Sistemas neuro-difusos (ANFIS): reglas difusas que aprenden de los datos
- Cadenas de Markov: matriz de transición, distribución estacionaria y PageRank
- Modelos ocultos de Márkov: el algoritmo de Viterbi y el casino deshonesto
- Redes bayesianas: por qué está mojada la hierba y qué significa eso para el aspersor
- El filtro de Kalman: cómo estimar a partir de mediciones imprecisas dónde está un coche y a qué velocidad va
- Tipos de aprendizaje automático: supervisado, no supervisado, semisupervisado y más
- Prompts, contexto y RAG: cómo darle a un modelo la información correcta
- Autocodificadores variacionales (VAE): imágenes nuevas a partir de un espacio latente continuo
- Redes generativas adversarias (GAN): el falsificador contra el detective
- Modelos de difusión: cómo el ruido puro se convierte en una imagen
- Procesos de decisión de Markov: estados, acciones, recompensas y ecuaciones de Bellman
- Q-learning y DQN: aprender el valor de las acciones, de la tabla a la red neuronal
- Gradiente de la política y PPO: aprender directamente la política
- Cómo funciona un agente de IA: un modelo de lenguaje en un bucle con herramientas
- Programación con agentes de IA: encargo, pruebas y revisión
- Evaluación y seguridad de los sistemas de IA: cómo medir y cómo vigilar
Temario completo de la serie 52 de 83 temas publicados
- Qué es la derivada, cómo se calcula y por qué en un mínimo vale cero.
- Qué es el gradiente y por qué señala la dirección más empinada cuesta arriba — y −∇f hacia abajo.
- Cómo la regla de la cadena calcula la retropropagación, paso a paso en una sola neurona.
Conviene conocer antes: Funciones y aplicaciones: por qué todo modelo de IA es una función, Grafos y árboles: la estructura sobre la que se apoyan la búsqueda y las redes neuronales
Un modelo aprende cambiando sus parámetros a pequeños pasos. Para saber en qué dirección cambiarlos, necesita la respuesta a una sola pregunta: si giro un poco este botón, ¿cómo cambia el error? Esa pregunta la responde la derivada. Para millones de botones a la vez, es el gradiente. Y cómo calcularlo a través de toda una red neuronal lo dice la regla de la cadena.
Esta parte es la última pieza de matemáticas que te falta para entender cómo aprende de verdad una red neuronal. Se apoya en las funciones y en el grafo de cómputo de una neurona de la parte sobre grafos.
1. La derivada: lo rápido que cambia una función
Definición — derivada
La derivada de una función f en el punto x es el límite
f ′(x) = limh → 0 (f(x + h) − f(x)) / h,
si existe. La fracción dentro del límite es la pendiente de la secante a la gráfica entre los puntos x y x + h; la derivada es la pendiente de la tangente. Otra notación: df/dx.
La derivada es una velocidad. Si f describe dónde está un coche en el instante x, la derivada es la velocidad que marca el velocímetro en ese momento. En una gráfica es la inclinación: derivada positiva — la función sube; negativa — baja; cero — está en llano.
La secante a la gráfica de f(x) = x2 en el punto 3 tiene, para h = 2, pendiente 8; para h = 1, pendiente 7; para 0,5, pendiente 6,5, y para 0,1, pendiente 6,1. Cuanto menor es el paso, más se acerca la secante a la tangente — y la derivada es f ′(3) = 6:
2. Reglas y derivadas de funciones de la IA
En la práctica, las derivadas no se calculan con el límite, sino con reglas. Las más importantes:
Reglas de derivación
(c)′ = 0, (xn)′ = nxn−1, (ex)′ = ex, (ln x)′ = 1/x
(f + g)′ = f ′ + g ′, (cf)′ = cf ′, (fg)′ = f ′g + fg ′
| Función | Derivada | Dónde la encontrarás |
|---|---|---|
| x2 | 2x | error cuadrático medio |
| ln x | 1/x | entropía cruzada |
| σ(x) = 1/(1 + e−x) | σ(x)(1 − σ(x)) | regresión logística, salida de la red |
| tanh x | 1 − tanh2 x | redes recurrentes |
| ReLU(x) = max(0, x) | 0 para x < 0, 1 para x > 0 | capas ocultas de las redes |
Fíjate en que la derivada de la sigmoide se puede calcular a partir del propio valor de la sigmoide — eso ahorra trabajo, porque la red ya lo calculó durante el paso hacia delante. Y la derivada de ReLU es la más sencilla posible: o 0, o 1. También por eso ReLU es tan popular.
3. La derivada señala el camino al mínimo
Teorema — condición necesaria de extremo
Si una función derivable f tiene en el punto x* un mínimo o un máximo local, entonces f ′(x*) = 0. Lo contrario no es cierto: f ′ = 0 también puede darse en un punto de inflexión (x3 en cero).
En el fondo de un valle el terreno es llano. Además, la derivada te dice por dónde bajar: si es positiva, ve a la izquierda; si es negativa, a la derecha. Eso es exactamente lo que hace el descenso de gradiente — solo que en millones de dimensiones a la vez.
Para f(x) = x2 es f ′(x) = 2x, que vale cero solo en el punto 0 — y ahí está el mínimo. Para funciones más complicadas no sabemos resolver la ecuación f ′ = 0, y por eso el mínimo se busca paso a paso: un poco en contra de la dirección de la derivada, volver a calcular, otro poco.
4. Derivadas parciales
Definición — derivada parcial
Para f : ℝn → ℝ, la derivada parcial respecto a xi, ∂f/∂xi, es la derivada ordinaria respecto a xi cuando todas las demás variables se mantienen constantes.
En una función con varios botones, giras uno y dejas los demás como están. La derivada parcial dice con qué sensibilidad reacciona el resultado justo a ese botón.
f(x, y) = x2y
∂f/∂x = 2xy, ∂f/∂y = x2
en el punto (3, 2): ∂f/∂x = 12, ∂f/∂y = 9
5. El gradiente: la dirección de máximo ascenso
Definición — gradiente
El gradiente de una función f : ℝn → ℝ es el vector de todas sus derivadas parciales: ∇f = (∂f/∂x1, …, ∂f/∂xn).
Teorema. El gradiente señala la dirección en la que la función crece más rápido, y su longitud es esa velocidad máxima de crecimiento. −∇f señala la dirección de máximo descenso. El gradiente es perpendicular a la curva de nivel.
Estás en una ladera con niebla y tanteas la inclinación bajo tus pies. El gradiente es la flecha que sube lo más empinado posible. Quien quiera bajar va exactamente al revés.
Para el cuenco f(x, y) = x2 + 3y2 es ∇f = (2x, 6y); en el punto (1, 1) vale (2, 6). Las flechas de la figura muestran −∇f, es decir, por dónde se baja — y todas cruzan las curvas de nivel en perpendicular hacia el fondo:
Las flechas no apuntan directamente al centro: en la dirección y el cuenco es más empinado, así que allí el gradiente es mayor. Justo este «zigzag» es lo que luego le da problemas al descenso de gradiente en valles estrechos.
6. La regla de la cadena
Teorema — derivada de una función compuesta
Para una función compuesta h = g ∘ f, es decir, h(x) = g(f(x)), se cumple h ′(x) = g ′(f(x)) · f ′(x).
En notación de Leibniz, si y = g(u) y u = f(x): dy/dx = (dy/du) · (du/dx). En una cadena más larga se multiplican todos los eslabones.
Engranajes: si cuando la primera rueda da una vuelta la segunda da tres, y la tercera da dos vueltas por cada vuelta de la segunda, la tercera rueda da seis vueltas. Las sensibilidades se multiplican a lo largo de la cadena.
h(x) = (2x + 1)2, exterior g(u) = u2, interior u = 2x + 1
h ′(x) = 2u · 2 = 4(2x + 1), h ′(1) = 12
7. Retropropagación en una sola neurona
Ahora juntémoslo todo. La neurona de la parte sobre grafos calcula ŷ = σ(wx + b) y su error es L = (ŷ − y)2. Tomemos la entrada x = 2, el peso w = 0,5, el sesgo b = −0,5 y la respuesta correcta y = 1.
El paso hacia delante calcula los valores de izquierda a derecha: wx = 1, z = 0,5, ŷ = σ(0,5) ≈ 0,622 y el error L ≈ 0,143.
El paso hacia atrás recorre el mismo grafo de derecha a izquierda y en cada nodo multiplica lo que le llega por la derivada de esa operación:
∂L/∂ŷ = 2(ŷ − y) ≈ −0,755
∂L/∂z = ∂L/∂ŷ · σ(z)(1 − σ(z)) ≈ −0,755 · 0,235 ≈ −0,177
∂L/∂w = ∂L/∂z · x ≈ −0,355, ∂L/∂b = ∂L/∂z · 1 ≈ −0,177
Los dos gradientes son negativos. Eso significa que si aumentamos un poco tanto w como b, el error baja — la neurona responderá entonces más cerca de uno. El descenso de gradiente hace exactamente eso: mueve los parámetros un poco en contra del gradiente. Toda una red neuronal aprende igual, solo que en lugar de una neurona tiene millones y el paso hacia atrás atraviesa cientos de capas. Por cierto, el resultado se puede comprobar por fuerza bruta — mover w una pizca, volver a calcular el error y dividir. Sale lo mismo, solo que más despacio.
8. Las derivadas en la inteligencia artificial
- Diferenciación automática — bibliotecas como PyTorch y JAX construyen durante el cálculo un grafo de cómputo y obtienen el gradiente ellas solas mediante el paso hacia atrás. Nadie escribe a mano las derivadas de una red.
- La diferenciación numérica (con h pequeño) es demasiado lenta para millones de parámetros — un cálculo adicional por cada parámetro. La retropropagación obtiene todas las derivadas parciales por el coste aproximado de un solo paso hacia delante.
- Desvanecimiento del gradiente — la derivada de la sigmoide es como mucho 0,25. La regla de la cadena a través de cinco sigmoides seguidas multiplica como mucho por 0,255 ≈ 0,001, así que las capas profundas apenas aprenden. Por eso en las capas ocultas se impuso ReLU, con derivada 1.
- El gradiente respecto a la entrada muestra qué píxeles de una imagen influyeron más en la decisión de la red — así se dibujan los «mapas de prominencia» y se buscan los puntos débiles de los modelos.
9. Resumen
- La derivada es la velocidad de cambio — la pendiente de la tangente a la que se acercan las secantes.
- En un mínimo la derivada es cero, y su signo dice por dónde se baja.
- La derivada parcial mueve un solo botón; el gradiente es el vector de todas ellas y apunta cuesta arriba por lo más empinado.
- La regla de la cadena multiplica las derivadas de los eslabones de una función compuesta.
- La retropropagación es la regla de la cadena aplicada a un grafo de cómputo — así se calcula el gradiente de toda una red neuronal.
¿Lo ves de otra manera? Escribe a support@coden-app.com.