Descenso de gradiente: cómo aprende un modelo

La tasa de aprendizaje, el zigzag en valles estrechos, momentum, Adam, el descenso estocástico por mini-lotes y los mínimos locales — con animaciones de trayectorias reales.

24 minutos Matěj Žalmánek 2026-10-15

Serie Fundamentos de IA Parte 11 de 52

1. Mapa de la inteligencia artificial: qué es cada cosa y cómo encaja todo
2. Breve historia de la inteligencia artificial: de Turing a los modelos de lenguaje
3. Datos, modelo, entrenamiento, inferencia: los conceptos básicos en un solo ejemplo
4. Cómo leer la notación matemática: símbolos, subíndices, sumatorios y cuantificadores
5. Conjuntos y relaciones: las piezas con las que se construyen las definiciones en IA
6. Funciones y aplicaciones: por qué todo modelo de IA es una función
7. Lógica y demostraciones: las reglas con las que se razona en IA
8. Grafos y árboles: la estructura sobre la que se apoyan la búsqueda y las redes neuronales
9. Álgebra lineal para aprendizaje automático: vectores, matrices y por qué la IA sobre todo multiplica
10. Derivadas, gradiente y regla de la cadena: cómo sabe un modelo en qué dirección aprender
11. Descenso de gradiente: cómo aprende un modelo
12. Qué es la probabilidad: del lanzamiento de un dado a los axiomas de Kolmogórov
13. Probabilidad condicionada y teorema de Bayes: cómo cambiar una estimación cuando te enteras de algo nuevo
14. Variable aleatoria y función de distribución: una sola función que lo dice todo sobre la distribución
15. Función de densidad y función de probabilidad: por qué una variable continua tiene probabilidad cero en cada punto
16. Esperanza, varianza y covarianza: dónde está una distribución, qué anchura tiene y qué se relaciona con qué
17. Resumen de las distribuciones de probabilidad: Bernoulli, binomial, Poisson, uniforme, normal y exponencial
18. Ley de los grandes números y teorema central del límite: por qué las medias se comportan de forma tan predecible
19. Estadística y estimación de parámetros: máxima verosimilitud, MAP e intervalos de confianza
20. Teoría de la información: entropía, entropía cruzada y divergencia KL, el origen de las funciones de pérdida
21. Búsqueda en el espacio de estados: BFS, DFS, UCS y A* con animaciones
22. Juegos y adversarios: minimax, poda alfa-beta y Monte Carlo tree search
23. Satisfacción de restricciones: backtracking, propagación de restricciones y AC-3 con un sudoku y un mapa de regiones checas
24. Lógica y sistemas basados en conocimiento: encadenamiento hacia delante y hacia atrás, resolución y sistemas expertos
25. Planificación: STRIPS, el mundo de bloques, heurísticas a partir de la relajación y la planificación en los agentes de IA
26. Búsqueda local y recocido simulado: un viajante por las capitales regionales checas
27. Algoritmos genéticos: población, cruce, mutación y selección en una mochila para la excursión
28. Estrategias evolutivas y programación genética: de la regla de un quinto a la ley de Kepler
29. Optimización por colonia de hormigas: cómo un rastro de feromona encuentra un camino corto
30. Optimización por enjambre de partículas: inercia, experiencia propia y experiencia del enjambre
31. Neuroevolución: evolución de los pesos y la forma de las redes neuronales, y el algoritmo NEAT
32. Conjuntos difusos y funciones de pertenencia: cómo escribir «algo cálido»
33. Lógica difusa y probabilidad: por qué «algo cálido» no significa «probablemente cálido»
34. Lógica difusa: t-normas, implicaciones y reglas SI–ENTONCES
35. Control difuso: Mamdani y Sugeno, del ventilador al péndulo invertido sobre un carro
36. Agrupamiento difuso: el algoritmo fuzzy c-means y los puntos entre clusters
37. Sistemas neuro-difusos (ANFIS): reglas difusas que aprenden de los datos
38. Cadenas de Markov: matriz de transición, distribución estacionaria y PageRank
39. Modelos ocultos de Márkov: el algoritmo de Viterbi y el casino deshonesto
40. Redes bayesianas: por qué está mojada la hierba y qué significa eso para el aspersor
41. El filtro de Kalman: cómo estimar a partir de mediciones imprecisas dónde está un coche y a qué velocidad va
42. Tipos de aprendizaje automático: supervisado, no supervisado, semisupervisado y más
43. Prompts, contexto y RAG: cómo darle a un modelo la información correcta
44. Autocodificadores variacionales (VAE): imágenes nuevas a partir de un espacio latente continuo
45. Redes generativas adversarias (GAN): el falsificador contra el detective
46. Modelos de difusión: cómo el ruido puro se convierte en una imagen
47. Procesos de decisión de Markov: estados, acciones, recompensas y ecuaciones de Bellman
48. Q-learning y DQN: aprender el valor de las acciones, de la tabla a la red neuronal
49. Gradiente de la política y PPO: aprender directamente la política
50. Cómo funciona un agente de IA: un modelo de lenguaje en un bucle con herramientas
51. Programación con agentes de IA: encargo, pruebas y revisión
52. Evaluación y seguridad de los sistemas de IA: cómo medir y cómo vigilar

Temario completo de la serie 52 de 83 temas publicados

En las partes anteriores preparamos todo lo necesario: un modelo es una función con parámetros, la función de pérdida es un paisaje sobre el espacio de parámetros y el gradiente señala la dirección de subida más empinada. Ahora lo uniremos en el algoritmo con el que aprenden casi todas las redes neuronales del mundo: el descenso de gradiente. Su idea cabe en una frase, y sus detalles deciden si el modelo aprende en una hora, en una semana o nunca.

1. La idea: cuesta abajo en la niebla

Definición — descenso de gradiente

Para una función de pérdida J(θ) elegimos unos parámetros iniciales θ₀ y una tasa de aprendizaje η > 0 y repetimos

θ_t+1 = θ_t − η ∇J(θ_t),

mientras la pérdida mejore de forma apreciable.

2. La tasa de aprendizaje: qué tan largo es el paso

La longitud del paso es la elección más importante de todo el algoritmo. Lo mostraremos en el paisaje más sencillo, la parábola J(x) = x², partiendo de x = 4. La derivada es 2x, así que cada paso hace x ← x − η · 2x = (1 − 2η)x. Doce pasos para cuatro tasas de aprendizaje distintas:

η = 0,1 — lento

η = 0,4 — rápido

η = 0,9 — oscila

η = 1,05 — diverge

• η = 0,1 — cada paso reduce la distancia al mínimo solo en una quinta parte. Tras doce pasos, la bola apenas está en x ≈ 0,27.
• η = 0,4 — cada paso la reduce a la quinta parte; en pocos pasos la bola está prácticamente en el fondo.
• η = 0,9 — el paso es tan largo que la bola salta al otro lado. Aun así se acerca, porque salta en arcos cada vez más cortos.
• η = 1,05 — cada vez salta más lejos de lo que estaba: en lugar de bajar sale despedida y tras doce pasos está en x ≈ 12,55. El aprendizaje diverge.

Teorema — cuándo converge el descenso en la parábola

Para J(x) = x² se tiene x_t = (1 − 2η)^t x₀, así que el descenso converge si y solo si |1 − 2η| < 1, es decir, 0 < η < 1. Lo más rápido es η = 0,5: entonces llega al mínimo en un único paso.

3. Valles estrechos y zigzag

Los paisajes reales no son cuencos redondos. Suelen ser valles largos y estrechos: empinados en una dirección y casi planos en otra. Tomemos J(x, y) = x²/2 + 10y², veinte veces más empinada en la dirección y. El descenso normal tiene aquí un problema: la tasa de aprendizaje debe ser pequeña por culpa de la dirección empinada (si no, divergiría en y), y con un paso tan pequeño apenas avanza en la dirección plana x. Además, en la dirección y no deja de saltar de un lado a otro:

Cada método tiene su mejor tasa de aprendizaje, encontrada probando. Aun así, el descenso normal necesita 36 pasos y va en zigzag, mientras que momentum y Adam llegan al fondo en 9. Por qué, lo mostrarán los dos apartados siguientes.

4. Momentum: una bola con inercia

Definición — descenso con momentum

v_t+1 = β v_t − η ∇J(θ_t),   θ_t+1 = θ_t + v_t+1,

donde v es la «velocidad» y β ∈ [0, 1) indica cuánta de ella se conserva para el siguiente paso (típicamente 0,9; en nuestro valle, lo mejor es 0,6).

5. Adam: un paso propio para cada parámetro

Definición — Adam (Kingma y Ba, 2014)

m ← β₁m + (1 − β₁)g,   s ← β₂s + (1 − β₂)g²,   θ ← θ − η m̂ / (√ŝ + ε),

donde g = ∇J(θ), todas las operaciones son componente a componente y m̂, ŝ son m, s con la corrección del sesgo inicial (divididos entre 1 − β^t). Valores habituales: β₁ = 0,9, β₂ = 0,999.

6. Descenso estocástico: aprender por mini-lotes

Definición — descenso de gradiente estocástico (SGD)

Si la pérdida es una media sobre los datos, J(θ) = (1/n) ∑_i L_i(θ), el SGD sustituye el gradiente completo por la media sobre un mini-lote aleatorio B ⊂ {1, …, n}: g = (1/|B|) ∑_{i ∈ B} ∇L_i(θ). Una pasada por todos los datos se llama época.

En una regresión lineal con 40 puntos compararemos el descenso completo (gradiente sobre los 40 puntos) con el SGD por mini-lotes de 4 puntos:

Tras 60 pasos, el descenso completo tiene una pérdida de 0,0017 y el SGD de 0,0027: la curva del SGD es irregular, pero queda casi igual de baja. Y cada paso del SGD solo ha recorrido 4 puntos en lugar de 40, es decir, diez veces menos trabajo. Con datos reales de millones de ejemplos, esa diferencia es decisiva. Y el ruido tiene incluso una ventaja: ayuda a escapar de hoyos poco profundos.

7. Mínimos locales y puntos de silla

El descenso de gradiente encuentra el fondo del valle en el que empezó. En una función convexa hay un solo fondo; en una no convexa, depende del punto de partida. La función x⁴ − 3x² + x de la parte sobre funciones tiene dos mínimos:

La bola que parte de x = 2 acaba en el mínimo local cerca de x ≈ 1,13 con valor ≈ −1,07. La bola que parte de x = −2 encuentra el mínimo global cerca de x ≈ −1,30 con valor ≈ −3,51. En las altas dimensiones de las redes neuronales resulta que los malos mínimos locales son más raros de lo que cabría esperar; el mayor problema suelen ser los puntos de silla, lugares donde el gradiente es cero, pero en una dirección el paisaje sube y en otra baja. El ruido del SGD y el momentum ayudan a resbalar fuera de ellos.

8. Cómo se hace en la práctica

• Adam o SGD con momentum — las dos opciones más habituales. Adam funciona bien desde el principio; el SGD con momentum, tras un ajuste cuidadoso, suele ser un poco mejor.
• Programación de la tasa de aprendizaje — al principio un arranque lento (warmup) y después una reducción gradual. Los pasos grandes sirven lejos de la meta; los pequeños, cerca de ella.
• Tamaño del mini-lote — normalmente de 32 a miles de ejemplos; lo limita la memoria de la tarjeta gráfica.
• Épocas y parada temprana — los datos se recorren repetidamente y el entrenamiento se detiene cuando deja de mejorar el error en datos que el modelo no ha visto.
• Normalización de los datos — cuando las entradas tienen un rango parecido, el paisaje es más redondo y el descenso, más fácil.

9. Resumen

• El descenso de gradiente repite θ ← θ − η∇J(θ): un paso en contra del gradiente.
• La tasa de aprendizaje es decisiva: pequeña es lenta, grande oscila, demasiado grande diverge.
• En valles estrechos, el descenso normal va en zigzag; momentum añade inercia, y Adam, un paso propio para cada parámetro.
• El SGD calcula el gradiente con mini-lotes pequeños: tiene ruido, pero cada paso es muchas veces más barato.
• El descenso encuentra el fondo del valle en el que empezó; en paisajes no convexos, depende del punto de partida.

Con esta parte queda completa la matemática que necesitas para entender el aprendizaje. Los siguientes módulos de la serie — probabilidad, aprendizaje automático y redes neuronales — se apoyan en ella.

¿Lo ves de otra manera? Escribe a support@coden-app.com.