Estadística y estimación de parámetros: máxima verosimilitud, MAP e intervalos de confianza

Muestra, estimador, sesgo y por qué la varianza muestral divide entre n − 1, el método de máxima verosimilitud, la estimación bayesiana MAP y los intervalos de confianza, y por qué entrenar una red neuronal es estimar parámetros.

14 minutos Matěj Žalmánek 2026-10-15

Serie Fundamentos de IA Parte 19 de 52

1. Mapa de la inteligencia artificial: qué es cada cosa y cómo encaja todo
2. Breve historia de la inteligencia artificial: de Turing a los modelos de lenguaje
3. Datos, modelo, entrenamiento, inferencia: los conceptos básicos en un solo ejemplo
4. Cómo leer la notación matemática: símbolos, subíndices, sumatorios y cuantificadores
5. Conjuntos y relaciones: las piezas con las que se construyen las definiciones en IA
6. Funciones y aplicaciones: por qué todo modelo de IA es una función
7. Lógica y demostraciones: las reglas con las que se razona en IA
8. Grafos y árboles: la estructura sobre la que se apoyan la búsqueda y las redes neuronales
9. Álgebra lineal para aprendizaje automático: vectores, matrices y por qué la IA sobre todo multiplica
10. Derivadas, gradiente y regla de la cadena: cómo sabe un modelo en qué dirección aprender
11. Descenso de gradiente: cómo aprende un modelo
12. Qué es la probabilidad: del lanzamiento de un dado a los axiomas de Kolmogórov
13. Probabilidad condicionada y teorema de Bayes: cómo cambiar una estimación cuando te enteras de algo nuevo
14. Variable aleatoria y función de distribución: una sola función que lo dice todo sobre la distribución
15. Función de densidad y función de probabilidad: por qué una variable continua tiene probabilidad cero en cada punto
16. Esperanza, varianza y covarianza: dónde está una distribución, qué anchura tiene y qué se relaciona con qué
17. Resumen de las distribuciones de probabilidad: Bernoulli, binomial, Poisson, uniforme, normal y exponencial
18. Ley de los grandes números y teorema central del límite: por qué las medias se comportan de forma tan predecible
19. Estadística y estimación de parámetros: máxima verosimilitud, MAP e intervalos de confianza
20. Teoría de la información: entropía, entropía cruzada y divergencia KL, el origen de las funciones de pérdida
21. Búsqueda en el espacio de estados: BFS, DFS, UCS y A* con animaciones
22. Juegos y adversarios: minimax, poda alfa-beta y Monte Carlo tree search
23. Satisfacción de restricciones: backtracking, propagación de restricciones y AC-3 con un sudoku y un mapa de regiones checas
24. Lógica y sistemas basados en conocimiento: encadenamiento hacia delante y hacia atrás, resolución y sistemas expertos
25. Planificación: STRIPS, el mundo de bloques, heurísticas a partir de la relajación y la planificación en los agentes de IA
26. Búsqueda local y recocido simulado: un viajante por las capitales regionales checas
27. Algoritmos genéticos: población, cruce, mutación y selección en una mochila para la excursión
28. Estrategias evolutivas y programación genética: de la regla de un quinto a la ley de Kepler
29. Optimización por colonia de hormigas: cómo un rastro de feromona encuentra un camino corto
30. Optimización por enjambre de partículas: inercia, experiencia propia y experiencia del enjambre
31. Neuroevolución: evolución de los pesos y la forma de las redes neuronales, y el algoritmo NEAT
32. Conjuntos difusos y funciones de pertenencia: cómo escribir «algo cálido»
33. Lógica difusa y probabilidad: por qué «algo cálido» no significa «probablemente cálido»
34. Lógica difusa: t-normas, implicaciones y reglas SI–ENTONCES
35. Control difuso: Mamdani y Sugeno, del ventilador al péndulo invertido sobre un carro
36. Agrupamiento difuso: el algoritmo fuzzy c-means y los puntos entre clusters
37. Sistemas neuro-difusos (ANFIS): reglas difusas que aprenden de los datos
38. Cadenas de Markov: matriz de transición, distribución estacionaria y PageRank
39. Modelos ocultos de Márkov: el algoritmo de Viterbi y el casino deshonesto
40. Redes bayesianas: por qué está mojada la hierba y qué significa eso para el aspersor
41. El filtro de Kalman: cómo estimar a partir de mediciones imprecisas dónde está un coche y a qué velocidad va
42. Tipos de aprendizaje automático: supervisado, no supervisado, semisupervisado y más
43. Prompts, contexto y RAG: cómo darle a un modelo la información correcta
44. Autocodificadores variacionales (VAE): imágenes nuevas a partir de un espacio latente continuo
45. Redes generativas adversarias (GAN): el falsificador contra el detective
46. Modelos de difusión: cómo el ruido puro se convierte en una imagen
47. Procesos de decisión de Markov: estados, acciones, recompensas y ecuaciones de Bellman
48. Q-learning y DQN: aprender el valor de las acciones, de la tabla a la red neuronal
49. Gradiente de la política y PPO: aprender directamente la política
50. Cómo funciona un agente de IA: un modelo de lenguaje en un bucle con herramientas
51. Programación con agentes de IA: encargo, pruebas y revisión
52. Evaluación y seguridad de los sistemas de IA: cómo medir y cómo vigilar

Temario completo de la serie 52 de 83 temas publicados

La teoría de la probabilidad va del modelo a los datos: si sabes que la moneda es justa, calculas qué va a salir. La estadística hace el camino inverso, de los datos al modelo: han salido 6 cruces de 20, ¿cómo es esa moneda? Y eso es exactamente lo que hace el aprendizaje automático. El modelo tiene parámetros, los datos son lo que ha salido y el entrenamiento es una estimación de parámetros. Esta parte muestra qué es un buen estimador, de dónde sale el método de máxima verosimilitud, en el que se basa casi cualquier función de pérdida, y cómo decir con honestidad cuánta confianza podemos tener en una estimación.

Continúa la parte Ley de los grandes números y teorema central del límite.

1. Muestra, estadístico, estimador

Definición — muestra aleatoria

Una muestra aleatoria de tamaño n de una distribución con densidad (o función de probabilidad) f(x; θ) son n variables independientes e idénticamente distribuidas X₁, …, X_n con esa distribución. El parámetro θ es desconocido.

Definición — estadístico y estimador

Un estadístico es cualquier función de la muestra T = T(X₁, …, X_n) que no depende del parámetro desconocido θ. Al estadístico que usamos para estimar θ lo llamamos estimador y lo denotamos θ̂.

2. Un buen estimador: insesgado y consistente

Definición — estimador insesgado

Un estimador θ̂ es insesgado si E[θ̂] = θ para cualquier valor de θ. La diferencia E[θ̂] − θ se llama sesgo.

Definición — estimador consistente

Un estimador θ̂_n es consistente si para todo ε > 0 se cumple lim_n→∞ P(|θ̂_n − θ| ≥ ε) = 0.

Que un estimador sea insesgado no es algo que venga dado. Para estimar la varianza, lo natural parece tomar la desviación cuadrática media respecto a la media, (1/n) ∑ (X_i − X̄)². Pero ese estimador subestima la varianza de forma sistemática: medimos las desviaciones respecto a X̄, que se ha ajustado a los datos, en lugar de respecto a la verdadera μ.

Teorema — varianza muestral

Para una muestra aleatoria con varianza σ² se cumple E[(1/n) ∑ (X_i − X̄)²] = ((n − 1)/n) σ². Por eso el estimador insesgado de la varianza es la varianza muestral (o cuasivarianza)

s² = 1/(n − 1) · ∑_i=1ⁿ (X_i − X̄)².

Comprobémoslo: tiramos 2 000 veces cinco dados y cada vez calculamos las dos estimaciones de la varianza. La varianza real de un dado es 35/12 ≈ 2,92. La media de las estimaciones dividiendo entre n acabó en 2,38 (apunta a 4/5 · 2,92 ≈ 2,33); dividiendo entre n − 1, en 2,97:

3. Método de máxima verosimilitud

Definición — función de verosimilitud

Para los datos medidos x₁, …, x_n, la función de verosimilitud es la función del parámetro

L(θ) = ∏_i=1ⁿ f(x_i; θ).

Definición — estimador de máxima verosimilitud

El estimador de máxima verosimilitud (EMV, en inglés MLE) es θ̂ = argmax_θ L(θ). Como el logaritmo es creciente, es lo mismo que argmax_θ ∑_i ln f(x_i; θ).

De 20 correos, 6 eran spam. Para una proporción de spam p se tiene L(p) = p⁶(1 − p)¹⁴. La derivada del logaritmo, 6/p − 14/(1 − p), se anula en p̂ = 6/20 = 0,3: exactamente la proporción de spam en los datos. En general, para k éxitos de n sale p̂ = k/n. Con 60 spams de 200 la estimación es la misma, pero el pico es mucho más estrecho: los datos dicen más sobre el parámetro.

Para la espera de un correo con distribución exponencial, el método de máxima verosimilitud da λ̂ = 1 / X̄. Con cinco esperas medidas de 1,2; 3,5; 0,4; 2,1 y 2,8 minutos, la media es de 2 minutos y λ̂ = 0,5 por minuto.

4. Estimación bayesiana MAP

Definición — estimador máximo a posteriori

Si π(θ) es la densidad a priori del parámetro, el estimador máximo a posteriori (MAP) es θ̂ = argmax_θ L(θ) · π(θ).

5. Intervalo de confianza

Definición — intervalo de confianza

El intervalo (T₁, T₂) con estadísticos T₁ ≤ T₂ es un intervalo de confianza para θ con nivel de confianza 1 − α si P(T₁ < θ < T₂) = 1 − α para todo θ.

Para la esperanza y un n suficientemente grande, el teorema central del límite da un intervalo aproximado del 95 %: X̄ ± 1,96 · s/√n. Tiramos cuarenta veces 40 dados y con cada muestra calculamos un intervalo. La línea vertical es la esperanza real, 3,5:

El valor real está dentro de 38 de los 40 intervalos: el 95 %. En 20 000 repeticiones fue el 94,1 %, algo por debajo del 95 % prometido, porque σ lo estimamos a partir de los datos y n = 40 todavía no es infinito.

Un error frecuente: «con una probabilidad del 95 %, μ está en el intervalo (3,2; 3,9)». En un intervalo concreto, μ o está dentro o no lo está. Ese 95 % es una propiedad del procedimiento: cuántos intervalos aciertan a lo largo de muchas repeticiones. Una afirmación sobre la probabilidad del parámetro solo la da el enfoque bayesiano.

6. La estimación en la inteligencia artificial

• Entrenar es estimar por máxima verosimilitud. La entropía cruzada en clasificación es el logaritmo negativo de la verosimilitud dividido entre el número de ejemplos, y el error cuadrático medio es lo mismo para datos con ruido normal. Minimizar la pérdida = maximizar la verosimilitud.
• La regularización es MAP. La penalización de los pesos λ‖w‖² (L2, weight decay) corresponde a una distribución a priori normal sobre los pesos; la L1, a una de Laplace. La idea a priori de que «los pesos deben ser pequeños» frena el sobreajuste.
• Sesgo y varianza del modelo. Un modelo es un estimador; los modelos complejos tienen poco sesgo pero mucha varianza (sobreajuste), y los simples, al revés. La regularización acepta un poco más de sesgo a cambio de menos varianza.
• Conjunto de prueba e intervalo de confianza. La precisión en los datos de prueba es una estimación de la precisión real; sin un intervalo de confianza no sabrás si la diferencia entre dos modelos es real. La batch normalization estima la media y la varianza a partir de cada lote, y los modelos de lenguaje se entrenan por máxima verosimilitud: maximizan la verosimilitud de la siguiente palabra.

7. Resumen

• La estadística va de los datos al modelo: un estimador es un cálculo con los datos que debe dar con un parámetro desconocido.
• Un buen estimador es insesgado (en promedio apunta bien) y consistente (se vuelve más preciso con más datos); la varianza muestral divide entre n − 1.
• El método de máxima verosimilitud elige el parámetro con el que los datos son más probables; para una proporción, es k/n.
• El MAP añade una idea a priori; en el aprendizaje automático, eso es la regularización.
• Un intervalo de confianza del 95 % sale de un procedimiento que acierta el parámetro real en el 95 % de los casos.

¿Lo ves de otra manera? Escribe a support@coden-app.com.