Resumen de las distribuciones de probabilidad: Bernoulli, binomial, Poisson, uniforme, normal y exponencial
Las seis distribuciones más importantes con sus definiciones, esperanzas y varianzas: el tablero de Galton, el teorema límite de Poisson, la regla 68–95–99,7 y cuándo usar cada distribución.
Serie Fundamentos de IA Parte 17 de 52
- Mapa de la inteligencia artificial: qué es cada cosa y cómo encaja todo
- Breve historia de la inteligencia artificial: de Turing a los modelos de lenguaje
- Datos, modelo, entrenamiento, inferencia: los conceptos básicos en un solo ejemplo
- Cómo leer la notación matemática: símbolos, subíndices, sumatorios y cuantificadores
- Conjuntos y relaciones: las piezas con las que se construyen las definiciones en IA
- Funciones y aplicaciones: por qué todo modelo de IA es una función
- Lógica y demostraciones: las reglas con las que se razona en IA
- Grafos y árboles: la estructura sobre la que se apoyan la búsqueda y las redes neuronales
- Álgebra lineal para aprendizaje automático: vectores, matrices y por qué la IA sobre todo multiplica
- Derivadas, gradiente y regla de la cadena: cómo sabe un modelo en qué dirección aprender
- Descenso de gradiente: cómo aprende un modelo
- Qué es la probabilidad: del lanzamiento de un dado a los axiomas de Kolmogórov
- Probabilidad condicionada y teorema de Bayes: cómo cambiar una estimación cuando te enteras de algo nuevo
- Variable aleatoria y función de distribución: una sola función que lo dice todo sobre la distribución
- Función de densidad y función de probabilidad: por qué una variable continua tiene probabilidad cero en cada punto
- Esperanza, varianza y covarianza: dónde está una distribución, qué anchura tiene y qué se relaciona con qué
- Resumen de las distribuciones de probabilidad: Bernoulli, binomial, Poisson, uniforme, normal y exponencial
- Ley de los grandes números y teorema central del límite: por qué las medias se comportan de forma tan predecible
- Estadística y estimación de parámetros: máxima verosimilitud, MAP e intervalos de confianza
- Teoría de la información: entropía, entropía cruzada y divergencia KL, el origen de las funciones de pérdida
- Búsqueda en el espacio de estados: BFS, DFS, UCS y A* con animaciones
- Juegos y adversarios: minimax, poda alfa-beta y Monte Carlo tree search
- Satisfacción de restricciones: backtracking, propagación de restricciones y AC-3 con un sudoku y un mapa de regiones checas
- Lógica y sistemas basados en conocimiento: encadenamiento hacia delante y hacia atrás, resolución y sistemas expertos
- Planificación: STRIPS, el mundo de bloques, heurísticas a partir de la relajación y la planificación en los agentes de IA
- Búsqueda local y recocido simulado: un viajante por las capitales regionales checas
- Algoritmos genéticos: población, cruce, mutación y selección en una mochila para la excursión
- Estrategias evolutivas y programación genética: de la regla de un quinto a la ley de Kepler
- Optimización por colonia de hormigas: cómo un rastro de feromona encuentra un camino corto
- Optimización por enjambre de partículas: inercia, experiencia propia y experiencia del enjambre
- Neuroevolución: evolución de los pesos y la forma de las redes neuronales, y el algoritmo NEAT
- Conjuntos difusos y funciones de pertenencia: cómo escribir «algo cálido»
- Lógica difusa y probabilidad: por qué «algo cálido» no significa «probablemente cálido»
- Lógica difusa: t-normas, implicaciones y reglas SI–ENTONCES
- Control difuso: Mamdani y Sugeno, del ventilador al péndulo invertido sobre un carro
- Agrupamiento difuso: el algoritmo fuzzy c-means y los puntos entre clusters
- Sistemas neuro-difusos (ANFIS): reglas difusas que aprenden de los datos
- Cadenas de Markov: matriz de transición, distribución estacionaria y PageRank
- Modelos ocultos de Márkov: el algoritmo de Viterbi y el casino deshonesto
- Redes bayesianas: por qué está mojada la hierba y qué significa eso para el aspersor
- El filtro de Kalman: cómo estimar a partir de mediciones imprecisas dónde está un coche y a qué velocidad va
- Tipos de aprendizaje automático: supervisado, no supervisado, semisupervisado y más
- Prompts, contexto y RAG: cómo darle a un modelo la información correcta
- Autocodificadores variacionales (VAE): imágenes nuevas a partir de un espacio latente continuo
- Redes generativas adversarias (GAN): el falsificador contra el detective
- Modelos de difusión: cómo el ruido puro se convierte en una imagen
- Procesos de decisión de Markov: estados, acciones, recompensas y ecuaciones de Bellman
- Q-learning y DQN: aprender el valor de las acciones, de la tabla a la red neuronal
- Gradiente de la política y PPO: aprender directamente la política
- Cómo funciona un agente de IA: un modelo de lenguaje en un bucle con herramientas
- Programación con agentes de IA: encargo, pruebas y revisión
- Evaluación y seguridad de los sistemas de IA: cómo medir y cómo vigilar
Temario completo de la serie 52 de 83 temas publicados
- Qué describen las distribuciones de Bernoulli, binomial y de Poisson, y qué relación hay entre ellas.
- Cuándo usar las distribuciones uniforme, normal y exponencial, y qué dice la regla 68–95–99,7.
- Qué distribuciones hay detrás de la clasificación, las funciones de pérdida y los modelos generativos en la IA.
Conviene conocer antes: Esperanza, varianza y covarianza: dónde está una distribución, qué anchura tiene y qué se relaciona con qué
Puedes inventarte una distribución desde cero cada vez, pero no hace falta. En la práctica hay unas pocas situaciones que se repiten una y otra vez: sí o no, un número de éxitos, un número de sucesos por hora, una espera, una medición con error. Para cada una existe una distribución ya hecha, con un par de parámetros y con la esperanza y la varianza ya calculadas. Esta parte repasa las seis más importantes y, sobre todo, cuándo usar cada una.
Continúa las partes Función de densidad y Esperanza y varianza.
1. Distribución de Bernoulli
Definición — distribución de Bernoulli
Una variable X sigue una distribución de Bernoulli de parámetro p ∈ [0, 1], y se escribe X ~ Be(p), si
P(X = 1) = p, P(X = 0) = 1 − p.
Un solo intento, dos resultados: sale bien (1) o sale mal (0). Lanzar una moneda, hacer clic en un anuncio, spam o no spam. El único parámetro, p, es la probabilidad de éxito.
La esperanza es p y la varianza p(1 − p), máxima para p = 0,5, cuando el resultado es menos previsible.
2. Distribución binomial
Definición — distribución binomial
Una variable X sigue una distribución binomial de parámetros n ∈ ℕ y p ∈ [0, 1], X ~ B(n, p), si
P(X = k) = (n sobre k) · pk · (1 − p)n−k, k = 0, 1, …, n,
donde (n sobre k) = n! / (k! (n − k)!) es el coeficiente binomial.
Es el número de éxitos en n intentos independientes con la misma probabilidad p. El coeficiente binomial cuenta de cuántas maneras se pueden repartir k éxitos entre n intentos. Si lanzas una moneda diez veces, salen exactamente cinco caras con probabilidad 252/1024 ≈ 0,246, es decir, ni siquiera una de cada cuatro veces. Ocho caras o más, solo con probabilidad 56/1024 ≈ 0,055.
Una variable binomial es la suma de n variables de Bernoulli independientes, así que, por linealidad, su esperanza es np y su varianza np(1 − p). Se ve muy bien en el tablero de Galton: en cada uno de los diez clavos la bola rebota a la izquierda o a la derecha, cada rebote es un intento de Bernoulli y la casilla donde cae es el número de rebotes hacia la derecha: B(10; 0,5).
Las bolas se amontonan en el centro formando una campana, y esa forma no es casualidad. Como veremos con la distribución normal y en la próxima parte, la suma de muchas pequeñas influencias aleatorias siempre da una campana.
3. Distribución de Poisson
Definición — distribución de Poisson
Una variable X sigue una distribución de Poisson de parámetro λ > 0, X ~ Po(λ), si
P(X = k) = e−λ · λk / k!, k = 0, 1, 2, …
Es el número de sucesos en un tiempo dado, cuando llegan de forma independiente y, de media, λ en ese tiempo: correos por hora, peticiones a un servidor por segundo, erratas por página. Si llega un correo de media cada 2 minutos, en 4 minutos esperamos λ = 2. Que no llegue ninguno tiene probabilidad e−2 ≈ 0,135, y que lleguen exactamente dos, 0,271.
Una peculiaridad de la distribución de Poisson: la esperanza y la varianza valen las dos λ.
Teorema — teorema límite de Poisson
Para λ > 0 fijo y todo k se cumple limn→∞ P(B(n, λ/n) = k) = e−λ λk / k!.
La distribución de Poisson es una binomial con un número enorme de intentos y una probabilidad muy pequeña en cada uno. Divide los 4 minutos en n tramos cortos; en cada uno llega un correo con probabilidad 2/n. Cuanto más fina es la división, más se acerca la binomial a la de Poisson: la desviación total es 0,125 con 5 tramos, 0,024 con 20 y 0,005 con 100.
4. Distribución uniforme
Definición — distribución uniforme continua
Una variable X sigue una distribución uniforme en el intervalo [a, b], X ~ U(a, b), si tiene densidad
f(x) = 1 / (b − a) para a ≤ x ≤ b, y 0 en otro caso.
Cada trozo del intervalo es igual de probable: el modelo «no sé nada, salvo los límites». La espera de un autobús que pasa cada 10 minutos es U(0, 10). El generador de números aleatorios de un ordenador devuelve U(0, 1), y a partir de él se fabrican las muestras de todas las demás distribuciones.
La esperanza es el punto medio del intervalo, (a + b) / 2, y la varianza (b − a)² / 12. Así que el autobús lo esperas de media 5 minutos, con una desviación típica de √(100/12) ≈ 2,89 minutos.
5. Distribución normal
Definición — distribución normal
Una variable X sigue una distribución normal (o gaussiana) con esperanza μ y varianza σ² > 0, X ~ N(μ, σ²), si tiene densidad
f(x) = 1 / (σ√(2π)) · e−(x − μ)² / (2σ²), x ∈ ℝ.
La famosa campana de Gauss: la mayoría de los valores cerca de la media μ, simétrica hacia ambos lados y, cuanto más te alejas, más rápido escasean. Así se distribuyen la estatura de las personas, los errores de medición, el ruido de los sensores: todo lo que surge de sumar muchas pequeñas influencias independientes.
Definición — distribución normal estándar
N(0, 1) se llama distribución normal estándar. Si X ~ N(μ, σ²), entonces Z = (X − μ) / σ ~ N(0, 1).
Todas las distribuciones normales son la misma, solo que desplazada y estirada. Si a un valor le restas la media y lo divides entre σ, obtienes «a cuántas desviaciones típicas está de la media», y para eso basta una sola tabla para todas.
Para la distribución normal se cumple la regla 68–95–99,7: a menos de σ de la media cae el 68,27 % de los valores, a menos de 2σ el 95,45 % y a menos de 3σ el 99,73 %. Si la estatura de los hombres adultos tiene media 175 cm y σ = 7 cm, el 95 % mide entre 161 y 189 cm. La desigualdad de Chebyshev de la parte anterior solo garantizaba un 75 % para 2σ: la distribución normal está mucho más «concentrada».
La densidad de la distribución normal no tiene una primitiva que se pueda escribir con una fórmula, así que los porcentajes de arriba se calculan numéricamente: aquí, con la regla de Simpson, es decir, sumando franjas muy estrechas.
6. Distribución exponencial
Definición — distribución exponencial
Una variable X sigue una distribución exponencial de parámetro λ > 0, X ~ Exp(λ), si tiene densidad
f(x) = λ e−λx para x ≥ 0, y 0 en otro caso.
Es el tiempo de espera hasta el siguiente suceso, cuando los sucesos llegan de forma independiente y, de media, λ por unidad de tiempo. Es la espera del correo de la parte sobre la densidad: λ = 0,5 por minuto, esperanza 1/λ = 2 minutos y varianza 1/λ² = 4.
La distribución exponencial y la de Poisson describen el mismo proceso desde dos lados. Que en 4 minutos no llegue ningún correo tiene, según Poisson, probabilidad e−2 ≈ 0,135; y según la exponencial, P(X > 4) = e−0,5 · 4, el mismo número.
Teorema — falta de memoria de la distribución exponencial
Para X ~ Exp(λ) y s, t ≥ 0 se cumple P(X > s + t | X > s) = P(X > t).
La espera no recuerda cuánto lleva durando. Llevas 3 minutos esperando un correo y nada: la probabilidad de que tengas que esperar al menos 2 minutos más sigue siendo e−1 ≈ 0,368, igual que si empezaras de nuevo. Un autobús con horario no funciona así; la desintegración radiactiva y la llegada de peticiones independientes, sí.
7. Chuleta: qué distribución usar y cuándo
| Distribución | Qué describe | E[X] | Var(X) |
|---|---|---|---|
| Be(p) | un solo intento sí/no | p | p(1 − p) |
| B(n, p) | número de éxitos en n intentos | np | np(1 − p) |
| Po(λ) | número de sucesos en un tiempo | λ | λ |
| U(a, b) | «cualquier cosa entre a y b» | (a + b) / 2 | (b − a)² / 12 |
| N(μ, σ²) | suma de muchas pequeñas influencias | μ | σ² |
| Exp(λ) | espera hasta el siguiente suceso | 1/λ | 1/λ² |
8. Distribuciones en la inteligencia artificial
- Bernoulli y clasificación binaria. Tanto la regresión logística como una red con una sola salida predicen el parámetro p de una distribución de Bernoulli: «con qué probabilidad es spam». La función de pérdida (la entropía cruzada binaria) es el logaritmo de su probabilidad cambiado de signo.
- La distribución categórica es una Bernoulli con más de dos opciones. El softmax al final de un modelo de lenguaje devuelve justamente sus parámetros: la probabilidad de cada palabra del vocabulario.
- La distribución normal está en todas partes: los pesos iniciales de las redes se sortean de N(0, σ²), el error cuadrático medio equivale a suponer ruido normal y los modelos de difusión generan imágenes eliminando el ruido poco a poco a partir de un N(0, 1) puro.
- El dropout apaga durante el entrenamiento cada neurona con una probabilidad de Bernoulli; la distribución uniforme es la fuente de todos los números aleatorios.
- La de Poisson y la exponencial modelan el tráfico: cuántas peticiones llegan a un servidor, cuándo llegará la siguiente, cuántas GPU hacen falta.
9. Resumen
- La de Bernoulli es un solo intento sí/no; la binomial, el número de éxitos en n intentos independientes.
- La de Poisson cuenta sucesos en un tiempo y es el límite de la binomial con muchos intentos de probabilidad pequeña.
- La uniforme da la misma densidad a todo el intervalo; la exponencial mide esperas y no tiene memoria.
- La normal es una campana determinada por μ y σ; en ±σ, ±2σ y ±3σ están el 68,27 %, el 95,45 % y el 99,73 % de los valores.
- Elegir una distribución es elegir un modelo: lo que describe los datos determina también la función de pérdida del modelo.
¿Lo ves de otra manera? Escribe a support@coden-app.com.