Qué es la probabilidad: del lanzamiento de un dado a los axiomas de Kolmogórov
Experimento aleatorio, espacio muestral, sucesos y operaciones con ellos, probabilidad clásica y frecuencial y los axiomas sobre los que se apoya todo lo demás, con el ejemplo de dos dados.
Serie Fundamentos de IA Parte 12 de 52
- Mapa de la inteligencia artificial: qué es cada cosa y cómo encaja todo
- Breve historia de la inteligencia artificial: de Turing a los modelos de lenguaje
- Datos, modelo, entrenamiento, inferencia: los conceptos básicos en un solo ejemplo
- Cómo leer la notación matemática: símbolos, subíndices, sumatorios y cuantificadores
- Conjuntos y relaciones: las piezas con las que se construyen las definiciones en IA
- Funciones y aplicaciones: por qué todo modelo de IA es una función
- Lógica y demostraciones: las reglas con las que se razona en IA
- Grafos y árboles: la estructura sobre la que se apoyan la búsqueda y las redes neuronales
- Álgebra lineal para aprendizaje automático: vectores, matrices y por qué la IA sobre todo multiplica
- Derivadas, gradiente y regla de la cadena: cómo sabe un modelo en qué dirección aprender
- Descenso de gradiente: cómo aprende un modelo
- Qué es la probabilidad: del lanzamiento de un dado a los axiomas de Kolmogórov
- Probabilidad condicionada y teorema de Bayes: cómo cambiar una estimación cuando te enteras de algo nuevo
- Variable aleatoria y función de distribución: una sola función que lo dice todo sobre la distribución
- Función de densidad y función de probabilidad: por qué una variable continua tiene probabilidad cero en cada punto
- Esperanza, varianza y covarianza: dónde está una distribución, qué anchura tiene y qué se relaciona con qué
- Resumen de las distribuciones de probabilidad: Bernoulli, binomial, Poisson, uniforme, normal y exponencial
- Ley de los grandes números y teorema central del límite: por qué las medias se comportan de forma tan predecible
- Estadística y estimación de parámetros: máxima verosimilitud, MAP e intervalos de confianza
- Teoría de la información: entropía, entropía cruzada y divergencia KL, el origen de las funciones de pérdida
- Búsqueda en el espacio de estados: BFS, DFS, UCS y A* con animaciones
- Juegos y adversarios: minimax, poda alfa-beta y Monte Carlo tree search
- Satisfacción de restricciones: backtracking, propagación de restricciones y AC-3 con un sudoku y un mapa de regiones checas
- Lógica y sistemas basados en conocimiento: encadenamiento hacia delante y hacia atrás, resolución y sistemas expertos
- Planificación: STRIPS, el mundo de bloques, heurísticas a partir de la relajación y la planificación en los agentes de IA
- Búsqueda local y recocido simulado: un viajante por las capitales regionales checas
- Algoritmos genéticos: población, cruce, mutación y selección en una mochila para la excursión
- Estrategias evolutivas y programación genética: de la regla de un quinto a la ley de Kepler
- Optimización por colonia de hormigas: cómo un rastro de feromona encuentra un camino corto
- Optimización por enjambre de partículas: inercia, experiencia propia y experiencia del enjambre
- Neuroevolución: evolución de los pesos y la forma de las redes neuronales, y el algoritmo NEAT
- Conjuntos difusos y funciones de pertenencia: cómo escribir «algo cálido»
- Lógica difusa y probabilidad: por qué «algo cálido» no significa «probablemente cálido»
- Lógica difusa: t-normas, implicaciones y reglas SI–ENTONCES
- Control difuso: Mamdani y Sugeno, del ventilador al péndulo invertido sobre un carro
- Agrupamiento difuso: el algoritmo fuzzy c-means y los puntos entre clusters
- Sistemas neuro-difusos (ANFIS): reglas difusas que aprenden de los datos
- Cadenas de Markov: matriz de transición, distribución estacionaria y PageRank
- Modelos ocultos de Márkov: el algoritmo de Viterbi y el casino deshonesto
- Redes bayesianas: por qué está mojada la hierba y qué significa eso para el aspersor
- El filtro de Kalman: cómo estimar a partir de mediciones imprecisas dónde está un coche y a qué velocidad va
- Tipos de aprendizaje automático: supervisado, no supervisado, semisupervisado y más
- Prompts, contexto y RAG: cómo darle a un modelo la información correcta
- Autocodificadores variacionales (VAE): imágenes nuevas a partir de un espacio latente continuo
- Redes generativas adversarias (GAN): el falsificador contra el detective
- Modelos de difusión: cómo el ruido puro se convierte en una imagen
- Procesos de decisión de Markov: estados, acciones, recompensas y ecuaciones de Bellman
- Q-learning y DQN: aprender el valor de las acciones, de la tabla a la red neuronal
- Gradiente de la política y PPO: aprender directamente la política
- Cómo funciona un agente de IA: un modelo de lenguaje en un bucle con herramientas
- Programación con agentes de IA: encargo, pruebas y revisión
- Evaluación y seguridad de los sistemas de IA: cómo medir y cómo vigilar
Temario completo de la serie 52 de 83 temas publicados
- Qué es un experimento aleatorio, un espacio muestral y un suceso, y por qué los sucesos son conjuntos.
- Cómo se calcula la probabilidad clásica y por qué la frecuencia relativa se estabiliza al aumentar los intentos.
- Los tres axiomas de Kolmogórov y las reglas que se deducen de ellos: suceso contrario y unión.
Conviene conocer antes: Conjuntos y relaciones: las piezas con las que se construyen las definiciones en IA
Un modelo de lenguaje no elige la siguiente palabra, sino las probabilidades de todas las palabras. Un clasificador no dice «es un gato», sino «con probabilidad 0,93 es un gato». Todo el aprendizaje automático se basa en calcular con incertidumbre, y la probabilidad es el lenguaje en el que se habla de la incertidumbre con precisión.
En la escuela la probabilidad se suele definir como «casos favorables entre casos posibles». Es un buen comienzo, pero no basta. En esta parte iremos del experimento aleatorio, pasando por los sucesos, hasta la definición precisa sobre la que se apoya todo lo demás. Todos los ejemplos son con dos dados. Te ayudará conocer la parte sobre conjuntos, porque los sucesos son conjuntos.
1. Experimento aleatorio y espacio muestral
Definición — experimento aleatorio
Un experimento aleatorio es un proceso cuyo resultado no conocemos de antemano, aunque sabemos qué resultados puede tener, y que se puede repetir (al menos mentalmente) tantas veces como se quiera en las mismas condiciones.
Lanzar un dado, lanzar una moneda, sacar una carta, pero también «qué correo llegará a continuación» o «qué palabra escribirá una persona». No sabemos qué saldrá, pero sí qué puede salir.
Definición — espacio muestral
El espacio muestral Ω es el conjunto de todos los resultados posibles de un experimento aleatorio. A sus elementos ω ∈ Ω los llamamos resultados elementales.
El espacio muestral es la lista completa de todo lo que puede pasar. Con un dado es Ω = {1, 2, 3, 4, 5, 6}. Con dos dados que distinguimos (primero y segundo), son todos los pares (primero, segundo): 6 · 6 = 36 resultados.
2. Sucesos
Definición — suceso
Un suceso es un subconjunto del espacio muestral, A ⊆ Ω. Decimos que el suceso A ha ocurrido cuando el resultado del experimento es un elemento de A.
Un suceso es una pregunta que, tras el experimento, se puede responder con sí o no: «¿ha salido suma 7?». Como conjunto lo escribimos enumerando los resultados en los que la respuesta es sí: {(1, 6), (2, 5), (3, 4), (4, 3), (5, 2), (6, 1)}.
Definición — suceso seguro y suceso imposible
El suceso seguro es todo el espacio Ω: ocurre siempre. El suceso imposible es el conjunto vacío ∅: no ocurre nunca.
«La suma está entre 2 y 12» es un suceso seguro: no puede salir de otra manera. «La suma es 13» es un suceso imposible.
En la cuadrícula están los 36 resultados de dos dados; la fila es el primer dado, la columna el segundo y el número de la casilla es la suma. Hay dos sucesos coloreados: A = «la suma es 7» y B = «al menos en un dado ha salido un seis»:
El suceso A tiene 6 resultados y el suceso B, 11. Dos resultados, (1, 6) y (6, 1), pertenecen a ambos: en la cuadrícula son morados.
3. Operaciones con sucesos
Como los sucesos son conjuntos, se combinan con las mismas operaciones que los conjuntos. Pero cada operación tiene además un significado natural en palabras:
Definición — unión de sucesos
La unión A ∪ B es el suceso «ocurre A o B (o ambos)».
«Ha salido suma 7 o al menos un seis»: en la cuadrícula, todas las casillas coloreadas juntas, que son 15.
Definición — intersección de sucesos
La intersección A ∩ B es el suceso «ocurren A y B a la vez».
«La suma es 7 y además ha salido un seis»: solo es posible como (1, 6) o (6, 1), en la cuadrícula dos casillas moradas.
Definición — suceso contrario
El suceso contrario Ac = Ω ∖ A es el suceso «A no ocurre».
El contrario de «al menos un seis» es «ningún seis»: en la cuadrícula, todas las casillas fuera de la última fila y la última columna, 5 · 5 = 25.
Definición — sucesos incompatibles
Los sucesos A y B son incompatibles (mutuamente excluyentes) cuando no pueden ocurrir a la vez: A ∩ B = ∅.
«La suma es 7» y «han salido dobles» (los dos dados iguales) no pueden ocurrir a la vez: la suma de dos números iguales siempre es par.
4. Probabilidad clásica
Definición — probabilidad clásica (Laplace)
Si Ω es finito y todos los resultados elementales son igualmente probables, entonces P(A) = |A| / |Ω|.
Cuando cada resultado tiene la misma oportunidad, basta con contar cuántos resultados están «a favor» y dividir entre el total. La suma 7 tiene 6 resultados favorables de 36, así que P(A) = 6/36 = 1/6 ≈ 0,167.
La trampa está en las palabras «igualmente probables». Con dos dados, las sumas no son igualmente probables: la suma 2 solo sale como (1, 1), la suma 7 de seis maneras. Por eso contamos pares, no sumas. Y en muchísimos sucesos reales no hay resultados igualmente probables en absoluto: ¿qué probabilidad hay de que llueva mañana, o de que un correo sea spam? Ahí la definición clásica no sirve.
5. La probabilidad como frecuencia a largo plazo
Definición — frecuencia relativa
Si repetimos el experimento n veces y el suceso A ocurre nA veces, su frecuencia relativa es nA / n.
La frecuencia relativa es lo que salió de verdad: lanzaste una moneda diez veces y salió cara siete veces, así que la frecuencia relativa es 0,7.
Con pocos intentos, la frecuencia relativa salta de un lado a otro. Pero a medida que aumentan los intentos, se estabiliza. Aquí tienes cuatro simulaciones independientes de lanzamientos de moneda:
La primera simulación tenía, tras 10 lanzamientos, un 70 % de caras; tras 100, un 40 %; tras 1000, un 49,4 %, y tras 10 000, un 49,92 %. La probabilidad puede entenderse como el número al que se acerca la frecuencia relativa: justo eso lo formulará más adelante la ley de los grandes números. Así se estiman las probabilidades a partir de datos reales: cuántos correos con una palabra dada eran spam, cuántas veces después de la palabra «buenos» venía «días».
6. Axiomas de Kolmogórov
La definición clásica necesita resultados igualmente probables; la frecuencial, infinitos intentos. Andréi Kolmogórov definió en 1933 la probabilidad de otra manera: no dice cómo calcularla, solo qué reglas debe cumplir. Cada uno de los enfoques anteriores es entonces solo una de las formas de cumplir esas reglas.
Definición — probabilidad (axiomas de Kolmogórov)
Una probabilidad es una función P que asigna a cada suceso A un número P(A) y cumple tres axiomas:
- no negatividad: P(A) ≥ 0 para todo suceso A,
- normalización: P(Ω) = 1,
- aditividad: para sucesos incompatibles dos a dos A1, A2, … se cumple P(A1 ∪ A2 ∪ …) = P(A1) + P(A2) + …
Tres reglas razonables. La probabilidad nunca es negativa. Algo tiene que pasar, así que todo el espacio tiene probabilidad 1. Y cuando dos cosas se excluyen mutuamente, la probabilidad de que ocurra una u otra es la suma de sus probabilidades. Todo lo demás se deduce de aquí.
7. Reglas que se deducen de los axiomas
Teorema — probabilidad del suceso contrario
P(Ac) = 1 − P(A). En particular, P(∅) = 0 y 0 ≤ P(A) ≤ 1.
A menudo es más fácil calcular lo contrario. «Al menos un seis» tiene como contrario «ningún seis», que tiene 25 resultados de 36. Así que P(al menos un seis) = 1 − 25/36 = 11/36 ≈ 0,306.
Teorema — probabilidad de la unión
Para sucesos cualesquiera A, B se cumple P(A ∪ B) = P(A) + P(B) − P(A ∩ B).
Cuando sumas sucesos que se solapan, cuentas la parte común dos veces, y tienes que restarla una vez. Para suma 7 o un seis: 6/36 + 11/36 − 2/36 = 15/36. Justo esas son las casillas coloreadas de la cuadrícula.
8. La probabilidad en la inteligencia artificial
- Los clasificadores devuelven probabilidades de las clases; el softmax de la parte sobre clasificación garantiza que sean no negativas y sumen 1, justo como piden los axiomas.
- Los modelos de lenguaje son distribuciones de probabilidad sobre la siguiente palabra. Al escribir texto, sortean a partir de ellas.
- La estimación a partir de datos es la frecuencia relativa: el modelo aprende las probabilidades que «salieron» en los datos de entrenamiento.
- Incertidumbre: un buen modelo sabe cuándo no está seguro. Las probabilidades 0,51 y 0,99 dan la misma clase, pero un grado de confianza completamente distinto.
La siguiente parte mostrará cómo cambiar la probabilidad cuando nos enteramos de algo nuevo: la probabilidad condicionada y el teorema de Bayes.
9. Resumen
- Un experimento aleatorio tiene un espacio muestral Ω; un suceso es un subconjunto de Ω.
- Los sucesos se combinan como conjuntos: la unión es «o», la intersección «y a la vez», el suceso contrario «no».
- La probabilidad clásica es casos favorables entre casos posibles, solo para resultados igualmente probables.
- La frecuencia relativa se estabiliza al aumentar los intentos; la probabilidad es el número al que se acerca.
- Axiomas de Kolmogórov: no negatividad, P(Ω) = 1 y suma para sucesos incompatibles. De ellos se deducen la regla del complemento y la fórmula de la unión.
¿Lo ves de otra manera? Escribe a support@coden-app.com.