Was ist Wahrscheinlichkeit: vom Würfelwurf zu den Kolmogorow-Axiomen

Zufallsexperiment, Ergebnisraum, Ereignisse und Operationen mit ihnen, klassische und Häufigkeitswahrscheinlichkeit und die Axiome, auf denen alles Weitere aufbaut — am Beispiel zweier Würfel.

12 Minuten Matěj Žalmánek 2026-10-15

Serie KI-Grundlagen Teil 12 von 52

1. Landkarte der künstlichen Intelligenz: was was ist und wie alles zusammenpasst
2. Eine kurze Geschichte der künstlichen Intelligenz: von Turing bis zu Sprachmodellen
3. Daten, Modell, Training, Inferenz: die Grundbegriffe an einem einzigen Beispiel
4. Mathematische Notation lesen: Symbole, Indizes, Summen und Quantoren
5. Mengen und Relationen: der Baukasten, aus dem Definitionen in der KI bestehen
6. Funktionen und Abbildungen: warum jedes KI-Modell eine Funktion ist
7. Logik und Beweise: die Regeln, nach denen KI schließt
8. Graphen und Bäume: die Struktur, auf der Suche und neuronale Netze stehen
9. Lineare Algebra für maschinelles Lernen: Vektoren, Matrizen und warum KI vor allem multipliziert
10. Ableitungen, Gradient und Kettenregel: wie ein Modell herausfindet, in welche Richtung es lernen soll
11. Gradientenabstieg: wie ein Modell lernt
12. Was ist Wahrscheinlichkeit: vom Würfelwurf zu den Kolmogorow-Axiomen
13. Bedingte Wahrscheinlichkeit und der Satz von Bayes: wie du deine Einschätzung änderst, wenn du etwas Neues erfährst
14. Zufallsvariable und Verteilungsfunktion: eine Funktion, die alles über eine Verteilung verrät
15. Dichtefunktion und Wahrscheinlichkeitsfunktion: warum eine stetige Zufallsvariable in einem Punkt die Wahrscheinlichkeit null hat
16. Erwartungswert, Varianz und Kovarianz: wo eine Verteilung liegt, wie breit sie ist und was womit zusammenhängt
17. Überblick über Wahrscheinlichkeitsverteilungen: Bernoulli-, Binomial-, Poisson-, Gleich-, Normal- und Exponentialverteilung
18. Gesetz der großen Zahlen und zentraler Grenzwertsatz: Warum sich Durchschnitte so vorhersagbar verhalten
19. Statistik und Parameterschätzung: Maximum Likelihood, MAP und Konfidenzintervalle
20. Informationstheorie: Entropie, Kreuzentropie und KL-Divergenz — woher Verlustfunktionen kommen
21. Zustandsraumsuche: BFS, DFS, UCS und A* mit Animationen
22. Spiele und Gegner: Minimax, Alpha-Beta-Suche und Monte Carlo Tree Search
23. Constraint Satisfaction: Backtracking, Constraint-Propagierung und AC-3 an Sudoku und einer Karte tschechischer Regionen
24. Logik und wissensbasierte Systeme: Vorwärts- und Rückwärtsverkettung, Resolution und Expertensysteme
25. Planung: STRIPS, die Blockwelt, Heuristiken aus Relaxierung und Planung in KI-Agenten
26. Lokale Suche und simulierte Abkühlung: ein Handlungsreisender durch die tschechischen Regionalhauptstädte
27. Genetische Algorithmen: Population, Kreuzung, Mutation und Selektion am Rucksack für die Wanderung
28. Evolutionsstrategien und genetische Programmierung: von der 1/5-Erfolgsregel zum Keplerschen Gesetz
29. Ameisenkolonieoptimierung: wie eine Pheromonspur einen kurzen Weg findet
30. Partikelschwarmoptimierung: Trägheit, eigene Erfahrung und die Erfahrung des Schwarms
31. Neuroevolution: Evolution der Gewichte und der Gestalt neuronaler Netze und der Algorithmus NEAT
32. Fuzzy-Mengen und Zugehörigkeitsfunktionen: wie man „etwas warm“ aufschreibt
33. Fuzzy-Logik und Wahrscheinlichkeit: warum „etwas warm“ nicht „wahrscheinlich warm“ bedeutet
34. Fuzzy-Logik: t-Normen, Implikationen und WENN–DANN-Regeln
35. Fuzzy-Regelung: Mamdani und Sugeno vom Ventilator bis zum Pendel auf dem Wagen
36. Fuzzy-Clustering: der Algorithmus fuzzy c-means und Punkte zwischen den Clustern
37. Neuro-Fuzzy-Systeme (ANFIS): Fuzzy-Regeln, die aus Daten lernen
38. Markow-Ketten: Übergangsmatrix, stationäre Verteilung und PageRank
39. Hidden-Markov-Modelle: der Viterbi-Algorithmus und das unehrliche Kasino
40. Bayessche Netze: warum das Gras nass ist und was das für den Rasensprenger bedeutet
41. Der Kalman-Filter: wie man aus ungenauen Messungen schätzt, wo ein Auto ist und wie schnell es fährt
42. Arten des maschinellen Lernens: überwacht, unüberwacht, halbüberwacht und mehr
43. Prompts, Kontext und RAG: wie man einem Modell die richtigen Informationen gibt
44. Variational Autoencoder (VAE): neue Bilder aus einem stetigen latenten Raum
45. Generative Adversarial Networks (GAN): der Fälscher gegen den Detektiv
46. Diffusionsmodelle: wie aus reinem Rauschen ein Bild wird
47. Markow-Entscheidungsprozesse: Zustände, Aktionen, Belohnungen und Bellman-Gleichungen
48. Q-Learning und DQN: den Wert von Aktionen lernen, von der Tabelle bis zum neuronalen Netz
49. Policy Gradient und PPO: die Strategie direkt lernen
50. Wie ein KI-Agent funktioniert: ein Sprachmodell in einer Schleife mit Werkzeugen
51. Programmieren mit KI-Agenten: Auftrag, Tests und Kontrolle
52. Bewertung und Sicherheit von KI-Systemen: wie man misst und wie man überwacht

Der ganze Lehrplan der Serie 52 von 83 Themen fertig

Ein Sprachmodell wählt nicht das nächste Wort, sondern Wahrscheinlichkeiten für alle Wörter. Ein Klassifikator sagt nicht „das ist eine Katze“, sondern „mit Wahrscheinlichkeit 0,93 ist das eine Katze“. Das ganze maschinelle Lernen beruht auf dem Rechnen mit Unsicherheit — und Wahrscheinlichkeit ist die Sprache, in der man präzise über Unsicherheit spricht.

In der Schule wird Wahrscheinlichkeit meist als „Anzahl der günstigen Fälle geteilt durch die Anzahl aller Fälle“ definiert. Das ist ein guter Anfang, reicht aber nicht. In diesem Teil gehen wir vom Zufallsexperiment über Ereignisse bis zur präzisen Definition, auf der alles Weitere aufbaut. Alle Beispiele drehen sich um zwei Würfel. Es hilft dir, den Teil über Mengen zu kennen — Ereignisse sind nämlich Mengen.

1. Zufallsexperiment und Ergebnisraum

Definition — Zufallsexperiment

Ein Zufallsexperiment ist ein Vorgang, dessen Ergebnis wir vorher nicht kennen, von dem wir aber wissen, welche Ergebnisse er haben kann, und der sich (zumindest gedanklich) beliebig oft unter gleichen Bedingungen wiederholen lässt.

Definition — Ergebnisraum

Der Ergebnisraum Ω ist die Menge aller möglichen Ergebnisse eines Zufallsexperiments. Seine Elemente ω ∈ Ω nennen wir Elementarergebnisse.

2. Ereignisse

Definition — Ereignis

Ein Ereignis ist eine Teilmenge des Ergebnisraums, A ⊆ Ω. Wir sagen, das Ereignis A ist eingetreten, wenn das Ergebnis des Experiments ein Element von A ist.

Definition — sicheres und unmögliches Ereignis

Das sichere Ereignis ist der ganze Raum Ω — es tritt immer ein. Das unmögliche Ereignis ist die leere Menge ∅ — es tritt nie ein.

Das Raster zeigt alle 36 Ergebnisse zweier Würfel; die Zeile ist der erste Würfel, die Spalte der zweite, und die Zahl im Feld ist die Augensumme. Eingefärbt sind zwei Ereignisse: A = „die Augensumme ist 7“ und B = „mindestens ein Würfel zeigt eine Sechs“:

Das Ereignis A hat 6 Ergebnisse, das Ereignis B 11. Zwei Ergebnisse, (1, 6) und (6, 1), gehören zu beiden — im Raster sind sie violett.

3. Operationen mit Ereignissen

Da Ereignisse Mengen sind, werden sie mit denselben Operationen verknüpft wie Mengen. Jede Operation hat aber auch eine natürliche Bedeutung in Worten:

Definition — Vereinigung von Ereignissen

Die Vereinigung A ∪ B ist das Ereignis „A oder B tritt ein (oder beide)“.

Definition — Schnitt von Ereignissen

Der Schnitt A ∩ B ist das Ereignis „A und B treten zugleich ein“.

Definition — Gegenereignis

Das Gegenereignis A^c = Ω ∖ A ist das Ereignis „A tritt nicht ein“.

Definition — unvereinbare Ereignisse

Die Ereignisse A und B sind unvereinbar (disjunkt), wenn sie nicht zugleich eintreten können: A ∩ B = ∅.

4. Klassische Wahrscheinlichkeit

Definition — klassische Wahrscheinlichkeit (Laplace)

Ist Ω endlich und sind alle Elementarergebnisse gleich wahrscheinlich, dann gilt P(A) = |A| / |Ω|.

Der Haken steckt in den Worten „gleich wahrscheinlich“. Bei zwei Würfeln sind die Augensummen nicht gleich wahrscheinlich — die Summe 2 fällt nur als (1, 1), die Summe 7 auf sechs Arten. Deshalb zählen wir Paare, nicht Summen. Und bei vielen echten Ereignissen gibt es gar keine gleich wahrscheinlichen Ergebnisse: Wie groß ist die Wahrscheinlichkeit, dass es morgen regnet, oder dass eine E-Mail Spam ist? Da hilft die klassische Definition nicht.

5. Wahrscheinlichkeit als langfristige Häufigkeit

Definition — relative Häufigkeit

Wiederholen wir ein Experiment n-mal und tritt das Ereignis A n_A-mal ein, ist seine relative Häufigkeit n_A / n.

Bei wenigen Versuchen springt die relative Häufigkeit hin und her. Wenn aber die Versuche zunehmen, stabilisiert sie sich. Hier sind vier unabhängige Simulationen von Münzwürfen:

Die erste Simulation hatte nach 10 Würfen 70 % Kopf, nach 100 Würfen 40 %, nach 1000 Würfen 49,4 % und nach 10 000 Würfen 49,92 %. Wahrscheinlichkeit lässt sich als die Zahl verstehen, der sich die relative Häufigkeit nähert — genau das formuliert später das Gesetz der großen Zahlen. So schätzt man Wahrscheinlichkeiten aus echten Daten: wie viele E-Mails mit einem bestimmten Wort Spam waren, wie oft auf das Wort „guten“ das Wort „Morgen“ folgte.

6. Die Kolmogorow-Axiome

Die klassische Definition braucht gleich wahrscheinliche Ergebnisse, die Häufigkeitsdefinition unendlich viele Versuche. Andrei Kolmogorow hat die Wahrscheinlichkeit 1933 anders definiert: Er sagt nicht, wie man sie berechnet, sondern nur, welche Regeln sie erfüllen muss. Jede der vorherigen Sichtweisen ist dann nur eine der Möglichkeiten, diese Regeln zu erfüllen.

Definition — Wahrscheinlichkeit (Kolmogorow-Axiome)

Eine Wahrscheinlichkeit ist eine Funktion P, die jedem Ereignis A eine Zahl P(A) zuordnet und drei Axiome erfüllt:

• Nichtnegativität: P(A) ≥ 0 für jedes Ereignis A,
• Normierung: P(Ω) = 1,
• Additivität: für paarweise unvereinbare Ereignisse A₁, A₂, … gilt P(A₁ ∪ A₂ ∪ …) = P(A₁) + P(A₂) + …

7. Regeln, die aus den Axiomen folgen

Satz — Wahrscheinlichkeit des Gegenereignisses

P(A^c) = 1 − P(A). Insbesondere gilt P(∅) = 0 und 0 ≤ P(A) ≤ 1.

Satz — Wahrscheinlichkeit einer Vereinigung

Für beliebige Ereignisse A, B gilt P(A ∪ B) = P(A) + P(B) − P(A ∩ B).

8. Wahrscheinlichkeit in der künstlichen Intelligenz

• Klassifikatoren liefern Wahrscheinlichkeiten der Klassen; Softmax aus dem Teil über Klassifikation sorgt dafür, dass sie nichtnegativ sind und sich zu 1 summieren — genau nach den Axiomen.
• Sprachmodelle sind Wahrscheinlichkeitsverteilungen über dem nächsten Wort. Beim Schreiben von Text ziehen sie daraus zufällig.
• Schätzung aus Daten ist relative Häufigkeit: Das Modell lernt die Wahrscheinlichkeiten, die in den Trainingsdaten „herauskamen“.
• Unsicherheit — ein gutes Modell weiß, wenn es sich nicht sicher ist. Die Wahrscheinlichkeiten 0,51 und 0,99 ergeben dieselbe Klasse, aber ein völlig anderes Maß an Vertrauen.

Der nächste Teil zeigt, wie man eine Wahrscheinlichkeit ändert, wenn man etwas Neues erfährt — die bedingte Wahrscheinlichkeit und den Satz von Bayes.

9. Zusammenfassung

• Ein Zufallsexperiment hat einen Ergebnisraum Ω; ein Ereignis ist eine Teilmenge von Ω.
• Ereignisse werden wie Mengen verknüpft: Vereinigung ist „oder“, Schnitt „und zugleich“, das Gegenereignis „nicht“.
• Klassische Wahrscheinlichkeit ist günstig geteilt durch möglich — nur für gleich wahrscheinliche Ergebnisse.
• Die relative Häufigkeit stabilisiert sich mit der Zahl der Versuche; die Wahrscheinlichkeit ist die Zahl, der sie sich nähert.
• Kolmogorow-Axiome: Nichtnegativität, P(Ω) = 1 und Addition für unvereinbare Ereignisse. Aus ihnen folgen die Regel für das Gegenereignis und die Formel für die Vereinigung.

Siehst du das anders? Schreib an support@coden-app.com.