Der Monte-Carlo-Schätzer verständlich erklärt
Wie wahrscheinlich ist es, dass ein Brückennetz nach einem Hochwasser zerfällt? Man kann das Hochwasser oft durchspielen und zählen. Diese Seite zeigt, wie genau das ist und warum das Zählen bei sehr seltenen Ausfällen in die Irre führen kann.
Zuletzt aktualisiert:
Ein Wort unbekannt? Das Begriffsverzeichnis erklärt es in wenigen Sätzen.
Ein Hochwasser, durchgespielt
Stellen Sie sich zwölf Orte vor, die durch 17 Brücken verbunden sind. Bei Hochwasser fällt jede Brücke aus, jede für sich und mit derselben Chance. Gefragt ist: Wie wahrscheinlich ist es, dass danach nicht mehr jeder Ort von jedem anderen erreichbar ist?
Von Hand ausrechnen ist mühsam. Man müsste alle Kombinationen aus heilen und kaputten Brücken einzeln prüfen. Schon bei 17 Brücken sind das mehr als hunderttausend.
Einfacher ist es, das Hochwasser durchzuspielen. Für jede Brücke würfelt man, ob sie hält. Dann prüft man, ob noch alle Orte verbunden sind, und macht einen Strich unter „zerfallen“ oder „heil“. Das wiederholt man oft. Der Anteil der zerfallenen Durchgänge ist die Schätzung der gesuchten Wahrscheinlichkeit. Dieses Ziehen und Zählen heißt Monte-Carlo-Verfahren.
Ein Beispiel: Jede Brücke hält mit 80 %. Von 1000 Durchgängen zerfiel das Netz 258 Mal. Die Schätzung ist also 258 von 1000. Dieses kleine Netz kann ein Computer noch vollständig durchzählen, und die richtige Antwort liegt nahe an der Schätzung.
Wie genau ist das?
Werfen Sie eine Münze nur wenige Male, kann der Anteil Kopf weit von dem entfernt liegen, was die Münze auf Dauer tut. Mit mehr Würfen nähert er sich an. Bei den Brücken ist es ebenso: Die Schätzung schwankt um die richtige Antwort, und sie schwankt weniger, je mehr Durchgänge man macht.
Die Annäherung ist langsam. Wer den Zufallsfehler auf die Hälfte drücken will, braucht ungefähr viermal so viele Durchgänge. Eine Deutung: Jeder weitere Durchgang bringt weniger Neues, weil sich Abweichungen nach oben und unten teilweise aufheben. Die Messung an einem Netz mit 17 Brücken folgt diesem Tempo.
Zu jeder Schätzung gehört eine Von-bis-Angabe, in der die richtige Antwort liegen soll (Fachwort: Konfidenzintervall). Gemeint ist eine Sicherheit von 95 %. Stellen Sie sich vor, man wiederholt die ganze Prozedur mit allen Durchgängen 100 Mal. Jede Wiederholung heißt hier Versuchsreihe. In etwa 95 dieser Reihen sollte der Bereich die richtige Antwort enthalten. Für die Berechnung gibt es mehrere Rezepte. Drei werden verglichen: das übliche (nach Wald benannt), ein vorsichtigeres (Wilson) und ein besonders vorsichtiges (Clopper-Pearson). Im Beispiel mit 80 % enthielten alle drei die richtige Antwort.
Wenn der Ausfall selten ist
Nun halten die Brücken fast immer, jede mit 99 %. Das Netz zerfällt dann seltener als einmal in 1000 Durchgängen. Mit 1000 Durchgängen bleibt deshalb in zwei Dritteln aller Versuchsreihen jeder Durchgang heil.
Die Schätzung lautet dann null. Das ist falsch, denn die richtige Antwort ist klein, aber nicht null.
Das übliche Rezept (Wald) macht es schlimmer. Es schätzt die Schwankungsbreite der Schätzung aus dem Anteil, den es gesehen hat, und der ist null. Also ist der Bereich ohne Breite: genau null. Es ist sich sicher und liegt daneben. Wilson und Clopper-Pearson nennen in diesem Fall eine kleine Obergrenze, und die richtige Antwort liegt darunter.
Um Seltenes zu treffen, braucht man viele Durchgänge, und zwar im Maß der Seltenheit. Bei kleiner Ausfallchance muss man im Mittel etwa 384 Ausfälle zählen, damit der Fehler bei 95 % Sicherheit höchstens 10 % der gesuchten Zahl beträgt. Die Rechnung dazu steht im zweiten Teil. Ist das Ereignis zehnmal seltener, braucht man zehnmal so viele Durchgänge, um dieselbe Zahl Ausfälle zu sehen. Für das stabile Netz wären knapp eine Million Durchgänge nötig.
Wenn einzelne Werte riesig sind
Ein anderes Problem heißt Schiefe. Sie schätzen das durchschnittliche Vermögen eines Dorfes aus einer Stichprobe. Die meisten haben wenig, ein einziger hat sehr viel.
Die meisten Stichproben enthalten den Reichen nicht und schätzen zu niedrig. Wenige enthalten ihn und schätzen weit zu hoch. Im Durchschnitt über sehr viele Stichproben stimmt die Schätzung, aber in der Mehrzahl der einzelnen Stichproben liegt sie darunter.
Eine Messung an einer erfundenen, stark schiefen Größe zeigt, was das für die Von-bis-Angabe heißt. Dafür wurde die Prozedur oft wiederholt. Bei 30 Durchgängen traf der übliche Bereich mit 95 % Versprechen sie nur in etwa zwei von drei Versuchsreihen. Auch bei der größten gemessenen Zahl von Durchgängen lag er noch unter dem Versprochenen.
Würfeln oder ein Raster?
Man könnte statt zu würfeln auch systematisch probieren. Stellen Sie sich eine Maschine mit mehreren Reglern vor. Jeder Regler ist eine Einflussgröße. Beim Raster stellt man jeden Regler auf gleichmäßig verteilte Stufen und probiert alle Kombinationen. Mit einem einzigen Regler war der Fehler des Rasters in der Messung um mehr als das Millionenfache kleiner als der des Würfelns.
Mit jedem weiteren Regler wächst die Zahl der Kombinationen schnell. Bei fester Zahl erlaubter Prüfungen blieben bei sechs Reglern nur vier Stufen je Regler. Das Raster wird grob. Von sechs Reglern an gewann in dieser Messung das Würfeln, für eine glatte Beispielfunktion. Der Fehler des Würfelns wuchs bei gleicher Zahl von Durchgängen nur langsam: Bei zwanzig Reglern war er ungefähr siebenmal so groß wie bei einem. Die Regler sind etwas anderes als die Brücken oben.
Das Programm zum Ausprobieren
Die Messungen auf dieser Seite stammen aus einem Programm zum Ausprobieren im Browser, der Demo. Sie erreichen es über den ersten Knopf unten. Der zweite Knopf führt zum zweiten Teil für Fachleute. Zum Verstehen brauchen Sie das Programm nicht.
Es spielt solche Hochwasser durch, kennt bei kleinen Netzen die richtige Antwort und misst daran, wie weit Schätzung und Von-bis-Angabe danebenliegen. Es beruht auf einem vereinfachten Rechenbild (Fachwort: Modell).
Häufige Missverständnisse
- „Ein großes Netz braucht mehr Durchgänge.“ Nicht deshalb. Bei Netzen von sieben bis siebzehn Brücken, jeweils auf dieselbe richtige Antwort eingestellt, streute die Schätzung im Rahmen des Messrauschens gleich stark. Jeder Durchgang ist am Ende ein Münzwurf mit „zerfallen“ oder „heil“, und wie viele Brücken dahinterstecken, sieht die Zählung nicht. Es zählt, wie selten der Ausfall ist.
- „Eine Angabe mit 95 % Sicherheit trifft in jedem Fall zu 95 %.“ Das hängt vom Rezept ab. In der ungünstigsten Lage der Messung (sehr seltenes Ereignis, nur 30 Durchgänge) traf das übliche Rezept nur in etwa einer von dreißig Reihen. Es beruht auf einer Näherung, die bei zu wenigen Ausfällen nicht gilt.
Woran Sie das im Alltag erkennen
Anzeichen bei jeder geschätzten Zahl:
- Das Ergebnis heißt „keiner“ oder „null“, obwohl das Gesuchte selten sein könnte. Dann lohnt die Frage, wie viele Fälle man überhaupt angesehen hat.
- Ein Durchschnitt hängt an wenigen sehr großen Werten, etwa bei Einkommen oder Schadenssummen. Dann ist Vorsicht angebracht, auch bei großer Stichprobe.
- Eine Von-bis-Angabe nennt weder Rechenregel noch Stichprobengröße. Dann lässt sich nicht beurteilen, ob sie ihr Versprechen hält.
Wie ernst ist das Rechenbild zu nehmen?
Alle Netze und Zahlen sind erfunden, und die Aussagen beschreiben dieses Beispiel, nicht die Wirklichkeit. Die Brücken fallen unabhängig voneinander aus; eine gemeinsame Ursache wie ein Dammbruch gibt es nicht.
Was Sie mitnehmen:
- Fragen Sie bei jeder geschätzten Zahl, wie viele Fälle gezählt wurden und wie oft das Gesuchte darunter vorkam.
- Eine Von-bis-Angabe ist nur so gut wie das Rezept, das sie berechnet.
- Mehr Durchgänge verkleinern den Zufallsfehler, aber nur langsam. Seltenheit und Schiefe machen es teurer.
Hinweis: Alle Demos rechnen mit synthetischen oder frei verfügbaren Beispieldaten und laufen auf einem externen Anbieter (Datenschutz). Bitte geben Sie darin keine vertraulichen oder personenbezogenen Daten ein. Die Ergebnisse gelten für die jeweilige Demo-Instanz und lassen sich nicht ungeprüft auf reale Fälle übertragen; für darauf gestützte Entscheidungen übernehme ich keine Gewähr.
Modell und Annahmen
Dieser Teil ist eigenständig lesbar. Gegenstand ist das Schätzen einer Wahrscheinlichkeit durch Ziehen und Zählen, die Fehlerangabe dazu und die Frage, wann diese Angabe trügt. Hauptbeispiel ist die Zuverlässigkeit eines Gitternetzes; eine schiefe Größe und ein Integral behandeln zwei weitere Experimente.
- Netz und Gesuchtes: Ein Gitter hat Knoten in Zeilen und Spalten sowie waagerechte und senkrechte Kanten; es gibt sechs Gitter von 2×3 (7 Kanten) bis 4×4 (24 Kanten). Jede der \(m\) Kanten hält unabhängig mit Wahrscheinlichkeit \(p\); das Netz hängt zusammen, wenn alle Knoten verbunden sind. \(R(p)\) ist die Wahrscheinlichkeit des Zusammenhangs, gesucht ist die Ausfallwahrscheinlichkeit \(q = 1 - R(p)\). Voreinstellung der Demo: Gitter 3×4 mit 17 Kanten, \(p = 0{,}80\), \(N = 1000\) Ziehungen.
- Wahrheit: Sei \(A_k\) die Zahl der Kantenmengen mit \(k\) Kanten, die alle Knoten verbinden. Dann gilt \(R(p) = \sum_k A_k\,p^k(1-p)^{m-k}\). Bis 17 Kanten wird \(A_k\) aus allen \(2^{17}\) = 131 072 Kantenmengen live aufgezählt; für 3×5 (22 Kanten) und 4×4 (24 Kanten) sind die Zahlen gespeichert, aus einer Aufzählung aller Kantenmengen. Geprüft sind sie für beide Gitter mit dem Matrix-Baum-Satz, der allerdings nur die Zahl der Spannbäume liefert (die minimalen zusammenhängenden Kantenmengen), und für 4×4 zusätzlich mit den Zahlen der Tutte-Polynom-Demo dieser Website. Die Aufzählung selbst ist an Zufallsgraphen gegen den Matrix-Baum-Satz und gegen eine Bruchrechnung mit Union-Find geprüft.
- Ziehungen: \(N\) Netze aus einem festen Strom von Zufallszahlen (SplitMix64, zählerbasiert: die Zahl an Stelle \(i\) hängt nur vom Strom und von \(i\) ab). Eine Kante hält, wenn ihre Zufallszahl unter \(p\) liegt. Folge: Bei festem Strom sind die Ziehungen für verschiedene \(p\) gekoppelt, und eine kleinere Ziehungszahl ist der Anfang der größeren.
- Schätzer und Intervalle: \(K\) ist die Zahl der Ziehungen, in denen das Netz nicht zusammenhängt, und \(\hat q = K/N\) die Schätzung. Daneben stehen drei 95-%-Intervalle für \(q\): Wald, Wilson und Clopper–Pearson. Die Überdeckung berechnet die Demo exakt aus der Binomialverteilung (Summe über alle möglichen Werte von \(K\)), nicht durch eine Wiederholungsstudie.
- Schiefe Größe: \(X = e^{\sigma Z}\) mit \(Z \sim \mathcal N(0,1)\). Geschätzt wird der Mittelwert \(\bar X\) aus \(N\) Ziehungen; das Intervall ist das t-Intervall \(\bar X \pm t\,s/\sqrt N\) mit der Stichprobenstreuung \(s\) und dem \(1-\alpha/2\)-Quantil \(t\) der t-Verteilung mit \(N-1\) Freiheitsgraden. Die Wahrheit ist \(e^{\sigma^2/2}\).
- Integral: \(f(x) = e^{x_1+\dots+x_d}\) auf dem Einheitswürfel, Wahrheit \((e-1)^d\). Die Mittelpunktsregel mit \(s\) Punkten je Achse braucht \(s^d\) Auswertungen; sie wird bei etwa 10 000 Auswertungen gegen Monte Carlo mit 10 000 Ziehungen gestellt.
- Messreihen: Jede Wiederholung bekommt einen eigenen festen Zufallsstrom, abgeleitet aus Experiment, Parametern und Wiederholungsnummer; die Messreihen sind damit deterministisch wiederholbar, und nie dient ein einzelner Strom als Beleg. Das Experiment zum Fehler zieht die Ausfallzahl direkt aus \(\mathrm{Bin}(N, q)\); das Experiment zur Netzgröße nutzt echte Graphziehungen.
- Alles erfunden: Netze, Größen und Integranden stehen nicht für Messdaten.
Die Formeln
Die Ausfallzahl ist binomialverteilt, \(K \sim \mathrm{Bin}(N, q)\). Daraus folgen \(\mathbb E\,\hat q = q\) und der Standardfehler:
\[\operatorname{sd}(\hat q) = \sqrt{q(1-q)/N}.\]
Mit \(z = 1{,}96\) (das \(1-\alpha/2\)-Quantil der Normalverteilung für 95 %; die Demo rechnet mit dem genauen Quantil, nicht mit dem gerundeten Wert) lautet das Wald-Intervall:
\[\hat q \pm z\sqrt{\hat q(1-\hat q)/N}\]
Das Wilson-Intervall (Score-Intervall) lautet, mit \(z^2/2N\) für \(z^2/(2N)\) und \(z^2/4N^2\) für \(z^2/(4N^2)\):
\[\dfrac{\hat q + z^2/2N \pm z\sqrt{\hat q(1-\hat q)/N + z^2/4N^2}}{1 + z^2/N}\]
Das Clopper–Pearson-Intervall bildet die Grenzen aus Quantilen der Beta-Verteilung zu den Niveaus \(\alpha/2\) und \(1-\alpha/2\) mit \(\alpha = 1 - 0{,}95\): unten mit den Parametern \(K\) und \(N-K+1\), oben mit \(K+1\) und \(N-K\). Bei \(K = 0\) ist die untere Grenze 0, bei \(K = N\) die obere 1. Ist \(I(k)\) das Intervall, das zu \(K = k\) gehört, ist die Überdeckung der Wahrheit \(q\):
\[\sum_k \mathrm{Bin}(k; N, q)\,\mathbf 1[q \in I(k)]\]
Die Faustformel für die nötige Ziehungszahl bei relativem Fehler \(\varepsilon\) und 95 % Sicherheit lautet:
\[N^\ast = z^2 (1-q) / (q\,\varepsilon^2)\]
Die Schiefe von \(X = e^{\sigma Z}\) ist:
\[(e^{\sigma^2}+2)\sqrt{e^{\sigma^2}-1}\]
Für den Integranden \(f\) ist die relative Varianz, deren Wurzel durch \(\sqrt N\) die relative Streuung des Monte-Carlo-Mittels aus \(N\) Ziehungen ergibt:
\[\operatorname{Var} f/(\mathbb E f)^2 = \bigl(\tfrac{e^2-1}{2(e-1)^2}\bigr)^d - 1\]
Herleitungen Schritt für Schritt
Die folgenden Herleitungen sind Rechnungen dieser Seite, keine Messungen der Demo. Wo die Demo dieselbe Aussage prüft, steht es dabei.
Die Faustformel für die Ziehungszahl.
- Schritt 1: Der relative Standardfehler ist \(\operatorname{sd}(\hat q)/q = \sqrt{(1-q)/(qN)}\).
- Schritt 2: In der Normalnäherung der Ausfallzahl liegt \(|\hat q - q|\) mit Wahrscheinlichkeit 95 % unter \(z\cdot\operatorname{sd}(\hat q)\).
- Schritt 3: Verlangt man \(z\cdot\operatorname{sd}(\hat q) \le \varepsilon q\), folgt \(N \ge z^2(1-q)/(q\,\varepsilon^2)\), also die Faustformel.
- Schritt 4: Für \(\varepsilon = 0{,}1\) ist \(z^2/\varepsilon^2\) gut 384, also \(N^\ast \approx 384\,(1-q)/q\), für kleines \(q\) rund \(384/q\). Das Produkt \(N^\ast q\) ist damit etwa 384, unabhängig von \(q\): Für diesen Fehler muss man erwartungsgemäß etwa 384 Ausfälle sehen, und die nötige Ziehungszahl wächst im Maß der Seltenheit.
- Prüfung: Die Demo rechnet die Wahrscheinlichkeit, das Ziel zu treffen, exakt aus der Binomialverteilung nach; sie liegt für alle geprüften \(q\) bis \(10^{-4}\) zwischen 0,945 und 0,955. Die Normalnäherung gilt also bei den geprüften \(q\) und \(N\), für noch seltenere Ereignisse ist sie dort nicht nachgerechnet.
Die Streuung hängt nicht an der Größe des Netzes. Jede Ziehung ist ein Versuch mit zwei Ausgängen und Erfolgswahrscheinlichkeit \(q\), seine Varianz ist \(q(1-q)\). Sie hängt nur von \(q\) ab, nicht von der Zahl der Knoten oder Kanten. Dass das Netz hinter \(q\) größer ist, ändert nur den Wert von \(q\) und die Kosten einer Ziehung. Die Messung bei gleichem \(q\) bestätigt das für 7 bis 17 Kanten (siehe Befunde).
Was bei \(K = 0\) passiert.
- Schritt 1: Die Wahrscheinlichkeit, in \(N\) Ziehungen keinen Ausfall zu sehen, ist \((1-q)^N\). Beim sehr stabilen Netz mit \(q = 0{,}000417\) und \(N = 1000\) ist sie 0,659 (die Demo gibt denselben Wert aus).
- Schritt 2 (Wald): Mit \(\hat q = 0\) ist auch die geschätzte Streuung 0. Das Intervall schrumpft auf den Punkt 0 und enthält \(q\) nicht.
- Schritt 3 (Wilson): Mit \(\hat q = 0\) wird die obere Grenze zu \(z^2/(N+z^2)\). Für \(N = 1000\) ergibt das 0,00383, wie im Beispiel der Demo.
- Schritt 4 (Clopper–Pearson): Mit \(K = 0\) ist die obere Grenze das \((1-\alpha/2)\)-Quantil der Beta-Verteilung mit den Parametern 1 und \(N\), also \(1 - (\alpha/2)^{1/N}\). Für \(N = 1000\) ergibt das 0,00368, wie im Beispiel der Demo.
- Folge: Wilson und Clopper–Pearson enthalten \(q\) hier, Wald nicht.
Warum das t-Intervall bei starker Schiefe versagt. Der Mittelwert ist erwartungstreu: \(\mathbb E\bar X = e^{\sigma^2/2}\). Seine Verteilung ist aber rechtsschief, weil wenige sehr große Werte ihn bestimmen; der Median des Mittels liegt deshalb unter dem Erwartungswert. Das passt zur Messung (der Median des relativen Fehlers ist bei \(\sigma = 2\) für alle geprüften \(N\) negativ). Das t-Intervall setzt näherungsweise eine Normalverteilung des Mittels voraus; bei sehr großer Schiefe braucht diese Näherung sehr viele Ziehungen. Das ist die Deutung dieser Seite für die zu geringe Überdeckung, nicht gemessen.
Quadratur gegen Monte Carlo: warum die Kreuzung kommt.
- Schritt 1: Für \(e^x\) auf \([0,1]\) hat die Mittelpunktsregel mit \(s\) Punkten einen relativen Fehler von etwa \(1/(24s^2)\) (aus der Fehlerformel der Mittelpunktsregel, \(h^2 f''/24\) mit \(h = 1/s\) und \(f'' = f\)).
- Schritt 2: Die Produktregel über \(d\) Achsen multipliziert die Faktoren, der relative Fehler wird zu etwa \(d/(24s^2)\).
- Schritt 3: Bei etwa \(B\) Auswertungen ist \(s = \lfloor B^{1/d}\rfloor\). Für \(d = 6\) ist \(s = 4\) und der Ausdruck rund \(1{,}6\cdot 10^{-2}\), nahe am gemessenen Wert der Tabelle (etwa \(15\cdot 10^{-3}\)). Für \(d = 10\) ist \(s = 2\), und die Näherung trifft die Größenordnung des gemessenen Werts (sie wird bei kleinem \(s\) gröber).
- Schritt 4: Das Monte-Carlo-Mittel hat dagegen die relative Streuung \(\sqrt{(b^d-1)/N}\) mit \(b = (e^2-1)/(2(e-1)^2)\), einer Zahl etwas über 1. Sie fällt für jedes \(d\) wie \(N^{-1/2}\) (die Rate hängt nicht von \(d\) ab) und wächst mit \(d\) geometrisch, aber nur mit der kleinen Basis \(\sqrt b\) (die Konstante).
- Folge: Der Fehler der Produktregel wächst bei festem Budget mit \(d\) wie \(d\,B^{-2/d}\), der von Monte Carlo viel langsamer. Wo sie sich kreuzen, hängt vom Integranden und vom Budget ab; für diesen Integranden und etwa 10 000 Auswertungen misst die Demo die Kreuzung bei \(d = 6\).
Durchgerechnet: vier Einzelfälle der Demo
Die Werte sind je Fall ein Einzelergebnis aus einem festen Zufallsstrom, keine Häufigkeiten über viele Versuchsreihen. Die Wahrheiten kommen aus der Aufzählung.
| Fall | Einstellung | Wahrheit | Ausfälle \(K\) | Faustformel \(N^\ast\) |
|---|---|---|---|---|
| Voreinstellung | 3×4, \(p = 0{,}80\), \(N = 1000\) | \(R = 0{,}746409\), \(q = 0{,}253591\) | 258 | 1131 (gezogen 1000) |
| Sehr stabiles Netz | 3×4, \(p = 0{,}99\), \(N = 1000\) | \(q = 0{,}000417\) | 0 | 920 938 |
| Kleines Netz | 2×3, \(p = 0{,}70\), \(N = 100\) | \(R = 0{,}556312\) | 45 | 482 |
| Großes Netz | 4×4, \(p = 0{,}90\), \(N = 10 000\) | \(R = 0{,}944085\) | 561 | 6486, es reicht |
Voreinstellung: \(\hat q = 258/1000 = 0{,}258\). Der Wald-Bereich ist \(0{,}258 \pm 1{,}96\sqrt{0{,}258\,(1-0{,}258)/1000}\), also [0,2309; 0,2851]. Wilson gibt [0,2318; 0,2860], Clopper–Pearson [0,2311; 0,2863]. Alle drei enthalten \(q\). Die Faustformel verlangt mehr Ziehungen, als gezogen sind (Tabelle).
Sehr stabiles Netz: Es gibt keinen Ausfall. Der Wald-Bereich ist [0; 0] und enthält \(q\) nicht, Wilson reicht bis 0,00383 und Clopper–Pearson bis 0,00368, beide enthalten \(q\). Die Faustformel verlangt hier um ein Vielfaches mehr Ziehungen als die gezogenen 1000 (Tabelle).
Großes Netz: \(R\) stimmt mit dem Wert der Tutte-Polynom-Demo dieser Website überein. Die Faustformel verlangt weniger Ziehungen, als gezogen sind, es reicht.
Befunde
Alle Zahlen stammen aus der Demo. Die Zeilen zur Überdeckung und zur Wahrscheinlichkeit „kein Ausfall“ sind exakte Rechnungen aus der Binomialverteilung, die Zeilen zu den Ziehungszahlen, zu den Gittern und der Monte-Carlo-Wert der Quadraturzeile sind Rechnungen aus Formeln beziehungsweise Zählungen, alle keine Stichproben. Die übrigen Zeilen stammen aus Wiederholungen mit festen Zufallsströmen. Werte sind auf die angegebenen Stellen gerundet.
| Frage | Befund |
|---|---|
| Fällt der Fehler wie \(1/\sqrt N\)? (Gitter 3×4, \(R = 0{,}5\) und \(R = 0{,}95\), je 400 Wiederholungen, \(N\) von 100 bis 10 000) | RMSE geteilt durch \(\sqrt{q(1-q)/N}\): 0,99 bis 1,07 bei \(R = 0{,}5\) und 0,93 bis 1,06 bei \(R = 0{,}95\). Steigung in der doppeltlogarithmischen Auftragung −0,49 und −0,53 (Soll −0,5). |
| Darf die Ausfallzahl aus der Binomialverteilung gezogen werden? (\(N = 1000\), \(q = 0{,}0555\)) | Mittel der Ausfallzahl 55,53 (Graphziehung) gegen 55,52 (Binomial), Streuung 7,21 gegen 7,23, Soll 7,24. |
| Hängt die Streuung an der Netzgröße? (\(R = 0{,}5\), \(N = 2000\), 300 Wiederholungen mit Graphziehungen, Gitter mit 7, 12, 13, 17 Kanten) | Verhältnis gemessene Streuung zu \(\sqrt{q(1-q)/N}\): 1,04 / 1,04 / 0,96 / 1,01. Die Aufzählung braucht \(2^m\) Netzprüfungen: gegen 10 000 Ziehungen ist sie bis 13 Kanten billiger, ab 14 die Ziehung (Zählung der Prüfungen, keine Zeitmessung). |
| Wann trügt Wald? (exakte Überdeckung, Soll 0,95, 30 Zellen: sechs Werte von \(q\) von 0,3 bis 0,001 in Schritten um das Dreifache und fünf Werte von \(N\) von 30 bis 10 000) | \(q = 0{,}01\), \(N = 1000\): 0,927; \(q = 0{,}003\), \(N = 10 000\): 0,931; \(q = 0{,}01\), \(N = 10 000\): 0,946. Niedrigster Wert 0,030 (\(q = 0{,}001\), \(N = 30\)), höchster 0,953. |
| Wilson und Clopper–Pearson? (dieselben 30 Zellen) | Wilson 0,905 (niedrigster Wert, bei \(q = 0{,}001\), \(N = 100\)) bis 0,974, also ohne Garantie für 95 %. Clopper–Pearson 0,951 bis 1,000 (gerundet), in allen 30 Zellen mindestens 95 %, oft deutlich darüber. |
| Wie wahrscheinlich ist „kein Ausfall“? (\((1-q)^N\)) | \(q = 0{,}001\), \(N = 100\): 0,905; \(q = 0{,}01\), \(N = 100\): 0,366; \(q = 0{,}003\), \(N = 300\): 0,406. |
| Wie viele Ziehungen für 10 % relativen Fehler? | \(q = 0{,}1\): 3457; \(q = 0{,}01\): 38 030; \(q = 0{,}001\): 383 762; \(q = 10^{-6}\): 384 145 498. Bis \(q = 10^{-4}\) trifft die Faustformel das Ziel mit Wahrscheinlichkeit 0,945 bis 0,955 (exakt aus der Binomialverteilung). |
| Schiefe Größe (t-Intervall für den Mittelwert von \(e^{\sigma Z}\), 2000 Wiederholungen) | \(\sigma = 0{,}5\) (Schiefe 1,8): Überdeckung 0,935 / 0,951 / 0,956 / 0,948 bei \(N = 30\) / 100 / 1000 / 10 000. \(\sigma = 1\) (6,2): 0,952 bei \(N = 10 000\). \(\sigma = 2\) (414): 0,663 / 0,757 / 0,854 / 0,912, Median des relativen Fehlers des Mittelwerts −0,279 / −0,131 / −0,039 / −0,007. |
| Quadratur gegen Monte Carlo (\(f = e^{\sum x_i}\), etwa 10 000 Auswertungen; Monte-Carlo-Wert aus der geschlossenen Formel für die relative Streuung) | Relativer Fehler Quadratur / Monte Carlo: \(d = 1\): \(4{,}2\cdot 10^{-10}\) / \(2{,}9\cdot 10^{-3}\); \(d = 5\) (6 Punkte je Achse, 7776 Auswertungen): \(5{,}8\cdot 10^{-3}\) / etwa \(7\cdot 10^{-3}\); \(d = 6\) (4 Punkte, 4096): etwa \(15\cdot 10^{-3}\) / \(7{,}8\cdot 10^{-3}\); \(d = 10\) (2 Punkte, 1024): \(9{,}9\cdot 10^{-2}\) / \(1{,}1\cdot 10^{-2}\); \(d = 20\) (1 Punkt): 0,56 / \(2{,}0\cdot 10^{-2}\). Monte Carlo gewinnt ab \(d = 6\). |
| Stimmt die Wahrheit? (sechs Gitter) | Die Gitter 2×3, 3×3, 2×5, 3×4, 3×5, 4×4 haben 7, 12, 13, 17, 22, 24 Kanten und 15, 192, 209, 2415, 30 305, 100 352 Spannbäume, wie der Matrix-Baum-Satz verlangt. |
Grenzen und was die Messung zeigt
Was sie belegt:
- Die Rate \(1/\sqrt N\) an dem gemessenen Gitter bei den beiden gemessenen Werten von \(R\) und die Unabhängigkeit der Streuung von der Kantenzahl bei gleichem \(q\).
- Die Überdeckung der drei Intervalle in den 30 Zellen der Karte aus \(q\) und \(N\); sie ist exakt gerechnet, nicht geschätzt.
- Die Aussage, dass bei sehr seltenen Ereignissen „kein Ausfall“ der häufige Fall ist und Wald dann auf einen Punkt schrumpft: Messung und Herleitung stimmen überein.
Was sie nicht belegt:
- Reale Netze: Geprüft sind nur erfundene Gitter und eine erfundene Größe. Ob die Aussagen auf reale Netze übertragbar sind, zeigt die Demo nicht.
- Drei getrennte Beispiele: Die Aussagen zu Fehler, Netzgröße und Überdeckung sind am Gitternetz gemessen, die zur Schiefe an einer log-normalen Größe, die zur Quadratur an einem Integranden. Jede gilt nur für ihr Beispiel; dass sie sich auf die anderen übertragen, zeigt die Demo nicht.
- Rauschen: Die Verhältnisse in den Messreihen rauschen bei 400 Wiederholungen um etwa 3,5 % und bei 300 um etwa 4,1 %. Abweichungen dieser Größe sind kein Befund. Die vier Einzelfälle sind je ein Strom, kein Mittel. Die Überdeckung ist als Funktion von \(q\) gezackt; die 30 Zellen sind Stützstellen, Einbrüche dazwischen sind nicht ausgeschlossen.
- Intervallwahl: Wilson hält die 95 % in den 30 Zellen nicht überall (niedrigster Wert 0,905). Clopper–Pearson lag in allen 30 Zellen bei mindestens 0,95; die Konstruktion über Beta-Quantile ist laut Literatur darauf angelegt (aus dem Gedächtnis, nicht geprüft). Die Messung belegt das nur für diese Zellen. Eine Faustregel, ab welcher Ausfallzahl Wald genügt, leitet die Demo nicht ab; sie zeigt nur, dass er bei seltenen Ausfällen und kleinem \(N\) stark unterdeckt.
- Experiment zum Fehler: Es zieht die Ausfallzahl direkt aus \(\mathrm{Bin}(N, q)\); da \(\hat q\) erwartungstreu ist, ist der RMSE die Standardabweichung, und ein Verhältnis nahe 1 ist nahezu zwangsläufig. Es prüft die Rate und die Auswertung gegen die bekannte Binomialvarianz, nicht die Graphziehung; diese stützen der Vergleich von Graph- und Binomialziehung und das Experiment zur Netzgröße.
- Faustformel: Sie beruht auf der Normalnäherung. Die exakte Nachprüfung deckt \(q\) bis \(10^{-4}\) ab; für noch seltenere Ereignisse ist sie nicht berechnet.
- Integral: Es gibt nur einen glatten Integranden und die Produktregel. Für unglatte Integranden oder andere Quadraturregeln kann die Kreuzung bei einem anderen \(d\) liegen. Die Auswertungszahlen beider Verfahren sind nur ungefähr gleich (4096 gegen 10 000 bei \(d = 6\)). Der Monte-Carlo-Wert der Tabelle ist die Formel, nicht eine Messung; die Demo vergleicht ihn zusätzlich mit gemessenen Wiederholungen. Beim Nachrechnen dieser Seite lag der aus den Wiederholungen der Demo gemessene Wert bei \(d = 6\) etwas mehr als ein Zehntel unter der Formel, mehr als das Rauschen solcher Messungen; die Ursache wurde nicht untersucht. Die Kreuzung ändert das nicht.
- Schiefe Größe: Nur die log-normale Größe mit dem t-Intervall wurde gemessen; die Ursache der zu geringen Überdeckung ist oben nur gedeutet.
- Zeiten: Die Demo misst keine Zeiten, nur die Zahl der Netzprüfungen.
- Unabhängigkeit: Die Intervalle gelten für unabhängige Ziehungen; Ketten (abhängige Ziehungen) sind nicht enthalten. Die Kanten fallen unabhängig und mit gleicher Wahrscheinlichkeit aus; gemeinsame Ursachen ändern Wahrheit und Streuung und sind nicht modelliert.
Erweiterungen und Verweise
Was diese Demo auslässt, behandeln andere Demos dieser Website:
- Seltene Ausfälle: Die Demo „Importance Sampling: seltene Ausfälle schätzen“ lässt Kanten häufiger ausfallen und gewichtet jede Ziehung um.
- Viele Einflussgrößen: Die Demo „Randomisiertes Quasi-Monte-Carlo“ mischt eine gleichmäßig füllende Punktfolge mit einem Zufallsanteil und zeigt, wie der Gewinn von Eingabezahl und Glattheit abhängt.
- Zuverlässigkeit ohne Aufzählung: Die Demo zum Tutte-Polynom berechnet die Zuverlässigkeit eines Netzes über ein Polynom statt über die Aufzählung aller Kantenmengen.
Quellen
- Clopper und Pearson (1934), exaktes Intervall; Wilson (1927), Score-Intervall; Brown, Cai und DasGupta (2001): Interval estimation for a binomial proportion. Statistical Science 16, Vergleich der Intervalle.
- Quelltext, Messreihen und Tests der Demo: github.com/sebastian-hanisch/monte-carlo-schaetzer-demo.
Die genannten Arbeiten wurden für diese Seite nicht nachgeschlagen; die Angaben stammen aus der Demo, wo sie als „aus dem Gedächtnis, nicht eingesehen“ vermerkt sind. Die Herleitungen und die eigene Nachrechnung zum Integral sind Rechnungen dieser Seite und keine Messungen.