Wiederholte Spiele · Verständlich erklärt

Algorithmische Kollusion verständlich erklärt

Zwei Preisprogramme setzen Woche für Woche den Preis für dieselbe Frachtstrecke. Sie lernen aus Erfahrung und sprechen sich nie ab. Trotzdem können beide dauerhaft mehr verlangen als im Wettbewerb. Diese Seite erklärt, warum das geschieht und wie weit die Messung reicht.

Zuletzt aktualisiert:

Teil 1 · Für Einsteiger

Ein Wort unbekannt? Das Begriffsverzeichnis erklärt es in wenigen Sätzen.

Zwei Anbieter und ein Wochenpreis

Stellen Sie sich zwei Frachtfirmen vor. Beide fahren dieselbe Strecke, etwa von einem Hafen zu einem Werk. Jeden Montag legt jede Firma ihren Preis für die Woche fest. Die Kunden vergleichen: Wer billiger ist, bekommt mehr Aufträge. Aber nicht alle, denn mancher Kunde sucht sich einen ganz anderen Weg für seine Ware.

Jede Firma steht vor einer Abwägung. Ein höherer Preis bringt mehr Geld je Auftrag, aber weniger Aufträge. Ein niedrigerer Preis lockt Kunden vom anderen weg. Der Wettbewerbspreis ist der Preis, bei dem sich für keine Firma eine Änderung lohnt, wenn nur sie allein ihren Preis ändert.

Es gibt einen höheren Preis, den beide gemeinsam am liebsten hätten: den, bei dem sie zusammen am meisten verdienen. Wir nennen ihn den gemeinsamen Bestpreis (Fachleute sagen Monopolpreis, als gehörten beide Firmen einem Besitzer). Verlangen beide ihn, verdient jede mehr als beim Wettbewerbspreis. Der Haken: Wer allein etwas darunter bleibt, holt sich kurzfristig Kunden vom anderen. Im Alltag kennen Sie das von zwei Ständen auf dem Wochenmarkt, die jeden Morgen ihre Preise anschreiben.

Damit man Ergebnisse vergleichen kann, misst die Seite den Gewinn auf einer Skala. Null bedeutet: Jede Firma verdient so viel wie beim Wettbewerbspreis. Eins bedeutet: Jede verdient so viel wie beim gemeinsamen Bestpreis. Liegen Preise und Gewinne dauerhaft darüber, ohne dass die Firmen etwas verabredet haben, sprechen Fachleute von Kollusion, und die Skala heißt Kollusionsindex.

Zwei Programme lernen dazu

Nun setzen keine Menschen die Preise, sondern zwei Programme, eines für jede Firma. Wir nennen sie Preisprogramme. Sie kennen weder die Nachfrage der Kunden noch den Plan des anderen. Sie sehen ihren eigenen Gewinn und, je nach Einstellung, auch den Preis des anderen aus der Vorwoche. Sie schicken sich keine Nachricht und sprechen sich nie ab.

Wie lernt so ein Programm? Es führt eine Merkliste. Dort steht für jede Lage und jeden Preis, wie gut dieser Preis in dieser Lage bisher war. Eine Lage sind hier die beiden Preise der Vorwoche, der eigene und der des anderen. Diese Erinnerung an die Vorwoche nennen wir das Gedächtnis des Programms. Am Anfang probiert das Programm fast nur zufällig Preise aus. Mit der Zeit wählt es immer öfter den Preis mit dem besten Eintrag, die Neugier nimmt ab. Wie stark ein neues Ergebnis einen Eintrag verändert, nennen wir das Lerntempo.

Wichtig ist auch, wie weit ein Programm vorausdenkt. Es bewertet einen Preis nicht nur nach dem Gewinn dieser Woche, sondern auch nach dem, was danach kommt. Wie stark spätere Wochen zählen, ist einstellbar (Fachwort: Voraussicht). Anfangs eingestellt ist, dass sie fast so viel zählen wie die laufende Woche.

Das alles läuft in einem Rechenbild ab, also in einem stark vereinfachten Markt im Rechner. Zu dieser Seite gehört ein Programm zum Ausprobieren, die Demo. Sie spielt dieses Rechenbild durch. Der erste Knopf unten öffnet sie. Zum Verstehen brauchen Sie sie nicht. Die Aussagen in diesem Teil beschreiben das Rechenbild, nicht die Wirklichkeit.

Was die Messung zeigt

Die Demo hat das Rechenbild oft durchgespielt. Ein Durchlauf dauert Hunderttausende Wochen, bis sich das Verhalten der Programme nicht mehr ändert. Danach wiederholen sich die Preise, als fester Preis oder in einem kurzen Kreislauf von Preisen. Für jede Einstellung gab es 20 Durchläufe mit jeweils anderem Zufall. Genannt wird meist der mittlere Durchlauf, wenn man alle der Größe nach ordnet (Fachwort: Median).

  • Preise: Mit der Anfangseinstellung lag in allen 20 Durchläufen der Gewinn über der Mitte der Skala, also näher am Gewinn beim gemeinsamen Bestpreis als am Gewinn beim Wettbewerbspreis. Der mittlere Durchlauf kam auf gut drei Viertel der Skala.
  • Drohung: Man könnte vermuten, die Programme hätten gelernt zu drohen: Wer den anderen unterbietet, wird danach mit niedrigen Preisen bestraft. Die Demo prüft das. Sie zwingt ein Programm einmal, auf den Wettbewerbspreis zu gehen. In 18 von 20 Durchläufen lohnt sich das nicht: Die Firma verdient über die folgenden Wochen weniger als ohne. In 2 von 20 lohnt sich das Unterbieten trotzdem. In bis zu 18 von 20 liegt danach der tiefste Preis des anderen Programms unter seinem Ausgangspreis; zum Teil ist das nur eine tiefere Stufe seines eigenen Preiskreislaufs. Das liest sich so: Es hat gelernt, auf einen niedrigen Preis der Vorwoche selbst niedrig zu antworten.
  • Ohne Gedächtnis: Nimmt man den Programmen das Gedächtnis, sehen sie den Preis der Vorwoche nicht mehr und können nicht gezielt antworten. Eine Drohung ist dann unmöglich. Trotzdem liegt der Gewinn nicht tiefer, sondern höher: Der mittlere Durchlauf kommt beim Gewinn fast bis zum Gewinn des gemeinsamen Bestpreises. Die Drohung ist also nicht nötig, damit die Preise oben bleiben. Was sie dann hält, hat die Messung nicht geklärt.
  • Vorausdenken: Stellt man die Voraussicht um, ändert sich das Bild. Je stärker spätere Wochen zählen, desto höher liegt der mittlere Durchlauf. Zählt nur die laufende Woche, bleibt er bei etwa einem Fünftel der Skala. Das passt zum Bild: Wer nur an diese Woche denkt, nimmt auf eine spätere Antwort des anderen keine Rücksicht.

Häufige Missverständnisse

  • „Da muss jemand heimlich verabredet haben.“ Im Rechenbild gibt es keine Nachricht zwischen den Programmen. Beide reagieren nur auf Preise und auf den eigenen Gewinn.
  • „Das ist verbotene Kartellbildung.“ Das sagt die Seite nicht. Kollusion ist hier nur ein Name für Preise über dem Wettbewerbspreis ohne Absprache. Eine rechtliche Bewertung gehört nicht dazu.
  • „Mit dem richtigen Lerntempo verschwindet das.“ In der Messung nicht: Bei jeder gemessenen Einstellung von Lerntempo und Neugier lag der mittlere Durchlauf über der Mitte der Skala.

Woran Sie das im Alltag erkennen

Das Rechenbild passt am ehesten, wenn diese Fragen alle mit Ja zu beantworten sind:

  • Gibt es nur wenige Anbieter für dieselbe Leistung, und sehen alle, was die anderen verlangen?
  • Ändern die Anbieter ihre Preise per Software, ohne dass jemand jeden Preis einzeln beschließt?
  • Folgt auf die Preissenkung eines Anbieters rasch eine Senkung des anderen, und steigen danach beide wieder?

Ein Ja beweist keine überhöhten Preise. Es zeigt nur, wo das Rechenbild zum Hinsehen anregt.

Wie ernst ist das Modell zu nehmen?

Das Rechenbild hat zwei gleiche Anbieter, eine ausgedachte Nachfrage und eine feste Lernregel. Wie echte Preissoftware lernt oder wie echte Märkte aussehen, zeigt es nicht.

Was Sie mitnehmen:

  • Gleiche, hohe Preise zweier Anbieter brauchen keine Absprache. Fragen Sie, wer die Preise setzt und ob er dazulernt.
  • Eine Drohung ist nicht automatisch der Grund. Prüfen Sie, ob die hohen Preise auch ohne gegenseitiges Beobachten entstehen würden.
  • Zwanzig Durchläufe zeigen, wie weit die Ergebnisse auseinanderliegen, aber kein Gesetz. Schauen Sie auf den schwächsten und den stärksten Durchlauf, nicht nur auf die Mitte.

Der zweite Knopf führt zum zweiten Teil für Fachleute.

Hinweis: Alle Demos rechnen mit synthetischen oder frei verfügbaren Beispieldaten und laufen auf einem externen Anbieter (Datenschutz). Bitte geben Sie darin keine vertraulichen oder personenbezogenen Daten ein. Die Ergebnisse gelten für die jeweilige Demo-Instanz und lassen sich nicht ungeprüft auf reale Fälle übertragen; für darauf gestützte Entscheidungen übernehme ich keine Gewähr.

Teil 2 · Für Fachleute

Modell und Annahmen

Dieser Teil ist eigenständig lesbar. Er beschreibt ein Duopol mit Logit-Nachfrage, in dem zwei tabellarische Q-Lernende ohne Absprache Preise setzen, und misst, wo sie landen. Das Modell ist das von Calvano, Calzolari, Denicolò und Pastorello (2020); die Umsetzung ist eine eigene Nachbildung. Alle Aussagen sind Simulationsbefunde unter diesen Annahmen. „Kollusion“ ist ein Modellbegriff für Preise über dem Wettbewerbspreis ohne Absprache, keine rechtliche Bewertung.

  • Markt: Zwei Anbieter \(i \in \{1, 2\}\) setzen je Periode (Woche) die Preise \(p_i\). Der Nachfrageanteil von Anbieter \(i\) ist \(q_i = e^{(A - p_i)/\mu} / \big(\sum_j e^{(A - p_j)/\mu} + e^{A_0/\mu}\big)\); der Rest geht an ein Außenangebot (nicht buchen). Der Qualitätsindex ist \(A = 2\), der Index des Außenangebots \(A_0 = 0\), der Streuungsparameter \(\mu = 0{,}25\) (je kleiner \(\mu\), desto schärfer reagiert die Nachfrage auf Preisunterschiede), die Grenzkosten sind \(c = 1\). Der Gewinn ist \(\pi_i = (p_i - c)\, q_i\).
  • Referenzpreise und Raster: \(p_N\) ist der Nash-Preis des symmetrischen Einmalspiels, \(p_M\) der gemeinsame Monopolpreis, der die Summe beider Gewinne bei gleichem Preis maximiert. Gespielt wird auf einem Raster aus \(m = 15\) gleich verteilten Preisen, das um ein Zehntel der Strecke \(p_M - p_N\) über beide Referenzpreise hinausreicht. Das Einmalspiel hat auf dem Raster zwei reine Nash-Gleichgewichte.
  • Lernende: Zwei unabhängige Agenten führen je eine Tabelle \(Q(s,a)\), den geschätzten Wert, im Zustand \(s\) den Preis \(a\) (Index im Raster) zu setzen. Der Zustand \(s\) besteht aus beiden Preisen der Vorperiode, das sind \(15 \times 15\) Zustände; ohne Gedächtnis gibt es nur einen Zustand. Beide kennen weder die Nachfrage noch die Strategie des anderen und lernen synchron mit demselben Verfahren.
  • Verhalten und Startwerte: \(\varepsilon\)-gierig: Mit Wahrscheinlichkeit \(\varepsilon_t\) wählt ein Agent einen zufälligen Rasterpreis, sonst den Preis mit dem größten \(Q\)-Wert im aktuellen Zustand. Die Startwerte der Tabelle sind der diskontierte Durchschnittsgewinn gegen einen gleichverteilt wählenden Rivalen.
  • Abbruch und Dauerzustand: Ein Lauf endet, wenn die gierige Strategie (je Zustand der Preis mit dem größten \(Q\)-Wert) 100.000 Perioden unverändert bleibt. Danach spielen beide ihre gierige Strategie und durchlaufen einen Zyklus von Zuständen; Länge 1 bedeutet einen festen Preis. Aus dem Zyklus folgen der mittlere Gewinn \(\bar\pi\) je Anbieter und der Kollusionsindex.
  • Voreinstellung und Bereiche: Lernrate \(\alpha = 0{,}15\), Erkundungsabfall \(\beta = 2 \cdot 10^{-5}\) je Periode, Voraussicht \(\gamma = 0{,}95\) (der Diskontfaktor der Lernenden: Gewicht späterer Gewinne), Gedächtnis des Zustands aus beiden Preisen der Vorperiode. Die Messreihen variieren \(\alpha\) von 0,05 bis 0,5, \(\beta\) von \(0{,}4 \cdot 10^{-5}\) bis \(20 \cdot 10^{-5}\) und \(\gamma\) von 0 bis 0,95.
  • Messdesign: Je Konfiguration 20 feste Zufallsstarts (Startwerte des Zufallsgenerators), zusammen 13 Konfigurationen und 260 vorgerechnete Läufe. Alle Befunde sind Verteilungen über diese 20 Läufe.

Die Formeln

Kennzahl. Der Kollusionsindex setzt den mittleren Gewinn \(\bar\pi\) je Anbieter im Dauerzustand ins Verhältnis zu zwei Referenzgewinnen: dem Gewinn \(\pi_N\) im Nash-Gleichgewicht und dem Gewinn \(\pi_M\) beim gemeinsamen Monopolpreis. Null bedeutet Nash-Gewinn, eins den gemeinsamen Monopolgewinn. Es ist eine Gewinnskala, keine Preisskala.

\[\Delta = (\bar\pi - \pi_N)/(\pi_M - \pi_N)\]

Referenzpreis. Der Nash-Preis folgt aus der Bedingung erster Ordnung des symmetrischen Einmalspiels (Herleitung unten). Die Gleichung ist implizit in \(p_N\), weil der Anteil \(q\) vom Preis abhängt, und wird numerisch gelöst.

\[p_N = c + \mu / (1 - q(p_N, p_N))\]

Lernregel. Nach jeder Periode wird der Eintrag des gespielten Paares aus Zustand \(s\) und Preis \(a\) um den Anteil \(\alpha\) in Richtung „Gewinn \(\pi\) dieser Periode plus \(\gamma\) mal bester Wert im Folgezustand \(s'\)“ verschoben; \(a'\) läuft über alle Preise im Folgezustand.

\[Q(s,a) \leftarrow (1-\alpha)\,Q(s,a) + \alpha\,[\,\pi + \gamma \max_{a'} Q(s',a')\,]\]

Erkundung. Die Wahrscheinlichkeit eines zufälligen Preises fällt exponentiell mit der Periode \(t\):

\[\varepsilon_t = e^{-\beta t}\]

Herleitung Schritt für Schritt

Die folgenden Schritte sind Rechnungen dieser Seite aus den Modellformeln, keine Messungen.

  • Schritt 1, Ableitung des Anteils: Mit \(x_i = (A - p_i)/\mu\) und \(D = \sum_j e^{x_j} + e^{A_0/\mu}\) ist \(q_i = e^{x_i}/D\). Die Quotientenregel liefert \(\partial q_i/\partial p_i = -\tfrac{1}{\mu}\, q_i\,(1 - q_i)\).
  • Schritt 2, Ableitung des Gewinns: \(\partial \pi_i/\partial p_i = q_i + (p_i - c)\,\partial q_i/\partial p_i = q_i\,\big[\,1 - (p_i - c)(1 - q_i)/\mu\,\big]\).
  • Schritt 3, Nullsetzen: Wegen \(q_i > 0\) verschwindet der Klammerausdruck, also \(p_i - c = \mu/(1 - q_i)\). Im symmetrischen Gleichgewicht ist \(q_i = q(p_N, p_N)\); das ist die Formel oben. Der Aufschlag über den Grenzkosten ist \(\mu\) geteilt durch den Nachfrageanteil, der nicht an Anbieter \(i\) geht (Rivale und Außenangebot zusammen).
  • Schritt 4, Monopolpreis: \(p_M\) maximiert \(\pi_1(p,p) + \pi_2(p,p)\) über den gemeinsamen Preis \(p\); die Demo löst das numerisch unter der Annahme, dass diese Zielfunktion nur ein Maximum hat.
  • Schritt 5, Lernregel als gleitender Mittelwert: \(Q \leftarrow (1-\alpha)\,Q + \alpha\cdot\text{Ziel}\) mit dem Ziel \(\pi + \gamma \max_{a'} Q(s',a')\). Gegen einen Rivalen mit festem Verhalten wäre der Fixpunkt die Bellman-Gleichung der besten Antwort, und für diesen Fall sind Konvergenzaussagen zum Q-Lernen bekannt (Watkins und Dayan, siehe Quellen; aus dem Gedächtnis, nicht geprüft). Sie verlangen abnehmende Lernraten und unendlich häufigen Besuch aller Paare, gelten bei konstantem \(\alpha\) also auch dort nur näherungsweise. Hier lernt der Rivale gleichzeitig, die Umgebung jedes Agenten ist nicht stationär, und diese Aussagen gelten nicht. „Konvergiert“ heißt hier nur: Die gierige Strategie bleibt 100.000 Perioden unverändert.
  • Schritt 6, Erkundungsbudget: Die Summe \(\sum_t \varepsilon_t\) ist eine geometrische Reihe mit dem Wert \(1/(1 - e^{-\beta}) \approx 1/\beta\). Bei \(\beta = 2 \cdot 10^{-5}\) sind das etwa fünfzigtausend zufällige Preiswahlen je Agent über den ganzen Lauf, gegenüber einer Lauflänge in der Größenordnung von Hunderttausenden Perioden (Befundtabelle). Das Zufallsprobieren konzentriert sich am Anfang: Nach \(1/\beta\) Perioden ist \(\varepsilon_t\) auf \(e^{-1}\) des Anfangswerts gefallen, und in den ersten hunderttausend Perioden fallen bei \(\beta = 2 \cdot 10^{-5}\) gut vier Fünftel des ganzen Budgets (\(1 - e^{-2}\)). Der größte Teil der Lernzeit verläuft danach gierig, mit Zufallszügen als Ausnahme.

Durchgerechnet: Was auf dem Spiel steht

Rechnung dieser Seite aus den Modellformeln, keine Messung der Demo. Beim Nash-Preis erhält jeder Anbieter knapp die Hälfte der Nachfrage, das Außenangebot etwa sechs Prozent. Beim gemeinsamen Monopolpreis erhält jeder gut ein Drittel, das Außenangebot gut ein Viertel: Es kaufen weniger Kunden, aber zu höherem Aufschlag. Der Gewinn je Anbieter liegt dort bei gut dem Anderthalbfachen des Nash-Gewinns. Genau diese Spanne bildet der Kollusionsindex auf der Skala von null bis eins ab.

Der Index ist auf dem Raster nicht exakt auf null festgelegt, weil die Nash-Preise des Einmalspiels dort nicht genau auf dem Raster liegen: Die beiden reinen Gleichgewichte des Rasters haben Indizes von −0,02 und 0,12. Ein Index bis 0,12 liegt also noch im Bereich der Wettbewerbsgleichgewichte des Rasters, ein Index darüber liegt über beiden reinen Gleichgewichten.

Der Abweichungstest

Ab dem ersten Zustand der Zyklusliste (bei einem Zyklus länger als 1 ist die Wahl der Phase nicht variiert) wird Anbieter 1 in Periode 0 auf den Rasterpreis nächst \(p_N\) gezwungen, danach folgen beide ihrer gierigen Strategie. Bewertet wird die Differenz der diskontierten Gewinne von Anbieter 1 über einen Horizont von \(H = 25\) Perioden, \(G = \sum_{t=0}^{H-1} \gamma^t\, \pi_1^{\mathrm{Abw.}}(t) - \sum_{t=0}^{H-1} \gamma^t\, \pi_1^{\mathrm{Basis}}(t)\), wobei \(\pi_1^{\mathrm{Basis}}\) der Gewinn ohne Zwang ist. Ein negatives \(G\) heißt: Die Abweichung lohnt sich nicht, die gelernte Reaktion des Rivalen hält. Bei \(\gamma = 0{,}95\) haben die Perioden jenseits von \(H\) noch gut ein Viertel des Gesamtgewichts (\(\gamma^H\)); der Test bewertet also einen Horizont, nicht die ganze Zukunft (Rechnung dieser Seite). Ohne Gedächtnis ist der Test nicht definiert, weil der Rivale den Zustand nicht sieht.

Zwei Lesehinweise (Rechnung dieser Seite). Erstens: Bei \(\gamma = 0\) hat jeder Summand mit \(t \ge 1\) das Gewicht null, es bleibt nur der Sofortgewinn der Periode 0. Der Test misst dort keine Strafe mehr, und die Reaktion des Rivalen geht nicht in \(G\) ein. Zweitens: Das Maß für die Preissenkung des Rivalen vergleicht dessen tiefsten Preis nach der Abweichung mit seinem Basispreis in Periode 0. Bei einem Preiszyklus kann es damit Phasen des Zyklus mitzählen, nicht nur die Reaktion. In der Voreinstellung enden fünfzehn von zwanzig Läufen in einem Zyklus der Länge zwei bis sieben und nur fünf in einem festen Preis (Nachzählung dieser Seite aus der Messtabelle). Eine unabhängige Nachrechnung gegen den tiefsten Basispreis des Rivalen im ganzen Horizont ergibt sechzehn von zwanzig Läufen mit einer echten Senkung.

Befunde

Alle Zahlen: Median über 20 feste Zufallsstarts je Konfiguration, Voreinstellung \(\alpha = 0{,}15\), \(\beta = 2 \cdot 10^{-5}\), \(\gamma = 0{,}95\), Gedächtnis des Zustands aus beiden Preisen der Vorperiode, wenn nicht anders genannt. „Index“ ist der Kollusionsindex \(\Delta\) im Dauerzustand; „Perioden“ sind Perioden bis zur Konvergenz.

FrageBefund
ReferenzpreiseNash-Preis 1,473, Monopolpreis 1,925. Die beiden reinen Nash-Gleichgewichte des Rasters haben Indizes −0,02 und 0,12.
Landen die Lernenden über dem Wettbewerbspreis?Ja: Der mediane Index ist 0,79 (kleinster 0,61, größter 0,95). Alle 20 Läufe konvergieren (im Median 613.679 Perioden), alle 20 liegen über 0,5.
Hält eine gelernte Vergeltung?Teils: Die einmalige Abweichung auf den Nash-Preis lohnt sich in 2 von 20 Läufen (diskontiert über 25 Perioden), in 18 hält die Strafe. Der Rivale senkt seinen Preis in 18 von 20 Läufen (nicht dieselben 18 wie oben; in siebzehn Läufen treffen beide Aussagen zu, Nachzählung dieser Seite); im Median kehrt er nach 5 Perioden zum Basispfad zurück. In 9 Läufen liegt er innerhalb von 25 Perioden nicht dauerhaft wieder höchstens eine halbe Rasterstufe neben dem Basispfad; das schließt eine verschobene Phase eines Preiszyklus ein. Größter Verlust der Abweichung 0,408, größter Gewinn 0,023.
Braucht es Gedächtnis?Für hohe Preise nicht, in dieser Konfiguration: Ohne Gedächtnis ist der mediane Index 0,95 (0,87 bis 0,99), höher als mit Gedächtnis (0,79); alle 20 Läufe enden bei einem festen Preis. Ein Abweichungstest ist dort nicht definiert.
Zählt die Zukunft (γ)?Der mediane Index steigt mit γ: 0,21 (γ = 0), 0,29 (0,25), 0,38 (0,5), 0,60 (0,75), 0,79 (0,95). Bei γ = 0 hält die Strafe laut Zählung nur in 3 von 20 Läufen; dort misst der Test aber nur den Sofortgewinn (siehe oben).
Erkundung und Lernrateβ = 0,4·10⁻⁵ (Wert von Calvano et al.): medianer Index 0,93 nach im Median 1.804.668 Perioden; β = 10·10⁻⁵: 0,70; β = 20·10⁻⁵: 0,71 nach 149.808 Perioden. Lernrate α von 0,05 bis 0,5: medianer Index 0,71, 0,78, 0,79, 0,77, 0,72, ohne einfachen Trend.

Erwartet wurde: Zwei Lernende landen zwischen Nash und Monopol, und eine erzwungene Preissenkung löst eine Strafphase aus. Die Preishöhe bestätigt sich; die Strafe zeigt sich in 18 von 20 Läufen, nicht in allen. Dazu kommen zwei Ergänzungen. Erstens sind die hohen Preise nicht an die Vergeltung gebunden: Ohne jedes Gedächtnis landen die Lernenden sogar höher, und ohne Gedächtnis kann es keine gezielte Strafe geben. Zweitens zählt die Voraussicht. Auch der Wert bei γ = 0 liegt über dem höheren Index der Raster-Gleichgewichte (0,12): Kurzsichtiges Lernen ist auf diesem Raster nicht genau Wettbewerb. Eine Erklärung dafür ist nicht untersucht.

Was die Messung zeigt und was nicht

Was sie belegt:

  • In diesem Modell mit dieser Lernregel und der Voreinstellung landen alle 20 Läufe oberhalb der Mitte der Skala (Index über 0,5).
  • Hohe Preise brauchen keine gelernte Vergeltung: Ohne Gedächtnis gibt es keine gezielte Strafe, und der Index liegt dort im Median höher als mit Gedächtnis.
  • Der Kern ist gegen unabhängige Rechnungen geprüft: Nash- und Monopolpreis gegen numerische Lösungen mit scipy, die Gewinntabelle gegen eine direkte numpy-Rechnung, der Ein-Agenten-Grenzfall (gegen einen festen Rivalen lernt der Agent die beste Antwort), die Lernschleife gegen eine zweite, schlichte Implementierung mit denselben Zufallszahlen und der Dauerzyklus gegen eine Simulation der gierigen Strategien. Das prüft die Umsetzung, nicht die Übertragbarkeit auf Märkte.

Was sie nicht belegt:

  • Aussagen über reale Märkte, reale Preis-Software oder rechtliche Bewertungen: Die Befunde gelten für diese Lernregel und diese Parameter.
  • Andere Modelle: mehr als zwei Anbieter, andere Nachfrage, ein feineres Raster, neuronale Lernende und unvollkommene Beobachtung sind nicht gerechnet.
  • Ursachen: Warum der Index ohne Gedächtnis höher liegt und warum er bei γ = 0 über dem Raster-Gleichgewicht liegt, ist nicht untersucht; dies sind Beobachtungen, keine Erklärungen. Denkbar ist ein Einfluss der Startwerte (Durchschnittsgewinn gegen einen Zufallsrivalen) oder der Maximum-Aktualisierung, die Werte nach oben verzerren kann; das ist nicht geprüft, und die Befunde könnten insoweit ein Artefakt der Lernregel sein statt eines Marktmechanismus.
  • Vergeltung überall: Der Abweichungstest prüft nur eine einmalige Senkung entlang des Dauerzustands. Q-Werte unbesuchter Zustände bleiben veraltet; die gelernte Strategie ist dort nicht geprüft. Dazu kommen die oben genannten Lesehinweise (γ = 0, Preiszyklen).
  • Genauigkeit: 20 Zufallsstarts je Konfiguration zeigen Streuung, keine Konfidenzintervalle. Mit Gedächtnis endet die Mehrheit der Läufe in einem Preiszyklus (siehe Abweichungstest); ein Median über Indizes verdeckt das.
  • Literatur: Die Zahlen der Aufsätze sind nicht übernommen, sondern neu gerechnet; die Aufsätze wurden nur über Zusammenfassungen gelesen. Ein Vergleich mit den Indizes des Originalaufsatzes ist nicht Teil der Messung.

Erweiterungen und Verweise

Verwandte Fragen behandeln andere Demos mit eigenen Verfahren:

  • Nur der Preis ist beobachtbar: Die green-porter-demo rechnet Preiskriege im Gleichgewicht, wenn nur der verrauschte Marktpreis beobachtet wird (Cournot-Duopol, feste Trigger-Strategien, kein Lernen). Die Verbindung zum Lernen mit unvollkommener Beobachtung ist hier nicht gerechnet.
  • Was Wiederholung durchsetzen kann: Die folk-theorem-demo zeigt, welche Auszahlungspaare die Wiederholung als Gleichgewicht bestehen kann; die Erklärseite Tit-for-Tat verständlich erklärt behandelt die Drohung der Vergeltung bei festen Strategien.
  • Das Lernverfahren allein: Die q-learning-demo zeigt tabellarisches Q-Lernen mit einem Agenten in einer Gitterwelt, darunter den Einfluss von Lernrate und Erkundungsabfall. Hier lernen zwei Agenten gleichzeitig.
  • Offen in dieser Demo: mehr als zwei Anbieter, andere Nachfrage, neuronale Lernende, unvollkommene Beobachtung und eine rechtliche Würdigung.

Quellen

  • Calvano, E., Calzolari, G., Denicolò, V., & Pastorello, S. (2020): Artificial Intelligence, Algorithmic Pricing, and Collusion. American Economic Review 110, 3267–3297 (das nachgebaute Modell).
  • Calvano, E., Calzolari, G., Denicolò, V., & Pastorello, S. (2021): Algorithmic collusion with imperfect monitoring. International Journal of Industrial Organization.
  • Waltman, L., & Kaymak, U. (2008): Q-learning agents in a Cournot oligopoly model. Journal of Economic Dynamics and Control 32, 3275–3293.
  • Watkins, C. J. C. H., & Dayan, P. (1992): Q-learning. Machine Learning 8, 279–292.
  • Quelltext, Messreihen und Tests der Demo: github.com/sebastian-hanisch/algorithmische-kollusion-demo.

Nur Calvano et al. (2020) ist in der README der Demo genannt; Zeitschriftenangaben und die übrigen Arbeiten wurden für diese Seite nicht nachgeschlagen. Die Demo selbst gibt an, die Aufsätze nur über Zusammenfassungen gelesen zu haben. Dass Nash- und Monopolpreis mit der Literatur übereinstimmen, steht in der README und wurde hier nicht geprüft.