So trainieren wir die Bots

DokoArena hat sechs etablierte Bot-Generationen und die Paragon-Beta. Origin, die erste, hält sich an die Regeln und nimmt Stiche, wenn sie kann. Vanguard, die zweite, bekam taktische Parameter für Partnersignale, Füchse, Karlchen und Trumpfschonen. Wie viel diese Entscheidungen zum Gewinnen beitragen, wusste der Bot aber noch nicht.

Bot-Partien aus Training und Auswertung
≈1 Mio.Bot-Partien aus Training und Auswertung
Kartenzüge aus allen Selbstspiel-Datensätzen
2,6 Mio.Kartenzüge aus allen Selbstspiel-Datensätzen

Generationen

Wähle eine Karte, um zu sehen, wie diese Generation spielt.

Generation 7

ParagonBeta

Gegen Apex

Wettkampf58.0%
Einfach58.2%

Gegen alle anderen Generationen

Wettkampf66.6%
Einfach66.1%

Anteil gewonnener entschiedener Spiele aus 5.000 gepaarten Spielen. Die Linie markiert 50 %.

Experimenteller Wettbewerbs-Bot mit unabhängiger Policy, die nur öffentliche Informationen nutzt.

Die ersten sechs Generationen bilden eine Kette. Vanguard ergänzte Origins regelbasiertes Spiel um taktische Gewichtungen. Ascendant lernte diese Gewichtungen, Zenith verbesserte einzelne Fehler im Kartenspiel, Horizon wurde bei Zurückhaltung und Ansagen sicherer, und Apex ergänzte kompetitive Verträge und Soli. Jede Generation behielt den Kern ihres Vorgängers und änderte vor allem die Teile, die wir gerade verbessern wollten.

Paragon beginnt mit einer anderen Policy neu. Statt den Scorer von Vanguard und Apex zu erweitern, bewertet und ordnet Paragon legale Züge mit einem eigenen Modell auf Basis öffentlicher Informationen. Deshalb kann Paragon in einer Situation vertraut wirken und in der nächsten ganz anders spielen. Die Lehren aus den früheren Aufstiegen bleiben trotzdem erhalten: sichere Partnerstiche schützen, mit der Herz-Zehn umgehen, Trumpf sparen und Soli einschätzen. Der Neuaufbau bestimmt neu, wie diese Regeln am Tisch zusammenspielen.

Alle Generationen spielen mit derselben unvollständigen Information wie Menschen. Partner bleiben verborgen, bis die Kreuz-Damen oder der Vertrag sie zeigen.

Direktvergleichsmatrix

Jede Zelle zeigt die Siegrate des Bots in der Zeile gegen den Bot in der Spalte. Grundlage sind 5.000 gepaarte Spiele nach Turbo-Wettkampfregeln und Spielwertung.

Origin
Vanguard
Ascendant
Zenith
Horizon
Apex
Paragon
Schnitt
Origin
—
27.7%
15.3%
15.8%
19.3%
24.6%
25.1%
21.3%
Vanguard
72.3%
—
37.2%
27.4%
31.1%
33.5%
31.1%
38.8%
Ascendant
84.7%
62.8%
—
37.3%
42.0%
36.9%
33.0%
49.4%
Zenith
84.2%
72.6%
62.7%
—
61.5%
39.2%
34.8%
59.2%
Horizon
80.7%
68.9%
58.0%
38.5%
—
38.7%
34.7%
53.2%
Apex
75.4%
66.5%
63.1%
60.8%
61.3%
—
42.0%
61.5%
Paragon
74.9%
68.9%
67.0%
65.2%
65.3%
58.0%
—
66.6%
Zeilen-Bot verliert öfterZeilen-Bot gewinnt öfter

Die Trainingsschleife

Jeder Bot bewertet Spielsituationen anhand von rund 29 Parametern. Wird einer davon erhöht, spielt der Bot anders.

  • FuchsschonenHält das Karo-Ass länger zurück.
  • TrumpfschonenSpielt Trumpf nicht mehr zu früh.
  • KarlchenKämpft entschlossener um den letzten Kreuz-Buben.

Die Trainingsschleife verändert diese Werte, testet das neue Profil und behält nur Varianten, die den bisherigen Sieger schlagen.

Die Trainingsschleife
Parameter verändern
Gegen den bisherigen Sieger spielen
Gewinner behalten, Verlierer verwerfen

Wie die Schwierigkeit funktioniert

Bei Ranked gegen Computer spielen die Bots ungefähr auf deiner Wertung. Beim Üben gegen Computer wählst du Leicht, Mittel, Schwer oder Terminator selbst. Beides funktioniert gleich, und nur Paragon hat diese Stufen. Ältere Generationen spielen immer mit der vollen Stärke ihrer Generation.

  1. Leicht

    Meist solide, aber häufiger suboptimal. Kann einzelne Spiele (und mit Glück ganze Runden) gewinnen.

  2. Mittel

    Stärkeres Spiel mit gelegentlichen menschlichen Fehlern. Standard fürs Üben.

  3. Schwer

    Nahe voller Stärke — Fehler sind selten.

  4. Terminator

    Uneingeschränkte Stärke — spielt immer die beste Linie.

Kartenwahl

Der Bot sieht jede Karte, die er legen darf, und weiß, welche ihm am besten erscheint. Als Terminator legt er immer genau diese. Auf den leichteren Stufen nimmt er manchmal eine schlechtere erlaubte Karte. Je leichter die Stufe, desto öfter passiert das, und desto weiter darf die Wahl von der besten Karte abweichen.

Soli und Ansagen

Bei freiwilligen Soli gilt dasselbe, auch bei Re und Kontra. Ein schwächerer Bot lässt häufiger aus, selbst wenn der starke zugreifen würde. Die Hochzeit ist die Ausnahme. Hat der Bot beide Kreuz-Damen, sagt er sie trotzdem an.

Auf keiner Stufe

Ein paar Fehler sind auf jeder Stufe verboten. Der Bot spielt keinen ungedeckten Fuchs als Anspiel, und er holt den Fuchs des Partners mit der Herz-Zehn, wenn dieser Stich klar zu nehmen ist.

Was als Nächstes kommt

Wir trainieren weitere Bot-Generationen mit mehr Selbstspiel, Vergleichstests gegen unterschiedliche Spielstile und besserer Anpassung über mehrere Spiele hinweg.

Außerdem wollen wir Partien zwischen Spielern und Bots sowie zwischen Spielern auswerten. So erkennen wir gute Entscheidungen und geben sie an die Bots weiter. Langfristig soll ein Bot auch sehr starke Spieler fordern.