Valikute logi ütleb, mis võitis. Kalibratsioon ütleb, kas tõenäosused tähendasid midagi: kui me ütleme 60%, kas see juhtub 60% ajast? Allpool on iga tasutud prognoos kahes mõõtes — sharp market (devigged) ja meie oma mudel — ebamugava võrdlusega otse silme ees.
Meie mudel (Elo + vorm): 0.617
Meie mudel (Elo + vorm): 1.028
Meie mudel (Elo + vorm): 0.4pp
Iga punkt on 10-punktiline tõenäosusvahemik (miin. 30 vaatlust). Mida lähemal diagonaalile, seda paremini kalibreeritud. Iga mäng annab kolm tulemust.
| Vahemik | Sharp market (devigged) — Ennustatud (keskm.) | Täheldatud | Vaatl. | Meie mudel (Elo + vorm) — Ennustatud (keskm.) | Täheldatud | Vaatl. |
|---|---|---|---|---|---|---|
| 0–10% | 7.4% | 5.6% | 270 | 7.5% | 7.1% | 112 |
| 10–20% | 16.2% | 17.5% | 1657 | 16.4% | 16.8% | 1056 |
| 20–30% | 25.3% | 25.1% | 5261 | 26% | 25.9% | 6205 |
| 30–40% | 34.3% | 33.6% | 2748 | 34.7% | 34.6% | 2646 |
| 40–50% | 44.8% | 43.9% | 1680 | 44.8% | 43.9% | 2047 |
| 50–60% | 54.6% | 56.2% | 1077 | 54.3% | 56% | 1024 |
| 60–70% | 64.4% | 63.9% | 598 | 63.9% | 64.3% | 381 |
| 70–80% | 74.6% | 79.2% | 240 | 74.1% | 75.2% | 105 |
| 80–90% | 83.7% | 86.1% | 72 | 83% | 88.2% | 34 |
Madalam Brier score ja log-loss on paremad; kalibreerimisviga on vaatluspõhiselt kaalutud keskmine vahe ennustatud ja täheldatud vahel. Aus pealkiri: devigged sharp market on paremini kalibreeritud kui meie mudel — just seepärast hinnastab see sait kõik turu vastu, mitte ei müü sulle mudeli prognoose. Metoodika: tõenäosused nii, nagu logimise hetkel kuvatud, ilma ümbersobitamiseta; tulemused ametlikest tulemustest.
Täismahus metoodika →