Metodologia, misurata

Model Calibration Lab

Un record di pick ti dice cosa ha vinto. La calibrazione ti dice se le probabilità avevano senso: quando diciamo 60%, succede il 60% delle volte? Qui sotto, ogni prediction regolarizzata, valutata in due modi — il mercato sharp (de-vigged) e il nostro modello — con il confronto scomodo in piena vista.

Prediction regolarizzate 4,538
Brier score 0.598

Il nostro modello (Elo + forma): 0.617

Log-loss 1.001

Il nostro modello (Elo + forma): 1.028

Errore di calibrazione 0.8pp

Il nostro modello (Elo + forma): 0.4pp

Probabilità prevista vs frequenza osservata

Ogni punto è una fascia di probabilità di 10 punti (min. 30 osservazioni). Più vicino alla diagonale, migliore la calibrazione. Ogni match contribuisce con i suoi tre esiti.

Mercato sharp (de-vigged) Il nostro modello (Elo + forma) calibrazione perfetta
0% 0% 25% 25% 50% 50% 75% 75% 100% 100% Il nostro modello (Elo + forma) · 0–10%: 7.5% → 7.1% (n=112) Il nostro modello (Elo + forma) · 10–20%: 16.4% → 16.8% (n=1056) Il nostro modello (Elo + forma) · 20–30%: 26% → 25.9% (n=6205) Il nostro modello (Elo + forma) · 30–40%: 34.7% → 34.6% (n=2646) Il nostro modello (Elo + forma) · 40–50%: 44.8% → 43.9% (n=2047) Il nostro modello (Elo + forma) · 50–60%: 54.3% → 56% (n=1024) Il nostro modello (Elo + forma) · 60–70%: 63.9% → 64.3% (n=381) Il nostro modello (Elo + forma) · 70–80%: 74.1% → 75.2% (n=105) Il nostro modello (Elo + forma) · 80–90%: 83% → 88.2% (n=34) Mercato sharp (de-vigged) · 0–10%: 7.4% → 5.6% (n=270) Mercato sharp (de-vigged) · 10–20%: 16.2% → 17.5% (n=1657) Mercato sharp (de-vigged) · 20–30%: 25.3% → 25.1% (n=5261) Mercato sharp (de-vigged) · 30–40%: 34.3% → 33.6% (n=2748) Mercato sharp (de-vigged) · 40–50%: 44.8% → 43.9% (n=1680) Mercato sharp (de-vigged) · 50–60%: 54.6% → 56.2% (n=1077) Mercato sharp (de-vigged) · 60–70%: 64.4% → 63.9% (n=598) Mercato sharp (de-vigged) · 70–80%: 74.6% → 79.2% (n=240) Mercato sharp (de-vigged) · 80–90%: 83.7% → 86.1% (n=72)
Fascia Mercato sharp (de-vigged) — Prevista (media) Osservata Obs. Il nostro modello (Elo + forma) — Prevista (media) Osservata Obs.
0–10% 7.4% 5.6% 270 7.5% 7.1% 112
10–20% 16.2% 17.5% 1657 16.4% 16.8% 1056
20–30% 25.3% 25.1% 5261 26% 25.9% 6205
30–40% 34.3% 33.6% 2748 34.7% 34.6% 2646
40–50% 44.8% 43.9% 1680 44.8% 43.9% 2047
50–60% 54.6% 56.2% 1077 54.3% 56% 1024
60–70% 64.4% 63.9% 598 63.9% 64.3% 381
70–80% 74.6% 79.2% 240 74.1% 75.2% 105
80–90% 83.7% 86.1% 72 83% 88.2% 34

Brier score e log-loss più bassi sono migliori; l'errore di calibrazione è la media ponderata per le osservazioni del gap tra previsto e osservato. Il dato onesto: il mercato sharp de-vigged è meglio calibrato del nostro modello — ed è esattamente per questo che questo sito prezza tutto contro il mercato invece di venderti prediction del modello. Metodologia: probabilità come mostrate al momento della registrazione, senza retro-fitting; risultati dai dati ufficiali.

Metodologia completa →
Ti è stato utile? Invialo a un amico che scommette.