Methodology, measured

Model Calibration Lab

Catatan pick memberi tahu apa yang menang. Kalibrasi memberi tahu apakah probabilitas itu berarti: saat kami bilang 60%, apakah terjadi 60% dari waktu? Di bawah ini, setiap prediksi yang settled, dinilai dua cara — sharp market (devigged) dan model kami sendiri — dengan perbandingan yang tidak nyaman terlihat jelas.

Prediksi settled 7,934
Brier score 0.598

Model kami (Elo + form): 0.615

Log-loss 1.001

Model kami (Elo + form): 1.025

Calibration error 0.6pp

Model kami (Elo + form): 0.6pp

Probabilitas prediksi vs frekuensi observed

Setiap titik adalah band probabilitas 10 poin (min. 30 observasi). Semakin dekat ke diagonal, semakin baik kalibrasinya. Setiap match menyumbang tiga hasilnya.

Sharp market (devigged) Model kami (Elo + form) kalibrasi sempurna
0% 0% 25% 25% 50% 50% 75% 75% 100% 100% Model kami (Elo + form) · 0–10%: 7.5% → 7.6% (n=238) Model kami (Elo + form) · 10–20%: 16.4% → 16.1% (n=1875) Model kami (Elo + form) · 20–30%: 26% → 25.6% (n=10791) Model kami (Elo + form) · 30–40%: 34.7% → 35.4% (n=4588) Model kami (Elo + form) · 40–50%: 44.7% → 44.3% (n=3588) Model kami (Elo + form) · 50–60%: 54.4% → 55.5% (n=1752) Model kami (Elo + form) · 60–70%: 63.9% → 62.9% (n=672) Model kami (Elo + form) · 70–80%: 74.2% → 77.7% (n=220) Model kami (Elo + form) · 80–90%: 83.6% → 86.3% (n=73) Sharp market (devigged) · 0–10%: 7.3% → 7% (n=488) Sharp market (devigged) · 10–20%: 16.2% → 17.2% (n=2901) Sharp market (devigged) · 20–30%: 25.3% → 24.9% (n=9249) Sharp market (devigged) · 30–40%: 34.3% → 34.4% (n=4671) Sharp market (devigged) · 40–50%: 44.7% → 43.9% (n=2976) Sharp market (devigged) · 50–60%: 54.6% → 55.6% (n=1907) Sharp market (devigged) · 60–70%: 64.3% → 64.2% (n=1006) Sharp market (devigged) · 70–80%: 74.6% → 77.7% (n=448) Sharp market (devigged) · 80–90%: 83.7% → 84.5% (n=129)
Band Sharp market (devigged) Model kami (Elo + form)
Predicted (avg) Observed Obs. Predicted (avg) Observed Obs.
0–10% 7.3% 7% 488 7.5% 7.6% 238
10–20% 16.2% 17.2% 2901 16.4% 16.1% 1875
20–30% 25.3% 24.9% 9249 26% 25.6% 10791
30–40% 34.3% 34.4% 4671 34.7% 35.4% 4588
40–50% 44.7% 43.9% 2976 44.7% 44.3% 3588
50–60% 54.6% 55.6% 1907 54.4% 55.5% 1752
60–70% 64.3% 64.2% 1006 63.9% 62.9% 672
70–80% 74.6% 77.7% 448 74.2% 77.7% 220
80–90% 83.7% 84.5% 129 83.6% 86.3% 73

Brier dan log-loss yang lebih rendah lebih baik; calibration error adalah rata-rata gap berbobot observasi antara prediksi dan hasil nyata. Ringkasan jujurnya: sharp market yang sudah dihilangkan marginnya memprediksi lebih baik daripada model kami (Brier score dan log-loss lebih rendah). Pada calibration error saja, keduanya masih dalam noise sampling dari kalibrasi sempurna; market menang karena memisahkan hasil yang mungkin dan yang tidak mungkin dengan lebih tegas — itulah tepatnya alasan situs ini memberi harga semua hal terhadap market, bukan menjual prediksi model. Metodologi: probabilitas sesuai tampilan saat pencatatan, tanpa penyesuaian ulang; hasil dari hasil resmi.

Metodologi lengkap →

Over/under 2.5 dan kedua tim mencetak gol

Harga penutupan Pinnacle dengan margin dihilangkan, dibandingkan dengan hasil yang terjadi, dalam rentang 10 poin (rentang dengan setidaknya 30 pertandingan).

Over 2.5 gol

Pasar mengatakanTerjadi± (95%)Pertandingan
27%25% ±1072
36%42% ±5345
46%47% ±3838
55%56% ±31336
64%63% ±3861
73%71% ±6231

3,710 pertandingan, Brier score 0.2395. ± adalah seberapa jauh “terjadi” bisa menyimpang dari apa yang dikatakan pasar hanya karena kebetulan dengan jumlah pertandingan itu: kesenjangan di dalamnya adalah derau.

Kedua tim mencetak gol

Pasar mengatakanTerjadi± (95%)Pertandingan
47%50% ±8134
55%55% ±4545
64%67% ±5360
73%64% ±1344

1,088 pertandingan, Brier score 0.2386. ± adalah seberapa jauh “terjadi” bisa menyimpang dari apa yang dikatakan pasar hanya karena kebetulan dengan jumlah pertandingan itu: kesenjangan di dalamnya adalah derau.

Estimasi skor tepat vs hasil aktual

Semua skor dari 0–0 sampai 6–6 pada setiap pertandingan, diestimasi dari harga penutupan (Pinnacle, margin dihilangkan) dengan model yang sama seperti di halaman pertandingan, dikelompokkan לפי probabilitas estimasi. Jika estimasinya jujur, skor yang diestimasi sekitar 10% akan terjadi sekitar 10% dari waktu.

EstimasiPredicted (avg)TerjadiSkor
0–3%0.5% 0.5%134,837
3–6%4.4% 4.5%19,694
6–9%7.4% 7.5%12,948
9–12%10.1% 9.9%6,563
12–15%13.3% 13.1%2,706
15–100%16.5% 16.5%387

3,615 pertandingan: skor paling mungkin diestimasi rata-rata 12.4% dan terjadi pada 12.5% di antaranya.

Berguna? Kirim ke teman yang suka taruhan.