วิธีการ, วัดผลแล้ว

Model Calibration Lab

บันทึกของ picks บอกคุณว่าอะไรชนะ Calibration บอกว่าความน่าจะเป็นนั้นมีความหมายหรือไม่: เมื่อเราบอก 60% มันเกิดขึ้น 60% ของเวลาหรือไม่? ด้านล่างคือทุก prediction ที่ตัดสินแล้ว วัดสองแบบ — ตลาด sharp (devigged) และโมเดลของเรา — พร้อมการเปรียบเทียบที่ไม่น่าดูแต่เปิดเผยตรงหน้า.

predictions ที่ตัดสินแล้ว 4,538
Brier score 0.598

โมเดลของเรา (Elo + form): 0.617

Log-loss 1.001

โมเดลของเรา (Elo + form): 1.028

Calibration error 0.8pp

โมเดลของเรา (Elo + form): 0.4pp

Predicted probability vs observed frequency

แต่ละจุดคือช่วงความน่าจะเป็นทีละ 10 จุด (อย่างน้อย 30 observations). ยิ่งใกล้เส้นทแยงมากเท่าไร ยิ่ง calibrated ดี. ทุกแมตช์นับครบทั้งสามผลลัพธ์.

ตลาด sharp (devigged) โมเดลของเรา (Elo + form) perfect calibration
0% 0% 25% 25% 50% 50% 75% 75% 100% 100% โมเดลของเรา (Elo + form) · 0–10%: 7.5% → 7.1% (n=112) โมเดลของเรา (Elo + form) · 10–20%: 16.4% → 16.8% (n=1056) โมเดลของเรา (Elo + form) · 20–30%: 26% → 25.9% (n=6205) โมเดลของเรา (Elo + form) · 30–40%: 34.7% → 34.6% (n=2646) โมเดลของเรา (Elo + form) · 40–50%: 44.8% → 43.9% (n=2047) โมเดลของเรา (Elo + form) · 50–60%: 54.3% → 56% (n=1024) โมเดลของเรา (Elo + form) · 60–70%: 63.9% → 64.3% (n=381) โมเดลของเรา (Elo + form) · 70–80%: 74.1% → 75.2% (n=105) โมเดลของเรา (Elo + form) · 80–90%: 83% → 88.2% (n=34) ตลาด sharp (devigged) · 0–10%: 7.4% → 5.6% (n=270) ตลาด sharp (devigged) · 10–20%: 16.2% → 17.5% (n=1657) ตลาด sharp (devigged) · 20–30%: 25.3% → 25.1% (n=5261) ตลาด sharp (devigged) · 30–40%: 34.3% → 33.6% (n=2748) ตลาด sharp (devigged) · 40–50%: 44.8% → 43.9% (n=1680) ตลาด sharp (devigged) · 50–60%: 54.6% → 56.2% (n=1077) ตลาด sharp (devigged) · 60–70%: 64.4% → 63.9% (n=598) ตลาด sharp (devigged) · 70–80%: 74.6% → 79.2% (n=240) ตลาด sharp (devigged) · 80–90%: 83.7% → 86.1% (n=72)
Band ตลาด sharp (devigged) — Predicted (avg) Observed Obs. โมเดลของเรา (Elo + form) — Predicted (avg) Observed Obs.
0–10% 7.4% 5.6% 270 7.5% 7.1% 112
10–20% 16.2% 17.5% 1657 16.4% 16.8% 1056
20–30% 25.3% 25.1% 5261 26% 25.9% 6205
30–40% 34.3% 33.6% 2748 34.7% 34.6% 2646
40–50% 44.8% 43.9% 1680 44.8% 43.9% 2047
50–60% 54.6% 56.2% 1077 54.3% 56% 1024
60–70% 64.4% 63.9% 598 63.9% 64.3% 381
70–80% 74.6% 79.2% 240 74.1% 75.2% 105
80–90% 83.7% 86.1% 72 83% 88.2% 34

Brier และ log-loss ยิ่งต่ำยิ่งดี; calibration error คือค่าเฉลี่ยของช่องว่างระหว่างค่าที่คาดกับค่าที่เกิดจริงถ่วงด้วยจำนวน observations. ข้อสรุปที่ตรงไปตรงมาคือ: ตลาด sharp ที่ปรับ devig แล้ว calibrated ดีกว่าโมเดลของเรา — และนั่นคือเหตุผลที่ไซต์นี้ตั้งราคาเทียบกับตลาดแทนที่จะขาย prediction จากโมเดลให้คุณ. วิธีการ: ใช้ความน่าจะเป็นตามที่แสดงตอนบันทึก, ไม่ปรับย้อนหลัง; ผลลัพธ์มาจาก official results.

วิธีการเต็ม →
มีประโยชน์ไหม? ส่งให้เพื่อนที่เล่นพนัน