Evo i jednog malo „matematičkijeg“ pristupa Monty Hall problemu, preko Bayesove formule, koja kaže[dispmath]P\left(H_i/A\right)=\frac{P\left(H_i\right)P\left(A/H_i\right)}{P\left(A\right)}[/dispmath]gde je:
[inlmath]P\left(H_i/A\right)[/inlmath] – verovatnoća hipoteze [inlmath]H_i[/inlmath] onda kada znamo da se desio događaj [inlmath]A[/inlmath];
[inlmath]P\left(H_i\right)[/inlmath] – verovatnoća hipoteze [inlmath]H_i[/inlmath];
[inlmath]P\left(A/H_i\right)[/inlmath] – verovatnoća događaja [inlmath]A[/inlmath] pod pretpostavkom da je ostvarena hipoteza [inlmath]H_i[/inlmath];
[inlmath]P\left(A\right)[/inlmath] – verovatnoća događaja [inlmath]A[/inlmath].
Znači, nalazimo se u kvizu i odabiramo jedna od troja vrata. Ta vrata koja smo odabrali (ali još uvek ne i otvorili) označimo sa [inlmath]X[/inlmath]. Preostala dvoja vrata označimo sa [inlmath]Y[/inlmath] i [inlmath]Z[/inlmath]. Ono što znamo sasvim sigurno, to je da voditelj neće otvoriti vrata [inlmath]X[/inlmath] (jer bi to bilo suprotno pravilima kviza, budući da su to vrata koja smo odabrali), već će otvoriti ili vrata [inlmath]Y[/inlmath], ili vrata [inlmath]Z[/inlmath]. Na osnovu onih informacija kojima raspolažemo, pošto ne znamo iza kojih vrata je nagrada, postoji tačno [inlmath]50\%[/inlmath] verovatnoće da će voditelj otvoriti vrata [inlmath]Y[/inlmath] i tačno [inlmath]50\%[/inlmath] verovatnoće da će otvoriti vrata [inlmath]Z[/inlmath].
Uvedimo sledeće oznake:
[inlmath]P\left(H_X\right)[/inlmath] – verovatnoća da je nagrada iza vrata [inlmath]X[/inlmath];
[inlmath]P\left(H_Y\right)[/inlmath] – verovatnoća da je nagrada iza vrata [inlmath]Y[/inlmath];
[inlmath]P\left(H_Z\right)[/inlmath] – verovatnoća da je nagrada iza vrata [inlmath]Z[/inlmath];
[inlmath]P\left(A\right)[/inlmath] – verovatnoća da će voditelj otvoriti vrata [inlmath]Y[/inlmath].
Na osnovu onoga što znamo (znamo pravila kviza, ali ne znamo iza kojih vrata je nagrada), te verovatnoće su sledeće:[dispmath]P\left(H_X\right)=P\left(H_Y\right)=P\left(H_Z\right)=\frac{1}{3},\quad P\left(A\right)=\frac{1}{2}[/dispmath]Ako se nagrada nalazi iza vrata [inlmath]X[/inlmath] (koja smo odabrali), tada voditelj može slobodno da bira između vrata [inlmath]Y[/inlmath] i vrata [inlmath]Z[/inlmath] koja od njih će otvoriti, budući da nijedna od tih vrata ne kriju nagradu. Verovatnoća otvaranja bilo koja od ta dvoja vrata tada iznosi [inlmath]\frac{1}{2}[/inlmath]:[dispmath]P\left(A/H_X\right)=\frac{1}{2}[/dispmath]Ako se nagrada nalazi iza vrata [inlmath]Y[/inlmath], zbog pravila kviza koja voditelju zabranjuju da otvori vrata koja donose nagradu, voditelj tada sigurno neće otvoriti vrata [inlmath]Y[/inlmath]:[dispmath]P\left(A/H_Y\right)=0[/dispmath]Ako se nagrada nalazi iza vrata [inlmath]Z[/inlmath], voditelj tada ne sme otvoriti ta vrata, a ne sme ni vrata [inlmath]X[/inlmath] (jer smo vrata [inlmath]X[/inlmath] izabrali), pa u tom slučaju može da otvori jedino vrata [inlmath]Y[/inlmath]:[dispmath]P\left(A/H_Z\right)=1[/dispmath]Sada primenimo Bayesovu formulu.
Verovatnoća da se, kada smo izabrali vrata [inlmath]X[/inlmath], a voditelj otvorio vrata [inlmath]Y[/inlmath], nagrada nalazi iza vrata [inlmath]X[/inlmath]:[dispmath]P\left(H_X/A\right)=\frac{P\left(H_X\right)P\left(A/H_X\right)}{P\left(A\right)}=\frac{\frac{1}{3}\cdot\frac{1}{2}}{\frac{1}{2}}=\frac{1}{3}[/dispmath]Verovatnoća da se, kada smo izabrali vrata [inlmath]X[/inlmath], a voditelj otvorio vrata [inlmath]Y[/inlmath], nagrada nalazi iza vrata [inlmath]Y[/inlmath]:[dispmath]P\left(H_Y/A\right)=\frac{P\left(H_Y\right)P\left(A/H_Y\right)}{P\left(A\right)}=\frac{\frac{1}{3}\cdot 0}{\frac{1}{2}}=0[/dispmath](To je i očekivan rezultat, budući da se nagrada ne može nalaziti iza onih vrata koja je voditelj otvorio.)
Verovatnoća da se, kada smo izabrali vrata [inlmath]X[/inlmath], a voditelj otvorio vrata [inlmath]Y[/inlmath], nagrada nalazi iza vrata [inlmath]Z[/inlmath]:[dispmath]P\left(H_Z/A\right)=\frac{P\left(H_Z\right)P\left(A/H_Z\right)}{P\left(A\right)}=\frac{\frac{1}{3}\cdot 1}{\frac{1}{2}}=\frac{2}{3}[/dispmath]
Odavde zaključujemo da vrata koja smo izabrali donose nagradu s verovatnoćom [inlmath]\frac{1}{3}[/inlmath], dok vrata koja nismo izabrali, a koja voditelj nije otvorio, donose nagradu s verovatnoćom [inlmath]\frac{2}{3}[/inlmath]. Znači, pametnije je promeniti prvobitni izbor, jer se tada šansa za nagradu uvećava tačno dva puta.
A ako se na kraju ipak ispostavi da se ostvarila ona [inlmath]\frac{1}{3}[/inlmath] i nagrada ipak bila iza prvobitno odabranih vrata, onda
