貝葉斯和貝氏定理(2)(Thomas Bayes and Bayes’ Theorem (2))
貝葉斯和貝氏定理(2)(Thomas Bayes and Bayes’ Theorem (2))
臺北市立第一女子高級中學蘇俊鴻老師
連結:貝葉斯和貝氏定理(1)
在說明貝葉斯的論文〈《機率論》中一個問題的解決〉(An Essay towards Solving a Problem in the Doctrine of Chances)內容之前,先來交待一下當時機率論的發展情形。由於法國貴族默勒(Chevalier de Mere)請教巴斯卡(Blaise Pascal, 1601-1665)骰子擲點及賭金分配等問題,引發巴斯卡與費瑪(Pierre de Fermat, 1601-1665)兩人書信討論解決,奠立了機率論的基礎。
1655 年,荷蘭數學家惠更斯(Christiaan Huygens, 1629-1695)走訪巴黎,得知巴斯卡與費瑪兩人討論的問題,引發興趣,進而延伸討論,1657年出版一本小冊子《論機率博奕的計算》(On the Calculations in Games of Chance)。到十八世紀初,該書一直都是機率論入門的著作。
而伯努利(Jakob I. Bernoulli, 1654-1705)在惠更斯的基礎上,因應當時對於保險風險評估等實際的需求,討論機率與各種實際問題的結合。在他死後8年,出版的《猜度術》(Ars Conjectandi, 1713)成為機率論重要的著作。今日我們所知的大數法則、二項分佈等概念,均在書中可見。伯努利認為任意給定誤差範圍,只要實驗次數足夠多,希望產生的結果總數與實驗總數的比值和理論值 \(p\) 的差距就會在給定範圍內。依此,就能推估觀測的次數。不過,他對二項分佈的近似公式取得不夠好,無法應用於實際情形上。
這個工作後來就由棣美弗完成。1733年棣美弗發展出我們現在所說的常態曲線,作為二項分佈的近似,改善伯努利所需觀測次數之估計(高斯及拉普拉斯後來又重新發現)。棣美弗將此法收入1738和1756年再版的《機率論》中(此書於1718年初版)。由貝葉斯論文的標題〈《機率論》中一個問題的解決〉,我們得知他的工作奠基於棣美弗的成果上。文章開頭,便表明他想解決的問題是給定某未知事件(指發生的機率未知)發生與未發生的次數,求在一次試驗中發生的機率值介於兩個指定機率值之間的可能性(機率)。
以現在的符號表示,令 \(X\) 為 \(n\) 次試驗中事件發生的次數,\(x\) 表事件在一次試驗中發生的機率值,\(r,s\) 為指定的機率且 \(r<s\)。那麼,貝葉斯所求問題即為
\(P(r<x<s|X)=?\)
貝葉斯採取公理化的體系,先給出定義,再提出命題,其中最重要的兩個命題是:
- 命題3
兩個相繼發生的事件機率是一個比率,它由第一事件發生的機率,以及在第一事件發生的條件下第二事件的機率複合而成。 - 命題5
若有兩個相繼發生的事件,已知第二事件的機率為 \(\frac{b}{N}\),兩者都發生的機率為 \(\frac{P}{N}\)。由於第二事件已經發生,據此我猜想第一事件也會發生,且它的機率無疑是 \(\frac{P}{b}\)。
令 \(E\) 表示第一事件,\(F\) 表示第二事件。那麼,命題3即為今日所提的條件機率的乘法原理 \(P(E\cap F)=P(E)P(F|E)\),命題5則是貝氏定理,在 \(F\) 發生的情形下,計算 \(P(E|F) = \frac{{P(E \cap F)}}{{P(F)}}\)。
事實上,我們若將 \(F\) 視為「\(n\) 次試驗中事件發生的次數為 \(X\) 次」的事件,\(E\) 視為「\(r_1<x<r_2\)」的事件。貝葉斯的問題便是計算 \(P(E|F)\)。因此,只要能求出 \(P(F)\) 和 \(P(E\cap F)\) 即可。接著貝葉斯用了一個頗為獨特的想法,據以建立機率模型進行計算。而他使用的方法,請見〈貝葉斯和貝氏定理(3)〉。
連結:貝葉斯和貝氏定理(3)
參考文獻:
- Katz, V. J. (1993), A History of Mathematics, New York: HarperCollins College Publishers.
- Biography of Thomas Bayes, http://www-history.mcs.st-and.ac.uk/Biographies/Bayes.html
- An Essay towards Solving a Problem in the Doctrine of Chances. By the Late Rev. Mr. Bayes, F. R. S. Communicated by Mr. Price, in a Letter to John Canton, A. M. F. R. S. https://archive.org/stream/philtrans09948070/09948070#page/n0/mode/2up
- 陳昱成,〈貝氏定理的應用〉,《科學教育月刊》第357期(2013),頁19-28。