這三兄弟——泊松分布、指數(shù)分布、伽馬分布是概率論里最容易被混在一起的名詞。很多人被各種教材拆開了看泊松分布用來數(shù)“一段時(shí)間里來了多少個(gè)電話”指數(shù)分布用來算“下一個(gè)電話要等多久”而伽馬分布更多時(shí)候是某個(gè)例題里的課代表考完試就忘。實(shí)際上只要抓住“泊松過程”這個(gè)共同的母體三者的關(guān)系比你想的簡單得多它們只是同一個(gè)隨機(jī)過程的不同切面。這篇文章會把這幾個(gè)分布講透包括它們是怎么從同一個(gè)過程長出來的、公式之間怎么互相轉(zhuǎn)換、在排隊(duì)論、天文統(tǒng)計(jì)、可靠性工程里到底怎么用以及我自己實(shí)操時(shí)容易踩的坑。適合正在學(xué)概率統(tǒng)計(jì)的朋友、做數(shù)據(jù)分析的人還有對隨機(jī)過程感興趣但被教科書勸退的讀者。1. 從泊松過程講起三個(gè)分布共享同一個(gè)故事框架1.1 什么是泊松過程先忘掉公式想象一個(gè)場景你正在一家咖啡店門口觀察客人進(jìn)店的規(guī)律。你發(fā)現(xiàn)每分鐘平均進(jìn)店 2 人但有時(shí)候連著 10 秒沒人有時(shí)候又瞬間涌進(jìn)來 5 個(gè)人毫無規(guī)律可循。如果你持續(xù)記錄很長時(shí)間把每個(gè)客人的到達(dá)時(shí)刻畫在一根時(shí)間軸上得到的就是一個(gè)“隨機(jī)到達(dá)”的事件序列。在這個(gè)序列滿足三個(gè)條件時(shí)它就是一個(gè)標(biāo)準(zhǔn)的泊松過程平穩(wěn)性在一段給定長度的觀察時(shí)間里事件發(fā)生的平均速率恒定不會出現(xiàn)“白天密集、晚上稀疏”這種隨時(shí)間變化的趨勢。獨(dú)立增量兩個(gè)不相交的時(shí)間區(qū)間里事件數(shù)是相互獨(dú)立的。前半分鐘來了多少人不影響后半分鐘來多少人。普通性不重疊性在極短的時(shí)間間隔里同時(shí)到達(dá)兩個(gè)及以上的事件概率趨近于 0。也就是說客人是一個(gè)一個(gè)進(jìn)店的不會真的“擠成一團(tuán)”。滿足這三條那么任意固定時(shí)間區(qū)間內(nèi)事件發(fā)生的次數(shù)服從的就是泊松分布而兩個(gè)事件之間的間隔時(shí)間服從的是指數(shù)分布從 0 時(shí)刻開始數(shù)等到第 k 個(gè)事件發(fā)生的時(shí)間服從的是伽馬分布。為什么這三條這么重要因?yàn)楝F(xiàn)實(shí)中很多系統(tǒng)其實(shí)并不完全滿足它們比如“高峰期客流量更高”會破壞平穩(wěn)性“排隊(duì)而不是獨(dú)立到達(dá)”會破壞普通性。但只要在近似意義上滿足三個(gè)分布就能直接套用這也是它們在工程和科研中出鏡率極高的根本原因。1.2 同一個(gè)過程三種切法我自己的理解方式是在時(shí)間軸上切一刀換不同角度看泊松分布是“橫截面的視角”固定時(shí)間區(qū)間 [0, t]數(shù)一數(shù)里面有幾個(gè)事件。得到的隨機(jī)變量 N(t) 是離散的取值 0, 1, 2, ...。指數(shù)分布是“間隔的視角”隨便挑一個(gè)事件看它到下一個(gè)事件等多久這個(gè)等待時(shí)間 T 是連續(xù)的。伽馬分布是“累計(jì)的視角”從起始點(diǎn)開始一路等到第 k 個(gè)事件為止總耗時(shí) S_k 是連續(xù)的。關(guān)鍵在于這三種切法不是三個(gè)無關(guān)的分布而是同一個(gè)泊松過程在不同投影方向上的結(jié)果。只要知道事件到達(dá)速率 λ就能同時(shí)推導(dǎo)出這三個(gè)分布的全部公式不需要死記硬背。1.3 為什么這三個(gè)分布總是一起出現(xiàn)因?yàn)椤暗竭_(dá)過程”幾乎是所有隨機(jī)系統(tǒng)的入口。電話交換機(jī)需要了解“單位時(shí)間呼叫數(shù)”泊松和“呼叫間隔”指數(shù)保險(xiǎn)公司需要知道“一年理賠幾次”泊松和“兩次理賠之間間隔多久”指數(shù)醫(yī)院急診室想知道“一小時(shí)來幾個(gè)病人”泊松和“下一輛車什么時(shí)候來”指數(shù)。而一旦你開始關(guān)心“我要等第 k 個(gè)病人、第 k 次故障、第 k 個(gè)顧客”你就不可避免地撞上伽馬分布。所以答案很簡單三個(gè)分布級聯(lián)在一起是因?yàn)樗鼈兠枋龅氖峭淮录蛄械牟煌y(tǒng)計(jì)量。理解了源頭公式就不再是無根之木。2. 指數(shù)分布等待下一個(gè)事件的時(shí)間2.1 定義與關(guān)鍵性質(zhì)指數(shù)分布是連續(xù)分布里最好說話的一個(gè)了。設(shè)事件到達(dá)速率為 λ單位時(shí)間內(nèi)平均發(fā)生 λ 次事件那么等待時(shí)間 T 服從參數(shù)為 λ 的指數(shù)分布概率密度為f(t) λ * e^(-λt)t ≥ 0期望 E[T] 1/λ方差 Var(T) 1/λ2。它最出名的性質(zhì)是無記憶性。直觀地說我已經(jīng)等了 10 分鐘還沒等到公交車那么我再等 5 分鐘的概率和一個(gè)剛到車站的人等 5 分鐘的概率完全相同。時(shí)間的流逝沒有讓“即將到來”這件事變得更可能。用公式表達(dá)就是P(T s t | T s) P(T t)這個(gè)性質(zhì)在生活中的類比非常直觀你盯著一個(gè)燈泡它已經(jīng)亮了 1000 小時(shí)那它再亮 100 小時(shí)的概率和一個(gè)新燈泡亮 100 小時(shí)的概率一樣。這不是說燈泡“不會老化”而是說在“泊松過程”的假設(shè)下事件是瞬時(shí)隨機(jī)發(fā)生的不存在“記性”。2.2 泊松分布到指數(shù)分布的推導(dǎo)很多人以為指數(shù)分布和泊松分布是并列關(guān)系其實(shí)指數(shù)分布可以直接由泊松分布推導(dǎo)出來。假設(shè)事件按速率 λ 發(fā)生對于任意時(shí)間區(qū)間 (0, t]事件數(shù) N(t) ~ Poisson(λt)?，F(xiàn)在問第一個(gè)事件的到達(dá)時(shí)間 T? 超過 t 的概率是多少等價(jià)的問題是在 (0, t] 里一個(gè)事件都沒發(fā)生。P(T? t) P(N(t) 0) e^(-λt)所以 T? 的分布函數(shù)就是F(t) P(T? ≤ t) 1 - e^(-λt)對 t 求導(dǎo)就得到密度函數(shù) f(t) λ * e^(-λt)。這就是指數(shù)分布。這里有一個(gè)特別容易繞暈的點(diǎn)泊松分布里的參數(shù)是 λt也就是“在 t 時(shí)間內(nèi)的平均事件數(shù)”而指數(shù)分布里只有一個(gè) λ它是“單位時(shí)間的事件數(shù)”。用單位時(shí)間去理解指數(shù)分布最順等待時(shí)間的期望等于 1/λ平均速率越快等待越短。2.3 指數(shù)分布使用中的兩個(gè)坑第一個(gè)坑是參數(shù)倒置。很多軟件里指數(shù)分布用 scale 參數(shù)而不是 rate 參數(shù)。在 Python 的scipy.stats.expon里默認(rèn)scale1它的含義是均值 1/λ不是率 λ。如果直接用expon.pdf(x, 2)會報(bào)錯(cuò)因?yàn)榈诙€(gè)位置實(shí)際上是 loc。正確寫法是expon.pdf(x, scale1/2)表示 mean0.5。這類錯(cuò)誤我見太多了。第二個(gè)坑是濫用無記憶性。設(shè)備老化、人的疲勞、產(chǎn)品磨損都不滿足無記憶性。指數(shù)分布只適合描述“瞬時(shí)隨機(jī)事件”比如原子衰變、顧客隨機(jī)到店、突發(fā)故障假設(shè)故障不會因?yàn)檫\(yùn)行時(shí)間而增加概率。如果你在處理存在磨損過程的壽命數(shù)據(jù)就應(yīng)該用 Weibull 分布或 Gamma 分布強(qiáng)行套指數(shù)分布會得出非常樂觀且錯(cuò)誤的可靠性結(jié)論。3. 伽馬分布等待第 k 個(gè)事件的時(shí)間3.1 定義與參數(shù)伽馬分布是這章里的“壓軸角色”也是很多人最陌生的。它有兩個(gè)參數(shù)常見寫法有兩種第一種是按形狀參數(shù) α 和尺度參數(shù) θ 寫θ 是 scalef(x) x^(α-1) * e^(-x/θ) / (θ^α * Γ(α))x ≥ 0均值 E[X] αθ方差 Var(X) αθ2。第二種是按形狀參數(shù) α 和速率參數(shù) β 寫β 是 ratef(x) β^α / Γ(α) * x^(α-1) * e^(-βx)x ≥ 0均值 E[X] α/β方差 Var(X) α/β2。這兩種寫法是同一個(gè)分布換了個(gè)馬甲區(qū)別只有一個(gè)尺度參數(shù)是速率的倒數(shù)。如果看書做題時(shí)發(fā)現(xiàn)公式里的某個(gè)參數(shù)跑到了分母上大概率就是用了 scale 版本。我把這兩種寫法放在一起對比就是提醒大家用任何庫之前先確認(rèn)自己的參數(shù)化方式否則對不上號。伽馬函數(shù) Γ(α) 出現(xiàn)在分母上它在這里的作用就是把密度函數(shù)“歸一化”保證全概率為 1。當(dāng) α 是正整數(shù) k 時(shí)Γ(k) (k-1)!這時(shí)候公式會簡化不少也是我們在泊松過程里最常遇到的情況。3.2 指數(shù)分布是伽馬分布的特例當(dāng)形狀參數(shù) α 1 時(shí)伽馬分布變成f(x) β * e^(-βx)這就是指數(shù)分布。所以指數(shù)分布就是伽馬分布家族里最小的一個(gè)成員等待 1 個(gè)事件的時(shí)間當(dāng)然就是第一個(gè)事件到達(dá)的時(shí)間。從這個(gè)角度看伽馬分布可以理解為“把 k 個(gè)獨(dú)立的指數(shù)隨機(jī)變量加起來”的總時(shí)間。這里有一個(gè)非常重要的可加性如果 X?, X?, ..., X_k 是 k 個(gè)獨(dú)立的指數(shù)分布速率都是 λ那么S_k X? X? ... X_k ~ Gamma(k, λ)也就是形狀參數(shù)等于 k速率參數(shù)等于 λ。這一點(diǎn)在工程上解釋很舒服修臺機(jī)器要換 5 個(gè)零件每個(gè)零件的更換時(shí)間服從指數(shù)分布那么總維修時(shí)間就服從伽馬分布形狀參數(shù) 5。3.3 伽馬分布和泊松分布的“對偶”關(guān)系泊松分布和伽馬分布互為“鏡面”。泊松分布回答的是在固定時(shí)間 t 內(nèi)事件發(fā)生了 0, 1, 2, ... 次的概率是多少伽馬分布回答的是發(fā)生第 k 次事件要在時(shí)間軸上等到哪天這兩者不是彼此獨(dú)立的兩張表而是一枚硬幣的正反兩面。數(shù)學(xué)上有一個(gè)經(jīng)典恒等式P(N(t) ≥ k) P(T_k ≤ t)翻譯成人話到時(shí)刻 t 為止事件發(fā)生次數(shù)至少為 k 次這件事等價(jià)于“第 k 次事件發(fā)生的時(shí)間早于 t 或正好在 t”。我覺得這個(gè)等價(jià)關(guān)系是整個(gè)關(guān)系網(wǎng)絡(luò)里最核心的一座橋。泊松分布左側(cè)給出的是離散的“計(jì)數(shù)概率”伽馬分布左側(cè)給出的是連續(xù)的“等待時(shí)間概率”兩者通過同一個(gè)事件“第 k 個(gè)到達(dá)”連接起來。用求和形式展開是這樣的Σ_{nk}^∞ ( (λt)^n / n! ) * e^(-λt) ∫_0^t ( λ^k * x^(k-1) * e^(-λx) ) / (k-1)! dx等式的左邊是泊松分布的大于等于 k 的右尾概率右邊是伽馬分布小于等于 t 的累積概率。我第一次在教材里看到這個(gè)等式時(shí)覺得它只是“數(shù)學(xué)巧合”后來才意識到它是理解所有排隊(duì)系統(tǒng)的基礎(chǔ)我排隊(duì)等 5 個(gè)服務(wù)臺聚合處理完等價(jià)于至少完成 5 個(gè)服務(wù)請求。兩者是同一件事。3.4 伽馬分布與卡方分布的關(guān)系除了泊松過程伽馬分布還和統(tǒng)計(jì)推斷里的卡方分布密不可分。自由度 ν 的卡方分布其實(shí)就是伽馬分布的一個(gè)特例χ2(ν) Gamma(形狀參數(shù) α ν/2速率參數(shù) β 1/2)用速率參數(shù)版本表達(dá)就是χ2(ν) ~ Gamma(ν/2, 1/2)。這個(gè)關(guān)系讓伽馬分布成為貝葉斯統(tǒng)計(jì)和極大似然估計(jì)里的?？?。如果你做過正態(tài)總體方差區(qū)間估計(jì)那么樣本方差乘上 (n-1)/σ2 之后服從 χ2(n-1)而 χ2 本身就是伽馬分布。也就是說你以為你在和伽馬分布八竿子打不著的 t 檢驗(yàn)打交道實(shí)際上屁股底下坐的還是伽馬家族。4. 三個(gè)分布的橋梁從公式到直覺4.1 三個(gè)分布之間的公式對照這一節(jié)我把三個(gè)分布放在一起對比。假設(shè)事件到達(dá)速率為 λ觀察時(shí)長為 t。分布隨機(jī)變量含義概率函數(shù)均值方差參數(shù)要求泊松分布時(shí)間段 [0, t] 內(nèi)事件發(fā)生次數(shù)P(Nn) (λt)^n e^(-λt) / n!λtλtn 0, 1, 2, ...指數(shù)分布相鄰兩次事件的時(shí)間間隔f(x) λ e^(-λx)1/λ1/λ2x ≥ 0伽馬分布等待第 k 次事件到達(dá)的總時(shí)間f(x) λ^k x^(k-1) e^(-λx) / (k-1)!k/λk/λ2x ≥ 0, k 為正整數(shù)這張表里的均值關(guān)系非常對稱泊松分布的均值是 λt它從“事件數(shù)”這個(gè)離散維度刻畫過程指數(shù)分布均值是 1/λ它從“單次間隔時(shí)間”這個(gè)連續(xù)維度刻畫過程伽馬分布均值是 k/λ它從“k 次間隔的累計(jì)時(shí)間”這個(gè)連續(xù)維度刻畫過程。三個(gè)分布的參數(shù)核心都是 λ只是因?yàn)橛^察的“切面”不同看起來像是三個(gè)獨(dú)立的分布。提示我特意把伽馬分布限制在形狀參數(shù)為正整數(shù) k 的情形來寫公式這樣它在泊松過程里對應(yīng)“第 k 次到達(dá)”?，F(xiàn)實(shí)中伽馬分布的形狀參數(shù) α 可以是任意正實(shí)數(shù)不只限定整數(shù)公式里的階乘換成伽馬函數(shù) Γ(α) 即可。理解時(shí)先把握住整數(shù)特例再推廣到實(shí)數(shù)會更輕松。4.2 泊松-伽馬恒等式的推導(dǎo)思路我們試著把恒等式 P(N(t) ≥ k) P(T_k ≤ t) 試著完整推一遍這個(gè)過程能幫你徹底把三個(gè)分布串起來。先看左邊。N(t) 是 [0, t] 里的事件數(shù)N(t) ≥ k 說明至少來了 k 個(gè)事件。轉(zhuǎn)化為時(shí)間軸語言就意味著第 k 個(gè)事件在時(shí)刻 t 之前已經(jīng)發(fā)生。第 k 個(gè)事件的到達(dá)時(shí)刻是 T_k所以P(N(t) ≥ k) P(T_k ≤ t)這本質(zhì)上是同一個(gè)隨機(jī)事件在你腦子里用兩種視角描述。有了這個(gè)事件等價(jià)關(guān)系剩下的就是計(jì)算問題。右邊 T_k 是 k 個(gè)獨(dú)立同分布指數(shù)隨機(jī)變量之和。我們先用指數(shù)分布的卷積推導(dǎo)伽馬分布。k 1 時(shí)T? ~ Exp(λ)。k 2 時(shí)T? T? X?密度是兩個(gè)指數(shù)分布的卷積f_{T?}(t) ∫_0^t λ e^(-λx) * λ e^(-λ(t-x)) dx λ2 t e^(-λt)k 3 同理繼續(xù)卷積得到 λ3 t2 e^(-λt) / 2!。歸納出一般形式f_{T_k}(t) λ^k t^(k-1) e^(-λt) / (k-1)!然后計(jì)算累積分布P(T_k ≤ t) ∫_0^t λ^k x^(k-1) e^(-λx) / (k-1)! dx而泊松分布的右尾概率是P(N(t) ≥ k) 1 - Σ_{n0}^{k-1} (λt)^n e^(-λt) / n!這兩個(gè)表達(dá)式一個(gè)是積分一個(gè)是求和看起來完全不同但數(shù)值上永遠(yuǎn)相等。因?yàn)樗鼈冊谟?jì)算的是同一個(gè)事件。我第一次用 Python 隨機(jī)模擬驗(yàn)證這個(gè)等式時(shí)數(shù)值幾乎完全吻合那種“原來如此”的感覺比看十遍公式都來得直觀。4.3 幫助記憶的直觀聯(lián)想如果符號太抽象可以用生活化的模型去記把泊松過程想象成一輛輛隨機(jī)到站的公交車平均每小時(shí)來 3 輛。泊松分布回答接下來 1 小時(shí)里我能等到幾輛車答案可能是 0、1、2、3 ...每個(gè)數(shù)字都有概率。指數(shù)分布回答我走到站臺后第一輛車要過多久才來平均 20 分鐘來的時(shí)間成指數(shù)分布。伽馬分布回答我要等到第 4 輛車總耗時(shí)多久這個(gè)總耗時(shí)就是 4 個(gè)指數(shù)等待時(shí)間相加服從伽馬分布。泊松和伽馬的對偶關(guān)系回答如果 1 小時(shí)內(nèi)我能等到至少 4 輛車等價(jià)于第 4 輛車在 1 小時(shí)前已經(jīng)到站。這兩句話說的是同一件事。這個(gè)模型可以覆蓋絕大多數(shù)實(shí)際場景。只要你能想象出一連串“隨機(jī)到達(dá)的事件”三個(gè)分布就全部就位了。4.4 用 Python 驗(yàn)證三者關(guān)系光說不練假把式。我用一個(gè)簡單的蒙特卡洛模擬驗(yàn)證一下泊松-伽馬恒等式順便也能幫你確認(rèn)自己寫代碼時(shí)參數(shù)有沒有搞錯(cuò)。import numpy as np from scipy.stats import poisson, gamma # 場景事件到達(dá)速率 lambda 2 次/小時(shí) lam 2.0 # 觀察時(shí)間 t 3 小時(shí) t 3.0 # 關(guān)注“至少來 k 次”這個(gè)事件 k 5 # 理論值泊松分布右尾 P(N(t) k) p_poisson 1 - poisson.cdf(k - 1, mulam * t) print(f泊松右尾 P(N(t) {k}) {p_poisson:.6f}) # 理論值伽馬分布左尾 P(T_k t)注意用速率參數(shù) scale1/lam p_gamma gamma.cdf(t, ak, scale1/lam) print(f伽馬左尾 P(T_{k} {t}) {p_gamma:.6f}) # 蒙特卡洛模擬生成大量泊松過程直接統(tǒng)計(jì)事件數(shù) N_sim 200000 counts np.random.poisson(lamlam * t, sizeN_sim) sim_poisson np.mean(counts k) print(f模擬泊松右尾 {sim_poisson:.6f}) # 蒙特卡洛模擬用指數(shù)等待時(shí)間相加模擬第 k 個(gè)事件的到達(dá)時(shí)刻 wait_sums np.random.exponential(scale1/lam, size(N_sim, k)).sum(axis1) sim_gamma np.mean(wait_sums t) print(f模擬伽馬左尾 {sim_gamma:.6f})運(yùn)行結(jié)果大致會得到幾個(gè)非常接近的數(shù)值比如 0.1847 左右。這說明泊松分布和伽馬分布真的只是同一個(gè)等式的兩種寫法。這也是我在實(shí)際工作中最喜歡用的驗(yàn)證方式理論公式容易記混跑一次模擬就全對上了。注意在 scipy 里gamma.cdf(x, a, scale1/lam)中的a是形狀參數(shù)scale1/lam是尺度參數(shù)。如果你看到某個(gè)教程里寫gamma.cdf(t, k, lam)那是把第三個(gè)參數(shù)當(dāng)成了速率參數(shù)這在 scipy 里是不對的。scipy 的gamma支持scale參數(shù)不支持 rate 參數(shù)這點(diǎn)必須牢記。5. 實(shí)際應(yīng)用場景對照5.1 呼叫中心與排隊(duì)論呼叫中心是最經(jīng)典的組合應(yīng)用場景。假設(shè)客服電話平均每小時(shí)接通 120 通那么這個(gè)“呼入電話流”就可以建模為速率為 λ120 的泊松過程。你想知道未來 10 分鐘內(nèi)接通幾通電話用泊松分布P(N(10分鐘)n)。你想知道兩通電話之間的間隔用指數(shù)分布平均間隔 30 秒。你想知道接通 50 通電話需要多久用伽馬分布形狀參數(shù) 50速率 120期望等待 25 分鐘。在這種模型下排班、坐席數(shù)、系統(tǒng)容量都能用三個(gè)分布統(tǒng)一計(jì)算。事實(shí)上排隊(duì)論里的 M/M/1、M/M/c 模型本質(zhì)上就是不斷對這三個(gè)分布做組合運(yùn)算。我做過一個(gè)銀行網(wǎng)點(diǎn)容量評估項(xiàng)目核心就是用泊松過程模擬客流到達(dá)再用伽馬分布計(jì)算“等待第 N 位客戶到齊”的總服務(wù)時(shí)間最后和實(shí)際排班數(shù)據(jù)對拍誤差控制在 5% 以內(nèi)。5.2 天體統(tǒng)計(jì)恒星數(shù)量與最近鄰距離熱詞里出現(xiàn)“泊松分布統(tǒng)計(jì)單位空間的恒星數(shù)量”這個(gè)場景我太熟悉了。把夜空劃分成許多面積相等的小區(qū)域如果恒星在空間中的分布近似滿足隨機(jī)性那么每個(gè)區(qū)域里的恒星數(shù)量服從泊松分布。這個(gè)模型在科研中用來判斷恒星是真實(shí)聚集還是隨機(jī)分布如果某個(gè)區(qū)域恒星數(shù)量明顯超過泊松分布預(yù)測的尾部概率就說明存在星團(tuán)效應(yīng)。更進(jìn)一步當(dāng)你關(guān)心“從任意一顆恒星出發(fā)找到下一顆恒星的距離”時(shí)在二維圓盤的泊松過程中最近鄰距離與某種指數(shù)分布關(guān)聯(lián)而當(dāng)你關(guān)心“第 k 顆近鄰恒星的距離”時(shí)就會引出伽馬分布。我和做天體統(tǒng)計(jì)的朋友聊天時(shí)他們說處理星團(tuán)成員判定時(shí)本質(zhì)就是在用泊松-伽馬恒等式檢驗(yàn)空間分布的非隨機(jī)性。5.3 可靠性工程與壽命分析在可靠性工程里指數(shù)分布常用來描述隨機(jī)故障元件的壽命比如某些電子元件。但一臺設(shè)備往往有多個(gè)關(guān)鍵元件任何一個(gè)故障都會導(dǎo)致整機(jī)停機(jī)。如果每個(gè)元件故障時(shí)間服從指數(shù)分布那么整機(jī)壽命最小值變量不一定還是指數(shù)但如果你關(guān)心“等到系統(tǒng)累計(jì)發(fā)生 k 次故障”的時(shí)間那就是伽馬分布。具體來說一臺機(jī)器維修后繼續(xù)運(yùn)行第 1 次故障需要的時(shí)間服從指數(shù)分布下一次故障又間隔一個(gè)指數(shù)時(shí)間總共等到第 k 次故障的時(shí)間就是一個(gè)伽馬分布。生產(chǎn)計(jì)劃里備件庫存的確定常常就靠這個(gè)平均 k 次故障需要備多少個(gè)備件、備件的補(bǔ)給時(shí)間如何設(shè)置本質(zhì)上是在伽馬時(shí)間尺度和泊松計(jì)數(shù)之間換算。5.4 貝葉斯統(tǒng)計(jì)中的共軛關(guān)系如果是做貝葉斯推斷的人一定對伽馬分布的另一個(gè)身份非常敏感它是泊松均值的共軛先驗(yàn)。假設(shè)我們觀測到 n 個(gè)時(shí)段內(nèi)的事件數(shù)為 X?, ..., X_n每個(gè) X_i ~ Poisson(λ)。如果給 λ 的先驗(yàn)取 Gamma(α?, β?)那么后驗(yàn)分布也是伽馬分布λ | X?, ..., X_n ~ Gamma(α? ΣX_iβ? n)這說明伽馬分布和泊松分布天然綁定一個(gè)用來描述“事件發(fā)生的速率本身的不確定性”一個(gè)用來描述“在固定速率下事件發(fā)生的隨機(jī)性”。我在做過一個(gè)保險(xiǎn)理賠頻率預(yù)測項(xiàng)目時(shí)沒有直接拍腦袋給一個(gè)固定 λ而是給 λ 設(shè)了伽馬先驗(yàn)再結(jié)合歷史理賠數(shù)據(jù)更新后驗(yàn)。這樣做的好處是能直接把“估計(jì)的不確定性”帶到保費(fèi)定價(jià)里而不只是給一個(gè)點(diǎn)估計(jì)。這個(gè)用法同樣得益于伽馬-泊松的共軛結(jié)構(gòu)。6. 常見問題與理解誤區(qū)6.1 誤區(qū)一泊松分布是連續(xù)分布嗎不是。泊松分布是離散分布它的隨機(jī)變量是“次數(shù)”取值只能是 0, 1, 2, ...。雖然泊松分布的公式里出現(xiàn)了 e 和指數(shù)但它不是指數(shù)分布它和指數(shù)分布的關(guān)系很像“計(jì)數(shù)”和“計(jì)時(shí)”的關(guān)系。拿到問題先問一句要我數(shù)個(gè)數(shù)還是要我等時(shí)間數(shù)個(gè)數(shù)找泊松等時(shí)間找指數(shù)/伽馬。還有一個(gè)小陷阱泊松分布本身是一個(gè)分布族只要把它的均值參數(shù)寫成 λt它就可以當(dāng)成“時(shí)間長度為 t 的泊松過程”來用。這也是為什么很多工具庫里poisson.rvs(muλt, size...)可以直接生成單位時(shí)間內(nèi)事件數(shù)的模擬樣本。6.2 誤區(qū)二混淆指數(shù)分布的 λ 和均值指數(shù)分布有兩種常見寫法一種直接用速率 λ密度 λ e^(-λx)均值 1/λ另一種用尺度參數(shù) θ 1/λ密度 (1/θ) e^(-x/θ)。這兩種寫法極易混淆。在 Python 的 numpy 里np.random.exponential(scale)用的是尺度在 R 里rexp(n, rate)用的是速率。用錯(cuò)了參數(shù)模擬出來的等待時(shí)間會差好幾倍。一個(gè)笨辦法先確定均值。如果實(shí)際場景是“平均 10 分鐘到一次”那均值就是 10速率就是 0.1。代碼里 scale 傳 10rate 傳 0.1怎么都不會錯(cuò)。不要背“參數(shù)越大曲線越陡”這種口訣直接看均值最不容易出錯(cuò)。6.3 誤區(qū)三伽馬分布參數(shù)化的混亂伽馬分布是參數(shù)化重災(zāi)區(qū)。有 (α, θ) 尺度寫法有 (α, β) 速率寫法還有的在形狀參數(shù)上還分整數(shù) k 和實(shí)數(shù) α。如果你在網(wǎng)上搜資料可能同一道題出現(xiàn)三種不同形式的密度函數(shù)不是說別人寫錯(cuò)了而是參數(shù)化不同。我的建議是打開軟件文檔先搜一下它是scale還是rate。scipy 用scaleR 的gamma相關(guān)函數(shù)用ratePyMC 里又可以用多種寫法。實(shí)戰(zhàn)中統(tǒng)一用“均值 形狀 * 尺度”來驗(yàn)證參數(shù)是否設(shè)置正確。另外如果你想用伽馬分布計(jì)算“等待第 k 次事件”形狀參數(shù)最好用整數(shù) k因?yàn)槠涮厥庑钥梢院喕?jì)算。但如果形狀參數(shù)不是整數(shù)它表達(dá)的其實(shí)是“等待一個(gè)非整數(shù)次數(shù)”的抽象概念這時(shí)可以直接用scipy.stats.gamma的a參數(shù)不需要過度糾結(jié)物理含義。6.4 實(shí)操排查技巧程序結(jié)果不對勁怎么辦我做數(shù)據(jù)分析這幾年遇到分布相關(guān)結(jié)果不對勁排查順序基本固定第一步核對參數(shù)化方式?？创a里的 scale / rate / mu 到底誰是誰。第二步核對期望和方差。用一組隨機(jī)數(shù)算均值和方差跟公式對比差距超過 50% 基本就是參數(shù)搞反了。第三步用恒等式交叉驗(yàn)證。比如泊松右尾和伽馬左尾是否相等、指數(shù)分布樣本累加是否近似伽馬分布。如果對不上說明某個(gè)環(huán)節(jié)的理解有誤。第四步可視化。畫出密度曲線和直方圖看峰的位置是否符合直覺。指數(shù)分布的峰值在 0 附近伽馬分布在形狀參數(shù)大于 1 時(shí)普遍有單峰這些特征有時(shí)候一眼就能看出參數(shù)錯(cuò)沒錯(cuò)。7. 一點(diǎn)拓展從泊松過程到更廣的隨機(jī)模型聊到這三個(gè)分布的框架基本完整了。我還想多提一個(gè)延伸方向當(dāng)你把“事件到達(dá)速率 λ”本身也看成隨機(jī)變量時(shí)泊松過程就變成了混合泊松過程。如果 λ 服從伽馬分布積分之后得到的負(fù)二項(xiàng)分布離散版本會自然出現(xiàn)。這也是伽馬-泊松共軛結(jié)構(gòu)在保險(xiǎn)精算里非常重要的原因之一。類似地當(dāng)你把固定時(shí)間 t 換成隨機(jī)時(shí)間時(shí)三個(gè)分布的聯(lián)動(dòng)會更加復(fù)雜但核心邏輯依然是同一個(gè)觀察事件序列的方式不同導(dǎo)出的分布就不同。我自己做項(xiàng)目的習(xí)慣是在建模初期先用這三個(gè)分布做一個(gè)零模型null model判斷系統(tǒng)是否滿足泊松過程的基本假設(shè)。如果數(shù)據(jù)對不上再引入更復(fù)雜的分布或機(jī)制比如加時(shí)間不平穩(wěn)性、加自相關(guān)性等。這樣做的好處是每一步迭代都有清晰的參照點(diǎn)而不是上來就上高深的模型出了問題很難排查。提示對于初學(xué)者我建議把“泊松過程三件套”的推導(dǎo)自己手推一遍從泊松分布定義出發(fā)推指數(shù)分布的無記憶性再通過卷積推出伽馬分布。接著用模擬代碼驗(yàn)證恒等式。整個(gè)流程做完以后你會發(fā)現(xiàn)自己再也不會把這些分布搞混。最后再說一個(gè)我自己常用的記憶錨點(diǎn)指數(shù)分布是沒有記憶的等待時(shí)間伽馬分布是 k 段沒有記憶的等待時(shí)間之和泊松分布是這 k 段等待時(shí)間內(nèi)發(fā)生的事件個(gè)數(shù)。三者描述的其實(shí)是同一場比賽你在等數(shù)著號碼牌看著場上一秒一秒地過去。下次再遇到哪個(gè)分布不確定先問自己——我在看時(shí)間、數(shù)事件還是加時(shí)間答案自然就出來了。