🎯要點

🎯量化不確定性模型：🖊模型檢測短信編寫者行為變化 | 🖊確定（商業(yè)領(lǐng)域中）競爭性替代方案 | 🖊確定作弊供詞真實比例 | 🖊學(xué)生考試作弊 | 🖊確定零部件損壞導(dǎo)致的災(zāi)難事故原因 | 🖊馬爾可夫鏈蒙特卡羅算法先驗-后驗范式可視化 | 🖊聚類尋找信息隱藏源頭 | 🖊模型確定和糾正虛假商品星評 | 🖊客戶商品價格優(yōu)化呈現(xiàn) | 🖊星系位置和橢圓率模擬 | 🖊最大化賭場獎金策略 | 🖊證券分析。

🎯動態(tài)分析和常微分方程推理流感傳播 | 🎯高層領(lǐng)導(dǎo)被解雇模型預(yù)測 | 🎯客戶活躍度模型預(yù)測 | 🎯熱飲冷卻非線性模型動態(tài)分析 | 🎯多級回歸和后分層預(yù)測公眾人物角逐 | 🎯模型分析專業(yè)人士對比機器學(xué)習(xí)工具的優(yōu)劣? | 🎯銷售領(lǐng)域利潤率建模 | 🎯模型分析定位無線網(wǎng)絡(luò)用戶位置。

🍇Python貝葉斯推理

貝葉斯推理是一種找出變量分布的方法（例如高度 $h$ 的分布）。貝葉斯推理的有趣特征是，統(tǒng)計學(xué)家（或數(shù)據(jù)科學(xué)家）可以利用他們的先驗知識作為改進我們對分布情況的猜測的手段。貝葉斯推理依賴于貝葉斯統(tǒng)計的主要公式：貝葉斯定理。貝葉斯定理接受我們對分布的假設(shè)，即新的數(shù)據(jù)，并輸出更新后的分布。對于數(shù)據(jù)科學(xué)，貝葉斯定理通常表示如下：
$$P(\theta \mid \text{?Data?})=\frac{P(\text{?Data?}\mid \theta )?P(\theta )}{P(\text{?Data?})}$$

• $P(\theta \mid Data)$ 后驗
• $P($ Data $\mid \theta )$ 似然
• $P(\theta )$ 先驗
• $P($ Data $)$ 事實

我們可以從貝葉斯定理中看出，先驗是一個概率：P(θ)。首先，讓我們深入研究一下“θ”的含義。θ 通常表示為我們對最能描述我們試圖研究的變量的模型的假設(shè)。讓我們回到身高的例子。根據(jù)背景知識和常識，我們推斷出身高在一個班級中呈正態(tài)分布。正式來說：
$$h～N(\mu ,\sigma )$$
其中$N$表示正態(tài)分布，$\mu$表示平均值，$\sigma$表示標準差。

現(xiàn)在，我們的先驗并不完全是上面的表達式。相反，它是我們對每個參數(shù) $\mu$ 和 $\sigma$ 如何分布的假設(shè)。請注意，這就是貝葉斯統(tǒng)計的定義特征的體現(xiàn)：我們?nèi)绾握业竭@些參數(shù)的分布？有趣的是，我們根據(jù)先驗知識“編造”它們。如果我們的先驗知識很少，我們可以選擇一個非常無信息的先驗，以免使過程產(chǎn)生偏差。例如，我們可以定義平均高度 $\mu$ 介于 $1.65m$ 和 $1.8m$ 之間。如果我們想要一個無信息的先驗，我們可以說 $\mu$ 沿著該區(qū)間均勻分布。相反，如果我們認為平均高度在某種程度上偏向于更接近 $1.65m$ 而不是 $1.8m$ 的值，我們可以定義 $\mu$ 服從 beta 分布，由“超”參數(shù) $\alpha$ 定義和$\beta$。我們可以看看下面這些選項：

import scipy.stats as sts
import numpy as np
import matplotlib.pyplot as pltmu = np.linspace(1.65, 1.8, num = 50)
test = np.linspace(0, 2)
uniform_dist = sts.uniform.pdf(mu) + 1 
uniform_dist = uniform_dist/uniform_dist.sum() 
beta_dist = sts.beta.pdf(mu, 2, 5, loc = 1.65, scale = 0.2) 
beta_dist = beta_dist/beta_dist.sum()
plt.plot(mu, beta_dist, label = 'Beta Dist')
plt.plot(mu, uniform_dist, label = 'Uniform Dist')
plt.xlabel("Value of $\mu$ in meters")
plt.ylabel("Probability density")
plt.legend()

請注意 y 軸如何為我們提供“概率密度”，即我們認為真正的 $\mu$ 是 $x$ 軸上的概率密度。另外，請注意，β 分布和均勻分布會導(dǎo)致我們對 $\mu$ 的值可能得出的不同結(jié)論。如果我們選擇均勻分布，我們就表示我們不傾向于判斷 $\mu$ 是否接近我們范圍內(nèi)的任何值，我們只是認為它位于其中的某個位置。如果我們選擇 beta 分布，我們相當(dāng)確定 $\mu$ 的“真實”值介于 $1.68m$ 和 $1.72m$ 之間，如藍線峰值所示。

請注意，我們正在討論 $\mu$ 的先驗，但我們的模型實際上有兩個參數(shù)：$N(\mu ,\sigma )$。一般來說，我們也可以定義 $\sigma$ 上的先驗。然而，如果我們對 $\sigma$ 的猜測感到幸運，或者如果我們想為了示例而簡化過程，我們可以將 $\sigma$ 設(shè)置為固定值，例如 $0.1m$。

似然表示為 $P($ Data $\mid \theta )$。在這種情況下，“數(shù)據(jù)”將是高度的觀測值。假設(shè)我們要測量一名隨機挑選的學(xué)生，他們的身高為 1.7m?？紤]到有了這個數(shù)據(jù)，我們現(xiàn)在可以了解 $\theta$ 的每個選項有多好。我們通過以下問題來做到這一點：如果 $\theta$ 的一個特定選項（稱為 $\theta 1$）是真實的，那么我們觀察到 $1.7m$ 高度的“可能性”有多大？ $\theta 2$ 怎么樣：如果 $\theta 2$ 是“正確”模型，觀察到 $1.7m$ 高度的可能性有多大？

然而，就我們目前的目的而言，我們正在改變分布/模型本身。這意味著我們的 $x$ 軸實際上將具有變量 $\mu$ 的不同可能性，而我們的 $y$ 軸將具有每種可能性的概率密度?？纯聪旅娴拇a，它代表了我們的似然函數(shù)及其可視化：

def likelihood_func(datum, mu):likelihood_out = sts.norm.pdf(datum, mu, scale = 0.1) return likelihood_out/likelihood_out.sum()likelihood_out = likelihood_func(1.7, mu)plt.plot(mu, likelihood_out)
plt.title("Likelihood of $\mu$ given observation 1.7m")
plt.ylabel("Probability Density/Likelihood")
plt.xlabel("Value of $\mu$")
plt.show()

一些統(tǒng)計學(xué)家將 $P($ Data $)$ 稱為“證據(jù)”。這個變量的含義非常簡單：它是產(chǎn)生價值數(shù)據(jù)的概率。然而，這很難直接計算。值得慶幸的是，我們有一個好辦法?？紤]以下方程：
$$\int P(\text{?Data?}\mid \theta )?P(\theta )d\theta =P(\text{?Data?})$$
貝葉斯定理的右側(cè) $P(\theta \mid$ Data) 稱為“后驗”。這是我們對數(shù)據(jù)如何分布的后驗理解，因為我們目睹了數(shù)據(jù)，并且我們有先驗知識。我們?nèi)绾蔚玫胶篁災(zāi)?#xff1f;回到方程：
$$P(\theta \mid \text{?Data?})=\frac{P(\text{?Data?}\mid \theta )?P(\theta )}{P(\text{?Data?})}$$
那么，第一步是將似然度 (P(Data $\mid \theta ))$ 與先驗 $(P(\theta ))$ 相乘：

import scipy as spunnormalized_posterior = likelihood_out * uniform_dist
plt.plot(mu, unnormalized_posterior)
plt.xlabel("$\mu$ in meters")
plt.ylabel("Unnormalized Posterior")
plt.show()

👉參閱一：計算思維

👉參閱二：亞圖跨際