当前位置: 首页> 教育> 培训 > 深圳独立设计工作室_免费咨询平台_怎么在百度推广自己的网站_搜索引擎排名2021

深圳独立设计工作室_免费咨询平台_怎么在百度推广自己的网站_搜索引擎排名2021

时间:2025/7/11 23:39:06来源:https://blog.csdn.net/HEHEE1029/article/details/143200843 浏览次数:1次
深圳独立设计工作室_免费咨询平台_怎么在百度推广自己的网站_搜索引擎排名2021

内容来源

贝叶斯统计(第二版)中国统计出版社


定义

θ \theta θ 是总体分布中的参数(或参数向量), π ( θ ) \pi(\theta) π(θ) θ \theta θ 的先验密度函数

假如由抽样信息算得的后验密度函数与 π ( θ ) \pi(\theta) π(θ)相同的函数形式,则称 π ( θ ) \pi(\theta) π(θ) θ \theta θ 的共轭先验分布

例:正态均值(方差已知)的共轭先验分布是正态分布

x 1 , ⋯ , x n x_1,\cdots,x_n x1,,xn 是来自正态分布 N ( θ , σ 2 ) N(\theta,\sigma^2) N(θ,σ2) 的一个样本观察值。其中 σ 2 \sigma^2 σ2 已知

则该样本的似然函数为

p ( x ∣ θ ) = ( − 1 2 π σ ) n exp ⁡ { − 1 2 σ 2 ∑ i = 1 n ( x i − θ ) 2 } p(x|\theta)=\left(-\frac{1}{\sqrt{2\pi}\sigma}\right)^n \exp\left\{-\frac{1}{2\sigma^2}\sum^n_{i=1}(x_i-\theta)^2\right\} p(xθ)=(2π σ1)nexp{2σ21i=1n(xiθ)2}

现取另一个正态分布 N ( μ , τ 2 ) N(\mu,\tau^2) N(μ,τ2) 作为正态均值 θ \theta θ 的先验分布,即

π ( θ ) = 1 2 π τ exp ⁡ { − ( θ − μ ) 2 2 τ 2 } \pi(\theta)=\frac{1}{\sqrt{2\pi}\tau}\exp\left\{-\frac{(\theta-\mu)^2} {2\tau^2}\right\} π(θ)=2π τ1exp{2τ2(θμ)2}

其中 μ \mu μ τ 2 \tau^2 τ2 为已知,由此可以写出样本 x x x 与参数 θ \theta θ 的联合密度函数

h ( x , θ ) = k 1 exp ⁡ { − 1 2 [ n θ 2 − 2 n θ x ‾ + ∑ i = 1 n x i 2 σ 2 + θ 2 − 2 μ θ + μ 2 τ 2 ] } h(x,\theta)=k_1\exp\left\{-\frac{1}{2} \left[ \frac{n\theta^2-2n\theta\overline{x}+\sum^n_{i=1}x^2_i}{\sigma^2}+ \frac{\theta^2-2\mu\theta+\mu^2}{\tau^2} \right] \right\} h(x,θ)=k1exp{21[σ2nθ22nθx+i=1nxi2+τ2θ22μθ+μ2]}

其中

k 1 = ( 2 π ) n + 1 2 τ − 1 σ − n , x ‾ = 1 n ∑ i = 1 n x i k_1=(2\pi)^{\frac{n+1}{2}}\tau^{-1}\sigma^{-n}, \overline{x}=\frac{1}{n}\sum^n_{i=1}x_i k1=(2π)2n+1τ1σn,x=n1i=1nxi

若再记(至于这个再记是怎么想出来的…)

σ 0 2 = σ 2 n , A = 1 σ 0 2 + 1 τ 2 , B = x σ 0 2 + μ τ 2 , C = 1 σ 2 ∑ i = 1 n x i 2 + μ 2 τ 2 \sigma^2_0=\frac{\sigma^2}{n}, A=\frac{1}{\sigma^2_0}+\frac{1}{\tau^2}, B=\frac{x}{\sigma^2_0}+\frac{\mu}{\tau^2}, C=\frac{1}{\sigma^2}\sum^n_{i=1}x^2_i+\frac{\mu^2}{\tau^2} σ02=nσ2,A=σ021+τ21,B=σ02x+τ2μ,C=σ21i=1nxi2+τ2μ2

则有

h ( x , θ ) = k 1 exp ⁡ { − 1 2 [ A θ 2 − 2 θ B + C ] } = k 2 exp ⁡ { − ( θ − B / A ) 2 2 / A } \begin{align*} h(x,\theta)&=k_1\exp\left\{-\frac{1}{2}\left[ A\theta^2-2\theta B+C \right]\right\}\\ &=k_2\exp\left\{-\frac{(\theta-B/A)^2}{2/A}\right\}\\ \end{align*} h(x,θ)=k1exp{21[Aθ22θB+C]}=k2exp{2/A(θB/A)2}

其中

k 2 = k 1 exp ⁡ { − 1 2 ( C − B 2 / A ) } k_2=k_1\exp\left\{-\frac{1}{2}(C-B^2/A)\right\} k2=k1exp{21(CB2/A)}

由此容易算得样本 x x x 的边缘分布(用高斯积分)

m ( x ) = ∫ − ∞ ∞ h ( x , θ ) d θ = k 2 ( 2 π A ) 1 2 m(x)=\int^\infty_{-\infty}h(x,\theta)\mathrm{d}\theta= k_2\left(\frac{2\pi}{A}\right)^{\frac{1}{2}} m(x)=h(x,θ)dθ=k2(A2π)21

所以 θ \theta θ 的后验分布为

π ( θ ∣ x ) = ( 2 π A ) − 1 2 exp ⁡ { − ( θ − B / A ) 2 2 / A } \pi(\theta|x)=\left(\frac{2\pi}{A}\right)^{-\frac{1}{2}} \exp\left\{-\frac{(\theta-B/A)^2}{2/A}\right\} π(θx)=(A2π)21exp{2/A(θB/A)2}

这是正态分布,其均值与方差分别为

μ 1 = B A = x ‾ σ 0 − 2 + μ τ − 2 σ 0 − 2 + τ − 2 , τ 1 2 = A − 1 = ( 1 σ 0 2 + 1 τ 2 ) − 1 \mu_1=\frac{B}{A}=\frac{\overline{x}\sigma^{-2}_0+\mu\tau^{-2}} {\sigma^{-2}_0+\tau^{-2}}, \tau^2_1=A^{-1}=\left(\frac{1}{\sigma^2_0}+\frac{1}{\tau^2}\right)^{-1} μ1=AB=σ02+τ2xσ02+μτ2,τ12=A1=(σ021+τ21)1

关键字:深圳独立设计工作室_免费咨询平台_怎么在百度推广自己的网站_搜索引擎排名2021

版权声明:

本网仅为发布的内容提供存储空间,不对发表、转载的内容提供任何形式的保证。凡本网注明“来源:XXX网络”的作品,均转载自其它媒体,著作权归作者所有,商业转载请联系作者获得授权,非商业转载请注明出处。

我们尊重并感谢每一位作者,均已注明文章来源和作者。如因作品内容、版权或其它问题,请及时与我们联系,联系邮箱:809451989@qq.com,投稿邮箱:809451989@qq.com

责任编辑: