鴨川にあこがれる日々

軽い技術っぽい記事かいてます

PRML演習2.7 解答

* 余談
当ブログのPRMLの解答は,yousack.hateblo.jp
と補完関係にあるため,どちらかに挙がっていれば,積極的に記事にはしない予定です.


amzn.to

演習2.7は,p71で言及されていることの証明である.

事前平均は,式(2.15)より
\begin{align}
\mathbb{E}[\mu] = \frac{a}{a+b}.
\end{align}


 \mu最尤推定量は,式(2.8)より
\begin{align}
\mu_{ML} = \frac{m}{N}.
\end{align}

 \muの事後確率は,式(2.20)より

\begin{align}
p(x=1|D) = \frac{a+m}{a+b+m+l}.
\end{align}


これの式と  0 \leq \mu \leq 1を満たす  \mu を用いて


\begin{align}
\mu \frac{a}{a+b} + (1-\mu) \frac{m}{N}= \frac{a+m}{a+b+m+l} \tag{1}
\end{align}

が成立することを示す.

愚直に式変形してもできるかもしれないが,
左辺の分母を左辺のそれと同じくなるように \muの値を代入する.

 \mu = \frac{a+b}{a+b+m+l}
にすると, a,b,m,lは全て正であるので,
 \muは, 0 \leq \mu \leq 1を満たす.

式(1)の左辺に \muを代入すると,

\begin{align}
\mu \frac{a}{a+b} + (1-\mu) \frac{m}{N} &= \frac{a+b}{a+b+m+l}\frac{a}{a+b} + \frac{m+l}{a+b+m+l} \frac{m}{N} \\
&=\frac{a+b}{a+b+m+l}\frac{a}{a+b} + \frac{m+l}{a+b+m+l} \frac{m}{m+l} \\
&=\frac{a}{a+b+m+l} + \frac{m}{a+b+m+l} \\
&=\frac{a+m}{a+b+m+l}
\end{align}

より,右辺が導かれる.

以上.