読者です 読者をやめる 読者になる 読者になる

鴨川にあこがれる日々

軽い技術っぽい記事かいてます

PRML 演習8.17

数学

はじめに

メッセージパッシングのあたりから怪しくなってきましたが,頑張って解きます.

本題

まず以下のような無向グラフを考える.
f:id:another16javac:20150624032556p:plain
3と5が観測されているときに, x_2 \perp x_5 | x_3を示す.
観測された場合は,以下のようになる.
f:id:another16javac:20150624033049p:plain

上記のグラフより x_2から x_5の経路は,ただひとつ.
このとき,ノード x_3はhead-to-tailである.(p91a)

よって x_2から x_5の経路は遮断されている.
ゆえに, x_2 \perp x_5 | x_3を満たす.

次に,メッセージパッシングアルゴリズムを用いた時,結果が x_5に依存しないことを示す.

ここから怪しいです.

上記の結果から,条件付き独立性を用いて,

\begin{align}
p(x_2|x_3,x_5) &= p(x_2|x_3) \\
&= \frac{p(x_2,x_3)}{p(x_3)} \\
&= \frac{\frac{1}{Z_1} \mu_{\alpha}(x_2) \psi_{x_2,x_3} (x_2,x_3) \mu_{\beta}(x_3)}{\frac{1}{Z_2}\mu_{\alpha}(x_3)\mu_{\beta}(x_3)} \\
&= \frac{\frac{1}{Z_1} \mu_{\alpha}(x_2) \psi_{x_2,x_3} (x_2,x_3)}{\frac{1}{Z_2}\mu_{\alpha}(x_3)}
\end{align}

となり,この結果は x_5の値に依存しない.
なぜなら \mu_{\alpha} x_5まで伝播しないため

疑問点
  • 条件付き独立性を使わずに計算した方がよさそうな印象を受けたけど,どうなんだろう
  • Zは \muの積に規格化定数であるので,分母と分子でおそらく違うはずなので,区別して書きました.