http://w.atwiki.jp/critter_eng/ critter_eng @ ウィキ ja 2015-10-30T11:03:48+09:00 1446170628 https://w.atwiki.jp/critter_eng/pages/13.html \chapter{近似推論法} \section{変分推論} モデルパラメータ（および9章での潜在変数）を$\bm{Z}$とし、観測変数を$\bm{X}$と書く。 確率モデルによって同時分布$p(\bm{X},\bm{Z})$が定められ、周辺分布の対数は任意の分布$q(\bm{Z})$を用いて \begin{eqnarray} \ln p(\bm{X}) &=& \mathcal{L}(q) + \mathrm{KL}(q||p) \notag \\ \mathcal{L}(q) &=& \int q(\bm{Z}) \ln \left \{ \frac{p(\bm{X},\bm{Z})}{q(\bm{Z})}\right \} d\bm{Z} \notag \\ \mathrm{KL}(q||p) &=& - \int q(\bm{Z}) \ln \left \{ \frac{p(\bm{Z}|\bm{X})}{q(\bm{Z})} \right \} d\bm{Z} \end{eqnarray} と分解することができる。 \subsection{分布の分解} ここでは$\bm{Z}$の要素をいくつかの排反なグループに分割し、$\bm{Z}_{i}\ (i=1,\cdots,M)$と書き \begin{eqnarray} q(\bm{Z}) = \prod_{i=1}^{M}q_{i}(\bm{Z}_{i}) \end{eqnarray} と分解できると仮定する。 $\mathcal{L}(q)$に対する一つの因子に注目するため、$q_{j}(\bm{Z}_{j})$に対する依存項を取り出してみると、$q_{j}(\bm{Z}_{j})$を$q_{j}$と書き \begin{eqnarray} \mathcal{L}(q) &=& \int \prod_{i}q_{i} \left \{ \ln p(\bm{X},\bm{Z}) - \sum_{i'}\ln q_{i'} \right \} d\bm{Z} \notag \\ &=& \int q_{j} \left \{ \int \ln p(\bm{X},\bm{Z}) \prod_{i\neq j}q_{i} d\bm{Z}_{i} \right \} d\bm 2015-10-30T11:03:48+09:00 1446170628 https://w.atwiki.jp/critter_eng/pages/12.html \documentclass[10pt]{jreport} \usepackage{bm} \usepackage{amsmath} \usepackage{amsfonts} \usepackage{mathtools} \usepackage{txfonts} \usepackage{color} \usepackage{geometry} \DeclareMathOperator*{\argmax}{arg\,max} \begin{document} \chapter{序論} \section{例：多項式曲線フィッティング} N個の観測値xおよび対応する観測値tが存在。 フィッティングを \begin{eqnarray} y(x,\bm{w}) = w_{0}+w_{1}x+ w_{2}x^2 + \cdots + w_{M}x^{m} = \sum_{j=0}^{M}w_{j}x^{j} \end{eqnarray} により行う。二乗和誤差は \begin{eqnarray} E(\bm{w}) = \frac{1}{2}\sum_{n=1}^{N}\{y(x_{n},\bm{w})-t_{n}\}^2 \end{eqnarray} により定義される。これを最小化する$\bm{w}$を$\bm{w}^{*}$と書き \begin{eqnarray} E_{\mathrm{RMS}} = \sqrt{2E(\bm{w}^{*})/N} \end{eqnarray} を平均二乗平方根誤差という。過学習を抑制するために \begin{eqnarray} \tilde{E}(\bm{w}) = \frac{1}{2}\sum_{n=1}^{N}\{y(x_{n},\bm{w})-t_{n}\}^2 + \frac{\lambda}{2}||\bm{w}||^2 \end{eqnarray} を用いることもある。これを正則化という。 \section{確率論} 省略 \subsection{確率密度} 省略 \subsection{期待値と分散} ある関数$f(x)$の確率分布$p(x)$のもとでの期待値は \begin{eqnarray} \mathbb{E}[f] \equ 2015-10-30T11:01:19+09:00 1446170479 https://w.atwiki.jp/critter_eng/pages/11.html *インスタグラムプラグイン 人気の画像共有サービス、Instagram(インスタグラム）の画像をアットウィキに貼れるプラグインです。 #ig_user(ユーザー名) と記載することで、特定ユーザーのInstagramのフィードを表示することができます。 例）@dogoftheday #ig_user(dogoftheday) ---- #ig_tags(タグ名) と記載することで、特定タグのInstagramのフィードを表示することができます。 #dogofthedayjp タグ #ig_tag(dogofthedayjp) ---- #ig_popular と記載することで、Instagramのpopularフィードを表示することができます。 詳しい使い方は以下のページを参考にしてください！ ＝＞http://www1.atwiki.jp/guide/pages/935.html -------- 2015-10-30T03:17:02+09:00 1446142622 https://w.atwiki.jp/critter_eng/pages/10.html * コメントプラグイン @wikiのwikiモードでは #comment() と入力することでコメントフォームを簡単に作成することができます。 詳しくはこちらをご覧ください。 ＝＞http://www1.atwiki.jp/guide/pages/921.html#id_476878da ----- たとえば、#comment() と入力すると以下のように表示されます。 #comment 2015-10-30T03:17:02+09:00 1446142622 https://w.atwiki.jp/critter_eng/pages/9.html @wikiにはいくつかの便利なプラグインがあります。 ----- #ls ----- これ以外のプラグインについては@wikiガイドをご覧ください =>http://atwiki.jp/guide/ 2015-10-30T03:17:02+09:00 1446142622 https://w.atwiki.jp/critter_eng/pages/8.html * 動画(youtube) @wikiのwikiモードでは #video(動画のURL) と入力することで、動画を貼り付けることが出来ます。 詳しくはこちらをご覧ください。 ＝＞http://www1.atwiki.jp/guide/pages/801.html#id_30dcdc73 また動画のURLはYoutubeのURLをご利用ください。 ＝＞http://www.youtube.com/ ----- たとえば、#video(http://youtube.com/watch?v=kTV1CcS53JQ)と入力すると以下のように表示されます。 #video(http://youtube.com/watch?v=kTV1CcS53JQ) 2015-10-30T03:17:02+09:00 1446142622 https://w.atwiki.jp/critter_eng/pages/7.html *RSSを取り込んで一覧表示(rss) #rss(ここにＲＳＳのＵＲＬ) もしくは #rss(ここにＲＳＳのＵＲＬを入力) と入力することで指定したＲＳＳを取り込んで一覧表示します。 詳しくはこちらをご覧ください。 ＝＞http://www1.atwiki.jp/guide/pages/269.html#id_a0e79757 ---- たとえば、#rss(http://www1.atwiki.jp/guide/rss10_new.xml) と入力すると以下のように表示されます。 #rss(http://www1.atwiki.jp/guide/rss10_new.xml) 2015-10-30T03:17:02+09:00 1446142622 https://w.atwiki.jp/critter_eng/pages/6.html * アーカイブ @wikiのwikiモードでは #archive_log() と入力することで、特定のウェブページを保存しておくことができます。 詳しくはこちらをご覧ください。 ＝＞http://www1.atwiki.jp/guide/pages/921.html#id_2d967d6e ----- たとえば、#archive_log()と入力すると以下のように表示されます。 保存したいURLとサイト名を入力して"アーカイブログ"をクリックしてみよう #archive_log() 2015-10-30T03:17:02+09:00 1446142622 https://w.atwiki.jp/critter_eng/pages/5.html * 更新履歴 @wikiのwikiモードでは #recent(数字) と入力することで、wikiのページ更新履歴を表示することができます。 詳しくはこちらをご覧ください。 ＝＞http://www1.atwiki.jp/guide/pages/269.html#id_bf9eaeba ----- たとえば、#recent(20)と入力すると以下のように表示されます。 #recent(20) 2015-10-30T03:17:02+09:00 1446142622 https://w.atwiki.jp/critter_eng/pages/4.html * ニュース @wikiのwikiモードでは #news(興味のある単語) と入力することで、あるキーワードに関連するニュース一覧を表示することができます 詳しくはこちらをご覧ください。 ＝＞http://www1.atwiki.jp/guide/pages/266.html#id_542badf7 ----- たとえば、#news(ゲーム)と入力すると以下のように表示されます。 #news(ゲーム) 2015-10-30T03:17:02+09:00 1446142622