「機械学習/mixture model」の編集履歴(バックアップ)一覧に戻る
機械学習/mixture model - (2010/01/21 (木) 07:08:56) の編集履歴(バックアップ)
この項の問題点
まだ書きかけ。
概要
EMアルゴリズムの
は以下の形。
はcategorical distributionにしたがうとします。
(categorical distributionはBernoulli distributionの拡張です。)
つまり
と表し、
を満たします。
Lagrange multiplierを用いて最大化を行い更新式を求めます。
を直接求めてもよいですが、単純に
となるように正規化すればよいです。
が多次元正規分布(multivariate normal distribution)の場合を考えます。
つまりGaussian mixtureの時です。
はベクトルで表現し、
と
はそれぞれ、平均ベクトルと共分散行列です。