orizuru

つながる.見える.わかる IoTソリュ-ション

識別モデルと生成モデル

約 11 分
識別モデルと生成モデル

はじめに

 分類問題に適用される機械学習の手法は、以下の3つに大別できる(下図参照)。

  1. 識別関数を用いるもの
  2. 識別モデルを用いるもの
  3. 生成モデルを用いるもの


識別関数は1つの点を推定するが、識別モデルと生成モデルは確率を推定する。各手法の代表的なアルゴリズムも上図に示した。

 今回の記事では、2分類問題を取り上げ、識別モデルと生成モデルの2つのアプローチでこれを解き、それぞれの手法の特長を解説する。

ソースコード

 今回のソースコードはここにあるsample.ipynbである。

識別モデル

 いま、観測データ\{X,Y\}が与えられているとする。ここで

(1)    \begin{eqnarray*} X&=&(x_1,\cdots,x_N), \;\;x_n \in \mathcal{R}^1\\ Y&=&(y_1,\cdots,y_N), \;\;\;y_n \in \{0,1\} \end{eqnarray*}

である。パラメータ\theta=(\alpha,\beta)を導入し、同時確率分布p(X,Y,\theta)を考える。ベイズの定理から次式を得る。

(2)    \begin{equation*} p(\theta|X,Y)=\frac{p(Y|X,\theta)p(\theta)}{p(Y|X)} \end{equation*}

最初に尤度p(Y|X,\theta)をBernoulli分布を用いてモデル化する。

(3)    \begin{eqnarray*} p(Y|X,\theta)&=&\prod_{n=1}^N p(y_n|x_n,\alpha,\beta) \\ p(y_n|x_n,\alpha,\beta) &=& {\rm Bern}(y_n|\nu_n) \\ &=& \nu_n^{y_n}(1-\nu_n)^{(1-y_n)} \\ \nu_n&=&f_s(z) \\ z&=&\alpha+\beta x_n \\ f_s(z)&=&\frac{1}{1+\exp{(-z)}} \end{eqnarray*}

次に事前分布p(\theta)をモデル化する。

(4)    \begin{eqnarray*} p(\theta)&=&p(\alpha)p(\beta) \\ p(\alpha)&=&\mathcal{N}(\alpha|0,\sigma^2_0) \\ p(\beta)&=&\mathcal{N}(\beta|0,\sigma^2_0) \end{eqnarray*}

ここで、\mathcal{N}(z|\mu,\sigma^2)は平均\mu、標準偏差\sigmaの正規分布を表す。先に与えた関数f_s(z)はシグモイド関数である(下図参照)。

この関数の値はy_nが1になる確率に相当するので、0と1を分離する境界線はf_s(z)=0.5となるzの値、z=0から求めることができる。すなわち

(5)    \begin{equation*} \alpha + \beta x_n=0 \end{equation*}

故に

(6)    \begin{equation*} x_n=-\frac{\alpha}{\beta}\equiv b_d \end{equation*}

が境界線となる。以上の準備のあと事後確率、p(\alpha|X,Y)p(\beta|X,Y)を求めることになる。\sigma_0はあらかじめ与える定数である。

 先に見た尤度p(Y|X,\theta)は、Xを与えて、それが属するクラスYを識別するモデルとなっている。これが識別モデルと呼ばれる所以である。

生成モデル

 同時確率分布p(X,Y,\theta)に戻る。この分布はベイズの定理より以下のように変形することもできる。

(7)    \begin{equation*} p(\theta|X,Y)=\frac{p(X|Y,\theta)p(\theta)}{p(X|Y)} \end{equation*}

最初に尤度p(X|Y,\theta)をモデル化する。

(8)    \begin{equation*} p(X|Y,\theta)=\prod_{n=1}^N p(x_n|y_n,\theta) \end{equation*}

ここで、y_nが0のときの分布と1のときの分布に分けて考える。

(9)    \begin{eqnarray*} p(x_n|y_n=0,\theta)&=&\mathcal{N}(x_n|\mu_0,\sigma_c^2) \\ p(x_n|y_n=1,\theta)&=&\mathcal{N}(x_n|\mu_1,\sigma_c^2) \end{eqnarray*}

どちらも正規分布とする。その標準偏差は共通の値とし、平均だけを異なるものとする。次に、事前分布p(\theta)をモデル化する。

(10)    \begin{eqnarray*} p(\theta)&=&p(\mu_i)p(\sigma_c),\;\;i=0,1 \\ p(\mu_i)&=&\mathcal{N}(\mu_i|0,\sigma^2_3) \\ p(\sigma_c)&=&\mathcal{N}(\sigma_c|0,\sigma^2_4),\;\;\sigma_c \geq 0  \end{eqnarray*}

\sigma_3,\sigma_4はあらかじめ与える定数である。2つのx_nの分布を正規分布とし、その標準偏差を同じものとしたので、2つの分布の境界線は次式で与えられる。

(11)    \begin{equation*} b_d=\frac{\mu_0+\mu_1}{2} \end{equation*}

以上の準備のあと事後確率、p(\mu_0|X,Y)p(\mu_1|X,Y)p(\sigma_c|X,Y)を求めることになる。

 ここでは尤度として2つのXの分布を考えた。すなわち、各クラスYに属するサンプルXを生成するモデルとなっている。これが生成モデルと呼ばれる所以である。

PyMC3による実装

 ここまでの計算を、データセット「iris」を用いてPyMC3により行う。このデータセットにはアヤメの3品種

  1. setosa
  2. versicolor
  3. virgnica

が50個ずつ集められており、4つの特徴量

  1. がく片の長さ:sepal length
  2. がく片の幅:sepal width
  3. 花びらの長さ:petal length
  4. 花びらの幅:petal width

の値が格納されている。データの先頭の様子は以下の通りである。

sepal_lengthについてのバイオリン図を次に示す。縦軸はsepal_lengthの値、横軸は3つの品種を表す。

バイオリン図とは、ヒストグラムを縦軸に沿って描画し、それを左右に展開したものである。今回は4つの特徴量の中のsepal lengthをx、setosaとversicolorの2品種をyとして用いる。

 最初に識別モデルを考える。コードは以下の通り。

  • 4行目:p(\alpha)を定義する。\sigma_0=10とした。
  • 5行目:p(\beta)を定義する。
  • 6行目:zを定義する。
  • 7行目:f_s(z)を定義する。
  • 8行目:b_dを定義する。
  • 9行目:尤度p(Y|X,\alpha,\beta)を定義する。
  • 10行目:MCMCを行う。

  • 収束具合を見るため、次のコードでGelman-Rubinテストを行う。

    計算される値は全て1.1未満となることを確認できる(結果は略)。1.1未満であれば収束したとみなして良い。次に、事後確率から算出される要約統計量を次のコードで計算する。

    出力は以下の通り。

    「mean」欄の「bd」の値5.42が、0と1を分ける境界線である。下図は、境界線の平均値とシグモイド関数の平均値を描画したものである。

    黒丸はsepal lengthの観測値(下側がsetosa)、濃い赤のラインが境界線b_dの平均値、薄い赤の領域がb_dの95%HPDである。また、濃い青のラインがシグモイド関数f_sの平均値、薄い青の領域がf_sの95%HPDである。ある量が95%HPDの領域内にあるとは、95%の確率でその領域内に存在することを意味する。HPDはHighest Posterior Density(最高事後密度)の略である。

     次に、生成モデルの場合を考える。コードは以下の通り。

  • 2行目:p(\mu_i)を定義する。\sigma_3=10とした。
  • 3行目:p(\sigma_c)を定義する。\sigma_4=5とした。
  • 4,5行目:2つの分布p(x_n|y_n=0,\theta)p(x_n|y_n=1,\theta)を定義する。
  • 6行目:b_dを定義する。
  • 7行目:MCMCを行う。

  • 先と同様に、Gelman-Rubinテストは合格する(詳細は略)。要約統計量は以下の通り。

    境界線の平均値は5.47程度になることが分かる。これは先に求めた識別モデルでの結果、5.42に近い値である。境界線の平均値と95%HPDを図示したものが下図である。

    識別モデルでの結果に比べ、95%HPDが少し狭くなっている。すなわち、生成モデルの方が確からしさの高い値になる。

    識別モデルと生成モデルの比較

     識別モデルと生成モデルの違いは、それぞれの尤度を比較すると明確になる。すなわち、前者の尤度はp(Y|X,\theta)であり、これはXが観測されたときクラスYが実現する確率を表している。識別を行うと言う目的に直接アプローチする手法である。一方、後者では、その尤度p(X|Y,\theta)を見ても分かる通り、識別に直接アプローチせず、Xの分布を最初に求めるている。この分布を通して未知パラメータの事後分布を求めることで本来の目的である識別を行っている。生成モデルの場合、Xの分布が得られるので、擬似データの生成や、外れ値検知などにも応用することができる。
     今回の例では、生成モデルの方が確度の高い境界線を得ることができた。その理由は、setosaとversicolorのサンプルが正規分布で良く近似できたためであると思われる。サンプルの分布が正規分布に従わない場合は、識別モデルの方が良いアプローチとなる。
     今回生成モデルで用いた境界線b_dはとても簡単な式(\mu_0+\mu_1)/2で表すことできた。その理由は、2つの正規分布の標準偏差を同じものとしたためである。サンプルの分布を正規分布とし、その標準偏差を等しくする解析手法を線形判別分析と呼ぶ。

    About The Author

    IoT/AIソリューション事業部(深層/機械学習・画像処理エンジニア)KumadaSeiya
    深層/機械学習と画像処理などを担当。物性理論で博士号を取得。
    http://seiya-kumada.blogspot.jp/
    https://twitter.com/seiya_kumada

    Leave A Reply

    *
    *
    * (公開されません)