2012/08/06

文系のための「特異値分解」(2)

ふむふむ。何となく、「特異値分解」というものが、
複雑な状況を整理していることが解ってもらった...と信じたい。
要するに、難しく考えてはいけないのである。肩の力を少し抜いてみよう。

っで、肩の力を抜いたところで、
今度は、肩に力が入ってしまいそうな話をする。
ここでは、ちょっと我慢というのが必要である。

つまり、「特異値分解」がどういった分解であるか?ということである。
簡単に言うと、あるn行 × p列 から成る行列があって、
その行列を三つの行列に分解することである。すなわち、

  • 一つ目の行列が、「左特異ベクトル」と呼ばれる行列(u)
  • 二つ目の行列が、「特異値行列」と呼ばれる行列(d)
  • 三つ目の行列が、「右特異ベクトル」と呼ばれる行列(v)

この三つのうち、「u」と「v」が「直交行列」と呼ばれる行列であり、
「d」が「対角行列」と呼ばれる行列であり、
その対角成分に「特異値」というのが並んで入っている。

「特異値行列」とは、全くもって、不可解な用語であるが、
言葉の意味から入ると、混乱の原因となるので、
気持ち悪くても、以下のような性質があるということで納得したい。

まず、「特異値行列」である「d」というのは、
ある次元を、別の次元に変換するためのある種の変換行列であって、
必ず、正の値を取るようになっている。

二つの「特異ベクトル」行列は、「直交行列」であることが重要。
というのは、「直交行列」は定義上、その転置行列が「逆行列」に等しく、
つまり、元の「直交行列」にその転置行列を掛けると「単位行列」が出てくる。
この性質を用いることで、様々な複雑な計算が魔法のように解ける。

ここでは、n > p の場合を想定する。言い換えれば、
「対象の数(n)」の方が、「変数の数(p)」よりも多い状況である。
このとき、u の行列は、n行 × p列 の行列、つまり、元の行列と同じサイズの行列で、
d と v の行列は、p行 × p列 の正方行列になる。

こういう分解をするのが「特異値分解」と呼ばれる分解である。

では、なぜ、このような不思議な変換を用いるかと言うと、
この分解を行うことで、魔法のように様々なことができるのである。
「擬逆行列」と「固有値」を求めるのも非常に楽になる。

1 件のコメント:

  1. ここでは、n > p の場合を想定する。言い換えれば、
    「対象の数(n)」の方が、「変数の数(p)」よりも多い状況である。
    このとき、u の行列は、n行 × p列 の行列、つまり、元の行列と同じサイズの行列で、
    d と v の行列は、p行 × p列 の正方行列になる。

    とありますが、
    ここで「u」と「d」が逆ではないでしょうか?

    確認よろしくお願いします。

    返信削除