「線形横長データ」の手法と特異値分解

「クラスター分析」、「主成分分析」、および「判別分析」の各プラットフォームにある「線形横長データ」の手法では、数千個あるいは数百万個の変数を持つデータセットの分析ができます。多変量分析の多くでは、共分散行列やその逆行列を求めます。変数の個数が多いデータで多変量分析を行うと、共分散行列が巨大になり、その計算や、その逆行列の計算が難しくなり、多大な計算コストがかかってしまいます。

n個の行とp個の列から成るデータがあるとしましょう。共分散行列のランクは、最大でもnとpのうち小さい方と等しくなります。横長のデータセットでは、pがnより大きいのが普通です。このような場合、共分散行列の逆行列における0以外の固有値は、多くてもn個となります。「線形横長データ」手法は、特異値分解とともにこの性質を利用して、効率的な計算を行います。第 “特異値分解の計算”を参照してください。