「ステップワイズ回帰の設定」パネル

「ステップワイズ回帰の設定」パネルでは、説明変数を取捨選択するときの有意水準や方法を指定したり、処理を開始／停止したりできます。［実行］ボタンの下に、モデルの作成に使われた行の数のリストが表示されます。このリストには学習行、テスト行、検証行の行数が含まれます（該当する場合）。また、除外または欠測値の行の総数も表示されます。

図5.6 「ステップワイズ回帰の設定」パネル 

停止ルール

「停止ルール」には、変数選択のアルゴリズムを停止させるルールを指定します。［閾値p値］以外のすべての停止ルールに対しては、方向として［変数増加］と［変数減少］のいずれかだけを使用できます。検証データを使用する停止ルールは、［最大検証R2乗］と［最大K分割R2乗］だけです。

「停止ルール」では、次のオプションを使用できます。

閾値p値

p値に基づいて変数を追加／削除します。閾値を指定してください。

［変数を追加するときのp値］

には、モデルに変数を追加するときのp値の上限を指定します。

［変数を除去するときのp値］

には、モデルから変数を削除するときのp値の下限を指定します。

メモ: 「変数を除去するときのp値」に「変数を追加するときのp値」よりも小さい値を指定した場合は、「変数を追加するときのp値」の値が両方に使用されます。

最小AICc

AICc（修正された赤池情報量規準）が最小となるモデルを選択します。詳細については、尤度・AICc・BICを参照してください。

最小BIC

BIC（Schwartzのベイズ情報量規準）が最小となるモデルを選択します。詳細については、尤度・AICc・BICを参照してください。

最大検証R2乗

（検証セットが使用された場合にのみ使用可能。）検証データのR2乗が最大となるモデルを選択します。［最大検証R2乗］のルールは、検証セットのR2乗統計量が最大になるモデルを見つけようとします。

最大K分割R2乗

（K分割交差検証を使用する場合にのみ使用可能。）K分割交差検証のR2乗が最大となるモデルを選択します。このオプションを選択した場合、分割の数を指定する必要があります。

方向

変数選択アルゴリズムにおいて、効果を追加または除去するかを指定します。次のいずれかのオプションを選択します。

変数増加

p値が最も小さい項からモデルに追加していきます。停止ルールに［閾値p値］を選択した場合は、「変数を追加するときのp値」で指定した水準以下のものしか追加されません。詳細については、変数増加法の例を参照してください。

変数減少

p値が最も大きい項からモデルから削除していきます。停止ルールに［閾値p値］を選択した場合は、「変数を除去するときのp値」で指定した水準以上のものしか削除されません。詳細については、変数減少法の例を参照してください。

メモ: ［方向］で［変数減少］を選択した場合は、必ず［すべて追加］をクリックしてから［実行］または［ステップ］をクリックしてください。

変数増減

（停止ルールに［閾値p値］を選択した場合にのみ使用可能。）変数の追加と削除を交互に実行します。「変数を追加するときのp値」を満たす変数のうちでp値が最小のものが追加され、「変数を除去するときのp値」を満たす変数のうちでp値が最大のものが削除されます。

メモ: 「変数を除去するときのp値」に「変数を追加するときのp値」よりも小さい値を指定した場合は、「変数を追加するときのp値」の値が両方に使用されます。

ルール

「ルール」オプションは、モデルの項に階層的な関係がある場合に表示されます。名義尺度または順序尺度の変数がある場合、関連する項が作成され、「現在の推定値」表に表示されます。

「ルール」オプションでは、モデルの項に階層的な関係があるときに適用したいルールを選択します。次のような場合に階層が生じます。

• ある変数が別の変数の構成要素である場合は、階層が生じます。たとえば、モデルにA、B、A*Bという変数があるとき、AとBは、階層においてA*Bの上位の項となっています。

• 名義尺度または順序尺度の変数を含めた場合も、階層が生じます。ある項をモデルに含めるときに、先に含めないといけない項がある場合、後者の項を、階層における上位の項と呼びます。詳細については、階層的な項の作成を参照してください。

次のいずれかのオプションを選択します。

組み合わせ

ある項を追加するかどうかを検討する際、その項に対する上位の項がある場合に、2つの検定のp値における最大値が計算されます。1番目のp値、p1は、該当する項と上位の項を一緒にまとめてF検定した結果のp値です。2番目のp2は、上位の項をモデルに追加した後に計算される、その項だけのp値です。最終的なp値は、max(p1, p2)と定義されます。どちらの場合も、上位の項を持つ項が追加されたときは、その上位の項も追加されます。

交互作用A*Bを検討する場合、親子関係に基づき、A*Bをモデルに含めるにはAとBがモデルに含まれていなければなりません。前述の1つ目の検定は、A、B、A*Bをまとめて行うものであり、2つ目の検定は、検定前にモデルにAとBが含まれていた状態で、A*Bを対象として行うものです。

ヒント: ［組み合わせ］ルールは、特に強い効果を持つ上位の項がある場合に、有意でない交互作用効果が含まれてしまうのを防ぎます。この例では、主効果が強いために、主効果と交互作用と一緒に検定したp値であるp1は非常に小さくなる可能性があります。しかし、交互作用自体は有意でないので、2番目のp値は大きくなるでしょう。その結果、大きな値となっているp2のほうが、最終的なp値として使用されます。

注意: 上位の項を持つ項における「自由度」は、大きい方のp値の検定における自由度です。つまり、「現在の推定値」表にある「自由度」は、最終的に使われた検定の自由度です。p1が使用された場合、「自由度」はその項と上位と項を組み合わせた全体の自由度です。一方、p2が使用された場合、「自由度」は1になります。

［組み合わせ］オプションは、デフォルトで適用されるルールです。交差・交互作用・多項式の項を含んだモデルを参照してください。

制限

上位の項が追加されないと下位の項も追加されないように、制限が課されます。名義尺度や順序尺度の効果を含んだモデルおよび階層的な項に対する［制限］ルールの例を参照してください。

ルールなし

階層に関係なく、項が完全に自由に選択されます。

効果全体

その効果に関与する項が有意な場合に、効果全体が追加されます。このルールは、3水準以上のカテゴリカル変数がモデル効果にある場合のみ意味があります。

効果全体 (親子関係を考慮)

効果の親子関係を考慮に入れながら、効果全体を追加します。増加ステップでは、モデルに追加する次の項が交互作用の場合、交互作用に含まれる主効果もモデルに追加されます。減少ステップでは、モデルから削除する次の項が主効果の場合、その主効果を含む交互作用もすべてモデルから削除されます。

ボタン

「ステップワイズ回帰の設定」パネルには次のボタンがあります。

実行

選択処理を最後まで実行します。あてはめたモデルのうち、選択された停止ルールに基づいて最良とみなされたモデルがリストの最後に表示されます。「停止ルール」が［閾値p値］である場合を除き、最良のモデルとして選ばれたモデルは、指定された基準から見て大域的に最良なモデルではなく、単に局所的に最良なモデルです。［モデルの作成］と［モデルの実行］をクリックすると選ばれた最良のモデルがあてはめられますが、あてはめられるモデルは各モデルの右側にあるラジオボタンを選択すると変更できます。

– ［閾値p値］の場合、最良のモデルは「変数を追加するときのp値」と「変数を除去するときのp値」の基準に基づきます。閾値p値を参照してください。

– ［最小AICc］と［最小BIC］では、最良のモデルが見つかるまであてはめが自動的に実行されます。ここでの最良のモデルは、AICcやBICが最小となるモデルです。モデルをあてはめていき、AICcやBICが現在の値よりも連続で10個大きいものが続けば処理を打ち切ります。最終的に選択された最良のモデルに対しては、「パラメータ」列に「最適」と、「アクション」列に「特定」と表示されます。

– ［最大検証R2乗］（JMP Proのみ）と［最大K分割R2乗］でも、最良のモデルが見つかるまであてはめが自動的に実行されます。ここでの最良のモデルは、検証R2乗やK分割R2乗が最大となるモデルです。モデルをあてはめていき、検証R2乗やK分割R2乗が現在の値よりも連続で10個小さいものが続けば処理を打ち切ります。最終的に選択された最良のモデルに対しては、「パラメータ」列に「最適」と、「アクション」列に「特定」と表示されます。

ヒント: スクリプトでは、GoオプションではなくFinishオプションを使用することをお勧めします。

停止

［実行］ボタンによって開始された変数選択処理を停止します。

ステップ

選択処理を1ステップずつ実行します。

矢印ボタン

変数追加（）や変数減少（）を、1ステップだけ実行します。

すべて追加

ロックされていない項をすべてモデルに追加します。

すべて削除

ロックされていない項をすべてモデルから削除します。

モデルの作成

「現在の推定値」表で指定されたモデルの「モデルのあてはめ」起動ウィンドウを開きます。名義尺度または順序尺度の変数がある場合は、［モデルの作成］を行うと、変数選択の結果に応じて、一時的な変換列も作られます。

モデルの実行

「現在の推定値」表で指定されたモデルの「標準最小2乗」レポートを開きます。名義尺度または順序尺度の変数がある場合は、［モデルの実行］を行うと、変数選択の結果に応じて、一時的な変換列も作られます。既存のレポートに新たなモデルが追加されます。

統計量

「ステップワイズ回帰の設定」パネルの下には、次のような統計量が表示されます。

SSE

（連続尺度の応答に対してのみ表示されます。）現在のモデルから計算される誤差（残差）の平方和。

DFE

（応答が連続尺度の場合にのみ使用可能。）現在のモデルから計算される誤差の自由度。

RMSE

（応答が連続尺度の場合にのみ使用可能。）現在のモデルから計算される誤差の標準偏差（誤差の平均平方の平方根）。

(-1)*対数尤度

（応答変数がカテゴリカルの場合にのみ使用可能。）現在のモデルの尤度関数の自然対数に-1を掛けたもの。詳細については、尤度・AICc・BICを参照してください。

R2乗

決定係数、寄与率とも呼ばれている統計量。応答変数の変動のうちで、モデルの効果によって説明される割合を表します。

自由度調整R2乗

（応答が連続尺度の場合にのみ使用可能。）パラメータ数が異なるモデルでも比較できるように、自由度によってR2を調整したもの。モデルに含まれる項の数を調整してあるため、ステップワイズ法で候補に挙がったモデルを比較するときに有効です。

Cp

（応答が連続尺度の場合にのみ使用可能。）MallowsのCp規準。誤差平方和を調整した指標で、次の式で定義されます。

s2は完全モデルのMSE（誤差の平均平方）で、SSEpは、切片を含めてp個のパラメータがあるモデルの誤差平方和です。pは説明変数の個数に1を足したものです。Mallows（1973）は、pに対してCpをプロットしたときに、Cpがpに近づき始めたところのモデルを選ぶことを推奨しています。

p

切片を含むモデルパラメータの数。

AICc

修正済みの赤池の情報量規準。尤度・AICc・BICを参照してください。

BIC

ベイズ情報量規準。詳細については、尤度・AICc・BICを参照してください。

R2乗 検証

（検証セットが使用された場合にのみ使用可能。）検証セットに対する、あてはめたモデルのR2乗。この値は、「ステップ履歴」レポートにも表示されます。

RASE 検証

（連続尺度の応答に対して検証セットを使用した場合にのみ使用可能。）検証セットに対する、現在のモデルから計算される誤差の標準偏差（誤差の平均平方の平方根）。

R2乗 テスト

（検証セットとテストセットを使用した場合にのみ使用可能。）テストセットに対する、あてはめたモデルのR2乗。

RASE テスト

（連続尺度の応答に対して検証セットとテストセットを使用した場合にのみ使用可能。）テストセットに対する、現在のモデルから計算される誤差の標準偏差（誤差の平均平方の平方根）。

平均対数誤差 検証

（カテゴリカルな応答に対して検証セットを使用した場合にのみ使用可能。）学習セットから得たモデルを検証セットに適用したときの誤差の指標。値は、小さいほうが望ましいです。詳細については、検証セットやテストセットの適合度統計量を参照してください。

平均対数誤差 テスト

（カテゴリカルな応答に対して検証セットとテストセットを使用した場合にのみ使用可能。）学習セットから得たモデルをテストセットに適用したときの誤差の指標。値は、小さいほうが望ましいです。詳細については、検証セットやテストセットの適合度統計量を参照してください。