저장된 계산식에 대한 통계 상세 정보

이 섹션에서는 "판별 분석"의 빨간색 삼각형 메뉴에 있는 스코어 옵션 > 계산식 저장을 사용하여 저장된 계산식의 파생을 보여 줍니다. 계산식은 판별 방법에 따라 달라집니다.

범주형 변수 X에 의해 정의된 각 그룹에 대해 공변량의 관측값은 p 차원 다변량 정규 분포를 따른다고 가정됩니다. 여기서 p는 공변량 수입니다. 계산식에 사용되는 표기는 Table 5.2에 나와 있습니다.

선형 판별 방법

선형 판별 분석에서는 그룹 내 공분산 행렬이 모두 같다고 가정합니다. 공통 공분산 행렬은 Sp로 추정됩니다. 표기는 Table 5.2에서 확인하십시오.

관측값 y에서 그룹 t까지의 Mahalanobis 거리는 다음과 같이 정의됩니다.

그룹 t에서 관측값 y의 가능도는 다음과 같이 추정됩니다.

합동 공분산 행렬에 대해 추정해야 할 모수의 수는 p(p+1)/2이고 평균에 대해서는 Tp입니다. 추정해야 할 모수의 총 수는 p(p+1)/2 + Tp입니다.

그룹 t에 소속될 사후 확률은 다음과 같이 정의됩니다.

관측값 y는 사후 확률이 가장 큰 그룹에 할당됩니다.

선형 판별 방법에 의해 저장되는 계산식은 다음과 같이 정의됩니다.

2차 판별 방법

2차 판별 분석에서는 그룹 내 공분산 행렬이 같다고 가정되지 않습니다. 그룹 t에 대한 그룹 내 공분산 행렬은 St로 추정됩니다. 따라서 그룹 내 공분산 행렬에 대해 추정해야 할 모수의 수는 Tp(p+1)/2이고 평균에 대해서는 Tp입니다. 추정해야 할 모수의 총 수는 Tp(p+3)/2입니다.

그룹 표본 크기가 p에 비해 작으면 그룹 내 공분산 행렬의 추정값이 크게 변동되는 경향이 있습니다. 판별 스코어는 그룹 내 공분산 행렬에 대한 역행렬의 가장 작은 고유값에 크게 영향을 받습니다. 자세한 내용은 Friedman(1989) 연구 자료에서 확인하십시오. 따라서 그룹 표본 크기가 p에 비해 작은 경우 정규화 판별 방법에 설명된 정규화 방법을 고려할 수도 있습니다.

표기는 Table 5.2에서 확인하십시오. 관측값 y에서 그룹 t까지의 Mahalanobis 거리는 다음과 같이 정의됩니다.

그룹 t에서 관측값 y의 가능도는 다음과 같이 추정됩니다.

그룹 t에 소속될 사후 확률은 다음과 같습니다.

관측값 y는 사후 확률이 가장 큰 그룹에 할당됩니다.

2차 판별 방법에 의해 저장되는 계산식은 다음과 같이 정의됩니다.

참고: SqDist[<group t>]는 음수일 수 있습니다.

정규화 판별 방법

정규화 판별 분석에서는 l와 g라는 두 모수를 사용할 수 있습니다.

• l 모수는 동일하다고 가정되지 않는 합동 공분산 행렬과 그룹 내 공분산 행렬에 할당된 가중치의 균형을 맞춥니다.

• g 모수는 대각 행렬에 가깝게 축소할 크기를 결정합니다.

이 방법을 사용하면 정규화의 두 가지 측면을 활용하여 2차 판별 분석의 추정값에 안정성을 부여할 수 있습니다. 자세한 내용은 Friedman(1989) 연구 자료에서 확인하십시오. 표기는 Table 5.2에서 확인하십시오.

정규화 방법의 경우 그룹 t에 대한 공분산 행렬은 다음과 같습니다.

관측값 y에서 그룹 t까지의 Mahalanobis 거리는 다음과 같이 정의됩니다.

그룹 t에서 관측값 y의 가능도는 다음과 같이 추정됩니다.

그룹 t에 소속될 사후 확률은 다음과 같이 지정됩니다.

관측값 y는 사후 확률이 가장 큰 그룹에 할당됩니다.

정규화 판별 방법에 의해 저장되는 계산식은 아래와 같이 정의됩니다.

참고: SqDist[<group t>]는 음수일 수 있습니다.

와이드 선형 판별 방법

와이드 선형 방법은 공변량 수가 많은 경우, 특히 공변량 수가 관측값 수를 초과(p > n)하는 경우에 유용합니다. 이 방법은 합동 그룹 내 공분산 행렬 Sp의 역행렬 또는 전치를 효율적으로 계산하는 것에 중점을 둡니다(p > n인 경우). 여기에서는 큰 공분산 행렬에 대한 공간 할당 및 역행렬 계산이 발생하지 않도록 특이값 분해를 사용합니다.

와이드 선형 방법은 그룹 내 공분산 행렬이 같다고 가정하며, 관측값 수가 공변량 수와 같거나 이를 초과하는 경우 선형 방법과 동일합니다.

와이드 선형 계산

표기는 Table 5.2에서 확인하십시오. 다음 단계를 사용하여 와이드 선형 계산을 수행합니다.

1. 그룹 내 표본 평균의 T x p 행렬 M을 계산합니다. M의 (t,j)번째 항목인 mtj는 j번째 공변량에 대한 그룹 t 멤버의 표본 평균입니다.

2. 각 공변량 j에 대해 그룹 전체의 합동 표준편차를 계산합니다. 이를 sjj라고 합니다.

3. 대각 항목 sjj가 있는 대각 행렬을 Sdiag로 나타냅니다.

4. 각 공변량에 대한 값을 다음과 같이 중심화 및 척도화합니다.

– 관측값이 속한 그룹의 평균을 뺍니다.

– 차이를 합동 표준편차로 나눕니다.

그룹 t의 관측값 i에 대해 j번째 공변량의 그룹 중심화 및 척도화된 값은 다음과 같이 표기합니다.

t(i) 표기는 관측값 i가 속한 그룹 t를 나타냅니다.

5. 값 행렬을 Ys로 나타냅니다.

6. 그룹 중심화 및 척도화된 공변량의 합동 그룹 내 공분산 행렬을 R로 나타냅니다. R 행렬은 다음과 같이 지정됩니다.

7. Ys에 특이값 분해를 적용합니다.

여기서 U와 V는 직교정규이며 D는 대각선에 양수 항목(특이값)이 있는 대각 행렬입니다. 자세한 내용은 특이값 분해에서 확인하십시오.

그러면 R을 다음과 같이 쓸 수 있습니다.

8. R이 완전 계수인 경우 R-1/2은 다음과 같습니다.

여기서 D-1은 대각 항목이 D의 대각 항목에 대한 역행렬인 대각 행렬입니다.

R이 완전 계수가 아닌 경우 R에 대한 유사역행렬을 다음과 같이 정의합니다.

그러면 R의 역제곱근을 다음과 같이 정의합니다.

9. R이 완전 계수이면 R- = R-1이 됩니다. 따라서 완비성을 위해 유사역행렬을 사용하여 계속합니다.

p x p 행렬 Ts를 다음과 같이 정의합니다.

그러면 다음과 같이 구성할 수 있습니다.

여기서 S-p는 원래 데이터에 대해 SVD를 사용하여 계산된 합동 그룹 내 공분산 행렬의 일반화 역행렬입니다.

Mahalanobis 거리

Mahalanobis 거리, 가능도 및 사후 확률에 대한 계산식은 선형 판별 방법의 계산식과 동일합니다. 그러나 Sp의 역행렬은 특이값 분해를 사용하여 계산된 일반화 역행렬로 대체됩니다.

계산식을 저장하면 분해 형식으로 Mahalanobis 거리가 제공됩니다. 관측값 y에 대해 그룹 t까지의 제곱 거리는 다음과 같습니다. 여기서 마지막 등식의 SqDist[0] 및 판별 주성분은 저장된 계산식에 정의되어 있습니다.

저장된 계산식

다음은 와이드 선형 판별 방법에 의해 저장되는 계산식입니다.

더 많은 정보를 원하십니까? 질문이 있습니까? JMP 사용자 커뮤니티에서 답변 받기 (community.jmp.com).