부스티드 트리 플랫폼 개요
부스티드 트리 플랫폼에서는 여러 층으로 구성된 여러 개의 더 작은 의사 결정 나무를 기반으로 하는 가법 의사 결정 나무 모형을 생성합니다. 각 층의 트리는 소수의 분할로 구성됩니다(보통 5개 이하). 각 층은 "파티션 모형"에 설명된 재귀적 적합 방법론을 사용하여 적합됩니다. 차이는 지정된 수의 분할이 수행되면 적합이 중지된다는 것뿐입니다. 트리가 주어지면 잎에 있는 관측값의 예측값은 해당 잎에 있는 모든 관측값의 평균입니다.
적합 프로세스는 다음과 같습니다.
1. 초기 층을 적합시킵니다.
2. 잔차를 계산합니다. 이 값은 잎 내의 관측값에 대한 실제 값에서 예측 평균을 뺀 값입니다.
3. 잔차에 대해 새로운 층을 적합시킵니다.
4. 가법 트리를 생성합니다. 주어진 관측값에 대해 각 층의 예측값을 합산합니다.
5. 지정된 층에 도달하거나, 검증을 사용하는 경우 추가 층을 적합시켜도 검증 통계량이 더 이상 개선되지 않을 때까지 step 2 ~ step 4를 반복합니다.
관측값에 대한 최종 예측값은 모든 층에 걸쳐 해당 관측값의 예측을 합한 것입니다.
이전 층의 잔차에 대해 연속적으로 층을 적합시키면 각 층의 적합성을 향상시킬 수 있습니다.
범주형 반응 변수의 경우 반응 수준이 두 개인 변수만 지원됩니다. 범주형 반응 변수를 사용할 때 각 층에서 적합된 잔차는 선형 로짓의 오프셋입니다. 최종 예측값은 모든 층에 걸쳐 선형 로짓 합계의 로지스틱 변환 값입니다.
부스티드 트리에 대한 자세한 내용은 Hastie et al. (2009)에서 확인하십시오.