Stacking은 Meta learner의 컨셉으로 소개되었으며 여러 모델들을 결합하는 방법이다. bagging이나 boosting보다 덜 널리 사용된다. bagging과 boosting과는 달리 stacking은 일반적으로 서로 다른 타입의 모델들을 결합하는데 사용된다.
과정
- Training set을 두개로 분리한다.
- 첫번째 부분을 가지고 몇몇 base learner를 train 한다.
- 두번째 부분으로 base learner를 test 한다.
- 3(base learner로 예측한 값)을 input하고, 정확한 값을 output으로 해서 더 높은 level의 learner로 train 한다.
Stacking의 결합메카니즘은 classifier(Level O classifier)의 결과가 다른 classifier(Level 1 classifier)에 training date로 사용된다는 점이다.
Data Rabbit 