728x90 반응형 Out-of-Bag1 [Ensemble] Random Forests Random ForestsRandom Forests는 Bagging algorithm의 대표적인 방법이다.전체 데이터가 N×M 행렬이라 하자. (N은 instance 개수, M은 feature 개수)그리고 복원추출(random sampleing with replacement)을 이용하여 N개의 sample을 추출하여 학습데이터셋을 만든다.각 복원추출된 데이터 Di마다 decision tree Ci를 학습한다. (각 모델이 사용하는 feature 수는 아래 Training을 참고)Note: Regression에서는 averaging, Classification에서는 max-voting을 이용한다.Bootstrap Sample$\mathcal{D} = \{ X_1, \d.. 2023. 5. 12. 이전 1 다음 728x90 반응형