반응형

앙상블 2

앙상블- Stacking , ensemble 의 ensemble

Stacking Meta Learner라고 부르며, 다양한 모델을 결합하여 사용하는 기법 1.stacking은 비효율적(학습시간이 오래걸림)이지만 성능면에서 좋음 2. 각 fold별로 여러개 모델을 만들고 하나의 fold(학습,검증) 에 대해 예측을하고 예측 값으로 새로운 컬럼을 추가함 -> 이것을 5fold 반복 3. 기존의 학습 데이터에 + 각 모델별 prediction값을 추가해서 학습,검증데이터를 만듬 4. 이 새로운 학습데이터에대해 다시한번 학습시키고 새로운 검증데이터에서 예측을함 5. 기존 feature 사용하지 않고 각 모델별 prediction 값만을 사용하기도 하는데 이경우는 일반적으로regression모델사용 Ensemble의 Ensemble -> 새로 만들어낸 개념 1. ensembl..

Machine Learning 2020.06.18

앙상블 - Bagging

Ensemble -> 조화라는 사전적인 의미 Ensemble learning 1.여러개의 기본모델(예측모형)을 생성한 후 이 모델의 예측 결과를 종합하여 하나의 최종 예측 결과를 도출해 내는 법 2. 다중 분류자 조합 기법 * 기본모델 -> weak learner , classifier, base learner , single learner 1. 배깅(bagging) -> Bootstrap aggregating Bootstrap( 원본데이터에서 중복을 허용하여 무작위로 N개의 데이터 추출한다는 의미) (1) 기계 학습 알고리즘의 안정성과 정확도를 향상시키기 위해 고안 샘플을 여러번 뽑아(bootstrap) 각 모델을 학습시켜 결과를 집계(aggregating) (추출 되지 않은 나머지 것들의 error ..

Machine Learning 2020.06.18
반응형
반응형