LeeHyunjoo

앞서 앙상블 학습의 대표적인 두 축인 Bagging과 Boosting의 개념과 차이를 살펴보았다. 이를 기반으로 실제로 널리 사용되는 모델들의 주요 특징과 차이점을 정리해보자 1. Bagging 계열 모델모델개념특징Random Forest여러 개의 결정 트리를 만들고 평균 또는 다수결로 예측- 부트스트랩 샘플링- 피처 무작위 선택- 트리 앙상블ExtraTreesRandom Forest와 유사하지만 분할 기준이 랜덤- 무작위성 추가 1) Random Forest항목설명기본 구조결정트리 + 배깅 + 피처 랜덤 선택작동 방식부트스트랩 샘플링 + 다수결/평균주요 하이퍼파라미터n_estimators, max_depth, max_features, min_samples_split 등장점과적합에 강함, 변수 중요도 확..

앞서 살펴본 의사결정트리는 직관적이고 해석이 쉬운 모델로, 분류와 회귀 문제 모두에 사용된다. 하지만, 트리의 깊이가 깊어지면 과적합 위험이 높아지고, 단일 트리로는 복잡한 데이터 패턴을 충분히 설명하지 못하는 경우도 있다. 이러한 단점을 보완하고 성능을 향상시키기 위해 사용되는 것이 바로 앙상블 학습(Ensemble Learning)이다.특히, 의사결정트리를 기반으로 여러 개의 트리를 조합하는 배깅(Bagging)과 부스팅(Boosting) 방식은 널리 사용되는 대표적인 기법입니다. 다음에서는 이 두 방식의 개념과 차이, 대표 알고리즘들에 대해 알아보자!앙상블 학습(Ensemble Learning)이란?여러 개의 약한 학습기(Weak Learner)를 결합하여 강한 모델(Strong Learner)을 ..