[TIL] 최근후_201020

### **키워드**:

랜덤 포레스트, 순서형인코딩(Ordinal encoding)

### **배운 것**:

랜덤포레스트는 결정트리를 기본모델로 사용하는 앙상블 방법이라 할 수 있습니다. 앙상블은 하나의 데이터로 여러 머신러닝 모델(weak learner)을 만들어 예측결과들의 다수결이나 평균을 내어 예측하는 방법이다. 앙상블은 결정트리보다 과적합을 줄일 수 있다.

순서형 인코딩은 범주에 숫자를 맵핑하는 것이다. ['a','b','c'] -> [1, 2, 3] 이렇게 숫자로 인코딩. 트리구조에서의 원핫인코딩의 단점을 완화시켜줌.

*트리구조 학습에서 원핫인코딩을 사용할때의 문제 : 트리구조에서는 중요도가 높은 특성이 상위노드에서 분할을 일으키는데, 그래서 범주 종류가 많은 특성(high cardinality)은 원핫인코딩으로 인해 상위노드에서 선택될 기회가 적어짐 -> 성능저하 일으킬 수 있음