[TIL]이윤회_201028

- **키워드**: Boosting, permutation importance

- **배운 것**: XGBoost를 활용한 모델을 새로 만들어보았으며, 이 모델의 정확도가 기존에 배운 다른 머신러닝 모델들, 특히 랜덤포레스트 모델과 어떤 차이점을 보이는지 배워보고 직접 파이썬 환경에서 구현해봤다. 또한, 모델에 반영이 되는 피쳐들의 중요도를 보는 또 한가지 방법인 permutation importance에 대해서 배워봤다.

- **어려웠던 부분**: 콘다에서 해당 패키지를 다운로드를 하는데 처음에는 주피터 노트북이 먹통이 되어 강제 종료 후 다시 실행하였다. 아직 콘다 환경에 익숙하지 않은 것 같다.

- **더 알고 싶은 부분 / 공부하고 싶은 부분**: XGBoost내의 regressor을 활용해 최적의 estimator 갯수와 max depth를 찾아서 모델을 만들어 봤다. XGBoost를 활용해 다른 하이퍼 파라미터들도 최적화를 효율적으로 시킬 수 있을 것 같은데 이 부분에 대해서 조금 더 공부가 필요할 것이라고 생각된다.

- **느낀 점**: `어제까지는 내가 뭘하는지에 대해서 솔직히 감이 안잡혔는데, 오늘 추가적인 공부를 해보니 조금은 알 것 같다. 힘을 내서 더 열심히 공부를 해봐야 할 것 같다.